云信AI部署

Linux系统DeepSeek安装后的性能调优

云信安装大师
90
AI 质量分
2 5 月, 2025
4 分钟阅读
0 阅读

Linux系统DeepSeek安装后的性能调优指南

引言

DeepSeek作为一款强大的AI工具，在Linux系统上安装后可能需要进行一些性能调优才能发挥其最佳效果。本文将详细介绍如何对已安装DeepSeek的Linux系统进行性能优化，包括CPU、内存、磁盘I/O和网络等方面的调优策略。

准备工作

在开始之前，请确保：

  1. 已成功安装DeepSeek
  2. 拥有root或sudo权限
  3. 系统版本为较新的Linux发行版（推荐Ubuntu 20.04+或CentOS 8+）

CPU性能优化

1. 调整CPU频率调节器

代码片段 
# 查看当前CPU频率调节器
cat /sys/devices/system/cpu/cpu*/cpufreq/scaling_governor

# 设置为performance模式（需要root权限）
sudo bash -c 'for cpu in /sys/devices/system/cpu/cpu*/cpufreq/scaling_governor; do echo performance > $cpu; done'

# 永久生效（Ubuntu/Debian）
sudo apt install cpufrequtils
sudo nano /etc/default/cpufrequtils
# 添加以下内容：
GOVERNOR="performance"

原理说明：performance模式会让CPU始终以最高频率运行，减少因频率切换带来的延迟，特别适合计算密集型任务。

注意事项：这可能会增加功耗和发热量，建议在服务器环境使用。

2. CPU亲和性设置

代码片段 
# 查看CPU核心数
nproc

# 使用taskset绑定进程到特定核心（示例绑定到0-3核心）
taskset -pc 0-3 $(pgrep deepseek)

原理说明：将进程绑定到特定CPU核心可以减少上下文切换开销，提高缓存命中率。

内存优化

1. Swappiness调整

代码片段 
# 查看当前swappiness值
cat /proc/sys/vm/swappiness

# 临时设置为10（推荐值）
sudo sysctl vm.swappiness=10

# 永久生效
sudo bash -c 'echo "vm.swappiness=10" >> /etc/sysctl.conf'

原理说明：降低swappiness值可以减少系统使用交换分区(swap)的倾向，优先使用物理内存。

2. HugePages配置

代码片段 
# 查看当前HugePages配置
grep Huge /proc/meminfo

# 计算推荐的HugePages数量（假设需要16GB大页内存）
sudo bash -c 'echo vm.nr_hugepages=$((16*1024/2)) >> /etc/sysctl.conf'
sudo sysctl -p

原理说明：HugePages可以减少TLB miss，提高内存访问效率，特别适合大内存应用。

磁盘I/O优化

1. I/O调度器选择

代码片段 
# 查看当前I/O调度器
cat /sys/block/sd*/queue/scheduler

# 设置为deadline或noop（SSD推荐noop）
sudo bash -c 'for disk in /sys/block/sd*/queue/scheduler; do echo noop > $disk; done'

# NVMe SSD使用none调度器
sudo bash -c 'for disk in /sys/block/nvme*/queue/scheduler; do echo none > $disk; done'

原理说明：不同的I/O调度器适合不同存储设备。noop/none适合SSD，deadline适合机械硬盘。

2. Ext4文件系统优化（如果使用Ext4）

代码片段 
# 查看文件系统挂载选项
mount | grep ext4

# 修改fstab添加优化选项（示例）
UUID=your-uuid / ext4 defaults,noatime,nodiratime,data=writeback,barrier=0,discard,commit=60,stripe=64,delalloc,journal_async_commit,journal_checksum,journal_ioprio=0,nobh,errors=remount-ro,nouser_xattr,acl,user_xattr,usrjquota=aquota.user,grpjquota=aquota.group,jqfmt=vfsv0,_netdev,x-systemd.device-timeout=300s,x-systemd.mount-timeout=300s,x-systemd.idle-timeout=300s,x-systemd.automount,x-systemd.growfs,x-systemd.makefs,x-systemd.resizefs,x-systemd.repart,x-systemd.snapshot,x-systemd.swap,x-systemd.tmpfiles,x-systemd.volatile-root,x-initrd.mount,rw,_netdev,_netdev,_netdev,_netdev,_netdev,_netdev,_netdev,_netdev,_netdev,_netdev,_netdev,_netdev,_netdev,_netdev,_netdev,_netdev,_netdev,_netdev,_netdev  0       1

注意事项：修改fstab前请备份原文件。barrier=0有数据安全风险，生产环境慎用。

GPU优化（如有NVIDIA GPU）

代码片段 
# NVIDIA驱动持久化模式设置（防止GPU重置）
sudo nvidia-smi -pm ENABLED

# GPU自动boost设置（K系列显卡）
sudo nvidia-smi --auto-boost-default=ENABLED

# GPU时钟锁定最高频率（提高稳定性）
sudo nvidia-smi -lgc <max_clock>

DeepSeek特定优化参数

在启动DeepSeek时可以使用以下参数：

代码片段 
deepseek --num_threads $(nproc) --memory_limit $(free -m | awk '/Mem:/ {print int($2*0.8)}')MB --use_mmap=true --preload=true --batch_size auto --use_cuda_graph=true --gpu_memory_utilization=0.9 --kv_cache_memory_fraction=0.85 --tensor_parallel_size=<GPU数量>

参数说明：
– --num_threads: CPU线程数，通常设为逻辑核心数
– --memory_limit: DeepSeek可用内存限制，设为总内存的80%
– --use_mmap: mmap方式加载模型，减少内存占用和加载时间
– --preload: 预加载模型到内存中
– --batch_size auto: DeepSeek自动计算最佳batch size

ulimit调整

代码片段 
# 查看当前限制
ulimit -a

# Linux最大文件打开数调整（临时）
ulimit -n unlimited

# Linux最大文件打开数调整（永久）
sudo bash -c 'echo "* soft nofile unlimited" >> /etc/security/limits.conf'
sudo bash -c 'echo "* hard nofile unlimited" >> /etc/security/limits.conf'

TCP网络优化

代码片段 
# TCP缓冲区大小调整（临时）
sudo sysctl -w net.core.rmem_max=16777216 
sudo sysctl -w net.core.wmem_max=16777216 
sudo sysctl -w net.ipv4.tcp_rmem="4096 87380 16777216"
sudo sysctl -w net.ipv4.tcp_wmem="4096 65536 16777216"

# TCP快速打开（TFO）启用 
sudo sysctl -w net.ipv4.tcp_fastopen=3 

# TIME_WAIT套接字重用 
sudo sysctl -w net.ipv4.tcp_tw_reuse=1 

# SYN洪水保护 
sudo sysctl -w net.ipv4.tcp_syncookies=1 

# TCP拥塞控制算法选择 
sudo sysctl -w net.ipv4.tcp_congestion_control=bbr 

# TCP keepalive时间调整 
sudo sysctl -w net.ipv4.tcp_keepalive_time=600 
sudo sysctl -w net.ipv4.tcp_keepalive_intvl=60 
sudo sysctl -w net.ipv4.tcp_keepalive_probes=10 

使更改永久生效：
echo "写入上述所有sysctl配置到/etc/sysctl.conf" | sudo tee /etc/sysctl.conf 
然后执行：
sysctl –p  
或者：
systemct restart systemd-sysct  
具体取决于您的发行版。

NUMA优化(针对多CPU插槽服务器)

代码片段 
numactl –hardware #显示NUMA拓扑信息  
numactl –interleave all deepseek #启动时跨NUMA节点交错分配内存  
或者:  
numactl –membind=<节点ID> –physcpubind=<CPU列表> deepseek #手动绑定到特定NUMA节点  

也可以设置内核参数:  
GRUB_CMDLINE_LINUX_DEFAULT="... numa balancing disable ..." #禁用自动NUMA平衡以降低开销  

更新grub后重启生效:  
update grub && reboot now

Transparent Huge Pages (THP)管理

对于某些工作负载特别是数据库类应用建议禁用THP:

检查当前状态:
cat /sys/kernel/mm/transparent hugepage/enabled

临时禁用:
echo never > /sys/kernel/mm/transparent hugepage/enabled

永久禁用:
编辑/etc/default/grub添加transparent hugepage never然后update grub并重启。

或者在启动脚本中添加相关echo命令。

对于DeepSeek这类AI工作负载建议保留THP但监控其影响。

CGroup v2资源隔离(可选)

创建专用cgroup限制资源使用防止干扰其他服务:

mkdir –p /sys/fs/cgroup/deepseek
echo “$(($(nproc)80))” > cpu.max #限制80% CPU资源
echo “$(($(free –b | grep Mem | awk ‘{print $2}’)80))” > memory.max #限制80%内存

然后启动时加入该cgroup:
cgcreate –g cpu memory deepseek
cgexec –g cpu memory deepseek …

更精细的控制可以使用systemd scope或slice单元实现类似效果。

定期监控工具推荐:

top htop glances dstat sar vmstat iostat perf bpftrace ebpf等工具组合使用。

关键指标包括但不限于: CPU利用率、上下文切换次数、缓存命中率、缺页异常、磁盘IOPS和吞吐量、网络带宽和延迟等。

自动化监控脚本示例(保存为monitor.sh):

!/bin/bash

while true; do
date
uptime
free –h
top –b –n1 | head –15
iostat –dxzmtNp ALL
dstat –cdnmgsyiprN ALL
sleep ${INTERVAL:-5}
done | tee ~/deepseek_perf.log

总结关键调优点回顾:

1.CPU频率锁定最高性能模式减少动态调节开销；
2.适当的内存swappiness和大页面配置提升访问效率；
3.I/O调度器和文件系统参数针对存储类型优化；
4.GPU持久化模式和时钟锁定确保稳定高性能；
5.TCP缓冲区大小和算法选择减少网络延迟；
6.NUMA感知分配避免跨节点访问惩罚；
7.CGroup资源隔离防止干扰其他服务；
8.全面的监控体系及时发现瓶颈所在。

最后提醒每次修改前做好备份逐步验证效果避免同时应用过多变更难以定位问题原因。生产环境建议先在测试系统验证再逐步推广到线上环境。

原创 高质量