网络配置调优
更新时间:2024-07-01 14:39:44
尽管网络堆栈在很大程度上是自我优化的。但是在网络数据包处理过程中,以下方面可能会成为瓶颈并降低性能:
- 网卡硬件缓存:正确观察硬件层面的丢包方法是使用
ethtool -S ${NIC_DEV_NAME}
命令观察 drops 字段。当出现丢包现象时,主要考虑是硬/软中断的处理速度跟不上网卡接收速度。若接收缓存小于最大限制时,也可尝试增加 RX 缓存来防止丢包。查询命令为:ethtool -g ${NIC_DEV_NAME}
,修改命令为ethtool -G ${NIC_DEV_NAME}
。 - 硬中断:若网卡支持 Receive-Side Scaling(RSS 也称为多网卡接收)功能,则观察
/proc/interrputs
网卡中断,如果出现了中断不均衡的情况,请参考操作系统性能参数调优-处理器调优。若不支持 RSS 或 RSS 数量远小于物理 CPU 核数,则可配置 Receive Packet Steering(RPS,可以看作 RSS 的软件实现),及 RPS 的扩展 Receive Flow Steering (RFS)。 - 软中断:观察
/proc/net/softnet\_stat
监控。如果除第三列的其他列的数值在增长,则应适度调大net.core.netdev\_budget
或net.core.dev\_weight
值,使 softirq 可以获得更多的 CPU 时间。除此之外,也需要检查 CPU 使用情况,确定哪些任务在频繁占用 CPU,能否优化。 - 应用的套接字接收队列:监控
ss -nmp
的Recv-q
列,若队列已满,则应考虑增大应用程序套接字的缓存大小或使用自动调整缓存的方式。除此之外,也要考虑能否优化应用层的架构,降低读取套接字的间隔。 - 以太网流控:若网卡和交换机支持流控功能,可通过使能此功能,给内核一些时间来处理网卡队列中的数据,来规避网卡缓存溢出的问题。对于网卡测,可通过
ethtool -a ${NIC_DEV_NAME}
命令检查是否支持/使能,并通过ethtool -A ${NIC_DEV_NAME}
命令开启。 - 中断合并:过于频繁的硬件中断会降低系统性能,而过晚的硬件中断会导致丢包。对于较新的网卡支持中断合并功能,并允许驱动自动调节硬件中断数。可通过
ethtool -c ${NIC_DEV_NAME}
命令检查,ethtool -C ${NIC_DEV_NAME}
命令开启。自适应模式使网卡可以自动调节中断合并。在自适应模式下,驱动程序将检查流量模式和内核接收模式,并实时评估合并设置,以防止数据包丢失。 - 适配器队列:在协议栈处理之前,内核利用此队列缓存网卡接收的数据,每个 CPU 都有各自的 backlog 队列。此队列可缓存的最大 packets 数量为
netdev\_max\_backlog
。观察/proc/net/softnet\_stat
第二列,当某行的第二列持续增加,则意味着 CPU [行-1] 队列已满,数据包被丢失,可通过持续加倍net.core.netdev\_max\_backlog
值来解决。 - 发送队列:发送队列长度值确定在发送之前可以排队的数据包数量。默认值是 1000,对于 10 Gbps 足够。但若从
ip -s link
的输出中观察到TX errors
值时,可尝试加倍该数据包数量:ip link set dev ${NIC_DEV_NAME} txqueuelen 2000
。
问题反馈