Linux系统排查4—网络篇
Linux系统排查4—网络篇
常见工作中，计算机系统的资源主要包括CPU，内存，硬盘以及网络，过度使用这些资源将使系统陷入困境。本系列一共四篇博文，结合我在实习期间的学习，介绍一些常见的Linux系统排障工具及方法。
网络排查一般是有一定的思路和顺序的，其实排查的思路就是根据具体的问题逐段排除故障可能发生的地方，最终确定问题。
所以首先要问一问，网络问题是什么，是不通，还是慢？
1.1 如果是网络不通，要定位具体的问题，一般是不断尝试排除不可能故障的地方，最终定位问题根源。一般需要查看
是否接入到链路
是否启用了相应的网卡
本地网络是否连接
DNS故障
能否路由到目标主机
远程端口是否开放
1.2 如果是网络速度慢，一般有以下几个方式定位问题源：
DNS是否是问题的源头
查看路由过程中哪些节点是瓶颈
查看带宽的使用情况
2 网络不通
一般来说当存在网络不通的故障时，访问出端和入端的信息是我们都要收集的，目的在于确定问题所在的主机或者区段。假如a不能访问c而b能够访问c，那么很明显问题出在a或a到c的网络上，而通过同一子网中的几台机器a、b可以正常访问网络，却不能访问c，那么可能是这个网络到c存在问题，或c存在问题。
定位了问题所在的主机，一般有一些步骤来逐渐缩小问题范围，最终定位问题：
2.1 链路是否连通
即检查网卡与网络是否物理连通，网线是否插好且连接可用，很多时候不能立刻到机房确定物理连接，可以用命令：
# ethtool ethN
ehtN是连接到故障网络的网卡，
使用ethtool 查看 eth0 的物理连接
# ethtool eth0 Settings for eth0: Supported ports: [ TP ] Supported link modes: 10baseT/Half 10baseT/Full 100baseT/Half 100baseT/Full 1000baseT/Full Supported pause frame use: No Supports auto-negotiation: Yes Advertised link modes: 10baseT/Half 10baseT/Full 100baseT/Half 100baseT/Full 1000baseT/Full Advertised pause frame use: No Advertised auto-negotiation: Yes Speed: 1000Mb/s Duplex: Full Port: Twisted Pair PHYAD: 1 Transceiver: internal Auto-negotiation: on MDI-X: Unknown Supports Wake-on: g Wake-on: g Link detected: yes
其中，14行显示了当前网卡的速度，这是一个千兆网卡；15行显示了当前网络支持全双工；23行显示当前网卡和网络的物理连接正常。通常网速和全/半双工状态是主机和网络协议商自动协商的，例如这里第8行的 auto-negotiation。如果发现15行的双工被设置成了Half，可以手动将其改为全双工网络：
# ethtool -s eth0 autoneg off duplex full
2.2 网卡是否正常启用
一般网络物理连接故障的情况并不多见，当排除物理连接上的问题后，需要进一步查看网卡的工作状态。
使用ifconfig命令检查网卡eth1状态
# ifconfig eth1 eth1 Link encap:Ethernet HWaddr e4:1f:13:b5:b0:62 inet addr:10.0.0.11 Bcast:10.0.0.255 Mask:255.255.255.0 inet6 addr: fe80::e61f:13ff:feb5:b062/64 Scope:Link UP BROADCAST RUNNING MULTICAST MTU:1500 Metric:1 RX packets:74282478 errors:0 dropped:0 overruns:0 frame:0 TX packets:77425890 errors:0 dropped:0 overruns:0 carrier:0 collisions:0 txqueuelen:1000 RX bytes:13948947045 (13.9 GB) TX bytes:51073249506 (51.0 GB)
例2第3行的信息显示了对该网卡的配置，包括IP，子网掩码等，这里可以检查是否出现错配，如果这一行显示不正确，那一定是网卡没有正确配置开启。
基于Debian的Linux的（永久）网络配置文件在/etc/network/interfaces，
基于Red Hat的Linux的（永久）网络配置文件在/etc/sysconfig/network_scripts/ifcfg-<interface>
2.3 是否正确设置网关
如果网卡已经正常启动，需要确认目标网络接口是否正确配置网关，同时主机和网关之间的连接没有问题，通过route命令和ping命令结合完成这一阶段的排查。
例3 使用route 命令查看内核路由表
# route -n Kernel IP routing table Destination Gateway Genmask Flags Metric Ref Use Iface 0.0.0.0 101.111.123.1 0.0.0.0 UG 0 0 0 eth0 10.0.0.0 0.0.0.0 255.255.255.0 U 0 0 0 eth1 101.111.123.0 0.0.0.0 255.255.255.0 U 0 0 0 eth0
route -n 以IP而不是主机名的形式显示网关等信息，一方面更快，另一方面不涉及DNS，通过route命令查看内核路由，检验具体的网卡是否连接到目标网路的路由，之后就可以尝试ping 网关，排查与网关之间的连接。
如果无法ping通网关，可能是网关限制了ICMP数据包，或者交换机设置的问题。
2.4 DNS工作状况
通常很多网络问题是DNS故障或配置不当造成的，nslookup和dig命令能够用来排查DNS问题，
2.4.1 使用nslookup命令查看DNS解析
# nslookup baidu.com Server: 10.21.1.205 Address: 10.21.1.205#53 Non-authoritative answer: Name: baidu.com Address: 220.181.57.217 Name: baidu.com Address: 123.125.114.144 Name: baidu.com Address: 180.149.132.47
这里的DNS服务器 10.21.1.205 位于当前局域网内，nslookup的结果显示DNS工作正常。如果这里nslookup命令无法解析目标域名，则很有可能是DNS配置不当，到/etc/resolv.conf文件中查看是否存在域名服务器的配置：
2.4.2 及时生效的DNS配置——/etc/resolv.conf文件
# Dynamic resolv.conf(5) file for glibc resolver(3) generated by resolvconf(8) # DO NOT EDIT THIS FILE BY HAND -- YOUR CHANGES WILL BE OVERWRITTEN nameserver 10.21.1.205
/etc/resolv.conf文件是临时即刻生效的DNS服务器配置，想要永久配置DNS服务器的地址，可以在/etc/networks/interfaces（基于Debian）中通过 “dns-nameservers” 字段来限制：
2.4.3 永久生效的DNS配置——/etc/networks/interfaces文件
auto lo iface lo inet loopback auto eth0 iface eth0 inet static network ... netmask 255.255.255.0 broadcast ... gateway ... address ... dns-nameservers 10.21.1.205
如果我们的DNS服务器在一个子网内，而无法ping通它，这个DNS服务器很可能已经宕机。
2.5 是否可以正常路由到远程主机
互谅网是通过大量路由器中继连接起来的，网络的访问就是在这些节点间一跳一跳最终到达目的地，想要查看网络连接，最直接最常用的命令是ping，ping得通，说明路由工作正常，但是如果ping不通，traceroute命令可以查看从当前主机到目标主机的全部“跳”的过程。traceroute和ping命令都是使用ICMP协议包。
2.5.1 使用traceroute追踪路由状况
# traceroute www.baidu.com traceroute to www.baidu.com (220.181.111.188), 30 hops max, 60 byte packets 1 123.123.123.1 (123.123.123.1) 1.844 ms 1.847 ms 2.102 ms 2 1.1.1.6 (1.1.1.6) 0.389 ms 0.393 ms 0.542 ms 3 localhost (10.1.150.1) 2.556 ms 3.730 ms 3.155 ms 4 localhost (10.12.16.17) 1.214 ms 1.190 ms 1.196 ms 5 localhost (10.12.30.105) 1.533 ms 1.541 ms localhost (10.12.30.101) 1.692 ms 6 202.112.41.37 (202.112.41.37) 3.350 ms 2.998 ms 2.977 ms 7 101.4.112.94 (101.4.112.94) 4.631 ms 101.4.117.82 (101.4.117.82) 3.846 ms 101.4.112.94 (101.4.112.94) 3.808 ms 8 101.4.112.89 (101.4.112.89) 3.120 ms 2.844 ms 2.857 ms 9 101.4.115.9 (101.4.115.9) 5.957 ms 5.912 ms 4.741 ms 10 101.4.117.110 (101.4.117.110) 2.080 ms 2.070 ms 2.036 ms 11 202.97.88.229 (202.97.88.229) 35.257 ms 202.97.57.45 (202.97.57.45) 35.373 ms 202.97.57.49 (202.97.57.49) 35.244 ms 12 * * * 13 * * * 14 * 220.181.17.18 (220.181.17.18) 35.869 ms 220.181.182.34 (220.181.182.34) 38.279 ms 15 * * * 16 * * * 17 * * * 18 * * * 19 * * * 20 * * * 21 * * * 22 * * * 23 * * * 24 * * * 25 * * * 26 * * * 27 * * * 28 * * * 29 * * * 30 * * *
查看第3行，第一跳到达了当前子网的网关，然后跳到了澳大利亚的亚太网络咨询中心（APNIC）等等，traceroute可以查看网络中继在哪里中断或者网络延时情况，“*”是因为网络不通或者某个网关限制了ICMP协议包。
2.6 远程主机是否开放端口
telnet命令是检查端口开放情况的利器，或者nmap工具，
2.6.1 使用telnet检测远程主机的端口开放情况
# telnet 220.181.111.188 80 Trying 220.181.111.188... Connected to 220.181.111.188. Escape character is '^]'.
telnet IP PORT，可以查看指定远程主机是否开放目标端口，这里百度的前端服务器开放80端口是网页服务必须的。
但是telnet 命令的功能非常有限，当防火墙存在时，就不能很好地显示结果，所以telnet无法连接包含两种可能：1是端口确实没有开放，2是防火墙过滤了连接。
例如我们尝试 telnet 连接百度前端服务器的 22 端口：
1 telnet 220.181.111.188 22 2 Trying 220.181.111.188... 3 telnet: Unable to connect to remote host: Connection timed out
无法继续进行，但是我们无法判断究竟是端口没有开放，还是被防火墙给拦截了，这时使用nmap工具将更加强大：
2.6.2 使用nmap工具检测端口开放情况
# nmap -p 22 220.181.111.188 Starting Nmap 6.40 ( http://nmap.org ) at 2015-08-10 20:45 CST Nmap scan report for 220.181.111.188 Host is up (0.040s latency). PORT STATE SERVICE 22/tcp filtered ssh
同样的服务器，使用nmap检测，观察到第7行，说明实际上该服务器是启用了22端口的，但是防火墙过滤了数据包，如果端口真的没有启用，那么第7行的STATE将显示closed，而不是filtered。开放的端口其状态将是open。
这时就可以了解，端口无法连接的原因是端口关闭还是防火墙过滤了。
2.7 本机查看监听端口
如果要在本地查看某个端口是否开放，可以使用如下命令：
# netstat -lnp | grep PORT
其中，参数：
-l，显示正在监听的套接字
-p，显示套接字所属的进程ID和进程名
-n，以数字形式显示地址
2.7.1 查看本地指定端口的监听情况
1 # netstat -lnp | grep :11211 2 Proto Recv-Q Send-Q Local Address Foreign Address State PID/Program name 3 tcp 0 0 10.0.0.11:11211 0.0.0.0:* LISTEN 28911/memcached 4 udp 0 0 10.0.0.11:11211 0.0.0.0:* 28911/memcached
例10以memcached服务为例，查看当前活动端口监听的网络，如果netstat找不到指定的端口，说明没有进程在监听指定端口。
其中第一列是套接字通信协议，第2列和第3列显示的是接收和发送队列，第4列是主机监听的本地地址，反映了该套接字监听的网络；第6列显示当前套接字的状态，最后一列显示打开端口的进程。
2.8 查看防火墙规则
使用
# iptables -L
命令查看当前主机的防火墙，iptables的功能在这里就不涉及，后续的博文会详细介绍。
3 网络较慢的排查
网络较慢的排查事实上比网络不通的排查更有挑战，因为很多时候可能是运营商、DNS等的原因，这些故障常常不在我们的控制范围之内，只能收集证据向其反馈或对其进行投诉。
如果不想受到DNS的影响，上面提到的命令可以添加 -n 选项，-n选项可以阻止试图将IP解析为主机名，从而绕过DNS。
3.1 traceroute
前面提到的traceroute不仅可以查看路由的正确性，还可以查看网络中每一跳的延时，从而定位延时最高的网络区段。
3.2 iftop
iftop命令类似于top命令，查看哪些网络连接占用的带宽较多
使用iftop命令查看连接占用的网络带宽
191Mb 381Mb 572Mb 763Mb 954Mb └────────────────────┴────────────────────┴────────────────────┴────────────────────┴───────────────────── ras221 => ras226 25.4Mb 12.2Mb 4.79Mb <= 209Kb 105Kb 92.9Kb ras221 => ras228 151Kb 167Kb 193Kb <= 1.95Mb 2.82Mb 2.94Mb ras221 => ras222 2.17Mb 2.63Mb 2.76Mb <= 25.8Kb 36.0Kb 38.4Kb ras221 => ras224 354Kb 316Kb 574Kb <= 164Kb 160Kb 194Kb ras221 => ras225 108Kb 74.8Kb 53.9Kb <= 8.37Kb 7.44Kb 9.72Kb ras221 => 10.203.128.246 15.1Kb 31.5Kb 31.9Kb <= 14.1Kb 22.9Kb 21.9Kb ras221 => ras229 7.01Kb 11.4Kb 11.0Kb <= 8.95Kb 14.7Kb 14.1Kb ras221 => ras227 0b 9.95Kb 12.5Kb <= 0b 2.39Kb 2.98Kb ras221 => ras223 0b 50b 2.57Kb <= 0b 87b 545b ────────────────────────────────────────────────────────────────────────────────────────────────────────── TX: cum: 478MB peak: 33.9Mb rates: 28.2Mb 15.5Mb 8.40Mb RX: 101MB 8.42Mb 2.37Mb 3.16Mb 3.30Mb TOTAL: 580MB 37.3Mb 30.6Mb 18.6Mb 11.7Mb
这里比较全地给出了一个iftop命令的实例，该命令按照带宽占用高低排序，可以确定那些占用带宽的网络连接，
最上方的一行刻度是整个网络的带宽比例，下面第1列是源IP，第2列是目标IP，箭头表示了二者之间是否在传输数据，以及传输的方向。最后三列分别是2s、10s、40s时两个主机之间的数据传输速率。
最下方的TX、RX分别代表发送、接收数据的统计，TOTAL则是数据传输总量。
使用 -n 选项直接显示连接的IP，例11中看到的则是解析成域名后的结果。
-i 选项可以指定要查看的网卡，默认情况下，iftop会显示自己找到的第一个网卡；
在进入iftop的非交互界面后，按 p 键可以打开或关闭显示端口，按 s 键可以显示或隐藏源主机，而按 d 键则可以显示或隐藏目标主机。
3.3 tcpdump
当一切排查手段都无济于事时仍然不能找到网络速度慢、丢包严重等原因时，往往祭出杀手锏——抓包。抓包的最佳手段是在通信的双方同时抓取，这样可以同时检验发出的数据包和收到的数据包，tcpdump是常用的抓包工具。
tcpdump抓包实示例
# tcpdump 23:47:43.326284 IP ISeR-Server1.ntp > 183.60.211.47.9579: NTPv2, Reserved, length 440 23:47:43.326288 IP 58.221.64.43.27777 > ISeR-Server1.ntp: NTPv2, Reserved, length 8
只是截取了抓包结果的两行作为示意，可以通过tcpdump查看通信的时间、双方的地址（ -n 选项），端口，通信的目的，数据包的长度等等。
当想要停止抓包时，使用ctrl-c终止抓包，tcpdump会返回所有抓取到的数据包的个数：
14422 packets captured 1127345 packets received by filter 1109698 packets dropped by kernel
tcpdump有一些常用选项，便于记录，tcpdump的详细使用，这里就不介绍了，当然，图形界面用户还可以使用更为专业的分析工具WireShark。
# tcpdump -n port N //只捕捉特定端口的流量 # tcpdump -n port N1 or port N2 //捕获多个端口的流量 # tcpdump -w output.pcap //数据包转储，将原始数据包保留到output.pcap # tcpdump -C 10 -w output.pcap //限制每个转储文件的上限，达到上限后将文件分卷(以MB为单位) # tcpdump -C 10 -W 5 -w output.pcap //不仅限制每个卷的上限，而且限制卷的总数 # tcpdump -r output.pcap //重播已经保存的数据包记录
4 鸟哥的Linux私房菜中也提供了一些类似的网络排查思路：
1. 网卡是否工作，包括硬件和驱动：lspci，dmesg
2. IP参数是否正确设置：ifconfig
3. 局域网内通信是否正常：ping
4. 路由信息是否正常：route -n
5. DNS状态：dig, nslookup
6. 路由节点状况与延时：traceroute
7. 服务监听端口：netstat -lnp
8. 防火墙：iptables, SELinux
总之与本文的思路是非常一致的。
END
- Linux系统排查4——网络篇
- 记一次Linux系统被入侵的排查过程（一）
- Linux系统故障分析与排查
- 记一次Linux系统内存占用较高得排查
- Linux 系统 CPU 占用率较高问题排查思路
- Linux系统排查3——I/O篇
- linux系统很卡的基本排查方法
- Cache占用过多内存导致Linux系统内存不足问题排查
- Linux系统故障排查和修复技巧
- 云服务器 ECS Linux 系统 CPU 占用率较高问题排查思路
- Linux 系统故障排查思路简析
- Linux Ramdisk启动方式下文件系统兼容性快速排查。
- [linux]服务器Cache占用过多内存导致系统内存不足问题的排查解决
- Cache占用过多内存导致Linux系统内存不足问题排查
- Cache占用过多内存导致Linux系统内存不足问题排查
- linux分析和排查系统故障
- 性能调优之综合篇 - Linux系统性能监控和故障排查利器Sysdig 推荐
- linux系统很卡的基本排查方法
- Linux系统排查2——CPU负载篇
- linux系统很卡的基本排查方法