首页 > tcpdump抓取HTTP包

tcpdump抓取HTTP包

2019独角兽企业重金招聘Python工程师标准>>> hot3.png

tcpdump -XvvennSs 0 -i eth0 tcp[20:2]=0x4745 or tcp[20:2]=0x4854

 

0x4745 为"GET"前两个字母"GE"

0x4854 为"HTTP"前两个字母"HT"



说明： 通常情况下:一个正常的TCP连接，都会有三个阶段:1、TCP三次握手;2、数据传送;3、TCP四次挥手

里面的几个概念：

  • SYN: (同步序列编号,Synchronize Sequence Numbers)

  • ACK: (确认编号,Acknowledgement Number)

  • FIN: (结束标志,FINish)

TCP三次握手(创建 OPEN)

  1. 客户端发起一个和服务创建TCP链接的请求，这里是SYN(J)

  2. 服务端接受到客户端的创建请求后，返回两个信息： SYN(K) + ACK(J+1)

  3. 客户端在接受到服务端的ACK信息校验成功后(J与J+1)，返回一个信息：ACK(K+1)

  4. 服务端这时接受到客户端的ACK信息校验成功后(K与K+1)，不再返回信息，后面进入数据通讯阶段

数据通讯

  1. 客户端/服务端 read/write数据包

TCP四次握手(关闭 finish)

  1. 客户端发起关闭请求，发送一个信息：FIN(M)

  2. 服务端接受到信息后，首先返回ACK(M+1),表明自己已经收到消息。

  3. 服务端在准备好关闭之前，最后发送给客户端一个 FIN(N)消息，询问客户端是否准备好关闭了

  4. 客户端接受到服务端发送的消息后，返回一个确认信息: ACK(N+1)

  5. 最后，服务端和客户端在双方都得到确认时，各自关闭或者回收对应的TCP链接。

详细的状态说明(以及linux相关参数调整)

  1. SYN_SEND

  • 客户端尝试链接服务端，通过open方法。也就是TCP三次握手中的第1步之后,注意是客户端状态

  • sysctl -w net.ipv4.tcp_syn_retries = 2 ,做为客户端可以设置SYN包的重试次数，默认5次(大约180s)引用校长的话：仅仅重试2次，现代网络够了

SYN_RECEIVED

  • 服务接受创建请求的SYN后，也就是TCP三次握手中的第2步，发送ACK数据包之前

  • 注意是服务端状态,一般15个左右正常，如果很大，怀疑遭受SYN_FLOOD攻击

  • sysctl -w net.ipv4.tcp_max_syn_backlog=4096 , 设置该状态的等待队列数，默认1024，调大后可适当防止syn-flood，可参见man 7 tcp

  • sysctl -w net.ipv4.tcp_syncookies=1 ,　打开syncookie，在syn backlog队列不足的时候，提供一种机制临时将syn链接换出

  • sysctl -w net.ipv4.tcp_synack_retries = 2 ,做为服务端返回ACK包的重试次数，默认5次(大约180s)引用校长的话：仅仅重试2次，现代网络够了

ESTABLISHED

  • 客户端接受到服务端的ACK包后的状态，服务端在发出ACK在一定时间后即为ESTABLISHED

  • sysctl -w net.ipv4.tcp_keepalive_time = 1200 ，默认为7200秒(2小时)，系统针对空闲链接会进行心跳检查，如果超过net.ipv4.tcp_keepalive_probes * net.ipv4.tcp_keepalive_intvl = 默认11分，终止对应的tcp链接，可适当调整心跳检查频率

  • 目前线上的监控 waring:600 , critial : 800

FIN_WAIT1

  • 主动关闭的一方，在发出FIN请求之后，也就是在TCP四次握手的第1步

CLOSE_WAIT

  • 被动关闭的一方，在接受到客户端的FIN后，也就是在TCP四次握手的第2步

FIN_WAIT2

  • 主动关闭的一方，在接受到被动关闭一方的ACK后，也就是TCP四次握手的第2步

  • sysctl -w net.ipv4.tcp_fin_timeout=30, 可以设定被动关闭方返回FIN后的超时时间，有效回收链接，避免syn-flood.

LASK_ACK

  • 被动关闭的一方，在发送ACK后一段时间后(确保客户端已收到)，再发起一个FIN请求。也就是TCP四次握手的第3步

TIME_WAIT

  • 主动关闭的一方，在收到被动关闭的FIN包后，发送ACK。也就是TCP四次握手的第4步

  • sysctl -w net.ipv4.tcp_tw_recycle = 1 , 打开快速回收TIME_WAIT，Enabling this option is not recommended since this causes problems when working with NAT (Network Address Translation)

  • sysctl -w net.ipv4.tcp_tw_reuse =1, 快速回收并重用TIME_WAIT的链接, 貌似和tw_recycle有冲突，不能重用就回收?

  • net.ipv4.tcp_max_tw_buckets: 处于time_wait状态的最多链接数，默认为180000.



相关说明

  1. 主动关闭方在接收到被动关闭方的FIN请求后，发送成功给对方一个ACK后,将自己的状态由FIN_WAIT2修改为TIME_WAIT，而必须 再等2倍的MSL(Maximum Segment Lifetime,MSL是一个数据报在internetwork中能存在的时间)时间之后双方才能把状态 都改为CLOSED以关闭连接。目前RHEL里保持TIME_WAIT状态的时间为60秒

  2. keepAlive策略可以有效的避免进行三次握手和四次关闭的动作

  • 其他网络重要参数

net.ipv4.tcp_rmem 参数

    • 默认值： min=4096 default=87380 max=4194304

net.ipv4.tcp_wmem 参数

    • 默认值： min=4096 default=16384 max=4194304

tcpdump

tcpdump是linux系统自带的抓包工具，主要通过命令行的方式，比较适合在线上服务器进行抓包操作，如果是windows或者ubuntu完全可 以选择一些图形化的工具，ubuntu比较推荐用wireshark，安装方式很简单sudo apt一下即可。

命令行格式：

tcpdump [ -adeflnNOpqStvx ] [ -c 数量 ] [ -F 文件名 ][ -i 网络接口 ] [ -r 文件名] [ -s snaplen ][ -T 类型 ] [ -w 文件名 ] [表达式 ]

常用的参数：

-l 　　　使标准输出变为缓冲行形式；

-n 　　 不把网络地址转换成名字；

-c 　　　在收到指定的包的数目后，tcpdump就会停止；

-i 　　　指定监听的网络接口；

-w 　　 直接将包写入文件中，并不分析和打印出来；

-s 指定记录package的大小，常见 -s 0 ，代表最大值65535，一半linux传输最小单元MTU为1500，足够了

-X 直接输出package data数据，默认不设置，只能通过-w指定文件进行输出

常用表达式：

  1. 关于类型的关键字，主要包括host，net，port

  2. 传输方向的关键字，主要包括src , dst ,dst or src, dst and src

  3. 协议的关键字，主要包括fddi,ip ,arp,rarp,tcp,udp等类型

  4. 逻辑运算，取非运算是 'not ' '! ', 与运算是'and','&&';或运算 是'or' ,'||'

  5. 其他重要的关键字如下：gateway, broadcast,less,greater

实际例子：

1. http数据包抓取 (直接在终端输出package data)

tcpdump tcp port 80 -n -X -s 0 指定80端口进行输出

2. 抓取http包数据指定文件进行输出package

tcpdump tcp port 80 -n -s 0 -w /tmp/tcp.cap

对应的/tmp/tcp.cap基本靠肉眼已经能看一下信息，比如http Header , content信息等

3. 结合管道流

tcpdump tcp port 80 -n -s 0 -X -l | grep xxxx

这样可以实时对数据包进行字符串匹配过滤

4. mod_proxy反向代理抓包

线上服务器apache+jetty，通过apache mod_proxy进行一个反向代理，80 apache端口, 7001 jetty端口

apache端口数据抓包：　tcpdump tcp port 80 -n -s 0 -X -i eth0 　　注意：指定eth0网络接口

jetty端口数据抓包：　tcpdump tcp port 7001 -n -s 0 -X -i lo 注意：指定Loopback网络接口

5. 只监控特定的ip主机

tcpdump tcp host 10.16.2.85 and port 2100 -s 0 -X　

需要使用tcp表达式的组合，这里是host指示只监听该ip

小技巧：

1. 可结合tcpdump(命令) + wireshark(图形化)

操作：　

  • 在服务器上进行tcpdump -w /tmp/tcp.cap 指定输出外部文件

  • scp /tmp/tcp.cap 拷贝文件到你本地

  • wireshark & 　启动wireshark

  • 通过　File -> Open 　打开拷贝下来的文件，这样就可以利用进行数据包分析了

  • 剩下来的事就非常方便了

2. 服务器上直接安装wireshark + X11协议反向输出到本机

注意：　

  • wireshark如果要开启网络监控，需要通过root方式启动，否则无法直接通过网卡进行数据抓包

  • X11的反向输出，需要客户机支持X11协议，如果是ubuntu天生支持很方便，如果是windows需要安装个软件



转载于:https://my.oschina.net/apoptosis/blog/212701

更多相关：

  • python close函数_Matplotlib的close（）函数使Tkinter GUI窗口关闭

    我试图用Tkinter制作一个简单的GUI，它使用Matplotlib生成大量绘图并将它们保存到硬盘上。在附件是一个简单的代码，但是在保存了所有绘图之后，Tkinter GUI关闭，脚本停止。我想这个问题可能与plt.关闭()，因为当我删除plt.关闭()，GUI窗口不再关闭，但毫不奇怪，内存很快就会被填满，直到整个程序崩溃。在而不是...

  • 关于timewait状态

    四次挥手 主动关闭连接的一方，调用close，协议层发送FIN包，在TCP报头的FIN字段设置为1，意思是我要和你断开链接，主动关闭连接的一方进入到了FIN_WATI_1状态 被动关闭的一方收到了FIN包之后，协议层回复ACK包，在他的TCP报头中将ACK设置为1，表示收到了对方的关闭连接请求，被动 的一方进入到了CLOSE_W...

  • TestNG:org.openqa.selenium.os.UnixProcess$SeleniumWatchDog错误

       在TestNG运行自动化测试用例的时候，浏览器FireFox正确打开，可是在测试用例运行完成后，我调用的是webdriver.quit()关闭程序的，结果却报以下错误：    Sep 25, 2014 4:19:32 PM org.openqa.selenium.os.UnixProcess$SeleniumWatchDog d...

  • WPF关闭应用程序,释放Window窗口资源方法

    WindowsForm里一个Application.Exit();方法就可以关闭应用程序，释放掉资源。 WPF里Application类没有该方法，但是有一个Exit的事件驱动，在WPF应用程序里面关闭程序讲究很多： 在WPF应用程序的关闭是有ShutdownMode属性设置，具有3中枚举类型的值： 1）OnLastWindowClo...

  • ssl 接收到一个超出最大准许长度的记录_我所经历的一次Dubbo服务雪崩，这是一个漫长的故事...

    这周本来是要写一篇Dubbo源码分析的，被突发事件耽搁了，下周有时间再补上。这周，笔者经历了一次服务雪崩。服务雪崩，听到这个词就能想到问题的严重性。是的，整个项目，整条业务线都挂了，从该业务线延伸出来的下游业务线也跟着凉了。笔者是连续三天两夜的忙着处理问题，加起来睡眠时间不足5小时，今天才得以睡个好觉。但事故之后还有很多问题等着去...

  • 安装apache的时候80端口被PID为4的系统进程所占用

        由于工作中需要直接从MySQL后台读取数据，所以安装了PHPnow，装的过程中提示Apache安装失败，80端口被占用。     在cmd中输入netstat –ano命令，发现80端口被一个PID为4的服务所占用，打开任务管理器，发现PID为4的进程为系统进程，其描述信息为NT Kernel & System，在服务里面又...

  • Dubbo 2.7.1 踩坑记

    Dubbo 2.7 版本增加新特性，新系统开始使用 Dubbo 2.7.1 尝鲜新功能。使用过程中不慎踩到这个版本的 Bug。 系统架构 Spring Boot 2.14-Release + Dubbo 2.7.1 现象 Dubbo 服务者启动成功，正常提供服务，消费者调用偶现失败的情况。错误如下图: 可以看出，主要原因为 ca...

  • 云服务中IaaS、PaaS、SaaS的区别

    越来越多的软件，开始采用云服务。 云服务只是一个统称，可以分成三大类。 IaaS：基础设施服务，Infrastructure-as-a-servicePaaS：平台服务，Platform-as-a-serviceSaaS：软件服务，Software-as-a-service 它们有什么区别呢？ IBM 的软件架构师 Albert...

  • Docker最全教程——从理论到实战（六）

    Docker最全教程——从理论到实战（六） 原文:Docker最全教程——从理论到实战（六）托管到腾讯云容器服务 托管到腾讯云容器服务，我们的公众号“magiccodes”已经发布了相关的录屏教程，大家可以结合本篇教程一起查阅。 自建还是托管？ 在开始之前，我们先来讨论一个问题——是自建容器服务还是托管到云容器服务？ 这里...

©2024 11GX.COM