通用技术 互联网人必备:推荐 4 款爬虫抓包神器

狂师 · 2020年02月23日 · 最后由 活着丶 回复于 2020年02月26日 · 9 次阅读

1. 说之前

受疫情影响,相信大部分人仍然还是处于在家远程办公的状态,起初最简单的远程办公,就是打打电话,发发微信,我们每天都在做。后来有了一系列工具,比如企业微信、各种线上会议工具、在线文档等等,能够把同事之间配合的效率提升起来,突破物理意义上的限制,不用到办公室就能创造价值,在没法线下聚集的时候,让自己的工作不会中断。

但是在大多数情况下,内部协同办公只能解决内部效率问题。对于大多数企业、对于经营生意的老板们来说,办公的目的是为了对外和消费者连接,和客户连接,需要做生意,这样才能真正的办公起来。

换句话说,我认为远程办公的实质,除了让大家能够互相之间配合好、一起工作之外(意义不仅仅是单纯的内部协作),后续真正有价值的一定是对外,让企业员工能够和外部的消费者连接起来。

当然我们今天的重点,并不是聊远程办公,远程办公的效率和质量,核心还是在于自我管理的自驱力。

在日常的工作中,无论是开发同学或是测试同学、运维同学,都少不了用到一些抓包工具,今天就给大家隆重推荐 4 款爬虫抓包神器。

2. 聊一聊:爬虫抓包原理

爬虫的基本原理就是模拟客户端(可以是浏览器,也有可能是 APP)向远程服务器发送 HTTP 请求,我们需要知道目标服务器的 HOST、URI、请求方法、请求参数、请求头、请求体。Web 网站通过 Chrome 浏览器可以找到这些信息。但是对于 APP 爬虫,就显得有些束手无策。这时候必须借用一些抓包工具来辅助我们分析 APP 背后的秘密。而抓包本质是引入多了一层中间人代理,如下图所示。

补充一个知识点,对于新手来说,需要区分抓包和爬虫是两个不同的概念:抓包是为了查看分析网络请求,是为了了解对方的过程。爬虫则是模拟网络请求,当了解对方后模拟请求获取数据的工具,两者相辅相成,先抓包分析,再程序模拟,就是爬虫的开发过程,以此来达到你爬虫的目的。

3. 抓包神器一:Fiddler

Fiddler 是 Windows 平台最好用的可视化抓包工具,也是大家最熟知的 HTTP 代理工具,功能非常强大,除了可以清晰的了解每个请求与响应之外,还可以进行断点设置,修改请求数据、拦截响应内容。

官网下载即可:https://www.telerik.com/fiddler

此外,还可以自定义规则,通过修改脚本,加入自己的特殊处理,不过因为它是 C# 编写的,如果你要写复杂的脚本,需要懂 C#。

过滤器功能使得你可以通过正则表达式规则将你关心的请求显示出来,如果你只需要抓特定网站的数据,这个功能就显得非常有用,可以去除很多干扰信息。

Fiddler 的左下角有个命令行工具叫做 QuickExec,允许你直接输入命令,如上图的命令行指示。

常见的命令有:

help:打开官方的使用页面介绍,所有的命令都会列出来

cls:清屏

Select:选择会话的命令

?.png:用来选择 png 后缀的图片

bpu:截获 request

@ Host 高亮所有该主机的会话,如 @http://www.cnblogs.com/

=:等于指定请求方法 或者 状态码高亮显示,例如输入:=502

4. 抓包神器二:Charles

Charles 是一款支持跨平台的抓包工具,并且也是 macOS 平台下最好用的抓包分析工具之一,同样提供 GUI 界面,界面简洁,基本功能包括 HTTP、HTTPS 请求抓包,支持请求参数的修改,最新的 Charles 4 还支持 HTTP/2。当然,也同时支持 Windows 和 Linux, 不过这款工具是要收费的,免费试用 30 天,试用期过后功能受限。

Charles 当前最新版本为 4.5.6,官网地址如下:

https://www.charlesproxy.com

Charles 在线破解工具:https://www.zzzmode.com/mytools/charles/

Charles 也常用于一些简单的弱网模拟工具,打开 Proxy->Throttle Settings,界面如下:

PS:除此之外,模拟弱网的工具常见的还有:Fiddler、FaceBook 工具 ATC 弱网模拟。

5. 抓包神器三:AnyProxy

AnyProxy 是 阿里巴巴开源的 HTTP 抓包工具,基于 NodeJS 实现,优点是支持二次开发,可自定义请求处理逻辑,如果你会写 JS 的话,同时需要做一些自定义的处理,那么 AnyProxy 是非常适合的。支持 HTTPS,提供了 GUI 界面。GitHub 地址:https://github.com/alibaba/anyproxy

常用特性:

  • 支持 https 明文代理

  • 支持低网速模拟

  • 支持二次开发,可以用 javascript 控制代理的全部流程,搭建前端个性化调试环境

  • 提供 web 版界面,观测请求情况

anyproxy 详细使用介绍:https://www.npmjs.com/package/anyproxy/v/3.10.2

6. 抓包神器四:mitmproxy

它不仅是跨平台的,而且提供的是命令行交互模式,很有极(zhuang)客(bi)感,而且是由 Python 语言实现的,对于 Pythoner 来说,无疑是一大利好福利。mitmproxy 主要包含了 3 款工具:

  • mitmproxy: 带交互的终端界面

  • mitmdump: mitmproxy 的命令行版本,类似于 tcpdump

  • libmproxy: 用于 mitmproxy/mitmdump 的库

GitHub 地址:https://github.com/mitmproxy/mitmproxy

mitmproxy 官网:

https://mitmproxy.org/

mitmproxy 文档介绍:

https://docs.mitmproxy.org/stable/

最后,分享一下,笔者目前最常用的抓包工具分别是Charlesmitmproxy这两款。

希望这篇文章能帮到你!更多干货文章请关注我们,也可以文未留言,留下你常用的抓包分析工具有哪些。

如果觉得我的文章对您有用,请随意打赏。您的支持将鼓励我继续创作!
共收到 6 条回复 时间 点赞

我常用是 Charles 和 tcpdump

支持一下~

simple 回复

😁

重来看雨 回复

但是现在安卓 7.0 以上好像抓不到 Https 了吧?是怎么解决的呢

J 回复

这个倒没遇过。。基本上都是用 Charles 抓 ios

J 回复

论坛就有帖子,搜一下

需要 登录 后方可回复, 如果你还没有账号请点击这里 注册