MediaCrawler是一个在线开源的小红书抖音微博爬虫工具，支持目前能抓取小红书、抖音、快手、B站、微博的视频、图片、评论、点赞、转发等信息。工具原理是利用playwright搭桥，保留登录成功后的上下文浏览器环境，通过执行JS表达式获取一些加密参数 通过使用此方式，免去了复现核心加密JS代码，逆向难度大大降低，使用需要一定的技术知识。

MediaCrawler-小红书抖音微博爬虫工具 第5张插图

使用方法

创建并激活 python 虚拟环境

# 进入项目根目录
cd MediaCrawler


python -m venv venv


source venv/bin/activate


venv\Scripts\activate

安装依赖库

pip3 install -r requirements.txt

安装 playwright浏览器驱动

playwright install

运行爬虫程序

# 默认没有开启评论爬取模式，有需要请到配置文件中指定

python main.py --platform xhs --lt qrcode --type search


python main.py --platform xhs --lt qrcode --type detail




python main.py --help

数据保存

  1. 支持保存到关系型数据库（Mysql、PgSQL等）
  2. 支持保存到csv中（data/目录下）
  3. 支持保存到json中（data/目录下）