
CyberScraper-2077
用大白话指挥 AI 爬网页,不用写解析规则,要啥直接说。
项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整
数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 3298
使用教程
环境要求
- Python 3.10 或更高版本
- 可用的 pip 与 virtualenv(或 venv)
- 至少一个 LLM 后端密钥:OpenAI 或 Google Gemini(Ollama 可选)
- 如需 Docker 部署,需本机已安装 Docker
- 首次运行需执行 playwright install 安装浏览器内核
安装与启动步骤
-
1克隆仓库
从 GitHub 拉取项目源码并进入项目目录。
git clone https://github.com/itsOwen/CyberScraper-2077.git cd CyberScraper-2077 -
2创建虚拟环境
用 virtualenv 创建 venv 并激活,避免污染系统 Python 环境。
virtualenv venv source venv/bin/activate -
3安装依赖包
按 requirements.txt 安装项目所需的全部 Python 依赖。
pip install -r requirements.txt -
4安装 Playwright
安装 Playwright 浏览器内核,用于抓取 JavaScript 渲染页面。
playwright install -
5配置 API 密钥
在 Linux/Mac 终端导出 OpenAI 与 Gemini 密钥,替换成自己的真实 key。
export OPENAI_API_KEY="sk-xxxxxxxx" export GOOGLE_API_KEY="your-api-key-here" -
6启动应用
激活虚拟环境后运行 Streamlit 主程序,启动本地 Web 界面。
source venv/bin/activate streamlit run main.py -
7Docker 方式部署
可选方案:构建镜像并运行容器,通过环境变量传入 API 密钥。
docker build -t cyberscraper-2077 . docker run -p 8501:8501 -e OPENAI_API_KEY="sk-xxxxxxxx" -e GOOGLE_API_KEY="your-api-key-here" cyberscraper-2077
关键配置
| 配置项 | 必填 | 说明 | 示例 |
|---|---|---|---|
OPENAI_API_KEY | 是 | OpenAI 后端使用的 API 密钥,本地与 Docker 均可通过环境变量传入。 | sk-xxxxxxxx |
GOOGLE_API_KEY | 是 | Google Gemini 后端使用的 API 密钥。 | your-api-key-here |
OLLAMA_BASE_URL | 否 | 使用 Ollama 时的服务地址,Docker 下指向宿主机 11434 端口。 | http://host.docker.internal:11434 |
client_secret.json | 否 | Google Sheets 导出的 OAuth 客户端配置文件,重命名后使用。 | client_secret.json |
tor_config.socks_port | 否 | Tor SOCKS 代理端口,用于自定义 Tor 抓取行为。 | 9050 |
tor_config.circuit_timeout | 否 | Tor 电路创建的超时时间(秒)。 | 10 |
如何确认成功
浏览器打开 http://localhost:8501,能看到 Streamlit 的赛博朋克界面即启动成功;Docker 方式同理。
常见问题
Q:Docker 里用 Ollama 连接失败怎么办?
A:先在宿主机执行 ollama pull llama3.1 并启动 Ollama,再设置 OLLAMA_BASE_URL。Linux 上可能需要把地址替换为宿主机 IP,并确认防火墙放行 11434 端口。
Q:如何抓取多页数据?
A:在输入 URL 时按 README 格式附加页码范围,如 https://example.com/p/ 1-5,7,9-12;也可用 {page} 占位符指定 URL 模式,建议每次都明确写出 URL 结构。
Q:报错提示 Python 版本不兼容?
A:项目要求 Python 3.10 或更高版本,请升级本机 Python 后重建虚拟环境并重新安装依赖。
Q:导入数据到 Google Sheets 时授权失败?
A:需在 Google Cloud Console 创建 OAuth 客户端,把 http://localhost:8501 等地址加入授权来源与重定向 URI,并将下载的配置重命名为 client_secret.json。
注意事项
- 项目要求 Python 3.10 或更高版本。
- 首次安装必须执行 playwright install,否则无法抓取 JS 渲染页面。
- Windows 下激活虚拟环境的命令不同,README 仅给出 source venv/bin/activate。
- 使用 Tor 时 Docker 需加 --network="host" 并开放对应端口。
核心亮点
- 自然语言指令即可抓取,无需编写正则或 XPath,上手门槛极低
- 支持 OpenAI、Gemini、Ollama 多模型切换,可本地部署保护隐私
- 内置 JavaScript 渲染引擎,能处理动态网页内容,比传统爬虫更省心
不足之处
- 依赖 LLM API,长期使用可能产生较高成本,且响应速度受网络影响
- 文档/社区待观察
适用场景
- 快速抓取新闻文章或博客内容,用于舆情分析或内容聚合
- 从电商页面提取商品信息,如价格、评论,用于市场调研
- 自动化收集研究数据,如论文摘要或学术信息,辅助文献综述
替代项目
Scrapy、Beautiful Soup、Playwright
上一篇:tracecat
下一篇:browser-control
同类项目推荐
Drissionpage-MCP-Server
开源
让 Claude Code 直接操控浏览器,自动点页面抓数据
DrissionPage MCP Server · Browser automation for Claude Code, Codex, and MCP client···
advai-cli
开源
在终端里跑 AI 智能体,串起浏览器、知识库和外部命令
Local-first CLI for agent skills, browser automation, knowledge bases, external CLIs···
sim-use
开源
让 AI 直接操控手机模拟器,自动看屏、点击、滑动
Give your AI agent eyes and hands on iOS Simulator and Android emulator/devices.
jev-browser
开源
让 LLM 出计划、类型系统把关,浏览器自动化不跑偏
Browser automation where an LLM plans and Jev (Typesafe System One) decides. Library···
mobile-pc-control-server
开源
手机浏览器秒变电脑遥控器,键鼠、OCR、语音全搞定
Smartphone web server for remote control of Windows keyboard, mouse, and ocr / pers···
chatgpt-scraper-api
开源
用 ChatGPT 一句话搞定网页结构化数据抓取
Collect structured responses from a ChatGPT scraper by sending a prompt with valid C···
chatwiki
开源
在微信公众号上,拖拽搭建你的专属 AI 客服机器人
ChatWiki 微信公众号的AI知识库工作流Agent平台,RAG大模型AI客服机器人,致力于成为垂直领···
chromiumfish
开源
让 Playwright 自动化不被反爬识别,开箱即用
A stealth Chromium build with a drop-in Playwright harness for Python and Node, feat···
webbrain
开源
用大白话指挥浏览器干活,自动填表、抓数据、点按钮
Open-source AI browser agent for Chrome and Firefox (monorepo)