
typesafe-computer-use
OCR 读屏加类型约束,两毛钱一步让 AI 点 Mac
项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整
数据来源:GitHub API 逐日快照 · 收录于 2026-09-19 · 当前星标 ★ 1282
使用教程
环境要求
- macOS 14 或更新版本(Windows 10/11 为实验性支持)
- Python 3.12 或更新版本
- 已安装 uv(Python 包管理器)
- 终端已获得「屏幕录制」与「辅助功能」权限
- 已准备 TYPESAFE_API_KEY,可选 ANTHROPIC_API_KEY
安装与启动步骤
-
1克隆仓库
从 GitHub 拉取项目源码到本地,确保网络能访问 github.com。
git clone https://github.com/awlevin/typesafe-computer-use -
2安装依赖
进入项目目录,用 uv 按 pyproject 同步创建虚拟环境并装齐依赖。
cd typesafe-computer-use uv sync -
3配置环境变量
复制示例配置文件为 .env,随后填入 API Key,文件位于仓库根目录。
cp .env.example .env -
4授予系统权限
系统设置 > 隐私与安全性中,为终端勾选「屏幕录制」和「辅助功能」,否则截图空白、点击失效。
-
5首次试运行
dry run 只执行一步并打印将要做的动作,不会真正操作电脑,用于验证装好没。
uv run clicker "open the Playground" -
6实际驱动电脑
加 --act 才会真实点击执行,默认最多 100 步;可加 --steps 20 --delay 3 放慢。
uv run clicker "open the Playground" --act -
7调试屏幕内容
clicker-inspect 会倒计时 3-2-1 后截屏,输出带标注的屏幕与模型载荷,方便排查。
uv run clicker-inspect "any goal"
关键配置
| 配置项 | 必填 | 说明 | 示例 |
|---|---|---|---|
TYPESAFE_API_KEY | 是 | 每次动作决策都要用到的 TypeSafe 密钥 | ts-xxxxxxxxxxxx |
ANTHROPIC_API_KEY | 否 | 用于 type_text、写入模型提议的 URL 与最终答案 | sk-ant-xxxxxxxx |
CLICKER_EMAIL | 否 | 填写后启用 type_email 动作 | your@email.com |
CLICKER_BROWSER | 否 | 指定操作的浏览器,默认 Google Chrome | Google Chrome |
如何确认成功
执行 uv run clicker "open the Playground" 后终端打印出它将要执行的一步动作,即表示安装与密钥配置成功。
常见问题
Q:截图只拍到壁纸或点击没反应?
A:终端未获得权限。到系统设置 > 隐私与安全性,为终端勾选「屏幕录制」(否则截图是壁纸)和「辅助功能」(否则点击被静默丢弃)。
Q:怎么中途停止正在运行的代理?
A:在终端按 Ctrl-C,或把鼠标猛推到屏幕左上角。步数到达上限、模型判定 done、置信度过低或卡住时也会自动停止。
Q:不加 --act 会真的操作电脑吗?
A:不会。不带 --act 是 dry run,只执行一步并打印它打算做什么,适合先确认动作是否合理再放开执行。
Q:想换成别的模型或本地推理服务?
A:写入模型可指向 LM Studio、Ollama 或任意 OpenAI 兼容服务,具体见 docs/writer-endpoints.md。
Q:运行记录保存在哪里?
A:每次运行都会写入 runs/<timestamp>/ 目录,卡住时可用该目录离线回放排查。
注意事项
- 运行前先清空终端,终端文字本身也会被 OCR 识别进去,影响判断。
- --act 在缺少「辅助功能」权限时会直接拒绝启动,请先授权。
- 项目仍处于 Beta 阶段,行为可能变动;Windows 支持仅为实验性。
- 单步成本约 0.0002 美元,但只有配置了 TYPESAFE_API_KEY 才能进行决策。
核心亮点
- 单步成本约 0.0002 美元,比逐帧视觉推理方案便宜几个数量级
- 用 TypeSafe 结构化输出约束动作,减少模型乱输出导致的执行失败
- 基于 OCR 文本而非截图理解屏幕,token 消耗低、响应更快
不足之处
- 仅支持 macOS,跨平台能力缺失
- 依赖 OCR 质量,复杂界面或非文本元素识别可能不准
- 项目处于早期,文档和社区案例较少
适用场景
- 在 macOS 上自动填写网页表单或后台系统
- 让 AI 代理按固定流程点击桌面软件完成重复操作
- 低成本批量执行 GUI 自动化脚本,替代人工点击
替代项目
Open Interpreter、Self-Operating Computer、Anthropic Computer Use Demo
下一篇:n8n-docs
同类项目推荐
AutoPR
开源
自动整理学术成果,一键生成晋升材料
This is the official implementation for "AUTOPR: LET'S AUTOMATE YOUR ACADEMIC PROMOT···
n8n-workflows-esp
开源
西语用户直接抄的 n8n 自动化工作流模板库
Repositorio de Workflows de N8N en Español (n8n-workflows-es)
auteur
开源
像导演一样指挥网站开发,用AI生成分镜并自动拦截平庸设计。
The Claude Code skill that directs a website like a film. Commit-sheet, generated as···
ai-agent-automation
开源
自托管编排 AI 智能体,定时跑通多步骤业务自动化
Modular AI agent workflow automation platform with schedulers, tools, and observabil···
browser-use-pi
开源
让 AI 在真实浏览器里自动点按填表,小代码跑通网页任务
A tiny TypeScript web agent, hill climbed on real browser evals.
html-get
开源
一行代码抓任意网页 HTML,自动渲染纠错还快
Get the HTML from any website, fine-tuned for correction & speed
oc8
开源
让 AI 代理合规接入 ERP/CRM,自动跑通业务流程
Open-source AI business orchestration platform for running governed AI agents across···
ToolJet
开源
拖拽搭建内部工具,连接数据源,自动化工作流,快速交付。
Open-source foundation of ToolJet AI - the enterprise app generation platform for in···
rulego
开源
用 Go 规则链编排组件,轻松搭建自动化数据流
⛓️RuleGo is a lightweight, high-performance, embedded, next-generation component o···