typesafe-computer-use

OCR 读屏加类型约束,两毛钱一步让 AI 点 Mac

开源 🏷️定价信息待确认 🔧 仅开源项目,无在线服务,需自行部署 自动化工作流 🍴 复刻 123 🐛 待处理 41 👀 关注 1
GitHub ↗
GitHub 星标 ★ 1282
维护状态 维护中
是否开源 开源
定价模式 🏷️定价信息待确认

项目预览

typesafe-computer-use 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类自动化工作流
开发团队awlevin
定价模式🏷️定价信息待确认
价格说明定价信息待确认
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
开源协议MIT
主要语言Python
技术栈/模型ai-agents,automation,computer-use,macos,ocr,typesafe
GitHub 星标★ 1282
上线时间2026-09-16 00:00:00
代码更新2026-09-29
仓库体积911 KB
本站数据更新2026-11-03
维护状态维护中
收录时间2026-09-19
浏览次数1

项目介绍

typesafe-computer-use 是一个 macOS 上的轻量级计算机使用(computer use)框架,核心思路是用 OCR 识别屏幕内容,再通过 TypeSafe 结构化输出模型对下一步动作进行分类,最后执行点击操作。它解决的是传统 AI 代理控制电脑时成本高、延迟大、动作不可控的问题:不依赖昂贵的视觉大模型逐帧推理,而是把屏幕转成文本,用类型约束让模型输出可解析的动作指令,从而把单步成本压到约 0.0002 美元。项目用 Python 编写,面向自动化工作流场景,适合需要让 AI 代理在 macOS 上完成点击、填表、导航等 GUI 操作,同时希望控制 token 开销和动作稳定性的开发者。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-09-19 · 当前星标 ★ 1282

使用教程

难度:进阶 约 10 分钟 部署方式:命令行工具 7 步

环境要求

  • macOS 14 或更新版本(Windows 10/11 为实验性支持)
  • Python 3.12 或更新版本
  • 已安装 uv(Python 包管理器)
  • 终端已获得「屏幕录制」与「辅助功能」权限
  • 已准备 TYPESAFE_API_KEY,可选 ANTHROPIC_API_KEY

安装与启动步骤

  1. 1克隆仓库

    从 GitHub 拉取项目源码到本地,确保网络能访问 github.com。

    git clone https://github.com/awlevin/typesafe-computer-use
  2. 2安装依赖

    进入项目目录,用 uv 按 pyproject 同步创建虚拟环境并装齐依赖。

    cd typesafe-computer-use
    uv sync
  3. 3配置环境变量

    复制示例配置文件为 .env,随后填入 API Key,文件位于仓库根目录。

    cp .env.example .env
  4. 4授予系统权限

    系统设置 > 隐私与安全性中,为终端勾选「屏幕录制」和「辅助功能」,否则截图空白、点击失效。

  5. 5首次试运行

    dry run 只执行一步并打印将要做的动作,不会真正操作电脑,用于验证装好没。

    uv run clicker "open the Playground"
  6. 6实际驱动电脑

    加 --act 才会真实点击执行,默认最多 100 步;可加 --steps 20 --delay 3 放慢。

    uv run clicker "open the Playground" --act
  7. 7调试屏幕内容

    clicker-inspect 会倒计时 3-2-1 后截屏,输出带标注的屏幕与模型载荷,方便排查。

    uv run clicker-inspect "any goal"

关键配置

配置项必填说明示例
TYPESAFE_API_KEY是每次动作决策都要用到的 TypeSafe 密钥ts-xxxxxxxxxxxx
ANTHROPIC_API_KEY否用于 type_text、写入模型提议的 URL 与最终答案sk-ant-xxxxxxxx
CLICKER_EMAIL否填写后启用 type_email 动作your@email.com
CLICKER_BROWSER否指定操作的浏览器,默认 Google ChromeGoogle Chrome

如何确认成功

执行 uv run clicker "open the Playground" 后终端打印出它将要执行的一步动作,即表示安装与密钥配置成功。

常见问题

Q:截图只拍到壁纸或点击没反应?

A:终端未获得权限。到系统设置 > 隐私与安全性,为终端勾选「屏幕录制」(否则截图是壁纸)和「辅助功能」(否则点击被静默丢弃)。

Q:怎么中途停止正在运行的代理?

A:在终端按 Ctrl-C,或把鼠标猛推到屏幕左上角。步数到达上限、模型判定 done、置信度过低或卡住时也会自动停止。

Q:不加 --act 会真的操作电脑吗?

A:不会。不带 --act 是 dry run,只执行一步并打印它打算做什么,适合先确认动作是否合理再放开执行。

Q:想换成别的模型或本地推理服务?

A:写入模型可指向 LM Studio、Ollama 或任意 OpenAI 兼容服务,具体见 docs/writer-endpoints.md。

Q:运行记录保存在哪里?

A:每次运行都会写入 runs/<timestamp>/ 目录,卡住时可用该目录离线回放排查。

注意事项

  • 运行前先清空终端,终端文字本身也会被 OCR 识别进去,影响判断。
  • --act 在缺少「辅助功能」权限时会直接拒绝启动,请先授权。
  • 项目仍处于 Beta 阶段,行为可能变动;Windows 支持仅为实验性。
  • 单步成本约 0.0002 美元,但只有配置了 TYPESAFE_API_KEY 才能进行决策。

核心亮点

  • 单步成本约 0.0002 美元,比逐帧视觉推理方案便宜几个数量级
  • 用 TypeSafe 结构化输出约束动作,减少模型乱输出导致的执行失败
  • 基于 OCR 文本而非截图理解屏幕,token 消耗低、响应更快

不足之处

  • 仅支持 macOS,跨平台能力缺失
  • 依赖 OCR 质量,复杂界面或非文本元素识别可能不准
  • 项目处于早期,文档和社区案例较少

适用场景

  • 在 macOS 上自动填写网页表单或后台系统
  • 让 AI 代理按固定流程点击桌面软件完成重复操作
  • 低成本批量执行 GUI 自动化脚本,替代人工点击

替代项目

Open Interpreter、Self-Operating Computer、Anthropic Computer Use Demo

上一篇:markdown_web_browser

下一篇:n8n-docs

同类项目推荐

AutoPR 开源

自动整理学术成果,一键生成晋升材料

This is the official implementation for "AUTOPR: LET'S AUTOMATE YOUR ACADEMIC PROMOT···

★ 103 2026-08-09
n8n-workflows-esp 开源

西语用户直接抄的 n8n 自动化工作流模板库

Repositorio de Workflows de N8N en Español (n8n-workflows-es)

★ 527 2026-09-30
auteur 开源

像导演一样指挥网站开发,用AI生成分镜并自动拦截平庸设计。

The Claude Code skill that directs a website like a film. Commit-sheet, generated as···

★ 1047 2026-08-09
ai-agent-automation 开源

自托管编排 AI 智能体,定时跑通多步骤业务自动化

Modular AI agent workflow automation platform with schedulers, tools, and observabil···

★ 178 2026-09-12
browser-use-pi 开源

让 AI 在真实浏览器里自动点按填表,小代码跑通网页任务

A tiny TypeScript web agent, hill climbed on real browser evals.

★ 467 2026-09-14
html-get 开源

一行代码抓任意网页 HTML,自动渲染纠错还快

Get the HTML from any website, fine-tuned for correction & speed

★ 102 2026-09-16
oc8 开源

让 AI 代理合规接入 ERP/CRM,自动跑通业务流程

Open-source AI business orchestration platform for running governed AI agents across···

★ 128 2026-09-30
ToolJet 开源

拖拽搭建内部工具,连接数据源,自动化工作流,快速交付。

Open-source foundation of ToolJet AI - the enterprise app generation platform for in···

★ 41179 2026-08-10
rulego 开源

用 Go 规则链编排组件,轻松搭建自动化数据流

⛓️RuleGo is a lightweight, high-performance, embedded, next-generation component o···

★ 1632 2026-09-14