<?xml version="1.0" encoding="utf-8" standalone="yes"?>
<rss version="2.0" xmlns:atom="http://www.w3.org/2005/Atom">
    <channel>
        <title>GUI on AI</title>
        <link>https://ai.programnotes.cn/tags/gui/</link>
        <description>Recent content in GUI on AI</description>
        <generator>Hugo -- gohugo.io</generator>
        <language>zh-CN</language>
        <lastBuildDate>Thu, 02 Apr 2026 13:40:00 +0800</lastBuildDate><atom:link href="https://ai.programnotes.cn/tags/gui/index.xml" rel="self" type="application/rss+xml" /><item>
        <title>Claude Computer Use：让 AI 直接操控你的电脑界面</title>
        <link>https://ai.programnotes.cn/p/claude-computer-use-cli/</link>
        <pubDate>Thu, 02 Apr 2026 13:40:00 +0800</pubDate>
        
        <guid>https://ai.programnotes.cn/p/claude-computer-use-cli/</guid>
        <description>&lt;h2 id=&#34;什么是-claude-computer-use&#34;&gt;什么是 Claude Computer Use？
&lt;/h2&gt;&lt;p&gt;Claude Code 最新推出了 &lt;strong&gt;Computer Use&lt;/strong&gt; 功能——一项研究预览特性，允许 Claude 通过命令行直接接管你的 macOS 图形界面，执行那些原本只能靠人工点击才能完成的操作。&lt;/p&gt;
&lt;p&gt;这意味着你可以用自然语言指令让 Claude：&lt;/p&gt;
&lt;ul&gt;
&lt;li&gt;编译并启动原生应用、点击 UI 控件、截图验证结果&lt;/li&gt;
&lt;li&gt;完整走一遍 Electron 应用的注册流程，测试端到端交互&lt;/li&gt;
&lt;li&gt;拖拽窗口到特定尺寸，重现只有在特定分辨率下才会出现的布局 bug&lt;/li&gt;
&lt;li&gt;操控 iOS 模拟器或其他只有图形界面的工具&lt;/li&gt;
&lt;/ul&gt;
&lt;p&gt;Claude 在决策上遵循&amp;quot;最小侵入&amp;quot;原则：&lt;strong&gt;优先使用 MCP 服务器、Bash 命令或 Chrome 扩展等更精准的工具，仅在这些手段都行不通时才启用 Computer Use&lt;/strong&gt;。&lt;/p&gt;
&lt;hr&gt;
&lt;h2 id=&#34;使用前提&#34;&gt;使用前提
&lt;/h2&gt;&lt;p&gt;在开始之前，确认以下条件都满足：&lt;/p&gt;
&lt;table&gt;
  &lt;thead&gt;
      &lt;tr&gt;
          &lt;th&gt;条件&lt;/th&gt;
          &lt;th&gt;要求&lt;/th&gt;
      &lt;/tr&gt;
  &lt;/thead&gt;
  &lt;tbody&gt;
      &lt;tr&gt;
          &lt;td&gt;操作系统&lt;/td&gt;
          &lt;td&gt;macOS（当前仅限 macOS）&lt;/td&gt;
      &lt;/tr&gt;
      &lt;tr&gt;
          &lt;td&gt;Claude Code 版本&lt;/td&gt;
          &lt;td&gt;v2.1.85 或更高&lt;/td&gt;
      &lt;/tr&gt;
      &lt;tr&gt;
          &lt;td&gt;订阅计划&lt;/td&gt;
          &lt;td&gt;Pro 或 Max&lt;/td&gt;
      &lt;/tr&gt;
  &lt;/tbody&gt;
&lt;/table&gt;
&lt;hr&gt;
&lt;h2 id=&#34;如何启用&#34;&gt;如何启用
&lt;/h2&gt;&lt;h3 id=&#34;第一步在-mcp-面板中开启&#34;&gt;第一步：在 MCP 面板中开启
&lt;/h3&gt;&lt;p&gt;在 Claude Code 的交互式会话中运行：&lt;/p&gt;
&lt;div class=&#34;highlight&#34;&gt;&lt;div class=&#34;chroma&#34;&gt;
&lt;table class=&#34;lntable&#34;&gt;&lt;tr&gt;&lt;td class=&#34;lntd&#34;&gt;
&lt;pre tabindex=&#34;0&#34; class=&#34;chroma&#34;&gt;&lt;code&gt;&lt;span class=&#34;lnt&#34;&gt;1
&lt;/span&gt;&lt;/code&gt;&lt;/pre&gt;&lt;/td&gt;
&lt;td class=&#34;lntd&#34;&gt;
&lt;pre tabindex=&#34;0&#34; class=&#34;chroma&#34;&gt;&lt;code class=&#34;language-fallback&#34; data-lang=&#34;fallback&#34;&gt;&lt;span class=&#34;line&#34;&gt;&lt;span class=&#34;cl&#34;&gt;/mcp
&lt;/span&gt;&lt;/span&gt;&lt;/code&gt;&lt;/pre&gt;&lt;/td&gt;&lt;/tr&gt;&lt;/table&gt;
&lt;/div&gt;
&lt;/div&gt;&lt;p&gt;在弹出的服务器列表里找到 &lt;code&gt;computer-use&lt;/code&gt;，选择 &lt;strong&gt;Enable&lt;/strong&gt;。该设置是&lt;strong&gt;按项目保存&lt;/strong&gt;的，不同项目可以独立管理。&lt;/p&gt;
&lt;h3 id=&#34;第二步授予系统权限&#34;&gt;第二步：授予系统权限
&lt;/h3&gt;&lt;p&gt;首次使用时，macOS 会弹出两个系统级权限请求：&lt;/p&gt;
&lt;ul&gt;
&lt;li&gt;&lt;strong&gt;辅助功能权限&lt;/strong&gt;：允许 Claude 模拟鼠标点击和键盘输入&lt;/li&gt;
&lt;li&gt;&lt;strong&gt;屏幕录制权限&lt;/strong&gt;：允许 Claude 读取当前屏幕内容&lt;/li&gt;
&lt;/ul&gt;
&lt;p&gt;授权完成后，可能需要完全退出并重启 Claude Code 权限才能生效。&lt;/p&gt;
&lt;h3 id=&#34;第三步按会话授权应用&#34;&gt;第三步：按会话授权应用
&lt;/h3&gt;&lt;p&gt;进入正式使用阶段后，每次 Claude 首次访问某个具体应用（如 Finder、Simulator、某个桌面工具），都会在当次会话中单独请求授权。对于&lt;strong&gt;终端、系统设置&lt;/strong&gt;这类高风险应用，Claude 会额外弹出警告提示，需要用户明确确认后才会继续。&lt;/p&gt;
&lt;hr&gt;
&lt;h2 id=&#34;实际使用场景&#34;&gt;实际使用场景
&lt;/h2&gt;&lt;h3 id=&#34;场景一验证原生应用构建&#34;&gt;场景一：验证原生应用构建
&lt;/h3&gt;&lt;p&gt;想象你用 Swift 写了一个 macOS 菜单栏应用，需要确认编译产物的 UI 行为是否符合预期：&lt;/p&gt;
&lt;div class=&#34;highlight&#34;&gt;&lt;div class=&#34;chroma&#34;&gt;
&lt;table class=&#34;lntable&#34;&gt;&lt;tr&gt;&lt;td class=&#34;lntd&#34;&gt;
&lt;pre tabindex=&#34;0&#34; class=&#34;chroma&#34;&gt;&lt;code&gt;&lt;span class=&#34;lnt&#34;&gt;1
&lt;/span&gt;&lt;span class=&#34;lnt&#34;&gt;2
&lt;/span&gt;&lt;/code&gt;&lt;/pre&gt;&lt;/td&gt;
&lt;td class=&#34;lntd&#34;&gt;
&lt;pre tabindex=&#34;0&#34; class=&#34;chroma&#34;&gt;&lt;code class=&#34;language-fallback&#34; data-lang=&#34;fallback&#34;&gt;&lt;span class=&#34;line&#34;&gt;&lt;span class=&#34;cl&#34;&gt;Build the MenuBarStats target, launch it, open the preferences window, 
&lt;/span&gt;&lt;/span&gt;&lt;span class=&#34;line&#34;&gt;&lt;span class=&#34;cl&#34;&gt;and verify the interval slider updates the label. Screenshot the preferences window when you&amp;#39;re done.
&lt;/span&gt;&lt;/span&gt;&lt;/code&gt;&lt;/pre&gt;&lt;/td&gt;&lt;/tr&gt;&lt;/table&gt;
&lt;/div&gt;
&lt;/div&gt;&lt;p&gt;Claude 会自动完成：编译 Swift 工程 → 启动应用 → 定位并点击偏好设置入口 → 拖动滑块观察标签变化 → 截图存档。整个流程无需你动一下鼠标。&lt;/p&gt;
&lt;h3 id=&#34;场景二调试视觉布局问题&#34;&gt;场景二：调试视觉布局问题
&lt;/h3&gt;&lt;p&gt;产品反馈说某个设置弹窗在窄屏下底部被裁切，但你本地复现不了：&lt;/p&gt;
&lt;div class=&#34;highlight&#34;&gt;&lt;div class=&#34;chroma&#34;&gt;
&lt;table class=&#34;lntable&#34;&gt;&lt;tr&gt;&lt;td class=&#34;lntd&#34;&gt;
&lt;pre tabindex=&#34;0&#34; class=&#34;chroma&#34;&gt;&lt;code&gt;&lt;span class=&#34;lnt&#34;&gt;1
&lt;/span&gt;&lt;span class=&#34;lnt&#34;&gt;2
&lt;/span&gt;&lt;span class=&#34;lnt&#34;&gt;3
&lt;/span&gt;&lt;/code&gt;&lt;/pre&gt;&lt;/td&gt;
&lt;td class=&#34;lntd&#34;&gt;
&lt;pre tabindex=&#34;0&#34; class=&#34;chroma&#34;&gt;&lt;code class=&#34;language-fallback&#34; data-lang=&#34;fallback&#34;&gt;&lt;span class=&#34;line&#34;&gt;&lt;span class=&#34;cl&#34;&gt;The settings modal clips its footer on narrow windows. Resize the app window down 
&lt;/span&gt;&lt;/span&gt;&lt;span class=&#34;line&#34;&gt;&lt;span class=&#34;cl&#34;&gt;until you can reproduce it, screenshot the clipped state, then check the CSS 
&lt;/span&gt;&lt;/span&gt;&lt;span class=&#34;line&#34;&gt;&lt;span class=&#34;cl&#34;&gt;for the modal container.
&lt;/span&gt;&lt;/span&gt;&lt;/code&gt;&lt;/pre&gt;&lt;/td&gt;&lt;/tr&gt;&lt;/table&gt;
&lt;/div&gt;
&lt;/div&gt;&lt;p&gt;Claude 会逐步缩小窗口宽度，直到触发 bug，然后截图并定位对应的 CSS 容器问题——把人工排查的繁琐步骤压缩到一条指令。&lt;/p&gt;
&lt;h3 id=&#34;场景三ios-模拟器端到端测试&#34;&gt;场景三：iOS 模拟器端到端测试
&lt;/h3&gt;&lt;p&gt;新版 onboarding 流程上线前，需要走完整个引导步骤并测试性能：&lt;/p&gt;
&lt;div class=&#34;highlight&#34;&gt;&lt;div class=&#34;chroma&#34;&gt;
&lt;table class=&#34;lntable&#34;&gt;&lt;tr&gt;&lt;td class=&#34;lntd&#34;&gt;
&lt;pre tabindex=&#34;0&#34; class=&#34;chroma&#34;&gt;&lt;code&gt;&lt;span class=&#34;lnt&#34;&gt;1
&lt;/span&gt;&lt;span class=&#34;lnt&#34;&gt;2
&lt;/span&gt;&lt;/code&gt;&lt;/pre&gt;&lt;/td&gt;
&lt;td class=&#34;lntd&#34;&gt;
&lt;pre tabindex=&#34;0&#34; class=&#34;chroma&#34;&gt;&lt;code class=&#34;language-gdscript3&#34; data-lang=&#34;gdscript3&#34;&gt;&lt;span class=&#34;line&#34;&gt;&lt;span class=&#34;cl&#34;&gt;&lt;span class=&#34;n&#34;&gt;Open&lt;/span&gt; &lt;span class=&#34;n&#34;&gt;the&lt;/span&gt; &lt;span class=&#34;n&#34;&gt;iOS&lt;/span&gt; &lt;span class=&#34;n&#34;&gt;Simulator&lt;/span&gt;&lt;span class=&#34;p&#34;&gt;,&lt;/span&gt; &lt;span class=&#34;n&#34;&gt;launch&lt;/span&gt; &lt;span class=&#34;n&#34;&gt;the&lt;/span&gt; &lt;span class=&#34;n&#34;&gt;app&lt;/span&gt;&lt;span class=&#34;p&#34;&gt;,&lt;/span&gt; &lt;span class=&#34;n&#34;&gt;tap&lt;/span&gt; &lt;span class=&#34;n&#34;&gt;through&lt;/span&gt; &lt;span class=&#34;n&#34;&gt;the&lt;/span&gt; &lt;span class=&#34;n&#34;&gt;onboarding&lt;/span&gt; &lt;span class=&#34;n&#34;&gt;screens&lt;/span&gt;&lt;span class=&#34;p&#34;&gt;,&lt;/span&gt; 
&lt;/span&gt;&lt;/span&gt;&lt;span class=&#34;line&#34;&gt;&lt;span class=&#34;cl&#34;&gt;&lt;span class=&#34;ow&#34;&gt;and&lt;/span&gt; &lt;span class=&#34;n&#34;&gt;tell&lt;/span&gt; &lt;span class=&#34;n&#34;&gt;me&lt;/span&gt; &lt;span class=&#34;k&#34;&gt;if&lt;/span&gt; &lt;span class=&#34;n&#34;&gt;any&lt;/span&gt; &lt;span class=&#34;n&#34;&gt;screen&lt;/span&gt; &lt;span class=&#34;n&#34;&gt;takes&lt;/span&gt; &lt;span class=&#34;n&#34;&gt;more&lt;/span&gt; &lt;span class=&#34;n&#34;&gt;than&lt;/span&gt; &lt;span class=&#34;n&#34;&gt;a&lt;/span&gt; &lt;span class=&#34;n&#34;&gt;second&lt;/span&gt; &lt;span class=&#34;n&#34;&gt;to&lt;/span&gt; &lt;span class=&#34;nb&#34;&gt;load&lt;/span&gt;&lt;span class=&#34;o&#34;&gt;.&lt;/span&gt;
&lt;/span&gt;&lt;/span&gt;&lt;/code&gt;&lt;/pre&gt;&lt;/td&gt;&lt;/tr&gt;&lt;/table&gt;
&lt;/div&gt;
&lt;/div&gt;&lt;p&gt;Claude 会打开模拟器、逐屏点击引导流程，并报告哪些页面出现了明显的加载延迟。&lt;/p&gt;
&lt;hr&gt;
&lt;h2 id=&#34;安全机制&#34;&gt;安全机制
&lt;/h2&gt;&lt;p&gt;Computer Use 拿到的权限涉及屏幕和输入控制，Anthropic 为此设计了多层安全保障：&lt;/p&gt;
&lt;p&gt;&lt;strong&gt;会话级应用授权&lt;/strong&gt;：Claude 每次会话不会默认拥有所有应用的访问权，必须逐个应用手动授权，避免权限扩散。&lt;/p&gt;
&lt;p&gt;&lt;strong&gt;终端窗口隔离&lt;/strong&gt;：Claude 进行屏幕截图时，终端窗口会被自动排除在外，防止通过截图读取 CLI 输出中的敏感内容或植入提示注入攻击。&lt;/p&gt;
&lt;p&gt;&lt;strong&gt;全局 Esc 中止&lt;/strong&gt;：操作进行中随时按下 &lt;code&gt;Esc&lt;/code&gt; 或 &lt;code&gt;Ctrl+C&lt;/code&gt; 即可立即中断所有 GUI 操作，控制权立刻回到用户手中。&lt;/p&gt;
&lt;p&gt;&lt;strong&gt;机器级互斥锁&lt;/strong&gt;：同一台机器同一时刻只允许一个 Claude 会话控制 GUI，多个并行会话不会相互干扰或争抢控制权。&lt;/p&gt;
&lt;hr&gt;
&lt;h2 id=&#34;常见问题排查&#34;&gt;常见问题排查
&lt;/h2&gt;&lt;p&gt;&lt;strong&gt;操作锁被占用&lt;/strong&gt;：提示另一个会话正在控制计算机，需要先结束那个会话再重试。&lt;/p&gt;
&lt;p&gt;&lt;strong&gt;权限提示反复弹出&lt;/strong&gt;：完全退出 Claude Code（不只是关闭窗口），重新启动后再授权。&lt;/p&gt;
&lt;p&gt;&lt;strong&gt;功能菜单中找不到 Computer Use&lt;/strong&gt;：逐一排查——是否运行在 macOS 上、Claude Code 版本是否达到 v2.1.85、当前订阅是否为 Pro/Max、是否使用的是第三方 Claude 服务（第三方不支持此功能）。&lt;/p&gt;
&lt;hr&gt;
&lt;h2 id=&#34;总结&#34;&gt;总结
&lt;/h2&gt;&lt;p&gt;Claude Computer Use 把 AI 的能力从&amp;quot;代码生成&amp;quot;延伸到了&amp;quot;实际操作&amp;quot;，填补了 CLI 与 GUI 之间的鸿沟。对于需要频繁做 UI 验证、跨工具调试或端到端测试的开发者来说，这是一个值得关注的效率工具。&lt;/p&gt;
&lt;p&gt;目前该功能仍处于研究预览阶段，仅限 macOS + Pro/Max 用户使用。如果你满足条件，不妨在下一个需要手工点击测试的场景里试试它——可能会有意外的惊喜。&lt;/p&gt;
&lt;hr&gt;
&lt;h2 id=&#34;参考资料&#34;&gt;参考资料
&lt;/h2&gt;&lt;ul&gt;
&lt;li&gt;&lt;a class=&#34;link&#34; href=&#34;https://code.claude.com/docs/en/computer-use&#34;  target=&#34;_blank&#34; rel=&#34;noopener&#34;
    &gt;Claude Code 官方文档 - Computer Use&lt;/a&gt;&lt;/li&gt;
&lt;li&gt;&lt;a class=&#34;link&#34; href=&#34;https://code.claude.com/docs/en/desktop#let-claude-use-your-computer&#34;  target=&#34;_blank&#34; rel=&#34;noopener&#34;
    &gt;Claude Code Desktop 中的 Computer Use&lt;/a&gt;&lt;/li&gt;
&lt;li&gt;&lt;a class=&#34;link&#34; href=&#34;https://code.claude.com/docs/en/chrome&#34;  target=&#34;_blank&#34; rel=&#34;noopener&#34;
    &gt;Chrome 扩展使用指南&lt;/a&gt;&lt;/li&gt;
&lt;li&gt;&lt;a class=&#34;link&#34; href=&#34;https://code.claude.com/docs/en/mcp&#34;  target=&#34;_blank&#34; rel=&#34;noopener&#34;
    &gt;MCP 服务器配置&lt;/a&gt;&lt;/li&gt;
&lt;li&gt;&lt;a class=&#34;link&#34; href=&#34;https://code.claude.com/docs/en/sandboxing&#34;  target=&#34;_blank&#34; rel=&#34;noopener&#34;
    &gt;沙盒安全机制&lt;/a&gt;&lt;/li&gt;
&lt;/ul&gt;
</description>
        </item>
        
    </channel>
</rss>
