01 / THE SIGNAL

我们发现了什么

我们起初用 LLM 生成和维护 Playwright,但很快意识到这些基础构件与智能体化的 SDLC 从根本上不匹配。对于评估器,我们实现了以 LLM 作为评判者(GPT-6.1 Sol),并配有真人审核者。

  • 来源:Hacker News(发现于 2026-11-03)
  • 证据等级:D · 发现产品或需求信号,暂未获得可核验的商业证据。
  • 商业模式:待核验
  • 主题:AI Agent
  • 初筛评分:26.7/100 · 收录 1 次
#工作流自动化#待验证#产品发现
02 / SOURCE & EVIDENCE

证据,比故事更重要。

发现产品或需求信号,暂未获得可核验的商业证据。

规则清洗与初筛,未经人工商业核验。原文语境、实际客户和付费情况仍需自行验证。

引用与数字披露

来源类型(原作者自述/第三方测算/媒体转引)需采集端标注,本版尚未落字段。

短句引用
作者
未标注
抓取日期
来源类型
未标注
数字口径
币种
未标注
口径
未标注
披露主体
未标注
披露日期
未标注

中文辅助译文(全文)

HN 的大家好,我们是 Wei-Wei 和 Jeff。我们正在构建 Momentic,这是一种 QA 智能体,能够自主规划、探索,并对你的 Web、iOS、Android 以及(即将推出的)桌面应用中的控件和用户流程进行集中测试,以捕捉 bug。这里有一个演示:https://youtu.be/BFsM-Se1Fh8 我们都是软件工程师,职业生涯一直从事开发工具和基础设施,曾就职于 Robinhood、Retool、WeWork 和 Qualtrics 等公司。测试一直是个极其痛苦的事(尤其是 Playwright 和 Selenium),所以我们构建了智能体来替我们做这件事。现代软件有大量 bug,而随着编码智能体采用规模扩大,变更失败率只会增长得更快。大语言模型非常擅长生成代码,但会强化自身假设,编写大量无用测试,并且视觉理解能力较差。

在 DeepSWE v1.1 上,Sonnet 5.5 在被禁止编写测试时通过率为 66.2%,而被允许时是 65.3%。Playwright、Selenium 或 Maestro 等开源端到端测试框架迫使你在测试中硬编码 XPath、文本或 aria-* 属性等实现细节。即使借助智能体,构建和维护这些测试也要花费相当多的时间和 token。

2023 年,我们看到 Nat Friedman 通过 natbot 用 GPT-3 驱动浏览器。我们受到启发,想用这项技术来自动化软件工程中最痛苦、最乏味的部分:测试。我们一开始用 LLM 生成和维护 Playwright,但很快意识到这些原语与智能体化 SDLC 从根本上不匹配。我们认为 QA 的未来是智能体自行测试,而不是编写脚本。

Mo 是一个用于捕捉 bug 的定制智能体执行框架,建立在 Momentic 过去 3 年以及来自复杂真实世界应用的数百万条测试轨迹之上。Mo 是为召回率而构建的:它能找到最多的真实 bug,不过 Codex 的精确率略高,为 86% 对 84%。权衡在于成本:Mo 每个 bug 成本为 2.67 美元,而 Codex 为 0.80 美元;这一成本低于 Claude Code 和 Devin。

  • 自组织智能体图。Mo 在探索时构建有向无环图(DAG)。大型产品区域会自动分叉为并行子智能体,每个子智能体都有自己的浏览器或设备,以并发执行。
  • 面向领域特定任务的专用智能体。规划智能体基于截图和视频进行推理,而专门的定位智能体检查页面结构,以解析用自然语言描述的交互目标。其他智能体包括图像分析、视频理解、音频生成等。
  • 并行智能体通过协作式资源租约进行协调。智能体可以声明它们正在“使用”或“修改”重叠的资源或测试夹具。多个“使用”声明可以共存,但在任何特定资源或夹具上,只能有一个“修改”声明处于活动状态。
  • 可扩展的基础设施。Mo 附带一个隧道,让用户可以将私有站点和本地应用暴露给我们托管的智能体和基础设施。一次集中找 bug 活动可以启动数百个并发浏览器和设备。

我们在 4 个热门开源应用上对 Mo 与编码智能体进行了基准测试:Gitea(58.8k 星标)、Metabase、Twenty(YC)和 Saleor,共有 1,396 个人工标注的 bug。每个智能体都获得了相同的任务简报、一个全新的 E2B 沙盒,且无法访问源代码。Codex 和 Claude Code 使用托管的 Browserbase 浏览器,而 Devin 使用其内置浏览器。对于评估器,我们实现了 LLM 作为评判者(GPT-6.1 Sol),并配有真人评审。限时 60 分钟运行的结果:

  • Mo:269 个 bug,19.3% 召回率,84% 精确率,每个 bug 2.67 美元
  • Codex(GPT-6.1 Sol + Playwright MCP):86 个 bug,6.2% 召回率,86% 精确率,每个 bug 0.80 美元
  • Claude Code(Opus 5.5 + Playwright MCP):59 个 bug,4.2% 召回率,80% 精确率,每个 bug 4.09 美元
  • Devin:27 个 bug,1.9% 召回率,84% 精确率,每个 bug 3.89 美元

Mo 拥有的时间越多,找到的 bug 就越多。从 30 分钟到 60 分钟,它从 177 个 bug 增至 269 个(+52%),而 Codex 仅增长 16%。

结果:https://momentic.ai/qa-bench 文章:https://momentic.ai/blog/qa-bench 数据集:https://huggingface.co/datasets/momentic/qa-bench Harness:https://github.com/momentic-ai/qa-bench

我们刚刚发布了针对 Vercel 和 Cloudflare 部署预览的 PR 测试,并且我们为每个新注册用户提供 250 美元的 Mo 使用额度。付费计划拥有更高的基础设施容量和包含的使用额度,并提供充值选项。我们很希望你们试用并提供反馈。欢迎在这里留言,我们全天都会在线!

译文由上游机器翻译生成,可能有误;判断请以英文原文为准。

英文原文(来源本站未改写)

Hey HN, we’re Wei-Wei and Jeff.We’re building Momentic, QA agents that autonomously plan, explore, and bug-bash controls and user flows in your web, iOS, Android, and (soon) desktop apps to catch bugs.Here’s a demo: https://youtu.be/BFsM-Se1Fh8 We’re both software engineers that spent our careers on dev tooling and infra across companies like Robinhood, Retool, WeWork, and Qualtrics.Testing was always a pain in the ass (esp Playwright and Selenium), so we built agents to do it for us.Modern day software has a ton of bugs and the change failure rate is only growing faster as coding agent adoption scales.

LLMs are really good at generating code, but reinforce their own assumptions, write a ton of useless tests, and are bad at visual understanding.On DeepSWE v1.1, Sonnet 5.5 hit 66.2% pass rate when banned from writing tests, versus 65.3% when allowed.OSS end-to-end testing frameworks like Playwright, Selenium, or Maestro force you to hardcode implementation details like XPath, text, or aria-* attributes in your tests.Even with agents, these take a nontrivial amount of time and tokens to build and maintain.In 2023, we saw Nat Friedman drive a browser with GPT-3 via natbot.We were inspired to use this technology to automate the most painful and tedious parts of software engineering: testing.

We started with using LLMs to generate and maintain Playwright, but quickly realized that those primitives were fundamentally misaligned with the agentic SDLC.We think the future of QA is agents testing themselves, not writing scripts.Mo is a custom agent harness for catching bugs that builds on the past 3 years of Momentic and millions of test traces from complex, real-world applications.Mo is built for recall: it finds the most real bugs, though Codex is a bit more precise at 86% vs 84%.The tradeoff is cost: Mo costs $2.67 per bug vs $0.80 for Codex, less than Claude Code and Devin. - Self-organizing agent graph.Mo builds a directed acyclic graph (DAG) as it explores.

Large product areas automatically fork into parallel sub-agents, each with their own browser or device for concurrent execution. - Specialized agents for domain specific tasks.Planner agents reason over screenshots and video while dedicated locator agents inspect page structure to resolve plain-English interaction targets.Others include image analysis, video understanding, audio generation, and more. - Parallel agents coordinate through cooperative resource leases.Agents can announce that they’re “using” or “modifying” overlapping resources or fixtures.Multiple “using” claims can coexist, but only a single “modifying” claim can be active on any particular one. - Scaled infrastructure.

Mo ships with a tunnel that lets users expose private sites and local apps to our hosted agents and infra.A single bug bash can spin up 100s of concurrent browsers and devices.We benchmarked Mo against coding agents on 4 popular open-source apps: Gitea (58.8k stars), Metabase, Twenty (YC), and Saleor, with 1,396 human-labeled bugs.Each agent got the same brief, a fresh E2B sandbox, and no access to source code.Codex and Claude Code used hosted Browserbase browsers, while Devin used its built-in browser.For evaluators, we implemented LLM as a judge (GPT-6.1 Sol) with a human reviewer.

Results from a time-boxed 60-minute run: - Mo: 269 bugs, 19.3% recall, 84% precision, $2.67 per bug - Codex (GPT-6.1 Sol + Playwright MCP): 86 bugs, 6.2% recall, 86% precision, $0.80 per bug - Claude Code (Opus 5.5 + Playwright MCP): 59 bugs, 4.2% recall, 80% precision, $4.09 per bug - Devin: 27 bugs, 1.9% recall, 84% precision, $3.89 per bug Mo finds more bugs the more time it has.From 30 to 60 minutes, it went from 177 to 269 bugs (+52%), while Codex gained only 16%.

Results: https://momentic.ai/qa-bench Write-up: https://momentic.ai/blog/qa-bench Dataset: https://huggingface.co/datasets/momentic/qa-bench Harness: https://github.com/momentic-ai/qa-bench We just shipped PR testing for Vercel and Cloudflare deploy previews and we’re giving every new signup $250 in Mo spend.Paid plans have higher infra capacity and included usage along with options to top up.We’d love for you to try it out and give us feedback.Feel free to comment here, we’ll be around all day!

出处https://momentic.ai抓取日期 · 采集源 Hacker News

03 / EVIDENCE GAPS

这条还缺什么证据?

下面每条都由本条已有字段推出(等级、理由、商业模式、来源次数、是否演示), 本站不生成推测性结论;通用验证方法放在方法论页。

  • 可核验的收入或付费证据查官网定价页与付费口径;第三方数据源(如 GetLatka)只作旁证,需标注来源与时点。
  • 商业模式未定确认按席位/按用量/授权还是开源托管版收费;开源项目另查 LICENSE 与是否存在付费版。
  • 只有单一来源找一手站点或其他渠道是否重复出现同一产品;社区热帖数量不等于商业进展。

通用验证清单(谁有这个问题/谁愿意付费/一个人能交付哪一小步)见我们的筛选方法。

04 / SIGNAL HISTORY

发现时间线