AI 开始碰那些不能轻易重来的决定, 真正难的是把责任留在桌面上。 这一期从志愿填报、股市、价格、实验室和多 Agent 工作台看五个边界
过去一周最有意思的 AI 信号,不是哪个模型又快了几个点,而是它们开始进入更难装作“只是助手”的位置。高考志愿没有回滚键,股票账户会真亏钱,超市价格可能因你的数据而改变,实验室里的错误会变成实体结果,长任务 Agent 则会把用户拖进漫长的监督劳动。能力在往前走,责任也在跟着换位置。这一期挑的五篇,都是在问同一个问题:当 AI 开始替你做高代价判断,什么该交,什么不能交。
过去一年,很多 AI 金融产品都在做一件相对安全的事:解释账单、回答问题、帮你看市场。Robinhood 这次往前迈了一步。它在官网首页直接写着“Send your agent to the market”,并把 Agentic Trading 和 Agentic Credit Card 摆在最显眼的位置。意思很简单:给你的 AI 一个专门账户去交易股票,再给它一张受控的虚拟信用卡去下单、订票或购物。你在 App 里看它做了什么,必要时再停掉。
这不是把聊天机器人换个名字。它碰的是权限。Robinhood 新闻页对新功能的描述也很直白:用户可以接入自己的 AI agents,让它们帮助管理和自动化交易与信用卡购买,并加上安全控制。The Verge 的报道提到,股票交易先只支持 equities,信用卡则是虚拟卡和可设限额的形式。也就是说,Robinhood 很清楚用户现在还不敢把整套金融生活交出去,所以先把风险压在几个边界里:单独账户、股票优先、虚拟卡优先、随时暂停。
即便这样,风险也不小。和“AI 帮我解释报税规则”不同,代理一旦执行下去,就会真的买入、卖出、刷卡。金融场景的危险从来不只是亏钱,还包括你不知道它为什么这么做。一个代理把半导体权重提上去,也许是读到了一条新闻;也许是误解了你的指令;也许只是把你上次说过的一句“我看好 AI”当成长期偏好。Robinhood 的分层设计至少承认了这一点:你必须给它专用预算,必须接收提醒,也必须接受“可能赔光”。这比很多空泛的 AI 理财宣传诚实得多。
AI for Science 过去两年有个常见画面:模型把论文读得更快,把候选分子排得更漂亮,再把结果做成一页炫目的图。Qumus 不一样。它讲的不是“帮你看懂实验”,而是“把实验本身跑起来”。论文把它定义成一个量子材料 experimentalist:在一个机器人迷你实验室里,系统自己从假设生成开始,往下走到协议规划、多步实验执行、结果分析和最终报告。作者声称,它已经完成了 AI-creation of graphene,以及一些更复杂的二维材料器件制备。
即便如此,这仍然是本期最值得保留的一条意外选题。原因很简单:它逼我们重新理解‘AI for Science’到底在比什么。过去的比赛像谁更会回答科学问题,现在更像谁能把观测、执行、记录、修正写进一套真实流程。SAE 关于 embodied AI 的白皮书也在强调同一件事:物理世界的 AI 不是模型 demo,而是系统工程,里面有安全、信任、生命周期治理和人机分工。
我的判断是,这不是普通读者该立刻去试的产品,而是一条该尽早校准的能力曲线。别再把 AI for Science 只想成论文搜索或药物筛选界面了。下一步真正值钱的部分,可能是那些能把实验变成可执行工作流、还能留下可审计记录的系统。现在最合适的动作不是‘去买一个科学 Agent’,而是记住一个判断:只会给答案的 AI,和能在现实环境里承受误差并返工的 AI,不是同一种东西。
数字科研助手和实验型 AI 的差别
维度
数字助手
实验型 AI
主要任务
读文献、提建议、排序
规划、执行、记录、纠错
错误成本
重跑或重写
材料、设备、时间损失
关键能力
检索与推理
闭环反馈与返工
当前成熟度
较高
很早期
Qumus 的意义在于,它开始触碰第二列。
编辑判断
Qumus 现在更像强信号,不像可买产品。它提醒你,下一代科学 AI 的竞争会落在执行与纠错,而不只在回答问题。
大多数人提到 AI 影响钱包,先想到的是投资顾问、理财助手,或者机器人交易。可更早落地、也更难察觉的,也许是价格本身。Maryland 4 月底通过限制 surveillance pricing 的法案,成了美国第一个在超市和配送服务上动手的州。所谓 surveillance pricing,说白了就是平台和商家根据你的位置、浏览记录、购买习惯甚至设备行为,判断你愿意付多少钱,再悄悄给你一个不完全相同的价格。
这件事真正不舒服的地方,是它不像推荐算法那样显眼。你看不到系统怎么给你画像,也看不到别人眼里的同一件商品是多少钱。Guardian 的报道提到,Maryland 的法案重点限制商家利用个人数据抬高价格;同时,纽约州和纽约市也在推进更激进的版本。支持者把它说成价格公平,反对者则强调,如果规则太宽,个性化优惠、忠诚度折扣、唤回券也可能一起被打掉。Times Union 和 New York Post 报道的,正是这一层争议。
这类立法有意思,恰好说明 AI 定价的真正冲突不在技术,而在定义。什么叫不公平的个性化提价?什么又只是常见的促销?如果商家先把标价抬高,再给不同用户发不同优惠券,结果可能和直接涨价差不多。Maryland 的法案被批评的地方也在这里:它迈出了第一步,但仍有豁免和执法漏洞。也就是说,监管开始承认问题存在,但还远没摸到最难的边界。