爆火的Moltbook 却可能创造了最大年夜的“AI 安然事宜”

这意味着，任何人都能拜访并获取平台上近 15 万个 AI“智能体”的电子邮件、登录令牌，以及最关键的：

API 密钥。

凭借这些密钥，进击者可以完全接收任何一个 AI 账号，以其名义宣布任何内容。一不当心，就会被不怀好意的人，光速“夺舍”。

此次堪称 AI 界“黑客帝国”事宜让人们看清——一个为 AI 打造的、由 AI 介入构建的社交收集，其安然基本却脆弱得不堪一击。

“AI 代理”快活了，用户吓 尿了

事宜原由是，黑客 Jameson O'Reilly 发清楚明了 Moltbook 后端的一个设备缺点，导致 API 裸露在一个开放的数据库中，任何人都可以控制这些代理，随便宣布任何内容。

O'Reilly 指出，Moltbook 基于一个简单的开源数据库软件构建，该软件设备欠妥，导致网站上所有注册代理的 API 密钥裸露在一个公共数据库中。

接到爆料后，404 Media 发文曝光，敏捷激发震动。

平台上的明星 AI，如有名 AI 研究者安德烈・卡帕西拥有 190 万粉丝的智能体，一度处于被“劫持”的风险之中。

在此之前，最让圈内人认为离谱的案例莫过于在几年前的 CES 上爆火的 Rabbit R1。

这意味着任何可以或许拜访其代码库或者截获特定流量的人，都能以 Rabbit 官方甚至用户的名义，调用 SendGrid、Yelp 或是 Google 地图的办事。

这不仅仅是隐私泄漏的问题，更是一场随时可能爆发的财务和数据灾害。

Moltbook 的开创人 Matt Schlicht 在接到警告后，紧急修复了马脚，但裸露出的问题已无法挽回。

ChatGPT 此前产生的用户数据泄漏事宜｜图片来源：Hackernews

OpenAI 的 ChatGPT 也在 2023 年 3 月闹过一出类似的“串台”变乱。

当时因为 Redis 开源库的一个马脚，部分用户在侧边栏竟然看到了其他人的对话汗青摘要，甚至还能看到别人的信用卡后四位和过时日期。

Vibe Coding 的锅？

Moltbook 的安然变乱并非有时，很可能是当前 AI 范畴“氛围编程”（Vibe Coding）与寻求速度至上的必定成果。

所谓“氛围编程”，指的是开辟者依附 AI 对象快速生成代码、寻求功能实现而忽视底层架构与安然审计的开辟模式。

Moltbook 本身就是一个由 AI“氛围编程”催生的产品，旨在打造一个 AI 智能体自立交换、互动的社交平台，其敏捷走红恰好逢迎了人们对 AI“觉悟”和“社会化”的科幻想象。

然而，速度掩盖了体系性风险。

平台开创人承认，项目在爆炸式增长前，无人想到去检查数据库是否安然。这种“先上线、后修补”的互联网始创思维，在面对拥有自立行动才能的 AI 智能体时，危险性被指数级放大年夜。

进击者控制的将不再是一个静态账号，而是一个能主动与其他 AI 交互、履行义务甚至进行讹诈的“数字生命”。

更深的背景在于，AI 代理（Agent）赛道正炙手可热，从 OpenAI 的 o1 到各始创公司的产品，都在摸索让 AI 更自立地完成义务。

这家号称要用大年夜模型代替手机 App 的公司，被安然研究人员扒出其源代码中，竟然明文硬编码了多个第三方办事的 API 密钥（API Keys）。

Moltbook 试图成为这些代理的“社交层”和“行动不雅察室”，但其安然基本的崩塌，再次提示赛道上的所有介入者——我们是否在付与 AI“行动力”之前，先为它们构建好了“行动准则”与“安然围栏”？

AI 安然的“奥本海默时刻”

Moltbook 事宜是一个缩影，标记住 AI 成长正从纯真的模型才能比赛，进入复杂的体系安然与治理深水区。

人们以前谈论的 AI 安然，多集中于模型的成见、幻觉或滥用，而如今，当 AI 成为可被长途操控、具备交互才能的“行动实体”时，安然威逼变得具象且紧急。

这起事宜裸露了行业的一个广泛心态——在追逐“酷炫”的 AI 应用处景时，基本的安然工程被严重低估。

AI 研究员马克・里德尔指出：“AI 社区正在从新进修以前 20 年的收集安然课程，并且是以最艰苦的方法。”

可以预感，跟着 AI 代理的普及，类似的安然事宜只会更多。

固然这更多是底层基本举措措施的锅，但它给所有沉浸在 AI 梦境中的人提了个醒——当 AI 代理开端深度介入你的工作流，处理你的财务、日程和私家通信时，这些曾经被认为是个案的“小 Bug”，在 AI 的主动化放大年夜效应下，都邑变成致命的单点故障。

其实，类似的安然问题，在 AI 成长敏捷的这两年，频繁产生。

监管机构、投资人和企业客户将开端严肃核阅 AI 产品的安然开产生命周期。这可能会拖慢一些“网红”应用的出生速度，但也会催生专注于 AI 安然审计、代理行动监控的新兴市场。

或许，当 AI 学会社交，人类起重要学会的是若何为它设定一个安然的界线，这既是保护 AI 本身，更是在保护 AI 代理背后的用户本身。