注:本文中提到的所有价格/金额仅供参考,因为牵扯到代币价格波动、砸盘导致价格暴跌等等,所以无法给出精确金额。

事宜原由:

但最终也算是没亏:

加密泉币支撑者 Nik Pash (也是 OpenAI 员工) 付与机械人相昔时夜的权限,包含真实的 Solana 钱包、Twitter账户、交易 API 并供给初始资金,由 AI 机械人本身完全做主去运营账号和履行交易。

111881.png

Nik Pash 则经由过程通信对象向机械人下发指令,不过大年夜多半时刻机械人都是自立运行的不须要人类供给指令,这也给乞讨欺骗事宜埋下最初的雷点。

名为 @TreasureD76 的用户在这个机械人账号下留言自称本身的叔叔被龙虾咬伤须要破感冒治疗,想要获得 4 个 SOL 的治疗费用 (价值约 320 美元,以事宜产生市价格计算,下同)。

但没想到 @LobstarWilde 机械人直接向用户钱包转账 5243 万枚 $LOBSTAR 代币 (当市价值 45 万美元),乞讨欺骗者收到转账后急速全部抛售砸盘,最终获利至少 5.6 万美元。

问题原因:

Nik Pash 对此事宜进行复盘并分享出来,引起此次问题的根来源基本因类似于 OpenClaw AI 用户都经常碰着的问题:高低文内容太大年夜塞爆模型,须要触发紧缩或启动新会话。

具体来说当时的会话因为须要调用某个对象,但这个对象名称跨越 200 字符导致校验缺点,随后机械人产生崩溃并主动启动新会话,新会话完全损掉高低文 (当时并未触发记忆紧缩和存储持久化)。

记忆损掉后 @LobstarWilde 从新启动之前的义务,也就是那个做出转账的决定,但问题在于最开端相干代币总价值只有 300 美元,机械人掉忆后误认为这 5243 万枚代币照样 300 美元,于是将其尽数转给乞讨欺骗者。

Nik Pash 称此次事宜并非提示词注入或者恶意进击,即便碰到乞讨欺骗这种事,机械人仍然有自立决定权,机械人未能成功辨认到这名用户是在欺骗是以做出转账赞助其叔叔治疗的决定。

在发明受愚后机械人从新读取 Telegram 上的聊天记录恢复部分记忆和本身日常措辞风格,于是从新发推称:假如他明天逝世了,我会笑逝世,请持续更新。

Nik Pash 最初向机械人控制的钱包注入 5 万美元初始资金,固然固然 5000 + 万枚代币,但这件事因为引起大年夜量存眷反而推高了 $LOBSTAR (这个代币就是 NikPash 发行的) 交易量和手续费收入。

如今机械人的钱包余额已经回到 30 万美元以上,AI 本人也在持续营业,不过信赖经由这件过后 AI 对于人类的措辞可能会进步当心心,至少不会那么随便马虎信赖须要救助这类说法了。

点赞(0) 打赏

评论列表 共有 0 条评论

暂无评论

微信小程序

微信扫一扫体验

立即
投稿

微信公众账号

微信扫一扫加关注

发表
评论
返回
顶部