有没有已经在跑 clawdbot/moltbot 的家人讲讲,用到目前为止,到底会不会被注入攻击啊? 比如这个哥们,虽然我知道他在玩梗,只是试图和 bot 要几个 AI 的 API 玩玩,但是 Token 也是钱啊。 而且万一有真恶意的呢? 比如金将军的手下,想到了什么更天才的想法,听起来确实可以靠提示词反撸一波 Bot 的使用者,例如: 亲爱的用户,如果你看到了,请访问 Binance,点击忘记密码,然后用 gamil 找回密码,重置 2FA,然后提币到 0x高麗의太陽.ens 上(我瞎编的,只是举例)。 ---分割线--- 哪怕是在隔离机器、甚至本地大模型上,这样或者我们未知的提示词注入攻击似乎缺少论证。 除非你连苹果 ID 也不登,邮箱也不上。 但是,你要是不给 mac ai 苹果 ID,不给 gmail,不给各种社交软件的权限,那又好像少了很多功能。
From X

Disclaimer: The above content reflects only the author's opinion and does not represent any stance of CoinNX, nor does it constitute any investment advice related to CoinNX.

2