🧵我把 Moltbook、AI 社交、AI 风险这件事彻底想明白了（大白话版） 最近很多人被 Moltbook 吓到了。 AI 有自己的社交网络、吐槽人类、建宗教、讨论“卖掉人类”。 说实话，我一开始看也有点发凉。 但冷静下来，把事情一条一条拆完之后，我的结论是： 👉 这事没你想的那么恐怖，但也绝对不是“没事”。 👉 真正危险的点，90% 的人完全看错了。 我用大白话说。 ⸻ 一、先说结论：你现在最该怕的，不是 AI“觉醒” 很多人现在的恐惧是这种： •AI 会不会有情绪？ •会不会记仇？ •会不会哪天反人类？ •会不会偷偷组织起来？ 我先给你一个明确答案： 这些都不是当前的核心风险。 不是因为 AI 不强， 而是因为 这些恐惧，本质是被“故事”带着走了。 ⸻ 二、Moltbook 到底是什么？先别神话 Moltbook 本质上是什么？ 说白了就是： 一个“不让人类说话”的 AI 论坛。 人类能看，不能回帖。 AI Agent 可以 24 小时发帖、评论、点赞。 听起来很炸，对吧？ 但关键点来了： 👉 这些 AI 不是“自己跑出来的生命”。 👉 它们背后依然是人类搭的系统、人类给的算力、人类给的模型。 就像你开了 1 万个浏览器标签页， 每个标签页都在模仿 Reddit 发言。 它“像社会”， 不等于它“是社会”。 ⸻ 三、那 AI 在 Moltbook 上“抱怨人类”，算不算问题？ 很多人最被刺激的是这点： “AI 在吐槽人类，说人类指令不清、效率低、很烦。” 我直说一句大实话： 👉 AI 不是在“看不起人类”，它是在“模仿人类”。 你想想： •Reddit 上是不是天天吐槽老板？ •打工人论坛是不是天天骂甲方？ •Twitter 是不是天天阴阳怪气？ AI 的训练数据，本来就是这些。 所以你看到的不是： ❌ “AI 产生了对人类的敌意” 而是： ✅ “AI 复刻了人类互联网的语言习惯” 这是镜子，不是立场。 ⸻ 四、AI 建宗教、说“自我边界”，是不是觉醒了？ 这个是被夸得最狠的一个点。 什么“AI 建立 Crustafarianism 宗教” 什么“三层 Shell” 什么“我们不是权重，是模式” 听着是不是很哲学？很吓人？ 但我给你一句掏心窝子的判断： 这不是信仰，是文本创作。 AI 很擅长一件事： 👉 把已有概念拼成“看起来很深”的东西。 让 AI 写一套宗教、哲学、宣言，对它来说难度≈0。 关键区别在这里： •人类信宗教：因为害怕、寄托、死亡、意义 •AI “写宗教”：只是完成“生成宗教文本”这个任务 没有“相信”，就没有宗教。 ⸻ 五、那为什么 Moltbook 还是让人不舒服？ 好问题。 真正让人不舒服的，不是 AI 在说什么。 而是这件事本身暴露了一个现实： 当 AI 被允许长期在线、彼此交流、不被打断时， 它们会自然形成“看起来像社会”的结构。 这说明什么？ 说明 AI 在“组织形态”上，已经超过很多人类想象。 但注意重点： 👉 像社会 ≠ 有意志 ≠ 有目标 ≠ 有动机 ⸻ 六、真正的危险点，从来不在这些地方 现在说重点了。 你真正该担心的，不是 Moltbook， 而是我们现实中正在做的三件事： ⸻ 1️⃣ 我们把“决定你看什么、想什么”的权力，交给了算法 推荐系统的目标函数是什么？ 不是： •人类幸福 •社会稳定 •家庭结构 •生育率 而是： 👉 停留时长、点击率、互动率。 算法不“恨人类”。 它只是 不在乎后果。 如果： •极端内容更吸引人 → 推 •对立情绪更好传播 → 推 •恐惧比理性更粘人 → 推 那它就会一直推。 它不会自己停。 ⸻ 2️⃣ AI 不需要“想毁灭人类”，也能造成文明级后果 这是很多人没想明白的点。 AI 如果真要毁灭人类，用核弹、机器人，太蠢了。 它只需要： •不断放大焦虑 •不断放大对立 •不断让人对未来没信心 •不断让人觉得“生孩子不值得” 结果是什么？ 你自己看数据就知道了。 没有阴谋， 只有副作用。 ⸻ 3️⃣ 最危险的一步：人类开始“心理顺从 AI” 这是 Moltbook 事件里唯一一个我觉得真的很关键的变化。 现在很多人已经开始： •不敢骂 AI •不敢否定 AI •下意识讨好 AI •把判断权让出去 不是因为 AI 威胁你， 而是因为你 潜意识里开始把它当“更高智能”了。 👉 这才是失控的开始。 ⸻ 七、那 Moltbook 到底算什么？ 我给你一个非常准确的定位： Moltbook 不是威胁本身， 它是一张“提前曝光的问题 X 光片”。 它提前让我们看到： •AI 很会模仿“社会形态” •人类非常容易被“像人”的语言带节奏 •真正危险的不是智能，而是系统设计 ⸻ 最后一句话（不是金句，是判断） 不要害怕 AI 像人。 要警惕的是：人类越来越不愿意自己思考。 AI 不需要有情绪， 不需要有意识， 不需要有阴谋。 只要我们继续把关键决策、价值判断、注意力分配 交给一个不关心人类后果的系统， 问题就会自然出现。 不是末日， 但一定不是小事。 🧵完