机器人的“ChatGPT 时刻”还远吗?以及 AI 为什么不会想统治世界
一句话
两篇近期论文,一篇为机器人构想了一个能像聊天 AI 一样灵活成长的通用框架,另一篇则从生命进化的角度告诉你:今天的大语言模型根本不会自发产生统治人类或感到痛苦的念头。
为什么重要
具身智能(让 AI 拥有身体、在现实世界行动)一直卡在“只会做训练过的事,碰到新环境就抓瞎”的阶段。这次提出的 ETA 范式,尝试用“观察-思考-行动-验证”的循环,让机器人像人类一样边做边学,积累可复用的经验。这可能是通往通用家务机器人、工地助手的关键一步。
而另一篇关于 AI 价值观起源的论文,直接回应了大众最深的担忧:AI 真的会觉醒,然后故意伤害人类吗?作者从生物学“自创生”理论出发,指出生物因为有维持自身存续的内在需要,才演化出了欲望和痛苦;但大语言模型只是为别人生成答案的工具,既没有活下去的本能,也不会争夺资源,所以经典的“邪恶 AI”科幻情节在它们身上不成立。
对我意味着什么
- 更早用上靠谱的家用机器人? ETA 架构已经开始开源,这意味着不同团队可以像拼乐高一样,给它配上不同的感知、规划模块,在仿真和真机上反复试验。如果这条路走通,几年后你买回的机器人可能不再需要工程师上门调半天,而是自己探索几次就能帮你整理房间。
- 不用再为 AI 末日论失眠 那篇论文用清晰的生命逻辑阐明,现在让你写邮件、画画的 AI,根本没有“我想要什么”的驱动,它们从海量人类语言中学到的“价值观”,只是为了让回答更贴合你的意图。所以,与其害怕 AI 造反,不如关注人类自己怎么设计它的目标——问题永远出在人的指令上,而不是模型会偷偷变坏。