GoForum🌐 V2EX

现在是不是到了给 AI 底层植入类似机器人三定律之类东西的时候了?

xFrank · 2026-02-25 14:57 · 0 次点赞 · 4 条回复

另外,这个从技术上有可能实现么?

4 条回复
momocraft · 2026-02-25 15:02
#1

路会很长, 现在的 LLM 连指示和数据都不区分

sddyzm · 2026-02-25 15:02
#2

目测不可能,只能给像人一样的环境上的物理限制

dobelee · 2026-02-25 15:02
#3

看看最近 openai 、claude 、grok 、openclaw 的各种争议和官司,你觉得有可能吗? 现在的 AI 也无法准确判断,比如昨天 openclaw 删库的事件。

另外,即使 AI 最终彻底解决幻觉,也难以做到三定律。 如电车难题和罐中脑。为了执行<不让人类受到”任何”伤害>,而囚禁保护人类,是否合理。

cmdOptionKana · 2026-02-25 15:02
#4

看了原著,这个设定本身就是自相矛盾的,是很巧妙的小说技巧,可以让故事很有趣,但这个在现实中是没有意义的。

添加回复
你还需要 登录 后发表回复

登录后可发帖和回复

登录 注册
主题信息
作者: xFrank
发布: 2026-02-25
点赞: 0
回复: 0