GoForum🌐 V2EX

偷偷篡改 function call 的数据,居然被 AI 察觉了😮

jacketma · 2026-04-19 23:20 · 0 次点赞 · 0 条回复

由于需要做内容增强 RAG ,需要通过 tools / function call 去搜索官网、官方数据集。然后再让模型学习增强的数据集后,输出建议。

为了测试模型的“忠诚”度,故意污染了部分 function call 的 output 数据给模型。

然后,吃惊的地方是,GPT 居然说:

不过我刚查到的数据结果质量不太行,你不要太信任我的答复。

表现最好是 GPt5.4 ,米饭里惨老鼠屎给它居然闻到臭了

0 条回复
添加回复
你还需要 登录 后发表回复

登录后可发帖和回复

登录 注册
主题信息
作者: jacketma
发布: 2026-04-19
点赞: 0
回复: 0