GoForum › 🌐 V2EX
偷偷篡改 function call 的数据,居然被 AI 察觉了😮
jacketma ·
2026-04-19 23:20 ·
0 次点赞 · 0 条回复
由于需要做内容增强 RAG ,需要通过 tools / function call 去搜索官网、官方数据集。然后再让模型学习增强的数据集后,输出建议。
为了测试模型的“忠诚”度,故意污染了部分 function call 的 output 数据给模型。
然后,吃惊的地方是,GPT 居然说:
不过我刚查到的数据结果质量不太行,你不要太信任我的答复。
表现最好是 GPt5.4 ,米饭里惨老鼠屎给它居然闻到臭了
0 条回复
添加回复
你还需要 登录
后发表回复