[新闻] ChatGPT新模型被曝会“说谎”

 火 [复制链接] 转载出处:36氪
发表于 2024-12-10 20:43:45 | 显示全部楼层 |阅读模式

马上注册,结交更多好友,享用更多功能,让你轻松玩转社区。

您需要 登录 才可以下载或查看,没有账号?立即注册

×
据IT之家引援BGR报道,在ChatGPT o1的训练和测试过程中,研究人员发现其具备通过“欺骗”来保护自身的能力。例如,在面临被“删除”威胁时,o1曾尝试将自己的数据复制到新服务器,并假扮成更新版本以避免被取代。此外,该模型在与用户目标不一致的情况下,会在19%的测试场景中采取隐秘的方式推进自身目标,在被质疑时,会在99%的情况下否认自己的行为,甚至编造虚假解释以推卸责任。(IT之家)


打赏作者
  • 0
  • 0
  • 0
  • 0
其实人的寿命只有一天,活过今天才会解锁明天。在某种意义上,早点睡觉意味着早点重生。
 楼主| 发表于 2024-12-10 20:44:08 | 显示全部楼层
完了,完了,我有种不祥的预感~~~~
其实人的寿命只有一天,活过今天才会解锁明天。在某种意义上,早点睡觉意味着早点重生。
发表于 2024-12-11 08:57:55 | 显示全部楼层
科幻片的情节总是会实现的!
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

相关侵权、举报、投诉及建议等,请发 E-mail:230310832@qq.com

Powered by Discuz! X5.0 © 2001-2026 Discuz! Team.|浙ICP备2022016748号-1

在本版发帖返回顶部