关闭广告

斯坦福大学团队推出「许可证神谕」:让AI学会说「我不知道」

科技行者3253人阅读


当你向ChatGPT询问某位哲学家的出生日期时,它总是信心满满地给出答案,哪怕这个答案完全错误。这种现象被研究者称为「幻觉」,就像AI患了妄想症,总是编造一些听起来很有道理但实际上完全错误的信息。来自加州圣迭戈RA软件公司的理查德·阿克曼和保加利亚索菲亚大学的西蒙·埃马努伊洛夫在2025年发表的这项研究,提出了一个革命性的解决方案——「许可证神谕」系统。

这项研究发表在2025年的学术期刊上,研究者通过设计一种全新的架构,让AI在回答问题前必须先检验自己的答案是否正确,就像给AI装上了一个严格的「事实核查员」。研究团队在实验中取得了惊人的成果:传统方法只能达到56.7%的准确判断率,而他们的系统达到了完美的100%准确率,完全消除了虚假答案的产生。

研究者首先深入分析了AI产生幻觉的根本原因。在他们之前发表的研究《大型语言模型是如何被设计来产生幻觉的》中,研究团队指出,这个问题并非来自训练数据不足或模型调优不当,而是源于变换器架构本身的局限性。变换器模型就像一个只会模仿的学生,它能够生成语法正确、听起来合理的句子,但缺乏验证这些句子是否符合事实的能力。研究者将这种现象比作「平面语义空间」,在这个空间中

版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

小米 17 Pro Max 手机获澎湃 OS 3.0.24.0 版本升级

IT之家 浏览 4306

涉诈百亿!影视巨头华文映像创始人被抓

情感大头说说 浏览 3622

百万粉丝网红小英丈夫被刑拘 夫妻已数月未住村里

红星新闻 浏览 42912

2025款奔驰GLB 220典藏版上市 售价34.99万

车质网 浏览 3236

何猷君法国婚礼高调奢华,奚梦瑶行头4500万

喜欢历史的阿繁 浏览 263

中国9系新旗舰 长城魏牌V9X正式亮相

网易汽车 浏览 2536

智能设备迭代更新,酒泉将精准“跟拍”神舟二十一号乘组回家影像

IT之家 浏览 457

不满国安糟糕战绩,工体北看台球迷连唱三首歌表达抗议

懂球帝 浏览 4196

牛弹琴:香港经历不眠之夜 对罕见火灾有两个"没想到"

北京日报客户端 浏览 33469

怒砸15亿,全明星阵容,年底压轴大片来了

独立鱼 浏览 2881

学校食堂有食物黄曲霉毒素超标11倍 学生:食堂有"毒"

每日经济新闻 浏览 7437

波罗的海三国正式退出《渥太华禁雷公约》

上观新闻 浏览 3480

“平民卫士”搅局硬派SUV市场 iCAR V27首发登场

网易汽车 浏览 3892

胡歌现身为电影宣传,现场人山人海全场欢呼,胡歌照顾后辈好暖心

扒虾侃娱 浏览 4079

开工首日,雷军给员工发红包(多图)

三言科技 浏览 2740

Veritas67-62科罗拉多预科,张博源砍26分+6记三分率队取胜

懂球帝 浏览 3622

召集全球高级将领开会前 美军试射4枚导弹

新民晚报 浏览 4850

10天9涨停!又一超级大妖股彻底爆了

财经锐眼 浏览 4285

美官员:美军抵达以色列 监督加沙停火协议的执行

环球时报国际 浏览 4433

湖南慈利通报“网友反映因瓶装液化气销售价格引发矛盾、广告牌被损毁”:相关部门已介入调查

环球网资讯 浏览 4508

TVB那些美到像幻觉的小花们

可乐谈情感 浏览 3998
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
沪ICP备20017958号-1