关闭广告

斯坦福大学团队推出「许可证神谕」:让AI学会说「我不知道」

科技行者1657人阅读


当你向ChatGPT询问某位哲学家的出生日期时,它总是信心满满地给出答案,哪怕这个答案完全错误。这种现象被研究者称为「幻觉」,就像AI患了妄想症,总是编造一些听起来很有道理但实际上完全错误的信息。来自加州圣迭戈RA软件公司的理查德·阿克曼和保加利亚索菲亚大学的西蒙·埃马努伊洛夫在2025年发表的这项研究,提出了一个革命性的解决方案——「许可证神谕」系统。

这项研究发表在2025年的学术期刊上,研究者通过设计一种全新的架构,让AI在回答问题前必须先检验自己的答案是否正确,就像给AI装上了一个严格的「事实核查员」。研究团队在实验中取得了惊人的成果:传统方法只能达到56.7%的准确判断率,而他们的系统达到了完美的100%准确率,完全消除了虚假答案的产生。

研究者首先深入分析了AI产生幻觉的根本原因。在他们之前发表的研究《大型语言模型是如何被设计来产生幻觉的》中,研究团队指出,这个问题并非来自训练数据不足或模型调优不当,而是源于变换器架构本身的局限性。变换器模型就像一个只会模仿的学生,它能够生成语法正确、听起来合理的句子,但缺乏验证这些句子是否符合事实的能力。研究者将这种现象比作「平面语义空间」,在这个空间中

版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

强脑科技:预计未来3-5年多款脑机接口产品获得医疗器械注册证

澎湃新闻 浏览 1410

含奕派007/奕派008等 东风奕派限时权益至高减6000元

网易汽车 浏览 1013

电商助力 四川会东石榴从深山走向全国市场

封面新闻 浏览 3441

关键时刻伊朗欧盟关系生波澜 欧盟"站队"美以惹怒伊朗

澎湃新闻 浏览 3887

相恋6年"军官女友"收60余万后消失 警方证实其已落网

红星新闻 浏览 19637

“比特币富婆”钱志敏在英国认罪,6.1万枚比特币市价已达493亿元,赃款归谁?

红星新闻 浏览 2588

北京现代EO 羿欧将于10月16日正式开启预售

车质网 浏览 2884

李刚仁:很高兴代表巴黎出战100场比赛,希望继续保持状态

懂球帝 浏览 2556

媒体:中美元首会晤让赖清德坐立不宁、寝食难安

环球时报新闻 浏览 13539

微胖女孩冬天怎么穿衣?看看这27套冬季穿搭LOOK,保暖又显瘦

静儿时尚达人 浏览 1954

无论女人多大年纪,秋天都要准备几件“针织衫”,温柔舒适

静儿时尚达人 浏览 2590

从一秒起身的机器人到降本80%的数据,鹿明机器人破解具身机器人智能化困境

雷峰网 浏览 1766

牛弹琴:美印突然和好 一个与俄方有关的细节很不寻常

现代快报 浏览 4989

年龄差19岁,这对姐弟恋又给内娱上了一课!

伊周潮流 浏览 2107

61岁朱军近况曝光!扎根甘肃成治沙“老把式”

代军哥哥谈娱乐 浏览 1755

真爱大牌返场|| 每次分享都秒没!真不愧是我爱了十年的牌子

黎贝卡的异想世界 浏览 4475

理解了这轮“金铜铝牛市”的底层逻辑,也就理解了中国经济的未来

锦缎研究院 浏览 2092

特朗普抓获委内瑞拉总统马杜罗的前因后果

澎湃新闻 浏览 1801

秋季穿衣别太复杂,提前准备好这几件单品,百搭经典又不挑人

静儿时尚达人 浏览 2884

“工业机器人曾是日本的堡垒,但中国已开始在新轨道上竞争”

观察者网 浏览 2140

刚刚 | “死了么”APP征名!

天津广播 浏览 1645
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
沪ICP备20017958号-1