【科学漫笔·我见AI】

　　此情此景，也让我想到当下人工智能（AI）的“幻觉”现象：它能将虚构与真实无缝拼接，生成看似严谨实则荒诞的谜底，仿佛一个捧着百科全书满嘴跑火车的天才儿童。

　　早年年爆火的ChatGPT到比来出圈的DeepSeek，AI正以肉眼可见的速度重塑生活。它既能帮中学生秒解几何题，也能替小说家生成绸缪的剧情。而若抛出一些不着边际的问题，譬如“从化学视角解析孙悟空火眼金睛是如何炼成的”，它也能像模像样地编造出一大年夜篇学术分析，甚至煞有介事地标注出参考文献。更令人哭笑不得的是，当遭到质疑时，它会诬捏更多论据来自圆其说。这种真假难辨的“常识幻觉”一如沙上楼阁，看似气概如虹，实则千疮百孔。而在AI狂飙突进的当下，类似的“幻觉”还在被大年夜批量临盆出来。

　　要懂得AI为何谎话连篇，得从它的进修方法说起。今天的AI广泛基于大年夜说话模型（LLM）。在它问世之前，传统AI就像循序渐进的优等生，端赖逝世记硬背语律例则来答题解疑；而大年夜说话模型更像炼丹方士，将宏大年夜的语料放入“丹鼎”以期炼得“金丹”。哲学家维特根斯坦曾说，说话的意义不在预设的本质中，而在于日常的应用——就像孩子学措辞，没人教“主谓宾”，端赖不雅察大年夜人如安在饭桌上说“吃”，在踢足球时喊“跑”——维特根斯坦称之为“说话游戏”。大年夜说话模型恰是对这种游戏的算法化：它被抛入一个虚拟的语料世界中，吞下海量的文本材料，没有人告诉它该怎么出去，它只能本身从中摸索出一条门路来。

　　比来，四岁的女儿向我“报告请示”幼儿园生活时，有条有理地描述她与一只霸王龙交同伙的故事：她们一路抓小恐龙，因为跷跷板闹翻，又交换零食亲睦……逻辑严密，细节丰富——尽管她的幼儿园里连只仓鼠都没有。细究之下才知，这孩子本来把绘本、动画和实际糅合在一路，用童言童语编织出一个“合理”的故事。

　　 （作者：鲁博林，系清华大年夜学科学史系助理传授）

　　 最终，涅槃更生的AI开口措辞了——一面是滚滚不绝，一鸣惊人；另一面倒是信口雌黄，“鬼话”连篇。

　　人们不吝赞赏着AI的横空出世，却也正绞尽脑汁要给胡言乱语的AI“治病”。比如，为了防止AI幻觉泛滥，工程师们加装了“常识导航”（检索加强技巧RAG）来引导它查证事实，铺设了“轨道护栏”（提示词束缚）以防止谜底跑偏，甚至请人类师长教师当“监考”（人类反馈强化进修RLHF）给扯谈打红叉。但即便如斯严加管教，AI仍会冷不丁变成“脱缰野马”。就像班上总有几个聪慧又油滑的学生，能把考场作文写成科幻史诗——你明知道他在编，却还得佩服其想象的不羁。

　　但或许问题不止于技巧层面：究其本质，说话就是真伪交错的游戏。远前人类围着篝火编神话，中世纪的吟游诗人即兴歌唱，网友们在同伙圈嚷嚷“我有一个同伙”——虚构从未远离我们。AI不过是把这一本质端上了桌面。当它用《红楼梦》的文风改编科普文章，或用学术声调分析“黛玉倒拔垂杨柳”，我们是该大年夜呼造假之离谱，照样赞叹立异之乖奇？这又让我想起女儿的另一则“佳构”：她把动画片里的冰雪魔法，挪到了小区游乐场上，硬说滑梯的另一头连着艾莎公主的城堡。只不过，孩童的幻想至多令人莞尔，AI的幻觉却可能激发真实的麻烦——可不是所有人都能一眼识破那些“一本正经的胡说八道”。

　　但话说回来，当前前提下，要完全清除AI幻觉，就像苛求孩子永远不说童话——既弗成能，亦无须要。关键是若何给“凌空蹈虚”规定赛道：譬如写小说时，自可天马行空；做学术时，便须踏扎实实。今朝的主流解法是给AI装上“场景辨认器”：当检测到用户须要严谨谜底时，主动调用常识库交叉验证；若碰到创意写作，则无妨放飞自我。而要更进一步，就得推敲若何让AI“活”在更真实的说话游戏实践中了。如今的AI看似满口金句，实则是黑箱里的“书白痴”。倘能走出黑箱，交到“同伙”——比如在虚拟社区充当模仿成员，在学术论坛接收“同业”评断，甚至经由过程脑机接口感触感染具身经验——或许它能逐渐融合：说话不仅是符号的概率游戏，并且是生活情势的一部分。

　　想象某一天，当AI能“感触感染”小吃摊主吆喝的肢体说话，或法度榜样员代码缺点时的难堪神情，或许它再不会把火眼金睛说成是二氧化硅的高温玻璃化了。

　　技巧狂飙的时代，人们总欲望用算法解决一切问题。但AI幻觉始终在当头棒喝：对理性精确的寻求，和对生活世界的回归，须要建立一种动态均衡。如同孩子总会长大年夜，总会学着区分根本的幻想与实际，在人类的引导下，AI的“成长”终将水到渠成。所以面对AI幻觉，与其杞人忧天，倒不如放手让它游戏，只要能赓续进入更丰富的场景，融合更多样的规矩，书白痴也学得会“情面练达”。

Tags： 当AI一本正经地胡说八道……