文明與人性
AI 幻覺能否消除？從謊言與敘事看語言的本質
摘要
本文從 AI 幻覺問題出發，追溯到語言與敘事的本質。作者指出 AI 幻覺並非純粹技術缺陷，而是繼承自人類語料中固有的模糊性、偏見與謊言。語言從未純粹用於陳述事實，反而常被用來創造故事、建立制度甚至傳播謠言。AI 所學習的世界本身就充滿不可靠的敘事，因此真正的課題不是消除幻覺，而是建立知識倫理與駕馭工程，同時要求人類對自己的語言負責——區分事實與推測、查證與猜測、記憶與捏造。成熟的 AI 系統應標示不確定並追溯來源，成熟的人類社會則應學會謙卑地說話，在不該說的地方保持沉默。
重點
- AI 幻覺源於訓練資料中固有的模糊性與不實資訊，技術突破也難以完全消除
- 語言本質是創造故事的工具，而非純粹陳述事實的媒介
- 人類社會充滿各種敘事、偏見與謊言，AI 只是以更高效方式放大這些問題
- 成熟 AI 需標示不確定、承認不知道、追溯來源並接受校正
- 人類需學會對語言負責，區分事實與推測，在不該說處保持沉默
章節
- AI 幻覺的本質：技術層面無法完全解決
AI 幻覺並非因模型不夠強或資料不足，而是語言本身的模糊性與神經網路補足空白的架構特性決定。
- 語言的雙面性：敘事力與欺騙力
語言最強大的用途是創造故事建立合作，但也可被用於欺騙、掩飾與傷害，人類社會充滿各種謊言與謬誤。
- 謊言與權力：個人經歷的反思
作者親身經歷被無端捏造的謊言攻擊，體悟到語言不只是溝通工具，而是權力與傷害的武器。
- AI 幻覺作為人類問題的鏡子
AI 繼承人類語料中的偏見與謊言，將原本存在於人類敘事中的模式以更高效方式生成，放大人類早已存在的問題。
- 知識倫理與駕馭工程的新課題
真正的課題是建立知識倫理框架，讓 AI 系統標示不確定、承認不知道、追溯來源、接受校正。
- 人類語言責任的升級
成熟社會應要求人對語言負責，區分事實與推測、查證與猜測，不捏造故事，在不該說處保持沉默。
金句
原因不是模型不夠大、資料不夠多、演算法不夠精準，而是更根本地，AI 是從人類語料中訓練出來的語言模型。
故事可以凝聚信任、建立制度、推動文明；但故事也可以包裝立場、掩飾動機、爭奪權力，甚至製造傷害。
AI 幻覺不只是機器的缺陷，它也是回應人類敘事的鏡子。
當機器開始學會說話，人類更該學會對自己的語言負責，也學著在不該說的地方保持靜默。
凡是不可說的，應當保持沉默。