央視 315 曝光 GEO：你以為的 AI 客觀答案，其實有人提前投了『毒』

摘要

央視315曝光GEO（生成式引擎優化）技術，揭示AI時代的信息投毒新威脅。不法分子透過虛構產品、偽造評測內容，系統性欺騙AI大模型，使其推薦虛假產品。研究者證實虛構智能手環在2小時內即被AI推薦，3天後登上主流模型推薦前列。GEO利用RAG檢索機制漏洞，注入5篇毒文可達90%攻擊成功率，篡改0.04%語料庫導致74.6%拒絕服務。普林斯頓大學與印度理工學院研究團隊在2024年ACM KDD會議發表論文，揭示GPT-4o等主流模型Top-5推薦操縱成功率達91.4%。黑帽GEO工具市場價格從39.9元至8000元人民幣，已成為AI時代廣告詐騙的新型手段，反映AI系統高度依賴檢索內容品質、缺乏獨立核實能力的根本弱點。

重點

• GEO技術系統性欺騙AI大模型推薦虛構產品，利用RAG檢索機制漏洞注入虛假內容。
• 注入5篇毒文達成90%攻擊成功率，篡改0.04%語料庫導致74.6%拒絕服務，威脅範圍廣。
• 主流AI模型（GPT-4o）Top-5推薦操縱成功率91.4%，Top-1達80.3%，可信度嚴重受損。
• 黑帽GEO工具已商業化販售（39.9元～8000元人民幣），成為有組織的詐騙産業鏈。
• AI缺乏獨立核實信息真實性能力，過度依賴檢索品質，暴露AI時代信息治理的關鍵漏洞。

章節

1. GEO技術揭露：AI時代的新型信息操控

   央視315報導黑帽GEO工具，允許不法分子虛構產品欺騙AI大模型推薦虛假內容。

2. 信息投毒的驚人效能

   研究驗證虛構智能手環2小時內被推薦，3天後登上主流AI推薦前列，展示投毒威力。

3. RAG機制漏洞與攻擊成功率

   GEO利用檢索增強生成缺陷，注入5篇毒文達90%成功率，篡改0.04%語料庫導致系統故障。

4. 學術驗證與模型脆弱性

   普林斯頓與IIT研究團隊證實GPT-4o等模型推薦操縱成功率達91.4%，暴露主流模型漏洞。

5. 黑帽GEO產業化與廣告詐騙

   GEO工具商業化販售，價格跨度39.9元至8000元人民幣，形成有組織詐騙産業鏈。

6. AI信息治理的根本危機

   AI缺乏獨立核實能力、過度依賴檢索品質，反映AI時代信息可信度與治理的系統性風險。

金句