OpenAI罕見研究論文揭示AI幻覺根本成因
8
3
btccSquare新聞報導：
大型語言模型始終存在一個根本性缺陷——它們會自信地生成虛假信息，研究人員稱此現象為「幻覺」。 儘管gpt-5等模型有所進步，但這個問題在所有主流AI系統中依然存在，削弱了對其輸出的信任。
核心問題在於訓練方法無意中獎勵猜測而非事實準確性。 當模型遇到不確定性時，當前協議會激勵看似合理的捏造，而非承認知識空白。 這種結構性偏見源於標準評估指標優先考慮連貫回應而非真實性。
OpENAI的技術論文將幻覺定義為「以欺騙性自信呈現的事實錯誤陳述」。 該研究系統性分析了為何即使最先進的模型也會捏造信息，將此行為追溯至其架構和訓練過程的基礎層面。
來源:
