生成式人工智能 （AI） 幻覺（即人工智能提供不正確或捏造的信息）可以提供好處，特別是在藥物發(fā)現(xiàn)等創(chuàng)造性和探索性領(lǐng)域。

人工智能幻覺有四種常見類型（圖 1）。并非所有類型都同樣可取或有用。

1. 一般矛盾包括上下文沖突和句子矛盾。例如，人工智能可以通過提供有關(guān)足球前鋒如何適應(yīng)特定比賽情況的信息來響應(yīng)對前向轉(zhuǎn)換器原理圖的請求。

2. 當(dāng)輸出忽略輸入時(shí)，就會出現(xiàn)提示矛盾。如果 AI 回復(fù)“周年紀(jì)念日快樂，爸爸媽媽”，而提示是給侄女的畢業(yè)祝賀。

3. 當(dāng)人工智能模型呈現(xiàn)不正確的信息時(shí)，就會出現(xiàn)事實(shí)矛盾，就好像它是真實(shí)的，比如“托馬斯·愛迪生發(fā)明了互聯(lián)網(wǎng)”。

4. 當(dāng)輸出中包含不相關(guān)或隨機(jī)的細(xì)節(jié)時(shí)，就會出現(xiàn)不相關(guān)或隨機(jī)的幻覺。例如，在創(chuàng)建風(fēng)景圖像時(shí)，人工智能會添加不屬于的隨機(jī)元素，例如一張臉?biāo)坪跗≡诳罩小?/p>

圖 1.四種常見的人工智能幻覺類型。（圖片：Signity)

為什么人工智能會出現(xiàn)幻覺？

人工智能幻覺既多于傳統(tǒng)意義上的錯(cuò)誤，也少于錯(cuò)誤。它們有時(shí)被稱為“虛構(gòu)”或“捏造”，以更好地反映其本質(zhì)。幻覺一詞通常意味著強(qiáng)調(diào)法學(xué)碩士的不可預(yù)測性以及它們對每個(gè)提示做出反應(yīng)的傾向。

人工智能僅限于其訓(xùn)練，不知道它不知道什么。這可能適用于訓(xùn)練技術(shù)和訓(xùn)練數(shù)據(jù)的局限性、模型設(shè)計(jì)的局限性、缺乏現(xiàn)實(shí)世界的背景或同理心以及許多其他因素（圖 2）。

圖 2.人工智能幻覺的多種原因的例子。（圖片來源：Kanerika)

使用 RAG、TAG 和 RAFT 最大限度地減少幻覺

檢索增強(qiáng)生成 （RAG）、表增強(qiáng)生成 （TAG） 和檢索增強(qiáng)微調(diào) （RAFT） 可以通過幫助人工智能做出超出初始訓(xùn)練的響應(yīng)并將響應(yīng)建立在可驗(yàn)證的外部知識上，而不是僅僅依賴其潛在過時(shí)的訓(xùn)練數(shù)據(jù)，從而最大限度地減少人工智能幻覺。這三種技術(shù)在響應(yīng)生成過程中為模型提供了額外的上下文。

RAG 是通過從文檔和網(wǎng)頁等非結(jié)構(gòu)化數(shù)據(jù)源檢索和合并信息來實(shí)現(xiàn)的，以改進(jìn) AI 響應(yīng)。TAG 正在利用初始訓(xùn)練數(shù)據(jù)庫之外的數(shù)據(jù)庫中的結(jié)構(gòu)化數(shù)據(jù)。

RAFT 設(shè)計(jì)用于動態(tài)信息環(huán)境。RAFT 中的微調(diào)是一種人工智能持續(xù)學(xué)習(xí)，其中對 LLM 本身（而不僅僅是即時(shí)響應(yīng)）進(jìn)行了修改。

人工監(jiān)督和 HITL

人機(jī)交互 （HITL） 方法可用于預(yù)防或利用人工智能幻覺。HITL 將人類的專業(yè)知識和判斷力融入人工智能流程中。在實(shí)施 HITL 時(shí)，主題專家 （SME） 會審查和糾正 AI 輸出，驗(yàn)證決策，并向模型提供持續(xù)反饋。

HITL 和 SME 的整合對于高風(fēng)險(xiǎn)應(yīng)用尤為重要，因?yàn)樵谶@些應(yīng)用中，錯(cuò)誤可能會產(chǎn)生重大的負(fù)面后果。中小企業(yè)增加了人工智能無法提供的常識、情境意識和批判性思維。

HITL 還可用于確保使用人工智能的科學(xué)調(diào)查和工程應(yīng)用遵守法律、道德和監(jiān)管標(biāo)準(zhǔn)，這在醫(yī)學(xué)和刑事司法等領(lǐng)域至關(guān)重要。

利用幻覺

在涉及藥物發(fā)現(xiàn)或材料開發(fā)等領(lǐng)域的科學(xué)研究中，HITL 方法通過故意激發(fā)模型富有想象力的輸出來利用人工智能幻覺。

例如，幻覺可能是由于提出需要訓(xùn)練數(shù)據(jù)中沒有知識的問題引起的，其中鼓勵(lì)人工智能在其事實(shí)知識庫之外“發(fā)揮創(chuàng)造力”。

科學(xué)家可以利用引發(fā)的幻覺來制定新的、可檢驗(yàn)的假設(shè)。人類知識和直覺的結(jié)合，加上人工智能快速產(chǎn)生誘發(fā)幻覺的能力，可以顯著加快和擴(kuò)展發(fā)現(xiàn)過程。

總結(jié)

人工智能幻覺有多種來源。在大多數(shù)情況下，幻覺無法消除，但 RAG、TAG 和 RAFT 等工具可以幫助最大限度地減少幻覺的產(chǎn)生。HITL 可用于消除許多人工智能幻覺，并可用作科學(xué)發(fā)現(xiàn)過程的一部分，引導(dǎo)幻覺進(jìn)入富有成效的道路并加速新見解的發(fā)展。