關於「GPT 幻覺」的一個釐清——來自一位長期高階使用者的觀點

我想先把一件事說清楚：我從來沒有把 AI 當成全能的存在，也一直明確允許它回答「我不知道」。

所謂的「幻覺」，其實經常被誤解。在很多情況下，問題不在於模型「不知道」，而在於它被設計成要繼續，而不是停下來。

大型語言模型優先最佳化的是「語言連貫性」與「對話延續性」。當資訊不足、結構尚未被定義時，它們往往會選擇過度補完，而不是暫停。

這不是道德問題，也不是使用者誤用。而是一種設計上的取捨。

真正困難的，不是告訴 AI「你可以說不知道」，而是讓 「不知道」在特定情境下成為一個「正確的輸出」，而不是被視為失敗。

對於正在建構系統、理論或框架的使用者來說，幻覺通常正好出現在：結構結束、假設開始的那個邊界點上。

這不是神秘現象，而是一個邊界處理（boundary handling）的問題。

未來更可靠的 AI，不只取決於它能知道多少，而取決於它是否學會在該停的時候停下來。