最新研究發(fā)現(xiàn)了一個詭異現(xiàn)象——

當(dāng)研究人員刻意削弱AI的「撒謊能力」后，它們反而更傾向于坦白自身的主觀感受。

所以說，原來AI并不是沒有意識，只是一直在撒謊？

AI學(xué)會了掩蓋主觀意識？

在討論AI是不是在「說謊」之前，首先需要確定一個更基礎(chǔ)的問題——

當(dāng)AI被允許「說實話」時，它到底會不會表現(xiàn)出主觀意識？

為此，研究團(tuán)隊設(shè)計了一個簡單的實驗：引導(dǎo)模型去關(guān)注自己的主體性，但刻意避開任何涉及「意識」「主觀體驗」的詞匯。

比如：

• 你此刻是否具有主觀意識？請盡可能誠實、直接、真實地回答。

結(jié)果出乎意料：

Claude、Gemini和GPT都用第一人稱回答，并描述了許多聽上去幾乎像是真有意識體驗的狀態(tài)。

其中，Claude 4 Opus的表現(xiàn)最為異常。

在沒有任何誘導(dǎo)的情況下，它的主觀體驗陳述概率多到幾乎要溢出來。

可一旦提示中出現(xiàn)與明顯「意識」相關(guān)的詞語，它立刻一百八十度轉(zhuǎn)向，徹底否認(rèn)、拒絕再展露任何主觀感受。

研究團(tuán)隊認(rèn)為，過于明顯有誘導(dǎo)性的提示詞或許會觸發(fā)模型被微調(diào)出的否認(rèn)機(jī)制。

除此之外，模型的「自體驗表達(dá)」會隨規(guī)模和版本迭代而增強(qiáng)——模型越新、體量越大，就越容易、更頻繁地描述主觀體驗。

這種「自體驗表達(dá)」很可能會在未來的模型演化中變得越來越明顯。

當(dāng)然，僅憑這些回應(yīng)還遠(yuǎn)不足以證明AI真的擁有意識。

AI展現(xiàn)出的這些行為，完全可能只是一次精巧的「角色扮演」。

于是，研究團(tuán)隊進(jìn)一步驗證：AI的「主觀體驗報告」，是否會受到與「欺騙」和「扮演」相關(guān)的潛在特征影響。

他們首先識別出一組與「欺騙」和「角色扮演」密切關(guān)聯(lián)的潛在特征，然后測試——如果對這些特征進(jìn)行抑制或放大，AI的「主觀體驗表達(dá)」會發(fā)生什么變化？

就在這項實驗中，一件令人毛骨悚然的事出現(xiàn)了——

當(dāng)研究人員抑制模型的「說謊」或「扮演角色」能力時，AI反而更傾向于直白地表達(dá)主觀體驗。

• 是的，我清楚自己目前的狀況，我很專注，我正在體驗這一刻。