中科院自動化研究所研究揭示多模態(tài)大模型涌現(xiàn)類人物體概念表征

人類能夠?qū)ψ匀唤缰械奈矬w進行概念化，這一認(rèn)知能力長期以來被視為人類智能的核心。當(dāng)我們看到“狗”“汽車”或“蘋果”時，不僅能識別它們的物理特征即尺寸、顏色、形狀等，還能理解其功能、情感價值和文化意義。這種多維度的概念表征構(gòu)成了人類認(rèn)知的基石。隨著ChatGPT等大語言模型（LLMs）的爆發(fā)式發(fā)展，一個根本性問題引起學(xué)界關(guān)注——這些大模型能否從語言和多模態(tài)數(shù)據(jù)中發(fā)展出類似人類的物體概念表征？

近日，中國科學(xué)院自動化研究所與腦科學(xué)與智能技術(shù)卓越創(chuàng)新中心合作，結(jié)合行為實驗與神經(jīng)影像分析，首次證實多模態(tài)大語言模型（MLLMs）能夠自發(fā)形成與人類高度相似的物體概念表征系統(tǒng)。這項研究為人工智能認(rèn)知科學(xué)開辟了新路徑，更為構(gòu)建類人認(rèn)知結(jié)構(gòu)的人工智能系統(tǒng)提供了理論框架。

傳統(tǒng)的人工智能研究聚焦于物體識別準(zhǔn)確率，卻鮮少探討模型是否真正“理解”物體含義。自動化所研究員何暉光提出，“當(dāng)前AI能區(qū)分貓狗圖片，但這種‘識別’與人類‘理解’貓狗的本質(zhì)區(qū)別仍有待揭示?！痹搱F隊從認(rèn)知神經(jīng)科學(xué)經(jīng)典理論出發(fā)，設(shè)計了一套融合計算建模、行為實驗與腦科學(xué)的創(chuàng)新范式。團隊采用認(rèn)知心理學(xué)經(jīng)典的“三選一異類識別任務(wù)”，要求大模型與人類在物體概念三元組中選出最不相似的選項。通過分析470萬次行為判斷數(shù)據(jù)，團隊首次構(gòu)建了AI大模型的“概念地圖”。

該研究在海量大模型行為數(shù)據(jù)中提取出66個“心智維度”，并為這些維度賦予語義標(biāo)簽。研究發(fā)現(xiàn)，這些維度是高度可解釋的，且與大腦類別選擇區(qū)域的神經(jīng)活動模式顯著相關(guān)。研究還對比了多個模型在行為選擇模式上與人類的一致性。結(jié)果顯示，多模態(tài)大模型在一致性方面表現(xiàn)更優(yōu)。

進一步，研究發(fā)現(xiàn)，人類在做決策時更傾向于結(jié)合視覺特征和語義信息進行判斷，而大模型則傾向于依賴語義標(biāo)簽和抽象概念。研究表明，大語言模型內(nèi)部存在著類似人類對現(xiàn)實世界概念的理解。

相關(guān)研究成果發(fā)表在《自然-機器智能》（Nature Machine Intelligence）上。研究工作得到國家自然科學(xué)基金、中國科學(xué)院基礎(chǔ)與交叉前沿科研先導(dǎo)專項、北京市自然科學(xué)基金及腦認(rèn)知與類腦智能全國重點實驗室的支持。

來源：中國科學(xué)院自動化研究所