▲點擊圖片報名,抓住風口(iOS用戶請用電腦端打開小程序)
本期要點:Constraint Satisfaction,非常重要!
你好,我是王煜全,這里是王煜全要聞評論。
近期,就在大家擔憂AI會毀滅人類,或在暢想AI將給人類帶來無限福祉時,我們撰寫了多篇文章,探討當前AI大模型的局限性。
當前的AI浪潮以大語言模型為底層技術,雖在視覺、語言等單一任務上表現不錯,但缺乏對環境的理解和自適應能力。因此,我們認為,依靠現有的底層架構,也就是“預測下一個token”的能力,無法實現AGI(通用人工智能)。
那該怎么辦呢?我曾多次強調,面對當前AI大模型的瓶頸,重新審視并借鑒人類認知科學的成果,將為突破現有架構提供理論上的啟發,并找到可行路徑。
我認為,一個重要的發展方向可能是,借鑒并融合人類認知中的“約束滿足”(Constraint Satisfaction)機制,構建新的 AI 底層架構。今天的思想薈文章就來好好聊聊。
首先,這一方向的必要性在于,AI要“超越人”,先得“成為人”,注意,不是長得像人,而是認知像人。
仔細觀察人類的認知過程,會發現,我們并不是先提出理論再觀察世界和執行動作,而是一個反過來的過程。
我們對世界的認識,其實是在已有信息和知識背景的約束下,不斷構建對現象更連貫一致的解釋。
古人看到太陽東升西落,便有了“天圓地方”和“地心說”的認知,但隨著人們對更多天文現象的了解,逐漸形成了“日心說”以及現代宇宙理論。
我們做出某些行為,也不是想好再干,而是在環境、資源、能力等各種約束條件下,持續優化并尋找可行解決方案的過程。
就像3歲的孩子拿杯子時總會失誤,而成年人則能迅速做出合理的動作。很多時候,若經驗不足,就需要不斷嘗試和修正。而在自己熟悉的領域中,人們往往能在腦中預演行動和結果,并很快得出滿足所有約束的解。
可以看出,無論是認知建構還是行為決策,都是一個在約束條件下尋求最優解的“Constraint Satisfaction”過程。
所以,AI系統可能也要模擬人類的這個認知和行動的過程,而“Constraint Satisfaction”架構,即一個在系統設計層面引入約束驅動的架構,將非常重要,使AI能夠在各種約束下協調多種目標、平衡不同信息源,形成對世界的綜合認知,具有像人類一樣的自主性和靈活性。
OpenAI前首席科學家,伊利亞·蘇茨克弗(Ilya Sutskever),能否引領下一次AI革命?
因為,我覺得,缺乏對動態約束條件的識別與適應,正是AI無法具備真正自主性(autonomous)的主要原因之一。
當前的AI大模型,都是在固定的數據集和任務目標下訓練得到的。當訓練完成之后,模型將不再做大的調整。因此,一旦面對超出其訓練范圍的狀況,AI就失去了應對能力。
例如,自動駕駛系統在城市中往往運行良好,但在訓練未覆蓋的陌生環境或罕見的天氣條件下,自動駕駛系統就很容易出現失誤。而人類司機哪怕在沒有道路的地方,往往也能靈活應對。
再如,OpenAI的Deep Research功能,在常規領域的分析中表現不俗,號稱擁有博士級別的水平。但如果要它對前沿領域進行分析,甚至對未知領域提出一些設想,它則容易胡言亂語,和人類博士差距很大。
這是因為,雖然人類在陌生的環境下也會犯錯,但我們不會像AI一樣不知所措,而是會基于約束條件,做出模糊的判斷和決策。絕大部分情況下,這些解都不是完美的,但隨著不斷嘗試,我們就能朝著最優解逼近。
同理,將“Constraint Satisfaction”融入AI的底層架構之中,讓AI可以在感知、記憶、決策等各模塊間傳遞約束條件,實現類似人類的認知優化過程,識別和處理各個動態變化的約束條件,并進而根據環境的反饋實時調整行為策略,而不是依賴預先訓練的靜態模型,機械地套用訓練時學到的固定模式。
我還想強調的是,大家總是焦慮于數據的枯竭,從根本上說,是因為AI大模型在訓練完畢后就無法再繼續學習以提升性能。AI如果必須止步于訓練結束的那一刻,那再強大的AI也必然有陳舊過時的一天。
但人類的智慧,特別是認知和決策的能力,從來都沒有受限于數據的多少,因為我們會終身學習和適應變化。其中,“Constraint Satisfaction”也起到了關鍵作用。
每個人都有自己獨特的約束條件,兒童、青年、中年和老年時期的約束條件也各不相同。
不僅是人,由人組成的公司也是如此。就像初創企業可能會受限于資金不夠;但有錢之后,可能又會面臨技術不夠或市場接受度不高等問題;當公司規模變大后,又要考慮社會影響,還要承擔社會責任。
好在,人類擁有一種內在機制,能不斷調整認知和策略來適應這些變化,找到在當時當下的解決方案,并在執行過程中不斷優化,從而能不斷應對各種難題,以及實現終身成長。
最后,我想說的是,AI的每一次大發展,都得益于我們對人類認知機制更深刻的把握。
“Constraint Satisfaction”是AI應當充分借鑒的機制之一,是認知科學為AI突破當前瓶頸、走向更高自主性所提供的關鍵法寶。
它可以讓AI像人一樣越用越聰明,形成對世界更全面的認知,并最終真正走向持續成長和靈活自主。到那時,或許真正的AGI就來了,而人類也將步入新紀元。
以上就是今天的內容,最后做個預告,最近AI工具發展得很快,已經可以讓你實現零代碼開發了。
本周日,我們的前哨AI小課也將教你用響指和扣子空間等熱門工具,來制作小游戲和高考擇校應用,還會教你如何一鍵分析上市公司,給項目生成可視化頁面。相信一定會對你有很大幫助!快快掃碼報名吧!
王煜全要聞評論,我們明天見。
【科技特訓營】看懂科技產業,離不開長期觀察。線上書院模式,與王老師深度鏈接!為未來五年做好準備,先人一步,領先一路!
↓長按圖片掃碼報名, 先人一步,領先一路
↓¥399,掌握王煜全AI產業預測精華(iOS用戶請在電腦端打開)
此外,我們還為您準備了一份清單
“全球AI獨角獸公司TOP10”
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.