李光滿冰點時評1272

最近關于AI的話題非常火爆，特別是GPT-4出來后，引發全世界巨大擔憂，甚至恐慌，這種擔憂和恐慌不僅是因為GPT可能對整個社會就業的沖擊，而是因為GPT快速迭代、進化對人類生存構成的更深層次擔憂。

3月29日，美國未來生命研究所公布一封公開信，目前已有包括馬斯克、“人工智能教父”的杰弗里·辛頓、AI“大牛”蓋瑞·馬庫斯、圖靈獎得主約書亞·本希奧、《人工智能：現代方法》作者斯圖爾特·羅素、蘋果公司聯合創始人史蒂夫·沃茲尼亞克、StabilityAI首席執行官埃馬德·莫斯塔克等在內的一千多名科技界領袖人物和研究人員簽名，公開信呼吁所有AI實驗室立即暫停訓練比GPT-4更強大的AI系統至少6個月。

他們為什么要呼吁所有AI實驗室立即暫停訓練比GPT-4更強大的AI系統叫呢？主要原因是GPT進化得太快了，從推出GPT到迭代進化到GPT-4，不到半年的時間，GPT的進化已經遠遠超出人們的想象。

下面是這封信的主要內容：一、大量研究表明并得到頂級AI實驗室的認可，具有人類競爭智能的AI系統可能對社會和人類構成深遠的風險。二、高級AI可能代表地球生命史上的深刻變化，應以相應的關懷和資源進行規劃和管理。三、這種級別的規劃和管理并沒有發生。四、最近幾個月人工智能實驗室陷入了一場失控的競賽，以開發和部署更強大的數字思維，沒有人——甚至他們的創造者——都無法理解，預測，或可靠地控制。五、當代人工智能系統現在在一般任務上變得與人類具有競爭力，我們是否應該發展最終可能超過我們、超越我們、過時并取代我們的非人類思維？六、我們應該冒險失去對我們文明的控制嗎？不得將此類決定委托給未經選舉產生的技術領導者。七、只有當我們確信它們的影響是積極的并且它們的風險是可控的時候，才應該開發強大的人工智能系統。八、人工智能研究和開發應該重新聚焦于使當今強大的、最先進的系統更加準確、安全、可解釋、透明、穩健、一致、值得信賴和忠誠。最終結論是：所有人工智能實驗室立即暫停訓練比GPT-4更強大的人工智能系統（包括目前正在訓練的GPT-5至少6個月。

從這封信我們可以知道，這些科學界精英已經意識到，“人工智能實驗室陷入了一場失控的競賽，以開發和部署更強大的數字思維，沒有人——甚至他們的創造者——都無法理解，預測，或可靠地控制。”即所有人都已經無法預測、可靠地控制這場AI競賽的方向、速度、趨勢、風險。AI的進化太迅猛，而人類又無法控制，這就是GPT給人類帶來的深度擔憂，不僅僅是給人類就業帶來的沖擊，也不僅僅是給各產業帶來的革命性影響，而是我們已經無法控制它的方向，它給人類帶來的到底是毀滅還是更幸福的生活，我們無法預知和控制，這才是最可怕的。

360公司的周鴻祎預計，當GPT演化到GPT-6、GPT-8的時候，人工智能將會產生意識，變成新的物種。未來，人工智能大語言模型有可能實現自我進化、自動更新系統和自我升級，或者指數級進化能力，人類將會面臨不可預知的安全挑戰。周鴻祎關于“當GPT演化到GPT-6、GPT-8的時候，人工智能將會產生意識，變成新的物種”的觀點令人感到的將不僅僅是擔憂，而是恐懼。既然GPT已經產生了意識，變成了新的物種，而且比人類更聰明，那一定會與人類產生競爭，有競爭就有勝利或者失敗，人類是最終的勝利者還是失敗者呢？

其實還有一個更深遠的問題，如果真的按周鴻祎所預測的那樣，到GPT-6、GPT-8有了意識，那么我們推想，既然可以讓GPT產生意識，那就一定會使它具有感情，還會有思想以及立場和態度，或許這才是那些科學精英們所擔憂的問題，也是這場AI競賽所面臨的最嚴峻的倫理挑戰，也就是說，這場科學變革所帶來的，除了給我們經濟、軍事、教育等等方面帶來深刻的沖擊與變革之外，還會給人類社會的文明體系、倫理、價值觀帶來重大而深刻的沖擊。

而從GPT演化進度來看，這種擔心絕不會是空穴來風，也絕不是杞人憂天，或許在GPT給人類帶來巨大變革的同時，對人類所構成的威脅才是我們應該首先考慮的問題。面對美國率先掀起的AI浪潮，中國該如何認識和應對GPT崛起及AI迅猛發展所帶來的挑戰？對此，我有以下九點想法。

第一，盡管已經有人意識到AI的演進或者說GPT的進化超出了人們的預期，引起了人們的擔憂，就此有人提出了要暫停。但我以為，在當今這個資本和市場主導的全球化浪潮中，任何關于科技暫停的呼吁都是蒼白無力的，都是不可能阻止GPT以及及類似GPT的AI向前推進的，正如居里夫人發現了放射性元素，卻無法阻止人類利用她的科學發現去制造可以毀滅人類的核武器一樣，只要能夠帶來利益，沒有什么力量最終能夠阻止科學發現和科技發明能夠用于軍事和戰爭。因此我們對此不能心存僥幸，同時我們要對GPT以及類似AI給我們帶來的惡的毀滅的力量保持足夠警覺。

第二，我相信無論什么科技成就和成果都會用于軍事甚至會首先用于軍事，AI技術也不例外，AI技術或者說GPT系統很快就會被美國用于軍事，會在戰場上使用，正如馬斯克搞的星鏈很快就在俄烏戰爭中大規模使用一樣，GPT系統和搭建在GPT系統上的子系統都會大量運用于武器系統和戰爭環境，成為影響戰爭勝負的關鍵性武器。這一點我們尤其要高度重視。

第三，類似GPT的AI系統對一個國家具有越來越重要的戰略價值，正在成為大國競爭的一個新的制高點，而且是一個關鍵戰場。當前美國在這一領域處于領先地位，這對其他國家來說是一種巨大的戰略威懾，甚至是致命性的優勢地位。當前中國許多公司也在搞AI系統，但與美國相比存在一定差距，這種差距將會影響中國產業競爭、教育競爭、軍事競爭、文化競爭以及輿論影響力競爭，如果中國不能盡快趕上甚至超過美國，將會在未來的國家整體競爭中處于被動的不利的從屬的地位。

第四，GPT的快速迭代進化，對算力的要求越來越高，而決定算力的是高端芯片。由于美國對中國芯片實施全面制裁禁運，不僅光刻機進口受影響，而且高端芯片也被嚴格禁運。由美國英偉達公司生產的占據學習機器人圖形處理市場95%份額的高性能芯片A100和H100或未來峰值性能等于或超過A100和H100的GPU都被禁止向中國出售。這無疑會給中國AI的迭代進化帶來嚴重制約，因此自主研制能夠生產高性能芯片的光刻機已經成為非常緊迫的任務。有人認為，現在28納米光刻機生產的芯片已經能夠滿足80%的芯片需求，更高端的芯片禁運對中國影響不大，可以緩一緩，最終仍可依靠全球合作解決。這種認識的錯誤是非常嚴重的，如果不盡快解決高端光刻機問題，我們的科技創新和AI產業的發展可能會長期被美國鎖定在低端，因此仍然對全球合作解決光刻機問題抱有幻想是短視、愚蠢而又幼稚的。

第五，中國應該從戰略高度，以極強的歷史性敏銳重視AI所帶來的歷史性變革，甚至是歷史性革命，盡快組織專業力量對GPT所帶來的沖擊進行全面評估，對中國AI產業發展進行全面規劃和部署，研判AI給我們社會、文化、教育、產業、科技、輿論、意識形態等等方面會帶來哪些重要的變革、沖擊、影響，在國家層面成立專門機構，支持和促進中國AI產業加快發展，使中國AI盡快趕上美國和超過美國，在全球AI競爭中保持領先和優勢地位。

第六，由于GPT所具有的巨大的軍事價值，建議立即成立相關機構，研究GPT的軍事價值，研究如何應對GPT給中國國家安全、軍事安全帶來的沖擊和威脅，研究GPT對戰爭形態、戰場態勢帶來的影響，研究GPT在武器研制方面帶來的影響，并制定相應的對策。

第七，由于GPT對社會的廣泛滲透和價值觀傾向，我們需要超前關注和研究GPT對我國社會意識形態的影響，防止境內外敵對勢力通過GPT對我國意識形態進行深度滲透和影響，隨著GPT的進一步迭代和進化，境內外敵內勢力或者GPT本身的知識體系都可能對中國人的思想、知識、價值觀產生潛移默化的西化的影響和扭曲，以達到文化破壞、文明變形、價值觀扭曲、社會秩序坍塌的目的，對此我們要高度重視，提前布局防犯。

第八，AI發展主要還是靠大投入推動。近幾年中國在人工智能領域的投入有明顯進步，但卻遠不及美國在人工智能領域的投入力度，中國的投入總額不及美國的十分之一，相差巨大。而且美國還出臺了一系列鼓勵AI產業發展的法案，從政策、資金、政府主導等各方面推進AI產業發展，中國在這方面的表現遠遠不及美國。

第九，AI發展的基礎還要靠基礎理論研究。中國在AI領域的基礎研究相對較弱，包括人工智能的理論研究、算法開發、數據科學等方面，需要投入更多的資金和資源，以吸引更多人才從事基礎研究和應用研究。由于中國人工智能領域的人才嚴重短缺，必須盡快在大學設置人工智能學科，開設人工智能學院，加快培養相關人才。同時國家要在有關大學、研究機構和企業建設人工智能國家重點實驗室，加大產學研合作力度。

當前，由于GPT的來勢過于迅猛，我們很多人，包括政府可能都還沒有來得及做出必要的反應。因此我認為高層應高度關注GPT所帶來的沖擊，我們的企業、社會上的每個人也都應該重視并適應AI可能帶來的就業、教育、工作方式變革。

從更深層面看，AI可能還會給我們的價值觀、思想、文化、倫理、理念帶來深刻而重要的滲透和影響，我們有關部門應及時了解和應對這種滲透和影響的嚴重程度。

GPT所引發的沖擊大潮已經洶涌而來，AI已經成為大國競爭制高點，中國已不可避免地成為主要競爭者，我們應該意識到AI所帶來的影響和沖擊是巨大的，深刻的，深遠的，如此才能早準備、早適應、早應對，在與美國的AI戰略競爭中取得戰略主動和優勢賽道。