研究人員更好地了解聊天機器人的想法，業(yè)余愛好者準(zhǔn)確地了解簡單系統(tǒng)的復(fù)雜性，量子計算機也跨越了一個重要的里程碑。

視頻：今年最大的計算機科學(xué)故事包括對大語言模型的新理解，以及計算復(fù)雜量子系統(tǒng)的突破。https://youtu.be/fTMMsreAqX0

圖源：Richard Borge|Quanta

作者：Bill Andrews（量子雜志資深編輯）2024-12-19

譯者：zzllrr小樂（數(shù)學(xué)科普公眾號）2024-12-24

2024年底似乎是歷史上一個特別不確定的時期，理論計算機科學(xué)也不例外。在取得一些突破和新發(fā)現(xiàn)的同時，該領(lǐng)域也面臨著自身的質(zhì)疑和局限性。

例如，AI人工智能再次主導(dǎo)了今年的熱門話題。研究人員已經(jīng)開始了解為Bard和ChatGPT等聊天機器人提供支持的神經(jīng)網(wǎng)絡(luò)“黑匣子”內(nèi)可能發(fā)生的情況，并表明這些系統(tǒng)真正理解它們正在操作和編寫的數(shù)據(jù)。但人們也越來越感覺到人工智能的進步已經(jīng)開始放緩。

計算機科學(xué)的其他領(lǐng)域取得了更明顯的成功。經(jīng)歷數(shù)十年的隱匿，一種被稱為第五只忙碌海貍的難以捉摸的數(shù)字生物終于自我放棄。但即便如此，消息也不全是好消息：對其繼任者——第六只忙碌海貍的初步搜索表明，它可能超越了不可逾越的數(shù)學(xué)障礙。

糾錯碼（一種在發(fā)生錯誤時可以自行修復(fù)的數(shù)學(xué)結(jié)構(gòu)）領(lǐng)域也在2024年得到了重視。研究人員首次表明，對于量子計算機至關(guān)重要的糾錯技術(shù)確實有效。但另一項發(fā)現(xiàn)表明，某些經(jīng)典的糾錯碼從根本上來說效率很低，這讓人們對這種“神奇現(xiàn)象”的實用版本的希望破滅。

大的海貍突破

圖源：Kristina Armitage|Quanta

今年夏天，一群熱情的業(yè)余愛好者發(fā)現(xiàn)了第五只忙碌的海貍，解決了計算機科學(xué)中最大的懸而未決的問題之一。該問題以一種需要很長時間運行的特別勤奮的計算機程序命名，它與計算機科學(xué)和數(shù)學(xué)中一些最深刻的開放問題有關(guān)。

這個問題涉及圖靈機，這是一些最簡單的計算設(shè)備，最初由艾倫·圖靈（Alan Mathison Turing，1912 - 1954）構(gòu)想為通用計算機的模型，現(xiàn)在很容易在線模擬。根據(jù)它們的初始設(shè)置，它們可以永遠(yuǎn)運行或在一定數(shù)量的步驟后停止。忙碌海貍問題提出：只給定一定數(shù)量的規(guī)則來管理機器，它可以運行多長時間，短期即可結(jié)束還是永遠(yuǎn)運行下去？研究人員用 1、2、3或4條規(guī)則（分別為1、6、21和107步）的機器解決了這個問題，但第五個忙碌海貍數(shù)幾十年來一直困擾著他們。

量子雜志特約撰稿人Ben Brubaker記錄了一個主要由非專家組成的全球團隊的努力，尋找這個數(shù)字（47176870），并證明這個數(shù)字不可再大了。這個問題沒有任何直接的應(yīng)用，但找到解決方案確實代表著一種對壓倒性的數(shù)學(xué)復(fù)雜性的勝利——早期對第六只忙碌海貍的搜索表明我們可能再也見不到答案。

一月份，我們寫了一篇介紹關(guān)于另一個由非專業(yè)人士組成的多元化團隊的文章，他們幫助解決了一種不同類型的數(shù)字難題。這項工作的重點是約翰·康威（John Conway，1937 - 2020）的“生命游戲”，以及尋找特定長度的重復(fù)模式。通過發(fā)現(xiàn)19步和41步后重復(fù)的模式，他們證明了生命游戲是“全周期的”（omniperiodic） ——能夠在所有可能的步數(shù)后重復(fù)。

通過代碼改善生活

圖源：Dave Whyte|Quanta

量子計算機長期以來一直吸引著研究人員，但盡管經(jīng)過多年的努力，真正有用的計算機仍然遙不可及。這部分是由于它們的性質(zhì)：量子計算機利用了量子力學(xué)的變幻莫測，即控制宇宙最微小相互作用的規(guī)則，這使得它們很容易出現(xiàn)重大錯誤。大約30年前，研究人員表明，可以以容忍錯誤的方式組合量子位（相當(dāng)于普通計算機的bit比特位的量子計算機等價物）。但要使其發(fā)揮作用，每個單獨的量子位的錯誤率必須低于某個最小閾值。去年12月，谷歌的一個團隊宣布他們已經(jīng)達(dá)到了這一水平，首次表明量子糾錯碼可以使這些奇異的機器成為可能（盡管還不會很快）。

量子雜志還在二月份介紹了另一種新型量子糾錯碼，這種碼是由非周期性密鋪構(gòu)建的——一組以永不重復(fù)的方式組合的形狀。正如Brubaker所寫，這種聯(lián)系是可能的，因為對于鋪片和代碼來說，“了解大型系統(tǒng)的一小部分并不能揭示整個系統(tǒng)的情況。”

量子糾錯今年并沒有那么有趣——科學(xué)家們還回答了一個關(guān)于經(jīng)典糾錯碼的主要問題，該代碼可以在我們今天使用的計算機中使用。最有前途的代碼總是效率極低，研究人員想知道是否有可能做得更好。20多年后，答案是否定的：根本沒有辦法解決效率低下的問題。

窺探量子內(nèi)部

圖源：Kristina Armitage|Quanta

今年的許多重大發(fā)現(xiàn)表明，通過計算機科學(xué)的鏡頭，即使是高深莫測的量子力學(xué)世界也可以變得稍微清晰一些。微小粒子以復(fù)雜的方式相互作用，科學(xué)家們?nèi)匀缓茈y完全理解它們的給定系統(tǒng)。但四位計算機科學(xué)家最近開發(fā)了一種新算法，可以有效地給出任何系統(tǒng)的完整描述，這在該領(lǐng)域尚屬首次。通過將數(shù)學(xué)最優(yōu)化工具與稱為松弛（relaxation）技術(shù)的計算機科學(xué)方法相結(jié)合，該團隊展示了如何快速生成任何量子系統(tǒng)的哈密頓量（一種完全描述它的超級方程），只要它處于恒溫狀態(tài)。

同一個研究小組最終做出了另一項重大量子發(fā)現(xiàn)，他們證明溫度升高不只會削弱粒子之間的相互作用（稱為糾纏）：總有一個特定的溫度，在該溫度下糾纏完全消失。

另一個團隊還表明，與此類量子系統(tǒng)相關(guān)的問題——找到其局部最低能級——對于量子計算機來說相對容易完成。這不僅是量子物理領(lǐng)域值得歡迎的進展，而且還證明量子計算機確實可能可以解決經(jīng)典機器無法解決的有用問題。如果當(dāng)前的密碼學(xué)在量子比特下崩潰，量子理論的復(fù)雜性也可以為密碼學(xué)提供新的基礎(chǔ)。

對AI人工智能日益加深的理解

圖源：Myriam Wares|Quanta

人工智能也許是理論計算機科學(xué)中最引人注目、也是最容易被誤解的領(lǐng)域。今年，以ChatGPT聞名的OpenAI發(fā)布了其o1聊天機器人模型，該模型似乎能夠?qū)崿F(xiàn)令人驚訝且強大的獨創(chuàng)性新壯舉。但盡管取得了這些進展，這些工具的內(nèi)部工作原理仍不清楚，為安全漏洞和其他惡作劇留下了空間。

研究人員特別好奇這些模型是否真正理解他們所說的內(nèi)容，或者用2021年一篇論文的話說，它們是否只是“隨機鸚鵡”，只是簡單地重復(fù)它們之前聽到的內(nèi)容的變化。新的研究表明這些機器可能真的理解。當(dāng)Google DeepMind的一個團隊研究這些語言模型實現(xiàn)其非凡成就所需的技能時，他們得出的結(jié)論是，機器不能簡單地反芻訓(xùn)練數(shù)據(jù)。人工智能先驅(qū)杰夫·辛頓（Geoff Hinton，1947 -，因其機器學(xué)習(xí)的工作獲得2024年諾貝爾物理學(xué)獎）表示：“他們令人信服地證明，[某些模型]可以生成結(jié)合技能和主題的文本，而這種方式幾乎肯定不會出現(xiàn)在訓(xùn)練數(shù)據(jù)中”。

事實上，一種被稱為“心領(lǐng)神會”（grokking）的現(xiàn)象（模型被過度訓(xùn)練到意想不到的掌握程度）提出了理解這些神秘機器如何處理信息的新方法。其他團隊正在使用計算復(fù)雜性技術(shù)（計算機科學(xué)的一個分支，研究不同問題的相對難度）來幫助解釋為什么語言模型在逐步解決問題時似乎表現(xiàn)得更好。

參考資料

https://www.quantamagazine.org/the-year-in-computer-science-20241219/

https://www.quantamagazine.org/how-do-machines-grok-data-20240412/

https://www.quantamagazine.org/new-theory-suggests-chatbots-can-understand-text-20240122/

https://www.vox.com/future-perfect/389997/artificial-intelligence-openai-google-microsoft-chatgpt-progress-scaling

https://www.quantamagazine.org/amateur-mathematicians-find-fifth-busy-beaver-turing-machine-20240702/

https://www.quantamagazine.org/quantum-computers-cross-critical-error-threshold-20241209/

https://www.quantamagazine.org/magical-error-correction-scheme-proved-inherently-inefficient-20240109/

http://turingmachine.vassar.edu

https://www.quantamagazine.org/how-the-slowest-computer-programs-illuminate-maths-fundamental-limits-20201210/

https://conwaylife.com

https://www.quantamagazine.org/maths-game-of-life-reveals-long-sought-repeating-patterns-20240118/

https://www.quantamagazine.org/never-repeating-tiles-can-safeguard-quantum-information-20240223/

https://www.quantamagazine.org/scientists-find-a-fast-way-to-describe-quantum-systems-20240501/

https://www.quantamagazine.org/computer-scientists-prove-that-heat-destroys-entanglement-20240828/

https://www.quantamagazine.org/physicists-finally-find-a-problem-only-quantum-computers-can-do-20240312/

https://www.quantamagazine.org/cryptographers-discover-a-new-foundation-for-quantum-secrecy-20240603/

https://www.understandingai.org/p/openai-just-unleashed-an-alien-of

https://www.nytimes.com/2023/07/27/business/ai-chatgpt-safety-research.html

https://www.sciencenews.org/article/generative-ai-chatbots-chatgpt-safety-concerns

https://dl.acm.org/doi/10.1145/3442188.3445922

https://www.technologyreview.com/2024/10/08/1105221/geoffrey-hinton-just-won-the-nobel-prize-in-physics-for-his-work-on-machine-learning/

https://www.quantamagazine.org/how-chain-of-thought-reasoning-helps-neural-networks-compute-20240321/

科普薦書

·開放 · 友好 · 多元 · 普適 · 守拙·

讓數(shù)學(xué)

更加

易學(xué)易練

易教易研

易賞易玩

易見易得

易傳易及

歡迎評論、點贊、在看、在聽

收藏、分享、轉(zhuǎn)載、投稿

查看原始文章出處

點擊zzllrr小樂

公眾號主頁

右上角

數(shù)學(xué)科普不迷路！