編者按：WAIC 首日，便以重磅嘉賓開場——諾貝爾獎得主，人工智能教父 Geoffrey Hinton，發(fā)表了開幕演講。

辛頓：數(shù)字智能是否會取代生物智能

演講者：Geoffrey Hinton

從大約 60 年前開始，AI 就發(fā)展出了兩種不同的范式。一種是「符號主義」路徑，強調(diào)邏輯推理的能力。我們通過規(guī)則操作符號來進行推理，這種方式可以幫助我們理解知識是如何被表達與處理的。這類 AI 模型的基礎(chǔ)是對符號的處理，被認為更符合邏輯智能的本質(zhì)。

另一種路徑則以生物智能為基礎(chǔ)，是圖靈與馮·諾依曼更傾向相信的方式。他們認為智能的本質(zhì)在于從神經(jīng)連接中學(xué)習，在于速度、結(jié)構(gòu)和連接模式的改變。這種「連接主義」強調(diào)的是學(xué)習與適應(yīng)，而非顯式的邏輯規(guī)則。

1985 年，我曾構(gòu)建過一個非常小的模型，試圖將這兩種理論結(jié)合起來。我的想法是：每一個詞都可以由多個特征(features)表示，而這些特征之間可以被用來預(yù)測下一個詞。這個模型不存儲完整的句子，而是通過生成語言來學(xué)習詞匯之間的關(guān)系。

這種方式強調(diào)語言中的「語義特征」——也就是說，我們并不是僅僅靠規(guī)則，而是通過「理解」詞匯的語義來進行預(yù)測。這為后來計算語言學(xué)界接受特征表示打下了基礎(chǔ)。二十年后，這種思想得到了進一步發(fā)展，例如被用于構(gòu)建更大規(guī)模的自然語言處理系統(tǒng)。

大模型與人類語言理解

Google 的 Transformer 架構(gòu)，以及 OpenAI 研究者們所展示的大型語言模型(如 GPT)，則把這種模型放大到了新的高度。這些模型的底層原理與我當年構(gòu)建的小模型類似：將語言中的詞匯視為具有多維特征的「構(gòu)件」，然后在多層神經(jīng)網(wǎng)絡(luò)中進行組合、融合，從而實現(xiàn)語言生成與理解。

我喜歡用「樂高積木」作為比喻。每個詞就像一個多維度的樂高積木，具有成千上萬的特征維度。理解語言就像用這些積木建模，不同的詞要以合適的方式「握手」，即匹配連接點，這種匹配方式反映了詞與詞之間的語義關(guān)系。如果詞的形狀改變了，它與其他詞的「握手方式」也會變化，語言的意義也隨之變化。

這種構(gòu)造方式類似于蛋白質(zhì)折疊：氨基酸在空間中的不同組合方式，最終決定了蛋白質(zhì)的功能。人腦理解語言也是以此種方式構(gòu)建語義結(jié)構(gòu)的。

這與人類知識傳播完全不同。我無法把我的神經(jīng)元結(jié)構(gòu)「拷貝」到你腦中，語言只能以極低的比特率(一秒大約 100 比特)來傳遞信息。而在數(shù)字系統(tǒng)中，一個神經(jīng)網(wǎng)絡(luò)模型可以復(fù)制成成千上萬個版本，它們在不同設(shè)備上學(xué)習，并且可以快速共享權(quán)重，遠遠超越人類知識傳播的速度與效率。

我的觀點是，人類理解語言的方式和大語言模型的方式幾乎是一致的。人類甚至可以被看作一種大語言模型。也正因如此，人類也和 AI 一樣會產(chǎn)生「幻覺」，因為我們也會自己創(chuàng)造出一些不真實但合理的解釋。

當然，也有本質(zhì)上的不同。AI 在某些方面比人類更強。比如在計算機科學(xué)中有一個根本性的原則，那就是：軟件可以被抽象、被復(fù)制，并在不同的硬件上運行。只要程序存在，它的知識就不會消失。你甚至可以毀掉所有的硬件，只要軟件代碼還存在，它就能被復(fù)活。

從這個角度看，程序中的知識是永恒的，不會死亡。這和人腦完全不同。人腦是模擬系統(tǒng)，每一次的神經(jīng)元激發(fā)都是獨一無二的，是不可完全復(fù)制的。你不可能把你腦中的神經(jīng)結(jié)構(gòu)復(fù)制到我腦中，因為我們每個人的大腦連接方式都不同。

這就導(dǎo)致一個關(guān)鍵問題：知識在大腦中是和硬件綁定的，而在數(shù)字系統(tǒng)中，知識可以和硬件分離。因此，AI 系統(tǒng)具有「永生性」。

這種特性帶來了兩個巨大的好處：第一，它只需要非常小的能耗。人腦的功率大約只有 30 瓦，卻擁有上萬億個神經(jīng)元連接，這和數(shù)字系統(tǒng)的能效比類似。第二，我們不需要花大價錢去一模一樣地復(fù)制每一個神經(jīng)網(wǎng)絡(luò)。

當然，我們在知識傳遞方面仍面臨一個難題。比如說，我沒有辦法直接把我腦中的知識「展示」給你，因為那是模擬性的東西。我只能用語言向你解釋我學(xué)到的內(nèi)容。

知識蒸餾與教師-學(xué)生模型

為了解決模型體積與計算資源問題，現(xiàn)在的研究越來越傾向于「蒸餾」技術(shù)：從大模型中提取知識，轉(zhuǎn)移到一個小模型中。這個過程就像教師與學(xué)生之間的傳授關(guān)系：教師通過語言、上下文連接等方式將知識傳遞出去，學(xué)生則嘗試理解并復(fù)制這種能力。

不過這種過程在人類之間的效率是非常低的，畢竟語言的帶寬有限。而在機器之間，這種知識的復(fù)制可以在極大規(guī)模下進行，實現(xiàn)指數(shù)級的知識轉(zhuǎn)移。

AI 的能力正在快速增長，未來它們很可能變得比人類更智能。有人可能會認為，萬一 AI 不聽話，我們可以把它關(guān)掉，但這并不現(xiàn)實。如果 AI 足夠聰明，它會通過操縱人類、獲得控制權(quán)等方式來避免被關(guān)閉。

這個問題就像養(yǎng)一只小老虎當寵物——在它還小的時候你覺得可以控制它，但等它長大以后，就可能失控。AI 的能力可以帶來巨大的好處，比如提高醫(yī)療、教育、應(yīng)對氣候變化和材料研發(fā)的效率。它不會消失，也不可能被單一國家所控制。

全球合作的希望

雖然不同國家的利益存在分歧，在如網(wǎng)絡(luò)攻擊、致命武器或輿論操控方面也難以形成有效合作，但就像冷戰(zhàn)時期美蘇合作避免核戰(zhàn)爭一樣，各國在 AI 安全方面是有可能合作的。

我的建議是建立一個由多個國家參與的國際 AI 安全研究網(wǎng)絡(luò)，專注于研究如何訓(xùn)練 AI 向善——這與訓(xùn)練 AI 變聰明是兩件不同的事。每個國家可以在本國進行 AI 安全研究，但應(yīng)共享成果，協(xié)助全人類開發(fā)出愿意協(xié)助、而不是統(tǒng)治我們的智能體。

從長遠看，這可能是人類最重要的議題。而好消息是，這個問題是全人類可以團結(jié)起來共同面對的。

（來源：深科技）