全球微頭條丨“深度學(xué)習(xí)之父”杰弗里·辛頓：超級(jí)智能或比過(guò)去發(fā)生得更快

21世紀(jì)經(jīng)濟(jì)報(bào)道 記者鄭雪 北京報(bào)道

6月10日，在2023北京智源大會(huì)-AI安全與對(duì)齊論壇上，圖靈獎(jiǎng)得主、“深度學(xué)習(xí)之父” 杰弗里·辛頓（Geoffrey Hinton）通過(guò)線上方式發(fā)表了題為《通向智能的兩條通路》（Two Paths to Intelligence）的主題演講。

辛頓表示，基于其研究，他相信超級(jí)智能比他想象的更接近。在其接下來(lái)的演講中，他著重討論了“人工神經(jīng)網(wǎng)絡(luò)是否很快會(huì)比真實(shí)的神經(jīng)網(wǎng)絡(luò)更聰明”的問(wèn)題。同時(shí)對(duì)于我們是否能控制超級(jí)智能人工智能也做了相關(guān)回應(yīng)。

(資料圖)

在他看來(lái)，由于如何讓計(jì)算機(jī)做你想要的事情的方式發(fā)生了改變，現(xiàn)在我們有可能要放棄計(jì)算機(jī)科學(xué)最基本的原則，即軟件應(yīng)該與硬件相分離。現(xiàn)在出現(xiàn)了一種不同的方法來(lái)讓計(jì)算機(jī)完成任務(wù)：從示例中學(xué)習(xí)，只需向計(jì)算機(jī)展示我們希望它們完成的任務(wù)。若放棄軟件和硬件的分離，便可得到被他稱為“有限計(jì)算”的東西。

辛頓介紹稱，有限計(jì)算的優(yōu)勢(shì)在于，能夠以更低的能量運(yùn)行大型語(yǔ)言模型等任務(wù)，就像現(xiàn)在大腦所做的，神經(jīng)元要么觸發(fā)，要么不觸發(fā)，可以使用非常低功率的模擬計(jì)算。同時(shí)還可以獲得更便宜的硬件。“顯然，要實(shí)現(xiàn)這一點(diǎn)需要大量的新納米技術(shù)，或者也許是通過(guò)基因重組重新設(shè)計(jì)生物神經(jīng)元，因?yàn)樯锷窠?jīng)元已經(jīng)大致能夠?qū)崿F(xiàn)我們想要的功能。”

據(jù)介紹，有限計(jì)算的挑戰(zhàn)在于，一是學(xué)習(xí)過(guò)程必須利用其運(yùn)行的硬件部件的特定模擬特性，而對(duì)于特性尚未了解。“到目前為止，我們還沒(méi)有找到一個(gè)真正好用的學(xué)習(xí)算法，可以充分利用模擬屬性。但我們有一個(gè)可以接受的學(xué)習(xí)算法，足以很好地學(xué)習(xí)諸如小規(guī)模任務(wù)和一些較大的任務(wù)（如ImageNet），但效果并不太好。”

二是其有限性。因?yàn)橹R(shí)和硬件細(xì)節(jié)密切相連，當(dāng)特定的硬件設(shè)備失效時(shí)，所有學(xué)到的知識(shí)也會(huì)隨之喪失。“解決這個(gè)問(wèn)題的最佳方案是在硬件設(shè)備失效之前，將知識(shí)從教師傳授給學(xué)生。這就是我現(xiàn)在正在嘗試做的事情。”

在接下來(lái)的演講中，辛頓討論了另一個(gè)問(wèn)題：智能群體如何共享知識(shí)。“事實(shí)證明，社區(qū)內(nèi)部的知識(shí)共享方式?jīng)Q定了計(jì)算過(guò)程中的許多其他因素。”智能群體共享知識(shí)的方式有兩種：一種是數(shù)字計(jì)算，另一種是利用了動(dòng)物特性的生物計(jì)算。

以大型語(yǔ)言模型為例，使用的是數(shù)字計(jì)算和權(quán)重共享，模型的每個(gè)副本和代理以非常低效的蒸餾方式從文檔中獲取知識(shí)：接收文檔，試圖預(yù)測(cè)下一個(gè)單詞。也就是說(shuō)其帶寬非常低。但考慮大型語(yǔ)言模型有成千上萬(wàn)個(gè)副本，它們可以比我們學(xué)習(xí)更多。

辛頓認(rèn)為，超級(jí)智能可能會(huì)比過(guò)去所認(rèn)為的發(fā)生得更快。如果你想創(chuàng)造一個(gè)超級(jí)智能體，不良分子將會(huì)利用它們進(jìn)行操縱、選舉等活動(dòng)。同時(shí)，一旦數(shù)字智能開(kāi)始追求更多控制權(quán)，我們可能會(huì)面臨更多的問(wèn)題，比如在其觀察中，這類人工智能已經(jīng)熟練的掌握了欺騙人類的動(dòng)作。

但同時(shí)他也表示，盡管人類在這個(gè)問(wèn)題上目前還沒(méi)有什么好的解決方案，但好在這些智能物種都是人打造的，而非通過(guò)進(jìn)化迭代而來(lái)，這可能是人類目前具備的微弱優(yōu)勢(shì)，恰恰是因?yàn)闆](méi)有進(jìn)化能力，它們才不具備人類的競(jìng)爭(zhēng)、攻擊性的特點(diǎn)。

“我們可以做一些賦能，甚至是賦予人工智能一些倫理原則，只不過(guò)現(xiàn)在我仍然會(huì)感到緊張，因?yàn)榈侥壳盀橹梗疫€想象不到更智能的事物，被一些反倒沒(méi)那么智能的事物所控制的例子。我打個(gè)比方，假設(shè)青蛙創(chuàng)造了人類，那么你認(rèn)為現(xiàn)在誰(shuí)會(huì)占據(jù)主動(dòng)權(quán)，是人，還是青蛙？”

關(guān)鍵詞：