??「AI會(huì)不會(huì)變終結(jié)者」，這是外行經(jīng)常會(huì)問、內(nèi)行只有攤手的老套問題。

不過，這話要是讓行內(nèi)大佬一說，效果馬上不一樣了。

最近，OpenAI首席科學(xué)家的一句話，讓整個(gè)機(jī)器學(xué)習(xí)圈都炸了鍋了。

2月10日，伊利亞·薩茨克維爾（Ilya Sutskever）發(fā)推表示：「現(xiàn)在的大型神經(jīng)網(wǎng)絡(luò)可能已經(jīng)有微弱自主意識(shí)了。」

爭(zhēng)論持續(xù)了幾天之后。

2月13日，LeCun甚至親自下場(chǎng)，異常堅(jiān)決且簡(jiǎn)單明了：

「不對(duì)?！?/strong>

接著便措辭禮貌但尖刻地解釋道：

「甚至『微弱意識(shí)』里的表微量的形容詞，和『大型神經(jīng)網(wǎng)絡(luò)』里的表示大型的形容詞，都是錯(cuò)的。我認(rèn)為你自己的智識(shí)也需要當(dāng)下所有神經(jīng)網(wǎng)絡(luò)都不具備的大型架構(gòu)來支撐了。」

這段時(shí)間，伊利亞老師都是一句話冷艷結(jié)束，所以現(xiàn)在沒人知道他到底具體在講些什么。

尤其是這句「?jìng)}促」得連首字母都沒有大寫，不由得引人想入非非。

是在說正在開發(fā)中的新GPT模型大力出奇跡呢？還是在說自家的現(xiàn)有模型受天啟感召已經(jīng)具有不亞于人的靈智呢？還是重復(fù)宣傳「通用人工智能」（AGI）很好很強(qiáng)大的觀點(diǎn)呢？

真要臆想超級(jí)AI，看《疑犯追蹤》比看無聊紀(jì)錄片舒服多了。

大佬們噴成一鍋粥

言歸正傳，推文發(fā)布后，各種回復(fù)隨之撲面而來。

不出意外地充斥著對(duì)AI「自我認(rèn)知」的強(qiáng)烈不安，但更多人則認(rèn)為這是純粹的胡說八道。

有網(wǎng)友在伊利亞的原推下回復(fù)：「現(xiàn)在人類所知的自我意識(shí)，必須有相當(dāng)程度的動(dòng)態(tài)隨機(jī)性，甚至可以稱為混沌性。若無，則只是算法性質(zhì)的行為。算法的確可能足夠復(fù)雜，讓觀察者誤以為它具有意識(shí)?！?/p>

新南威爾士大學(xué)西德尼分校人工智能研究員托比·沃爾什（Toby Walsh）說：「每次這種猜測(cè)性的評(píng)論被發(fā)表時(shí)，都需要花幾個(gè)月的時(shí)間來讓對(duì)話回到人工智能帶來的更現(xiàn)實(shí)的機(jī)會(huì)和威脅上來。」

花旗銀行副總裁、深度學(xué)習(xí)專家瓦倫蒂諾·佐卡（Valentino Zocca）也有類似的觀點(diǎn)： 「人工智能是沒有意識(shí)，但顯然，炒作比任何事實(shí)都更重要?！?/p>

獨(dú)立的科技社會(huì)學(xué)者尤爾根·古特（Jürgen Geuter）在跟帖中說：「很有可能這根本沒任何事實(shí)依據(jù)，只是一家跑了海量簡(jiǎn)單統(tǒng)計(jì)的創(chuàng)業(yè)公司吹噓自己擁有魔法般技術(shù)力的銷售噱頭?！?/p>

這一觀點(diǎn)得到了軟件測(cè)試專家邁克爾·博爾頓（Michael Bolton）的支持，他開玩笑說： 「AI不見得有微弱意識(shí)，不過伊利亞很可能有在『微弱』地滿嘴跑火車，甚至可能不止『微弱』。」

哥本哈根信息技術(shù)大學(xué)的副教授里昂·德爾琴斯基（Leon Dercynski）也大開嘲諷：「在地球和火星之間的某個(gè)地方，很可能有一個(gè)繞日飛行的茶壺，這比伊利亞的想入非非要合理多了。因?yàn)樘祗w軌道飛行的規(guī)則架構(gòu)事實(shí)上存在，而何為茶壺的精確定義也存在?！?/p>

微軟挪威數(shù)據(jù)科學(xué)家、前DeepMind研究員羅曼·韋爾帕科斯基（Roman Werpachowski）用放出著名的「我是你爸爸」哏圖的方式回應(yīng)了這個(gè)消息。

不過，在被無數(shù)人抨擊后，伊利亞老師非常高貴冷艷地淡淡回復(fù)：「自大才是最終的敵人。」

對(duì)于這句淡淡的反駁，網(wǎng)友們也有淡淡的嘲諷。

曾在微軟、谷歌供職，現(xiàn)在英偉達(dá)深度學(xué)習(xí)項(xiàng)目就業(yè)的碼農(nóng)李?yuàn)W納多·摩西斯庫(kù)（Leonard Mosescu）用伊利亞的金句句式嘲笑： 「現(xiàn)在的大型自大可能也有微弱自主意識(shí)了?！?/p>

另一個(gè)在英特爾、IBM、佐治亞理工大學(xué)都干過的碼農(nóng)杰格·多什（Jigar Doshi）反問： 「若無自我執(zhí)念，何來人類的意識(shí)活動(dòng)呢？」

在萬眾抨擊中，伊利亞老師終于舍得多說幾句話回?fù)袅耍?「為了短期內(nèi)自我感覺良好，而無意識(shí)選擇相信顯然的假象，并不是最優(yōu)生活策略」。

「認(rèn)知=行動(dòng)，先進(jìn)的深度學(xué)習(xí)智能體可能也會(huì)有類似這種人類劣性的短板?！?/p>

在千夫所指中，OpenAI的老板山姆·奧特曼（Sam Altman）表示力挺同事、同時(shí)反擊LeCun：

OpenAI首席科學(xué)家：對(duì)神秘觀點(diǎn)表示了好奇心與開放心態(tài)，用「可能」開始句子；

Meta首席AI科學(xué)家：開句就是獨(dú)斷的「不對(duì)」。

說不定這能解釋過去5年中的業(yè)績(jī)哦。

親愛的Meta AI研究者們，這是我的電郵地址，我司現(xiàn)在招人哦。

網(wǎng)紅LeCun在社交網(wǎng)絡(luò)上從沒有受氣挨噴的習(xí)慣，馬上回復(fù)：

某司的確可以天天造更快的飛機(jī)、打破飛行高度記錄，搞這些事情既能讓自家名字常常上頭條，這些突破說不定也會(huì)有那么點(diǎn)真用處。

但如果目標(biāo)是真正突破大氣層飛上太空軌道，那就需要在冷凝儲(chǔ)液罐、渦輪泵這些毫不上鏡的技術(shù)上下苦功。

不信你去問馬斯克去。

微軟的深度學(xué)習(xí)研究大佬Devon Hjelm說了大實(shí)話：

AI界的研究者與學(xué)生們，如果你們還不清楚的話，以下是此次事情的梗概：

除了老套的AI公司互噴打嘴仗以外，這事情一點(diǎn)有意義的實(shí)質(zhì)性內(nèi)容都沒有。

大家最好還是問優(yōu)質(zhì)問題、保持好奇心、同時(shí)保持狐疑態(tài)度。

AI到底有無自主意識(shí)？

伊利亞老師除了是OpenAI的首席科學(xué)家兼聯(lián)合創(chuàng)始人、AlphaGo論文的諸多作者之一，也是AI業(yè)界最熱衷于AGI的著名人士之一。

OpenAI本身，也在「公司的未來使命」中宣布要開發(fā)「造福全人類的AGI」

在接受關(guān)于人工智能的2019年紀(jì)錄片《iHuman》采訪時(shí)，伊利亞既宣布將解決當(dāng)下人類遇到的所有難題，卻又警告AGI可能將具備無限延續(xù)專制的潛力。

采訪者應(yīng)該是出于禮貌才沒有追問「那用AGI能否解決人類社會(huì)面臨獨(dú)裁的難題」這種「以子之矛攻子之盾」的問題。

對(duì)此，非盈利研究機(jī)構(gòu)「感知學(xué)院」（Sentience Institute）的聯(lián)合創(chuàng)始人、社會(huì)科學(xué)家Jacy Reese Anthis在推特貼文中對(duì)此進(jìn)行了深入的探討。

在為自家的機(jī)構(gòu)打了廣告后，Jacy Reese Anthis闡述：

首先，意識(shí)的含義在哲學(xué)家和科學(xué)家中存在很大爭(zhēng)議。

對(duì)此，可以用3個(gè)以上更精確的術(shù)語來形容：

思想，通常是一種語義上的字詞流

感知，通過五種感官或想象力達(dá)到的感知

情感，積極和消極的情緒

然而，甚至這些都是有爭(zhēng)議的。

這些是行為嗎？過程？功能？二元論？不可言說的？等等。

Jacy認(rèn)為，應(yīng)該采取消除主義的觀點(diǎn)。因?yàn)檫@些術(shù)語是如此模糊，所以意識(shí)并不客觀存在。

那么，哪些具體特征會(huì)表明人工智能中的有知覺或意識(shí)？

「感知學(xué)院」的研究者認(rèn)為如果人工智能可以被稱為有意識(shí)，它可能具備以下特征中的一個(gè)或多個(gè)：對(duì)有害誘導(dǎo)數(shù)據(jù)的檢測(cè)及于此可變的注重程度、對(duì)此誘因有規(guī)避的回應(yīng)與記憶聯(lián)想、對(duì)此誘因有類似情緒變化的狀態(tài)變化，加強(qiáng)學(xué)習(xí)，基于目標(biāo)而定的行為，對(duì)情緒狀態(tài)的語義表述。

http://sentienceinstitute.org/blog/assessing-sentience-in-artificial-entities

當(dāng)下如GPT-3等的變換模型，以上特征幾近于無。不過，Jacy還是不認(rèn)為此議題有完全客觀的答案。

因?yàn)閷?duì)于意識(shí)的定義、比如「此物感覺怎樣」或「內(nèi)在傾聽者」等等，用來回答這問題都太過模糊。

如今，在分歧、模糊和不確定的情況下所能做到的最精確回答大概就是：「神經(jīng)網(wǎng)絡(luò)可能有了極微的意識(shí)，但是比昆蟲要少」。

參考資料：

https://futurism.com/the-byte/openai-already-sentient

https://wordpress.futurism.com/conscious-ai-backlash/amp

Ilya Sutskever：https://twitter.com/ilyasut/status/1491554478243258368

LeCun：https://twitter.com/ylecun/status/1492890267468320778

Sam Altman：https://twitter.com/sama/status/1492644786133626882

本文來自微信公眾號(hào)“新智元”（ID:AI_era），編輯：袁榭 好困，36氪經(jīng)授權(quán)發(fā)布。