機(jī)器具備“理解”能力究竟是什么意思？

發(fā)布者：cj_sfy   發(fā)布時(shí)間：2019-11-14 08:32:50   點(diǎn)擊數(shù):

編者按：AI發(fā)展著幾十年，總像四季一樣經(jīng)歷起起伏伏。每每取得一定進(jìn)展之后，又會(huì)遭遇所謂的寒冬，一下子一蹶不振。最近十年，隨著機(jī)器學(xué)習(xí)的崛起，對(duì)AI的炒作一下子到達(dá)了頂峰，然后末日論和質(zhì)疑聲又日益喧囂起來(lái)。質(zhì)疑者提出，那些僅具備單項(xiàng)能力的AI并不具備理解能力，算不上真正的AI，深度學(xué)習(xí)已經(jīng)走進(jìn)了死胡同，要另起爐灶。對(duì)此，杰出名譽(yù)教授Thomas G. Dietterich提出，其實(shí)并沒(méi)有什么“真正”的理解，人類(lèi)的理解也永遠(yuǎn)都不是完整和完美的。所以我們不要再把我們?nèi)〉玫某晒σ暈椴粔?ldquo;真實(shí)”而摒棄，而應(yīng)該繼續(xù)以誠(chéng)實(shí)的、富有成效的自我批評(píng)去推進(jìn)AI發(fā)展。原文標(biāo)題在Medium上，標(biāo)題為：What does it mean for a machine to “understand”?

對(duì)人工智能最新進(jìn)展的批評(píng)者抱怨說(shuō)，盡管這些進(jìn)展已經(jīng)給AI系統(tǒng)中帶來(lái)了顯著進(jìn)步，但這些系統(tǒng)依然未能展現(xiàn)出“真實(shí)”、“正確”或者“真正”的理解。像“真實(shí)”、“正確”以及“真正”之類(lèi)詞匯的使用意味著“理解”是二進(jìn)制的。一個(gè)系統(tǒng)要么表現(xiàn)出“真正”的理解，要么就是沒(méi)有理解。這種思維方式的困難在于，人類(lèi)的理解永遠(yuǎn)都不是完整和完美的。在本文中，我將提出“理解”是能力的系列連續(xù)譜。比方說(shuō)，不妨考慮一下“水”的概念。大多數(shù)人都理解水的許多特性：水是濕的，水可以喝，植物需要水，溫度很低的話(huà)水會(huì)結(jié)成冰，等等。但不幸的是，很多人不理解，水是導(dǎo)電體，所以，淋浴的時(shí)候不應(yīng)該用風(fēng)筒。盡管如此，我們不會(huì)說(shuō)這些人對(duì)誰(shuí)缺乏 “真實(shí)”、“正確”或“真正”的理解。相反，我們會(huì)說(shuō)他們對(duì)水的理解是不完整的。

我們也應(yīng)該以同樣的態(tài)度來(lái)評(píng)估我們的AI系統(tǒng)�，F(xiàn)有的系統(tǒng)已經(jīng)表現(xiàn)出了某些類(lèi)型的理解。比方說(shuō)，當(dāng)我讓Siri“打電話(huà)給Carol”，然后它能夠撥打正確的號(hào)碼時(shí)，你就很難說(shuō)服我說(shuō)Siri并不理解我的要求。當(dāng)我問(wèn)Google“IBM的深藍(lán)系統(tǒng)擊敗了誰(shuí)？”，后者返回一個(gè)信息框，給出用大寫(xiě)字母寫(xiě)成的“卡斯帕羅夫”時(shí)，它就已經(jīng)正確地理解了我的問(wèn)題。當(dāng)然，這種理解是有限的。如果我接著問(wèn)它“什么時(shí)候？”的時(shí)候，它只會(huì)給我提供一個(gè)“when”的字典定義——而不會(huì)把我的問(wèn)題解釋成對(duì)話(huà)的一部分。

關(guān)于“理解”之爭(zhēng)可以追溯到亞里斯多德，也許John Searle的“中文房間”思想實(shí)驗(yàn)對(duì)此闡述得最清楚。我鼓勵(lì)大家可以去看看《斯坦福哲學(xué)百科全書(shū)》里面科爾的那篇出色的文章。我的態(tài)度是一種功能主義的形式。我們從功能上去表示理解，并且根據(jù)大腦或者某AI系統(tǒng)各種內(nèi)部結(jié)構(gòu)在產(chǎn)生所衡量的功能中存在的因果關(guān)系來(lái)評(píng)估它們所做的貢獻(xiàn)。

從軟件工程的角度來(lái)看，功能主義鼓勵(lì)我們?cè)O(shè)計(jì)一系列測(cè)試去衡量系統(tǒng)的功能。我們可以問(wèn)一個(gè)系統(tǒng)（或一個(gè)人），“如果把水冷卻到–20度會(huì)發(fā)生什么？”或者“如果在洗澡的時(shí)候用吹風(fēng)機(jī)會(huì)發(fā)生什么？”然后對(duì)回應(yīng)進(jìn)行衡量。就回應(yīng)恰當(dāng)而言，我們可以說(shuō)系統(tǒng)理解了，而如果說(shuō)回答錯(cuò)誤的話(huà)，我們可以說(shuō)發(fā)現(xiàn)了系統(tǒng)存在不理解的情況。

為了讓一套系統(tǒng)能夠理解，它必須建立不同概念、狀態(tài)和動(dòng)作之間的關(guān)聯(lián)。今天的語(yǔ)言翻譯系統(tǒng)可以正確地把英語(yǔ)的“水”跟西班牙語(yǔ)的“agua”關(guān)聯(lián)到一起，但是它們沒(méi)有在“水”和“電擊”之間建立起任何的關(guān)聯(lián)。

對(duì)于最新的AI進(jìn)展，批評(píng)大都來(lái)自?xún)蓚�(gè)方面。第一個(gè)是，（研究人員、前者所在的組織，甚至政府以及資助機(jī)構(gòu)）圍繞著人工智能的炒作已經(jīng)達(dá)到了極端水平。這種炒作甚至引發(fā)了對(duì)“超級(jí)智能”或“機(jī)器人末日”迫在眉睫的恐懼。批評(píng)對(duì)于抵制胡說(shuō)八道至關(guān)重要。

其次，另一種批評(píng)是持續(xù)進(jìn)行的有關(guān)人工智能研究的未來(lái)研究方向以及政府撥款的分配之爭(zhēng)的一部分。爭(zhēng)論的其中一方是聯(lián)結(jié)主義的倡導(dǎo)者，他們發(fā)展出深度學(xué)習(xí)并支持繼續(xù)進(jìn)行這方面的研究。而另一方則是倡導(dǎo)基于符號(hào)的建構(gòu)和操縱（比方說(shuō)，形式邏輯的使用）的AI方法。主張?jiān)诨旌辖Y(jié)構(gòu)中結(jié)合這兩種辦法的社區(qū)業(yè)主日益壯大。對(duì)于這類(lèi)討論來(lái)說(shuō)批評(píng)也是至關(guān)重要的，因?yàn)锳I界必須不斷挑戰(zhàn)我們的假設(shè)，并選擇如何把社會(huì)的時(shí)間和金錢(qián)投入到AI科學(xué)和技術(shù)的發(fā)展當(dāng)中。但是，我反對(duì)這樣的觀(guān)點(diǎn)，即“因?yàn)楫?dāng)今基于深度學(xué)習(xí)的系統(tǒng)并沒(méi)有表現(xiàn)出真正的理解，所以我們應(yīng)該放棄深度學(xué)習(xí)”。這種說(shuō)法跟“今天基于深度學(xué)習(xí)的系統(tǒng)已經(jīng)取得了巨大的進(jìn)步，并且進(jìn)一步研究下去將可以‘解決智能問(wèn)題’”的說(shuō)法一樣有問(wèn)題。我喜歡Lakatos 做出的分析，也就是應(yīng)該不斷深入研究計(jì)劃，直到研究不再產(chǎn)生有效成果。所以我認(rèn)為我們應(yīng)該繼續(xù)去追求連結(jié)主義計(jì)劃，符號(hào)表征主義計(jì)劃以及新興的混合計(jì)劃，因?yàn)樗鼈兌紝⒗^續(xù)結(jié)出累累碩果。

對(duì)深度學(xué)習(xí)的批評(píng)已經(jīng)把我們帶到了新的方向。尤其是，一方面已經(jīng)證明深度學(xué)習(xí)系統(tǒng)在各種基準(zhǔn)任務(wù)上跟人類(lèi)的表現(xiàn)可以相匹敵，但另一方面又不能將其推廣到表面上非常相似的任務(wù)上，這已經(jīng)導(dǎo)致了對(duì)機(jī)器學(xué)習(xí)的批評(píng)。研究人員正在用新想法予以回應(yīng)，比方說(shuō)學(xué)習(xí)不變性（learning invariants），發(fā)現(xiàn)因果模型（discovering causal models）等。這些想法既適用于機(jī)器學(xué)習(xí)的符號(hào)主義也適用于聯(lián)結(jié)主義。

我相信我們不應(yīng)該去爭(zhēng)論什么才算是“真正的”理解。相反，我鼓勵(lì)大家把那個(gè)先放到一邊，去尋求人工智能的科技進(jìn)步，把焦點(diǎn)放在未來(lái)5、10或者50年內(nèi)應(yīng)該努力去實(shí)現(xiàn)哪些系統(tǒng)功能上面。我們應(yīng)該根據(jù)可以在AI系統(tǒng)上進(jìn)行的測(cè)試來(lái)定義這些功能，來(lái)衡量它是否具備這些功能。為此，這些功能必須是可操作的。簡(jiǎn)而言之，我的觀(guān)點(diǎn)是要AI開(kāi)發(fā)要以測(cè)試為驅(qū)動(dòng)。這需要我們把我們對(duì)“理解”和“智能”的模糊概念轉(zhuǎn)化為具體的，可衡量的能力。這本身就是一個(gè)非常有用的練習(xí)。

操作測(cè)試不需要只考慮AI系統(tǒng)的輸入輸出行為。還可以可以檢查產(chǎn)生這種行為的內(nèi)部結(jié)構(gòu)（數(shù)據(jù)結(jié)構(gòu)，知識(shí)庫(kù)等）。人工智能優(yōu)于神經(jīng)科學(xué)的一大優(yōu)勢(shì)是，我們可以更輕松地在人工智能系統(tǒng)上進(jìn)行實(shí)驗(yàn)，從而了解和評(píng)估它的行為。但是請(qǐng)注意，包括深度學(xué)習(xí)在內(nèi)的聯(lián)結(jié)主義方法往往會(huì)建立難以解釋的內(nèi)部結(jié)構(gòu)，似乎我們的大腦也是如此。因此，我們不應(yīng)該將確保特定結(jié)構(gòu)（比方說(shuō)，符號(hào)表示）存在作為研究目標(biāo)。相反，我們應(yīng)該專(zhuān)注于希望具備的行為能力，并詢(xún)問(wèn)內(nèi)部機(jī)制是如何實(shí)現(xiàn)這些能力的。比方說(shuō)，要想讓對(duì)話(huà)成功進(jìn)行，對(duì)話(huà)的每一位參與者都必須能夠跟蹤互動(dòng)的歷史。但是有很多方法可以做到這一點(diǎn)，我們未必就要指望在深度學(xué)習(xí)系統(tǒng)里面找到明確的歷史記憶。相反，僅僅因?yàn)槲覀兙帉?xiě)了特定的內(nèi)部結(jié)構(gòu)，并不意味著它就會(huì)按照我們的預(yù)期方式工作。德魯·麥克德莫特（Drew McDermott）在他著名的批評(píng)文章《人工智能遇到天生愚蠢》中曾詳細(xì)討論過(guò)這個(gè)問(wèn)題。

人工智能總是不斷地取得發(fā)展又受到批評(píng)，其后果之一是所謂的“AI效應(yīng)”，也就是因?yàn)樽钚碌南到y(tǒng)沒(méi)有表現(xiàn)出“真正的理解能力”或者“真實(shí)的智力”，所以人工智能領(lǐng)域被視為失敗。其結(jié)果是人工智能的成功被忽略，投入的資金也相應(yīng)減少了。比方說(shuō)，有一段時(shí)間以來(lái)，大家認(rèn)為，下國(guó)際象棋或者圍棋能達(dá)到人的水平就可以認(rèn)為達(dá)到了智能的標(biāo)準(zhǔn)。但是，當(dāng)IBM的深藍(lán)在1997年擊敗了卡斯帕羅夫時(shí)，一位著名的AI研究人員認(rèn)為，國(guó)際象棋擊敗人類(lèi)其實(shí)很容易——為了展現(xiàn)真實(shí)的智力，AI必須解決“卡車(chē)倒車(chē)問(wèn)題”，也就是把鉸接式半掛卡車(chē)倒入停車(chē)位置的問(wèn)題。實(shí)際上，這個(gè)問(wèn)題早在九年前就被Nguyen和Widrow 用強(qiáng)化學(xué)習(xí)給解決了。今天，許多深思熟慮的批評(píng)家又再次提出了新的任務(wù)以及新的必要或充分條件來(lái)證明系統(tǒng)具備“理解”能力。

與此同時(shí)，人工智能的研發(fā)正在為我們提供可以為社會(huì)帶來(lái)價(jià)值的，功能越來(lái)越強(qiáng)大的系統(tǒng)。無(wú)論是出于學(xué)術(shù)誠(chéng)信還是為了繼續(xù)獲得資助，人工智能的成功要?dú)w功于那些研究人員，而存在的問(wèn)題也需要他們站起來(lái)負(fù)責(zé)，這一點(diǎn)很重要。我們一方面必須壓一壓那些圍繞著AI新進(jìn)展進(jìn)行的炒作，另一方面，不管我們的系統(tǒng)是怎么理解或者不理解用戶(hù)、目標(biāo)以及所處的更廣闊世界的，我們也必須客觀(guān)地予以衡量。我們不要再把我們的成功視為“假的”，不夠“真實(shí)”而摒棄，而應(yīng)該繼續(xù)以誠(chéng)實(shí)的、富有成效的自我批評(píng)去推進(jìn)AI發(fā)展。

譯者：boxi。