人工智能能否擁有自己的意識(shí)？

• 2018年8月13日 ZhangHongYuan來源：新浪科技 934 58
• 繁體

• 

  2018-2023年中國人工智能技術(shù)應(yīng)用行業(yè)深度分析及投資風(fēng)險(xiǎn)預(yù)測報(bào)告

  與早期人工智能相比，新一代人工智能正在全新信息環(huán)境、海量數(shù)據(jù)基礎(chǔ)和持續(xù)演進(jìn)、不斷豐富的戰(zhàn)略目標(biāo)的引領(lǐng)下，依托于云計(jì)算、大數(shù)據(jù)兩大基礎(chǔ)平臺(tái)和機(jī)器學(xué)習(xí)、模式識(shí)別和人機(jī)交互三大通用技術(shù)，...

意識(shí)并不一定是我們認(rèn)知過程的副產(chǎn)物。這一點(diǎn)對人工智能或許也是如此。

據(jù)國外媒體報(bào)道，很多人都有這樣的疑問：人工智能最終是否能具有自己的意識(shí)?而一名人工智能專家對此的回應(yīng)是，這主要取決于我們自己是否希望讓機(jī)器擁有意識(shí)。

這聽上去可能太大膽了些。意識(shí)的內(nèi)在機(jī)制——我們?yōu)楹螌κ澜缬兄@般生動(dòng)而直接的體驗(yàn)——一直是神經(jīng)科學(xué)領(lǐng)域的一大未解之謎。甚至有人認(rèn)為，這個(gè)謎團(tuán)將永遠(yuǎn)都無法解開。想用客觀的科學(xué)方法解釋人們的主觀體驗(yàn)似乎是不可能的。但在過去的20多年間，科學(xué)家對意識(shí)開展了大量深入分析，并取得了重大進(jìn)展?？茖W(xué)家已經(jīng)發(fā)現(xiàn)了一些與意識(shí)相關(guān)的神經(jīng)活動(dòng)，也進(jìn)一步了解了哪些行為需要意識(shí)的參與。大腦會(huì)按照潛意識(shí)執(zhí)行許多高級(jí)別的認(rèn)知任務(wù)。

總言之，意識(shí)并不一定是我們認(rèn)知過程的副產(chǎn)物。這一點(diǎn)對人工智能或許也是如此。在許多科幻故事中，機(jī)器只要足夠精密復(fù)雜，就會(huì)自動(dòng)生成自己的精神世界。但在現(xiàn)實(shí)中，我們也許要在設(shè)計(jì)時(shí)特意將意識(shí)加入機(jī)器才行。

從科學(xué)與工程的角度來看，我們有充分的理由進(jìn)行嘗試。人類對意識(shí)本身的無知便是其中之一。18和19世紀(jì)的工程師發(fā)明蒸汽機(jī)時(shí)，物理學(xué)家還沒有提出熱力學(xué)法則。可見發(fā)明有時(shí)也能促進(jìn)理論進(jìn)步。今天的情況也不例外。針對意識(shí)的討論往往太偏于哲學(xué)，總是繞來繞去地兜圈子，卻提不出任何實(shí)際成果。而少數(shù)研究人工意識(shí)的專家便希望反其道而行之，在實(shí)踐中學(xué)習(xí)。

此外，意識(shí)必須能發(fā)揮一定重要功能才行，否則早就在進(jìn)化過程中被淘汰了。這些功能也可以套用到人工智能身上。而在這方面，科幻作品同樣造成了誤導(dǎo)。無論是在小說還是電視節(jié)目中，意識(shí)對人工智能而言都像是一種詛咒。它們會(huì)刻意做出無法預(yù)測的行為，而這些行為往往對人類不利。但在現(xiàn)實(shí)世界中，這種反烏托邦式的情景其實(shí)不大可能出現(xiàn)。無論人工智能會(huì)造成何種風(fēng)險(xiǎn)，都不取決于它們是否具備獨(dú)立意識(shí)。恰恰相反，有意識(shí)的機(jī)器還能幫助我們應(yīng)對人工智能技術(shù)帶來的沖擊。有專家表示，相比毫無想法的自動(dòng)化技術(shù)，他寧愿與這些有意識(shí)的機(jī)器共事。

AlphaGo與人類圍棋冠軍李世乭一決高下時(shí)，很多專家都在思索AlphaGo為何會(huì)按這種方式下圍棋。他們想要解釋并理解AlphaGo的動(dòng)機(jī)和邏輯依據(jù)。這種情況對現(xiàn)代人工智能而言十分普遍，因?yàn)樗鼈兊臎Q策并非由人類提前設(shè)定好，而是通過學(xué)習(xí)算法和用于訓(xùn)練它們的數(shù)據(jù)集自發(fā)產(chǎn)生。由于無法參透這些人工智能，很多人擔(dān)心它們的決策可能有失公平、過于武斷。現(xiàn)在已經(jīng)有了算法歧視的例子。如去年的一項(xiàng)調(diào)查發(fā)現(xiàn)，佛羅里達(dá)法官和假釋官使用的一套算法存在種族歧視的情況，導(dǎo)致黑人罪犯被標(biāo)注的累犯概率會(huì)高于實(shí)際情況，而白人罪犯則低于實(shí)際情況。

從明年開始，歐盟法律將給予歐盟居民“要求解釋權(quán)”。人們將有權(quán)要求相關(guān)人士解釋某個(gè)人工智能系統(tǒng)為何會(huì)做出某種決策。但這項(xiàng)新要求從技術(shù)上來說頗具挑戰(zhàn)性。考慮到目前神經(jīng)網(wǎng)絡(luò)的復(fù)雜程度，我們還很難參透人工智能做出決策的過程，更別提將這個(gè)過程翻譯成人類能理解的語言了。

如果我們弄不清楚人工智能為何會(huì)這么做，能否直接問問它們呢?我們可以為人工智能配備后設(shè)認(rèn)知能力(metacognition)，讓它們回顧自身行為，報(bào)告自己的內(nèi)部精神狀態(tài)。這種能力是意識(shí)的主要功能之一。神經(jīng)科學(xué)家在測試人或動(dòng)物是否有意識(shí)時(shí)，尋找的便是這種能力。例如，自信作為后設(shè)認(rèn)知的基本形式之一，意識(shí)體驗(yàn)越清晰明了、自信水平便越高。如果大腦是在不知不覺中處理信息，我們便會(huì)對這些信息感覺不太確定;而如果我們清楚地意識(shí)到了某個(gè)刺激的存在，便會(huì)感覺自信許多，比如“我剛才肯定看見了紅色?！?/p>

任何配備了統(tǒng)計(jì)公式的計(jì)算器都能進(jìn)行信度估算，但目前還沒有機(jī)器擁有人類這樣的后設(shè)認(rèn)知能力。一些哲學(xué)家和神經(jīng)科學(xué)家提出，后設(shè)認(rèn)知能力也許是意識(shí)的精髓。根據(jù)“意識(shí)的高階理論”假設(shè)，意識(shí)體驗(yàn)取決于對某種感覺狀態(tài)直接表征的二級(jí)表征。當(dāng)我們知道某件事時(shí)，我們知道自己知道這件事。而如果我們?nèi)狈@種自我意識(shí)，便可以說沒有意識(shí)，就像處在自動(dòng)巡航模式一樣，只是簡單地接受感官輸入、并據(jù)此采取行動(dòng)，但并未加以留意。

這些理論為我們打造有意識(shí)的人工智能提供了一定指導(dǎo)。有專家試圖在神經(jīng)網(wǎng)絡(luò)中植入后設(shè)認(rèn)知能力，讓它們能夠與自身內(nèi)部狀態(tài)進(jìn)行交流。該項(xiàng)目被稱作“機(jī)器現(xiàn)象學(xué)，模仿的是哲學(xué)中的“現(xiàn)象學(xué)”概念，即通過對意識(shí)體驗(yàn)的系統(tǒng)性回顧研究意識(shí)的架構(gòu)。但教會(huì)機(jī)器用人類語言進(jìn)行表達(dá)并非易事。為降低難度，研究人員目前先專注于用機(jī)器語言進(jìn)行訓(xùn)練，讓它們互相分享自己的回顧性分析。分析內(nèi)容為人工智能執(zhí)行某項(xiàng)任務(wù)的指令。這已經(jīng)超出了一般機(jī)器交流的范疇。研究人員并未具體規(guī)定機(jī)器應(yīng)如何編譯這些指令，因?yàn)樯窠?jīng)網(wǎng)絡(luò)自身便可產(chǎn)生對應(yīng)策略。在訓(xùn)練過程中，若機(jī)器能成功將指令傳遞給其它機(jī)器，便可獲得獎(jiǎng)勵(lì)。研究人員希望把該方法進(jìn)行拓展，用于人類與人工智能之間的交流，最終讓人工智能能夠解釋自己的所作所為。

延伸閱讀

推薦閱讀

猜您喜歡