人工智能會“作惡”嗎？

• 2018年11月5日 ZhangHongYuan來源：科技日報、經(jīng)濟觀察報 1204 78
• 繁體

• 

  在機遇與挑戰(zhàn)中把握IT咨詢行業(yè)趨勢，才能從中取勢得到更好的發(fā)展！

  IT咨詢也可稱為信息化咨詢，它是對企業(yè)進行一次全方位的系統(tǒng)改造，主要涉及企業(yè)管理模式設(shè)計、業(yè)務(wù)流程重組、信息化解決方案設(shè)計與管理軟件系統(tǒng)的實施應(yīng)用。隨著國內(nèi)經(jīng)濟的發(fā)展，IT咨詢市場發(fā)展...

AI造反，是科幻電影里太常見的橋段。問題在于，現(xiàn)實當(dāng)中真正的AI好像也在一步步向我們走來。不少人抱有憂慮和不安，人工智能會“作惡”嗎?

一場搶劫案后，格雷的妻子喪生，自己也全身癱瘓。他接受了一個天才科學(xué)家的“升級”改造治療——在他身體里植入了人工智能程序STEM，獲得了超強的能力，從一個“殘廢”直接升級成為職業(yè)殺手。隨著STEM的進化升級，步步緊逼格雷交出身體使用權(quán)和大腦意識控制權(quán)……

本年度關(guān)于人工智能和人類未來的最佳影片，不少人認(rèn)為非《升級》莫屬。而人工智能和人類抗衡的探討，是科幻電影中的永恒話題，從《銀翼殺手》到《機械姬》，再到今年的低成本電影《升級》，都映射出未來人工智能對人類的威脅。

黑產(chǎn)超正規(guī)行業(yè) 惡意源于人類基因

AI造反，是科幻電影里太常見的橋段。問題在于，現(xiàn)實當(dāng)中真正的AI好像也在一步步向我們走來。不少人抱有憂慮和不安，人工智能會“作惡”嗎?

傾向于AI威脅論的人并不在少數(shù)。馬斯克曾在推特上表示：“我們要非常小心人工智能，它可能比核武器更危險。”史蒂芬·霍金也說：“人工智能可能是一個‘真正的危險’。機器人可能會找到改進自己的辦法，而這些改進并不總是會造福人類?！?/p>

“任何技術(shù)都是一把雙刃劍，都有可能用于作惡，為什么人工智能作惡會引起這么大的反響?”在近日召開的2018中國計算機大會的分論壇上，哈爾濱工業(yè)大學(xué)長聘教授鄔向前拋出了問題，人工智能研究的底線到底在哪里?

早在1942年，阿西莫夫就提出了機器人三定律。但問題在于，這些科幻書中美好的定律，執(zhí)行時會遇到很大的問題。

“一臺計算機里跑什么樣的程序，取決于這個程序是誰寫的。”360集團技術(shù)總裁、首席安全官譚曉生說，機器人的定律可靠與否，首先是由人定義的，然后由機器去存儲、執(zhí)行。

值得注意的是，“不作惡”已成科技行業(yè)的一個技術(shù)原則。那么，機器人作惡，惡意到底從何而來?

如今人工智能發(fā)展的如火如荼，最早擁抱AI的卻是黑產(chǎn)群體，包括用AI的方法來突破驗證碼，去黑一些賬戶。譚曉生笑言：“2016年中國黑產(chǎn)的收入已超過一千億，整個黑產(chǎn)比我們掙的錢還要多，它怎么會沒有動機呢?”

“AI作惡的實質(zhì)，是人類在作惡?！北本┐髮W(xué)法學(xué)院教授張平認(rèn)為，AI不過是一個工具，如果有人拿著AI去作惡，那就應(yīng)該制裁AI背后的人，比如AI的研發(fā)人員、控制者、擁有者或是使用者。當(dāng)AI在出現(xiàn)損害人類、損害公共利益和市場規(guī)則的“惡”表現(xiàn)時，法律就要出來規(guī)制了。

目前，無人駕駛和機器人手術(shù)時引發(fā)的事故，以及大數(shù)據(jù)分析時的泛濫和失控時有耳聞。那么，人工智能會進化到人類不可控嗎?屆時AI作惡，人類還能招架的住嗎?

任務(wù)驅(qū)動型AI 還犯不了“反人類罪”

值得關(guān)注的是，霍金在其最后的著作中向人類發(fā)出警告，“人工智能的短期影響取決于誰來控制它，長期影響則取決于它能否被控制?！毖韵轮猓斯ぶ悄苷嬲娘L(fēng)險不是惡意，而是能力。

“人工智能未來的發(fā)展會威脅到人類的生存，這不是杞人憂天，確實會有很大的風(fēng)險，雖說不是一定會發(fā)生，但是有很大的概率會發(fā)生。”在譚曉生看來，人類不會被滅亡，不管人工智能如何進化，總會有漏洞，黑客們恰恰會在極端的情況下找到一種方法把這個系統(tǒng)完全摧毀。

對此，上海交通大學(xué)電子系特別研究員倪冰冰持樂觀態(tài)度?！拔覀兡壳按蟛糠值腁I技術(shù)是任務(wù)驅(qū)動型，AI的功能輸出、輸入都是研究者、工程師事先規(guī)定好的?！蹦弑忉屨f，絕大多數(shù)的AI技術(shù)遠遠不具備反人類的能力，至少目前不用擔(dān)心。

張平表示，當(dāng)AI發(fā)展到強人工智能階段時，機器自動化的能力提高了，它能夠自我學(xué)習(xí)、自我升級，會擁有很強大的功能。比如人的大腦和計算機無法比擬時，這樣的強人工智能就會對我們構(gòu)成威脅。

“人類給AI注入什么樣的智慧和價值觀至關(guān)重要，但若AI達到了人類無法控制的頂級作惡——‘反人類罪’，就要按照現(xiàn)行人類法律進行處理?！睆埰秸f，除了法律之外，還需有立即“處死”這類AI的機制，及時制止其對人類造成的更大傷害。“這要求在AI研發(fā)中必須考慮‘一鍵癱瘓’的技術(shù)處理，如果這樣的技術(shù)預(yù)設(shè)做不到，這類AI就該停止投資與研發(fā)，像人類對待毒品般全球誅之?！?/p>

作惡案底漸增 預(yù)防機制要跟上

事實上，人們的擔(dān)憂并非空穴來風(fēng)。人工智能作惡的事件早在前兩年就初見端倪，比如職場偏見、政治操縱、種族歧視等。此前，德國也曾發(fā)生人工智能機器人把管理人員殺死在流水線的事件。

可以預(yù)見，AI作惡的案例會日漸增多，人類又該如何應(yīng)對?

“如果我們把AI當(dāng)作工具、產(chǎn)品，從法律上來說應(yīng)該有一種預(yù)防的功能?？茖W(xué)家要從道德的約束、技術(shù)標(biāo)準(zhǔn)的角度來進行價值觀的干預(yù)?！睆埰綇娬{(diào)，研發(fā)人員不能給AI灌輸錯誤的價值觀。畢竟，對于技術(shù)的發(fā)展，從來都是先發(fā)展再有法律約束。

在倪冰冰看來，目前不管是AI算法還是技術(shù)，都是人類在進行操控，我們總歸有一些很強的控制手段，控制AI在最高層次上不會對人產(chǎn)生一些負(fù)面影響?！叭绻麤]有這樣一個操控或者后門的話，那意味著不是AI在作惡，而是發(fā)明這個AI工具的人在作惡?！?/p>

凡是技術(shù)，就會有兩面性。為什么我們會覺得人工智能的作惡讓人更加恐懼?與會專家直言，是因為AI的不可控性，在黑箱的情況下，人對不可控東西的恐懼感更加強烈。

目前最火的領(lǐng)域——“深度學(xué)習(xí)”就是如此，行業(yè)者將其戲謔地稱為“當(dāng)代煉金術(shù)”，輸入各類數(shù)據(jù)訓(xùn)練AI，“煉”出一堆我們也不知道為啥會成這樣的玩意兒。人類能信任自己都無法理解的決策對象嗎?

顯然，技術(shù)開發(fā)的邊界有必要明晰，比爾·蓋茨也表示擔(dān)憂。他認(rèn)為，現(xiàn)階段人類除了要進一步發(fā)展AI技術(shù)，同時也應(yīng)該開始處理AI造成的風(fēng)險。然而，“這些人中的大多數(shù)都沒有研究AI風(fēng)險，只是在不斷加速AI發(fā)展?！?/p>

業(yè)界專家呼吁，我們必須清楚地知道人工智能會做出什么樣的決策，對人工智能的應(yīng)用范圍和應(yīng)用結(jié)果的預(yù)期，一定要有約束。

AI會不會進化，未來可能會形成一個AI社會嗎?“AI也許會為了爭取資源來消滅人類，這完全有可能，所以我們還是要重視AI作惡的程度和風(fēng)險?！爆F(xiàn)場一位嘉賓建議，我們現(xiàn)在要根據(jù)人工智能的不同階段，比如弱智能、強智能和超智能，明確哪些人工智能應(yīng)該研究，哪些應(yīng)該謹(jǐn)慎研究，而哪些又是絕對不能研究的。

如何防范AI在極速前進的道路上跑偏?“要從技術(shù)、法律、道德、自律等多方面預(yù)防?！睆埰秸f，AI研發(fā)首先考慮道德約束，在人類不可預(yù)見其后果的情況下，研發(fā)應(yīng)當(dāng)慎重。同時，還需從法律上進行規(guī)制，比如聯(lián)合建立國際秩序，就像原子彈一樣，不能任其無限制地發(fā)展。

相關(guān)閱讀：就業(yè)方向變了!人工智能領(lǐng)域現(xiàn)百萬年薪

距離學(xué)校秋招大幕拉開已經(jīng)過去兩個月，王宇(化名)仍然沒有拿到一份稱心的工作合同。

兩年前進入中國人民大學(xué)攻讀金融學(xué)碩士的他，未曾想過當(dāng)下面臨的窘境。

他說：“和往年相比，今年最大的感受是券商招聘人數(shù)在減少，銀行機構(gòu)也縮減了招聘規(guī)模，秋招接近尾聲，班上只有幾名同學(xué)拿到了offer。但事實上，如果對工作沒有太多要求，基本還是可以找到工作?！?/p>

王宇一職難求的另一面，是新興行業(yè)人才需求的火爆。

4月19日，獵聘網(wǎng)發(fā)布的《2018Q1中高端人才薪酬與流動大數(shù)據(jù)報告》顯示，在2018年一季度供求趨向平衡的狀況下，金融和互聯(lián)網(wǎng)行業(yè)的平均年薪均突破20萬元，而區(qū)塊鏈和AI領(lǐng)域的平均年薪則超越30萬元，與2017年相比，2018年區(qū)塊鏈領(lǐng)域發(fā)布的職位數(shù)量提升了三倍。

談到同校計算機專業(yè)的朋友，王宇說：“只要是熱門領(lǐng)域，并且技術(shù)過關(guān)，今年確實好找工作，工資也高，年薪在三四十萬元的大有人在。甚至出現(xiàn)了工資倒掛現(xiàn)象，同一家公司，今年新進員工薪酬比之前的學(xué)長還高。”

火爆的人工智能

作為一家智能語音交互技術(shù)研發(fā)的公司，思必馳在招聘中感受到高端人才的爭奪越發(fā)激烈。

思必馳人力資源部總監(jiān)吳小珍向經(jīng)濟觀察報介紹：“近兩年，人工智能類人才的供需是不平衡的，原因在于早期人才積累、沉淀較少，人工智能等新興行業(yè)在高校內(nèi)部設(shè)置專業(yè)并不多。2015年開始，人工智能領(lǐng)域變得火爆，多家企業(yè)相繼涌進，企業(yè)人才競爭越發(fā)激烈。也是從那時，薪金變化一年上一個臺階，開出幾十萬到近百萬元不等的年薪并不鮮見?！?/p>

智聯(lián)招聘市場部高級總監(jiān)李強對經(jīng)濟觀察報說：“新興行業(yè)對人才需求度比較高。如AI領(lǐng)域，人才需求量呈幾何式增長，人才儲備主要由關(guān)聯(lián)度較高的行業(yè)跨界而來。目前，人工智能在中國尚處于初期階段，企業(yè)在招聘時對人才的工作經(jīng)驗會試情況放低要求，也會以高薪爭奪專業(yè)人才?！?/p>

2017年12月，騰訊研究院和BOSS直聘聯(lián)合發(fā)布《全球人工智能人才白皮書》顯示,全球AI領(lǐng)域人才約30萬,而市場需求在百萬量級。全球每年畢業(yè)于AI領(lǐng)域的高校學(xué)生約2萬人，遠遠不能滿足市場對人才的需求。

在人才市場巨大的需求推動下，去年以來，一批以人工智能為代表的高新技術(shù)專業(yè)在高校間開啟了一波興建潮。

2018年4月2日，教育部印發(fā)《高等學(xué)校人工智能創(chuàng)新行動計劃》提出，完善人工智能領(lǐng)域人才培養(yǎng)體系，完善學(xué)科布局、加強專業(yè)建設(shè)、教材建設(shè)、人才培養(yǎng)，推動人工智能領(lǐng)域一級學(xué)科建設(shè)。

繼2017年中國科學(xué)院大學(xué)、西安電子科技大學(xué)等高校設(shè)立人工智能學(xué)院之后，2018年，清華大學(xué)、南京大學(xué)等一批高校也紛紛設(shè)立人工智能學(xué)院或研究院。

南京大學(xué)人工智能學(xué)院院長周志華向經(jīng)濟觀察報介紹，今年學(xué)院首批招收本科生共80人，是南京大學(xué)理工科最受考生歡迎的專業(yè)之一。2019年擬招收研究生35人，2018年秋季推免生申請者(優(yōu)秀應(yīng)屆本科生免初試攻讀碩士研究生)已經(jīng)近千人。

不過，人工智能本科教育相較于市場招聘需求依舊存在局限性。周志華說：“人工智能有著龐大的知識體系，對應(yīng)著多門課程，以計算機科學(xué)與技術(shù)學(xué)科為例，本科課程目前很難滿足培養(yǎng)具有人工智能領(lǐng)域源頭創(chuàng)新能力、能夠解決企業(yè)關(guān)鍵技術(shù)難題的高水平人才需求?！?/p>

吳小珍說：“已經(jīng)注意到許多高校開設(shè)了人工智能學(xué)院，相信隨著人工智能高校教育工作的不斷深入，未來人才供給將會逐步擴大，市場供需也會慢慢趨向平衡?！?/p>

同樣的招聘難，也出現(xiàn)在勞動密集型行業(yè)。

2014年高中輟學(xué)后，田慶跟隨著父輩的腳步，從湖南省吉首市去往廣東東莞的一家工廠工作。四年時間，從制鞋廠到電子廠，田慶均嘗試過。目前在一家模具廠，工作已經(jīng)近一年半時間。田慶說：“進場培訓(xùn)一周即可上崗，在這間工廠中40歲以上的職工占據(jù)了六成以上人群，最新的變化是，新進的年輕人越來越少?！?/p>

田慶經(jīng)歷了從最初三十幾個同鄉(xiāng)在東莞工廠里工作，到現(xiàn)在只剩下十幾個人?！盎剜l(xiāng)的長輩或朋友大多留在了當(dāng)?shù)夭蛷d或化工廠工作，一個月能掙3000元左右?！?/p>

現(xiàn)在，田慶也動了回家工作的念頭。他說：“一般制鞋廠工作時間為早8點到晚上11點，一個月薪水在4000元左右。每年農(nóng)歷初八來工廠報到，對于回到工廠工作的工人加薪200元。但眼下物價上漲太快，以東莞較出名的早餐蒸腸粉為例，2016年是4元一份，現(xiàn)在則是8元。如果沒點技術(shù)倒不如回老家找點事做，工資差不了多少。”

為了能招到新人并留住像田慶這樣的年輕人，招聘公司的中介使出了渾身解數(shù)。

在一家招聘中介工作兩年的員工向威對經(jīng)濟觀察報介紹，自己主要負(fù)責(zé)東莞的電子加工廠招聘?！澳贻p一些的從業(yè)者，薪金為17元/小時，如果接受兩班倒，工資還能往上漲。并且員工介紹新人進廠工作至年底，可獎勵300元/人的人頭費?！?/p>

即使待遇不斷升級，向威依然為招工而煩惱?！暗侥甑祝藛T招聘進入淡季。過去幾年，越來越多的工廠員工回家過完年后便不再選擇回廠工作。以楷億電子科技廠為例，工廠上個月員工為1000人左右，目前人員空缺仍有100余位?！?/p>

中國社會科學(xué)院人口和勞動經(jīng)濟研究所研究員王廣州對經(jīng)濟觀察報表示：“傳統(tǒng)人口密集型企業(yè)招工難，一方面是因為員工希望漲工資，但對企業(yè)而言，其人工成本無法實現(xiàn)持續(xù)上漲，另一方面也是勞動力結(jié)構(gòu)性短缺的一種現(xiàn)象。

失業(yè)率降至低位

2018年9月以來，騰訊、阿里、京東、華為四家企業(yè)接連傳聞?wù)衅甘湛s或停止社招。一時間，互聯(lián)網(wǎng)行業(yè)凜冬將至的唱衰聲接踵而至。四家公司隨后對傳聞均予以否認(rèn)。不過，智聯(lián)招聘發(fā)布的數(shù)據(jù)仍顯示出一些端倪。

10月23日，中國就業(yè)研究所與智聯(lián)招聘聯(lián)合發(fā)布的2018年第三季度《中國就業(yè)市場景氣報告》顯示，IT/互聯(lián)網(wǎng)行業(yè)的招聘職位數(shù)比去年同期相比減少了51%，連續(xù)第二個季度出現(xiàn)需求的負(fù)增長，職位的收縮幅度遠高于全國平均水平?；ヂ?lián)網(wǎng)/電子商務(wù)行業(yè)招聘需求人數(shù)環(huán)比減少了31.53%，同比下降57%。

王廣州說：“在經(jīng)濟發(fā)展的各個階段，行業(yè)的火熱程度也不一樣，各行業(yè)人才的需求也會跟隨之發(fā)生變化。如此前互聯(lián)網(wǎng)、金融等行業(yè)是市場的熱門選擇，很多學(xué)生都報考了相關(guān)專業(yè)，當(dāng)下，人工智能等新興領(lǐng)域則成為新的市場焦點?！?/p>

10月31日，在人社部召開的2018年第三季度新聞發(fā)布會上，人社部新聞發(fā)言人盧愛紅表示，前三季度，中國就業(yè)形勢總體穩(wěn)定。數(shù)據(jù)顯示1-9月，累計實現(xiàn)城鎮(zhèn)新增就業(yè)1107萬人，同比增加10萬人。三季度末，全國城鎮(zhèn)登記失業(yè)率為3.82%，降至多年來低位。

國家統(tǒng)計局?jǐn)?shù)據(jù)顯示，2018年1-9月，全國城鎮(zhèn)調(diào)查失業(yè)率均處在5.1%及以下，其中，3月以及7月份為峰值5.1%。國家統(tǒng)計局人口和就業(yè)統(tǒng)計司司長李希如10月23日撰文表示，7月份受高校畢業(yè)生集中畢業(yè)影響，失業(yè)率有所升高，隨后逐月走低，9月已降到5.0%以下，今年三季度就業(yè)結(jié)構(gòu)不斷優(yōu)化，就業(yè)質(zhì)量穩(wěn)步提升。

王廣州說：“總體上，中國經(jīng)濟結(jié)構(gòu)不斷優(yōu)化，面臨諸多挑戰(zhàn)，但就業(yè)的穩(wěn)定增長仍有著其積極的意義。

人民大學(xué)學(xué)生王宇告訴經(jīng)濟觀察報：“不管對于工作滿意度高低，最遲會在明年春節(jié)招聘末做出選擇。”

延伸閱讀

推薦閱讀

猜您喜歡