谷歌發(fā)布AI開(kāi)發(fā)和使用指南 禁止制造可能危害人類的應(yīng)用

• 2018年6月8日 ZhouXun來(lái)源：網(wǎng)易科技 518 28
• 繁體

• 

  2018-2023年人工智能汽車領(lǐng)域研究與投資前景調(diào)研報(bào)告

  智能汽車與一般所說(shuō)的自動(dòng)駕駛有所不同，它指的是利用多種傳感器和智能公路技術(shù)實(shí)現(xiàn)的汽車自動(dòng)駕駛。智能汽車首先有一套導(dǎo)航信息資料庫(kù)，存有全國(guó)高速公路、普通公路、城市道路以及各種服務(wù)設(shè)施...

谷歌今天發(fā)布了人工智能(AI)開(kāi)發(fā)和使用指南，其中包括禁止制造自動(dòng)武器和大多數(shù)可能危害人類的AI應(yīng)用。AI指南發(fā)布幾天前，谷歌宣布不再與美國(guó)國(guó)防部續(xù)簽分析無(wú)人機(jī)視頻的合同。

6月8日消息，據(jù)VentureBeat報(bào)道，谷歌今天發(fā)布了人工智能(AI)開(kāi)發(fā)和使用指南，其中包括禁止制造自動(dòng)武器和大多數(shù)可能危害人類的AI應(yīng)用。AI指南發(fā)布幾天前，谷歌宣布不再與美國(guó)國(guó)防部續(xù)簽分析無(wú)人機(jī)視頻的合同。

谷歌將自己定位為“AI優(yōu)先”科技公司、流行開(kāi)源框架(如Kaggle和TensorFlow)的所有者以及知名研究人員的雇主，它也是AI領(lǐng)域最有影響力的公司之一。谷歌首席執(zhí)行官桑達(dá)爾·皮查伊(Sundar Pichai)：“我們想要澄清的是，雖然我們不開(kāi)發(fā)用于武器的AI，但我們將繼續(xù)在其他領(lǐng)域與政府和軍方合作，包括網(wǎng)絡(luò)安全、培訓(xùn)、軍事招募、退伍軍人醫(yī)療、搜索和救援等。”

在博文中，皮查伊闡述了開(kāi)發(fā)和使用AI時(shí)應(yīng)考慮的原則，以及谷歌不會(huì)追求的AI應(yīng)用類別。除了禁止設(shè)計(jì)自主武器之外，該公司還將尋求避免研發(fā)可能傷害或以傷害人類為主要目的的AI，以及“反國(guó)際公認(rèn)規(guī)范的收集或使用信息進(jìn)行監(jiān)視的技術(shù)”。皮查伊表示，谷歌公司研發(fā)的AI應(yīng)該堅(jiān)持科學(xué)卓越的標(biāo)準(zhǔn)，對(duì)人類負(fù)責(zé)，測(cè)試后確認(rèn)安全，以及避免強(qiáng)化偏見(jiàn)。

此前，Google AI主管杰夫·迪安(Jeff Dean)和3000多名員工簽署了一份請(qǐng)?jiān)笗?shū)，敦促谷歌承諾絕不制造自動(dòng)武器。據(jù)報(bào)道，約有12名員工因谷歌公司參與國(guó)防部的AI項(xiàng)目Project Maven而辭職。該請(qǐng)?jiān)笗?shū)敦促谷歌退出該項(xiàng)目，在谷歌“正努力維護(hù)公眾的信任”之際，不這么做可能“無(wú)可挽回地?fù)p害谷歌的品牌和其爭(zhēng)奪人才的能力”。

意識(shí)到潛在的爭(zhēng)議后，早在去年秋天，Google Cloud首席科學(xué)家李飛飛博士就敦促公司“不惜一切代價(jià)”避免提及AI，因?yàn)楫?dāng)公眾提及Project Maven時(shí)，稱其為“AI武器化”，這可能最敏感的AI話題之一。

皮查伊堅(jiān)持谷歌將繼續(xù)與軍方合作，這可能是一個(gè)信號(hào)，表明谷歌仍計(jì)劃爭(zhēng)奪聯(lián)合企業(yè)防御基礎(chǔ)設(shè)施(JEDI)合同。這是一項(xiàng)與美國(guó)軍方簽訂的為期10年、價(jià)值100億美元的云協(xié)議，亞馬遜(Amazon)和谷歌等大型科技公司都非常關(guān)注。

一份內(nèi)部備忘錄還透露，谷歌的國(guó)防銷售團(tuán)隊(duì)成員認(rèn)為，參Project Maven與一份價(jià)值數(shù)十億美元的政府合同直接相關(guān)。據(jù)報(bào)道，谷歌認(rèn)為其與五角大樓簽署的合同每年可帶來(lái)高達(dá)2.5億美元的收入，盡管員工們最初被告知合同價(jià)值僅為900萬(wàn)美元。

三月份有消息稱谷歌參與了Project Maven。其他公司，如IBM，也被邀請(qǐng)參與該項(xiàng)目。上周，五角大樓宣布了擴(kuò)展Project Maven的計(jì)劃，并開(kāi)設(shè)了聯(lián)合人工智能中心。谷歌并不是唯一一家因?yàn)閰⑴c研發(fā)自主武器而受到員工反對(duì)的企業(yè)。今年4月份，超過(guò)50名韓國(guó)研究人員抵制KAIST人工智能武器實(shí)驗(yàn)室成立。

皮查伊博客全文：

AI的核心是學(xué)習(xí)和適應(yīng)計(jì)算機(jī)編程，它不能解決所有問(wèn)題，但它改善我們生活的潛力是深遠(yuǎn)的。在谷歌，我們使用AI讓產(chǎn)品變得更有用——從更容易撰寫的無(wú)垃圾郵件到可與你自然交談的數(shù)字助理，再到讓你盡情享受的照片應(yīng)用。

在我們的產(chǎn)品之外，我們正在使用AI幫助人們解決緊迫問(wèn)題。兩名高中生正在研發(fā)AI傳感器來(lái)預(yù)測(cè)火災(zāi)的風(fēng)險(xiǎn)，農(nóng)民們正在用AI來(lái)監(jiān)控他們的牲畜健康狀況，醫(yī)生們開(kāi)始使用AI來(lái)幫助診斷癌癥和預(yù)防失明。這些明顯的好處就是為何谷歌在AI研發(fā)上投入大量資金，并通過(guò)我們的工具和開(kāi)源代碼使AI技術(shù)獲得廣泛應(yīng)用的原因。

我們認(rèn)識(shí)到，如此強(qiáng)大的技術(shù)對(duì)其如何被使用也提出了同樣巨大的挑戰(zhàn)。在未來(lái)幾年，AI的開(kāi)發(fā)和使用方式將對(duì)社會(huì)產(chǎn)生重大影響。作為AI領(lǐng)域的領(lǐng)導(dǎo)者，我們有責(zé)任把這一切做好。所以今天，我們宣布七大原則來(lái)指導(dǎo)我們的工作。這些都不是理論概念，它們是具體的標(biāo)準(zhǔn)，將積極地指導(dǎo)我們的研究和產(chǎn)品開(kāi)發(fā)，并將影響我們的業(yè)務(wù)決策。

我們承認(rèn)這一領(lǐng)域處于動(dòng)態(tài)和不斷發(fā)展?fàn)顟B(tài)中，我們將以謙遜的態(tài)度對(duì)待我們的工作，致力于內(nèi)部和外部接觸，并愿意隨時(shí)間的推移而調(diào)整我們的方法。

延伸閱讀

推薦閱讀

猜您喜歡