谷歌云新AI主管：在現(xiàn)實(shí)世界中部署AI要謹(jǐn)慎
當(dāng)谷歌云首席執(zhí)行官黛安娜·格林（Diane Greene）宣布安德魯·摩爾(Andrew Moore)將在今年晚些時(shí)候取代李飛飛擔(dān)任Google Cloud的人工智能負(fù)責(zé)人時(shí)，她提到摩爾曾擔(dān)任卡內(nèi)基梅隆大學(xué)計(jì)算機(jī)科學(xué)學(xué)院院長(zhǎng)，并且曾在谷歌工作過(guò)。
當(dāng)谷歌云首席執(zhí)行官黛安娜·格林（Diane Greene）宣布安德魯·摩爾(Andrew Moore)將在今年晚些時(shí)候取代李飛飛擔(dān)任Google Cloud的人工智能負(fù)責(zé)人時(shí)，她提到摩爾曾擔(dān)任卡內(nèi)基梅隆大學(xué)計(jì)算機(jī)科學(xué)學(xué)院院長(zhǎng)，并且曾在谷歌工作過(guò)。
格林沒(méi)有提到的是，摩爾也是美國(guó)新安全中心（CNAS）成立的一個(gè)人工智能任務(wù)小組的聯(lián)合主席。該中心是一個(gè)與美國(guó)軍方有著密切聯(lián)系的智庫(kù)。
與摩爾同為聯(lián)合主席的是羅伯特·沃克，他是前國(guó)防部副部長(zhǎng)，紐約時(shí)報(bào)稱其為“Maven項(xiàng)目的創(chuàng)建背后的驅(qū)動(dòng)力”，美國(guó)軍方分析數(shù)據(jù)的努力，比如使用人工智能的無(wú)人機(jī)鏡頭。
今年早些時(shí)候，谷歌卷入了Maven項(xiàng)目，這引發(fā)了該公司內(nèi)部的強(qiáng)烈反對(duì)，迫使首席執(zhí)行官桑達(dá)爾·皮查伊（Sundar Pichai）承諾，谷歌將永遠(yuǎn)不會(huì)使用人工智能增強(qiáng)型武器。
聘用摩爾肯定會(huì)重新引發(fā)關(guān)于谷歌在某些市場(chǎng)上參與人工智能的爭(zhēng)論以及該公司與軍方的關(guān)系。人工智能是科技領(lǐng)域最熱門(mén)的領(lǐng)域之一，擁有巨大的商業(yè)潛力。
在卡內(nèi)基梅隆大學(xué)任職期間，摩爾經(jīng)常討論人工智能在防御和軍事應(yīng)用中的作用，例如他在2017年關(guān)于人工智能和全球安全的演講中說(shuō)到：
“如果我們想要，如果我們需要的話，我們可以負(fù)擔(dān)得起，用各種各樣的無(wú)人駕駛飛機(jī)來(lái)監(jiān)視整個(gè)世界。”摩爾說(shuō)，“我并不是說(shuō)我們想要這么做，但我認(rèn)為這并不是一個(gè)技術(shù)上的鴻溝，在我看來(lái)，這真的很難做到。目前卻是很實(shí)際的。”
CNAS，這個(gè)成立特別工作組同時(shí)也是摩爾擔(dān)任聯(lián)合主席的組織，主要關(guān)注國(guó)家安全問(wèn)題，其聲明的使命是“發(fā)展強(qiáng)有力、務(wù)實(shí)和有原則的國(guó)家安全和國(guó)防政策，以促進(jìn)和保護(hù)美國(guó)的利益和價(jià)值觀。”
谷歌雇傭摩爾的決定受到了至少一位反對(duì)Maven項(xiàng)目的前谷歌員工的不滿。
一名前谷歌員工表示：“在對(duì)Maven項(xiàng)目廣泛存在內(nèi)部異議之后，谷歌聘請(qǐng)安德魯·摩爾，這令人擔(dān)憂。谷歌員工想要的是更少地與軍工復(fù)合體結(jié)合，而不是更多。這一雇傭?qū)?,000多名谷歌員工來(lái)說(shuō)是一記重拳，他們簽署了拒絕Maven項(xiàng)目的請(qǐng)?jiān)笗?shū)。”
谷歌發(fā)言人拒絕置評(píng)。
在現(xiàn)實(shí)世界中部署AI要謹(jǐn)慎
摩爾出生于英國(guó)，但后來(lái)成為美國(guó)公民。他經(jīng)常公開(kāi)表示，在將人工智能帶出實(shí)驗(yàn)室并進(jìn)入現(xiàn)實(shí)世界時(shí)，需要謹(jǐn)慎行事。
今年3月，當(dāng)CNAS宣布成立特別工作組時(shí)，摩爾強(qiáng)調(diào)了“確保這樣的系統(tǒng)與人類合作的重要性，這種方式需要賦予人類力量，而不是取代人類，并且需要讓人類持有最終的決策權(quán)威。”
在最近的CNAS播客上，他描述了其在現(xiàn)實(shí)世界中關(guān)于人工智能的“保守”觀點(diǎn)：“即使我知道，例如在一個(gè)城市推出一組自動(dòng)駕駛汽車可以減少50%的死亡，我也不會(huì)想要啟動(dòng)它，直到我發(fā)現(xiàn)了一些關(guān)于正確性的正式證明，這表明它絕對(duì)不會(huì)涉及到不必要的死亡。”不過(guò)，他并沒(méi)有回避與軍事部門(mén)打交道。
摩爾的卡內(nèi)基梅隆傳記提到了過(guò)去的工作，涉及“發(fā)現(xiàn)和監(jiān)視恐怖威脅”，他在2017年9月的海軍研究報(bào)告中提到了“海軍部的自主和無(wú)人系統(tǒng)”的研究報(bào)告。
在2017年關(guān)于全球安全的討論中，他提到了將數(shù)字個(gè)人助理納入軍事應(yīng)用的可能性，比如谷歌和亞馬遜生產(chǎn)的消費(fèi)電子產(chǎn)品。他說(shuō)：“對(duì)于我們是否以及何時(shí)以及如何為作戰(zhàn)人員和指揮官開(kāi)發(fā)個(gè)人助理，這是一個(gè)開(kāi)放的問(wèn)題，即要有完整的信息來(lái)幫助消除戰(zhàn)爭(zhēng)的迷霧，而不需要太多的信息。”
在Maven項(xiàng)目之后
谷歌云首席執(zhí)行官黛安娜·格林（Diane Greene）
谷歌聘請(qǐng)摩爾來(lái)監(jiān)督谷歌云服務(wù)的人工智能工作。谷歌云是谷歌云計(jì)算服務(wù)的子公司，提供數(shù)據(jù)存儲(chǔ)、計(jì)算和機(jī)器學(xué)習(xí)等服務(wù)。他替代了李飛飛，后者回到斯坦福大學(xué)擔(dān)任教授。
聘用摩爾正值谷歌試圖擺脫因公司參與Maven項(xiàng)目而引發(fā)爭(zhēng)議的時(shí)期。
今年早些時(shí)候，有消息稱谷歌正在協(xié)助軍方分析無(wú)人機(jī)的鏡頭，數(shù)千名谷歌員工在一份請(qǐng)?jiān)笗?shū)上簽名，要求管理層終止公司參與其中。還有一些人拒絕為該項(xiàng)目工作，也拒絕向記者泄露文件，這些文件被證明對(duì)管理層來(lái)說(shuō)令人尷尬。大約12名員工辭職以示抗議。
今年6月，谷歌CEO皮查伊似乎屈從于員工的要求。他發(fā)布了一份指導(dǎo)公司發(fā)展人工智能的七大原則清單。
這些措施包括：永遠(yuǎn)不要制造人工智能強(qiáng)化型武器，并確保人工智能應(yīng)用于具有社會(huì)效益、安全且不會(huì)產(chǎn)生不公平偏見(jiàn)的應(yīng)用領(lǐng)域。該公司沒(méi)有排除與軍方合作的不違反原則的服務(wù)，例如電子郵件或數(shù)據(jù)存儲(chǔ)等。
在谷歌內(nèi)部，對(duì)于許多反對(duì)Maven項(xiàng)目的人來(lái)說(shuō)，他們的感覺(jué)是，公司不應(yīng)該與軍方有任何關(guān)系。至少，對(duì)于參與Maven抗議活動(dòng)的谷歌員工，以及那些對(duì)其事業(yè)表示同情的前雇員，雇傭?qū)?huì)讓人質(zhì)疑谷歌對(duì)這些人工智能原則的承諾。
摩爾本人也承認(rèn)了武器化人工智能的潛在危險(xiǎn)。他在2017年的講話中說(shuō)，“就像我們能夠如此迅速地研發(fā)人工智能一樣，這是一件好事，同時(shí)也是一種威脅。”
“就像我們的一個(gè)天才研究生可以很快想出一些東西一樣，或許這些想法人們并不那么想要。我們必須為我們正在做的事情做好準(zhǔn)備。”他說(shuō)。
（來(lái)源：網(wǎng)易智能）