“人工智能是一個(gè)全新的領(lǐng)域,作為一個(gè)科學(xué)家,我也誠(chéng)惶誠(chéng)恐。”
斯坦福大學(xué)教授李飛飛在9月17日舉行的2018世界人工智能大會(huì)上說道。“我們從未創(chuàng)造過一種如此接近人類的技術(shù),但對(duì)它的未來影響還知之甚少。”這是李飛飛自宣布卸任谷歌云AI負(fù)責(zé)人之后的首次演講,繼續(xù)呼吁人工智能應(yīng)該“以人為本”。
9 月 10 日,谷歌云CEO戴安•格林(Diane Greene)宣布,李飛飛將于2018年年底卸任,重返斯坦福大學(xué)任教。而接替她的正是卡耐基梅隆大學(xué)(CMU)計(jì)算機(jī)系系主任安德魯•摩爾(Andrew Moore)。 值得一提的是,摩爾是一名谷歌老員工了,他曾在2006年至2014年在谷歌工作。
而格林卻沒有對(duì)外提及,摩爾也是目前新美國(guó)安全中心(CNAS)的人工智能特別工作組的聯(lián)合主席,該組織與美國(guó)軍方有著密切的聯(lián)系。據(jù)悉,與摩爾同為該特別工作組聯(lián)合主席的是羅伯特•沃克(Robert Work),沃克是前美國(guó)國(guó)防部副部長(zhǎng),紐約時(shí)報(bào)稱其為“美國(guó)國(guó)防部Maven計(jì)劃創(chuàng)建背后的推動(dòng)力量”,而Maven計(jì)劃則是美國(guó)“算法戰(zhàn)跨部門小組”利用AI技術(shù)挖掘作戰(zhàn)數(shù)據(jù)而成立的。
恰逢中美貿(mào)易戰(zhàn)、中美兩國(guó)在人工智能領(lǐng)域的爭(zhēng)奪,李飛飛的離任、摩爾的回歸,重新引發(fā)了一場(chǎng)關(guān)于AI原則的討論——AI究竟是以人為本的科技,還是與國(guó)家軍事力量糾纏在一起。
(左圖為李飛飛教授、右圖為安德魯•摩爾教授)
1、摩爾的回歸是對(duì)Maven反對(duì)者的一記重拳
Maven計(jì)劃目的在于加速美國(guó)國(guó)防部對(duì)人工智能與機(jī)器學(xué)習(xí)技術(shù)的集成,將國(guó)防部海量可用數(shù)據(jù)快速轉(zhuǎn)變?yōu)榭捎糜谛袆?dòng)的情報(bào)。
2017年12月,“Maven計(jì)劃”首批算法在美國(guó)非洲司令部部署。2018年3月,在美國(guó)總統(tǒng)特朗普簽署的2018財(cái)年綜合支出法案中,美國(guó)國(guó)會(huì)為“Maven計(jì)劃”增加1億美元經(jīng)費(fèi),使其在2018年獲得的經(jīng)費(fèi)總額度達(dá)到1.31億美元,這筆資金將主要用于改進(jìn)算法讀取全動(dòng)態(tài)視頻信息的能力。
今年上半年,谷歌公司4000多名員工簽署請(qǐng)?jiān)笗棺h公司參與“Maven計(jì)劃”,要求谷歌退出該計(jì)劃,并起草、公開和執(zhí)行一項(xiàng)永不發(fā)展戰(zhàn)爭(zhēng)技術(shù)的政策,十幾名員工辭職以示抗議。今年6月,谷歌CEO皮蔡公布了一份指導(dǎo)公司發(fā)展人工智能的7條原則,其中包括永遠(yuǎn)不將人工智能用于增強(qiáng)武器,確保人工智能應(yīng)用于對(duì)社會(huì)有益、安全的應(yīng)用,并且決定終止該公司同五角大樓的人工智能合同。
如今安德魯•摩爾的回歸無疑會(huì)重新引發(fā)關(guān)于谷歌涉足人工智能市場(chǎng)以及該公司與軍方關(guān)系的爭(zhēng)論。
在卡內(nèi)基梅隆大學(xué)任職期間,摩爾經(jīng)常討論人工智能在防御和軍事應(yīng)用方面的積極作用,這位人工智能專家曾在2017年發(fā)表的關(guān)于人工智能與全球安全的演講中發(fā)表驚世駭俗的言論,“如果我們想要并且需要的話,我們可以用無人機(jī)監(jiān)視整個(gè)世界。”這無疑是對(duì)很多非美國(guó)盟友國(guó)家領(lǐng)空權(quán)的一次公開挑釁。
當(dāng)然這一“屁股決定腦袋”的權(quán)威發(fā)言或許正中美國(guó)鷹派人士的下懷,摩爾擔(dān)任聯(lián)合主席的特別工作組隸屬于新美國(guó)安全中心,該組織的使命是“發(fā)展強(qiáng)有力的、務(wù)實(shí)的、有原則的國(guó)家安全和國(guó)防政策,以促進(jìn)和保護(hù)美國(guó)的利益和價(jià)值觀。”其實(shí),新美國(guó)安全中心(CNAS)就是美國(guó)的軍情智庫,今年7月,由安德魯·摩爾在任期間發(fā)布《人工智能與國(guó)家安全》的報(bào)告。
摩爾的回歸,引起了多位反對(duì)Maven計(jì)劃的谷歌前員工的不滿。“在內(nèi)部廣泛出現(xiàn)針對(duì)Maven計(jì)劃的異議之后,谷歌決定聘請(qǐng)摩爾,這非常令人擔(dān)憂”,美國(guó)知名科技博客Business Insider引用一位谷歌前員工的話說。
“谷歌員工希望公司盡可能地與軍工企業(yè)劃分界限,而不是更多參與。對(duì)于那些簽署了取消Maven計(jì)劃聯(lián)名信的4000多名谷歌員工來說,這次摩爾的回歸就像是一記重拳。”
如果谷歌參與或卷入到美國(guó)Maven計(jì)劃之中,這無論是對(duì)谷歌返回中國(guó),還是在AI技術(shù)在全球市場(chǎng)本土化落地過程中都將帶來極其深遠(yuǎn)的影響。這一次,谷歌將走進(jìn)一個(gè)十字路口。
2、全世界都盯著,谷歌能否堅(jiān)守原則?
作為全球人工智能前沿的科研機(jī)構(gòu),谷歌的大膽投入其實(shí)與以往國(guó)家力量作為前沿技術(shù)研發(fā)主導(dǎo)力量有所不同,而谷歌的AI進(jìn)展?fàn)縿?dòng)著各方人士的神經(jīng),首先我們得了解一下安德魯·摩爾(Andrew Moore)的經(jīng)歷,以及其對(duì)于人工智能的價(jià)值觀。
作為一個(gè)出生在英國(guó)的美籍科學(xué)家,安德魯·摩爾對(duì)于將人工智能帶出實(shí)驗(yàn)室保持謹(jǐn)慎的保守態(tài)度,他曾在接受采訪時(shí)說過,“即使我知道在一個(gè)城市里布置一組自動(dòng)駕駛汽車可以減少50%的死亡率,我也不會(huì)去做,因?yàn)檫沒有一個(gè)正式證明能100%地確保它不會(huì)導(dǎo)致不必要的死亡。”
盡管如此,他并沒有回避與軍事部門打交道,新美國(guó)安全中心人工智能特別工作組在3月宣布成立時(shí),摩爾成為扛鼎人物。在卡內(nèi)基梅隆大學(xué)公示的簡(jiǎn)歷中提到,摩爾的工作曾涉及“發(fā)現(xiàn)和監(jiān)視恐怖威脅”,他也在一份2017年9月發(fā)布的“海軍部自動(dòng)和無人系統(tǒng)”的研究報(bào)告中被列為貢獻(xiàn)者之一。
看來,摩爾對(duì)于AI的民用化與軍事化持有者大相徑庭的態(tài)度,并在各種公開場(chǎng)合鼓吹A(chǔ)I應(yīng)用于國(guó)防的前景和軍事用途。
摩爾在2018年一次關(guān)于全球安全的講話中,他談及將谷歌和亞馬遜生產(chǎn)的消費(fèi)電子產(chǎn)品運(yùn)用于軍事用途的可能性,以“撥開戰(zhàn)爭(zhēng)迷霧”。谷歌、亞馬遜本身已經(jīng)不僅僅是美國(guó)人的公司,而是代表不涉政的國(guó)際化技術(shù)力量,摩爾入職谷歌,對(duì)這家極客文化主導(dǎo)的硅谷公司引發(fā)動(dòng)蕩。
反對(duì)Maven計(jì)劃的一派認(rèn)為,谷歌應(yīng)該與軍方劃清界限;而摩爾的加入讓一部分“中間派”開始動(dòng)搖立場(chǎng),但是很顯然,摩爾的到來將會(huì)壯大此前參與到Maven計(jì)劃中的谷歌部門實(shí)力,并推動(dòng)谷歌AI技術(shù)的軍事化應(yīng)用。
讓人欣慰的是,反對(duì)派中的多位學(xué)者,曾給谷歌方面的幾位負(fù)責(zé)人寫信,這些負(fù)責(zé)人除了Alphabet CEO拉里•佩奇、谷歌 CEO桑德爾•皮蔡以及谷歌云CEO 戴安•格林之外,還有谷歌云首席科學(xué)家李飛飛。李飛飛曾警告谷歌管理層在討論AI和軍方合作時(shí)要小心行事。
AI能否參與到軍事化,是一場(chǎng)關(guān)于技術(shù)有沒有價(jià)值觀立場(chǎng)的終極拷問。如果認(rèn)為技術(shù)沒有價(jià)值觀,就像電力應(yīng)用在軍事當(dāng)中一樣是無可厚非的話,那么就不會(huì)引起這樣的爭(zhēng)論和不安了。
2018年3月7日,李飛飛在《紐約時(shí)報(bào)》網(wǎng)站發(fā)表了題為《如何讓 AI 對(duì)人類有益?》(《How to Make A.I. That’s Good for People》)的文章中寫道,許多人說機(jī)器并沒有價(jià)值觀,但實(shí)際上,機(jī)器的價(jià)值觀就是人類的價(jià)值觀。
AI該體現(xiàn)怎樣的價(jià)值觀?在李飛飛看來,人工智能需要更多地反映我們自身智力的深度;人工智能應(yīng)幫助人類,而不是取代人類;確保人工智能在發(fā)展過程中得到正確的引導(dǎo)。
李飛飛的言外之意是,谷歌開發(fā)AI技術(shù)應(yīng)該堅(jiān)持谷歌人所持有的價(jià)值觀,而不應(yīng)受美軍方強(qiáng)權(quán)擺布。
3、谷歌AI軍事化的危機(jī)透視
首先,人工智能應(yīng)用在國(guó)家安全、刑事偵查、反恐等領(lǐng)域前景確實(shí)非常大,這本身也是AI應(yīng)用的場(chǎng)景之一。
美國(guó)獨(dú)角獸公司Palantir就是AI安全局等項(xiàng)目服務(wù)政府第一個(gè)吃螃蟹的獨(dú)角獸公司,Palantir幫助FBI、CIA、美國(guó)國(guó)土安全局等部門從海量財(cái)務(wù)數(shù)據(jù)、DNA樣本、語音資料及世界各地地圖等數(shù)據(jù)中找到了追蹤本·拉登行動(dòng)的一手資料,國(guó)防安全輔助服務(wù)一直是Palantir現(xiàn)金牛業(yè)務(wù)。
我國(guó)AI應(yīng)用的人臉識(shí)別技術(shù)、智能攝像頭安防監(jiān)控現(xiàn)在廣泛應(yīng)用在火車站、機(jī)場(chǎng)、交通等公共區(qū)域,刑事案件偵查中也開始使用格靈深瞳、明略大數(shù)據(jù)的數(shù)據(jù)化分析平臺(tái),通過快速構(gòu)建起人、事、地、物、組織之間的多重關(guān)聯(lián)結(jié)構(gòu)關(guān)系能夠大大提升刑偵效率。
其次,企業(yè)確實(shí)能夠從服務(wù)政府國(guó)安及偵查項(xiàng)目中獲得數(shù)億訂單,但這并不意味著谷歌要這樣做。
谷歌作為全球最大的搜索引擎,以及移動(dòng)互聯(lián)網(wǎng)安卓源代碼開發(fā)平臺(tái),如果谷歌為美國(guó)軍方效力,不僅威脅美國(guó)本土用戶的隱私問題,全球網(wǎng)民的信息安全問題都會(huì)令人寢食難安;谷歌本應(yīng)該成為互聯(lián)網(wǎng)信息保護(hù)的“執(zhí)劍人”,但是這希望或許將會(huì)隨著安德魯·摩爾的加入而變得渺茫,而摩爾到任,本身或許是資本與政治在激烈博弈中達(dá)到的某種妥協(xié)結(jié)果。
此前谷歌在中美貿(mào)易戰(zhàn)的導(dǎo)火索“中興事件”中扮演著關(guān)鍵角色,其實(shí)已經(jīng)引發(fā)了谷歌為美國(guó)軍事政治力量所影響的擔(dān)憂,如今引起國(guó)內(nèi)媒體的警惕亦不無道理。
再次,目前摩爾到任,或許意味著谷歌在2019年將續(xù)簽Maven計(jì)劃,谷歌AI技術(shù)或許會(huì)用在軍事演習(xí)、武器、飛機(jī)、網(wǎng)電攻防等領(lǐng)域?yàn)槊绹?guó)軍方服務(wù),從而引發(fā)全球新一輪的軍備競(jìng)賽;這實(shí)際上是美國(guó)本土日益掀起的“美國(guó)利益至上”的保守主義的延續(xù);這本身并不利于谷歌之前在AI商業(yè)化中所扮演的積極角色。
結(jié) 語
盡管最早計(jì)算機(jī)是起源于二戰(zhàn)中炮彈彈道的計(jì)算,但是計(jì)算機(jī)真正發(fā)展為互聯(lián)網(wǎng)則是全球信息高速互聯(lián)互通的和平年代下發(fā)展起來的,商業(yè)始終是互聯(lián)網(wǎng)主流;谷歌作為全球化信息流通的產(chǎn)兒應(yīng)該捍衛(wèi)其“不作惡”的價(jià)值,尤其是有能力行惡的時(shí)候;如今AI對(duì)于人類命運(yùn)前途未卜,谷歌更應(yīng)該明確對(duì)于政府力量介入以及軍事專家滲透“Say NO”就像蘋果拒絕美國(guó)政府要求協(xié)助解鎖手機(jī)一樣;如果受限于地域偏見喪失全球用戶的信任,或許對(duì)谷歌來說才是最大的危機(jī)。
特別聲明:本文為合作媒體授權(quán)DoNews專欄轉(zhuǎn)載,文章版權(quán)歸原作者及原出處所有。文章系作者個(gè)人觀點(diǎn),不代表DoNews專欄的立場(chǎng),轉(zhuǎn)載請(qǐng)聯(lián)系原作者及原出處獲取授權(quán)。 該文觀點(diǎn)僅代表作者本人,如有文章來源系網(wǎng)絡(luò)轉(zhuǎn)載,本網(wǎng)系信息發(fā)布平臺(tái),如有侵權(quán),請(qǐng)聯(lián)系本網(wǎng)及時(shí)刪除。
|