久久中文字幕无码A片不卡_亚洲和欧洲免费在线av观看久久精品无码_成人亚洲A片V二区三区久久_国产日韩在线免费视频中字乱码_在线午夜福利视频免费_一线二线三线,在线观看av无需播放器

會(huì)殺人的機(jī)器人不可怕，有偏見的AI才“要命”

谷歌的 AI 主管 John Giannandrea 并不擔(dān)心超級(jí)智能的殺人機(jī)器人，反而對(duì)可能潛伏在機(jī)器學(xué)習(xí)算法內(nèi)部的危機(jī)憂心忡忡。這些機(jī)器學(xué)習(xí)算法每分鐘都要做出上百萬個(gè)決策。

“真正的安全問題，如果非要這么叫的話，是如果我們向這些系統(tǒng)提供了有偏見的數(shù)據(jù)，這些系統(tǒng)也會(huì)變得帶有偏見�！� Giannandrea 在谷歌最近一次有關(guān)人類和 AI 系統(tǒng)關(guān)系的會(huì)議上如此說到。

隨著科技不斷向醫(yī)藥和法律等關(guān)鍵領(lǐng)域延伸，以及更多沒有深厚技術(shù)背景的人可以應(yīng)用最新科技，機(jī)器學(xué)習(xí)的偏見問題會(huì)變得更加顯著。一些專家警告稱，算法的偏見問題已經(jīng)在很多行業(yè)十分普遍，卻幾乎沒人試圖進(jìn)行識(shí)別或者糾正。

“公開我們?cè)谟玫挠?xùn)練數(shù)據(jù)，公開我們正在尋找數(shù)據(jù)背后的偏見信息，這是很重要的，否則我們就是在建造有偏見的系統(tǒng)，” Giannandrea 補(bǔ)充到，“如果有人試圖賣給你一個(gè)輔助醫(yī)療決策的黑盒系統(tǒng)，而你卻不知道它如何運(yùn)作或者用了什么數(shù)據(jù)進(jìn)行訓(xùn)練，那我肯定不會(huì)信任這個(gè)黑盒的。”

黑盒機(jī)器學(xué)習(xí)模型已經(jīng)在決定一些人的命運(yùn)上發(fā)揮著重要作用了。由 Northpointe 公司制作的稱為 COMPAS 的系統(tǒng)可以預(yù)測(cè)被告人再次犯罪的相關(guān)性，已經(jīng)被一些法官用來決定是否批準(zhǔn)犯人保釋了。COMPAS 的工作原理尚未公開，不過 ProPublica 的調(diào)查發(fā)現(xiàn)了其模型會(huì)不利于少數(shù)族群的證據(jù)。

然而，事情并不總是像公開數(shù)據(jù)細(xì)節(jié)或者所有算法那樣簡(jiǎn)單。大多數(shù)正在崛起的機(jī)器學(xué)習(xí)技術(shù)的工作原理都是特別復(fù)雜和不透明的，所以他們拒絕接受檢測(cè)。為了說明這個(gè)問題，研究人員正在探索新的方式，讓這些系統(tǒng)向工程師和終端用戶提供其工作原理的某些近似結(jié)果。

Giannandrea 有充分的理由強(qiáng)調(diào)偏見潛入 AI 內(nèi)部的可能性。世界上的幾個(gè)大公司都在向各種類型的企業(yè)兜售其云計(jì)算平臺(tái)的 AI 能力，谷歌正是其中一個(gè)。這些基于云的機(jī)器學(xué)習(xí)系統(tǒng)設(shè)計(jì)得遠(yuǎn)比其底層算法要簡(jiǎn)單易用。這有助于科技的廣泛應(yīng)用，卻也可能導(dǎo)致偏見的無聲潛入。提供教程和工具，幫助缺少經(jīng)驗(yàn)的數(shù)據(jù)科學(xué)家和工程師識(shí)別和去除其訓(xùn)練數(shù)據(jù)中的偏見信息，也是十分重要的。

受邀參加此次谷歌組織的峰會(huì)的數(shù)位演講者也都重點(diǎn)談到了偏見的話題。谷歌公司的研究員 Maya Gupta 是內(nèi)部代號(hào)“GlassBox”小組的成員，她介紹了自己在建造更加透明的算法方面的成果。 Karrie Karahalios 是伊利諾伊大學(xué)的計(jì)算機(jī)科學(xué)教授，他展示了即使是在最稀松平常的算法中要定位偏見信息都是何其困難。Karahalios 展示了用戶通常是不理解 Facebook 如何在他們的信息流中過濾帖子的。雖然這看起來無傷大雅，卻很好的說明了算法查詢是多么困難。

Facebook 的信息流算法肯定可以影響公眾對(duì)于社會(huì)動(dòng)態(tài)甚至重大新聞事件的看法。其他算法可能已經(jīng)在很微妙地扭曲了病人應(yīng)當(dāng)接受的醫(yī)學(xué)護(hù)理，或者人們?cè)谛淌滤痉ㄏ到y(tǒng)中會(huì)被如何處理。這顯然比殺人機(jī)器人嚴(yán)重的多，至少目前如此。

近年來人們對(duì)于 AI 的威脅提出了很多荒誕不經(jīng)的警告，Giannandrea 發(fā)出的肯定算是理性的呼聲。特別是埃隆·馬斯克最近警告人們 AI 是比北朝鮮更嚴(yán)重的威脅并可能引發(fā)第三次世界大戰(zhàn)，也是搶占了不少新聞?lì)^條。

“我反對(duì)的是這一假設(shè)，即我們可能躍遷到某種超級(jí)智能系統(tǒng)，從而導(dǎo)致人類過時(shí)，” Giannandrea 表示，“我理解人們?yōu)楹侮P(guān)注此事，但是我認(rèn)為此事過為遙遠(yuǎn)。在我看來，這種情況很快就會(huì)發(fā)生的觀點(diǎn)是沒有任何技術(shù)根基的�！�