目前，人類為AI制定的道德框架很失敗
前不久，一個(gè)名為AINow的新研究機(jī)構(gòu)發(fā)布了報(bào)告呼吁，要進(jìn)一步提高人工智能對(duì)社會(huì)影響的關(guān)注度。在這個(gè)報(bào)告發(fā)布之后，Wired記者ScottRosenberg對(duì)該研究機(jī)構(gòu)的創(chuàng)始人之一KateCrawford進(jìn)行了訪談。進(jìn)一步挖掘了該報(bào)告背后傳遞的想法。KateCrawford認(rèn)為，在人工智能成為一種災(zāi)難之前，必須要將其安放好。
KateCrawford，AINow創(chuàng)始人之一。
關(guān)于人工智能的道德問(wèn)題，并不乏報(bào)道。但大多數(shù)都是輕量級(jí)的充滿了關(guān)于公私合作、關(guān)于把人放在第一位之類的陳詞濫調(diào)。他們不承認(rèn)人工智能創(chuàng)造出的社會(huì)困境有多棘手，也不承認(rèn)解開(kāi)這些難題有多么困難。但AINow研究所（一家位于紐約大學(xué)的新研究機(jī)構(gòu)）的新報(bào)告并非如此。報(bào)告指出，科技行業(yè)正以一種不容置疑的態(tài)勢(shì)，競(jìng)相使用人工智能來(lái)重塑社會(huì)，這并不會(huì)帶來(lái)任何可靠和公平的結(jié)果。
兩周前發(fā)布的這份報(bào)告是由KateCrawford和MeredithWhittaker完成，他們是AINow的聯(lián)合創(chuàng)始人。Crawford、Whittaker和他們的合作者在一個(gè)密集但易于獲得的35頁(yè)報(bào)告中列出了研究議程和政策路線圖。他們的結(jié)論并不是胡說(shuō)八道：他們說(shuō)，到目前為止，我們將人工智能保持在道德標(biāo)準(zhǔn)上的努力是失敗的。
他們寫道：人工智能的新倫理框架需要超越個(gè)人責(zé)任，在設(shè)計(jì)和使用人工智能的過(guò)程中，工業(yè)機(jī)器人維修，讓強(qiáng)大的工業(yè)、政府和軍事利益承擔(dān)責(zé)任。當(dāng)科技巨頭開(kāi)發(fā)人工智能產(chǎn)品時(shí)，用戶同意、隱私和透明度往往被忽視，而只專注于聚合數(shù)據(jù)，為利潤(rùn)驅(qū)動(dòng)的商業(yè)模式服務(wù)與此同時(shí)，在警務(wù)、教育、醫(yī)療和其他環(huán)境中引入人工智能系統(tǒng)，在這些環(huán)境中，算法的失誤可能會(huì)毀掉一個(gè)人的生活。有什么我們可以做的嗎？本周，Crawford與我們一起討論了為什么人工智能的道德規(guī)范仍然一團(tuán)糟，庫(kù)卡機(jī)器人，以及采取什么樣的實(shí)際步驟可能改變這一局面。
ScottRosenberg（下文略）：在新報(bào)告的最后，你直截了地方說(shuō)，當(dāng)前為人工智能的道德規(guī)范制定的框架正在失敗。這聽(tīng)起來(lái)很可怕。
KateCrawford（下文略）：很多人都在談?wù)撐覀兪侨绾翁岢鲞@個(gè)領(lǐng)域的道德規(guī)范的。但仍然沒(méi)有一個(gè)能夠落地的。包括IEEE，Asilomar，以及其他一些組織都帶頭做了很多的工作。我們現(xiàn)在看到的是高層次原則之間的鴻溝，和大規(guī)模機(jī)器學(xué)習(xí)系統(tǒng)日常開(kāi)發(fā)的實(shí)際情況。這顯然是非常重要且真實(shí)存在的。
我們閱讀了過(guò)去兩年出版的所有關(guān)于人工智能和算法系統(tǒng)的道德準(zhǔn)則。然后我們研究了理想和實(shí)際情況之間的區(qū)別。現(xiàn)在最迫切需要的是，這些道德準(zhǔn)則伴隨著非常強(qiáng)大的問(wèn)責(zé)機(jī)制。我們可以說(shuō)，我們希望人工智能系統(tǒng)遵循最高的道德原則，但我們必須確保有某種利害關(guān)系。通常，當(dāng)我們談?wù)摰赖乱?guī)范時(shí)，我們會(huì)忘記談?wù)摍?quán)力。人們往往會(huì)有最好的意圖。但我們看到的是，人們?nèi)狈?duì)真正的權(quán)力不對(duì)稱如何影響著不同群體的思考。
這份報(bào)告透露出來(lái)的基礎(chǔ)信息似乎是，我們可能發(fā)展得太快了，以至于我們沒(méi)有花時(shí)間來(lái)做這件事。
我可能會(huì)用不同的方式來(lái)表達(dá)。時(shí)間是一個(gè)因素，但優(yōu)先級(jí)也是一個(gè)因素。如果我們花很多的錢，聘請(qǐng)了許多人去思考和研究這些體系帶來(lái)的廣泛的社會(huì)和經(jīng)濟(jì)影響，那么我們就會(huì)有一個(gè)更強(qiáng)大的基礎(chǔ)。實(shí)際上，誰(shuí)在創(chuàng)造行業(yè)標(biāo)準(zhǔn)說(shuō)，好，這是你需要經(jīng)過(guò)的基本的預(yù)發(fā)布試驗(yàn)系統(tǒng)；這是你應(yīng)該如何公開(kāi)展示你怎樣在不同類型的人群中測(cè)試你的系統(tǒng)；這些是你應(yīng)該如何準(zhǔn)備在你的系統(tǒng)或產(chǎn)品背后建立的信心界限？這些都是我們?cè)谒幬餃y(cè)試和其他關(guān)鍵任務(wù)系統(tǒng)中所使用的東西，即使是在城市的水安全問(wèn)題上也是如此。
但只有當(dāng)我們看到它們失敗時(shí)，例如在像弗林特、密歇根這樣的地方，我們才意識(shí)到我們對(duì)這些基礎(chǔ)設(shè)施的依賴程度，對(duì)所有人來(lái)說(shuō)都是安全的。就人工智能而言，我們還沒(méi)有這些系統(tǒng)。我們需要訓(xùn)練人們?nèi)y(cè)試人工智能系統(tǒng)，并創(chuàng)造出這些安全與公平的機(jī)制。這是我們現(xiàn)在可以做的事情。在將這些系統(tǒng)部署到人類身上之前，我們需要在安全與公平的優(yōu)先次序上增加一些緊迫感。
在人工智能成為災(zāi)難之前，你想要把它安放好。
我認(rèn)為我們必須這樣做。
目前科技行業(yè)的格局是由幾家大公司主導(dǎo)的。為什么會(huì)這樣？
這是核心問(wèn)題。作為這個(gè)領(lǐng)域的研究人員，我會(huì)去了解我所知道的工具。實(shí)際上，我們可以通過(guò)提高研究的水平和嚴(yán)謹(jǐn)程度來(lái)做大量的工作。我們認(rèn)為，我們可以做出改變：在這些系統(tǒng)的設(shè)計(jì)中，誰(shuí)能獲得一席之地？目前，它是由工程和計(jì)算機(jī)科學(xué)專家推動(dòng)的，他們?cè)O(shè)計(jì)的系統(tǒng)涉及從刑事司法、醫(yī)療保健到教育等方方面面。但是，就像我們不希望聯(lián)邦法官優(yōu)化神經(jīng)網(wǎng)絡(luò)一樣，我們也不應(yīng)該指望一個(gè)工程師能理解刑事司法系統(tǒng)的運(yùn)行機(jī)制。
因此，我們有一個(gè)非常強(qiáng)烈的建議，即人工智能行業(yè)應(yīng)該從計(jì)算機(jī)科學(xué)和工程以外的領(lǐng)域聘請(qǐng)專家，并確保這些人擁有決策權(quán)。如果你已經(jīng)設(shè)計(jì)了一個(gè)系統(tǒng)，而你已經(jīng)準(zhǔn)備好部署它，那么僅僅在最后引入咨詢顧問(wèn)是遠(yuǎn)遠(yuǎn)不夠的。如果你不通過(guò)刑事司法體系或預(yù)見(jiàn)性監(jiān)管的方式來(lái)考慮系統(tǒng)偏見(jiàn)的傳播，那么很有可能的是，你正在設(shè)計(jì)一個(gè)基于歷史數(shù)據(jù)的系統(tǒng)，將會(huì)使這些偏見(jiàn)延續(xù)下去。
解決這一問(wèn)題不僅僅是技術(shù)上的問(wèn)題。這不是僅僅通過(guò)調(diào)整數(shù)字來(lái)試圖消除系統(tǒng)的不平等和偏見(jiàn)的問(wèn)題。
這是一種內(nèi)部重組的計(jì)劃。但是現(xiàn)在，情況看起來(lái)更像是研究人員坐在外面，他們得到了一些數(shù)據(jù)，然后他們得出了這些爆炸性的研究結(jié)果表明事情有多糟糕。這可能會(huì)引起公眾的關(guān)注，并贏得媒體的報(bào)道，但你是如何從內(nèi)部改變事物的呢？
當(dāng)然，當(dāng)我們思考人工智能行業(yè)的數(shù)據(jù)能力和來(lái)源時(shí)，這并不難。我們應(yīng)該把這看作是一個(gè)底線安全問(wèn)題。你會(huì)影響一個(gè)人獲得工作，擺脫監(jiān)獄，進(jìn)入大學(xué)等方面的能力。至少，我們應(yīng)該對(duì)這些制度如何變得更公平、以及這些決策對(duì)人們生活的重要性有深入的了解。
我不認(rèn)為這是個(gè)很大的要求。我認(rèn)為，這些系統(tǒng)中最負(fù)責(zé)任的生產(chǎn)商確實(shí)希望它們能很好地工作。這是一個(gè)開(kāi)始用強(qiáng)有力的研究和強(qiáng)有力的安全門檻來(lái)支持這些良好意愿的問(wèn)題。這并不超出我們的能力范圍。如果人工智能將以如此快的速度進(jìn)入我們的核心社會(huì)機(jī)構(gòu)，我認(rèn)為這是絕對(duì)必要的。
你是微軟研究院的成員，而MeredithWhittaker則隸屬于谷歌。你難道不能走到合適的會(huì)議上說(shuō)，我們?yōu)槭裁床蛔鲞@個(gè)？
毫無(wú)疑問(wèn)，我和Meredith在公司都有一席之地，這就是我們會(huì)提出這些建議的一部分原因。我們知道這些系統(tǒng)是如何建立起來(lái)的，我們可以明白一些積極的步驟，可以讓它們變得更安全、更公平。這也是為什么我們認(rèn)為在一個(gè)獨(dú)立的環(huán)境中工作是非常重要的，我們也可以在科技公司之外做研究，幫助這些系統(tǒng)盡可能地感受到它們將要進(jìn)入的復(fù)雜的社會(huì)領(lǐng)域。