劇情介紹
全文共2045字，預(yù)計(jì)學(xué)習(xí)時(shí)長(zhǎng)6分鐘
弗洛伊德之死掀起了美國(guó)乃至全球各地又一輪反對(duì)種族歧視的運(yùn)動(dòng)，人們對(duì)結(jié)構(gòu)性不平等的認(rèn)識(shí)也進(jìn)一步提高了。盡管大眾關(guān)注的焦點(diǎn)是美國(guó)警察的暴行，但也有許多學(xué)者、活動(dòng)家和藝術(shù)家發(fā)出警告——全面的種族主義是如何通過(guò)通訊和監(jiān)控技術(shù)在科技行業(yè)等其他領(lǐng)域被加劇的。
在沙里尼·坎塔亞的紀(jì)錄片《編碼歧視》中，導(dǎo)演跟隨麻省理工學(xué)院媒體實(shí)驗(yàn)室研究員、算法正義聯(lián)盟(algorithmic justice league)創(chuàng)始人喬伊·布蘭維尼，發(fā)現(xiàn)了面部識(shí)別的一個(gè)根本問(wèn)題：布蘭維尼意識(shí)到計(jì)算機(jī)視覺(jué)軟件無(wú)法跟蹤她的臉，但當(dāng)她戴上白色面具時(shí)，效果卻很好。這是面部識(shí)別和人工智能系統(tǒng)中存在歧視的最新證據(jù)。
坎塔亞與布蘭維尼一起采訪了作家、研究人員和活動(dòng)家，例如凱茜·奧尼爾、梅勒迪斯·布魯薩德、薩菲亞·諾布爾和西莉·卡洛，探討了面部識(shí)別或犯罪預(yù)測(cè)等軟件目前存在的技術(shù)問(wèn)題。這些技術(shù)常常與種族監(jiān)控、優(yōu)生學(xué)或人相學(xué)等黑暗的歷史實(shí)踐有關(guān)。
這部在圣丹斯電影節(jié)上放映的影片，以批判的眼光審視了假定的算法“客觀性”，奧尼爾將其定義為“利用歷史信息對(duì)未來(lái)做出預(yù)測(cè)”。雖然算法通常被看作是公正、客觀且理性的，但它們可以重現(xiàn)創(chuàng)造者的偏見(jiàn)。
布魯薩德說(shuō)，我們給科技灌輸了“神奇的思維”，這雖然贊揚(yáng)了它的好處，卻掩蓋了它的負(fù)面影響。
《編碼歧視》紀(jì)錄片展現(xiàn)了算法歧視對(duì)現(xiàn)實(shí)世界產(chǎn)生負(fù)面影響的。影片描述了休斯頓的一個(gè)學(xué)區(qū)如何在其“增值”教師評(píng)價(jià)系統(tǒng)中使用秘密算法，該算法甚至將獲獎(jiǎng)教師歸類為“差老師”；警察使用的面部識(shí)別軟件也經(jīng)常將黑人誤判為嫌疑犯。
影片還展示了深深植根于我們生活中的技術(shù)如何增強(qiáng)了現(xiàn)有的不對(duì)稱權(quán)力動(dòng)態(tài)。影響人們生活的算法通常隱藏在“黑匣子”中，它們由大型科技公司建立，利用所有權(quán)保護(hù)政策來(lái)阻止公眾了解其算法如何工作，公司正在收集我們的數(shù)據(jù)。
坎塔亞通過(guò)電話向onezero講述了她是如何了解算法歧視的，她希望《編碼歧視》紀(jì)錄片能夠幫助公民理解并保護(hù)自己的權(quán)利。《編碼歧視》將于今年秋季在部分影院上映。
q：您是如何開(kāi)始了解算法歧視的？是什么啟發(fā)您拍了一部關(guān)于它的電影?
坎塔亞：我的很多工作都是關(guān)于顛覆性技術(shù)，以及它們是如何讓這些技術(shù)或多或少變得公平和平等的。我常常思考關(guān)于種族、性別和階級(jí)的問(wèn)題，而且我還發(fā)現(xiàn)了像喬伊·布蘭維尼、凱茜·奧尼爾和澤伊內(nèi)普·圖菲克希等女性的作品。我開(kāi)始對(duì)大型科技公司的黑暗面感興趣，同時(shí)這也讓我陷入了困境。
q：影片中有哪些算法歧視的例子？
亞馬遜曾經(jīng)有一種算法，技術(shù)本身無(wú)法歧視，但該算法在招聘實(shí)踐和保留方面借鑒了過(guò)去的性別歧視，并開(kāi)始挑選出簡(jiǎn)歷上有女子大學(xué)或體育經(jīng)歷的女性。所以，這個(gè)人工智能在招聘過(guò)程中會(huì)不自覺(jué)地歧視女性。
電影的核心部分是面部識(shí)別在深色面孔或女性身上的效果不佳，而這些人是最容易被種族定性的目標(biāo)。就在最近，底特律的一名男子因面部識(shí)別錯(cuò)誤而被拘留了30個(gè)小時(shí)，這種例子實(shí)在是太多了。
q：正在開(kāi)發(fā)該技術(shù)的公司和人員，需要做些什么來(lái)消除算法中的編碼歧視呢？
我的電影的觀眾實(shí)際上并不是技術(shù)人員，而是公民。公司在招聘時(shí)應(yīng)該更負(fù)責(zé)任，更具包容性嗎？當(dāng)然，但我的關(guān)注點(diǎn)并不是公司。對(duì)我來(lái)說(shuō)，我并不是要制定一個(gè)完美的算法，而是想要建立一個(gè)更加人性化的社會(huì)。
這部電影的關(guān)注點(diǎn)是讓公民去理解這些工具，以便我們可以使用法律和保護(hù)措施來(lái)防止這些歧視行為的發(fā)生；這樣一來(lái)，就不會(huì)任由科技公司把他們的技術(shù)賣(mài)給聯(lián)邦調(diào)查局、警察或其他沒(méi)有被選舉出來(lái)的人參與的企業(yè)。企業(yè)做這件事并不比政府做得更好，公民需要開(kāi)始要求谷歌公司和蘋(píng)果公司不要復(fù)制這種獨(dú)裁的監(jiān)控技術(shù)。
q：普通公民可以通過(guò)哪些方式來(lái)對(duì)抗這些監(jiān)控系統(tǒng)？
現(xiàn)在正是科技巨頭該傾聽(tīng)的時(shí)刻。上個(gè)月，美國(guó)國(guó)際商用機(jī)器公司表示，它將基本退出面部識(shí)別項(xiàng)目，即停止研究、停止提供服務(wù)和停止銷售。亞馬遜表示將暫停向警方出售產(chǎn)品一年，微軟公司也將停止向警方出售產(chǎn)品。
正因?yàn)槲覀冇袡C(jī)會(huì)在街頭舉行爭(zhēng)取平等的運(yùn)動(dòng)，我們才有機(jī)會(huì)通過(guò)意義非凡的立法。我們需要推動(dòng)立法者，將我們的數(shù)據(jù)信息作為人權(quán)的一部分加以保護(hù)，并保護(hù)我們遠(yuǎn)離侵犯公民權(quán)利的侵略性技術(shù)。
技術(shù)中立，可技術(shù)背后的人有偏向，如何約束根植在淵源中的歧視與偏見(jiàn)，僅僅靠科技公司的自覺(jué)是不夠的，需要我們的大聲疾呼。
留言點(diǎn)贊關(guān)注
我們一起分享ai學(xué)習(xí)與發(fā)展的干貨
如轉(zhuǎn)載，請(qǐng)后臺(tái)留言，遵守轉(zhuǎn)載規(guī)范
