Performative Ethics From Within the Ivory Tower: How CS Practitioners Uphold Systems of Oppression_象牙塔中的表演性倫理:電腦科學實踐者如何維繫壓迫體系
4.解放在壓迫體系下無法操作化
4.1 廢除主義框架
————
廢除需要創造力和想像力。正如戴維斯在談到廢除監獄時指出的,「它已經成為我們生活中如此重要的一部分,以至於需要極大的想像力才能設想監獄之外的生活……」(Davis, 2003)。廢除需要對當前壓迫體系之外的世界進行概念化。
儘管社會技術領域的認可和包容性詞彙有所增加(Birhane et al., 2022; Munn, 2023; Mittelstadt, 2019),但現有的大部分AI倫理研究提出的都是改革而非廢除的建議。
例如,一篇關於去殖民化AI的論文(Mohamed et al., 2020)承認了「權力的殖民性」,並主張進行結構性去殖民化,「旨在瓦解塑造當代生活的權力、經濟、語言、文化和思維的殖民機制」,但並未明確呼籲廢除。相反,作者提出了三種「互惠指導」(reciprocal tutelege)模式,即對話、記錄和設計。這些建議可以被視為改革的理想和哈羅解放循環(Harro’s Cycle of Liberation)的初始階段(Harro, 2000)。
改革方案符合技術解決主義(techno-solutionism)的理想,即只要確定了正確的問題集並且技術存在,技術就被視為所有問題的最佳解決方案(Morozov, 2013; Gardner & Warren, 2019)。儘管可以透過改革方法改進AI系統的結果,但僅僅關注改革不足以解決壓迫體系問題,並且往往會導致權力和壓迫的進一步固化。
改革的理想運作的前提是,如果我們改進系統的某些方面,那麼壓迫和歧視的問題就會得到解決 … 廢除的目標是崇高的,而且感覺太大、太不合理,但廢除奴隸制也是如此。正如吉爾摩所設想的,廢除並非要擁有所有關於如何做的答案,而是關於魔法:「意思是我們還不知道如何,這就是魔法,我們還不知道如何解釋」(Gilmore, 2022)。廢除需要不斷地重新想像現存的世界,並承認我們無法用權宜之計來解決或「消除」結構性傷害。
4.2 廢除、色盲種族主義與工程師的角色
————
如今的種族實踐則以一種『你現在看到它,現在又看不到它』的方式運作」(Bonilla-Silva, 2022)。隨著技術的發展,色盲種族主義⁴(Carr, 1997)透過被建構成「黑箱」的機器而變得更加模糊和廣泛,這些機器通常對其做出的決定缺乏解釋或問責(Pedreschi, Giannotti, Guidotti, Monreale, Ruggieri, & Turini, 2019)。「色盲」的概念可以擴展到種族之外(即健全中心主義、階級主義),以涵蓋那些系統性地剝奪邊緣化群體權利的權力結構中通常看不見的特權。因此,計算機科學實踐者通常從兩個層面的隱形性中運作並參與其中:(1)他們從各種壓迫體系中受益的方式是隱形的,並且他們將這些有利的假設不知不覺地傳遞給他們建構的技術;(2)將倫理抽象化並將責任轉嫁給「歧視性機器」(即黑箱)的隱形性。正如Hanna等人指出的,「將種族[或任何邊緣化身份的方面]視為一種屬性,而不是一種結構性、制度性和關係性的現象,反過來又會最小化算法不公的結構性方面」(Hanna et al., 2020)。
在他們關於計算機科學教學中協作意識的工作中,Williams等人表明,儘管對社會正義問題有所理解,但許多學生仍然將AI系統的倫理問題視為「有偏見的數據集和人類不信任/信任因素」的結果,而不是「設計和目的的問題」,這支持了工程師和技術人員中存在某種色盲的觀點(Williams et al., 2022)。他們解釋說:「即使在計算機科學課程中直接討論倫理問題,教學也傾向於圍繞專業、企業或法律框架下的倫理行為,而不是在其社會技術背景下開發和部署系統的倫理」(Williams et al., 2022)。目前存在一種觀念,即客觀性、功績或遵循這些框架內建議的指導方針,是「公平」系統的標準。