APP

自由時報APP
看新聞又抽獎

立即下載

社會新聞

當司法遇上AI 美教授:使用不當恐造成黑箱、偏見與誤解

2019-10-15 23:15
字體
Line
FB
美國杜克大學教授Jeff Ward(中)、台灣大學法律學院副院長王皇玉(右)、交通大學科技法律研究所所長陳鋕雄(左)討論AI帶來的影響。(記者吳政峰攝)

美國杜克大學教授Jeff Ward(中)、台灣大學法律學院副院長王皇玉(右)、交通大學科技法律研究所所長陳鋕雄(左)討論AI帶來的影響。(記者吳政峰攝)

〔記者吳政峰/台北報導〕AI(人工智慧)在網路與手機載具的普及下發展迅速,雖然大幅增加便利性,但隨之而來的隱私權與倫理爭議也開始被討論,尤其應用在司法上可能對社會與當事人帶來重大質變與影響,AI軟體核心的演算法若未開放,恐遭到偏見甚至是黑箱質疑,連杜克大學教授Jeff Ward都質疑AI只是「深度」的學習系統,而非透明的系統。

Jeff指出,AI工具正在形塑法律與司法實務,未來應用層面會越來越普及,是機會也是挑戰,但AI系統均由科技人設計,不一定有法律的相關背景,未來恐遭遇司法人參與不深與全權交由科技人主導兩個重大危險,在他看來,台灣即便是法治盛行,惟對科技和AI的反應仍難以預測。

Jeff認為,AI若運用得宜,協助處理大量資訊、節省時間、降低工作量與錯誤,能夠增加流程效率、提高決策品質、準確度及一致性,且由AI取代人工,也可節省人力成本、辨識並評估風險、清楚呈現晦澀難解的資訊,甚至可以協助司法研究、技術輔助審查、擬定契約、估價、判刑。

但他強調,AI使用不當,可能會影響我們了解、解釋與確保公平的能力,並且延續貌似客觀的偏見,因為許多有效的AI工具屬於「深度」的機器學習系統,並不是透明的系統,若使用不當,這些演算法可能造成黑箱、偏見與誤解,不僅不可靠,還可能與基本的正當程序相反。

Jeff質疑,使用AI時,法官和律師的參與程度夠深嗎?具備批判思考的能力嗎?能夠在判決時妥善使用AI嗎?他認為,使用AI時,法官和律師反而更需要積極的參與、批判地思考,才能維護正當程序與平等保護的價值。

美國司法運用AI的程度名列世界前茅,2013年飛車開槍嫌犯Eric Loomis被起訴,法院執行審前調查報告,利用AI風險評估軟體「COMPAS」對Loomis進行再犯風險評估,得到「高風險」的結果,法官據此判他6年徒刑、刑後監督5年,雖然Loomis主張COMPAS無法評估分數是否正確、量刑應個別化,而非透過大數據的特性判定他是否會再犯、計算風險時不應納入「性別」,並要求公開COMPAS的演算法,但全都遭到拒絕;而COMPAS在計算黑人的再犯率時,冤枉黑人會再犯的比例足足是白人的兩倍,亦被抨擊有種族歧視。

Jeff還提及,AI所生成的假訊息、假影片、假聲音,經由 Deepfake(深度偽造),極可能導致暴力事件,更令人擔憂的是,透過大量製造說服力強但錯誤的內容,AI很可能淪為操控大眾言論的工具,或是強化獨裁政權的手段。

不用抽 不用搶 現在用APP看新聞 保證天天中獎  點我下載APP  按我看活動辦法

相關新聞

pv

熱門新聞

看更多!請加入自由時報粉絲團

社會 ‧ 本日最多瀏覽

謠言終結站 | 事件

... more
關閉
圖