胡一天專欄:偏見的結構與人工智能專政

2017-05-18 06:40

? 人氣

面對AI審判卻投訴無門的人生,是否比卡夫卡式困境更加絕望?(取自電影《審判》劇照)

面對AI審判卻投訴無門的人生,是否比卡夫卡式困境更加絕望?(取自電影《審判》劇照)

在卡夫卡的經典小說《審判》中有一則寓言《法律之前》,講述一名鄉巴佬試圖上法院尋求救濟,到了門口卻被警衛阻擋的故事。警衛說:「法律的大門為人人敞開,不是不給進,但不是現在。」鄉巴佬在門口探頭探腦,警衛看著他著急的模樣,笑說:「門沒關,你夠膽就衝進去,但要記得我只是最低階的小看門,裡面每間房都有警衛,個個不好惹。」鄉巴佬只好坐在警衛給的小板凳上枯等。數年之後,鄉巴佬無奈之下掏出囊中所有金錢賄賂警衛,希望不要得其門而不入。警衛笑納之後說:「我還是不能放你通過,收下這份禮物只是不想讓你覺得徒勞無功而已。」鄉巴佬聽完,既不憤怒,也不打算傷害警衛,而是繼續在門前等待,直到死前。在他嚥氣前,鄉巴佬問警衛:「人人都想在法律之前討個公道,為什麼這麼多年來我一個影子都沒見到?」警衛說:「你眼前這扇門,是特別為你準備的,而我現在要將它永遠關上。」故事至此嘎然而止,讀者只能假設,然後鄉巴佬就死掉了。

《審判》的男主角K在聽完這則寓言後,認為整件事就是一場用謊言羅織而成的體制化騙局。卡夫卡式法庭不在乎客觀世界中的真實,而僅在乎維持體系的持續運作。法律的大門理論上向社會敞開,但在卡夫卡的世界裡,看似人人有機會,其實個個沒把握。整個體系不是在追求真理正義,而是在為維護體制的充分與必要條件服務。當偏見已經根深柢固,只要身在其中,就被推定有罪,取證、詰問、辯論等程序,只是過場套路。恪忠職守的各級官僚不用為受害者負責,更無需內疚自責。因為他們都像那位低階警衛一樣,只是盡看門的本分而已。制度殺人,莫此為甚。

對關注人工智能進展的人士而言,卡夫卡筆下的絕望困境,象徵著一種反烏托邦式的惡夢。藏在一扇扇森嚴大門之後的法官,是至高無上的絕對權威。整個法律體系彷彿一只神秘的黑盒子,沒有人敢質疑這套威權體制的運作邏輯,也無法明白黑箱作業的各種技巧。人類知道自己身處黑箱之中,卻不知道黑箱的邊界,只能戰戰兢兢苟活。一但違規,只能逆來順受,無條件服從安排。想像這個黑箱不是由卡夫卡式的法官、律師與警衛把持,而是由各種人工智能及大數據演算法操縱。這些用機器語言寫成的軟體程式碼,與用人類語言寫成的法律條文一樣,都不可避免地受到創造者的主觀願望與價值取向影響 — 一種偏見的結構。偏見隨時間沖刷被體制化,逐漸取得了可被稱為「習慣」、「法律」、「民情」等「正統」地位。這個自然演進的過程,在前互聯網時代,可能是漸變 。在互聯網席捲全球、快速迭代的世界,就是不斷生滅的劇變。隨著社會經濟生活演化愈趨複雜多樣,「法律」作為一種規範的上位概念,其內涵與核心價值也必須與時俱進。當掌控資源的新貴們愈發信奉數理邏輯,而非義理人情,有能力利用人類與機器語言「造法」的行為體,若不受制衡,又無法自我警惕,比卡夫卡世界更冷酷無情的人工智能專政就可能隨時降臨,所有捍衛自由、民主與人權的努力,在鋪天蓋地的技術進逼之下,將毫無招架之力。

喜歡這篇文章嗎?

胡一天喝杯咖啡,

告訴他這篇文章寫得真棒!

來自贊助者的話
關鍵字:
風傳媒歡迎各界分享發聲,來稿請寄至 opinion@storm.mg

本週最多人贊助文章