【明報專訊】6月3日是卡夫卡（Franz Kafka）逝世百年紀念。他仔細觀察個人面對龐大力量之無力感，並清晰描繪了個人的心理矛盾及困惑，百年來一直令世人感同身受。當前世界正為科技趨之若鶩，諸如OpenAI等科企着力描繪AI的烏托邦，但亦有悲觀論者警告AI會滅絕人類。如果卡夫卡要寫一部AI題材的科幻小說，他大概不會說一個老掉牙的「智能叛變」故事，可能只會叫你重溫一下《審判》。
我們就算無法井井有條、旁徵博引地解釋何謂「卡夫卡式」（Kafkaesque），總可以心神領會。且看《審判》的開場：「一定有人誹謗了Josef K.，因為他沒做什麼錯事，卻在一天早上被捕了」。K. 不知為什麼被捕、不知道自己犯了什麼罪、也不知道控方手握什麼證據。他處身一個和平的社會，法律仍然有效力。雖然種種迹象顯示法庭系統馬虎，他仍然相信制度，相信可以說服法官還自己清白，於是捲入跟官僚無止無終的鬥法中，最後在31歲生日前被劊子手處決，「就像一條狗一樣」。這個故事有什麼寓意，一直眾說紛紜。當然，說那是一種存在主義的感受並無不可，畢竟那種無力感正是存在主義常說的，但存在總不能離開歷史脈絡，放在具體的時空下，卡夫卡的省思更為有趣。
卡夫卡1883年在布拉格出生，當時是奧匈帝國的子民。當此之時，法國、普魯士及奧地利等歐洲國家的官僚體系開始發展。這些國家19世紀中葉開始建立行政及法律體系，以便管治及維持社會秩序。制度固然可以令政府為人民提供福利，但亦開始以管治之名侵犯私人領域。K.在《審判》面對的夢魘，在20世紀後以不同面目出現。奧匈帝國19世紀已設立秘密警察監視國民，但警察國家卻要到20世紀才被納粹德國和蘇聯等共產國家發揚光大。跟K.一樣，歐洲猶太人也是不知為什麼被屠殺；也跟K.一樣，蘇聯及東歐共產國家的國民被無時無刻監控，不知道自己是因為在某天說錯某句話被抓起來。
民主國家的監控
監控的面目總是在變，在科技的發展下，非民主國家自然多了武器監控國民；而民主國家的監控也變得「和藹可親」：因為很多人會為了方便而自願向科企獻上個人數據，科企得以蒐集大量數據、窺探用戶的行為，甚至改變用戶的行為模式，此即哈佛大學教授Shoshana Zuboff所稱的「監控式資本主義」（surveillance capitalism）。《審判》那個手握生殺大權但無人理解的龐大體系，跟今天的自動化科技之相似性，早為英國劍橋大學的Stephen Cave所指出。他2019年在《衛報》撰文稱，《審判》中的K.不知道自己為何被捕，沒有人為其被捕決定負責，也沒有人解釋系統是怎樣運作的；而今天由AI及數據驅動的電腦系統亦如是，系統會「自動」決定，雖然其影響愈來愈大，但演算法運作並不透明；所謂「自動」說穿了也只是為政府、軍事及大企業服務而己。他稱，AI必須民主化，才能避免卡夫卡式的夢魘。
這番對科技的警告，不少人已發出過。但隨着ChatGPT等生成式AI吸引全球目光，聰明的AI會否「智能叛變」，甚至殺人卻成為時髦話題。去年5月「AI教父」辛頓（Geoffrey Hinton）警告AI有令人類滅亡的風險，引起不少討論；但也招來一批向來關注AI倫理問題的專家批評。加密通訊軟件Signal主席Meredith Whittaker當時便指出，AI對人類的威脅是真實的，但並非在於所謂「存在威脅」，而是在於將歧視自動化、建立工具作社會控制、進行大規模監控這些具體問題。數據和技術掌握在大企業之手，才是真正的問題所在。
卡夫卡為私隱法帶來啟示
喬治華盛頓大學法律教授Daniel J. Solove及波士頓大學法律教授Woodrow Hartzog今年在《波士頓法律評論》（Boston Law Review）發表了一篇名為Kafka In The Age Of AI And The Futility Of Privacy As Control （〈AI時代的卡夫卡及私隱作為控制的不足〉，下文簡稱〈AI時代的卡夫卡〉）的學術論文，認為卡夫卡捕捉了個人在數碼時代的無力感，但同時也為私隱法帶來啟示。
針對數碼時代企業大規模蒐集用戶數據，各地都加緊立法保護私隱。現時的私隱法多建基於個人控制模型（Individual Control Model），即強調個人控制數據的權利，例如我們現在接受科企服務時很多時都會就蒐集數據等條款按「同意」鍵（雖然很多時都不會仔細看）。但一些學者認為這模型並不足夠，提倡社會結構模型（Societal Structure Model），主張保護私隱並不是出於純粹個人利益，而是因為能夠促進諸如民主、自由、創造力、健康等社會價值。簡單而言，私隱法的首要目標不應該着眼於個人控制自己的數據，而是確保社會結構能夠控制個人數據的蒐集、使用和披露，這也是該文的主張。
卡夫卡的小說及寓言跟這場法律討論有何關係？因為卡夫卡所寫的故事所揭露的人性弱點，正可以顯示為何單強調個人權利並不足夠。在卡夫卡的世界中，主角即使沒有被迫、即使明知會受傷害，仍然會很容易屈服權威。例如在《審判》中，雖然有無數迹象顯示法院系統是不合法的，例如法庭程序簡陋、看似法律的書籍原來是色情刊物，整個系統都是不專業和草率的，但K.仍然對法院系統深信不移，自願屈服於其權威。
政策制定須考慮人性
為什麼會明知受害仍然甘心屈服？卡夫卡沒有提出解釋，但人類心理往往就有各種難以理喻的情感及非理性成分。我們可以進一步思考，如果人類心理就是如此，我們應如何自處？〈AI時代的卡夫卡〉正好示範了如何將卡夫卡應用到我們時代。該文稱，思考現實私隱政策時也要顧及人性這個不可理喻的一面。就算法律賦予個人權利，但現實中人們往往並不嘗試行使選擇權，只是單純跟隨科企的願望，做出有害的私隱決定，輕易交出數據控制權。當人們發現數據遭濫用時，往往會自責，就像卡夫卡故事的主角一樣，將不幸遭遇歸咎於自己責任。
〈AI時代的卡夫卡〉最後引用卡夫卡的短故事A Little Fable作結。在該則故事中，一隻老鼠不斷由一間房間走到另一間房間，最後貓兒出現，拋下一句「你只需要改變方向」便吃掉牠。該文稱，老鼠沒有改變方向結果自招滅亡，在數碼時代要有效保護個人私隱也需要政策制定者改變立法方向才能自救。
卡夫卡死時只有40歲，永遠的年輕、永遠跟我們世界那麼近；他雙眼彷彿仍然在好奇地觀察我們的世界。他大概沒有想過，自己的影響力是如此無遠弗屆，如果他知道，可能會惶恐不安吧。但無論如何，在這困惑的時代裏，不妨仔細閱讀卡夫卡，或者會有意想不到的收穫。
後記
永遠的KOL
如果不是因為5月在東京神保町的三省堂書店看到為卡夫卡百年而設的專櫃，可能錯過這文青界一大盛事。專櫃除了放了今年新出版的卡夫卡小說及日記譯本外，還有各種卡夫卡研究、傳記、以卡夫卡為題材的小說等。卡夫卡跟未婚妻及家人的關係早已被徹底研究，想想這也有點可怕，畢竟卡夫卡死前曾要求友人燒毁所有手稿，誰料到自己所寫的每隻字百年來被陌生人仔細研究？
讀卡夫卡了解Z世代
法國《世界報》近日推出的卡夫卡專題，讀來趣味盎然。關於卡夫卡的嚴肅哲學討論大概已經太多了，反而法國作家Sarah Chiche形容卡夫卡是永遠的KOL（influenceur perpétuel）叫人會心微笑。她留意到，卡夫卡在網絡世界已成為Z世代（12至25歲）的偶像。這是因為卡夫卡在小說、書信及日記對內心世界深刻描繪，都叫年輕人感同身受，例如孤獨、被持續監視的感覺、對不被理解的害怕、對父母的愛恨交纏、每天早上掙扎起牀的恐懼等。她說，要了解年輕人，最好讀卡夫卡。
卡夫卡既可讓我們讀到年輕人的心理，又可讓人讀到監控社會的恐怖。不過，最直接的共鳴，可能是我們腦袋裏各種奇怪想法。星期日晚當你拖着疲倦的身軀上牀，可能會有一剎那的念頭，希望自己是《變形記》的主角，一覺醒來發現自變成一隻巨型甲蟲，名正言順不上班，那就太好了。
