當AI比你更了解你 你的選擇還是你的嗎

天下雜誌2019年5月8日出刊的672期雜誌，有一篇文章是二十一世紀的二十一堂課作者，歷史學家哈拉瑞，在四月底造訪矽谷時，跟科技界的兩位指標人物，人工智慧專家李飛飛，以及臉書創辦人祖克柏對話的內容。
在與祖克柏長達一個半小時的對話中，哈拉瑞對於新科技提出嚴肅的警告，預言AI和機器學習等科技，會加劇不平等，破壞民主，甚至導致自由意志的終結，我同意他的觀點。
對於AI發展，他有兩個擔心。第一個擔心是網路和各種新科技的整體走向，正在加劇世界各地之間的不平等。第二個擔憂是，這種科技的走向正在破壞人類主體性、破壞民主，
自由市場、和個人主義。
他認為AI會帶來更多的不平等，是因為少數國家將引領並掌控新的AI經濟，獲得巨大的優勢。這個優勢，可能會造成人類花了150年才將貧富差距縮小的成就，因為AI的興起這個差距不但會重新擴大，而且會比以往的任何時期都要來得嚴重。
他也認為AI會破壞人類的主體性，他提出的觀點是，當這種技術發展成熟的時候，就擁有足夠的資料來破解(或洞悉)。也就是說AI系統會比我更了解我自己，能夠替我做決定，預測我的選擇，操縱我的選擇。而隨著愈來愈多的權力逐漸從人類自己的抉擇，轉移到演算法，AI不僅決定我要看哪部電影，甚至連我要加入哪些社群，跟誰做朋友，跟誰結婚，這些決定都將愈來愈依賴AI的建議。
他認為未來人類會面臨，兩種來自相同工具的不同危險。第一種是出現從未見過的極端極權主義政權(extreme totalitarian regimes)，可能不是美國而在其他國，。這個國家很類似喬治歐威爾，所寫的1984年這本書裡面，所談到的老大哥所掌控的國家。另一種危險是在像美國這樣的地方，所面臨的危險是監控資本主義。各式各樣的系統不斷的與你互動，逐漸了解你，提供你更好的推薦，更好的建議。本篇文章的作者，用了一句話來描述未來的人類，我覺得很貼切， "被演算法決定的人生"(all the most important decisions in my life are being taken by an external algorithm)。這個意思是說，當我們人生中所有最重要的決定，都是外部演算法做出來的，就生命的意義而言，就人類主體性而言，這意味著什麼?
對於作者跟兩位科技界的重要人物對話的一些內容跟想法，我很贊同他的看法，也不會認為這個是過度的渲染。我認為人類，特別是每一個人都必須要正視這些問題，如果朝目前的趨勢發展，而我們沒有做一些適當的預防措施，我認為作者所擔憂的這些事情極有可能發生。
這更凸顯我一直強調的，現代人必須具有批判性思考，以及複雜問題解決能力的重要性，或許要在加上獨立性思考。具備批判性思考，就不會被AI牽著鼻子走。

參考資料

1. 吳怡靜，當AI比你更了解你 你的選擇還是你的嗎? 天下雜誌，672期，5/8/2019,  26~28頁
2. 對話影音，Yuval Noah Harari, Mark Zuckerberg & Yuval Noah Harari in Conversation, https://www.youtube.com/watch?v=Boj9eD0Wug8，存取日期：5/13/2019
3. 對話逐字內容, Josh Constine, Zuckerberg warns of authoritarian data localization trend, techcrunch, 4/26/2019, https://techcrunch.com/2019/04/26/facebook-data-localization/，存取日期：5/13/2019
4. Yuval Noah Harari, Fei-Fei Li & Yuval Noah Harari in Conversation - The Coming AI Upheaval, 2019年4月24日, https://www.youtube.com/watch?v=d4rBh6DBHyw，存取日期：5/13/2019