搜尋此網誌

2019年6月5日 星期三

當AI比你更了解你 你的選擇還是你的嗎





天下雜誌2019年5月8日出刊的672期雜誌,有一篇文章是二十一世紀的二十一堂課作者,歷史學家哈拉瑞,在四月底造訪矽谷時,跟科技界的兩位指標人物,人工智慧專家李飛飛,以及臉書創辦人祖克柏對話的內容。
在與祖克柏長達一個半小時的對話中,哈拉瑞對於新科技提出嚴肅的警告,預言AI和機器學習等科技,會加劇不平等,破壞民主,甚至導致自由意志的終結,我同意他的觀點。
對於AI發展,他有兩個擔心。第一個擔心是網路和各種新科技的整體走向,正在加劇世界各地之間的不平等。第二個擔憂是,這種科技的走向正在破壞人類主體性、破壞民主,
自由市場、和個人主義。
他認為AI會帶來更多的不平等,是因為少數國家將引領並掌控新的AI經濟,獲得巨大的優勢。這個優勢,可能會造成人類花了150年才將貧富差距縮小的成就,因為AI的興起這個差距不但會重新擴大,而且會比以往的任何時期都要來得嚴重。
他也認為AI會破壞人類的主體性,他提出的觀點是,當這種技術發展成熟的時候,就擁有足夠的資料來破解(或洞悉)。也就是說AI系統會比我更了解我自己,能夠替我做決定,預測我的選擇,操縱我的選擇。而隨著愈來愈多的權力逐漸從人類自己的抉擇,轉移到演算法,AI不僅決定我要看哪部電影,甚至連我要加入哪些社群,跟誰做朋友,跟誰結婚,這些決定都將愈來愈依賴AI的建議。
他認為未來人類會面臨,兩種來自相同工具的不同危險。第一種是出現從未見過的極端極權主義政權(extreme totalitarian regimes),可能不是美國而在其他國,。這個國家很類似喬治歐威爾,所寫的1984年這本書裡面,所談到的老大哥所掌控的國家。另一種危險是在像美國這樣的地方,所面臨的危險是監控資本主義。各式各樣的系統不斷的與你互動,逐漸了解你,提供你更好的推薦,更好的建議。本篇文章的作者,用了一句話來描述未來的人類,我覺得很貼切, "被演算法決定的人生"(all the most important decisions in my life are being taken by an external algorithm)。這個意思是說,當我們人生中所有最重要的決定,都是外部演算法做出來的,就生命的意義而言,就人類主體性而言,這意味著什麼?
對於作者跟兩位科技界的重要人物對話的一些內容跟想法,我很贊同他的看法,也不會認為這個是過度的渲染。我認為人類,特別是每一個人都必須要正視這些問題,如果朝目前的趨勢發展,而我們沒有做一些適當的預防措施,我認為作者所擔憂的這些事情極有可能發生。
這更凸顯我一直強調的,現代人必須具有批判性思考,以及複雜問題解決能力的重要性,或許要在加上獨立性思考。具備批判性思考,就不會被AI牽著鼻子走。

參考資料

  1. 吳怡靜,當AI比你更了解你 你的選擇還是你的嗎? 天下雜誌,672期,5/8/2019,  26~28頁
  2. 對話影音,Yuval Noah Harari, Mark Zuckerberg & Yuval Noah Harari in Conversation, https://www.youtube.com/watch?v=Boj9eD0Wug8,存取日期:5/13/2019
  3. 對話逐字內容, Josh Constine, Zuckerberg warns of authoritarian data localization trend, techcrunch, 4/26/2019, https://techcrunch.com/2019/04/26/facebook-data-localization/,存取日期:5/13/2019
  4. Yuval Noah Harari, Fei-Fei Li & Yuval Noah Harari in Conversation - The Coming AI Upheaval, 2019年4月24日, https://www.youtube.com/watch?v=d4rBh6DBHyw,存取日期:5/13/2019

沒有留言: