演算法殺人真實案件：14歲莫莉之死...「精準推薦」成最後一根稻草

編按：你有沒有過這樣的經驗：在YouTube看了一支健身影片，接下來幾天首頁全是健身教學。我們以為這只是「推薦失靈」的小困擾，殊不知背後藏著致命危機。《扁平時代》一書揭示從推薦歌曲到新聞資訊，演算法如何無孔不入地形塑著我們的數位生活，就像失控的科學怪人，為了廣告收益不斷餵養我們有毒內容，但悲劇發生時，又有誰會來為這些數位時代的犧牲者負責？

面對演算法推薦系統，普通的使用者便成了任憑宰割的魚肉。就像《科學怪人》故事中說的那樣：

人類創造出了科學怪人，但科學怪人卻反過來宰制了人類。我們無法控制它，也無法改變它。身為一個生活在現代社會的成年人，雖然我很想徹底擺脫演算法，卻無法真正做到。

不只是推錯音樂這麼簡單！演算法的「小錯誤」藏大危機

數位平臺幾乎已經跟郵政系統、下水道系統和供電系統一樣，成為了現代生活中不可或缺的設施。然而，數位平臺卻並未受到政府監督或管制，我們手中的選票也無從決定數位平臺的未來—我們正在放任演算法為所欲為。

或許因為演算法的影響看似只侷限在文化生活的範圍內，因此我們便覺得無論它再怎麼猖狂，也總不會造成比自來水系統失靈更嚴重的後果。

如果有某位Spotify用戶聽完了一張金屬製品（Metallica）的專輯之後，發現演算法不分青紅皂白地推了一堆金屬音樂給他，那麼這件事頂多也就是傳為笑談或是被當成可以忽略的小故障。

人們似乎不覺得演算法特別危險，畢竟最大的風險就是無聊而已；然而演算法不斷推薦特定內容的現象確實可以是攸關性命的問題。

震撼真實案例！14歲少女莫莉之死：演算法如何推她走向死亡邊緣？

2017年11月，倫敦西北部的一名14歲女學生莫莉（Molly Russell）自殺身亡了。這起案件，和演算法推薦系統脫不了干係。

2022年，北倫敦的資深驗屍官沃克（Andrew Walker）便指出，莫莉的死，是因為她「為憂鬱症所苦，同時又受到網路訊息的負面影響，於是產生了自我傷害的行為，最終導致其死亡」。沃克的證詞，指出了社群媒體確實可能對我們的身心健康造成危害，甚至致人於死。

和大多數的青少年一樣，莫莉也經常使用社群媒體。對於像她這樣的網路重度使用者來說，現實和虛擬世界中的生活經驗，往往都是同等真實的。

根據英國政府公布的案件調查報告，莫莉在自殺前的6個月裡，曾在IG上瀏覽過1萬6千多則內容，而其中有高達13%（也就是2100則內容）都跟自殺、自殘或憂鬱情緒有關。此外，莫莉也在她的Pinterest上收集了469張和前述這幾個主題有關的圖檔。

可見，社群媒體早已不僅只是朋友或情人之間用來聯繫感情的管道而已了；任何主題的內容，都可能藉著社群媒體到處傳播。靠著演算法的力量，社群媒體可以吸引成千上萬的人進到電影院看漫威電影，也能讓一首歌瞬間衝上熱門榜單，但除此之外，社群媒體也能加劇精神疾病的嚴重程度。

如果沒有演算法，莫莉根本不可能在短時間內看到如此大量可能會加劇精神疾病的訊息。根據《連線雜誌》報導，莫莉自殺前，Pinterest曾發了一封email給她，標題是「你喜歡憂鬱症的圖片嗎？我們幫你收集好了！」信裡的其中一張圖片，是一把沾了血的刀。不僅如此，信的內文甚至還建議莫莉把這張圖片儲存到自己的Pinterest頁面裡。

Pinterest的演算法，原本並不是設計用來處理和憂鬱症有關的內容的，而是為了處理類似像「居家裝飾照片」這一類的內容。也因此，Pinterest的演算法完全是用處理居家裝飾照片的方式在處理憂鬱症的圖片。