演算法殺人真實案件：14歲莫莉之死...「精準推薦」成最後一根稻草
面對演算法推薦系統，普通的使用者便成了任憑宰割的魚肉。就像《科學怪人》故事中說的那樣：
人類創造出了科學怪人，但科學怪人卻反過來宰制了人類。我們無法控制它，也無法改變它。身為一個生活在現代社會的成年人，雖然我很想徹底擺脫演算法，卻無法真正做到。
不只是推錯音樂這麼簡單！演算法的「小錯誤」藏大危機
數位平臺幾乎已經跟郵政系統、下水道系統和供電系統一樣，成為了現代生活中不可或缺的設施。然而，數位平臺卻並未受到政府監督或管制，我們手中的選票也無從決定數位平臺的未來—我們正在放任演算法為所欲為。
或許因為演算法的影響看似只侷限在文化生活的範圍內，因此我們便覺得無論它再怎麼猖狂，也總不會造成比自來水系統失靈更嚴重的後果。
如果有某位Spotify用戶聽完了一張金屬製品（Metallica）的專輯之後，發現演算法不分青紅皂白地推了一堆金屬音樂給他，那麼這件事頂多也就是傳為笑談或是被當成可以忽略的小故障。
人們似乎不覺得演算法特別危險，畢竟最大的風險就是無聊而已；然而演算法不斷推薦特定內容的現象確實可以是攸關性命的問題。
震撼真實案例！14歲少女莫莉之死：演算法如何推她走向死亡邊緣？
2017年11月，倫敦西北部的一名14歲女學生莫莉（Molly Russell）自殺身亡了。這起案件，和演算法推薦系統脫不了干係。
2022年，北倫敦的資深驗屍官沃克（Andrew Walker）便指出，莫莉的死，是因為她「為憂鬱症所苦，同時又受到網路訊息的負面影響，於是產生了自我傷害的行為，最終導致其死亡」。沃克的證詞，指出了社群媒體確實可能對我們的身心健康造成危害，甚至致人於死。
和大多數的青少年一樣，莫莉也經常使用社群媒體。對於像她這樣的網路重度使用者來說，現實和虛擬世界中的生活經驗，往往都是同等真實的。
根據英國政府公布的案件調查報告，莫莉在自殺前的6個月裡，曾在IG上瀏覽過1萬6千多則內容，而其中有高達13%（也就是2100則內容）都跟自殺、自殘或憂鬱情緒有關。此外，莫莉也在她的Pinterest上收集了469張和前述這幾個主題有關的圖檔。
可見，社群媒體早已不僅只是朋友或情人之間用來聯繫感情的管道而已了；任何主題的內容，都可能藉著社群媒體到處傳播。靠著演算法的力量，社群媒體可以吸引成千上萬的人進到電影院看漫威電影，也能讓一首歌瞬間衝上熱門榜單，但除此之外，社群媒體也能加劇精神疾病的嚴重程度。
如果沒有演算法，莫莉根本不可能在短時間內看到如此大量可能會加劇精神疾病的訊息。根據《連線雜誌》報導，莫莉自殺前，Pinterest曾發了一封email給她，標題是「你喜歡憂鬱症的圖片嗎？我們幫你收集好了！」信裡的其中一張圖片，是一把沾了血的刀。不僅如此，信的內文甚至還建議莫莉把這張圖片儲存到自己的Pinterest頁面裡。
Pinterest的演算法，原本並不是設計用來處理和憂鬱症有關的內容的，而是為了處理類似像「居家裝飾照片」這一類的內容。也因此，Pinterest的演算法完全是用處理居家裝飾照片的方式在處理憂鬱症的圖片。
結構性傷害無解？演算法只為廣告收益而生 我們毫無選擇權
後來，臉書也透露了有關莫莉在臉書上的活動情況。臉書承認，在莫莉自殺前，臉書的演算法曾向莫莉推薦過30個粉絲專頁，而這些粉專的名稱當中「都含有使人沮喪或憂鬱的字句」。
而在推特上，莫莉則用她的秘密小帳號轉貼了許多頌揚自殺的圖片。發布這類圖片的推主，則大多都是用「憂鬱書摘」這一類的稱號來當作自己的名稱。此外，莫莉也曾透過推特和幾位曾經談論過「憂鬱症」這一主題的網紅傳遞訊息。
根據驗屍官沃克的說法，社交平臺上的內容，很可能促使莫莉在自殺前進入了所謂的「連續追看期」（binge periods）。在這段期間，演算法曾大量推薦容易致鬱的內容給莫莉看，而她也一一追看不止。
莫莉之死，是社群媒體過度依賴演算法造成的結果。當演算法不斷以人腦無法處理的速度和規模到處傳遞訊息時，根本沒人有辦法阻止悲劇的發生。
然而，傳統媒體就比較不會犯下類似的錯誤，因為沒有任何一個雜誌編輯會把那麼多可能致鬱的內容編進刊物裡，也不可能有哪一個電視頻道會連續播放頌揚自殺的節目，但演算法推薦系統的特性，就是會把所有相同主題的內容統統搜羅起來，在極短的時間內，大量推薦給曾經觀看過相關內容的人—而這不巧就是發生在莫莉身上的事。
在扁平時代裡，演算法機制所造成的傷害，已經是一種結構性的傷害。我們或許可以改變自己的上網習慣，但我們依舊無法改變演算法的運作方式。
而數位平臺之所以採用演算法，並不是為了使用者的福祉著想，而是為了吸引人們的注意力，以便獲取廣告收益。身為普通使用者的你我，在網路上其實沒有多少能動性可言。
我們或許可以主動搜尋和某個主題相關的內容，但我們卻無法更改演算法推薦系統的設定；且由於我們的網路生態已被少數幾家大型公司所掌控，因此我們別無選擇，依舊只能透過它們來獲取我們需要的訊息。
- 本文摘自：《扁平時代：演算法如何限縮我們的品味與文化》
- 出版社：衛城出版
- 出版日期：2025年1月
