全球首例！英國將立法禁止AI生成性虐兒童圖像

英國政府2日宣布，將立法明定生成性虐兒童圖像的人工智慧（AI）工具違法，是全球第一個將相關舉動列為違法的國家。

法新社報導，英國內政大臣古柏（Yvette Cooper）透露，政府將把持有、創造或散播用於生成兒童性圖像的AI工具定為非法，違者最高判5年徒刑。

持有教授如何使用AI對兒童進行性虐的AI「戀童癖手冊」也將觸法，最高可判處3年徒刑。

古柏說：「我們知道，病態掠奪者在網路上的活動，往往會導致他們親自進行最可怕的虐待行為。」

她說，新法目的是「保護孩童在網路上的安全，隨著科技發展，我們必須解決線上和線下的兒童性虐待問題」。

政府表示，不肖份子使用AI工具，把兒童真實生活圖像「裸體化」，或「把其他兒童的臉孔合成到現有圖像上」，來生成兒童性虐待圖像。

政府表示，新法還將明定，「經營專為戀童癖者設計的網站，分享惡劣的兒童性虐內容或誘騙兒童建議的掠奪者」違法，最高可判處10年徒刑。

這些措施將列入「犯罪和警務法案」提交國會。

網路觀察基金會（The Internet Watch Foundation）警告，AI生成的兒童性虐圖像不斷增加，在2024年一段30天的期間內，IWF分析師在一個暗網上發現3512張AI生成的虐童圖像。

研究發現，最嚴重類別的圖像在一年內增加10%。