美兩男子涉製 AI 深度偽造色情內容 新法上路後遭聯邦起訴

cfddfdf4 ab63 4b6a b52a a16ad88e5b67

cfddfdf4 ab63 4b6a b52a a16ad88e5b67
圖/示意圖

商傳媒|責任編輯/綜合外電報導

美國聯邦檢察官已對兩名男子提起訴訟,指控他們利用人工智慧(AI)技術,製作並散布女性名人和一般民眾的深度偽造(deepfake)色情影片與圖片。此案是在去年生效、旨在打擊深度偽造色情內容的「移除法案」(Take It Down Act)之下,最早一批被起訴的案件之一。

根據《Ktar.com》報導,這兩名被告分別是 51 歲男子 Cornelius Shannon 和 20 歲男子 Arturo Hernandez,他們於週二遭到逮捕。檢方指出,兩人製造的性暗示 AI 內容在網路上吸引了數百萬次瀏覽。

布魯克林聯邦檢察官 Joseph Nocella 強調,這些嫌疑人「利用尖端數位科技創造了貶低和侵犯數十名女性的圖像」,並明確指出:「發布深度偽造色情內容並非無受害者的犯罪。」依據新的「移除法案」,兩名被告最高可能面臨兩年有期徒刑。

檢方表示,其中一名被告 Shannon 至少發布了 240 輯 AI 生成色情內容,受害者包括女性政治人物、音樂家和歌手。另一名被告 Hernandez 的內容則不僅涉及名人,還包含了多名一般女性,其中甚至有剛畢業的高中生。

「移除法案」是由川普總統於去年簽署生效,旨在增強對發布 AI 生成深度偽造內容和「復仇式色情」的懲罰。《Ktar.com》指出,此類案件近來屢見不鮮。上個月,俄亥俄州一名男子因利用 AI 生成兒童性虐待素材而認罪,成為該法案下首位被定罪者。今年三月,賓夕法尼亞州有兩名青少年也因製作同學的性暗示 AI 圖像而被判處緩刑。此外,今年稍早,田納西州有三名青少年曾對馬斯克(Elon Musk)旗下的 xAI 公司提出訴訟,聲稱該公司的 Grok 工具將他們的真實照片轉化為露骨的性影像。

cfddfdf4 ab63 4b6a b52a a16ad88e5b67

想讓品牌在新聞媒體曝光? 立即點我加入官方LINE@免費諮詢

相關新聞

最新消息