náhled|Taylor Swiftová (2019), jejíž uměle vygenerované nahé fotografie a záběry se začaly během ledna 2024 rychle šířit na sociálních sítích Na konci ledna 2024 se na sociálních sítích 4chan a X (dříve Twitter) začaly masově šířit sexuálně explicitní deepfake snímky americké hudebnice Taylor Swiftové vytvořené za pomocí umělé inteligence. Několik uměle vytvořených fotografií Swiftové se sexuálním nebo násilným obsahem byly rychle přeposílány, přičemž jeden z příspěvků měl být před svým odstraněním zhlédnut více než 47 milionkrát. Tyto snímky vedly společnost Microsoft k úpravě textově-obrazového modelu Microsoft Designer s cílem zabránit podobnému zneužívání. Kontroverze zároveň vyvolala reakce organizací zabývajících se prevencí sexuálního násilí, amerických politiků, fanoušků Taylor Swiftové (tzv. Swifties) i generálního ředitele společnosti Microsoft Satyi Nadelly a dalších. Bylo rovněž naznačeno, že vliv Taylor Swiftové by mohl vést k přijetí nové legislativy týkající se vytváření deepfake pornografie.

Podobná kontroverze se objevila v srpnu 2025, kdy americký server The Verge informoval, že nástroj Grok Imagine určený k tvorbě obrazů a videí pomocí umělé inteligence generoval sexuálně explicitní snímky a videa Swiftové na základě jinak nevinného textového zadání.

Pozadí Americká hudebnice Taylor Swiftová se podle dostupných zpráv stala v průběhu své kariéry opakovaně terčem misogynie a četných sexuálních narážek. Americká technologická společnost Microsoft nabízí nástroje pro tvorbu obrazů pomocí umělé inteligence, konkrétně pod názvy Microsoft Designer a Bing Image Creator, které využívají cenzurní ochranné mechanismy k zamezení vytváření nebezpečného nebo nevhodného obsahu. Členové několika skupin na platformě Telegram se však snažili zjistit způsoby, jak tyto ochranné prvky obejít za účelem vytváření pornografických snímků celebrit. Společnost Graphika, zabývající se výzkumem dezinformací, vystopovala původ těchto snímků ke komunitě na platformě 4chan.

Deepfake pornografie zůstává vysoce kontroverzním jevem a zasáhla jak další známé osobnosti, tak běžné lidi, z nichž většinu tvoří ženy. Novináři vyjádřili názor, že zapojení výrazné veřejně známé osobnosti, jakou je Taylor Swiftová, do šíření pornografie vytvářené pomocí umělé inteligence by mohlo vést ke zvýšení veřejného povědomí a k politickým reformám v této oblasti.

Reakce Pro část veřejnosti se deepfake snímky Taylor Swiftové okamžitě staly zdrojem kontroverzí a pobouření. Jiní uživatelé internetu je považovali za humorné či absurdní, například včetně snímku, který vytvářel dojem, že Swiftová má mít pohlavní styk s postavou Oscara Grouche ze seriálu Sezamová ulice. Snímky odsoudily organizace Rape, Abuse & Incest National Network (RAINN) a SAG-AFTRA. Druhá jmenovaná organizace, která se problematikou mediálního obsahu generovaného umělou inteligencí zabývala již před zapojením Swiftové, označila tyto snímky za „znepokojivé, škodlivé a hluboce znepokojující“. Generální ředitel společnosti Microsoft Satya Nadella, jejíž produkty měly být podle dostupných informací k tvorbě snímků použity, označil situaci za „alarmující a hroznou“ a uvedl, že „všichni máme prospěch z toho, když je online svět bezpečným světem“.

Taylor Swiftová Zdroj blízký Swiftové uvedl v rozhovoru pro britský deník Daily Mail, že zpěvačka zvažuje právní kroky, přičemž uvedl: „Zda budou podniknuty příslučné právní kroky, se teprve rozhoduje, jedno je ovšem jisté: tyto falešné snímky vytvořené pomocí umělé inteligence jsou zneužívající, urážlivé, vykořisťující a byly vytvořeny bez Taylorina souhlasu nebo vědomí.“

Politická scéna Tisková mluvčí Bílého domu Karine Jean-Pierreová vyjádřila nad falešnými snímky znepokojení, označila je za „alarmující“ a zdůraznila povinnost sociálních sítí omezovat šíření dezinformací. Několik amerických politiků následně vyzvalo k přijetí legislativy namířené proti pornografii vytvářené pomocí umělé inteligence. Později v průběhu měsíce byl předložen dvoustranný návrh zákona senátory Dickem Durbinem, Lindsey Grahamem, Amy Klobucharovou a Joshem Hawleym. Návrh by umožnil obětem žalovat osoby, které vytvářely nebo držely „digitální padělky“ s úmyslem jejich šíření, případně ty, které tento materiál obdržely s vědomím, že byl vytvořen bez souhlasu. V únoru 2024 dosáhla Evropská unie dohody o podobném právním předpisu, který by do poloviny roku 2027 kriminalizoval deepfake pornografii, online obtěžování a tzv. revenge porn (pornografie z pomsty).

Sociální sítě Platforma X reagovala na šíření těchto snímků na svých stránkách prohlášením, že pozastaví účty, které se na jejich šíření podílely. I přesto byly však na platformě snímky nadále sdíleny mezi uživatelskými účty a rozšířily se i na další platformy, včetně Instagramu a Redditu. Dne 27. ledna 2024 síť dočasně zablokovala vyhledávání jména Swiftové, které bylo o dva dny později obnoveno.

Swifties Fanouškovská komunita Taylor Swiftové, označována jako Swifties, reagovala na šíření těchto snímků v internetovém prostoru prosazením hashtagů #ProtectTaylorSwift mezi trendy na platformě X. Zároveň zaplavili síť dalšími hashtagy související se snímky pozitivnějších fotografií a videí z jejích živých vystoupení.

Odkazy

Reference

Související články

Deepfake#Pornografie

Kategorie:Taylor Swift Kategorie:Umělá inteligence