www.pediatriepropraxi.cz / Pediatr. praxi. 2025;26(4):234-237 / PEDIATRIE PRO PRAXI 235 PŘEHLEDOVÉ ČLÁNKY Zneužití nástrojů umělé inteligence pro generování dětské pornografie žité, zda dokáže rozpoznat křivky lidského těla – pokud např. na sobě má žena „pytlovité“ oblečení či kabát, umělá inteligence při generování začne selhávat. Co je zajímavé, aplikace neobsahují etické limity – stejně tak vygenerují fotografii dítěte, dospělé ženy či seniorky. Výskyt deep nudes v Evropě Studií, které by mapovaly výskyt deep nudes např. v Evropě či USA, je dosud velmi málo, proto nejsou k dispozici přesná data o tom, kolik dětí má zkušenost se zneužitím deep nudes ať už z pozice oběti či pachatele. Jeden z výzkumů, realizovaných v Evropě, proběhl v Belgii (2) a zaměřil se na fenomén deep nudes mezi mladými lidmi ve věku 15–25 let. Zjistil, že 41,9 % z nich o deep nudes slyšelo a 23,1 % je vidělo, nejčastěji na sociálních sítích, jako je Snapchat nebo Twitter. Muži se častěji zapojují do jejich sledování, vytváření i uchovávání. Výzkum dále ukázal, že 12,8 % respondentů zná aplikace pro tvorbu deep nudes, přičemž 60,5 % z nich tyto aplikace aktivně využilo. Studie volá po větší regulaci a osvětě, aby bylo možné čelit této formě digitálního sexuálního násilí. Předběžná data z České republiky, která v tuto chvílí sbírá tým Centra prevence rizikové virtuální komunikace Pedagogické fakulty Univerzity Palackého v Olomouci, ukazují, že si vytvoření deep nude vyzkoušelo přibližně 6 % českých dětí. Přesnější data budou k dispozici v průběhu roku 2025. Terčem zneužití – celebrity Terčem deep fake pornografie se stávají velmi často především celebrity (zpěváci, herci, moderátoři apod.), přičemž jejich obličeje jsou prostřednictvím pokročilých algoritmů umělé inteligence neeticky vkládány do erotických/pornografických materiálů, a to zcela bez jejich vědomí či svolení. Nedávné šetření odhalilo téměř 4 000 obětí z řad celebrit (3), včetně britských hereček, hudebnic a televizních hvězd. Oběti, jako například moderátorka Channel 4 Cathy Newman, popisují tento zásah do soukromí jako velmi ponižující a znepokojující. Ačkoliv zákon ve Velké Británii zakazuje šíření těchto materiálů, jejich tvorba zůstává neregulovaná – stejně jako v dalších zemích. S pornografií generovanou umělou inteligencí má čerstvou zkušenost např. zpěvačka Taylor Swift (4, 5). V lednu 2024 se na síti X (bývalý Twitter) rozšířily její sexuálně explicitní deep fakes fotografie vytvořené pomocí umělé inteligence, které za 19 hodin nasbíraly přes 27 milionů zhlédnutí a více než 260 000 lajků, než byl účet, který snímky zveřejnil, pozastaven. Deep fakes zobrazující Swift nahou a v sexuálních scénách se sítí X neustále šíří – nyní již také mimo tuto síť. Bohužel zkušenosti s deep nude materiály nemají pouze celebrity. Stále častěji si totiž deep nude aplikace zkoušejí děti – chlapci např. vytvářejí svlečené fotografie svých spolužaček z fotografií, které mají umístěny na Instagramu a dalších sociálních sítích. Případy ze školního prostředí Evropa K prvním případům zachyceným v Evropě patří případ zneužití fotografií 20 dívek ve věku od 11 do 17 let z Almendralejo ve Španělsku (6), které byly staženy z jejich instagramového profilu, přetvořeny pomocí deep nude aplikace a rozšířeny pomocí skupin na WhatsAppu. Jedna z dívek pak byla dokonce vydírána, že pokud nezaplatí, bude její intimní fotografie zveřejněna. USA New York Times (7) nedávno upozornil na to, že se na několika školách v USA (Westfield Public Schools v New Jersey) objevily fotografie svlečených studentek, které byly vytvořeny umělou inteligencí a které Obr. 1. Ukázka generované obnažené fotografie nezletilé dívky pomocí aplikace www.deepnude.cc (Zdroj: E-Bezpečí) Obr. 2. Sexuálně explicitní obrázek Taylor Swift generovaný AI (ořezáno)
RkJQdWJsaXNoZXIy NDA4Mjc=