PEDIATRIE PRO PRAXI / Pediatr. praxi. 2025;26(4):234-237 / www.pediatriepropraxi.cz 236 PŘEHLEDOVÉ ČLÁNKY Zneužití nástrojů umělé inteligence pro generování dětské pornografie putovaly školou. Školy zahájily vyšetřování a o situaci informovaly policii. Ta opakovaně upozornila na to, že tvorba a šíření podobných materiálů mezi dospívajícími je nelegální a že je nutné tyto případy hlásit. Posléze se zjistilo, že výrobu a šíření deep fake fotografií se dopustil student, který na Instagramu navázal přátelství s 15letou spolužačkou, zkopíroval z jejího účtu (a účtu dalších spolužaček) jejich fotografie a vytvořil deep nudes, které poté pomocí Snapschatu rozšířil mezi spolužáky. Na střední škole v Issaquah High u Seattlu taktéž došlo k rozšíření generované pornografie zaměřené na 14 a 15leté žákyně, přičemž škola incident policii nenahlásila, přestože měla ze zákona tuto povinnost – jednalo se o sexuální zneužívání, které zahrnuje i tvorbu těchto materiálů. Případy deep nudes řešila také střední škola v Beverly Vista v Beverly Hills v Kalifornii – pět chlapců vytvořilo a sdílelo explicitní obrázky spolužaček vytvořené umělou inteligencí. Chlapci byli posléze vyloučeni. Škola navíc publikovala prohlášení, že „Každý student, u kterého bude zjištěno, že vytváří, šíří nebo vlastní obrázky vytvořené AI tohoto druhu, bude čelit disciplinárnímu řízení – včetně doporučení k vyloučení.“ Další případy se objevily např. na Richmond Burton High School v Illinois (8), ve které se oběťmi deep nude stalo přes 30 studentek a 3 učitelky školy. Česká republika Případy podobného typu řeší i česká policie (9, 10) či poradna projektu E-Bezpečí www.napisnam.cz, na kterou se mohou školy anonymně obracet. Jde však o jednotky případů, zatím nelze hovořit o masové epidemii. Dopady „svlékacích aplikací na děti“ Zneužití technologie umělé inteligence k vytváření tzv. deep nudes má řadu závažných dopadů na oběti, zejména pokud se jedná o nezletilé osoby. Tyto dopady jsou komplexní a zasahují do různých aspektů života obětí. Z psychologického hlediska mohou oběti prožívat intenzivní trauma a emocionální stres, spojený s pocity studu, úzkosti a strachu. Falešné nahé snímky mohou výrazně narušit sebepojetí a sebevědomí jedince, negativně ovlivnit vnímání vlastního těla a identity. To může vést k depresi a sociální izolaci, kdy se oběti stahují ze sociálních interakcí ze strachu z odhalení nebo posměchu. Dlouhodobým důsledkem může být také ztráta důvěry v mezilidských vztazích. Sociální dopady jsou neméně závažné. Šíření falešných nahých snímků může vést k poškození reputace, sociálnímu ostrakismu a (kyber)šikaně. V případě incidentů ve školním prostředí může dojít k narušení vzdělávacího procesu, problémům s docházkou a soustředěním. Existuje také riziko dlouhodobých důsledků pro budoucí kariéru, zejména pokud dojde k širšímu rozšíření materiálů. Z právního a bezpečnostního hlediska jsou oběti vystaveny riziku vydírání (sextortion) a další viktimizace. Problematická je také náprava, protože odstranění závadného obsahu z internetu může být v praxi téměř nemožné. V tuto chvíli vzniká nová legislativa, která by řešila tyto nové situace – v roce 2024 vznikl návrh nového paragrafu trestního zákona (11) s názvem „Zneužití identity k výrobě pornografie a její šíření“. V návrhu je uvedeno, že ten, kdo vyrobí nebo bude šířit pornografické dílo, které zobrazuje nebo jinak využívá osobu, která k tomu nedala souhlas, bude potrestán odnětím svobody až na dva roky, zákazem činnosti nebo propadnutím věci. Pokud takový materiál zveřejní, například na internetu, hrozí mu vězení na šest měsíců až tři roky. Když to udělá v rámci organizované skupiny ve více státech nebo bude chtít pro sebe takto získat prospěch velkého rozsahu, přijde o svobodu na rok až pět let. Novelu trestního zákoníku schválil Senát, předlohu nyní dostane k podpisu prezident. Očekávaná účinnost je stanovena na 1. ledna 2026. Dopady se nevyhnou ani rodině a blízkému okolí oběti. Rodiče a sourozenci mohou prožívat sekundární trauma a celá situace může vést k narušení rodinných vztahů, zejména pokud se týká citlivých témat sexuality. V širším společenském kontextu může rozšíření těchto praktik vést k normalizaci sexuálního zneužívání a otupění společenské citlivosti vůči této problematice. Vzhledem k tomu, že většina obětí jsou dívky a ženy, může tento fenomén dále prohlubovat genderovou nerovnost a posilovat nežádoucí stereotypy. Technologické dopady zahrnují potenciální ztrátu důvěry v digitální média. Rozšíření deep fakes / deep nudes může vést k obecné skepsi vůči autenticitě digitálního obsahu. To zároveň vytváří potřebu nových bezpečnostních opatření – školy a instituce musí implementovat nové strategie pro prevenci a řešení těchto incidentů. Je důležité poznamenat, že intenzita a trvání těchto dopadů se mohou lišit v závislosti na individuálních okolnostech, podpůrném systému oběti a včasnosti a efektivitě intervence. Pro komplexní pochopení problematiky je nezbytné další výzkum a sběr dat, které pomohou vytvořit účinné strategie prevence a podpory obětí. Stručná doporučení pro pediatry: Zneužití „svlékacích aplikací“ Pro efektivní řešení problematiky zneužití „svlékacích aplikací“ je klíčové, aby pediatři byli informováni o nejnovějších digitálních trendech a rizicích, včetně fenoménu „deep nudes“. Rozpoznání příznaků potenciálního on-line zneužívání, jako jsou náhlé změny v chování, školním výkonu nebo fyzické příznaky stresu, je zásadní. V případě podezření je důležitý interdisciplinární přístup a spolupráce s psychology, sociálními pracovníky a právníky specializovanými na případy on-line zneužívání. Pediatři by měli poskytovat podporu rodinám, včetně informací o bezpečném používání internetu a sociálních médií, podporovat otevřenou komunikaci v rodině o on-line rizicích a zajistit následnou péči pro dlouhodobé sledování psychického a fyzického stavu pacienta. Prevence a edukace o bezpečném on-line chování, včetně rizik sdílení fotografií, jsou klíčové pro dlouhodobou ochranu dětí a dospívajících v digitálním prostředí. Pediatři by také měli být obeznámeni s právními aspekty této problematiky a pečlivě dokumentovat všechny relevantní informace pro případné právní řízení.
RkJQdWJsaXNoZXIy NDA4Mjc=