PEDIATRIE PRO PRAXI / Pediatr. praxi. 2025;26(4):234-237 / www.pediatriepropraxi.cz 234 PŘEHLEDOVÉ ČLÁNKY Zneužití nástrojů umělé inteligence pro generování dětské pornografie Zneužití nástrojů umělé inteligence pro generování dětské pornografie prof. Mgr. Kamil Kopecký, Ph.D. Centrum prevence rizikové virtuální komunikace (E-Bezpečí) Univerzita Palackého v Olomouci Článek se zabývá zneužitím umělé inteligence (AI) pro generování pornografických snímků, včetně dětské pornografie, prostřednictvím tzv. deep nudes – aplikací, které z fotografií vytvářejí realistické nahé obrazy bez souhlasu osob. Tento fenomén má závažné psychologické a sociální dopady na oběti, zejména na děti, které se mohou stát terčem kyberšikany, vydírání a dalších forem zneužívání. Výzkumy ukazují rostoucí výskyt tohoto fenoménu mezi mladými lidmi i celebritami. Článek zdůrazňuje potřebu přísnější regulace, prevence a výzkumu, aby byla zajištěna ochrana obětí a efektivní právní reakce. Klíčová slova: umělá inteligence, deep nudes, dětská pornografie. Misuse of artificial intelligence tools to generate child pornography The article explores the misuse of artificial intelligence (AI) to generate pornographic images, including child pornography, through so-called deep nudes – applications that create realistic nude images from photographs without the consent of individuals. This phenomenon has serious psychological and social impacts on victims, especially children, who can become targets of cyberbullying, blackmail and other forms of abuse. Research shows an increasing prevalence of this phenomenon among young people and celebrities. The article highlights the need for stricter regulation, prevention and research to ensure victim protection and an effective legal response. Key words: artificial intelligence, deep nudes, child pornography. V posledních letech se s rychlým rozvojem technologií a umělé inteligence (AI) objevují nové výzvy a hrozby, které vyžadují důkladnou analýzu a reakci ze strany společnosti. Jedním z nejzávažnějších a morálně problematičtějších aspektů této skutečnosti je zneužití nástrojů umělé inteligence k vytváření dětské pornografie (či jakékoli další pornografie). Tento fenomén nejenže představuje porušení základních lidských práv a důstojnosti, ale také ohrožuje bezpečnost a psychický vývoj dětí. V rámci tohoto článku se zaměříme na mechanismy, kterými umělá inteligence přispívá k výrobě takového obsahu, a na etické, právní a sociální implikace tohoto zneužití. Fenomén deep nudes Deep nudes, AI deep nude, AI fake nude či jednoduše „svlékací aplikace” jsou softwarové nástroje poháněné umělou inteligencí, které dokáží z fotografií či videí osob odstranit oblečení, vygenerovat nahé lidské tělo a vytvořit tak realistickou iluzi nahoty (1). Další možností je vygenerovat zcela novou digitální svlečenou postavu, která je k nerozeznání od skutečného člověka. Nástroje, které toto umožňují, jsou přitom volně k dispozici, zneužít je tak může doslova kdokoli. K tomu, aby bylo možné podobný materiál vytvořit, stačí běžná fotografie zachycují daného člověka, přičemž může být zcela oblečený. Pro umělou inteligenci je důleDECLARATIONS: Declaration of originality: The manuscript is original and has not been published or submitted elsewhere. Ethical principles compliance: The authors attest that their study was approved by the local Ethical Committee and is in compliance with human studies and animal welfare regulations of the authors’ institutions as well as with the World Medical Association Declaration of Helsinki on Ethical Principles for Medical Research ing Human Subjects adopted by the 18th WMA General Assembly in Helsinki, Finland, in June 1964, with subsequent amendments, as well as with the ICMJE Recommendations for the Conduct, Reporting, Editing, and Publication of Scholarly Work in Medical Journals, updated in December 2018, including patient consent where appropriate. Conflict of interest and financial disclosures: None. Funding/Support: Tento výstup/článek vznikl za podpory projektu ReDiKid: Odolné dítě v digitálním světě, reg. č. CZ.02.01.01/00/23_025/0008686 spolufinancovaného EU. Cit. zkr: Pediatr. praxi. 2025;26(4):234-237 https://doi.org/10.36290/ped.2025.046 Článek přijat redakcí: 8. 1. 2025 Článek přijat k tisku: 4. 2. 2025 prof. Mgr. Kamil Kopecký, Ph.D. kamil.kopecky@upol.cz
RkJQdWJsaXNoZXIy NDA4Mjc=