Rýchly rozvoj programov umelej inteligencie (AI), ktoré dokážu vytvárať realistické obrázky, viedol k prudkému nárastu detskej pornografie a pokusov o vydieranie zo strany zločincov, ktorí sa rozhodli zneužívať deti a dospievajúcich, informuje Fox News
Yaron Litwin, šéf marketingu a expert na digitálnu bezpečnosť spoločnosti Canopy, varoval, že pedofili využívajú rozvíjajúce sa nástroje rôznymi spôsobmi, často s úmyslom vytvárať a šíriť obrázky sexuálneho zneužívania detí na internete.
Jedna z týchto techník zahŕňa úpravu pravej fotografie úplne oblečeného mladistvého a jej premenu na nahý obrázok.
V jednom zo skutočných príkladov, ktoré Litwin spomenul, sa 15-ročný chlapec, ktorý sa zaujímal o osobnú kondíciu, pripojil k online sieti nadšencov pre posilňovanie. Jedného dňa zdieľal so skupinou fotografiu, na ktorej mal po tréningu holý hrudník. Táto snímka bola prevzatá, upravená na úplne nahú fotografiu a použitá na vydieranie chlapca, ktorý si pôvodne myslel, že jeho obrázok je neškodný a v rukách ostatných návštevníkov posilňovne bezpečný.
Nárast pornografie
V roku 2022 zaznamenali hlavné sociálne siete 9 % nárast podozrivých materiálov o sexuálnom zneužívaní detí na svojich platformách. Z týchto hlásení 85 % pochádzalo z digitálnych platforiem Meta, ako sú Facebook, Instagram a WhatsApp.
Vedúca oddelenia bezpečnosti spoločnosti Meta Antigone Davisová uviedla, že 98 % nebezpečného obsahu je odstránených skôr, ako ho niekto nahlási ich tímu. Spoločnosť pritom registruje viac materiálov o sexuálnom zneužívaní detí (CSAM), ako ktorákoľvek iná služba.
Litwin uviedol, že proces úpravy existujúcich obrázkov pomocou umelej inteligencie sa stal neuveriteľne jednoduchým a rýchlym, čo často vedie k hrozným zážitkom pre rodiny. Táto jednoduchosť sa prenáša aj na vytváranie úplne vymyslených snímok sexuálneho zneužívania detí, ktoré sa neopierajú o autentické obrázky.
“To nie sú skutočné deti,” upozornil. “Sú to deti, ktoré sú generované prostredníctvom umelej inteligencie a táto AI, keďže algoritmus dostáva viac takýchto obrázkov, sa môže v podstate vylepšovať, ale negatívnym spôsobom.”
Podľa nedávnej analýzy by obrázky detí pri sexuálnych aktoch vytvorené umelou inteligenciou mohli potenciálne narušiť centrálny sledovací systém, ktorý používa CSAM. V súčasnej podobe je systém navrhnutý len na odhaľovanie známych obrázkov zneužívania a nie generovaných obrázkov. Táto nová premenná by mohla viesť k tomu, že orgány činné v trestnom konaní budú musieť stráviť viac času určovaním, či je obrázok skutočný alebo vygenerovaný programom.
Právny problém
Litwin uviedol, že tieto obrázky tiež vyvolávajú otázky o tom, či porušujú štátne a federálne zákony o ochrane detí a pornografii. Hoci príslušníci orgánov činných v trestnom konaní a predstavitelia ministerstva spravodlivosti potvrdzujú, že takéto materiály sú nezákonné, aj keď je dané dieťa vytvorené umelou inteligenciou, žiadny podobný prípad nebol riešený na súde.
Okrem toho právne argumenty z minulosti naznačujú, že takýto obsah by mohol byť v americkom práve šedou zónou. Napríklad Najvyšší súd v roku 2002 zrušil niekoľko ustanovení, ktoré zakazovali virtuálnu detskú pornografiu, s odôvodnením, že toto rozhodnutie je príliš široké a mohlo by zahŕňať a kriminalizovať dokonca aj zobrazovanie sexuality dospievajúcich v populárnej literatúre.
Ďalšie obavy
Obavy zo sexuálneho vykorisťovania detí na internete sa zvýšili aj v dôsledku viacerých ďalších faktorov. Pedofili teraz používajú špeciálne prehliadače na zapojenie sa do fór a zdieľanie návodov krok za krokom, ako ľahko vytvoriť nové nezákonné materiály. Buď takto vzniknú obrázky, ktoré sa potom zdieľajú, alebo sa zakladajú falošné online osobnosti, slúžiace na konverzáciu s deťmi a získavanie si ich dôveru.
Väčšina programov umelej inteligencie, ako napríklad Stable Diffusion, Midjourney a DALL-E, má obmedzenia týkajúce sa toho, na aké podnety bude systém reagovať. Litwin však vyhlásil, že zločinci začínajú využívať algoritmy s otvoreným zdrojovým kódom dostupné na dark webe. Viac na zdroji: hlavnespravy.sk
