І це зростання загрозливе.
За даними американського Національного центру зниклих і експлуатованих дітей (NCMEC), сексуальна експлуатація дітей в інтернеті не лише збільшується, а ще й набуває нових форм, зокрема, через відео та зображення, згенеровані ШІ. 2023 року, як порівняти з 2022-м, повідомлення до NCMEC про жорстоке поводження з дітьми в інтернеті зросли більш ніж на 12 %, до 36,2 млн. Здебільшого вони стосувалися поширення матеріалів сексуального насильства над дітьми (CSAM), як-от фото чи відео. Почастішали випадки, коли дитину заохочують надсилати власні оголені знімки чи відео, а потім шантажують, вимагаючи грошей. Поширення матеріалів із сексуальної експлуатації дітей, згенерованих ШІ, Центр почав відстежувати лише 2023 року, і вже отримав про це 4,7 тис повідомлень.
NCMEC глибоко стурбований зростанням цієї тенденції, і наголошує, що злочинці можуть використовувати ШІ для створення порнографічних діпфейків на основі будь-якого фото реальної дитини, або створювати CSAM зі згенерованими ШІ учасниками, залученими до графічних сексуальних актів. Для дітей, чиї обличчя використовують у діпфейках, і їхніх сімей це нищівне
2023 року NCMEC отримав понад 35,9 млн повідомлень про випадки ймовірного сексуального насильства над дітьми, та матеріалів щодо нього, понад 90% завантажено поза межами США. 63,8 тис. були терміновими, і стосувалися дитини, яка перебувала в небезпеці. Найбільше скарг надіслала платформа Facebook — 17,8 млн, Instagram – 11,4 млн, Google – 1,47 млн, а Х та TikTok відповідно 597 тис. і 590 тис.
