Приховані deepfake-додатки в App Store і Google Play, за розслідуванням сервера WIRED, утворювали мережу з понад 400 пов'язаних доменів і додатків. Вони маскувалися під редактор фотографій домашніх улюбленців, мовний учитель або AI-тренер з фітнесу. Але за певних умов завантажували інтерфейс, який з завантажених фотографій створював сексуальні й насильницькі deepfake-матеріали.
Приховані deepfake-додатки в App Store і Google Play обходили перевірку
Серед сцен були, за даними WIRED, і bedroom rape, і threatening knife, де чоловік приставляє ніж до жіночого горла. Додатки використовували тактику bait-and-switch, тобто приманку й підміну: під час перевірки вони показували нешкідливий контент, але сервер міг активувати приховані функції. Тригером була, наприклад, інсталяція після кліку на рекламу на платформах Meta. Користувачі потім завантажували порнографічні шаблони й купували кредити на генерацію deepfake-матеріалів. Платежі обробляли Apple і Google. Мережа поширювалася через тисячі відеореклам у Facebook та Instagram, деякі містили AI-матеріали із сексуальним насильством над дітьми.
Apple видалила 19 додатків, Meta вжила заходів проти облікових записів
Apple заявила, що під час перевірки додатки відповідали її правилам, але розробники потім змінили вебсайт, з якого завантажується контент, і замінили його порнографією. Після передачі подробиць WIRED Apple видалила 19 додатків. Google, за даними ibtimes.com.au, видалив більшість додатків ще до контакту з WIRED. Meta заявила, що має суворі правила проти так званих nudify-додатків для роздягання людей, і, за даними 9to5mac, вжила заходів проти понад 10 000 рекламних облікових записів. ibtimes.com.au наводить 11 600 облікових записів і 15 000 сторінок.
Хто стояв за мережею
Мережею, за даними WIRED, імовірно керували китайські розробники та гонконгська компанія KeLing Technology Limited. Додатки виходили приблизно рік, іноді десятками на тиждень. AI Forensics помітила операцію на початку вересня; у вересні в Google Play було 27 додатків мережі з понад 350 000 завантажень. Дослідник Paul Bouchaud реконструював код і знайшов список доменів, ключі шифрування та рекламні трекери. firstpost.com вказує на появу доменів наприкінці 2025 року з піком навесні, ibtimes.com.au - натомість на початок вересня. За даними firstpost.com, Meta у 2025 році заборонила KeLing Technology Limited рекламу після невиконання вимоги припинити діяльність. Після контакту з WIRED розробники, ймовірно, видалили публічні зв'язки між компанією та інструментами для deepfake-матеріалів.
Також ми в Telegram