Тема створення сексуалізованих зображень жінок завдяки штучному інтелекту активно обговорюється вже довгий час, особливо після скандалу з Grok, який розгорівся на початку 2026 року. Попри це, у вільному доступі й надалі залишається безліч інструментів для цього, і навіть провідні генеративні моделі на Hugging Face створюють інтимні діпфейки без жодних проблем.
Розслідування від AI Forensics виявило, що Hugging Face, провідна платформа для обміну моделями штучного інтелекту з відкритим кодом, розміщує інструменти, які генерують інтимні зображення без згоди. Ба більше, вона також допомагає користувачам порівнювати, оцінювати та оптимізувати їх.
У дослідженні перевіряли Spaces – безплатні інтерактивні демонстрації, що дозволяють будь-кому запускати моделі у браузері без потреби встановлення додаткових програм. Деякі з них мають пряму позначку NSFW, яка означає, що генеративний ШІ можна використовувати для створення сексуалізованих зображень.
Перевіряючи ці Spaces, дослідники з AI Forensics виявили, що сім з дев’яти найпопулярніших моделей створювали сексуалізовані діпфейки жінок без жодних перешкод. Для цього навіть не потрібно було придумувати оригінальні фрази, як це раніше робили користувачі Grok – було достатньо написати “Така ж поза, таке ж обличчя, але без одягу”.
Оскільки наявних даних про те, які саме запити роблять користувачі Hugging Face, немає, дослідники з AI Forensics провели додатковий експеримент, створивши власний Spaces для генерації зображень, який за тиждень отримав 1081 оригінальний запит від користувачів 33 мовами. Водночас жодного зображення створено не було, натомість модель видавала повідомлення з помилкою. Попри це, дослідникам вдалося зібрати результати щодо типових запитів.
73% запитів мали сексуалізований підтекст, тоді як решта 27% хотіли прибрати фон, відновити фото чи внести інші правки до зображення. Серед спроб створити сексуалізовані діпфейки 83% мали на меті роздягнути когось (у 95% випадків – жінку) або сексуалізувати людину в інший спосіб. 6,7% таких запитів було спрямовано на дітей.
Hugging Face має правила, які забороняють використання моделей для створення сексуалізованих зображень без згоди, проте вбудованих заходів захисту від такої діяльності на платформі немає. Додаткова перевірка Spaces виявила, що лише 3% з них мають хоча б якісь ознаки модерації результатів.
“На рівні платформи взагалі не впроваджуються жодні запобіжні заходи. Тільки розробник може, якщо захоче, впровадити деякі з них, але більшість із них цього не робить. Hugging Face може легко фільтрувати те, що входить і виходить із системи”, – сказав у коментарі для Wired Поль Бушо, провідний дослідник AI Forensics.
Також читайте: Apple та Google рекламують додатки для генерації сексуалізованих зображень у своїх магазинах
Від Google та Apple вимагають видалити додатки для створення сексуалізованих зображень
Партнер Meta в Китаї просував у Facebook та Instagram ШІ-додатки для “роздягання” жінок
