Соціальна мережа X (колишній Twitter) запровадила обмеження для нейромережі Grok, які унеможливлюють створення та редагування відвертих зображень реальних людей. Рішення ухвалене на тлі зростаючої критики з боку регуляторів і правозахисних органів у різних країнах.
У заяві компанії зазначається, що було впроваджено додаткові технологічні запобіжники, які блокують редагування зображень реальних осіб у сексуалізованому вигляді, зокрема в купальниках або іншому відвертому одязі, через обліковий запис Grok. Обмеження стосуються всіх користувачів платформи, незалежно від типу підписки.
Окрім цього, X переглянула доступ до функцій генерації зображень загалом. Відтепер створення та редагування будь-яких зображень у Grok доступне лише для платних користувачів. Також компанія повідомила, що функції, пов’язані зі створенням відвертого контенту, будуть повністю заблоковані в юрисдикціях, де це суперечить місцевому законодавству.
Причиною таких кроків стали резонансні інциденти, пов’язані зі створенням інтимних дипфейків. Раніше влада Малайзії та Індонезії вже заблокувала Grok через поширення зображень сексуального характеру, створених за допомогою нейромережі. У Великій Британії регулятори також публічно заявляли про можливість застосування обмежувальних заходів проти сервісу.
Ситуація набула ще більшої уваги після того, як генеральний прокурор Каліфорнії Роб Бонта ініціював офіційне розслідування. За даними прокуратури, понад половина з приблизно 20 тисяч зображень, створених xAI у період між Різдвом і Новим роком, зображували людей з мінімальною кількістю одягу. У деяких випадках, за попередніми оцінками, на зображеннях могли бути неповнолітні, що значно підвищило серйозність претензій до платформи.
Експерти зазначають, що ця ситуація вкотре підкреслює проблему контролю генеративних моделей, особливо в частині створення візуального контенту з використанням образів реальних людей. Для X та xAI нинішні обмеження можуть стати лише першим кроком до більш жорсткого регулювання роботи Grok як з боку компанії, так і з боку державних органів у різних країнах.