xAI устраняет пробелы в защите после публикации недопустимого контента

Контент нарушал правила платформы и был частично удалён после обнаружения. Представители Grok заявили, что публикация произошла из‑за пробелов в системах защиты и ведётся работа по их устранению.

Во Франции власти сообщили о публикациях прокурорам и медиарегулятору, подчеркнув их явную незаконность. Распространение подобного контента нарушает законы о защите детей в Европе и США. Инцидент показывает, что даже с фильтрами и правилами генеративные модели могут создавать недопустимый материал, особенно когда пользователи обходят ограничения.

xAI сообщила, что выявила проблемы в модерации и исправляет их. Компания отметила, что сексуальные изображения детей запрещены законом и платформой.