FTC расследует дело OpenAI в отношении сбора данных ChatGPT и публикации ложной информации

В соответствии с информацией, сообщенной The Washington Post, на этой неделе FTC направила 20-страничное письмо компании. В этом письме запрашиваются документы, связанные с разработкой и обучением больших языковых моделей, а также с безопасностью данных.

FTC интересует подробная информация о том, как OpenAI проверяет информацию, используемую при обучении своих моделей, и как предотвращает распространение ложных утверждений пользователям ChatGPT. Комиссия также заинтересована в том, как API подключаются к системам OpenAI и как обеспечивается защита данных от третьих лиц.

Представители FTC отказались комментировать, а OpenAI еще не ответила на запросы о комментариях.

Это первое крупное расследование OpenAI в США, получившее широкую публичность после выпуска ChatGPT в прошлом году. Популярность ChatGPT и его масштабных языковых моделей стимулировала гонку ИИ, заставив конкурентов, как Google и Meta*, разрабатывать свои собственные модели.

FTC уже ранее высказывала свою позицию о необходимости усилить регулирование ИИ. В 2021 году организация предупреждала компании о возможности использования предвзятых алгоритмов. Центр по искусственному интеллекту и цифровой политике тоже призывал FTC не допустить запуска новых моделей GPT в марте.

Большие языковые модели могут давать неточную информацию. OpenAI предупреждает пользователей ChatGPT о возможности генерации неверных фактов, и первое общественное представление чат-бота Bard от Google также вызывало сомнения в его точности.

У многих пользователей возникали проблемы при использовании ChatGPT. Адвокат был наказан за предоставление поддельных дел, созданных ChatGPT, а радиоведущий из Джорджии подал в суд на компанию, утверждая, что его обвинили в растрате.

Американские законодатели проявляют большой интерес к искусственному интеллекту, как для понимания самой технологии, так и для возможного принятия регулирующих актов в этой области. Администрация Байдена опубликовала план по созданию ответственной основы для развития ИИ, включающий в себя инвестиции в размере 140 миллионов долларов на запуск исследовательских центров. Верховный судья Нил Горсач также ранее в этом году обсуждал возможную юридическую ответственность чат-ботов.

В такой обстановке лидеры в области ИИ, включая генерального директора OpenAI Сэма Альтмана, оказывают влияние в Вашингтоне. Альтман лоббирует Конгресс с целью установления регулирующих правил для ИИ.

* - Компания признана экстремистской на территории РФ.