USD
96.07
-1.17
EUR
105.11
-1.40
Категория: ЦифровизацияЦифровизация
13 июля 2023 г. в 23:10

FTC расследует дело OpenAI в отношении сбора данных ChatGPT и публикации ложной информации

FTC расследует дело OpenAI в отношении сбора данных ChatGPT и публикации ложной информации
trmzk.ru
Федеральная торговая комиссия (FTC) проводит расследование в отношении создателя ChatGPT - компании OpenAI. Предполагается, что их действия могут нанести вред потребителям путем сбора данных и распространения ложной информации.
В соответствии с информацией, сообщенной The Washington Post, на этой неделе FTC направила 20-страничное письмо компании. В этом письме запрашиваются документы, связанные с разработкой и обучением больших языковых моделей, а также с безопасностью данных.
FTC интересует подробная информация о том, как OpenAI проверяет информацию, используемую при обучении своих моделей, и как предотвращает распространение ложных утверждений пользователям ChatGPT. Комиссия также заинтересована в том, как API подключаются к системам OpenAI и как обеспечивается защита данных от третьих лиц.
Представители FTC отказались комментировать, а OpenAI еще не ответила на запросы о комментариях.
Это первое крупное расследование OpenAI в США, получившее широкую публичность после выпуска ChatGPT в прошлом году. Популярность ChatGPT и его масштабных языковых моделей стимулировала гонку ИИ, заставив конкурентов, как Google и Meta*, разрабатывать свои собственные модели.
FTC уже ранее высказывала свою позицию о необходимости усилить регулирование ИИ. В 2021 году организация предупреждала компании о возможности использования предвзятых алгоритмов. Центр по искусственному интеллекту и цифровой политике тоже призывал FTC не допустить запуска новых моделей GPT в марте.
Большие языковые модели могут давать неточную информацию. OpenAI предупреждает пользователей ChatGPT о возможности генерации неверных фактов, и первое общественное представление чат-бота Bard от Google также вызывало сомнения в его точности.
У многих пользователей возникали проблемы при использовании ChatGPT. Адвокат был наказан за предоставление поддельных дел, созданных ChatGPT, а радиоведущий из Джорджии подал в суд на компанию, утверждая, что его обвинили в растрате.
Американские законодатели проявляют большой интерес к искусственному интеллекту, как для понимания самой технологии, так и для возможного принятия регулирующих актов в этой области. Администрация Байдена опубликовала план по созданию ответственной основы для развития ИИ, включающий в себя инвестиции в размере 140 миллионов долларов на запуск исследовательских центров. Верховный судья Нил Горсач также ранее в этом году обсуждал возможную юридическую ответственность чат-ботов.
В такой обстановке лидеры в области ИИ, включая генерального директора OpenAI Сэма Альтмана, оказывают влияние в Вашингтоне. Альтман лоббирует Конгресс с целью установления регулирующих правил для ИИ.
* - Компания признана экстремистской на территории РФ.
0 комментариев