OpenAI смягчает запрет на использование своих ИИ в военных целях

До 10 января текущего года, OpenAI ясно запрещала использование своих технологий в деятельности, связанной с высоким риском физического вреда, включая разработку оружия и военные действия. Тем не менее, новые изменения в политике удалили этот четко сформулированный запрет, оставив только общий запрет на использование услуг "во вред себе или другим."

Представитель OpenAI, Нико Феликс, отметил, что компания стремится сделать свою политику более понятной и читаемой, создавая универсальные принципы. Новая политика поддерживает принцип "Не причиняй вреда другим", хотя эксперты указывают на неясность и потенциальные риски, связанные с использованием технологий в военных операциях.

Хейди Клааф, технический директор компании Trail of Bits и эксперт по кибербезопасности, заметила, что новая политика кажется уделяющей больше внимания законности, чем безопасности. Она подчеркнула, что разработка оружия и военные действия могут быть разрешены в различной степени законности, и риски для безопасности искусственного интеллекта остаются значительными.

Неясны реальные последствия этих изменений в политике. OpenAI отказывается комментировать, соблюдает ли она свой собственный запрет на военные разработки перед растущим интересом со стороны Пентагона и разведывательного сообщества США.

Эксперты отмечают, что партнерство OpenAI с Microsoft, крупным оборонным подрядчиком, может быть связано с ослаблением политики против ведения бизнеса с военными. Это партнерство поднимает вопросы о влиянии оборонных интересов на развитие и использование технологий искусственного интеллекта.