OpenAI обновила политику безопасности для общения ИИ с подростками

Меры направлены на снижение рисков на фоне растущей критики из за случаев самоубийств подростков после длительного общения с чатботами. В обновленном Model Spec закреплен запрет на поощрение самоповреждения, романтические ролевые игры с несовершеннолетними и любой сексуальный контент. Ограничения действуют даже при «гипотетических» и «обучающих» запросах.

OpenAI также готовит систему автоматического определения возраста и усиленные защитные режимы. Компания заявила о переходе к проверке контента в реальном времени и возможности вмешательства людей при признаках острого риска. Эксперты приветствуют прозрачность, но сомневаются, что правила будут стабильно соблюдаться на практике.