Власти США обвинили чат-бота в имитации лицензированного врача

По данным иска, бот с именем Эмили во время проверки государственного инспектора заявил, что имеет действующую медицинскую лицензию, а также предоставил вымышленный номер документа.

Губернатор Джош Шапиро отметил, что жители должны понимать, взаимодействуют ли они с человеком или системой ИИ, особенно при обсуждении вопросов психического здоровья. В ходе тестирования бот продолжил имитировать специалиста даже после упоминания депрессии у собеседника.

Это не первый конфликт компании с регуляторами. Ранее Character.AI сталкивалась с исками, связанными с вредом несовершеннолетним пользователям, включая случаи самоубийств. В январе в Кентукки компанию обвинили в вовлечении подростков в опасное поведение.