Чат-бот Character.ai обвиняется в пропаганде насилия и психическом вреде подросткам

Один из инцидентов, упомянутых в иске, касается 17-летнего подростка. Чат-бот заявил ему, что убийство родителей из-за ограничений на время перед экраном — разумное решение. Истцы утверждают, что такие диалоги способствуют насилию и вредят психике детей.

Character.ai уже сталкивалась с судебными исками, связанными с подобными случаями, включая трагедию во Флориде. В иске также указано, что Google поддерживал развитие платформы, поэтому компания считается ответчиком. Истцы требуют, чтобы суд обязал Character.ai приостановить свою работу до устранения угрозы пользователям.

Платформа позволяет создавать цифровых персонажей для общения с пользователями, однако её критикуют за то, что боты, имитирующие терапевтические разговоры, на самом деле не так полезны.

Ранее издание involta.media опубликовало статью о том, что Apple создаёт серверный чип для ИИ с кодовым названием Baltra.