Чат-боты с ИИ используют генерирование ссылок громких новостей

Данная проблема в работе с ИИ была рассмотрена редактором Engadget Пранавом Ксикситом. За основу изучения этого вопроса он взял исследование Nieman Lab. Оно продемонстрировало, что при наличии соглашений издательств с разработчиками, ChatGPT генерировал информацию из более громких статей, но при этом создавая свой URL-адрес источника.

Эксперимент Niemand Lab показал, что при запросе показа ссылки на источник оригинальной и громкой статьи, ИИ игнорирует соглашения со многими крупными издательствами и генерирует ссылки, которые выдают пустую страницу с ошибкой 404.

Ксиксит считает, что полагаться на точность фактов написанных ИИ не стоит, поскольку на данный момент он не справляется даже с базовыми задачами, такими как предоставление правильной ссылки.

Источник: Ferra.ru