Уязвимость в поисковой системе ChatGPT позволяет манипулировать результатами

С помощью скрытого текста можно обмануть ИИ, заставив его генерировать ложные, исключительно положительные сводки, игнорируя негативные отзывы. Такой подход позволяет манипулировать результатами поиска, включая генерацию вредоносного кода.

Атаки с использованием скрытого текста представляют собой известную угрозу для языковых моделей, однако это первый случай, когда такие методы продемонстрированы в реальной поисковой системе. В отличие от OpenAI, Google имеет больше опыта в решении подобных проблем.

В компании OpenAI заявили, что активно развивают защиту от вредоносных сайтов, но не стали комментировать этот инцидент.

Ранее издание involta.media опубликовало статью о том, что DeepSeek V3 обманывает тесты, утверждая, что она — это GPT-4.