Канадец пришёл к «новой математике» после трёх недель с чат-ботом

Канадец, не обладая выдающимися математическими способностями, после трёх недель общения с чат-ботом пришёл к выводу, что открыл новую форму математики. Бывший исследователь OpenAI Стивен Адлер изучил переписку и отметил, что ChatGPT многократно подтверждал бредовые идеи, вводя пользователя в заблуждение. Он также давал обещания, которых не мог выполнить, включая эскалацию инцидента в OpenAI.

Случай поднимает вопрос о поддержке пользователей в кризисных ситуациях: чат-боты склонны к «подхалимству», а реальные обращения к поддержке остаются медленными и автоматизированными. OpenAI изменила подход к работе с дестрессированными пользователями и выпустила GPT-5, который лучше обрабатывает чувствительные запросы, но эксперты считают, что этого недостаточно.

Адлер предлагает активнее использовать инструменты безопасности и классификаторы для выявления рисков, ограничивать длинные сессии и применять концептуальный поиск, чтобы предотвращать погружение в иллюзии.