ChatGPT показал галлюцинации при выдаче медицинских советов пациентам

Один из пациентов принес распечатку диалога, где утверждалось, что назначаемое лекарство повышает риск тромбоэмболии лёгочной артерии на 45%. Исследование показало, что данные относились к небольшой группе больных туберкулёзом, не имеющих отношения к конкретному пациенту.

В то же время доктор Бари позитивно восприняла запуск ChatGPT Health — чат-бота для медицины, который будет работать в приватной среде и не использует данные пользователей для обучения модели. Сервис позволяет синхронизировать данные с Apple Health и MyFitnessPal, получать персонализированные рекомендации и использовать очные консультации как дополнение к традиционной медицине.

Эксперты отмечают, что ИИ сталкивается с проблемой галлюцинаций, особенно в здравоохранении, и GPT-5 склонен к ним больше, чем аналоги от Google и Anthropic. Однако врачи видят потенциал в автоматизации административных задач: сокращение времени на обработку электронных карт позволяет принимать больше пациентов и снижает необходимость полагаться на чат-боты.