Геологи обеспокоены цензурой в китайском чат-боте GeoGPT

Чат-бот GeoGPT предназначен для ученых-геологов и исследователей, особенно на юге планеты, чтобы помочь им развить свое понимание наук о Земле, опираясь на массивы данных и исследования миллиардов лет истории планеты.

Это инициатива Deep-time Digital Earth (DDE), программы, в основном финансируемой Китаем, основанной в 2019 году для расширения международного научного сотрудничества и помощи странам в реализации целей ООН в области устойчивого развития.

Одной из частей чат-бота является Qwen, созданная китайской компанией Alibaba. Однако ученые высказали опасения относительно потенциальных проблем с безопасностью и цензурой, особенно в связи с ответами, получаемыми от бота на вопросы, касающиеся науки.

Тестирование чат-бота проводил ученый Пол Клеверли, который отметил наличие некоторых проблем с GeoGPT, указав на возможность цензуры и нарушения авторских прав. Однако команда DDE утверждает, что они используют Llama и не обнаружили признаков цензуры, продолжая работать над устранением проблем.

Некоторые ученые, такие как Дэвид Джайлс, выражают сомнения относительно того, что система, основанная на геологии и физике, может быть полностью свободной от пристрастий. Отмечается, что ответы бота на вопросы о науке могут отражать определенную точку зрения.

В свете этого остается важным проведение открытых исследований, особенно учитывая возможную предвзятость китайскоязычных моделей, о чем заявил профессор Мохаммад Хок. Он обратил внимание на важность прозрачности и обращения к разнообразным данным при развитии подобных технологий.

Чат-бот представляет собой часть более крупного проекта, который, по словам его создателей в DDE, может быть полезным для поиска и экономии энергии и ресурсов по всему миру. Однако разногласия по поводу независимости и прозрачности системы вызывают живой интерес ученых и общественности.

Источник: The Guardian.