USD
87.74
-0.25
EUR
95.76
+0.08
Категория: Наука и технологииНаука и технологии
24 июня 2024 г. в 21:48

Геологи обеспокоены цензурой в китайском чат-боте GeoGPT

Геологи обеспокоены цензурой в китайском чат-боте GeoGPT
masterfresok.ru
Геологи выразили обеспокоенность по поводу потенциальной китайской цензуры и предвзятости в чат-боте, разрабатываемом при поддержке Международного союза геологических наук (IUGS), одной из крупнейших в мире научных организаций и партнера ЮНЕСКО.
Чат-бот GeoGPT предназначен для ученых-геологов и исследователей, особенно на юге планеты, чтобы помочь им развить свое понимание наук о Земле, опираясь на массивы данных и исследования миллиардов лет истории планеты.
Источник: astrakhan.ldpr.ru
Источник: astrakhan.ldpr.ru
Это инициатива Deep-time Digital Earth (DDE), программы, в основном финансируемой Китаем, основанной в 2019 году для расширения международного научного сотрудничества и помощи странам в реализации целей ООН в области устойчивого развития.
Одной из частей чат-бота является Qwen, созданная китайской компанией Alibaba. Однако ученые высказали опасения относительно потенциальных проблем с безопасностью и цензурой, особенно в связи с ответами, получаемыми от бота на вопросы, касающиеся науки.
Тестирование чат-бота проводил ученый Пол Клеверли, который отметил наличие некоторых проблем с GeoGPT, указав на возможность цензуры и нарушения авторских прав. Однако команда DDE утверждает, что они используют Llama и не обнаружили признаков цензуры, продолжая работать над устранением проблем.
Источник: imghub.ru
Источник: imghub.ru
Некоторые ученые, такие как Дэвид Джайлс, выражают сомнения относительно того, что система, основанная на геологии и физике, может быть полностью свободной от пристрастий. Отмечается, что ответы бота на вопросы о науке могут отражать определенную точку зрения.
В свете этого остается важным проведение открытых исследований, особенно учитывая возможную предвзятость китайскоязычных моделей, о чем заявил профессор Мохаммад Хок. Он обратил внимание на важность прозрачности и обращения к разнообразным данным при развитии подобных технологий.
Чат-бот представляет собой часть более крупного проекта, который, по словам его создателей в DDE, может быть полезным для поиска и экономии энергии и ресурсов по всему миру. Однако разногласия по поводу независимости и прозрачности системы вызывают живой интерес ученых и общественности.
Источник: The Guardian.
0 комментариев