USD
103.43
-0.52
EUR
109.01
-1.47
Категория: AI и робототехникаAI и робототехника
25 ноября 2024 г. в 19:27

Новый инструмент DeepMind объясняет, как ИИ принимает решения

Новый инструмент DeepMind объясняет, как ИИ принимает решения
www.unite.ai
Компания DeepMind разработала инструмент Gemma Scope, который помогает объяснить, как большие языковые модели обрабатывают информацию и принимают решения.
Gemma Scope анализирует активации нейронных сетей, упрощая сложные процессы и выделяя ключевые сигналы. Для этого инструмент использует разреженные автокодировщики. Это помогает исследователям отслеживать, как ИИ понимает данные и на чём фокусируется при выполнении задач.
Одной из важных функций Gemma Scope является фильтрация ненужных сигналов с помощью активации JumpReLU, что позволяет выделить важные детали, такие как ключевые слова в предложении. Инструмент может быть использован для тестирования и отладки моделей ИИ, а также для выявления предвзятости и улучшения их безопасности. Он доступен для исследователей через платформу Hugging Face.
Ранее издание involta.media опубликовало статью о том, что китайский стартап разработал гаджет для автоматической проверки качества мочи.
0 комментариев