Новый инструмент DeepMind объясняет, как ИИ принимает решения

Gemma Scope анализирует активации нейронных сетей, упрощая сложные процессы и выделяя ключевые сигналы. Для этого инструмент использует разреженные автокодировщики. Это помогает исследователям отслеживать, как ИИ понимает данные и на чём фокусируется при выполнении задач.

Одной из важных функций Gemma Scope является фильтрация ненужных сигналов с помощью активации JumpReLU, что позволяет выделить важные детали, такие как ключевые слова в предложении. Инструмент может быть использован для тестирования и отладки моделей ИИ, а также для выявления предвзятости и улучшения их безопасности. Он доступен для исследователей через платформу Hugging Face.

Ранее издание involta.media опубликовало статью о том, что китайский стартап разработал гаджет для автоматической проверки качества мочи.