Учёные создали ПО для запуска больших ИИ моделей на обычных компьютерах

По словам исследователей Готье Ворона, Джовани Ризка и Рашида Геррауи, обработка «логического вывода» (на неё уходит 80–90% мощности ИИ) теперь может распределяться между четырьмя обычными компьютерами.

Система обеспечивает стабильность и точность работы моделей, таких как ChatGPT, и сохраняет конфиденциальность данных. Установка занимает около 30 минут, пользователи и организации сохраняют контроль над своими данными, уменьшается нагрузка на центры обработки данных и инфраструктуру, использующую воду, энергию и редкие элементы.

По словам Геррауи, локальные сети позволяют использовать масштабируемые модели, обрабатывающие сотни миллиардов параметров, чего нельзя достичь на мобильных устройствах через Google AI Edge или отдельные компьютеры. Anyway Systems сочетает доступность, надёжность и экологичность, обеспечивая альтернативу центрам обработки данных ИИ.