Стартап Giskard борется за качество и этичность искусственного интеллекта

Разработанный для оценки больших языковых моделей, Giskard предлагает открытый исходный код, который помогает разработчикам выявлять риски, связанные с предвзятостью, безопасностью и потенциальным созданием токсичного контента.

Сегодня, когда дискуссии о нормативной базе для искусственного интеллекта становятся все более актуальными, регулирование становится неотъемлемой частью отрасли.

Европейский союз вводит Закон об искусственном интеллекте, требующий от компаний-разработчиков демонстрации соответствия правилам и снижения рисков, иначе им грозят значительные штрафы.

Основная библиотека Python, выпущенная Giskard, уже популярна на GitHub и совместима с экосистемами машинного обучения, включая Hugging Face, MLFlow, PyTorch и другие. После первоначальной настройки, Giskard помогает создать и регулярно использовать набор тестов, охватывающих широкий спектр проблем, от производительности до этических вопросов.

Кроме того, Giskard предлагает AI Quality Hub, который помогает отлаживать модели и сравнивать их с другими. Стартап уже начал сотрудничество с такими компаниями, как Banque de France и L'Oréal, для поиска и устранения ошибок.

Третий продукт, LLMon, представляет собой инструмент мониторинга в режиме реального времени, оценивающий ответы LLM на проблемы, такие как токсичность и проверка фактов, перед отправкой пользователю.

В настоящее время Giskard сотрудничает с компаниями, использующими API и LLM OpenAI, но планирует интеграцию с другими платформами, такими как Hugging Face и Anthropic.

Источник: TechCrunch.