Nvidia запускает программное обеспечение для борьбы с "галлюцинациями" искусственного интеллекта

Это не новая проблема. Практики искусственного интеллекта называют это "галлюцинацией". Проще говоря, это ситуация, когда инструменты искусственного интеллекта, которые были обучены на больших наборах данных, выдают результаты, которые не являются реальными и не соответствуют данным, на которых они были обучены. "Галлюцинирующий" инструмент искусственного интеллекта может, например, создавать ложные новостные репортажи или выдавать полностью сфабрикованный рассказ об историческом событии или человеке.

Стремясь бороться с этой проблемой, Nvidia, крупная техническая фирма, занимающаяся аппаратным и программным обеспечением для искусственного интеллекта, разработала программное обеспечение с открытым исходным кодом, которое поможет гарантировать, что инструменты искусственного интеллекта, работающие на больших языковых моделях (LLM), такие как ChatGPT от OpenAI, остаются на ходу.

Программное обеспечение под названием NeMo Guardrails может свести к минимуму галлюцинации, добавив ограждения, чтобы системы LLM не выдавали неточную информацию.

Как следует из названия, NeMo Guardrails подобен охраннику, стоящему между пользователем и большим инструментом на базе языковой модели, скажем, чат-ботом с искусственным интеллектом. NeMo позволяет разработчикам программного обеспечения направлять чат-ботов, добавляя правила с несколькими строками кода о том, как взаимодействовать и, что более важно, как не реагировать на пользователя.

Инструмент позволяет написать сценарий, в котором говорится, что если кто-то заговорит на эту тему, несмотря ни на что, ответ должен быть определенным.

Nvidia уже является одним из ведущих игроков в области искусственного интеллекта, а ее чипы A100 и H100 AI делают ее ведущим игроком на рынке графических процессоров. NeMo является частью расширения NVIDIA в области искусственного интеллекта и продвигает существующее программное обеспечение компании для искусственного интеллекта.