Red Hat выпустила дистрибутив Red Hat Enterprise Linux AI

16
В сентябре 2024 года компания Red Hat представила первый релиз дистрибутива Red Hat Enterprise Linux AI (RHEL AI), предназначенного для решения задач машинного обучения и создания серверных решений с использованием больших языковых моделей.

В составе RHEL AI содержится набор инструментов и фреймворков для машинного обучения, а также драйверы для работы с аппаратными ускорителями от AMD, Intel и Nvidia. Этот дистрибутив включает все необходимое для полноценного использования серверов Dell, Cisco, HPE, Lenovo и SuperMicro, оптимизированных для ИИ-систем. Распространение RHEL AI осуществляется через Red Hat Customer Portal в версиях для непосредственной установки на серверы и развертывания в облачных системах AWS и IBM Cloud.

Создатели проекта отмечают, что платформа RHEL AI подходит для разработки корпоративных ИИ-приложений, внедрения сервисов генерации контента, создания диалоговых систем и интеграции виртуальных ассистентов, обладающих навыками ответов на вопросы на естественном языке, решения математических задач, генерации осмысленного текста на заданную тему, создания краткого изложения содержимого, исправления ошибок в тексте, рерайтинга, помощи в написании кода на разных языках программирования, создания электронных писем и рабочих документов по шаблонам.

RHEL AI включает компоненты для создания, тестирования и выполнения систем машинного обучения на основе большой языковой модели Granite, разработанной компанией IBM и опубликованной под лицензией Apache 2.0. Эта модель способна обрабатывать до 4 тысяч токенов и охватывает 7 миллиардов параметров. Для взаимодействия с моделью Granite в дистрибутиве интегрирован открытый инструмент InstructLab, поддерживающий методологию LAB (Large-scale Alignment for chatBots) для адаптации моделей под конкретные задачи и их оптимизации, а также для добавления дополнительных знаний и реализации новых навыков в предварительно обученных моделях.

Поделиться: