Red Hat выпустила дистрибутив Red Hat Enterprise Linux AI
В составе RHEL AI содержится набор инструментов и фреймворков для машинного обучения, а также драйверы для работы с аппаратными ускорителями от AMD, Intel и Nvidia. Этот дистрибутив включает все необходимое для полноценного использования серверов Dell, Cisco, HPE, Lenovo и SuperMicro, оптимизированных для ИИ-систем. Распространение RHEL AI осуществляется через Red Hat Customer Portal в версиях для непосредственной установки на серверы и развертывания в облачных системах AWS и IBM Cloud.
Создатели проекта отмечают, что платформа RHEL AI подходит для разработки корпоративных ИИ-приложений, внедрения сервисов генерации контента, создания диалоговых систем и интеграции виртуальных ассистентов, обладающих навыками ответов на вопросы на естественном языке, решения математических задач, генерации осмысленного текста на заданную тему, создания краткого изложения содержимого, исправления ошибок в тексте, рерайтинга, помощи в написании кода на разных языках программирования, создания электронных писем и рабочих документов по шаблонам.
RHEL AI включает компоненты для создания, тестирования и выполнения систем машинного обучения на основе большой языковой модели Granite, разработанной компанией IBM и опубликованной под лицензией Apache 2.0. Эта модель способна обрабатывать до 4 тысяч токенов и охватывает 7 миллиардов параметров. Для взаимодействия с моделью Granite в дистрибутиве интегрирован открытый инструмент InstructLab, поддерживающий методологию LAB (Large-scale Alignment for chatBots) для адаптации моделей под конкретные задачи и их оптимизации, а также для добавления дополнительных знаний и реализации новых навыков в предварительно обученных моделях.
