Подтверждена совместимость и оптимизированы конфигурации серверов Yadro для задач инференса и обучения моделей в составе машины искусственного интеллекта Скала^р МИИ.

Группа Rubytech и компания Yadro (входит в ИКС Холдинг) завершили валидацию серверной ИИ-платформы Yadro G4208P G3 в составе Машины искусственного интеллекта Скала^р МИИ. По результатам тестирования была подтверждена совместимость аппаратной и программной архитектуры с требованиями промышленной эксплуатации. Испытания также позволили определить оптимальные варианты конфигурирования серверных платформ Yadro для сценариев инференса и обучения больших языковых моделей в составе Скала^р МИИ.

Комплексное тестирование проводилось командой Скала^р на базе аппаратной платформы Yadro. Специалисты провели нагрузочные испытания и оценили производительность при различных характеристиках параллельных запросов, объемах токенов и иных параметрах. Тестирование охватывало как GPU-карты NVIDIA, так и китайские GPU-ускорители, которые в составе платформ Yadro показали результаты на уровне мировых аналогов, а в ряде конфигураций превзошли показатели отдельных азиатских платформ.

Ключевым результатом стало формирование оптимизированных NUMA-компоновок в соотношении GPU/NIC для ИИ-серверов Yadro в составе Машины искусственного интеллекта Скала^р, учитывающих полный стек инфраструктуры: серверы, сетевые коммутаторы и системы хранения данных. Такой подход позволяет существенно увеличить пропускную способность межсерверного взаимодействия и скорость генерации токенов — как внутри узла, так и при горизонтальном масштабировании кластера по сети, — а также минимизировать потери производительности при наращивании вычислительных мощностей. Учитывая высокую стоимость GPU-ресурсов, сокращение потерь производительности ускорителей на 10–20% и более — достигаемое как на аппаратном уровне, так и средствами ПО управления Машиной искусственного интеллекта Скала^р Спектр ИИ — дает заказчику ощутимый экономический эффект.

Компетенции и глубокая экспертиза группы Rubytech в построении высоконагруженной ИТ-инфраструктуры на уровне серверов, коммутаторов и хранилищ позволили выявить оптимальные конфигурации размещения GPU, сетевых карт и процессоров при использовании серверных платформ Yadro в составе Скала^р МИИ. Разработанные компоновки уже подтверждены совместно с Yadro и готовы к применению в промышленных инсталляциях. Работа продолжается: стороны совершенствуют архитектурные решения для новых сценариев эксплуатации.

В ходе валидации также была подтверждена гибкость архитектуры ИИ-серверов Yadro: узлы допускают конфигурирование и переоснащение под разные задачи. Программное обеспечение Скала^р МИИ, управляющее жизненным циклом ПАК, продемонстрировало полную совместимость с аппаратной платформой. По результатам тестирования система обеспечила время отклика LLM в пределах пяти секунд при стабильной работе вычислительных, сетевых и дисковых подсистем под максимальной нагрузкой.

Ключевым выводом валидации стало подтверждение того, что архитектура Скала^р МИИ с ИИ-сервером Yadro G4208P G3 в качестве вычислительной платформы обеспечивает согласованную работу технологического стека — от серверов и вычислителей через сеть хранения данных до уровня операционной системы, контейнерной инфраструктуры, языковых моделей, агентов, ассистентов и инструментов для специалистов по данным.

«Мы давно работаем с серверами Yadro и хорошо знаем их возможности. Теперь, опираясь на глубокое понимание того, как строится правильная инфраструктура — на уровне серверов, коммутаторов и систем хранения, — мы валидировали наиболее оптимальные конфигурации серверных платформ Yadro под задачи инференса и обучения в составе Скала^р МИИ. Это позволяет нашим заказчикам получить максимальную отдачу от GPU-ресурсов и снизить потери при масштабировании кластеров», — отмечает Антон Юдин, руководитель продуктового направления «Инфраструктура ИИ Скала^р» группы Rubytech.

«Формирование национальной инфраструктуры искусственного интеллекта — это не задача одной компании, а результат консолидации инженерных компетенций. Наша совместная работа со Скала^р показывает, что в России появляется зрелая технологическая база, на которой можно реализовывать масштабные внедрения ИИ-систем для корпоративных и государственных заказчиков», — комментирует Павел Егоров, директор по продуктам Yadro.

Решения Yadro и продукты Скала^р от группы Rubytech включены в Единый реестр радиоэлектронной продукции Минпромторга России. Их интеграция становится важным шагом в укреплении технологической независимости и развитии отечественных решений для искусственного интеллекта.