Новая система оркестрации объединит ИИ-агентов в AI21 Labs с LLM внутри Together AI

Разработка с открытым исходным кодом изменила исследования в области искусственного интеллекта, но внедрение в корпоративной среде все еще отстает. Более 75% организаций заявляют о планах расширить использование открытого ИИ, ожидая снижения затрат на внедрение. Однако только 13% рабочих нагрузок ИИ сегодня фактически работают на моделях с открытым исходным кодом. Разрыв реален, и предприятия ощущают его каждый раз при попытке масштабировать системы с открытым исходным кодом.

Партнерство для изменения ситуации

AI21 Labs и Together AI объединяют свои сильные стороны, чтобы сделать открытый ИИ практичным для корпоративного использования. Интеграция сочетает AI21 Maestro, систему оркестрации для создания надежных многошаговых агентов ИИ, с высокопроизводительной платформой моделей с открытым исходным кодом Together AI — включая нативный доступ ко всему семейству Jamba с открытым исходным кодом. Это дает предприятиям унифицированный эффективный способ оценивать, маршрутизировать и внедрять различные модели без перестройки рабочих процессов.

Почему это важно

По мере того как генеративный ИИ переходит от экспериментов к основным бизнес-операциям, выбор моделей становится фундаментальным. Организациям нужна видимость поведения моделей, возможность сравнивать варианты и свобода оптимизации для точности, стоимости или производительности в зависимости от случая использования.

Together AI предоставляет мощную экосистему оптимизированных моделей с открытым исходным кодом. AI21 Maestro обеспечивает уровень оркестрации, который делает эти модели пригодными для использования в критически важных средах.

По словам Випула Вед Пракаша, генерального директора Together AI: «Открытый исходный код — это путь вперед для ИИ как платформы. Мы считаем, что открытые модели демократизируют передовые возможности, делая их доступными для любой организации и предлагая больший контроль и эффективность затрат. Наше сотрудничество с AI21 интегрирует эти модели в корпоративные среды естественным и практичным способом».

Как работает выбор моделей в AI21 Maestro

Чтобы показать, как это работает на практике, вот краткий обзор процесса выбора моделей внутри AI21 Maestro:

В этой демонстрации команды просматривают доступные модели, видят сводки возможностей и назначают их шагам внутри агентских рабочих процессов. Они могут использовать модель Jamba, переключиться на открытую языковую модель от Together AI или комбинировать несколько моделей в зависимости от задачи. Все это происходит без переписывания конвейеров или перепроектирования инфраструктуры.

Гнеральный директор Ори Гошен сказал: «Maestro был создан для интеллектуальной оркестрации моделей независимо от их происхождения. Интегрируя экосистему открытого исходного кода Together AI, мы позволяем предприятиям агрегировать интеллект разнообразного портфеля открытых моделей — обеспечивая настоящий выбор моделей, полную прозрачность и строительные блоки для надежного внедрения агентских систем».

Новая открытая архитектура для предприятий

За последний год предприятия четко дали понять: им нужны системы ИИ, которые можно проверять, контролировать и адаптировать с уверенностью. Эта интеграция предоставляет именно это.

• Together AI предоставляет гибкую высокопроизводительную экосистему моделей с открытым исходным кодом.
• AI21 Maestro внедряет эти модели с оркестрацией, управлением и надежным выполнением сложных рабочих процессов.
• Семейство Jamba с открытым исходным кодом добавляет эффективное рассуждение с длинным контекстом, созданное для задач корпоративного масштаба.

С этим партнерством предприятия больше не сталкиваются с выбором между открытостью и операционной строгостью. Они получают прозрачность и контроль открытых моделей вместе с надежностью и управлением, необходимыми для продакшена.

Наконец-то кто-то решил проблему, которую все видели, но не решались трогать: разрыв между обещаниями открытого ИИ и реальностью его внедрения. Интересно, смогут ли они действительно преодолеть этот 13-процентный барьер или это просто очередное маркетинговое «решение», которое на деле окажется очередным слоем абстракции поверх уже существующих проблем. Впрочем, сама попытка заслуживает уважения — рынку нужны именно такие интеграции, которые упрощают жизнь разработчикам, а не усложняют ее.

По материалам AI21.