Корпорация Zoho объявила о своих планах использовать платформу NVIDIA для ускоренных вычислений с использованием искусственного интеллекта, включая NVIDIA NeMo, для разработки и реализации больших языковых моделей (LLM) в своих приложениях «Программное обеспечение как услуга» (SaaS). Об этой разработке было объявлено на саммите NVIDIA AI Summit в Мумбаи 24 октября 2024 года. Программы LLM будут доступны обширной клиентской базе Zoho, насчитывающей более 700 000 человек на ManageEngine и Zoho.com по всему миру. Zoho уже инвестировала более 10 миллионов долларов США в технологии искусственного интеллекта и графические процессоры NVIDIA и намерена инвестировать еще 10 миллионов долларов США в следующем году.
Рампракаш Рамамурти, директор по искусственному интеллекту Zoho Corporation, подчеркнул стремление компании создавать программы LLM, специально адаптированные для различных бизнес-приложений. Он заявил, что многие существующие LLM ориентированы на потребителя и не имеют полезности для бизнеса. Подход Zoho использует свой комплексный набор технологий для интеграции контекста в ИИ, повышая его эффективность. Компания уделяет особое внимание конфиденциальности пользователей, с самого начала обеспечивая соответствие своих моделей правилам конфиденциальности, стремясь к быстрой и эффективной окупаемости инвестиций для бизнеса благодаря программному обеспечению искусственного интеллекта NVIDIA и ускоренным вычислениям.
Zoho уже более десяти лет интегрирует ИИ в свой разнообразный ассортимент, насчитывающий более 100 продуктов в подразделениях ManageEngine и Zoho. Компания применяет мультимодальную стратегию искусственного интеллекта для получения контекстной информации, помогая пользователям принимать обоснованные бизнес-решения. Zoho разрабатывает узкие, малые и средние языковые модели, отличные от LLM, для решения различных вариантов использования. Эти модели предлагают предприятиям гибкость в выборе решений искусственного интеллекта, которые соответствуют их потребностям, обеспечивая баланс между производительностью и экономической эффективностью. Конфиденциальность остается основным приоритетом, и модели LLM Zoho не будут обучаться на данных клиентов.
Вишал Дхупар, управляющий директор подразделения NVIDIA в Южной Азии, прокомментировал сотрудничество, заявив, что использование Zoho программного обеспечения искусственного интеллекта NVIDIA и платформы ускоренных вычислений позволяет создавать широкий спектр моделей для удовлетворения разнообразных бизнес-требований. Zoho совершенствует свои программы LLM на платформе NVIDIA, используя графические процессоры NVIDIA Hopper и комплексную платформу NVIDIA NeMo для разработки собственных генеративных ИИ. Компания также тестирует NVIDIA TensorRT-LLM, чтобы оптимизировать свои LLM для развертывания, добившись увеличения пропускной способности на 60% и снижения задержки на 35% по сравнению с предыдущими платформами с открытым исходным кодом. Кроме того, Zoho ускоряет такие рабочие нагрузки, как преобразование речи в текст, в инфраструктуре NVIDIA.
