Интеллект из коробки: кто и как помогает бизнесу применять ИИ-модели в работе

В секторе ИИ-технологий российской IT-отрасли формируется новый сегмент -- Inference-as-a-service («инференс как услуга»), то есть применение обученной модели к новым данным для получения предсказаний или выводов. Такой сервис выводит на рынок провайдер облачных и AI-технологий Cloud.ru, подобную услугу уже предоставляет «Яндекс», функционал инференса больших языковых моделей (LLM) в облаке реализован и на платформе МТС. По мнению аналитиков, Inference-as-a-service будет широко востребован бизнесом, который с его помощью сможет тестировать разные версии моделей, выбирать оптимальную и дообучать ее под свои задачи. Согласно экспертным оценкам, российский рынок облачных сервисов для вычислений с использованием графических процессоров (GPU) в России в 2024 году мог вырасти на 55% и превысить 17 млрд рублей