Cloudera запускает сервис AI Inference на базе NVIDIA для масштабного развертывания моделей ИИ. Cloudera launches NVIDIA-powered AI Inference service for large-scale AI model deployment.

Cloudera запустила свою службу AI Pherence, которая работает на микроуслугах NVIDIA, чтобы повысить эффективность внедрения и управления крупномасштабными моделями AI. Cloudera has launched its AI Inference service, powered by NVIDIA's NIM microservices, to enhance the deployment and management of large-scale AI models. Эта служба призвана содействовать переходу от экспериментального производства к полномасштабному производству, обеспечивая более высокую производительность, надежную безопасность и масштабируемость. This service aims to facilitate the transition of Generative AI from pilot to full production, offering improved performance, robust security, and scalability. Она поддерживает различные приложения АИ, включая МЛМ, и обеспечивает возможности для гибридного разведения облаков, мониторинга в реальном масштабе времени и обеспечения безопасности предприятий. It supports various AI applications, including LLMs, and provides features for hybrid cloud deployment, real-time monitoring, and enterprise-grade security.

October 08, 2024

21 Статьи