Infraestructura de IA
Ejecute más rápidamente las cargas de trabajo de IA más exigentes, incluidas la IA generativa, la visión informática y el análisis predictivo, en cualquier lugar de nuestra nube distribuida. Obtén los recursos informáticos de GPU más recientes, escalando hasta el Oracle Cloud Infrastructure (OCI) Supercluster de 32.768 GPU.
¿Por qué ejecutar en la infraestructura de IA de OCI?
Desempeño y valor de IA líderes
La infraestructura de IA de OCI ofrece desempeño y valor de nivel más alto para todas las cargas de trabajo de IA, incluidas las inferencias, el entrenamiento y los asistentes de IA.
Amplí hasta 32 768 GPU
Solo OCI Supercluster ofrece una escala líder del sector con recursos informáticos con hardware dedicado para que puedas acelerar la formación de modelos de IA de billones de parámetros.
Activar IA soberana
La nube distribuida de Oracle te permite implementar infraestructura de IA en cualquier lugar para cumplir con los requisitos de desempeño, seguridad y soberanía de IA.
Productos de infraestructura de IA
Tanto si buscas realizar inferencias, ajustar o entrenar modelos de gran escala para IA generativa, OCI ofrece opciones de clústeres de GPU de máquina virtual y hardware dedicado líderes del sector con tecnología de una red de ancho de banda ultraalto y almacenamiento de alto rendimiento para satisfacer tus necesidades de IA.
-
Instancias de GPU
Los recursos informáticos de máquina virtual y con hardware dedicado con GPU NVIDIA A10, GH200* y GB200* permiten inferir, ajustar y entrenar con IA a pequeña escala.
-
Instancias de GPU de supercluster
Los recursos informáticos con hardware dedicado con tecnología de GPU NVIDIA A100, H100, H200* y B200* aceleran el entrenamiento con IA de billones de parámetros.
-
Redes de clusters
RDMA con redes de cluster dedicadas permite la infraestructura de IA y ofrece latencia de microsegundos y ancho de banda entre nodos de 1,6Tb/seg.
-
Almacenamiento de alto rendimiento
El almacenamiento para la infraestructura de IA incluye almacenamiento NVMe conectado localmente para cargas de trabajo de IA exigentes y sistemas de archivos de clúster como BeeGFS, Lustre y WEKA.
*Próximamente
Los innovadores de IA aprovechan OCI para alojar, entrenar e inferir modelos de IA de última generación.
Conoce OCI Supercluster para el entrenamiento de IA a gran escala
Descripción general
OCI Supercluster te permite implementar hasta 32.768 GPU líderes del sector por clúster, aprovechando las redes de clústeres RDMA y el almacenamiento local para lograr un entrenamiento rápido e inferir en modelos de IA a gran escala.
Almacenamiento para Supercluster
A través de OCI Supercluster, los clientes pueden acceder al almacenamiento local, de bloques, de objetos y de archivos para la computación a exascala. Entre los principales proveedores de nube, OCI ofrece la mayor capacidad de almacenamiento NVMe local de alto rendimiento para establecer puntos de control más frecuentes durante las ejecuciones de entrenamiento, lo que resulta en una recuperación más rápida de las fallas.
Los sistemas de archivos de HPC, incluidos BeeGFS, GlusterFS, Lustre y WEKA, se pueden utilizar para el entrenamiento de IA a escala sin comprometer el desempeño.
Redes para Supercluster
La red de clústeres RDMA de alta velocidad impulsada por las tarjetas de interfaz de red ConnectX-5 de 100 Gb/s de Mellanox con RDMA sobre Ethernet convergente v2 te permite crear grandes clústeres de instancias de GPU con la misma red de latencia ultrabaja y escalabilidad de aplicaciones que esperas en las instalaciones.
No pagas más por la capacidad de RDMA, el almacenamiento de bloques o el ancho de banda de red, y los primeros 10 TB de salida son gratuitos.
Ampliar+
Recursos informáticos para Supercluster
Las instancias con hardware dedicado de OCI con tecnología de GPU NVIDIA H100 y A100 permiten a los clientes ejecutar grandes modelos de IA, como aprendizaje profundo, IA conversacional e IA generativa. Con Supercluster, pueden escalar hasta 32 768 GPU A100 por clúster.
Casos de uso típicos de infraestructura de IA
- Entrenamiento e inferencia de aprendizaje profundo
- Detección de fraudes aumentada por IA
- Análisis de imagen médica basado en IA
- Uso de la IA para acelerar el descubrimiento de fármacos
Entrena modelos de IA en instancias específicas de OCI basadas en GPU, redes de clústeres de RDMA y OCI Data Science.
Proteger los miles de millones de transacciones financieras que se producen todos los días requiere herramientas de IA que puedan analizar grandes cantidades de datos históricos de clientes. Los modelos de IA que se ejecutan en OCI Compute con tecnología de GPU NVIDIA junto con herramientas de gestión de modelos como OCI Data Science y otros modelos de código abierto ayudan a las instituciones financieras a mitigar el fraude.
La IA se utiliza a menudo para analizar diversos tipos de imágenes médicas (como rayos X y resonancias magnéticas) en un hospital. Los modelos entrenados ayudan a priorizar los casos que necesitan revisión inmediata por parte de un radiólogo e informan resultados concluyentes sobre otros.
El descubrimiento de medicamentos es un proceso lento y costoso que puede tardar muchos años y costar millones de dólares. Al aprovechar la infraestructura y el análisis de IA, los investigadores aceleran dicho proceso. Además, OCI Compute con tecnología de GPU NVIDIA junto con herramientas de gestión de flujos de trabajo de IA como BioNeMo permite a los clientes curar y preprocesar sus datos.
Éxitos de clientes con infraestructura de IA
Comienza a utilizar OCI AI infrastructure
Pruebe Oracle AI y obtén una versión de prueba de 30 días
Oracle ofrece un nivel de precios gratuito para la mayoría de los servicios de IA, así como una cuenta de prueba gratuita con 300 dólares estadounidenses en créditos para probar servicios adicionales en la nube. Los servicios de IA son una recopilación de ofertas, como la IA generativa, con modelos de aprendizaje automático predefinidos que facilitan a los desarrolladores aplicar la IA a las aplicaciones y operaciones empresariales.
-
¿Qué servicios de IA y ML de Oracle ofrecen un nivel de precios gratuito?
- OCI Speech
- OCI Language
- OCI Vision
- OCI Document Understanding
- Aprendizaje automático de Oracle Database
- Oracle Data Labeling
También tienes que pagar solo los costos de computación y almacenamiento para OCI Data Science.
Recursos adicionales
Obtén más información sobre redes de clúster RDMA, instancias de GPU, servidores con hardware dedicado y mucho más.
-
Documentación
-
Páginas relacionadas
Descubre todo lo que puedes ahorrar con OCI
Los precios de Oracle Cloud son sencillos, con tarifas consistentemente bajas en todo el mundo, y con apoyo a una amplia gama de casos de uso. Para hacer una estimación de tu tarifa reducida, da un vistazo a la calculadora de costos y configura los servicios que se adapten mejor a tus necesidades.
Descubre la diferencia
- 1/4 de los costos de ancho de banda saliente
- 3 veces la relación precio-rendimiento de los recursos informáticos
- El mismo bajo precio en cada región
- Precios bajos sin compromisos de largo plazo
Accede a expertos en materia de IA
Obtén ayuda para crear tu próxima solución de IA o implementar tu carga de trabajo en la infraestructura de IA de OCI.
-
Pueden responder a preguntas como
- ¿Cómo puedo empezar a usar Oracle Cloud?
- ¿Qué tipo de cargas de trabajo de IA puedo ejecutar en OCI?
- ¿Qué tipos de servicios de IA ofrece OCI?