KI-Infrastruktur

Führen Sie die anspruchsvollsten KI-Workloads schneller aus, einschließlich generativer KI, Computer Vision und prädiktiver Analysen, überall in unserer verteilten Cloud. Holen Sie sich das neueste GPU-Compute, skalierbar auf den Oracle Cloud Infrastructure (OCI) Supercluster mit 32.768 GPUs.

Ankündigung von Sovereign AI mit NVIDIA
Mit Suno AI und OCI kann jeder schöne Musik erzeugen (2:06)

Warum auf der OCI AI-Infrastruktur?

Führende KI-Performance und -Mehrwert

Die KI-Infrastruktur von OCI bietet die höchste Performance und den besten Wert für alle KI-Workloads, einschließlich Inferenzierung, Training und KI-Assistenten.

Skalierung auf bis zu 32.768 GPUs

Nur OCI Supercluster bietet eine branchenführende Skalierung mit Bare Metal-Compute, sodass Sie das Training für KI-Modelle mit Billionen von Parametern beschleunigen können.

Souveräne KI freischalten

Die verteilte Cloud von Oracle ermöglicht Ihnen, KI-Infrastrukturen überall bereitzustellen, um die Anforderungen an Performance, Sicherheit und KI-Souveränität zu erfüllen.

KI-Infrastruktur-Produkte

Ganz gleich, ob Sie Inferenzen oder Feinabstimmungen durchführen oder große Scale-Out-Modelle für generative KI trainieren möchten, OCI bietet branchenführende Bare Metal- und Virtual-Machine-GPU-Cluster-Optionen, die von einem Netzwerk mit extrem hoher Bandbreite und Hochleistungsspeicher unterstützt werden und Ihren KI-Anforderungen entsprechen.


* Demnächst verfügbar

KI-Innovatoren nutzen OCI zum Hosten, Trainieren und Inferenzieren von KI-Modellen der nächsten Generation.

OCI Supercluster für KI-Training in großem Maßstab kennenlernen

Überblick

Mit OCI Supercluster können Sie bis zu 32.768 Grafikprozessoren pro Cluster einsetzen und dabei RDMA-Cluster-Networking und lokalen Speicher nutzen, um schnelles Training und Inferencing für umfangreiche KI-Modelle zu erreichen.

OCI Supercluster-Diagramm mit Bare Metal-Computing durch NVIDIA-GPUs, Speicheroptionen (wie Block-, Objekt- und Dateispeicher) und Cluster-Networking, bestehend aus RDMA über Converged Ethernet mit Latenz im Mikrosekundenbereich und einer Bandbreite von 1,6 Gbit/s.

Storage für Supercluster

Über OCI Supercluster können Kunden auf lokalen, Block-, Objekt- und Dateispeicher für Exascale-Computing zugreifen. Unter den großen Cloud-Providern bietet OCI die größte Kapazität an lokalem NVMe-Hochleistungsspeicher für häufigeres Checkpointing während der Trainingsläufe, was zu einer schnelleren Wiederherstellung nach Ausfällen führt.

HPC-Dateisysteme wie BeeGFS, GlusterFS, Lustre und WEKA können für das KI-Training in großem Maßstab ohne Leistungseinbußen verwendet werden.

Storage für Supercluster
Vergrößern+
Das Diagramm zeigt einen GPU-Cluster, der über eine RDMA-Netzwerkstruktur mit Blockspeicher und einem Dateispeicherservice im Exabyte-Bereich verbunden ist.

Networking für Supercluster

Hochgeschwindigkeits-RDMA-Clusternetzwerke auf Basis der ConnectX-5 100-Gbit/s-Netzwerkschnittstellenkarten von Mellanox mit RDMA über Converged Ethernet v2 ermöglichen Ihnen die Erstellung großer Cluster von GPU-Instanzen mit der gleichen extrem niedrigen Latenzzeit und Anwendungsskalierbarkeit, die Sie On-Premises erwarten.

Sie zahlen keinen Aufpreis für RDMA-Fähigkeit, Blockspeicher oder Netzwerkbandbreite und die ersten 10 TB Daten-Egress sind kostenlos.

Networking für Supercluster
Erweitern+
Das Diagramm zeigt ein Supercluster-RDMA-Netzwerk mit acht NVIDIA A100-GPUs pro Knoten, die über eine Vollduplex-Netzwerkstruktur mit einer knotenübergreifenden Bandbreite von insgesamt 1,6 Tbit/s verbunden sind.

Compute für Supercluster

OCI-Bare Metal-Instanzen mit NVIDIA H100- und A100-GPUs ermöglichen Kunden die Ausführung großer KI-Modelle wie Deep Learning, dialogorientierte KI und generative KI. Mit Supercluster können Kunden bis zu 32.768 A100-GPUs pro Cluster skalieren.

Das Diagramm zeigt GPU-Cluster-Knoten, die von NVIDIA A100-GPUs angetrieben werden, und Netzwerke mit einer Latenzzeit von weniger als zwei Mikrosekunden.

Funktionsweise von OCI Supercluster

Sehen Sie sich an, wie Chief Technical Architect Pradeep Vincent erklärt, wie OCI Supercluster das Training und Inferenzieren von ML-Modellen unterstützt und auf Zehntausende von NVIDIA-GPUs skaliert.

Typische Anwendungsfälle für KI-Infrastrukturen

Trainieren Sie KI-Modelle auf OCI Bare Metal-Instanzen, die von GPUs, RDMA-Cluster-Netzwerken und OCI Data Science unterstützt werden.


Diagramm für Deep Learning-Training und Inferenzierung, Beschreibung unten
Trainieren Sie KI-Modelle auf OCI Bare Metal-Instanzen, die von GPUs, RDMA-Cluster-Netzwerken und OCI Data Science unterstützt werden.

Der Schutz der Milliarden von Finanztransaktionen, die jeden Tag stattfinden, erfordert bessere KI-Tools, die große Mengen historischer Kundendaten analysieren können. KI-Modelle, die auf OCI Compute powered by NVIDIA GPUs zusammen mit Modellmanagement-Tools wie OCI Data Science und anderen Open-Source-Modellen laufen, helfen Finanzinstituten bei der Betrugsbekämpfung.


Diagramm zur Betrugserkennung durch KI, Beschreibung unten
KI-Modelle, die auf OCI Compute powered by NVIDIA GPUs zusammen mit Modellmanagement-Tools wie OCI Data Science und anderen Open-Source-Modellen laufen, helfen Finanzinstituten bei der Betrugsbekämpfung.

KI wird häufig zur Analyse verschiedener medizinischer Bilder (z. B. Röntgenbilder und MRTs) in Krankenhäusern eingesetzt. Trainierte Modelle können dabei helfen, Fälle zu priorisieren, die eine sofortige Überprüfung durch einen Radiologen erfordern, und aussagekräftige Ergebnisse für andere melden.


Diagramm zur KI-gestützten medizinischen Bildanalyse, Beschreibung unten
Trainierte Modelle, die auf OCI Compute powered by GPUs laufen, können bei der Analyse medizinischer Bilder helfen und sofort schlüssige Ergebnisse liefern bzw. Bilder für die weitere Überprüfung priorisieren.

Die Entdeckung von Arzneimitteln ist ein zeitaufwendiger und teurer Prozess, der viele Jahre dauern und Millionen von Dollar kosten kann. Durch den Einsatz von KI-Infrastrukturen und -Analysen können Forscher die Arzneimittelentdeckung beschleunigen. Darüber hinaus ermöglicht OCI Compute powered by NVIDIA GPUs zusammen mit KI-Workflow-Management-Tools wie BioNeMo den Kunden, ihre Daten zu kuratieren und vorzuverarbeiten.


Einsatz von KI zur Beschleunigung der Arzneimittelforschung, Beschreibung unten
Durch den Einsatz von KI-Infrastrukturen und -Analysen können Forscher die Arzneimittelentdeckung beschleunigen und ihre Daten kuratieren bzw. vorverarbeiten.

Kundenerfolge mit KI-Infrastrukturen

Weitere Kundenberichte

Erste Schritte mit der OCI KI-Infrastruktur

Testen Sie Oracle AI, und erhalten Sie eine 30-tägige Testversion

Oracle bietet Ihnen eine kostenlose Preisstufe für die meisten KI-Services sowie einen Testaccount mit einem Guthaben in Höhe von 300 US-Dollar, um zusätzliche Cloud-Services zu testen. KI-Services sind eine Sammlung von Services mit vordefinierten Machine Learning-(ML-)Modellen, die es Entwicklern erleichtern, KI auf Anwendungen und Geschäftsabläufe anzuwenden.

  • Welche KI- und ML-Services von Oracle bieten eine kostenlose Preisstufen?

    • OCI Speech
    • OCI Language
    • OCI Vision
    • OCI Document Understanding
    • Maschinelles Lernen in Oracle Database
    • OCI-Datenbeschriftung

    Sie müssen dabei nur die Compute- und Speichergebühren für OCI Data Science bezahlen.

Weitere Ressourcen

Erfahren Sie mehr über RDMA-Cluster-Networking, GPU-Instanzen, Bare Metal-Server und vieles mehr.

Erfahren Sie, welche Einsparungen mit OCI möglich sind.

Die Tarife für Oracle Cloud sind unkompliziert, mit weltweit konsequent niedrigen Tarifen und zahlreichen unterstützten Anwendungsfällen. Um den für Sie zutreffenden, niedrigen Tarif zu berechnen, gehen Sie zum Kostenrechner und konfigurieren Sie die Services entsprechend Ihrer Anforderungen.

Lernen Sie den Unterschied kennen:

  • 1/4 der Kosten für ausgehende Bandbreite
  • 3-mal besseres Preis-Leistungs-Verhältnis
  • Gleicher niedriger Preis in jeder Region
  • Niedrige Tarife ohne langfristige Verpflichtungen

Zugriff auf KI-Subject Matter Experts (SMEs)

Holen Sie sich Hilfe beim Aufbau Ihrer nächsten KI-Lösung oder bei der Bereitstellung Ihrer Workloads auf der KI-Infrastruktur von OCI.

  • Sie können Fragen beantworten, z. B.

    • Wie sehen die ersten Schritte in Oracle Cloud Infrastructure WAF aus?
    • Welche Arten von KI-Workloads kann ich auf OCI ausführen?
    • Welche Arten von KI-Services bietet OCI an?