AI 인프라
Oracle의 분산형 클라우드는 고객이 원하는 모든 지점에서 생성형 AI, 컴퓨터 비전, 예측 분석을 비롯한 가장 까다로운 AI 워크로드를 더욱 신속히 실행할 수 있도록 지원합니다. Oracle Cloud Infrastructure(OCI) Supercluster가 제공하는, 최대 32,768개의 GPU까지 확장되는 최신 GPU 컴퓨트 서비스를 경험해 보세요.
OCI AI 인프라를 선택하는 이유
탁월한 성능 및 가치
OCI AI 인프라는 추론, 교육, AI 어시스턴트 등 모든 AI 워크로드를 위한 최고의 성능 및 가치를 제공합니다.
최대 32,768개까지 확장 가능한 GPU
유일무이한 규모의 베어메탈 컴퓨트 확장을 제공하는 OCI Supercluster를 활용하여 파라미터 갯수가 수조 개에 달하는 AI 모델의 학습도 더욱 신속히 수행할 수 있습니다.
소버린 AI 지원
Oracle의 분산형 클라우드 서비스는 고객이 원하는 모든 지점에 AI 인프라를 배포하여 성능, 보안, AI 주권 관련 요구 사항을 충족시켜 줍니다.
AI 인프라 제품
OCI는 생성형 AI와 관련하여 추론, 미세 조정, 대규모 수평 확장 모델의 학습 등을 수행하고자 하는 고객을 위해 관련 요건에 부합하는 초고대역폭 네트워크 및 고성능 스토리지를 갖춘 업계 최고의 베어메탈 및 가상머신 GPU 클러스터 옵션을 제공합니다.
-
GPU 인스턴스
NVIDIA A10 Tensor Core GPU, GH200 Grace Hopper Superchip*, GB200 NVL72* 기반 베어메탈 및 VM 컴퓨트를 활용한 AI 추론, 미세 조정, 학습을 지원합니다.
-
Supercluster GPU 인스턴스
NVIDIA A100, H100, H200*, B200* Tensor Core GPU가 탑재된 베어메탈 컴퓨트로 대규모 AI 학습 및 추론을 가속화합니다.
-
클러스터 네트워킹
전용 클러스터 네트워크 기반 RDMA 기술이 탑재된 AI 인프라로 마이크로초 단위의 극히 짧은 지연 시간 및 초당 1.6TB의 인터노드 대역폭을 제공합니다.
-
고성능 스토리지
까다로운 AI 워크로드 처리를 위한 로컬 연결 NVMe 스토리지, BeeGFS, Lustre, WEKA 등의 클러스터 파일 시스템 등의 AI 인프라용 고성능 스토리지를 제공합니다.
* 출시 예정
AI 혁신기업들은 차세대 AI 모델의 호스팅, 학습, 추론에 OCI를 활용하고 있습니다.
대규모 AI 학습용 OCI Supercluster 살펴보기
개요
OCI Supercluster는 업계 최고 수준인 클러스터당 최대 32,768개의 GPU 배포와 더불어 RDMA 클러스터 네트워킹 및 로컬 스토리지를 활용한 대규모 AI 모델의 신속한 학습 및 추론을 지원합니다.
Supercluster 스토리지
OCI 고객은 OCI Supercluster를 통해 엑사스케일 컴퓨팅을 위한 로컬, 블록, 오브젝트, 파일 스토리지에 액세스할 수 있습니다. OCI는 주요 클라우드 제공업체 중에서도 독보적인 용량의 고성능 로컬 NVMe 스토리지를 제공함으로써 모델 학습 중 체크포인팅을 더 자주 수행하여 보다 신속한 장해 복구를 지원합니다.
BeeGFS, GlusterFS, Lustre, WEKA 등의 HPC 파일 시스템을 사용하여 성능 저하 없는 대규모 AI 학습을 수행할 수 있습니다.
Supercluster 네트워킹
RDMA over Converged Ethernet v2를 지원하는 Mellanox의 ConnectX-5 100Gb/sec 네트워크 인터페이스 카드를 통한 초고속 RDMA 클러스터 네트워킹을 사용하여 온프레미스와 동일한 경험을 제공하는 초저지연 네트워킹 및 애플리케이션 확장성을 갖춘 대규모 GPU 인스턴스 클러스터를 생성할 수 있습니다.
RDMA 기능, 블록 스토리지, 네트워크 대역폭에 대한 추가 비용은 발생하지 않으며, 처음 10TB의 이그레스 비용은 무료입니다.
크게 보기+
Supercluster 컴퓨트
OCI 고객은 NVIDIA H100 및 A100 GPU 기반의 OCI 베어메탈 인스턴스를 통해 딥러닝, 대화형 AI, 생성형 AI와 같은 대규모 AI 모델을 실행할 수 있습니다. Supercluster는 클러스터당 최대 32,768개의 A100 GPU 확장을 지원합니다.
OCI Supercluster의 작동 방식
Chief Technical Architect인 Pradeep Vincent가 OCI Supercluster가 머신러닝 모델의 학습 및 추론을 지원하고 수만 개의 NVIDIA GPU를 사용하여 확장하는 방식을 설명합니다.
일반적 AI 인프라 사용 사례
GPU, RDMA 클러스터 네트워킹, OCI Data Science로 구동되는 OCI 베어메탈 인스턴스에서 AI 모델을 학습시킬 수 있습니다.
매일 수십억 건씩 이루어지는 금융 거래를 보호하기 위해서는 대량의 과거 고객 데이터를 분석할 수 있는 향상된 AI 도구가 필요합니다. NVIDIA GPU 기반의 OCI Compute에서 실행되는 AI 모델과 OCI Data Science 및 기타 오픈 소스 모델 등의 모델 관리 도구는 금융 기관의 사기 감지 및 방지에 도움을 줍니다.
많은 병원이 다양한 유형의 의료 이미지를 분석하기 위해 AI를 사용하고 있습니다(예: 엑스레이 및 MRI). 학습된 AI 모델은 방사선 전문의가 즉각적으로 검토해야 하는 케이스를 우선순위로 설정하고, 그 외의 케이스에 대한 최종 결과 보고에 도움을 줄 수 있습니다.
신약 개발은 여러 해의 시간과 수백만 달러가 소요될 수도 있는, 시간과 비용이 매우 많이 드는 프로세스입니다. 연구자들은 AI 인프라 및 데이터 분석을 활용하여 신약 개발을 가속화할 수 있습니다. 또한 OCI 고객은 NVIDIA GPU 기반의 OCI Compute와 BioNeMo 등의 AI 워크플로 관리 도구를 사용하여 데이터를 큐레이팅하고 전처리할 수 있습니다.
AI 인프라 고객 성공 사례
OCI AI 인프라 시작하기
Oracle AI 30일 무료 체험하기
Oracle AI 서비스들의 가격 정책에는 대부분 무료로 이용 가능한 티어가 포함되어 있으며, 추가 클라우드 서비스를 체험할 수 있는 미화 300달러 상당의 무료 크레딧이 함께 제공됩니다. Oracle은 생성형 AI가 포함된 다양한 AI 서비스 모음을 제공합니다. 개발자들은 Oracle의 사전 구축된 머신러닝 모델을 활용하여 애플리케이션 및 비즈니스 운영에 AI를 간단히 적용할 수 있습니다.
-
무료 서비스 항목이 포함된 Oracle AI 및 ML 서비스
- OCI Speech
- OCI Language
- OCI Vision
- OCI Document Understanding
- Oracle Database에 포함된 Machine Learning
- OCI Data Labeling
또한 OCI Data Science를 사용하면서 발생한 컴퓨트 및 스토리지 비용만이 청구됩니다.
추가 리소스
RDMA 클러스터 네트워킹, GPU 인스턴스, 베어메탈 서버 등과 관련된 정보를 더 자세히 살펴보세요.
OCI를 통해 얻을 수 있는 절감 효과 확인하기
Oracle Cloud는 저렴한 가격을 전 세계적으로 동일하게 적용하며, 간편하고 다양한 사용 사례를 지원합니다. 예상 요금 절감액을 확인하려면, 비용 계산기를 사용하여 필요에 맞게 서비스를 구성해보세요.
차이를 경험해보세요
- 1/4의 아웃바운드 대역폭 비용
- 가격 대비 컴퓨트 성능 3배
- 모든 리전에 동일하게 적용되는 저렴한 가격
- 장기 약정 없는 저렴한 가격 정책
AI 전문가와 상담하기
Oracle 전문가들이 AI 솔루션 구축, OCI AI 인프라에 워크로드 배포하기와 같은 다양한 AI 관련 주제에 대한 상담을 제공합니다.
-
다음과 같은 문의사항들에 답해드립니다.
- Oracle Cloud를 시작하려면 어떻게 해야 하나요?
- OCI에서는 어떤 종류의 AI 워크로드를 실행할 수 있나요?
- OCI는 어떤 유형의 AI 서비스를 제공하나요?