H100 PCIe와 A100 SXM의 차이점은 무엇인가요?
모든 수치는 대시보드가 가격을 매기는 동일한 카탈로그에서 가져온, 실제 대여 기준 값입니다. GPU당 시간 요금은 월 정액 요금을 720시간으로 나눈 값이며, 시간 단위로 청구되지 않습니다.
| H100 PCIe | A100 SXM | |
|---|---|---|
| 메모리 | 80 GB HBM2e | 80 GB HBM2e |
| 메모리 대역폭 | 2 TB/s | 2.04 TB/s |
| 아키텍처 | Hopper (2022) | Ampere (2020) |
| 코어 | 14,592 CUDA · 456 Tensor | 6,912 CUDA · 432 Tensor |
| FP8 | 3,026 TFLOPS (sparse) | not supported |
| FP16 | 1,513 TFLOPS (sparse) | 624 TFLOPS (sparse) |
| 인터커넥트 | PCIe Gen5 · optional NVLink bridge 600 GB/s | NVLink · 600 GB/s |
| 보드 전력 | 350 W | 400 W |
| 호스트 vCPU | 16 | 16 |
| 호스트 RAM | 188 GB | 125 GB |
| 로컬 NVMe | 1 TB | 1 TB |
| 주간 요금 | $420 | $280 |
| 월간 요금 | $1,490 | $990 |
| GPU 시간당 | $2.07 | $1.38 |
| VRAM GB당 가격 | $18.62 | $12.38 |
| 현재 재고 있음 | 27 | 78 |
어떤 제품을 대여해야 할까요?
두 카드 모두 80 GB를 탑재하므로, 용량이 이번 결정을 좌우하지 않습니다. H100 PCIe는 FP8을 지원하고 A100 SXM는 지원하지 않아, 양자화된 모델에 필요한 메모리가 약 절반으로 줄어들며 이것이 두 카드 간 가장 큰 실질적 차이입니다. 대역폭은 2 TB/s 대 2.04 TB/s이며, 단일 스트림 토큰 생성에서는 속도를 결정하는 것은 스펙 시트의 FLOPS 수치가 아니라 대역폭입니다. H100 PCIe는 월 기준으로 51% 더 비싸며, $1,490 대 $990, GPU 시간당 $2.07 대 $1.38입니다.
이럴 때 H100 PCIe 대여
Single-card inference on 70B models in FP8. Same 80 GB as the SXM card, at about 60% of the interconnect bandwidth and half the power.
$1,490/월 · $420/주 · 사양 및 재고
이럴 때 A100 SXM 대여
The cheapest 80 GB card with NVLink. 80 GB of HBM2e under $1,000 a month, the value pick for multi-week runs.
$990/월 · $280/주 · 사양 및 재고
각 카드의 재고 위치
대시(-)는 해당 지역에서 카드가 대기 목록에 있음을 의미합니다. 가격은 세 곳 모두 동일하므로 지연 시간과 재고만 보고 선택하세요.
| 지역 | H100 PCIe | A100 SXM |
|---|---|---|
| DFW-1Dallas, TX | 14 | 40 |
| IAD-1Ashburn, VA | 9 | 22 |
| PDX-1Hillsboro, OR | 4 | 16 |
H100 PCIe 대 A100 SXM
H100 PCIe가 A100 SXM보다 더 좋은가요?
H100 PCIe와 A100 SXM의 가격 차이는 얼마인가요?
H100 PCIe의 VRAM은 A100 SXM에 비해 얼마나 됩니까?
KYC 없이 두 카드 중 하나를 대여할 수 있나요?
오늘 어떤 카드가 이용 가능한가요?
여러 개의 H100 PCIe 카드를 한 머신에 넣을 수 있나요?
둘 중 하나를 주 또는 월 단위로 대여
신원 확인도, 이메일 주소도, 카드도 필요 없습니다. 머신을 구성하고 생성된 하나의 주문을 7가지 코인 중 하나로 결제하면 약 90초 안에 실행됩니다.