A100 SXM와 L40S의 차이점은 무엇인가요?
모든 수치는 대시보드가 가격을 매기는 동일한 카탈로그에서 가져온, 실제 대여 기준 값입니다. GPU당 시간 요금은 월 정액 요금을 720시간으로 나눈 값이며, 시간 단위로 청구되지 않습니다.
| A100 SXM | L40S | |
|---|---|---|
| 메모리 | 80 GB HBM2e | 48 GB GDDR6 ECC |
| 메모리 대역폭 | 2.04 TB/s | 864 GB/s |
| 아키텍처 | Ampere (2020) | Ada Lovelace (2023) |
| 코어 | 6,912 CUDA · 432 Tensor | 18,176 CUDA · 568 Tensor · 142 RT |
| FP8 | not supported | 1,466 TFLOPS (sparse) |
| FP16 | 624 TFLOPS (sparse) | 733 TFLOPS (sparse) |
| 인터커넥트 | NVLink · 600 GB/s | PCIe Gen4 peer-to-peer |
| 보드 전력 | 400 W | 350 W |
| 호스트 vCPU | 16 | 16 |
| 호스트 RAM | 125 GB | 94 GB |
| 로컬 NVMe | 1 TB | 500 GB |
| 주간 요금 | $280 | $148 |
| 월간 요금 | $990 | $520 |
| GPU 시간당 | $1.38 | $0.72 |
| VRAM GB당 가격 | $12.38 | $10.83 |
| 현재 재고 있음 | 78 | 74 |
어떤 제품을 대여해야 할까요?
A100 SXM은(는) 32 GB 더 많은 메모리를 탑재하여, 모델이 로드되는지 여부를 결정하는 유일한 요소입니다. L40S는 FP8을 지원하고 A100 SXM는 지원하지 않으며, 이는 더 저렴한 카드로서는 이례적이고 추론 구매용으로 더 나은 선택입니다. 대역폭은 2.04 TB/s 대 864 GB/s이며, 단일 스트림 토큰 생성에서는 속도를 결정하는 것은 스펙 시트의 FLOPS 수치가 아니라 대역폭입니다. NVLink는 A100 SXM에만 있어 다중 카드 학습은 이 카드에서는 확장되고 L40S에서는 어렵습니다. A100 SXM는 월 기준으로 90% 더 비싸며, $990 대 $520, GPU 시간당 $1.38 대 $0.72입니다.
이럴 때 A100 SXM 대여
The cheapest 80 GB card with NVLink. 80 GB of HBM2e under $1,000 a month, the value pick for multi-week runs.
$990/월 · $280/주 · 사양 및 재고
이럴 때 L40S 대여
Serving 7B–34B models in production. 48 GB with FP8 support and RT cores, the best inference card per dollar in our fleet.
$520/월 · $148/주 · 사양 및 재고
각 카드의 재고 위치
대시(-)는 해당 지역에서 카드가 대기 목록에 있음을 의미합니다. 가격은 세 곳 모두 동일하므로 지연 시간과 재고만 보고 선택하세요.
| 지역 | A100 SXM | L40S |
|---|---|---|
| DFW-1Dallas, TX | 40 | 26 |
| IAD-1Ashburn, VA | 22 | 18 |
| PDX-1Hillsboro, OR | 16 | 30 |
A100 SXM 대 L40S
A100 SXM가 L40S보다 더 좋은가요?
A100 SXM와 L40S의 가격 차이는 얼마인가요?
A100 SXM의 VRAM은 L40S에 비해 얼마나 됩니까?
KYC 없이 두 카드 중 하나를 대여할 수 있나요?
오늘 어떤 카드가 이용 가능한가요?
여러 개의 A100 SXM 카드를 한 머신에 넣을 수 있나요?
둘 중 하나를 주 또는 월 단위로 대여
신원 확인도, 이메일 주소도, 카드도 필요 없습니다. 머신을 구성하고 생성된 하나의 주문을 7가지 코인 중 하나로 결제하면 약 90초 안에 실행됩니다.