5세대 AMD EPYC™ 프로세서
AI, 클라우드 및 엔터프라이즈 컴퓨팅 발전
5세대 AMD EPYC™ 프로세서 소개
데이터 센터, 클라우드 및 AI 워크로드를 가속화하기 위해 설계된 AMD EPYC™ 9005 시리즈 프로세서는 엔터프라이즈 컴퓨팅 성능의 새로운 기준을 제시합니다.
AI를 위한 최고의 CPU¹
[파트너사 이름] 에서 제공하는 AMD EPYC™ 9005 시리즈 프로세서를 통해 엔드 투 엔드 AI 성능을 경험하세요.
서버당 성능 극대화
AMD EPYC™ 9005는 기존 하드웨어의 정수 성능을 최대 86% 적은 랙²으로 구현하여 물리적 공간, 전력 소비량, 소프트웨어 라이선스 비용을 대폭 줄이며 새로운 AI 워크로드를 위한 공간을 확보합니다.
리더십 AI 추론 성능
13억 매개변수 이하의 언어 모델, 이미지 및 사기 분석, 추천 시스템 등 다양한 AI 워크로드를 AMD EPYC™ 9005 CPU를 탑재한 CPU 전용 서버에서 효율적으로 실행할 수 있습니다. 5세대 AMD EPYC 9965 CPU 두 개를 사용하는 서버는 이전 세대보다 최대 2배의 추론 처리량을 제공합니다.³
GPU 가속 극대화
AMD EPYC™ 9005 제품군은 GPU 가속 시스템을 위한 호스트 CPU로 최적화된 옵션을 제공하며, 특정 AI 워크로드의 성능을 향상시키고 GPU 서버의 ROI를 개선합니다. 예를 들어, 고주파 AMD EPYC 9575F 프로세서를 탑재한 서버는 동일한 8개의 GPU를 사용하는 Intel Xeon 8592+ 프로세서를 호스트 CPU로 사용하는 서버보다 Llama3.1-70B를 실행할 때 시스템 성능이 최대 20% 더 우수합니다.⁴
최적화된 엔터프라이즈 성능
[파트너사 이름] 은 AMD EPYC™ 9005 시리즈 프로세서를 제공하며, 뛰어난 성능과 에너지 효율성을 통해 비용 절감을 실현하고, 주요 비즈니스 목표를 효과적으로 지원합니다.
정수 연산에서의 업계 최고 성능
AMD EPYC™ 9005 CPU 기반 서버는 새로운 "Zen 5" 코어를 활용하여 업계 최고의 경쟁 제품에 비해 2.7배 높은 정수 성능을 제공합니다.⁵
클라우드 환경에 최적화
AMD EPYC™ 9005 시리즈 프로세서는 클라우드 워크로드를 위한 높은 밀도와 성능을 제공합니다. 192개의 코어를 탑재한 AMD EPYC™ 9965 프로세서는 Intel® Xeon® 6E “Sierra Forest” 144코어 프로세서 대비 33% 더 많은 가상 CPU(vCPU)를 지원합니다(1코어당 1 vCPU). 192개의 코어를 탑재한 AMD EPYC™ 9965 프로세서는 Intel® Xeon® 6E “Sierra Forest” 144코어 프로세서 대비 33% 더 많은 가상 CPU(vCPU)를 지원합니다(1코어당 1 vCPU).
리더십 효율성 및 TCO
데이터 센터는 그 어느 때보다 더 많은 에너지를 요구하고 있습니다. AMD EPYC™ 9005 시리즈 프로세서는 이전 AMD EPYC™ 세대에서 제공되었던 에너지 효율성과 TCO 혜택을 계속 제공합니다.
리더십 성능, 밀도 및 효율성
AMD EPYC™ 9005 시리즈 프로세서는 최대 192개의 “Zen 5” 또는 “Zen 5c” 코어를 포함하며, 뛰어난 메모리 대역폭과 용량을 제공합니다. 혁신적인 AMD 칩렛 아키텍처는 다양한 컴퓨팅 요구 사항에 최적화된 고성능, 에너지 효율적인 솔루션을 가능하게 합니다.
"Zen 5"
"Zen 5c"
폭넓은 에코시스템 지원으로 업계 리더의 신뢰를 얻다
AMD는 AMD EPYC™ 9005 시리즈 프로세서를 탑재한 솔루션 제공업체와 폭넓은 네트워크를 통해
협력하고 있습니다.
전 세계의 기업과 정부 기관이 가장 중요한 워크로드를 처리하기 위해 AMD를 선택합니다.
AI
클라우드 컴퓨팅
데이터베이스 및 분석
금융 서비스
미디어 및 엔터테인먼트
네트워킹 및 통신
제품 설계
공공 부문
슈퍼컴퓨팅
가상화
더 자세한 내용을 원하시면 [파트너 이메일] 또는 [전화번호]로 문의하세요.
모델 사양
| 이름 | CPU 코어 수 | 스레드 수 | 최대 부스트
클럭
|
기본 클럭 | L3 캐시 | 디폴트 TDP |
|---|---|---|---|---|---|---|
| AMD EPYC™ 9965 | 192 | 384 | 최대 3.7 GHz | 2.25 GHz | 384 MB | 500W |
| AMD EPYC™ 9845 | 160 | 320 | 최대 3.7 GHz | 2.1 GHz | 320 MB | 390W |
| AMD EPYC™ 9825 | 144 | 288 | 최대 3.7 GHz | 2.2 GHz | 384 MB | 390W |
| AMD EPYC™ 9755 | 128 | 256 | 최대 4.1 GHz | 2.7 GHz | 512 MB | 500W |
| AMD EPYC™ 9745 | 128 | 256 | 최대 3.7 GHz | 2.4 GHz | 256 MB | 400W |
| AMD EPYC™ 9655P | 96 | 192 | 최대 4.5 GHz | 2.6 GHz | 384 MB | 400W |
| AMD EPYC™ 9655 | 96 | 192 | 최대 4.5 GHz | 2.6 GHz | 384 MB | 400W |
| AMD EPYC™ 9645 | 96 | 192 | 최대 3.7 GHz | 2.3 GHz | 256 MB | 320W |
| AMD EPYC™ 9575F | 64 | 128 | 최대 5 GHz | 3.3 GHz | 256 MB | 400W |
| AMD EPYC™ 9565 | 72 | 144 | 최대 4.3 GHz | 3.15 GHz | 384 MB | 400W |
| AMD EPYC™ 9555P | 64 | 128 | 최대 4.4 GHz | 3.2 GHz | 256 MB | 360W |
| AMD EPYC™ 9555 | 64 | 128 | 최대 4.4 GHz | 3.2 GHz | 256 MB | 360W |
| AMD EPYC™ 9535 | 64 | 128 | 최대 4.3 GHz | 2.4 GHz | 256 MB | 300W |
| AMD EPYC™ 9475F | 48 | 96 | 최대 4.8 GHz | 3.65 GHz | 256 MB | 400W |
| AMD EPYC™ 9455P | 48 | 96 | 최대 4.4 GHz | 3.15 GHz | 256 MB | 300W |
| AMD EPYC™ 9455 | 48 | 96 | 최대 4.4 GHz | 3.15 GHz | 256 MB | 300W |
| AMD EPYC™ 9375F | 32 | 64 | 최대 4.8 GHz | 3.85 GHz | 256 MB | 320W |
| AMD EPYC™ 9365 | 36 | 72 | 최대 4.3 GHz | 3.4 GHz | 192 MB | 300W |
| AMD EPYC™ 9355P | 32 | 64 | 최대 4.4 GHz | 3.55 GHz | 256 MB | 280W |
| AMD EPYC™ 9355 | 32 | 64 | 최대 4.4 GHz | 3.55 GHz | 256 MB | 280W |
| AMD EPYC™ 9335 | 32 | 64 | 최대 4.4 GHz | 3 GHz | 128 MB | 210W |
| AMD EPYC™ 9275F | 24 | 48 | 최대 4.8 GHz | 4.1 GHz | 256 MB | 320W |
| AMD EPYC™ 9255 | 24 | 48 | 최대 4.3 GHz | 3.2 GHz | 128 MB | 200W |
| AMD EPYC™ 9175F | 16 | 32 | 최대 5 GHz | 4.2 GHz | 512 MB | 320W |
| AMD EPYC™ 9135 | 16 | 32 | 최대 4.3 GHz | 3.65 GHz | 64 MB | 200W |
| AMD EPYC™ 9115 | 16 | 32 | 최대 4.1 GHz | 2.6 GHz | 64 MB | 125W |
| AMD EPYC™ 9015 | 8 | 16 | 최대 4.1 GHz | 3.6 GHz | 64 MB | 125W |
5세대 AMD EPYC™ 프로세서가 AI 기반 데이터 센터와 비즈니스 워크로드의 요구를 어떻게 충족하는지 알아보려면 전문자료를 다운로드하세요.
문의하기
- 9xx5-012: TPCxAI @SF30 다중 인스턴스 32C 인스턴스 크기 처리량 결과는
2024년 9월 5일 기준 여러 VM 인스턴스를 실행한 AMD 내부 테스트를 기반으로 합니다. 종합 엔드투엔드 AI 처리량 테스트는
TPCx-AI 벤치마크에서 파생되었으며, 엔드투엔드 AI 처리량 테스트 결과가 TPCx-AI 사양을 준수하지 않기 때문에 게시된 TPCx-AI
결과와 비교할 수 없습니다.
2P AMD EPYC 9965(총 코어 384개), 12개 32C 인스턴스, NPS1, 1.5TB 24x64GB
DDR5-6400(6000MT/s), 1DPC, 1.0Gbps NetXtreme BCM5720 기가비트
결과:
CPU 중간 상대 세대
Turin 192C, 12 Inst 6067.531 3.775 2.278
Turin 128C, 8 Inst 4091.85 2.546 1.536
Genoa 96C, 6 Inst 2663.14 1.657 1
EMR 64C, 4 Inst 1607.417 1 NA
결과는 시스템 구성, 소프트웨어 버전 및 BIOS 설정을 포함한 요인으로 인해 다를 수 있습니다. TPC, TPC Benchmark 및 TPC-C는 Transaction Processing Performance Council의 상표입니다. - 9xxx5TCO-001B: 이 시나리오에는 많은 가정과 추정이 포함되어 있으며 AMD 내부 연구와 최상의 근사치를 기반으로 하지만 정보 제공을 위한 예시로 간주해야 하며 의사 결정의 기준으로 사용해서는 안 됩니다. 실제 테스트. AMD 서버 및 온실 가스 배출 TCO(총 소유 비용) 추정 도구 - 버전 1.12는 2024년 10월 8일 기준 39100개의 SPECrate2017_int_base 성능의 TOTAL_PERFORMANCE를 제공하는 데 필요한 선택된 AMD EPYC™ 및 Intel® Xeon® CPU 기반 서버 솔루션을 비교합니다. 이 시나리오는 391점의 레거시 2P Intel Xeon 28코어 Platinum_8280 기반 서버와 3030점의 2P EPYC 9965(192C) 기반 서버(https:// spec.org/cpu2017/results/res2024q3/cpu2017-20240923-44833.pdf)를 비교하고 2P Intel Xeon Platinum 8592+(64C) 기반 서버로의 업그레이드를 비교합니다. 1130점(https:// spec.org/cpu2017/results/res2024q3/cpu2017-20240701-43948.pdf). 2P EPYC 9965의 실제 SPECrate®2017_int_base 점수는 OEM 간행물에 따라 다릅니다. 이 데이터를 활용하여 환경 영향 추정치를 작성했으며, 2024년 국제 국가별 전기 계수 10 – 2024년 7월의 국가/지역별 전기 계수와 미국 환경 보호청의 '온실 가스 등가 계산기'를 사용했습니다.
- 9xx5-010A: 2024년 10월 8일 기준 AMD 내부 테스트를 기반으로 한
XGBoost(실행/시간) 처리량 결과."" 아래 클레임 포함:
9xx5-040A: 2024년 9월 5일 기준 AMD 내부 테스트를 기반으로 한 XGBoost(실행/시간) 처리량 결과
XGBoost 구성: v2.2.1, Higgs 데이터 세트, 32개 코어 인스턴스, FP32
2P AMD EPYC 9965(총 384개 코어), 12 x 32개 코어 인스턴스, 1.5TB 24x64GB
DDR5-6400(6000MT/s), 1.0Gbps NetXtreme BCM5720 기가비트 이더넷 PCIe, 3.5TB Samsung
MZWLO3T8HCLS-00A07 NVMe®, Ubuntu® 22.04.4 LTS, 6.8.0-45-generic(조정된 adm 프로필 처리량
성능, ulimit -l 198078840, ulimit -n 1024, ulimit -s 8192), BIOS RVOT1000C
(SMT=off, 결정론=Power, Turbo Boost=활성화됨), NPS=1
2P AMD EPYC 9755(총 256개 코어), 1.5TB 24x64GB DDR5-6400(6000MT/s), 1DPC, 1.0Gbps
NetXtreme BCM5720 기가비트 이더넷 PCIe, 3.5TB Samsung MZWLO3T8HCLS-00A07 NVMe®,
Ubuntu 22.04.4 LTS, 6.8.0-40-generic(조정된 adm 프로필 처리량-성능, ulimit -l 198094956,
ulimit -n 1024, ulimit -s 8192), BIOS RVOT0090F(SMT=끄기, 결정론=전력, 터보
Boost=활성화됨), NPS=1
2P AMD EPYC 9654(총 192개 코어), 1.5TB 24x64GB DDR5-4800, 1DPC, 2 x 1.92TB Samsung
MZQL21T9HCJR-00A07 NVMe®, Ubuntu 22.04.4 LTS, 6.8.0-40-generic(tuned-adm profile
throughput-performance, ulimit -l 198120988, ulimit -n 1024, ulimit -s 8192),
BIOS TTI100BA(SMT=off, Determinism=Power), NPS=1
대비 2P Xeon Platinum 8592+(총 128개 코어), AMX On, 1TB 16x64GB DDR5-5600, 1DPC,
1.0Gbps NetXtreme BCM5719 기가비트 이더넷 PCIe, 3.84TB KIOXIA KCMYXRUG3T84 NVMe®,
Ubuntu 22.04.4 LTS, 6.5.0-35 일반(조정된 adm 프로필 처리량 성능, ulimit -l 132065548, ulimit
-n 1024, ulimit -s 8192), BIOS ESE122V(SMT=꺼짐, 결정론=전원, 터보 부스트
=활성화)
결과:
CPU 실행 1 실행 2 실행 3 중간 상대 처리량 세대별
2P Turin 192C, NPS1 1565.217 1537.367 1553.957 1553.957 3 2.41
2P Turin 128C, NPS1 1103.448 1138.34 1111.969 1111.969 2.147 1.725
2P 제노아 96C, NPS1 662.577 644.776 640.95 644.776 1.245 1
2P EMR 64C 517.986 421.053 553.846 517.986 1 NA
결과는 시스템 구성, 소프트웨어 버전, BIOS 설정 등 다양한 요인에 따라 달라질 수 있습니다. - 9xx5-014: Llama3.1-70B 추론 처리량 결과는 2024년 9월 1일 기준 AMD 내부
테스트를 기반으로 합니다.
Llama3.1-70B 구성: TensorRT-LLM 0.9.0, nvidia/cuda 12.5.0-devel-ubuntu22.04, FP8,
입출력 토큰 구성(사용 사례): [BS=1024 I/O=128/128, BS=1024 I/O=128/2048,
BS=96 I/O=2048/128, BS=64 I/O=2048/2048]. 결과는 토큰/초입니다.
2P AMD EPYC 9575F(총 128개 코어) 8x NVIDIA H100 80GB HBM3, 1.5TB 24x64GB DDR5-6000, 1.0Gbps 3TB Micron_9300_MTFDHAL3T8TDP NVMe®, BIOS T20240805173113 (결정론=전원, SR-IOV=켜짐), Ubuntu 22.04.3 LTS, 커널=5.15.0-117-generic(완화=꺼짐, cpupower 주파수-세트 -g 성능, cpupower 유휴-세트 -d 2, echo 3> /proc/syss/vm/ drop_caches) ,
2P Intel Xeon Platinum 8592+(총 128개 코어) 8x NVIDIA H100 80GB HBM3, 1TB 16x64GB DDR5-5600, 3.2TB Dell Ent NVMe® PM1735a MU, Ubuntu 22.04.3 LTS, kernel-5.15.0-118-generic,
(processor.max_cstate=1, intel_idle.max_cstate=0 mitigations=off, cpupower frequency-set -g performance ), BIOS 2.1, (최대 성능, SR-IOV=On), I/O 토큰 배치 크기 EMR Turin Relative 128/128 1 - 9xx5-002C: 2024년 10월 10일 기준 www.spec.org에서 게시된 점수를 기반으로
한 SPECrate®2017_int_base 비교.
2P AMD EPYC 9965(3000 SPECrate®2017_int_base, 총 코어 384개, TDP 500W, CPU $14,813),
6.060 SPECrate®2017_int_base/CPU W, 0.205 SPECrate®2017_int_base/CPU $, https://
www.spec.org/cpu2017/results/res2024q3/cpu2017-20240923-44833.html)
2P AMD EPYC 9755(2720 SPECrate®2017_int_base, 총 코어 256개, 500W TDP, 12,984 CPU $), 5.440 SPECrate®2017_int_base/CPU W, 0.209 SPECrate®2017_int_base/CPU $, https:// www.spec.org/cpu2017/results/res2024q4/cpu2017-20240923-44837.pdf) 2P AMD EPYC 9754(1950 SPECrate®2017_int_base, 총 코어 256개, 360W TDP, 11,900 CPU $), 5.417 SPECrate®2017_int_base/CPU W, 0.164 SPECrate®2017_int_base/CPU $, https:// www.spec.org/cpu2017/results/res2023q2/cpu2017-20230522-36617.html)
2P AMD EPYC 9654(1810 SPECrate®2017_int_base, 총 코어 192개, 360W TDP, $11,805 CPU $), 5.028 SPECrate®2017_int_base/CPU W, 0.153 SPECrate®2017_int_base/CPU $, https:// www.spec.org/cpu2017/results/res2024q1/cpu2017-20240129-40896.html)
2P Intel Xeon Platinum 8592+(1130 SPECrate®2017_int_base, 총 128개 코어, 350W TDP, $11,600 CPU $) 3.229 SPECrate®2017_int_base/CPU W, 0.097 SPECrate®2017_int_base/CPU $, http:// spec.org/cpu2017/results/res2023q4/cpu2017-20231127-40064.html)
2P Intel Xeon 6780E(1410 SPECrate®2017_int_base, 총 코어 288개, 330W TDP) 4.273 SPECrate®2017_int_base/CPU W, 0.124 SPECrate®2017_int_base/CPU $, https://spec.org/cpu2017/ results/res2024q3/cpu2017-20240811-44406.html)
SPEC®, SPEC CPU® 및 SPECrate®는 Standard Performance Evaluation Corporation의 등록 상표입니다. 자세한 내용은 www.spec.org를 참조해주세요. Intel CPU TDP는 https:// ark.intel.com/에서 확인해주세요.