AI 서버 병목은 GPU만이 아니다: 삼성 PM1763이 보여준 SSD의 역할

원문 링크: WordPress 원문

언어 선택 / Choose a language

KO · 한국어EN · English

AI 서버의 성능을 이야기할 때 대부분의 시선은 GPU에 쏠립니다. 하지만 서버를 하나의 공장에 비유하면 GPU는 생산 라인이고, SSD는 원자재 창고에 가깝습니다. 생산 라인이 아무리 빨라도 창고에서 자재가 제때 나오지 않으면 라인은 멈춰서 기다릴 수밖에 없습니다. 값비싼 GPU가 데이터를 기다리며 놀지 않게 하는 것, 그것이 AI 인프라에서 스토리지가 맡은 조용하지만 중요한 역할입니다.

이런 배경에서 삼성전자는 2026년 7월 8일, PCIe 6.0 인터페이스를 적용한 서버용 SSD ‘PM1763’의 양산 시작을 공식 발표했습니다. 이 글은 공식 발표에 담긴 내용을 정리하고, 제조사가 제시한 수치와 실제 시스템에서 별도로 확인해야 할 효과를 구분해 보는 교육용 해설입니다. 특정 제품의 구매나 특정 기업 주식의 매수·매도를 권유하는 글이 아니라는 점을 먼저 밝혀 둡니다.

결론 먼저: AI 병목은 데이터가 지나가는 경로 전체의 문제입니다

AI 학습과 추론에서 데이터는 대체로 저장장치에서 시스템 메모리를 거쳐 GPU로 이동합니다. 학습 단계에서는 대규모 데이터셋을 반복해서 읽어 들여야 하고, 중간중간 체크포인트라는 이름으로 모델 상태를 저장장치에 다시 써야 합니다. 추론 단계에서는 서비스를 시작하거나 모델을 교체할 때 수십 기가바이트에 이르는 모델 가중치를 저장장치에서 불러와야 합니다. 이 경로의 어느 한 구간이라도 느리면, 그 앞뒤의 빠른 부품들은 기다리는 처지가 됩니다.

문제는 GPU가 매우 비싼 자원이라는 점입니다. GPU가 데이터를 기다리며 쉬는 시간은 그대로 비용 낭비로 이어지기 때문에, 데이터센터 운영자 입장에서는 저장장치의 대역폭과 응답 속도가 전체 투자 효율에 영향을 주는 변수가 됩니다. 그래서 AI 인프라 논의에서 SSD는 단순한 ‘보관함’이 아니라 데이터 공급 라인의 한 축으로 다뤄집니다.

이번 삼성 발표를 이런 틀에서 보면 이해가 쉽습니다. PM1763은 창고에서 생산 라인으로 자재를 내보내는 출고 속도, 즉 저장장치 구간의 대역폭을 끌어올리는 것을 목표로 한 제품입니다. 다만 창고 출고가 빨라진다고 공장 전체 생산량이 같은 비율로 늘어나는 것은 아니라는 점도 함께 기억할 필요가 있습니다.

공식 원문·검증된 수치만으로 재구성한 보조 시각자료입니다. 이미지를 누르면 핵심 공식 출처가 열립니다.

발표에서 확인된 사실: PM1763의 사양 정리

삼성전자의 공식 발표에 따르면 PM1763은 9세대 V낸드와 새로 개발한 4나노미터 공정 컨트롤러를 결합한 서버용 SSD입니다. 용량은 4TB, 8TB, 16TB 세 가지로 제공됩니다. 인터페이스는 차세대 규격인 PCIe 6.0을 지원하며, 삼성은 이 제품을 차세대 AI 인프라에 최적화된 SSD로 소개했습니다.

성능 수치는 16TB 모델 기준으로 제시됐습니다. 순차 읽기 최대 28,400MB/s, 순차 쓰기 최대 21,900MB/s이며, 전작 대비 2배 이상의 성능과 1.8배 이상의 전력 효율을 달성했다는 것이 삼성 측 설명입니다. 발표문에는 이 밖에도 D2C(칩 직접 접촉) 액체냉각 환경에 대한 최적화, 양자내성암호(PQC) 알고리즘 적용, TDISP 지원 같은 기능이 언급됐습니다.

항목 발표 내용 (제조사 제시)

낸드·컨트롤러 9세대 V낸드, 신형 4nm 컨트롤러

용량 4TB / 8TB / 16TB

순차 읽기 (16TB 기준) 최대 28,400MB/s

순차 쓰기 (16TB 기준) 최대 21,900MB/s

전작 대비 성능 2배 이상, 전력 효율 1.8배 이상

여기서 한 가지를 분명히 해두겠습니다. 위 표의 수치는 모두 제조사가 발표한 값이며, 이 글을 쓰는 시점에 독립적인 제3자 벤치마크 결과는 확인되지 않았습니다. ‘확인된 사실’은 삼성이 이런 내용을 발표했다는 것이고, 수치 자체의 실측 검증은 별개의 문제입니다.

발표 수치를 읽는 법: 스펙시트와 시스템 성능은 다릅니다

SSD 스펙시트의 최대 순차 읽기·쓰기 속도는 보통 가장 유리한 조건에서 측정됩니다. 큰 블록 크기로, 깊은 명령 대기열을 유지하며, 순차적으로 데이터를 읽고 쓰는 상황이 대표적입니다. 실제 서버 워크로드는 이와 다릅니다. 크고 작은 요청이 섞이고, 무작위 접근이 끼어들며, 파일시스템과 드라이버 계층의 오버헤드도 더해집니다.

또 하나 살펴볼 부분은 상대 비교 표현입니다. ‘전작 대비 2배 이상’, ‘전력 효율 1.8배 이상’ 같은 표현은 비교 기준이 되는 제품과 측정 조건에 따라 의미가 달라질 수 있습니다. 발표문 기준으로는 이전 세대 제품과의 비교라는 점만 확인되며, 세부 측정 조건은 제조사의 설명 범위 안에 있습니다.

그렇다고 발표 수치가 무의미하다는 뜻은 아닙니다. 인터페이스 세대가 바뀌고 컨트롤러가 새로 설계되면 최대 대역폭이 크게 오르는 것은 자연스러운 흐름입니다. 요점은 분류입니다. 독립 벤치마크가 나오기 전까지 이 수치들은 ‘제조사 주장’이라는 서랍에 넣어 두고, 실측 자료가 나오면 그때 다시 꺼내 비교하는 것이 건강한 읽기 방법입니다.

“40GB 모델을 약 1.4초에” — 전송 속도와 추론 속도는 다릅니다

삼성 발표에는 40GB 크기의 대형언어모델(LLM)을 약 1.4초에 전송할 수 있다는 예시가 등장합니다. 이 숫자를 읽을 때 주의할 점이 있습니다. 이것은 저장장치의 전송 대역폭을 체감하기 쉽게 환산한 예시이지, AI가 질문에 답하는 속도가 1.4초가 된다는 의미가 아닙니다.

비유하자면 도서관에서 책을 서가에서 책상까지 가져오는 시간과, 그 책을 읽고 요약하는 시간은 별개입니다. 모델 파일을 저장장치에서 메모리로 옮기는 것이 ‘가져오기’라면, 실제 추론은 그 후 GPU가 수행하는 ‘읽고 요약하기’에 해당합니다. 추론 속도는 GPU 연산 능력, 메모리 대역폭, 배치 크기, 소프트웨어 최적화 같은 요인이 좌우합니다.

그렇다면 빠른 전송이 의미 없는 것일까요? 그렇지 않습니다. 서버를 재시작하거나, 여러 모델을 번갈아 올리거나, 수요에 따라 서버를 늘렸다 줄이는 환경에서는 모델을 메모리에 올리는 시간, 이른바 콜드 스타트 시간이 서비스 품질에 영향을 줍니다. 저장장치의 대역폭은 바로 이 구간을 줄이는 데 기여할 수 있습니다. 다만 그 효과의 크기는 시스템 구성마다 다르므로, 실제 환경에서의 측정이 필요합니다.

PCIe 6.0이라는 도로 폭, 그리고 생태계라는 조건

PCIe는 SSD와 CPU, GPU 같은 부품을 잇는 고속 도로 규격입니다. 세대가 하나 올라갈 때마다 레인당 대역폭이 대략 두 배가 되는 것이 이 규격의 오랜 흐름이고, PCIe 6.0은 5.0 대비 다시 두 배 수준의 도로 폭을 목표로 설계됐습니다. PM1763이 PCIe 6.0을 지원한다는 것은, 넓어진 도로를 달릴 준비가 된 차량이 나왔다는 의미로 볼 수 있습니다.

다만 도로가 넓어지려면 차량만으로는 부족합니다. SSD가 PCIe 6.0을 지원해도, 이를 받아 줄 서버 플랫폼 즉 CPU와 메인보드, 스위치 등이 같은 세대를 지원해야 실제 속도가 나옵니다. 차세대 인터페이스 제품이 나온 뒤 플랫폼 생태계가 따라오기까지 시간이 걸리는 것은 반도체 업계에서 반복돼 온 패턴입니다.

따라서 PM1763의 발표 성능이 현장에서 얼마나 발휘될지는 PCIe 6.0 지원 서버 플랫폼의 보급 속도라는 미래 조건에 달려 있습니다. 이 부분은 예측이 아니라 앞으로 지켜봐야 할 변수로 남겨 두는 것이 정확합니다.

전력 효율과 액체냉각, 그리고 보안 기능이 함께 언급된 이유

이번 발표에서 성능 못지않게 눈여겨볼 대목은 전력과 냉각입니다. 삼성은 전작 대비 1.8배 이상의 전력 효율을 제시했는데, 이는 최근 데이터센터의 가장 큰 제약이 전력 공급이라는 업계 상황과 맞닿아 있습니다. 같은 전력으로 더 많은 데이터를 옮길 수 있다면, 그만큼 데이터센터의 전력 예산에 여유가 생깁니다.

D2C 액체냉각 최적화가 언급된 것도 같은 맥락입니다. 고밀도 AI 서버에서는 공기 냉각만으로 발열을 감당하기 어려워 액체냉각 도입이 늘고 있으며, 부품 단위에서 이런 환경에 맞춘 설계가 요구되고 있습니다. 다만 이 최적화 역시 제조사가 밝힌 기능이며, 실제 냉각 환경에서의 효과는 시스템 차원의 검증 영역입니다.

보안 기능으로는 양자내성암호(PQC) 알고리즘과 TDISP 지원이 언급됐습니다. PQC는 미래의 양자컴퓨터가 기존 암호를 무력화할 가능성에 대비하는 차세대 암호 체계이고, TDISP는 여러 고객이 같은 하드웨어를 나눠 쓰는 클라우드 환경에서 장치와 가상머신 사이의 신뢰를 확보하기 위한 표준 규격입니다. AI 데이터의 민감도가 높아지면서 저장장치 수준의 보안이 요구 사양이 되어 가는 흐름을 반영한 것으로 해석할 수 있습니다. 이들 역시 제조사가 명시한 기능이라는 점은 동일합니다.

앞으로 확인해야 할 것들

이번 발표를 균형 있게 소화하려면 몇 가지 후속 확인 지점을 정리해 두는 것이 좋습니다. 첫째, 독립 벤치마크입니다. 순차 성능뿐 아니라 무작위 읽기·쓰기, 지속 부하에서의 성능 유지, 발열에 따른 속도 저하 여부가 실제 워크로드에서는 더 중요할 수 있습니다. 둘째, PCIe 6.0 플랫폼의 보급입니다. 인터페이스를 온전히 활용할 수 있는 서버가 언제, 얼마나 확산되는지가 실효성을 좌우합니다.

셋째, 채택 현황입니다. 이번 발표는 양산 시작을 알린 것이며, 어떤 고객이 어느 규모로 도입하는지는 발표에 포함되지 않았습니다. 넷째, 경쟁 구도입니다. 서버용 SSD 시장에는 복수의 제조사가 있고, 차세대 인터페이스 전환기에는 각 사의 제품과 실측 비교 자료가 순차적으로 나오게 됩니다.

정리하면 이렇습니다. PM1763 발표는 AI 인프라의 병목이 GPU 하나로 환원되지 않으며, 데이터가 지나가는 경로 전체가 설계 대상이라는 사실을 보여주는 사례입니다. 발표 수치는 제조사 주장으로 분류해 두되, 저장장치가 AI 데이터 경로에서 맡는 역할 자체는 앞으로 더 자주 논의될 주제입니다. 이 글은 정보 제공과 교육 목적으로 작성됐으며, 특정 제품의 구매나 관련 기업 주식의 매수·매도를 권유하지 않습니다.

참고자료

• Samsung Begins Mass Production of PM1763 SSD Optimized for Next-Generation AI Infrastructure — Samsung Newsroom