2024년에는 메모리와 스토리지를 별도 부품처럼 설명하기 어려워졌습니다. ISSCC 외장 메모리 세션의 회사 논문 8편은 DRAM과 NAND의 밀도, 핀 속도, 적층 대역폭을 높였습니다. FAST의 회사 소속 논문 12편은 소자 성능만으로 해결되지 않는 비용을 보여 줬습니다. 페이지 폴트와 캐시 입출력 판단, 파일시스템 모드, 복제, 단편화, 클라우드 블록 스토리지 운영이 실제 성능을 계속 좌우했습니다. ACM Transactions on Storage(TOS)의 회사 소속 논문 15편은 CXL 메모리, SSD 압축, 중복 제거, RAID, 영속 색인으로 같은 문제를 확장했습니다.

이 글은 명시한 범위에 들어온 논문 35편을 모두 색인합니다. 프로세서 내부 SRAM과 메모리 내 연산 매크로, 튜토리얼, 기조연설, 패널, 회사 소속 저자가 없는 논문은 제외했습니다. 회로 분야의 해당 논문은 별도 연례 회로 색인에서 다룹니다. 학회 논문은 개최연도, 저널 논문은 최초 공개연도를 기준으로 삼았습니다. 회사 소속은 공개된 저자 정보에 상업 조직이 적어도 하나 포함된 경우로 한정했습니다.

호스트 메모리와 외장 메모리 인터페이스, 컨트롤러, NVMe 매체를 연결한 개념 스토리지 서버 위에 2024년 ISSCC, FAST, ACM TOS의 회사 소속 논문 35편을 표시했습니다. 실제 제품 사진이 아닙니다. 이 글을 위해 새로 만든 도판입니다.

HBM 성능에 패키지 구조가 포함됐습니다

2024년 ISSCC 메모리 세션은 서로 다른 세 가지 스케일링 문제를 한자리에 놓았습니다. SK hynix는 48 GB 용량의 16단 HBM3E에서 1,280 GB/s를 보고했습니다. 적층 전체를 둘러 배치한 전력 TSV와 6위상 읽기 데이터 스트로브(RDQS)는 대역폭 숫자만 높이기 위한 장치가 아닙니다. 같은 패키지 경계에 더 많은 다이와 채널을 넣을 때 커지는 전력 공급 비용과 TSV 면적을 함께 줄이기 위한 구조입니다.[1]

Samsung의 32 Gb DDR5는 대칭 모자이크 구조로 핀당 8.0 Gb/s를 구현했고, SK hynix의 LPDDR5 Turbo는 1.05 V에서 핀당 10.5 Gb/s에 도달했습니다. 두 결과가 푸는 시스템 조건은 다릅니다. DDR5는 교체 가능한 모듈과 큰 용량을 지원해야 합니다. LPDDR은 짧고 밀집된 채널에서 에너지와 신호 여유를 지켜야 합니다. HBM은 넓은 인터페이스로 트래픽을 분산하지만 적층과 검사, 열, 패키지 복잡도를 부담합니다. 핀 속도만 비교하면 각 제품이 해결한 문제가 사라집니다.

GDDR7은 또 다른 답을 제시했습니다. SK hynix는 핀당 35.4 Gb/s, Samsung은 37 Gb/s를 보고했으며 두 제품 모두 PAM3 신호를 사용했습니다. 세 전압 레벨은 이진 NRZ보다 전이 한 번에 더 많은 정보를 담지만 판정 여유가 줄어듭니다. 이에 따라 클로킹과 이퀄라이제이션, 보정, 누화 억제가 메모리 소자의 일부가 됩니다. Samsung의 별도 4 nm 송수신기는 차세대 메모리와 칩렛용으로 선 하나당 48 Gb/s를 기록했습니다. 외장 메모리 인터페이스가 깨끗한 보드 채널을 가정하는 대신 능동 보정 회로를 품기 시작한 것입니다.

NAND 밀도는 병렬 입출력과 정책이 있어야 쓸 수 있습니다

Samsung의 280단 1 Tb QLC NAND는 28.5 Gb/mm²와 3.2 GB/s 인터페이스를, Micron의 1 Tb TLC는 300 MB/s 쓰기 처리량을 보고했습니다. 밀도와 인터페이스 속도, 프로그램 처리량은 플래시의 서로 다른 구간을 측정합니다. 고밀도 어레이는 비트당 비용을 낮출 수 있지만 플레인이나 블록, 다이 장애가 영향을 주는 데이터 양도 늘릴 수 있습니다. 빠른 인터페이스가 프로그램 지연이나 가비지 컬렉션을 없애지는 않습니다. 컨트롤러와 워크로드 경계를 정하지 않으면 이 숫자를 제품끼리 비교할 수 없습니다.[1]

FAST 논문은 그 경계를 보여 줬습니다. Samsung 협업팀은 최신 플래시에서도 파일 단편화가 사라지지 않는다고 측정했습니다. 장치 내부 병렬성과 파일시스템 할당 정책이 여전히 충돌할 수 있습니다. NetApp의 ONTAP 논문은 반대 방향을 다뤘습니다. SSD 지연시간이 충분히 짧아지자 오래된 소프트웨어 가정이 병목으로 드러났고, 성숙한 스토리지 스택을 다시 설계해야 했습니다. 매체가 먼저 빨라진 뒤 디스크 지연에 가려졌던 소프트웨어 작업을 줄인 사례입니다.

메모리 확장은 페이지 폴트 경계를 옮겼습니다

Huawei와 Tsinghua의 TeRM은 RDMA에 연결된 메모리를 SSD로 확장하면서 RNIC와 CPU의 페이지 폴트를 핵심 경로에서 뺐습니다. Huawei의 이기종 메모리 파일시스템 연구는 DRAM 캐시와 가상메모리 관리를 함께 조정했습니다. 두 시스템이 노출하는 인터페이스는 다르지만 용량을 배치 문제로 본다는 점은 같습니다. 주소 변환과 폴트 처리, 축출, 네트워크 작업이 이득을 소모하면 계층을 하나 더 넣어도 유효 용량은 늘지 않습니다.[2]

저널 논문은 이 관계를 더 직접적으로 다뤘습니다. Huawei Cloud가 참여한 분리형 메모리 radix tree와 Panmnesia가 참여한 CXL 메모리 기반 대규모 근사 최근접 탐색은 색인을 원격 용량에 걸쳐 배치했습니다. 판단 기준은 장치 용량이 아니라 연쇄 접근 횟수, 실패한 접근의 경로 길이, 소프트웨어가 이를 겹쳐 실행하거나 피할 수 있는 정도입니다. Panmnesia 관련 논문에는 이해관계도 밝힙니다. Silicon & Systems 운영자 정명수는 Panmnesia CEO이며 관련 CXL 연구 프로그램의 공동 저자입니다.

호스트와 장치가 캐시 정책을 나누기 시작했습니다

OmniCache는 호스트 캐시와 니어 스토리지 캐시를 결합하고 연산을 어디에서 수행할지 선택했습니다. Baleen은 플래시 캐시의 진입과 프리페치를 학습했습니다. 하나는 정책을 장치 가속기 쪽으로 옮겼고, 다른 하나는 쓰기와 색인 비용을 회수하지 못할 객체가 플래시 캐시를 차지하지 않도록 했습니다. 두 연구 모두 가장 가까운 캐시나 가장 큰 캐시가 자동으로 최선이라는 전제를 버렸습니다.[2]

캐시 배치에는 조회 지연과 이동 대역폭, 쓰기 증폭, 잘못된 축출이라는 최소 네 가지 비용이 있습니다. 장치 쪽 연산은 호스트 트래픽을 줄일 수 있지만 전체 워크로드 정보가 부족할 수 있습니다. 플래시 캐시는 용량을 늘리지만 내구성을 사용합니다. 학습 정책은 반복 패턴을 찾지만 워크로드가 바뀌면 실패할 수 있습니다. 2024년 논문이 유용한 이유는 단독 조회 회로가 아니라 완성된 경로 안에서 이 정책을 측정했기 때문입니다.

파일시스템이 하드웨어 때문에 모호해진 결정을 다시 맡았습니다

Data Direct Networks와 Whamcloud는 Lustre 내부에서 버퍼 입출력과 직접 입출력을 동적으로 전환했습니다. Samsung과 Meta의 I/O Passthru는 더 유연한 Linux 입출력 경로를 업스트림에 반영했습니다. 두 연구는 스토리지 API의 반복되는 한계를 다룹니다. 애플리케이션은 락 경합과 캐시 압력, 장치 지연, 파일시스템 상태를 알기 전에 모드를 선택하도록 요구받습니다.[2]

저널 논문도 같은 문제를 넓혔습니다. Samsung 협업팀은 비휘발성 메모리를 사용하는 LSM 구조에 B+ tree를 결합했고, Huawei 협업팀은 F2FS에 중복 제거를 넣었습니다. SmartX 협업팀은 NVM 스토리지에서 온칩 DMA를 분석했습니다. Seagate와 ParTec는 HDD를 주 저장 매체로 사용할 때 인라인 압축과 중복 제거를 다시 평가했습니다. 빠른 장치 하나로 요약할 수 없는 결과입니다. 운영체제가 순서와 메타데이터, 중복 데이터를 관리하는 위치가 바뀌었습니다.

신뢰성은 복제에서 상태 탐색으로 확장됐습니다

VMware Research의 IONIA는 디스크 기반 키-값 저장소의 복제를 다뤘습니다. Nimble Research가 참여한 Metis는 다양한 입력과 상태를 탐색하는 파일시스템 모델 검사기입니다. Dell의 IDEA는 중복 제거 색인이 물리 객체와 논리 객체의 동일성을 어떻게 표현할지 다시 설계했습니다. 계층은 다르지만 어떤 상태가 장애를 견뎌야 하고 이를 어떻게 증명할 것인지 묻는다는 점은 같습니다.[2]

클라우드에서는 범위가 더 넓어집니다. Alibaba의 EBS 논문은 운영 중인 블록 스토어의 진화를 다뤘습니다. 저널에는 Alibaba, IBM, China Mobile, Tencent, PingCAP 등이 참여한 블록 이미지, 로그 스토리지, RAID, 컨테이너 중복 제거, 지연시간 계약 연구가 실렸습니다. 이 규모의 정확성 경계에는 배포와 복구, 테넌트 격리, 백그라운드 작업, 운영 가시성이 포함됩니다. 장치 오류율이나 복제 계수 하나로 설명할 수 없습니다.

시스템 구매자가 확인할 네 가지 기준

첫째, 측정 경계를 확인해야 합니다. HBM 적층 대역폭과 NAND 인터페이스 속도, 파일시스템 처리량, 캐시 적중률, 클라우드 서비스 지연은 서로 바꿔 쓸 수 없습니다. 숫자에는 측정에 포함된 하드웨어와 소프트웨어 범위가 따라야 합니다.

둘째, 피한 이동을 확인해야 합니다. 용량을 늘린 설계가 원격 페이지 폴트와 메타데이터 트래픽, 쓰기 증폭을 만들 수 있습니다. 2024년의 강한 시스템은 CPU와 RNIC, DRAM, 컨트롤러, 플래시, 복제본 사이에서 특정 경계를 건너는 작업을 줄였습니다.

셋째, 장애 범위를 확인해야 합니다. 계층이 늘면 부분 장애와 복구 상태도 늘어납니다. 모델 검사와 인증 색인, 복제, 데이터 축소는 정상 처리량보다 어떤 상태를 보존하는지로 평가해야 합니다.

마지막으로 데이터 수명을 구분해야 합니다. HBM과 LPDDR은 활성 데이터 경로를 최적화하고, 플래시 캐시는 내구성을 소비하며, 클라우드 아카이브는 수년 보존을 목표로 하고, 블록 스토어는 계속되는 마이그레이션을 견뎌야 합니다. 정책 없이 하나의 계층이 네 조건을 모두 최적화할 수는 없습니다.

2024년 회사 논문 전체 목록

아래 목록은 순위가 아니라 발행 기록입니다. 각 링크에서 전체 저자 목록을 확인할 수 있습니다.

ISSCC 외장 메모리 8편

  • 13.1, PAM3를 사용한 핀당 35.4 Gb/s 16 Gb GDDR7, SK hynix.
  • 13.2, 대칭 모자이크 구조의 32 Gb, 핀당 8.0 Gb/s DDR5, Samsung Electronics.
  • 13.3, 280단 1 Tb QLC 3D NAND, 28.5 Gb/mm², 3.2 GB/s 입출력, Samsung Electronics.
  • 13.4, 48 GB 16단 1,280 GB/s HBM3E, SK hynix.
  • 13.6, PAM3 이퀄라이제이션을 적용한 16 Gb 37 Gb/s GDDR7, Samsung Electronics.
  • 13.7, 300 MB/s 쓰기 처리량의 1 Tb TLC 3D NAND, Micron Technology.
  • 13.8, 16 Gb 핀당 10.5 Gb/s LPDDR5 Turbo, SK hynix.
  • 13.10, 4 nm 48 Gb/s/wire 메모리·칩렛 송수신기, Samsung Electronics.[1]

FAST 스토리지 시스템 12편

ACM Transactions on Storage 15편

출처와 저작권 안내

이 글은 2024년 공식 학회 프로그램, USENIX 공개 논문 페이지, ACM 발행 메타데이터를 독립적으로 분석해 다시 쓴 편집 다이제스트입니다. 기술 주장과 측정값은 새로운 문장으로 설명했으며 IEEE·ACM 도판과 표, 출판사 편집 형식을 사용하지 않았습니다. 본문 도판은 로고가 없는 개념 하드웨어 재질 이미지 위에 수치와 레이블을 코드로 합성해 이 글을 위해 만들었습니다. ISSCC 논문의 저작권은 © IEEE 2024이며, ACM TOS와 FAST 논문의 권리 조건은 각 발행 기록을 따릅니다.