아래의 이미지는 하나의 256GB DDR5 RAM 모듈입니다. 하지만 이 마이크론사의 RAM 모듈은 기존 데스크톱이나 노트북 컴퓨터에 사용이 불가능하죠, 그리고 구입을 하려면 이 모듈은 미화 $1만 달러 (한화 1300만원)를 넘을 것입니다.
마이크론사 (Micron)는 거대한 256GB 용량의 DDR5-8800 MCRDIMM 메모리 모듈을 얼마전 엔비디아 (Nvidia) GTC 2024 컨퍼런스에서 선을 보였습니다.
대용량를 비롯하여 두배의 높이, 20와트 (watt) 모듈은 인텔사 (Intel)의 Xeon Scalable ‘Granite Rapid’ 프로세서를 기반으로 학습시에 대용량의 메모리를 요구하는 차세대 AI서버를 위해서 제작이 되었습니다.
GTC 컨퍼런스에는 높게 만들어진 버전을 선 보였지만 1U서버 용도의 기존 사이즈 버전의 메모리 모듈도 출시할 계획이라고 합니다.
이 두 버전 모두 32Gb DDR5의 IC를 사용하여 제작되었다고 합니다. 높은 버전은 각 면에 80개의 DRAM 칩이 설치되어 있고 기존 사이즈 버전은 2Hi 스택 패키지가 설치되어 있으므로 사용시에 좀 더 뜨거워 진다고 합니다.
MCRDIMMs (Multiplexer Combined Ranks DIMMs)는 두개의 랭크 (rank)가 동시에 작동되도록 하는 특별한 버퍼가 있는 듀얼 랭크 메모리 모듈입니다.
이 버퍼는 두개의 랭크 (rank)가 각기 다른 모듈 같이 동시에 작동되게 해주므로 두 랭크에서 각 클록 (clock)당 128 바이트의 데이터를 동시에 가지고 올 수 있어 하나의 모듈로 부터 두배의 성능이 나오게 됩니다. 그 사이에 버퍼는 호스트 메모리 컨트롤러와 8800 MT/s (megatransfers per second)의 속도의 DDR5 프로토콜로 연동이 됩니다.
마이크론 사의 산제이 메로트라 (Sanjay Mehrotra) 대표는 256GB MCRDIMM 모듈의 성능 강화를 위한 샘플링을 시작 하였다고 발표 하였습니다. 출시가 되는 날이 얼마남지 않았다는 말이죠.
이 메모리 모듈로 차세대 AI의 경쟁이 더 치열해 질 것 같습니다.
참고:
