[뉴스투데이=양대규 기자] 최근 인공지능(AI)의 발달로 급격히 데이터 처리량이 늘어나면서 현재의 컴퓨팅 성능으로 이를 빠르게 처리하지 못하는 경우가 생기고 있다.

 

14일 업계에 따르면 AI 기술이 더욱 발전하기 위해서는 데이터가 주로 상주하는 메모리 반도체 연결, '메모리 인터커넥트' 기술이 더욱 중요해지고 있다.

 

글로벌 시장조사업체 델오로의 바론 펑 리서치 디렉터는 "하드웨어 병목현상을 해결하지 않으면 데이터 센터에 AI 가속기 채택이 지연될 수 있다"고 지적했다.

 

단순히 데이터센터에 수많은 CPU, GPU, D램을 욱여넣는다고 컴퓨팅의 성능이 좋아지는 데는 한계가 있다는 것.

 

구글 사메르 쿠마르 소프트웨어 엔지니어도 "메모리가 더 똑똑해져야 한다"며 "AI 훈련은 메모리 최적화가 많이 수반된다"고 강조했다.

 

반도체 업계는 성능, 전력효율을 만족하며 메모리 성능을 높이는 것에 한계가 있다고 보고 있다. 시스템 반도체보다 미세공정으로 넘어가는 난이도가 높기 때문이다.

 

이에 삼성전자와 SK하이닉스, 인텔 등 주요 반도체 회사들은 이를 극복하는 신소재를 이용한 차세대 메모리 또는 '메모리 인터커넥트' 기술을 개발을 위해 노력 중이다.

 

특히 아직은 시간이 필요한 신소재 개발보다 현재 가동되는 데이터센터와 HPC(고성능 컴퓨팅) 등에 바로 투입할 수 있는 메모리 인터커넥트 기술은 상용화를 눈앞에 두고 있다.

 

대표적인 것이 지난 11일 삼성전자가 발표한 'CXL(Compute Express Link) 기반 D램 기술'이다.

 

삼성전자는 기존 DDR 인터페이스로는 시스템에 탑재할 수 있는 D램 용량에 한계가 있어 이를 극복할 수 있는 새로운 대안이 지속적으로 요구됐다며 CXL 기반 D램 기술을 개발한 이유를 설명했다.

 

CXL 기술은 2019년 3월 인텔이 처음 제안한 연결 기술이다. 

 

현재 CXL 컨소시엄에는 인텔을 비롯해, AMD, Arm, 델, 구글, IBM, 마이크로소프트, 자일링스 등 주요 글로벌 IT 업체들이 이사회 멤버로 가입됐다. 삼성전자는 SK하이닉스, 오라클, 마이크론, 멜라녹스, 엔비디아 등과 함께 컨트리뷰터 멤버로 가입했다.

 

삼성전자는 "2019년 CXL 컨소시엄 발족 초기부터 참여해, 글로벌 주요 데이터센터, 서버, 칩셋 업체들과 차세대 인터페이스 기술 개발을 위해 협력하고 있다"고 설명했다.

 

CXL 컨소시엄에 가입한 회사들의 면면을 보면 D램뿐만 아니라 CPU, GPU, FPGA 등을 만드는 하드웨어 업체들과 글로벌 최대의 데이터센터 기업들이 있다. 

 

CXL 프로토콜의 주된 기능이 이들 CPU와 SoC, GPU, FPGA가 직접 통신하고 메모리를 공유하도록 하는 것이기 때문이다.

 

권원옥, 오명훈 한국전자통신연구원(ETRI) 책임연구원은 지난해 4월 발표된 IITP 주간기술동향에 '인텔 CXL 기술 동향'이라는 글을 올렸다.

 

이들은 "CPU에 연결된 메모리는 캐시 일관성이 지원되며, 가속기 메모리는 주 메모리와 독립적으로 디바이스에 의해 관리된다. 가속기 내부 메모리는 디바이스마다 메모리 접근이 지원되며 프로세서 메모리와 메모리 일관성은 지원되지 않는다"고 설명했다.

 

CPU, GPU, 가속기 등 다양한 종류의 프로세서에서 메모리가 효율적으로 작동하지 않는다는 것. CXL은 이런 상황에서 소프트웨어로 공유메모리를 효과적으로 접근해 속도를 비약적으로 늘린다는 것이다.

 

삼성전자는 "CXL D램은 기존 시스템의 메인 D램과 공존이 가능하면서 시스템의 메모리 용량을 테라바이트급까지 확장할 수 있다"고 보도자료를 통해 설명했다.

 

현재 D램은 PCIe 기반으로 지난 몇년간 32GB/s 대역폭에 묶여 있다. 최신 PCIe 4.0은 64GB/s며 앞으로 출시될 5.0도 128GB/s라는 속도의 한계가 있다.

 

최신 고성능 컴퓨팅 GPU에 사용되는 HBM(High Bandwidth Memory)은 700GB/s 이상의 대역폭을 보여주나 병목현상에 취약하고 이를 위한 리소스가 많이 필요하다는 단점이 있다.

 

문제는 앞으로 데이터의 처리량은 기하급수적으로 증가할 전망이다.

 

글로벌 시장조사업체 IDC에 따르면 전 세계 데이터 생성의 총합이 2025년에 175제타바이트(ZB, 1ZB=1000조바이트) 수준이 될 것으로 전망하고 있다.

 

CXL을 사용하지 않은 기존 I/O 규격으로는 이를 처리하기 힘들다는 것.

 

인텔 I/O 기술과 표준 총괄인 데벤드라 다스 샤르마 펠로우는 "CXL 메모리를 통해 데이터센터 등에서 메모리의 사용이 한 단계 확장될 것으로 기대된다"며 "CXL을 중심으로 강력한 메모리 생태계를 구축하기 위해 삼성전자와 지속적으로 협력할 것"이라고 말했다.

 

AMD 서버 사업부 댄 맥나마라 수석 부사장은 "AMD는 클라우드와 엔터프라이즈 컴퓨팅 분야의 성능 향상을 주도하기 위해 노력하고 있다"며, "CXL과 같은 차세대 메모리 개발은 이러한 성능 향상을 실현하는 데 있어 매우 중요한 요소로, 삼성전자와 협력을 통해 데이터센터 고객에게 첨단 인터커넥트 기술을 제공할 수 있을 것으로 기대하고 있다"고 전했다.