하이닉스는 유력 학술지에 CPO 로드맵을 발표했는데, 이는 "컴퓨팅 파워 간에 빛을 활용하는 것"뿐만 아니라 빛을 메모리 인터페이스까지 확장하는 내용을 담고 있습니다.

SK하이닉스는 버지니아 대학교 및 기타 기관과 협력하여 *네이처 일렉트로닉스*에 CPO(Computational Processing Point) 기술 로드맵 논문을 발표했습니다. 이 논문은 컴퓨팅 성능이 2년마다 세 배씩 증가하는 반면, 인터커넥트 대역폭은 1.4배밖에 증가하지 않아 "대역폭 장벽"이 AI 확장의 핵심 병목 현상이라고 지적합니다. CPO 기술은 이 로드맵의 핵심적인 돌파구로 제시되었으며, 더 나아가 CPO를 메모리 인터페이스까지 확장하여 여러 AI 가속기가 동일한 메모리 풀을 공유하고 메모리 활용 효율을 향상시키는 것을 목표로 하고 있습니다.

8월 20일, SK하이닉스, 버지니아대학교 등 연구진은 최고 권위의 과학 저널인 * 네이처 일렉트로닉스 *에 고성능 컴퓨팅 및 인공지능 분야에서 코패키지드 옵틱(CPO) 기술의 개발 로드맵을 체계적으로 제시한 논문을 공동 발표했습니다. 이는 SK하이닉스가 자사의 AI 인터커넥트 아키텍처의 기술적 청사진을 이처럼 권위 있는 저널에 공개한 첫 사례입니다.

이 논문은 HBM이 칩 내부의 메모리 병목 현상을 해결했지만, AI 클러스터가 수천 개의 GPU로 확장됨에 따라 랙 간 데이터 전송이 새로운 제약 조건, 즉 "대역폭 장벽"으로 떠올랐다고 주장합니다. CPO는 이러한 병목 현상을 극복하는 핵심적인 해결책으로 제시됩니다.

본 논문의 장기적인 비전은 광 인터커넥트를 메모리 인터페이스까지 확장하는 것입니다. 기존 솔루션은 주로 프로세서와 랙 간의 데이터 전송에 초점을 맞추고 있습니다. 그러나 본 논문에서 제안하는 "광학 중심" 아키텍처는 광자 인터포저를 통해 프로세서 리소스 풀(XPU 풀)과 메모리 리소스 풀을 직접 연결합니다. 이를 통해 여러 AI 가속기가 대용량 메모리를 공유할 수 있어 현재의 물리적 패키징 제약을 극복할 수 있습니다.

이 논문의 교신 저자는 SK 하이닉스 AI 인프라 팀장인 홍승훈과 버지니아 대학교 전기컴퓨터공학과 교수인 이규상이다. 참여 기관으로는 일리노이 대학교 어바나-샴페인(UIUC), 난양공과대학교(NTU), 매사추세츠 공과대학교(MIT), 연세대학교 등이 있다.

오늘 아침 SK하이닉스는 CPO(기업공개) 계획 발표와 자사주 매입 계획 소식에 힘입어 11% 이상 급등했습니다. 국내 CPO 관련 기업들의 주가도 변동성이 큰 모습을 보였는데, 타이청광전자는 12% 이상 상승했고, 중징전자는 장중 상한가를 기록했으며, 톈준테크놀로지, 스자포토닉스, 데켈, 리안테테크놀로지도 모두 6% 이상 올랐습니다.

대역폭 한계: 컴퓨팅 성능이 강할수록 병목 현상이 더욱 두드러집니다.

AI 모델 학습은 더 이상 단일 칩이나 서버에 국한되지 않고, 랙과 포드로 구성된 대규모 네트워크 전반에서 실행됩니다. 이러한 아키텍처에서 전체 시스템 성능은 프로세서와 메모리 간의 연결 효율성뿐만 아니라 랙 간 데이터 전송 속도에도 크게 좌우됩니다.

데이터에 따르면 컴퓨팅 성능은 2년마다 약 3배씩 증가하는 반면, 상호 연결 대역폭은 같은 기간 동안 약 1.4배만 증가합니다.

이러한 격차가 바로 "대역폭 장벽"의 원인입니다. 기존의 구리선 전기 연결 방식은 단거리 전송에서는 여전히 비용 효율성이 높지만, 전송 속도와 거리가 증가함에 따라 신호 손실과 전력 소비가 급격히 증가하여 점점 더 복잡한 보상 회로가 필요하게 되고, 지연 시간 또한 늘어납니다.

이규상 교수는 논문에서 "컴퓨팅 칩의 성능이 아무리 향상되더라도 칩 간 데이터 전송 속도가 따라가지 못하면 전체 시스템 성능을 향상시킬 수 없다. 본질적인 물리적 한계를 지닌 구리 인터커넥트를 광 인터커넥트로 대체하는 것이 미래의 확장성을 달성하는 가장 유망한 방법이다."라고 직접적으로 지적했습니다.

CPO: 광학 엔진을 프로세서 패키지에 담는 것

CPO의 핵심 아이디어는 광 트랜시버(TRx)를 프로세서와 동일한 패키지에 통합하여 칩들이 장거리 전기 신호 대신 광 신호를 사용하여 데이터를 교환할 수 있도록 하는 것입니다.

홍승훈은 이렇게 설명했습니다. "CPO는 AI 시스템에서 데이터가 흐르는 방식을 근본적으로 바꾸어 컴퓨팅 성능 확장에 있어 가장 큰 장애물 중 하나를 제거합니다."

구체적으로, CPO는 고속 전기 신호의 전송 거리를 가능한 최단 거리로 압축하고, 나머지 경로를 광 링크로 대체합니다. 이를 통해 패키지 내부 전기 상호 연결의 효율성을 유지하면서 빛의 낮은 손실 특성을 활용하여 칩, 랙 및 클러스터 간 고속 전송을 구현하고, 전자기 간섭에 대한 저항력도 강화합니다.

이 논문은 차세대 AI 인프라에 대한 명확한 기술 사양을 제시합니다. 즉, 노드당 100Tb/s 이상의 대역폭, 1pJ/bit 미만의 에너지 소비량, 그리고 10나노초 미만의 칩 간 지연 시간을 요구합니다.

이 논문은 또한 2D 및 2.5D 중간층 구성에서 3D 이종 적층으로 발전해 온 CPO의 진화를 개괄적으로 설명하고, 상용화를 위해 극복해야 할 주요 기술적 과제들을 나열합니다.

장기적인 목표: 빛을 메모리 인터페이스로 확장하는 것

이 논문은 광학 인터커넥트를 메모리 인터페이스까지 확장하는 장기적인 비전을 제시하는데, 이는 현재의 CPO 논의보다 한 단계 더 나아간 아키텍처적 아이디어입니다.

기존 솔루션에서 광 인터커넥트는 주로 프로세서 간 및 랙 간 데이터 전송에 사용됩니다. 그러나 제안된 "광학 중심" 아키텍처는 광자 인터포저를 통해 프로세서 리소스 풀(XPU 풀)과 메모리 리소스 풀을 직접 연결합니다.

이 아키텍처의 실질적인 의미 는 여러 AI 가속기가 각각 독립적인 메모리를 갖는 대신 대규모 메모리 풀을 공유할 수 있다는 점에 있습니다. 이는 메모리 사용 효율성을 향상시킬 뿐만 아니라 모델 크기가 계속 증가함에 따라 AI 인프라에 더욱 유연한 확장성을 제공합니다.

이규상 교수는 "광학 인터커넥트를 메모리 인터페이스까지 확장하면 컴퓨팅 칩을 둘러싼 물리적 한계를 극복하고 메모리 용량 및 전기 연결 수에 대한 제약을 없앨 수 있을 것"이라고 밝혔습니다.

홍씨는 "가장 큰 장점은 데이터 이동 효율성을 향상시켜 AI 시스템을 더욱 유연하게 확장할 수 있다는 점입니다. 이는 궁극적으로 고객에게 AI 인프라를 더욱 효율적으로 운영할 수 있는 기반을 제공합니다."라고 덧붙였습니다.

HBM 공급업체부터 시스템 아키텍처 참여자에 이르기까지

HBM은 AI 가속기 패키징 내 메모리 대역폭 문제를 해결했으며, 이는 최근 SK하이닉스의 핵심 경쟁 우위 요소였습니다. 이번 CPO 로드맵 발표는 SK하이닉스가 기술 전략을 단일 부품에서 시스템 수준 아키텍처로 확장하고 있음을 의미합니다.

인터뷰에서 홍 대표는 이러한 변화를 명확히 밝혔습니다. "메모리 기업들은 단일 부품을 제공하는 기업에서 CPO와 같은 기술을 통해 고객 시스템 전체의 경쟁력 향상을 지원하는 파트너로 진화하고 있습니다."

이규상 교수는 또한 이 과정에서 학계와 산업계 간의 협력이 필수적이라고 강조하며, "학계는 성능의 한계를 뛰어넘는 데 탁월하고, 산업계는 생산 수율, 비용, 열 방출, 공급망 등 대규모 배포에 필요한 실질적인 요구 사항을 잘 이해하고 있습니다. 이러한 두 가지 관점을 결합하는 것이 실현 가능한 로드맵을 개발하는 데 필수적입니다."라고 말했다.

그는 또한 상용화에 여전히 상당한 어려움이 있다고 인정하며, "저전력 광자 소자 통합부터 일관성 프로토콜 개발 및 시스템 신뢰성 향상에 이르기까지 해결해야 할 과제가 많습니다. 핵심은 메모리 소자를 컨트롤러, 광자 부품 및 패키징과 통합 시스템으로 공동 설계하는 데 있습니다."라고 말했습니다.

위험 경고 및 면책 조항

투자는 위험을 수반하므로 신중을 기하시기 바랍니다. 본 글은 개인적인 투자 조언이 아니며, 개별 사용자의 구체적인 투자 목표, 재정 상황 또는 필요를 고려하지 않았습니다. 사용자는 본 글에 제시된 의견, 견해 또는 결론이 자신의 특정 상황에 적합한지 여부를 판단해야 합니다. 본 정보를 바탕으로 내린 모든 투자 결정은 전적으로 사용자의 책임입니다.