[서울파이낸스 여용준 기자] SK하이닉스가 지난 12일(현지시간)부터 사흘간 미국 캘리포니아주 메리어트 산타클라라 호텔에서 열린 'AI Hardware & Edge AI Summit(AI 서밋) 2023'에서 GDDR6-AiM 기반의 생성형 AI 가속기 카드인 'AiMX' 시제품을 최초 공개 및 시연했다고 18일 밝혔다.
가속기(Accelerator)는 각종 정보 처리와 연산에 특화 설계한 칩을 사용해 만든 특수 목적의 하드웨어 장치를 통칭한다. AiMX(AiM based Accelerator)는 GDDR6-AiM 칩을 사용해 대규모 언어 모델(LLM)에 특화된 SK하이닉스의 가속기 카드 제품이다.
AI 서밋은 영국 마케팅 기업 키사코 리서치가 주최하는 연례 행사로 글로벌 IT 기업과 유명 스타트업이 참가해 인공지능과 머신러닝 개발 성과를 공유하는 자리다. SK하이닉스가 이 서밋에 참가한 것은 올해로 세 번째다.
회사는 이번 서밋에서 'AI 성능을 가속하는 SK하이닉스의 PIM 반도체 AiM(Boost Your AI: Discover the Power of PIM with SK hynix’s AiM)'이라는 슬로건을 걸고 GDDR6-AiM과 이 제품을 여러 개 연결해 성능을 개선한 가속기 카드 AiMX 시제품을 처음 선보였다. PIM(Processing-In-Memory)은 메모리 반도체에 연산 기능을 더해 AI와 빅데이터 처리 분야에서 데이터 이동 정체 문제를 풀 수 있는 차세대 기술이다.
생성형 AI는 데이터 학습량이 많을수록 우수한 결과를 내기 때문에, 대량의 데이터를 다루면서 저전력, 고속으로 작동하는 메모리를 필요로 한다. SK하이닉스는 이번 행사에서 메타의 생성형 AI인 'OPT 13B' 모델을 AiMX 시제품을 탑재한 서버 시스템에서 시연했다. GDDR6-AiM 칩을 탑재한 AiMX 시스템은 GPU를 탑재한 시스템 대비 반응 속도는 10배 이상 빠르지만, 전력 소모는 5분의 1 수준이다.
SK하이닉스는 AiMX의 장점을 구체적으로 설명하는 세션 발표도 현장에서 진행했다. 임의철 SK하이닉스 메모리솔루션담당 부사장은 '생성형 AI 서비스를 위한 효율적 AiM 가속 솔루션'이라는 주제로 GPU(그래픽칩)와 AiMX의 성능을 비교하며 차세대 지능형 메모리 반도체의 미래를 설명했다.
