[서울파이낸스 이서영 기자] 인텔은 자사의 인공지능(AI) 하드웨어 가속기인 '하바나 가우디2'가 챗GPT에 사용된 엔비디아의 A100보다 추론 성능이 20% 더 빠르다고 4일 밝혔다.

머신러닝 애플리케이션(앱) 개발 업체인 허깅 페이스(Hugging Face)의 테스트에 따르면, 매개변수 1760억 개를 사용한 '블룸즈 모델'(트랜스포머 기반 다국어 거대 언어 모델)에서 이같은 결과가 나왔다. 

하나바 가우디2에서 컴퓨터 비전 작업을 실행할 때 동급 A100 기반 서버 대비 1.8배 높은 와트당 처리량을 나타냈다. 또한 가우디2는 동급의 엔비디아 기반 인스턴스보다 최대 40% 더 나은 가격 대비 성능을 제공한다고 인텔 측은 말했다. 

이에 인텔 측은  "현재 시중에 나와 있는 어떤 GPU보다 인텔의 AI 하드웨어 가속기의 추론 작업 속도가 더 빠르다"고 설명했다. 

이서영 기자 다른기사 보기