하이퍼엑셀은 거대언어모델(LLM)에 최적화된 인공지능(AI) 반도체 개발 기업이다.
2023년 1월 KAIST 전기및전자공학부 교수인 김주영 대표가 창업한 교원창업기업이다. 창업한 지 1년도 되지 않아 미래에셋벤처투자와 KB인베스트먼트 등으로부터 60억원의 시드 투자를 유치했다.
하이퍼엑셀은 김 대표를 주축으로 KAIST 연구소에서 LLM 특화 반도체 연구개발(R&D)을 시작하는 등 창업 이전부터 LLM 특화 반도체 개발에 주력해왔다. 경쟁사 대비 2년 이상 빨랐다.
지난해 7월 AI 반도체 'LPU(Latency Processing Unit)'를 개발했다. 세계 최초 LLM 추론 특화 반도체 LPU로 저비용, 저지연, 도메인 특화가 장점이다.
기존 고비용·저효율 그래픽처리장치(GPU)를 대체할 대항마로 선보인 것이다. 엔비디아 A100 기반 슈퍼컴퓨터보다 성능은 최대 50%, 가격 대비 성능은 2.4배 가량 높였다.
이를 기반으로 같은 해 11월 프로그래머블반도체(FPGA) 기반으로 LPU 8개를 탑재한 생성형 AI 전용 서버 '오리온'을 선보였다. 지난 4월 공개된 메타의 생성형 AI '라마3'를 오리온으로 구동시켜 본 결과 서비스 답변 속도가 메타 자체 서비스 대비 30~50% 빠르다는 것을 확인했다.
하이퍼엑셀은 이러한 생성형 AI 특화 반도체와 서버를 글로벌 시장에 공급할 계획이다.
미국의 반도체 설계(팹리스) 기업 '그로크(Groq)' 등이 유사 솔루션을 개발하고 있지만 기술이나 성능 면에서 훨씬 우위에 있다고 판단했다. 국내의 우수한 반도체 생태계도 이러한 자신감을 뒷받침한다....(하략) [기사 전문 읽기] https://www.etnews.com/20240707000060 [기사 출처 : 전자신문]
Comentarios