AMD 기반 인공지능(AI) 모델 개발 기업인 모티프테크놀로지스(이하 모티프)가 개발한 소형언어모델(sLLM) '모티프 2.6B'를 오픈소스로 허깅페이스에 공개한다고 10일 밝혔다.
이번에 공개한 모델은 모회사인 AI 인프라 전문기업 '모레'가 그래픽처리장치(GPU) 자원의 효율적 사용과 클러스터링 소프트웨어(SW) 최적화 기술을 기반으로 모티프에서 개발한 경량화된 고성능 AI 모델이다.
모티프는 엔비디아의 경쟁사인 AMD GPU 기반의 인프라를 활용해 AI 모델을 개발하는 탈(脫) 엔비디아 전선에 있는 기업이다.
이날 발표한 모티프 2.6B는 26억개의 매개변수(파라미터)를 가진 sLLM으로 동급뿐 아니라 70억개 매개변수 모델의 성능도 능가하는 것으로 전해졌다.
모티프는 정확한 성능 비교를 위해 각 개발사가 공개한 테크니컬 리포트의 점수와 설정값을 동일하게 적용해 벤치마크 점수를 산출했다.
그 결과 모티프 2.6B는 70억개 매개변수를 가진 미스트랄 7B 대비 134%의 성능을 보였다.
특히 고난도 수학 및 과학, 코딩 능력에서 상대적으로 높은 점수를 기록했다.
모티프 2.6B는 문맥 이해 능력을 강화한 점이 가장 큰 기술적 특징이다.
잘못된 문맥을 참고해 부정확한 문장을 생성하는 오류를 줄이고, 필수적인 핵심 문맥에 집중하도록 설계했다.
임정환 모티프 대표는 "최근 가트너는 기업의 소형언어모델 사용량이 2027년까지 LLM의 3배가 넘을 것으로 예측했다"며 "소형언어모델은 저전력으로 구동되고 슈퍼컴퓨터 없이 운영이 가능하다.
비용 효율성이 높아 실제 산업 현장에서 다양한 적용이 가능하다"고 말했다.
이어 "이번에 선보인 모티프 2.6B를 활용해 일상에서 사용할 수 있는 온디바이스 AI, 에이전틱 AI 모델로 발전시켜 나갈 것"이라고 밝혔다.
향후 모티프는 모회사인 모레의 AI 인프라 SW와 자체적으로 확보한 고성능 AI 개발 역량을 통해 다양한 AI 모델 개발을 추진한다.
올해 말까지 텍스트를 이미지나 영상 등으로 변환하는 멀티모달형 모델을 오픈소스로 공개해 AI 산업 생태계 확장에 기여하고 다양한 고객을 확보한다는 계획이다.
김보경 기자 bkly477@asiae.co.kr
<ⓒ투자가를 위한 경제콘텐츠 플랫폼, 아시아경제 무단전재 배포금지>
