엔비디아·미스트랄 AI, 데스크톱 AI 시대 개막

글로벌 인공지능(AI) 하드웨어 선두주자 엔비디아와 프랑스 AI 스타트업 미스트랄 AI가 협력해 기업용 데스크톱 환경에 강력한 AI 기능을 제공하는 새로운 언어 모델 '미스트랄-네모(Mistral-NeMo)'를 발표했다고 벤처비트가 18일(현지시각) 보도했다.

보도에 따르면 이 모델은 120억 개의 매개변수와 12만8000 토큰의 컨텍스트 창을 갖춰, 클라우드 의존 없이 고급 AI 솔루션을 구현하려는 기업들에게 획기적인 대안을 제시했다.

엔비디아의 응용 딥 러닝 연구 부문 부사장 브라이언 카탄자로는 최근 인터뷰에서 미스트랄-네모의 접근성과 효율성을 강조하며, "120억 개의 매개변수를 가진 이 모델은 아파치 2.0 라이선스로 공개되며, 다양한 작업에서 뛰어난 정확도를 보여준다"고 밝혔다.

이번 협력은 AI 산업의 엔터프라이즈 솔루션 접근 방식에 큰 변화를 예고했다. 거대한 모델 대신 콤팩트하면서도 강력한 모델에 초점을 맞춰, 고급 AI 기능을 더 많은 기업이 활용할 수 있도록하는 것이 목표다.

카탄자로 부사장은 작은 모델의 장점으로 접근성과 운영 용이성을 꼽았다. 그는 "작은 모델은 운영하기 쉽고, RTX GPU를 탑재한 일반 데스크톱에서도 실행할 수 있다"며 개인 사용자 및 기업의 접근성을 높이는 데 기여할 것이라고 설명했다.

데스크톱 AI 시대 개막은 최근 AI 업계의 트렌드 변화와 맞물린다. 오픈AI의 GPT-4와 같은 초대형 모델이 주목받는 동시에, 데이터 프라이버시, 낮은 지연 시간, 비용 효율성 등을 이유로 로컬 환경에서 실행 가능한 효율적인 모델에 대한 수요가 증가하고 있다.


미스트랄-네모의 12만8000 토큰 컨텍스트 창은 긴 문서, 복잡한 분석, 코딩 작업 등 방대한 텍스트 처리에 탁월한 성능을 발휘한다.

카탄자로 부사장은 "긴 컨텍스트 기능은 다양한 애플리케이션에 중요하며, 미세 조정 작업을 줄여 배포를 간소화한다"고 설명했다. 이는 모델의 활용 범위를 넓혀 기업의 생산성 향상에 기여할 것으로 기대된다.

또한, 로컬 배포 기능은 인터넷 연결이 불안정하거나 엄격한 데이터 보안 규정을 준수해야 하는 기업에게 매력적인 솔루션이다. 다만 그는 "스마트폰보다는 노트북과 데스크톱 PC 환경에 더 적합하다"며 모바일 환경에는 아직 최적화되지 않았음을 시사했다.


업계 전문가들은 미스트랄-네모의 등장이 AI 소프트웨어 시장에 큰 파장을 일으킬 것으로 내다보고 있다. 로컬 하드웨어에서 효율적으로 작동하는 모델을 통해 데이터 프라이버시, 지연 시간, 클라우드 비용 등 기존 AI 도입의 장벽을 낮춰 엔터프라이즈 AI 시장 확대에 기여할 것으로 기대된다.

특히, 제한된 자원을 가진 중소기업도 고급 AI 기능을 활용할 수 있게 돼 경쟁 환경을 평준화할 수 있다는 분석이다. 다만, 실제 성능과 이를 지원하는 도구 및 생태계 구축이 성공의 관건이 될 것이다.


미스트랄-네모는 엔비디아의 AI 플랫폼을 통해 뉴럴 인터페이스 모델(NIM) 형태로 즉시 사용 가능하며, 추후 다운로드 가능한 버전도 제공될 예정이다. 아파치 2.0 라이선스로 상업적 이용이 가능하여 기업 환경에서의 빠른 도입이 예상된다.


미스트랄-네모는 AI 기능을 최종 사용자에게 더 가까이 가져오려는 업계의 노력을 보여주는 대표적인 사례다. 더 효율적이고 접근 가능한 AI 솔루션에 대한 수요가 증가하는 가운데, 미스트랄-네모와 같은 모델은 기업의 AI 도입 장벽을 낮추고 AI 기술의 민주화를 앞당기는 데 기여할 것으로 기대된다.

카탄자로 부사장은 "미스트랄-네모는 모든 규모의 기업이 AI를 더 쉽게 활용하고 혁신과 효율성을 높이는 데 기여할 것"이라며, "단순히 모델의 성능뿐 아니라, 이를 통해 사람들이 일상 업무에서 AI의 힘을 경험하고 활용할 수 있도록 하는 것이 중요하다"고 강조했다.


이태준 글로벌이코노믹 기자 tjlee@g-enews.com