LLM
14MB 경량 에이전트 LLM '니들2' 출시…스마트폰·웨어러블부터 로봇까지
AI 핵심 요약
도입
캑터스는 이전에 출시한 '니들' LLM에 사용자 피드백을 반영해 개선한 '니들2'를 새롭게 공개했다.
핵심
니들2는 14MB라는 극히 작은 용량으로도 도구 호출과 기기 제어, 데이터 추출 같은 에이전트 기능을 수행할 수 있으며, 스마트폰부터 웨어러블, 스마트홈, 소형 로봇, 마이크로컨트롤러까지 다양한 저사양 기기에서 작동한다.
분석
온디바이스 실행 구조로 인해 사용자 데이터가 클라우드로 전송되지 않아 프라이버시 보호가 가능하며, 네트워크 의존도가 낮아 오프라인 환경에서도 기능한다.
한국 영향
한국의 스마트폰·IoT 제조사들이 온디바이스 AI 통합에 장벽으로 겪어온 모델 용량 문제를 해결하는 사례로, 삼성·LG 등이 웨어러블과 가전에 AI 기능을 탑재할 때 유사한 경량 모델 개발에 참고할 수 있는 기술 방향을 제시한다.
전망
경량화와 기능성의 균형을 맞춘 모델이 확산되면서, 향후 엣지 기기 중심의 AI 서비스 생태계 구축이 가속화될 전망이다.
캑터스가 14MB 크기의 경량 에이전트 LLM '니들2'를 공개했다. 스마트폰, 웨어러블, 스마트홈, 소형 로봇, 마이크로컨트롤러 등 저사양 기기에서 도구 호출, 기기 제어, 구조화된 데이터 추출이 가능하다.
전작 니들의 피드백을 반영해 개선한 버전으로, 용량은 극소화하면서도 에이전트 기능을 강화했다. 로컬 기기에서 온디바이스 실행이 가능해 데이터 프라이버시를 보장한다.
#온디바이스AI#경량모델#에이전트#IoT#임베디드