액션파워, LG 그램에 온디바이스 AI 공급…”인터넷 연결 없이도 회의록 정리”

비즈니스 워크플로우 특화 AI 기업 액션파워가 LG전자 노트북 ‘그램’에 온디바이스 AI 모델을 공급했다고 29일 밝혔다. 그램의 AI 노트 애플리케이션 ‘LG gram Note’에 탑재된 이 모델을 통해 사용자는 네트워크 연결 없이 녹음 파일 및 실시간 음성을 텍스트로 변환하고 자동 요약까지 이용할 수 있다.

이번 협력은 서버 기반으로 운영되던 음성인식(STT) AI 엔진을 노트북 환경에서 구동 가능한 수준까지 경량화하면서 성사됐다. LG 그램 노트에 적용된 기술은 인터넷 연결 없이 구동되는 온디바이스 STT AI 모델, 자동 화자분리, 요약 특화 온디바이스 sLM으로 구성된다. 재생 지점 스크립트 하이라이트, 스크립트 편집, 북마크, AI 자동 요약 등 음성인식 결과 정리 기능을 모두 온디바이스 환경에서 제공한다.

기술적으로는 서버 기반 모델과 동일한 수준의 음성인식 및 화자분리 성능을 온디바이스 환경에서 구현했다는 점이 특징이다. 화자분리 정확도는 공개 API 모델 기준 90% 이상을 기록했다. LG 그램 노트용으로 새롭게 개발한 요약 sLM은 파라미터 수를 유지하면서 요약 성능을 최대 36% 향상시켰다. 해당 모델은 20억 개 이하의 파라미터 규모로 경량화돼 제한된 연산 환경에서도 안정적으로 작동한다. 액션파워가 10년간 축적한 고성능·경량 멀티모달 AI 모델 기술력을 바탕으로 경량화 기술을 고도화해온 결과다.

온디바이스 AI는 데이터가 서버를 거치지 않고 단말기에서 직접 처리되기 때문에 민감 데이터의 외부 유출을 원천 차단할 수 있다. 네트워크 트래픽 비용 절감과 오프라인 환경에서의 사용성 확보도 가능하다. 액션파워는 이번 공급을 계기로 클라우드와 온프레미스를 넘어 개인 디바이스 영역까지 AI 모델 적용 범위를 확대하게 됐다. 향후 개인의 데이터와 습관을 학습한 전용 AI가 각 디바이스에서 직접 구동되는 ‘각자의 AI’ 환경 구현을 목표로 온디바이스 사업을 확장해 나갈 계획이다.

LG전자 관계자는 “온디바이스 AI는 보안과 사용성 측면에서 노트북 사용 경험을 한 단계 끌어올리는 핵심 요소”라며 “액션파워의 경량화 기술을 통해 그램만의 차별화된 AI 생산성 환경을 제공하게 됐다”고 밝혔다.

액션파워는 지난 3월 하나벤처스가 리드한 60억 원 규모의 시리즈B 투자를 유치한 바 있다. 최근 AI 업계에서는 클라우드 기반 대규모 모델의 비용 부담을 줄이기 위해 경량화된 온디바이스 AI로 전환하는 흐름이 확산하고 있다.