티스토리 뷰
최근 열린 MWC에서 삼성이 선 보인 제품으로도 온디바이스 AI가 화제가 되고 있다.
온디바이스 AI가 왜 파괴적 가능성을 지닌 차세대 기술인지
어떤 제품들로 구현되고 있고
현재 어느 회사가 두각을 보이고 있는지 알아보자.
온디바이스(On-Device) AI란
온디바이스(On-Device) AI란 최신 인공지능답게 딥러닝으로 데이터 연산처리를 하되, 멀리 떨어진 클라우드 서버를 거치지 않고 기기 자체에 탑재되어 직접 인공지능(AI) 서비스를 제공하는 기술을 말한다.
휴대폰이나 스마트워치 등에 접목하기 쉬워 '내 손안의 AI'라는 직관적인 문구로 홍보하고 있다.
왜 혁신적인 차세대 기술인가?
시간·보안·비용측면에서 강점을 가진다.
◆시간 절감
외부 서버나 클라우드와 인터넷 연결을 해야만 데이터 연산이 가능한 클라우드 기반의 기존 AI 서비스와 달리 통신 상태의 제약을 받지 않기에 정보 처리 속도가 빠르다. 즉 스마트기기가 자체적으로 정보를 수집하고 연산하기 때문에 AI 기능의 반응 속도가 빨라진다.
◆확장성
인터넷 연결없이도 사용자가 서비스를 이용하고 싶을 때 언제 어디서나 이를 활용할 수 있다. 따라서 오프라인 운영도 가능하고 다양한 디바이스와 애플리케이션에 적용할 수 있다. 스마트기기가 자체적으로 정보를 수집하고 연산하기 때문에 사용자 맞춤형 AI 서비스 기능도 강화된다.
◆높아진 보안성
클라우드에 데이터를 전송하지 않아도 되고 모든 데이터가 기기 내에 암호화되어 저장되니 개인 정보와 귀중한 데이터 유출 우려가 낮아진다.
◆비용절감과 저탄소 배출
기존 AI는 대용량 서버와 원거리 통신을 운영하느라 고에너지를 사용해야 하는 것에 비해 디바이스 기기에서 바로 처리하기에 현격하게 저전력·저비용을 이루고, 탄소 배출을 극소화하게 된다.
온디바이스 AI의 원리
사용자와 직접 접촉하는 하드웨어인 엣지 (EDGE) 디바이스에서 AI 기술을 구동한다.
우선 시스템 반도체 NPU(Neural Processing Unit, 신경망처리장치)를 탑재해 지연없이 실시간으로 다양한 연산을 처리한다.
모바일 애플리케이션 프로세서(AP)에 탑재한 그래픽처리장치(GPU)를 AI 모델을 추론할 수 있을 정도로 우수한 성능의 GPU를 사용한다.
그런데 이 NPU, 메모리가 전용 AI칩에 같이 내장되는 SOC(System On Chip)형태로 만들어져야 한다. 센서와 통신 모듈이 있고 이를 AI칩에서 처리한다.
초거대 AI모델을 이용할 수 없으니 매개변수 100억개 미만 소형 모델을 이용하되 매개변수를 줄이면서 AI 추론 성능을 유지하는 모델 압축 기술을 구현한다.
온디바이스 AI 제품
스마트폰, 웨어러블기기에서 출현하고 있으며 스마트카, 가전제품, 각종 사물인터넷 기기에 사용할 수 있다.
2018년부터 애플과 화웨이는 AP에 NPU를 탑재하며 인공지능 기능을 구현하기 시작했다.
구글은 2023년 12월 안드로이드 스마트폰인 <픽셀 8 프로>에 온디바이스 AI 기능을 추가했다. 생성형 AI의 경량화 버전인 '제미나이 나노(Gemini Nano)'를 탑재한 것이다.
삼성전자는 <갤럭시S24>를 내세워 '갤럭시S24가 세계 최초의 온디바이스 AI폰'이라고 하는 것은 삼성이 스마트폰 사용자 수나 영향력면에서 압도적이고 탑재한 기능도 혁신적이기에 그렇게 주장하는 것 같다. 결국 알려지고 대중의 인정을 받은 것이 세계 최초가 되는 걸까?
구글의 <픽셀 8 프로>가 구현하는 온디바이스 생성형 AI 기능은 녹음기요약(Recorder)과 GBoard(글라이드 타이핑과 음성 입력을 지원하는 구글 키보드) 스마트 답장 기능이다.
삼성의 <갤럭시S24>의 온디바이스 생성형 AI 기능은 ‘실시간 통역(Live Translate)’ 기능과 ‘서클 투 서치(Circle to Search)’ 검색 기능이 대표적이다.
'실시간 통역' 기능은 13개 언어로 실시간 양방향 통역 서비스를 제공하며 통역을 하느라 통화 내용이 휴대폰 외부로 노출될까봐 염려할 필요도 없다.
'서클 투 서치' 기능은 웹 서핑, SNS, 유튜브 등 사용 중 궁금한 사안이나 정보 확인을 위해 검색이 필요할 경우 따로 검색창을 열고 입력할 필요없이 사용자는 그 화면에서 동그라미를 그리기만 하면 쉽고 빠르게 검색을 시도하고 결과를 확인할 수 있다. 가히 검색의 혁명이 일어난 셈인데 이는 구글과 협업하여 탄생했다.
그 외 AI가 사진 분석 후 맞춤형 편집 도구를 제안하는 '편집 제안' 기능,생성형 AI 기반의 '생성 편집'으로 사물의 일부 잘린 부분을 제안하는 기능도 혁신적인 기능이다.
삼성전자는 스마트폰 갤럭시 S24를 시작으로 스마트워치, 무선이어폰, 노트북 등 모든 갤럭시 제품에 온디바이스AI를 탑재할 계획이라고 밝혔다.
중국인 창업자가 미국에서 세운 스타트업 래빗(Rabbit)이 들고 나온 R1도 온디비아스 제품으로 알려졌다. R1은 지난 CES의 깜짝스타로 등극하며 출시 10일만에 5만대를 팔았다는 소식을 발표했다.
R1은 갤럭시 플립/다마구치 정도의 깜찍한 크기와 레트로풍의 주황색에 터치스크린, 스크롤휠, 카메라가 있고 직관적으로 직접 앱을 구동해 준다. 사용자가 음성 명령을 내리면 검색, 예약, 택시 호출, 노래 선곡 등을 간편하게 할 수 있다. 그래서 'AI를 당신의 포켓 속에!라고 홍보하는데 단돈 199달러다.
그런데 거대언어모델(LLM)을 디바이스 자체 칩에 내장했다는 뉴스와 LLM을 내장하지 않았고 인터넷으로 호출하기에 온디바이스 제품이 아니라는 뉴스도 공존해 어느 것이 맞는지는 아직 모르겠다. 다만 거대행동모델(LAM)을 기반으로 한 자체 Rabbit OS로 구동해 이것이 있다면 LLM 논란 여부와 관계없이 온디바이스 제품으로 볼 수 있겠다는 생각이 든다.
LAM(Large Action Model)이 사용자 음성 명령에 맞춰 직접 해당 앱에 연결해 결과를 내 오는 것이다. 게다가 래빗은 LAM을 확장성이 뛰어난 뉴로 AI와 설명하기 쉽고 정확한 심볼릭 AI를 결합한 뉴로-심볼릭(Neuro-Symbolic) 방식으로 구현했다고 한다.
R1의 기능이 실제품으로도 설명만큼 구현된다면 엄청난 파급력을 보일 것이다. 우리나라 카카오도 투자한, 그야말로 핫한 회사다.
WMC에 선보인 온디바이스 AI 제품
세계최대 이동통신 전시회 '모바일월드콩그레스(MWC) 2024'가 스페인 바르셀로나에서 지난 2월 26일부터 29일까지 열렸다.
삼성전자는 반지 형태 웨어러블 기기 <갤럭시 윙>을 선보였다. 반지 안쪽 면에서 건강 데이터를 측정하며 워치보다 장시간 부담없이 착용할 수 있다. 심지어 수면 중에도 편하게 착용할 수 있어 디지털 헬스 케어를 완성하는데 더욱 적합한 형태다.
중국의 스마트폰 샤오미와 아너도 MWC 전날 온디바이스 AI폰을 공개했다.
중국 아너는 <매직6 프로>에 거대언어모델(LLM)인 매직LM을 탑재했는데 70억개의 매개변수를 갖추고 온디바이스 AI 기능을 구현한다.
'아너 AI 모션 센싱 캡처' 기술이 삼성전자/애플보다 뛰어나다고 주장하며 예시로 AI가 호텔 예약 확인을 분석해 자동으로 구글 지도앱을 열거나, 사용자가 인스타그램에서 사진을 드래그해 온라인에서 유사한 상품을 검색하는 것을 들었다.
또한 시선으로 폰을 제어하는 ‘시선 추적 기능’을 선보였다. 아너의 ‘매직 6’ 스마트폰을 바라보는 것 만으로도 전화를 걸고 메시지를 확인할 수 있다.
중국 샤오미는 <샤오미14>, <샤오미14 울트라>를 론칭하며 AI 활용 카메라 기능을 강조했다. 특히 자체 운용체계(OS) '하이퍼OS'를 스마트폰과 웨어러블 기기, 전기차 등 모든 디바이스에 적용하며 디바이스 생태계를 구축한다고 발표했다.
추격자들도 삼성과 유사한 기능과 유사한 전략을 들고 나왔고 앞으로 온디바이스 AI 경쟁은 더욱 심화될 전망이다.
'AI' 카테고리의 다른 글
| 인간의 안전을 위한 AI법, 한국의 현주소는? (0) | 2024.02.20 |
|---|---|
| AI 결함, 당신의 일상을 위협한다 (4) | 2024.02.07 |
| 반도체의 미래 - AI 반도체 (0) | 2024.01.29 |
| 국내 AI 반도체 대장주 최신 버전 (0) | 2024.01.29 |
| AI 시대 미래 일자리 전망, 이 능력 갖추면 기업이 모셔간다 (0) | 2024.01.28 |