대부분 AI 서비스 데이터센터 거쳐
온디바이스 AI는 기기 안에서 처리
개인정보가 서버로 전송되진 않지만
인터넷 연결-동기화 서비스 주의를
지난달 23일(현지 시간) 미국 캘리포니아주 먼로파크에서 열린 개발자 콘퍼런스 ‘메타 커넥트 2026’에서 마크 저커버그 메타 최고경영자(CEO)가 기조연설을 하고 있다. 이날 메타는 개인용 인공지능(AI) 에이전트 ‘뮤즈’를 AI 안경으로 확대한다고 했다. 뮤즈가 탑재된 안경을 쓴 채 주변 맛집을 찾고 실시간 번역 등을 할 수 있다. 먼로파크=AP 뉴시스
휴대전화를 꺼내지 않고 안경에 말을 걸어 번역을 부탁하는 모습, 상상해 본 적 있나요. 메타는 최근 새로운 인공지능(AI) 안경을 공개했습니다. AI가 책상 위 컴퓨터와 주머니 속 휴대전화를 넘어 얼굴에 쓰는 안경으로도 들어오고 있습니다.
그런데 안경에 AI를 사용한다고 해서 모든 계산이 안경 안에서 끝나는 것은 아닙니다. 메타는 일부 명령을 기기에서 처리하지만, 더 큰 AI 모델이 필요한 기능은 클라우드를 이용한다고 설명합니다. AI를 사용하는 곳과 AI가 계산하는 곳은 다를 수 있다는 뜻이지요. 오늘은 그 차이를 만드는 ‘온디바이스 AI’를 살펴보겠습니다.
● 기기 안에서 처리하는 ‘온디바이스 AI’
‘온디바이스(On-device)’는 ‘기기 위에서’, 곧 ‘기기 안에서’라는 뜻입니다. 온디바이스 AI는 스마트폰이나 컴퓨터에 담긴 AI 모델을 이용해 그 기기에서 계산하고 결과를 만드는 기술입니다. 모델은 AI가 학습한 내용을 바탕으로 답을 만드는 틀이라고 생각하면 됩니다. 우리가 인터넷으로 쓰는 AI 서비스 중에는 질문을 큰 데이터센터의 컴퓨터로 보내 답을 받아 오는 것이 많습니다. 이런 방식을 ‘클라우드 AI’라고 부릅니다. 클라우드는 영어로 구름이지만, 실제로는 어딘가에 있는 컴퓨터들이 일하는 것이지요.
온디바이스 AI는 그 일을 기기 내에서 처리합니다. 화면이 같아 보여도 일하는 장소는 다릅니다. 휴대전화에서 AI 앱을 켰다는 사실만으로 모든 계산이 휴대전화 안에서 끝난다고 생각하면 안 됩니다. 두 방식을 도서관에 빗대어 볼까요.
클라우드 AI는 큰 도서관의 도움을 받는 것과 비슷합니다. 자료도 많고 여러 일을 처리할 여력이 있지만 내 질문이 도서관까지 다녀와야 합니다. 온디바이스 AI는 책가방에 넣어 둔 참고서와 같습니다. 필요한 내용이 준비돼 있다면 길이 막혀도 꺼내 볼 수 있습니다. 질문을 멀리 보내지 않고 바로 처리하니 통신을 기다리는 시간도 줄일 수 있지요. 인터넷이 닿지 않는 곳에서 글을 요약하는 기능도 이런 원리를 이용합니다.
이런 일이 가능해진 것은 휴대전화의 성능이 좋아진 덕분만은 아닙니다. AI 계산을 돕는 전용 칩이 발전하고, AI 모델을 작은 기기에 맞게 줄이는 기술도 함께 발전했습니다. 그래도 책가방에 도서관 전체를 담을 수는 없습니다. 저장 공간과 배터리에는 한계가 있어서 기기와 서버가 일을 나눠 맡기도 합니다.
● 다른 서비스와 동기화도 가능
구글의 공식 개발자 문서는 ‘제미나이 나노’라는 모델로 기기 안에서 글 요약, 짧은 메시지 교정, 문장 바꿔 쓰기 같은 기능을 구현한다고 설명합니다. 인터넷 연결 없이 데이터를 클라우드로 보내지 않고 처리하는 방식입니다.
애플도 ‘애플 인텔리전스’에서 기기 안의 처리를 활용하면서 더 큰 계산이 필요한 요청에는 별도의 클라우드 시스템을 이용한다고 설명합니다. 손안에서 끝낼 일과 밖의 도움을 받을 일을 나누는 것이지요. 작은 AI가 언제나 큰 AI보다 빠르거나 정확한 것은 아닙니다. 이 기술은 낯선 문장을 다듬거나 긴 글의 핵심을 훑는 데 도움이 됩니다.
그러나 지원 기기, 언어, 기능은 서로 다릅니다. AI 모델을 처음 내려받거나 업데이트할 때는 인터넷이 필요하기도 합니다. ‘오프라인으로 작동한다’는 말은 이런 준비까지 필요 없다는 뜻이 아닙니다.
친구와 다툰 일을 적은 일기를 AI로 정리한다고 가정해 봅시다. 그 내용을 서버에 보내는 기능과 기기 안에서만 처리하는 기능은 개인정보가 이동하는 범위가 다릅니다. 온디바이스 AI는 민감한 정보를 밖으로 보내는 일을 줄이는 데 도움이 됩니다.
이전 칼럼에서 ‘소버린 AI’를 이야기하면서 우리나라가 AI와 데이터를 스스로 다루는 힘을 살펴봤습니다. 이제 그 질문이 여러분 손안까지 내려왔습니다. 내 사진과 대화를 어디에서 처리할지 아는 것도 정보를 지키는 첫걸음입니다.
● 손안의 AI를 쓰는 세 가지 습관
그렇다고 ‘온디바이스’라는 말이 붙으면 무조건 안전한 것은 아닙니다. 기기 안에서 만든 요약문도 앱이 저장하거나 다른 서비스와 동기화할 수 있습니다. 휴대전화를 잃어버리거나, 다른 사람이 잠금을 풀어볼 때의 위험도 남습니다. 계산하는 장소와 결과를 보관하는 장소를 함께 살펴야 합니다.
첫째, 기능 설명을 확인하세요. ‘기기 내 처리’인지, 인터넷 연결이 필요한지, 결과가 다른 곳에 저장되는지 부모님이나 선생님과 함께 읽어 보세요. 앱 전체가 아니라 내가 누르는 기능 하나를 살피는 것이 핵심입니다.
둘째, 주변 사람의 정보를 존중하세요. 카메라가 달린 AI 안경으로 친구를 찍거나 목소리를 녹음하려면 먼저 의사를 물어보세요. 친구의 얼굴과 대화를 AI에 넣을 때도 마찬가지입니다. 기기 안에서 처리한다는 이유로 다른 사람의 이야기를 마음대로 써도 되는 것은 아닙니다.
셋째, 답을 확인하는 습관을 유지하세요. 인터넷을 쓰지 않는 AI도 틀린 답을 만들 수 있습니다. 특히 오늘 일어난 사건이나 새로 바뀐 정보는 기기에 담긴 모델만으로 알기 어렵습니다. 중요한 내용은 원문과 공식 자료를 대조하세요.
AI가 작아지고 몸에 가까워지면 도움을 청하기는 더 쉬워집니다. 글을 다듬거나 낯선 말을 이해하는 데 유용하지요. 다만 장소와 상황도 살펴야 합니다. 친구가 촬영을 원치 않거나, 학교에서 기기 사용을 제한하는 때에는 편리하더라도 멈출 줄 알아야 합니다.
앞으로 AI를 고를 때는 ‘얼마나 똑똑해’라는 질문과 함께 ‘내 정보는 어디에서 처리해’라는 질문을 해보세요. 지난 칼럼에서 AI 워터마크를 확인하는 눈이 필요하다고 했듯, 이제는 정보를 넣는 손도 신중해야 합니다. 손안에서든, 안경에서든 AI 버튼을 누르기 전에 이렇게 물어보면 어떨까요. 지금 써도 괜찮을까. 함께 있는 사람도 괜찮을까.
댓글 0