기업들이 온디바이스 AI에 주목하는 이유와 미래 전망

온디바이스 AI란?

인공지능(AI) 기술이 빠른 속도로 발전하면서 우리 일상에 많은 변화를 가져오고 있다. 이러한 변화의 한 축을 이루는 '온디바이스 AI'는 2024년에 크게 주목받는 혁신 기술 중 하나이다. 이 기술은 사용자의 기기 내에서 AI 연산을 직접 수행함으로써, 개인정보 보호, 낮은 지연 시간, 인터넷 연결 의존도 감소 등의 이점을 제공한다. 클라우드 기반 AI와 대비하여 온디바이스 AI는 기기 내에서 데이터를 실시간으로 처리하는 강점을 지니고 있다. 이러한 강점 덕분에, 이 기술은 스마트폰부터 웨어러블 기기, 가정용 스마트 기기 등 다양한 분야에 활용되며, 이를 통해 사용자 경험을 더욱 풍부하게 하고 기기의 자율성을 높일 것으로 기대된다.

특히 온디바이스 AI의 발전은 개인 정보 보호와 데이터 보안이 중요해진 현재의 디지털 환경에서 큰 의미를 가진다. 사용자 데이터가 기기 내에서만 처리되기 때문에, 보안과 프라이버시 측면에서 상당한 장점을 가지며, 인터넷 연결이 없는 환경에서도 기능할 수 있어 접근성과 편의성이 향상된다. 이러한 특징 덕분에 온디바이스 AI는 앞으로 다양한 산업 분야에서 더 넓게 적용될 전망이다.

이 글에서는 온디바이스 AI의 장단점을 살펴보고, 왜 많은 기업들이 이 기술에 주목하고 있는지 알아보려 한다. 이를 통해 온디바이스 AI가 앞으로 우리 삶과 사회에 가져올 변화와 영향을 이해하는 데 도움이 될 것이다.

AI온디바이스 AI vs 클라우드서버 AI

온디바이스 AI는 데이터 프라이버시와 보안을 강화하며 인터넷 연결이 불필요하다. 낮은 지연 시간과 에너지 효율적인 작동이 가능하고 개인 맞춤형 경험을 제공하며 운영 비용도 절감한다. 그러나 이는 한정된 처리 능력과 제한된 저장 공간을 가지고 있으며, 모델 업데이트와 고도의 최적화, 개발 및 유지 관리의 복잡성이 단점으로 작용한다.

클라우드서버 AI는 강력한 처리 능력을 바탕으로 대규모 데이터 저장 및 관리와 중앙 집중식 업데이트 및 유지 관리를 장점으로 한다. 이는 다양한 서비스와의 통합이 용이하고 고급 기능 및 복잡한 연산을 가능하게 한다. 그러나 인터넷 연결 필요성, 높은 지연 시간의 가능성, 에너지 비효율적인 사용과 운영 비용의 증가는 주요 단점이다.

빅테크 기업들의 도입 현황

2024년 현재 빅테크 기업들은 온디바이스 AI의 도입과 활용에 집중하고 있다. 이들은 온디바이스 AI를 활용하여 제품과 서비스의 기능을 향상시키는 다양한 방법을 모색하고 있다. 전 세계적으로 광범위하게 보급된 스마트폰 시장부터 움직이기 시작했다.

스타트를 먼저 끊은 기업은 삼성전자다. 삼성전자는 최근 갤럭시 S24 언팩 행사를 통해 갤럭시 S24 시리즈를 공개하며 온디바이스 AI 기술을 탑재한 새로운 스마트폰 시대의 시작을 알렸다. 행사에서는 실시간 전화 통역 기능을 비롯한 여러 AI 특화 기능들이 선보였으며, 이는 사용자의 개인 정보를 기기 내에서 처리함으로써 보안성을 강화하는 데 중점을 둔 것으로 나타났다. 갤럭시 S24 시리즈는 또한 '삼성 노트' 앱의 생산성을 높이는 '노트 어시스트' 기능과 음성 녹음을 텍스트로 전환하는 STT 기능 등을 포함하여 다양한 AI 기능을 제공한다.

이번 발표는 AI 기술력 강화와 글로벌 빅테크 기업과의 협력을 통해 프리미엄 스마트폰 시장에서 경쟁력을 높이려는 삼성전자의 전략을 반영한다. 시장 전망에 따르면 프리미엄 스마트폰 시장은 향후 온디바이스 AI를 중심으로 개편될 것으로 보이며 갤럭시 S24 시리즈는 이 분야에서의 주요 경쟁 제품 중 하나로 자리매김할 가능성이 높다.

타기업과의 협업 또한 눈부시다. 삼성전자는 갤럭시 S24 시리즈를 위해 퀼컴과 구글과 협력하였다.

퀄컴과는 '갤럭시용 스냅드래곤 8 3세대' 칩셋을 개발했다. 이는 AI 연산을 보다 효율적으로 처리할 수 있게 하는 데 중점을 뒀다. 갤럭시 S24 울트라 모델에는 이 칩셋이 탑재되었으며 플러스 모델과 일반형 모델에는 삼성전자가 자체 개발한 '엑시노스 2400'이 탑재되어 AI 연산 성능을 강화했다.

구글과의 협업을 통해서는 AI 경험을 강화하고자 했다. 삼성 노트, 보이스 레코더, 키보드 앱, 메시지 앱 등에 제미나이가 적용되었다. 제미나이를 기반으로 노트내용 요약, 음성 녹음 텍스트화 등이 이뤄질 수 있다. 이미지 생성 AI모델인 ‘이마젠2’등도 갤럭시에서 사용되었다. '서클 투 서치' 기능을 이용해서 사용자들은 검색 앱으로 이동할 필요 없이 화면에서 바로 원하는 정보를 얻을 수 있다. 또한, 갤럭시 AI를 통해 운전 중 문자 메시지 요약이나 예상 도착시간 알림 등의 기능을 이용할 수 있다. 구글에 따르면 제미나이는 삼성폰의 생성형AI 모델 공급자로 장기 계약을 맺었다.

"이제는 AI폰 시대" 삼성전자, 갤럭시S24로 프리미엄 시장 정조준https://news.tf.co.kr/read/economy/2069362.htm

사실 구글은 작년 12월 6일 오픈AI의 GPT-4에 대응하는 AI 모델 '제미나이'를 발표했다. 제미나이는 다양한 크기로 최적화된 세 가지 버전 울트라, 프로, 나노의 세 가지 버전으로 출시되었으며, 그 중 가장 경량화된 버전인 '제미나이 나노'는 온디바이스 AI에 활용 가능하도록 설계 되었다. 초대형 모델과 달리, 제미나이 나노 1은 18억 개, 나노 2는 32.5억 개의 파라미터를 사용하는 가벼운 모델이다. 구글은 향후 이러한 경량화 모델을 중저가 스마트폰에도 적용할 계획이며, 안드로이드 14에 탑재된 AI코어 시스템을 통해 개발자들이 제미나이 나노를 사용할 수 있게 할 예정이었고, 최신 스마트폰 '픽셀 8 프로'에 '제미나이 나노'를 탑재했으나, 삼성전자의 갤럭시24를 통해 제미나이의 보급을 확대할 가능성이 크다.

AI폰 '갤럭시 S24' 시리즈에 구글 '제미나이 나노' 탑재https://www.techm.kr/news/articleView.html?idxno=119118

Introducing Gemini: our largest and most capable AI model https://blog.google/technology/ai/google-gemini-ai/

애플도 AI 관련 기술에 투자를 아끼지 않고 있다. 2022년 10월, AI 칩 'M3'을 공개했다.이 칩은 M3, M3 Pro, 및 M3 Max의 세 가지 버전으로 제공되는데, M3 Max는 최대 128GB의 통합 메모리를 지원하여 AI 개발자들이 수십억 개의 파라미터를 가진 대형 트랜스포머 모델을 노트북에서 작업할 수 있도록 할 수 있다. M3 칩 시리즈를 기반으로 신경 엔진은 기계 학습 모델을 보다 효과적으로 가속화 시킬 예정이다. 애플은 또한 '애플 GPT'라고 불리는 자체 생성 AI 모델을 개발 중에 있다. 이 모델은 2000억 개의 파라미터를 가지며, 언어 이해 및 생성에서 큰 발전을 나타낸다. 이 모델은 애플이 AI를 전체 생태계에 깊이 통합하려는 더 넓은 전략의 일부로, Siri를 비롯한 다양한 애플 기기에서 AI 기능을 향상시키는 데 사용될 예정이다. 애플은 2024년 말에 아이폰과 아이패드에서 AI 기능을 시작할 계획이며, 이는 iOS 18의 출시와 함께 이루어질 것으로 예상되고 있다. 이러한 애플의 움직임을 온디바이스 AI 및 자체 대규모 언어 모델 개발에 중점을 두고 있다고 볼 수 있다.

Apple unveils M3, M3 Pro, and M3 Max, the most advanced chips for a personal computer https://www.apple.com/newsroom/2023/10/apple-unveils-m3-m3-pro-and-m3-max-the-most-advanced-chips-for-a-personal-computer/

Apple GPT: What We Know About Apple's Work on Generative AI https://www.macrumors.com/guide/apple-gpt/

Apple’s iPhone design chief headed to LoveFrom to work with Jony Ive on AI devices https://9to5mac.com/2023/12/26/iphone-design-chief-lovefrom-ai-devices/

OpenAI의 CEO 샘 알트만은 애플의 전 디자인 수석 탕 탄을 영입하여 새로운 인공지능 하드웨어 프로젝트에 참여시키고 있다. 탕 탄은 애플의 제품 디자인 부문 부사장 출신이며, 러브프롬에서 하드웨어 엔지니어링을 이끌 예정으로 알려졌다. 러브프롬은 애플의 전 디자인 수석 조니 아이브(Jony Ive)가 설립한 디자인 회사이다. 애플의 전 디자이너들이 러브프롬에 합류하는 것은 애플의 디자인과 AI 기술의 결합을 상징하는 중요한 움직임으로 볼 수 있다. 이러한 협업은 OpenAI의 기술과 러브프롬의 디자인 역량을 결합하여 새로운 형태의 AI 하드웨어를 개발하는 것을 목표로 하고 있으며, 특히 사용자 친화적인 경험을 제공하는 데 중점을 둘 것으로 예상되고 있다.

OpenAI calls in Apple’s iPhone design boss as CEO Sam Altman eyes launch of AI devices https://fortune.com/2023/12/27/openai-apple-iphone-tan-altman-artificial-intelligence-device/

왜 온디바이스AI일까?

온디바이스 AI 개발에 기업들이 집중하는 이유는 다양하다. 주된 이유 중 하나는 비용 절감이다. AI 도구의 사용이 쉬워지고 있어, 이는 비용 절감 및 주요 프로세스의 자동화에 기여한다. IBM의 "Global AI Adoption Index 2023" 보고서에 따르면 많은 기업들이 AI 채택의 주요 동기로 비용 절감과 프로세스 자동화를 꼽는다. 온디바이스 AI를 통해 데이터 처리와 분석이 기기 내에서 이루어지므로 클라우드 서버나 데이터 센터에 대한 의존도가 줄고, 데이터 전송 및 저장 비용이 크게 절감된다. 클라우드 기반 AI 시스템, 특히 GPT와 같은 대규모 AI 모델은 운영 및 유지 비용이 높다. 오픈AI의 챗GPT 운영 비용은 하루에 약 10억 원으로 추정된다. 이런 모델은 복잡한 연산을 필요로 하여 많은 자금이 소요된다. 챗GPT의 운영 비용은 일반 검색보다 100~200배 더 높다고 평가된다. 클라우드 스토리지 비용도 든다. AWS와 같은 클라우드 서비스 제공업체는 데이터 전송 요금을 부과한다. 온디바이스 AI는 비용 절감의 중요한 대안으로 부상하고 있다. 데이터 처리를 기기 내에서 수행함으로써 데이터 전송 비용을 줄이고 전체적인 운영 및 유지 비용을 감소시킨다.

온디바이스 AI의 데이터 프라이버시 및 보안 강화 측면도 중요하다. 사용자의 개인 정보와 관련된 데이터가 장치 내에서 처리되고 저장됨으로써 외부 노출을 최소화한다. 예를 들어, 음성 인식 데이터가 스마트폰이나 스마트 스피커에서 직접 처리되면 클라우드나 외부 서버로 전송되지 않는다. 이는 데이터 유출 위험을 감소시키고 개인 정보 보호를 강화한다. 온디바이스 AI는 데이터 암호화와 같은 보안 기능을 제공하여 사용자 데이터를 더욱 안전하게 보호한다. 예를 들어, 스마트폰에서 지문 인식 데이터는 기기 내에서 암호화되어 저장되고 외부 통신 과정에서 노출되지 않는다. 이는 사용자의 민감한 데이터 보호에 효과적이다. 따라서 온디바이스 AI는 데이터를 로컬에서 처리하고 저장함으로써, 외부 서버나 클라우드를 통한 데이터 전송이 필요 없게 되어 데이터 프라이버시와 보안을 크게 강화한다. 이는 사용자 개인 정보 보호에 대한 우려가 증가하는 현 시점에서 기업들이 온디바이스 AI를 중요하게 고려하는 주요 이유 중 하나다.

개인 맞춤형 경험 제공 역시 온디바이스 AI의 주요 목표다. 이 기술은 사용자 데이터를 기기 내에서 처리하고 분석함으로써 매우 개인화된 경험을 제공한다. 기기는 사용자의 행동 패턴, 선호도 및 특정 요구사항을 학습하여 서비스나 기능을 맞춤 조정한다. 예를 들어, 스마트폰에서 온디바이스 AI는 사용자의 사용 패턴을 학습하여 앱 추천, 배터리 절약, 사용자 인터페이스 맞춤 설정 등을 제공할 수 있다. 스마트 홈 기기는 사용자의 생활 습관을 인식하여 조명, 온도 등을 자동 조절한다. 의료 기기에서는 환자의 건강 데이터를 분석하여 실시간 피드백을 제공하며, 금융 업무에서는 고객의 신용 조회, 계좌 개설, 대출 신청 등을 자동화한다. 이러한 개인 맞춤형 경험은 사용자의 삶을 편리하고 효율적으로 만들어준다.

이처럼 기업들은 비용 절감, 데이터 보안 및 개인화된 경험 제공 등의 이유로 온디바이스 AI 개발에 주력하고 있다. 이는 고객의 요구를 충족시키고 경쟁력을 강화하는 데 중요한 역할을 할 수 있다.

IBM의 "Global AI Adoption Index 2023" 보고서 https://newsroom.ibm.com/2024-01-10-Data-Suggests-Growth-in-Enterprise-Adoption-of-AI-is-Due-to-Widespread-Deployment-by-Early-Adopters

"챗GPT 비용, 일반검색의 200배…운영비 절감이 화두” https://www.hankyung.com/article/2023021215731

챗GPT, 운영 비용 '천문학적'…DB센터 GPU 가격만 1억 달러 https://www.g-enews.com/article/Global-Biz/2023/03/2023031413410113239a1f309431_1

온디바이스 AI의 미래는?

온디바이스 AI의 미래는 기술의 지속적인 발전과 함께 밝아질 것으로 보인다. 스마트폰, PC, 가전제품, 자율주행차, 로봇, 보안, 금융, 의료 등 다양한 산업에서 이 기술의 적용이 확대될 것이며, 사용자의 선호도와 행동 패턴을 더욱 정확하게 파악하여 개인화된 사용 경험을 제공하는 데 중요한 역할을 할 것이다. 정교한 AI 모델과 경량화된 알고리즘의 발전은 기기들이 빠르고 효율적으로 작동하게 하며, 사용자들에게 맞춤형 서비스를 제공할 수 있게 할 것이다.

보안과 프라이버시 측면에서도 온디바이스 AI는 중요한 발전을 이룰 것이다. 사용자의 데이터가 기기 내에서만 처리되고 저장되므로, 데이터 유출의 위험이 줄어들고 개인정보 보호가 강화된다. 이는 특히 금융, 의료, 개인 정보와 관련된 서비스에서 중요한 요소이다.

그러나 이러한 기술 발전에는 몇 가지 도전 과제가 존재한다. 첫째, 현재의 하드웨어 한계가 AI 모델의 복잡성과 기능성을 제한할 수 있다. 더욱 발전된 AI 알고리즘을 지원하기 위해서는 보다 강력하고 고효율의 하드웨어가 필요하다. 둘째, 개인정보 보호와 관련된 규제 도전이 존재한다. 사용자 데이터의 보안과 프라이버시를 보장하면서 동시에 기술 혁신을 추진하는 것은 법적 및 윤리적 고려 사항과 맞물려 있다. 셋째, 개발 및 유지 비용이 큰 문제가 될 수 있다. 특히 소형 기업이나 신흥 시장에서는 이러한 고급 기술에 대한 접근성이 제한될 수 있다.

장기적으로 볼 때, 온디바이스 AI는 일상 생활의 다양한 측면에서 더욱 지능적이고 맞춤화된 상호작용을 가능하게 할 것이며, 이는 교통, 물류, 서비스 산업을 혁신적으로 변화시킬 수 있다. 온디바이스 AI는 사용자 경험의 향상, 기기의 지능적 작동, 보다 안전하고 효율적인 디지털 환경 조성에 핵심적인 역할을 할 것이다. 기업들은 이러한 변화에 발맞추어 새로운 비즈니스 모델과 서비스를 개발할 것이며, 이는 전반적인 산업 구조의 변화를 가져올 것으로 예상된다. 또한, 사용자 데이터를 기반으로 하는 맞춤형 서비스와 기능 개발에도 중점을 두면서, 고객 만족도를 높이는 방향으로 기술이 활용될 예정이다.

이처럼 온디바이스 AI는 흥미롭고 가치 있는 혁신의 길을 걷고 있지만, 기술 발전과 함께 등장하는 도전 과제들에 대한 균형 잡힌 접근이 필요하다. AI 기술이 더욱 발전함에 따라, 온디바이스 AI는 산업 전반에 걸쳐 혁신적인 변화를 이끌며 더욱 중요한 역할을 하게 될 것이다. 이를 통해 우리는 보다 편리하고 안전한 일상을 경험하게 될 것이다.