Created by AI 클라우드 없이도 스마트폰에서 GPT급 AI를 쓴다? 한때는 “생성형 AI = 데이터센터의 거대한 GPU”라는 공식이 당연했지만, 최근 테크 흐름은 빠르게 바뀌고 있습니다. 온디바이스 생성형 AI(On-device Generative AI)는 말 그대로 LLM(거대 언어 모델)이나 이미지/음성 생성 모델을 클라우드가 아닌 ‘기기 자체’에서 실행해, 인터넷 연결 없이도 요약·번역·작성·검색 같은 작업을 수행하게 만드는 기술입니다. 테크 관점에서 보는 온디바이스 […]
2024년 핵심 기술 온디바이스 AI, 스마트폰과 PC의 AI 플랫폼 전쟁 전망은?
Created by AI 몇 달 전까지만 해도 생성형 AI는 “클라우드에 질문하고 답을 받는” 경험이 전부였습니다. 그런데 지금 테크 업계의 전장은 빠르게 스마트폰과 PC 내부로 이동하고 있습니다. 핵심은 간단합니다. 클라우드 AI의 지연, 비용, 프라이버시 한계를 넘기 위해, 기기 안에 들어간 NPU(Neural Processing Unit) 같은 전용 AI 칩이 생성형 AI를 “로컬에서” 돌리기 시작한 것입니다. 왜 지금 이 […]