[뉴스] 노타, 독파모’ 이어 모두의 AI’ 참여…SKT 컨소시엄서 AI 최적화 맡아

AI가 아무리 뛰어난 성능을 갖춰도 스마트폰이나 공공서비스에서 느리게 작동한다면 과연 실용적인 기술이라 할 수 있을까요? 실제 사용자가 체감하는 AI의 가치는 모델의 성능뿐 아니라 얼마나 빠르고 안정적으로 서비스를 제공하느냐에 달려 있습니다.

독자 AI 파운데이션 모델 프로젝트인 ‘독파모’에 참여했던 노타가 이번에는 SK텔레콤이 주관하는 ‘모두의 AI’ 컨소시엄에 합류합니다. 노타는 컨소시엄에서 AI 모델의 경량화와 최적화를 담당하며, 고성능 AI를 국민이 일상에서 활용할 수 있는 서비스로 구현하는 역할을 맡습니다.

노타는 자체 AI 최적화 플랫폼 ‘넷츠프레소’를 활용해 모델의 연산량과 메모리 사용량을 줄일 계획입니다. 이를 통해 대규모 이용자가 동시에 접속하더라도 서비스가 안정적으로 작동하도록 지원합니다. AI가 연구실과 데이터센터를 넘어 민원 안내, 신청·예약, 결제 같은 생활 속 업무를 직접 처리하려면 이러한 최적화 기술이 필수적입니다.

‘모두의 AI’ 사업은 과학기술정보통신부와 정보통신산업진흥원(NIPA)이 추진하는 프로젝트입니다. SK텔레콤 컨소시엄은 공공·생활 정보를 제공하는 데 그치지 않고, 사용자의 요청에 따라 후속 업무까지 수행하는 ‘실행형 AI’ 서비스 개발을 목표로 합니다. 노타의 참여는 AI 모델을 실제 환경에 맞게 다듬고, 누구나 편리하게 이용할 수 있도록 만드는 기반이 될 전망입니다.

노타, ‘독파모’ 이어 ‘모두의 AI’ 참여…SKT 컨소시엄서 AI 최적화 맡아

AI 서비스가 널리 확산되려면 단순히 뛰어난 모델을 개발하는 것만으로는 부족합니다. 대규모 사용자가 동시에 접속해도 서비스가 느려지거나 멈추지 않도록 모델의 크기와 연산량, 메모리 사용량을 정교하게 관리해야 합니다. AI의 숨은 경쟁력은 바로 작고 빠르며 안정적으로 작동하는 기술에 있습니다.

노타는 자체 AI 최적화 플랫폼 ‘넷츠프레소’를 활용해 모델을 경량화하고, 서비스 환경에 맞게 연산 효율을 높일 계획입니다. 모델의 불필요한 연산을 줄이면 같은 인프라에서도 더 많은 사용자를 수용할 수 있고, 응답 속도와 운영 안정성도 개선할 수 있습니다.

특히 SK텔레콤이 주관하는 ‘모두의 AI’ 컨소시엄은 공공·생활 정보를 안내하는 데 그치지 않고, 신청과 예약, 결제 같은 후속 업무까지 처리하는 ‘실행형 AI’ 서비스를 목표로 합니다. 이처럼 실제 생활과 밀접한 AI일수록 순간적인 트래픽 증가에도 안정적으로 대응하는 최적화 기술이 중요합니다.

노타의 이번 참여는 ‘노타, 독파모’ 이어 모두의 AI’ 참여…SKT 컨소시엄서 AI 최적화 맡아라는 흐름을 보여줍니다. 국가 AI 경쟁력은 모델 자체의 성능뿐 아니라, 이를 국민이 일상에서 지속적으로 사용할 수 있도록 구현하고 운영하는 역량에서 완성되기 때문입니다.

Reference

한국경제: https://www.hankyung.com/article/202609017170i