지금까지 초거대 AI는 소수 거대 클라우드 기업의 전유물처럼 보였습니다. 모델을 학습하고 운영하려면 막대한 GPU, 데이터센터, 자본이 필요했기 때문입니다. 기업과 개발자는 결국 정해진 API를 구매하고, 제공사가 정한 가격과 정책 안에서 AI를 활용해야 했습니다.
하지만 알리바바 통이 랩(Tongyi Lab)의 Qwen3.8-Max는 이 공식을 흔듭니다. 이 모델은 총 2.4조 파라미터, 100만 토큰 컨텍스트, 그리고 오픈웨이트 공개 계획이라는 세 가지 카드를 동시에 꺼냈습니다. 단순히 “더 큰 모델”이 등장한 것이 아닙니다. AI 인프라를 누가 소유하고, 어디에서 운영하며, 어떤 비용으로 활용할 수 있는지에 대한 질문이 다시 시작된 것입니다.
핵심은 크기 자체가 아닙니다.
프런티어급 AI를 클라우드 API 밖으로 꺼낼 수 있는 가능성이 열리고 있다는 점입니다.
2.4조 파라미터, 그러나 매번 2.4조를 계산하지는 않는다
Qwen3.8-Max의 총 파라미터 수는 2.4조(2.4T)입니다. 다만 이 모델은 모든 파라미터를 매번 동시에 쓰는 Dense 구조가 아니라, MoE(Mixture-of-Experts) 아키텍처를 적용합니다.
MoE는 입력된 질문이나 작업에 맞춰 여러 전문 모듈 가운데 필요한 일부만 선택해 실행하는 방식입니다. Qwen3.8-Max는 전체 2.4조 파라미터 중 약 950억(95B) 파라미터만 활성화하는 것으로 알려졌습니다.
이 방식은 두 가지 장점을 만듭니다.
- 초거대 모델의 표현력: 코드, 수학, 자연어, 이미지·비디오 이해처럼 서로 다른 작업에 특화된 전문가를 활용할 수 있습니다.
- 현실적인 추론 비용: 전체 모델을 항상 가동하지 않으므로, 2.4조 파라미터 Dense 모델보다 계산량과 운영비를 낮출 여지가 있습니다.
쉽게 말해, 거대한 전문가 조직을 항상 전원 투입하는 대신, 문제에 맞는 팀만 호출하는 구조입니다. 최근 테크 업계가 단순한 파라미터 경쟁보다 성능 대비 비용, 즉 효율 경쟁으로 이동하는 이유도 여기에 있습니다.
100만 토큰 컨텍스트가 바꾸는 작업의 단위
Qwen3.8-Max의 또 다른 핵심은 100만 토큰 컨텍스트 윈도우입니다. 컨텍스트는 AI가 한 번의 작업 흐름에서 기억하고 참고할 수 있는 정보의 범위를 뜻합니다.
100만 토큰은 단순히 긴 문서를 요약하는 수준을 넘어섭니다. 예를 들어 기업은 다음과 같은 자료를 한 번에 연결해 분석할 수 있습니다.
- 수년간 축적된 코드베이스와 기술 문서
- 계약서, 규정집, 내부 정책, 고객 문의 기록
- 시스템 로그, 오류 메시지, UI 스크린샷
- 제품 기획서, 사용자 피드백, A/B 테스트 결과
기존 AI가 “질문에 답하는 도구”에 가까웠다면, 초장기 컨텍스트 모델은 프로젝트 전체를 이해하며 일하는 에이전트에 가까워집니다. 개발팀이 대형 레거시 시스템의 구조를 파악하고 리팩터링 계획을 세우거나, 컴플라이언스 팀이 방대한 문서 집합에서 위험 조항을 찾는 작업이 대표적입니다.
물론 100만 토큰을 넣는다고 해서 항상 정확한 결과가 보장되는 것은 아닙니다. 긴 입력에서는 관련 정보를 제대로 찾아내는 검색 능력, 추론의 일관성, 검증 절차가 함께 중요합니다. 그럼에도 “AI가 기억할 수 있는 업무 범위”가 크게 넓어진 것은 분명한 변화입니다.
오픈웨이트가 던지는 더 큰 질문
Qwen3.8-Max가 주목받는 결정적 이유는 오픈웨이트 전략입니다. 오픈웨이트는 학습된 모델 가중치를 공개하거나 이용 가능하게 해, 조직이 직접 모델을 배포·조정·운영할 수 있도록 하는 접근입니다.
이는 오픈소스와 완전히 같은 개념은 아닙니다. 학습 데이터나 전체 학습 코드를 모두 공개하지 않아도 가중치는 제공될 수 있습니다. 그러나 실제 활용 측면에서는 상당히 중요한 차이를 만듭니다.
클로즈드 API 모델만 사용할 때 기업은 다음을 제공사에 의존하게 됩니다.
- 데이터가 처리되는 위치
- 모델 업데이트와 기능 변경 시점
- 사용량 기반 가격 정책
- 보안·규제 환경에 맞춘 운영 방식
반면 오픈웨이트 모델은 충분한 인프라가 있다면 사내 GPU 클러스터나 프라이빗 클라우드에 배포할 수 있습니다. 민감한 고객 데이터, 소스코드, 의료·금융 문서를 외부 API로 보내기 어려운 조직에는 특히 중요한 선택지입니다.
같은 Qwen 계열의 Qwen3.8-27B가 Apache 2.0 라이선스를 채택한 점도 주목할 만합니다. 비교적 작은 규모의 모델을 상업적으로 활용하고 재배포할 수 있는 기반이 생기면, 개발자와 기업은 자신들의 업무에 맞춘 파생 모델과 에이전트 서비스를 더 빠르게 만들 수 있습니다.
‘더 큰 AI’가 아니라 ‘더 넓은 AI’로
Qwen3.8-Max는 기술적으로 거대한 모델입니다. 그러나 이 모델이 상징하는 변화는 파라미터 숫자보다 큽니다. 초거대 성능, 장기 작업 능력, 비용 효율, 개방성이 한 방향으로 결합하고 있기 때문입니다.
입력 토큰 100만 개당 약 2달러 수준으로 알려진 가격은 장기간 작동하는 소프트웨어 에이전트의 경제성을 다시 계산하게 합니다. 여기에 오픈웨이트 배포 가능성까지 더해지면, AI는 일부 기업이 제공하는 고가의 지능 서비스에서 벗어나 조직이 직접 조달하고 운영하는 인프라로 이동할 수 있습니다.
앞으로 테크 시장의 경쟁은 “누가 더 높은 벤치마크 점수를 냈는가”만으로 설명되기 어려울 것입니다. 더 중요한 질문은 다음과 같습니다.
누가 더 낮은 비용으로, 더 긴 맥락을 이해하고, 더 자유롭게 배포할 수 있는 AI를 제공하는가.
Qwen3.8-Max는 그 질문이 이제 현실적인 산업 경쟁의 중심에 들어왔음을 보여주는 신호다.
테크 관점에서 본 MoE의 계산 경제학: 거대한 두뇌를 필요한 만큼만 쓰는 법
2.4조 개의 파라미터를 가진 AI가 매번 모든 파라미터를 계산한다면 어떤 일이 벌어질까요? 응답 품질과 별개로, 추론 비용·전력 소비·처리 시간이 급격히 늘어납니다. 대규모 서비스를 운영하는 기업이라면 GPU 수급과 인프라 비용만으로도 사업성이 흔들릴 수 있습니다.
Qwen3.8-Max가 주목받는 이유는 바로 이 문제를 Mixture-of-Experts(MoE) 구조로 풀기 때문입니다. 전체 파라미터는 약 2.4조 개지만, 토큰 하나를 처리할 때 실제로 활성화하는 파라미터는 약 950억 개에 그칩니다.
쉽게 말해, 거대한 두뇌 전체를 매번 깨우는 대신 질문에 맞는 전문가만 호출하는 방식입니다.
모든 파라미터를 계산하지 않는 이유
전통적인 Dense 모델은 입력된 모든 토큰이 모델의 대부분의 층과 파라미터를 통과합니다. 모델이 커질수록 표현력은 높아질 수 있지만, 계산량도 함께 증가합니다.
반면 MoE 모델은 모델 내부에 여러 개의 전문가 네트워크(Expert) 를 둡니다. 그리고 입력 토큰마다 라우터 또는 게이트(gate)라는 작은 선택 장치가 작동합니다.
이 라우터는 문맥을 보고 다음과 같은 판단을 내립니다.
- 이 토큰은 코드 작성에 가까운가?
- 수학적 추론이 필요한가?
- 자연어 요약이나 번역에 가까운가?
- 이미지·비디오와 연결된 멀티모달 정보인가?
- 특정 언어, 산업 용어, 문서 형식에 특화된 처리가 필요한가?
판단이 끝나면 라우터는 수많은 전문가 중 일부만 선택해 계산을 맡깁니다. Qwen3.8-Max에서는 전체 2.4조 파라미터 가운데 약 950억 파라미터 수준만 활성화하는 것이 핵심입니다.
모델 전체의 지식과 표현력은 유지하면서, 실제 연산은 필요한 부분에 집중한다.
이것이 MoE가 만드는 계산 경제학입니다.
그렇다면 비활성 파라미터는 왜 존재할까?
“매번 쓰지 않는 파라미터라면 굳이 왜 넣을까?”라는 질문이 자연스럽습니다. 답은 각 전문가가 서로 다른 유형의 패턴과 능력을 학습하기 때문입니다.
예를 들어 어떤 전문가들은 코드 구조와 오류 패턴에 강할 수 있습니다. 다른 전문가들은 계약서 문체, 재무 문서, 다국어 번역, 수학 문제, 이미지 설명처럼 서로 다른 데이터 분포에 더 적합하게 훈련될 수 있습니다.
모든 전문가가 한 번에 일하지는 않지만, 적절한 순간에 선택될 수 있도록 대기합니다. 즉, 비활성 파라미터는 낭비되는 자원이 아니라 필요한 문제에만 투입되는 전문 지식의 저장소에 가깝습니다.
이 구조는 대형 병원에 비유할 수 있습니다. 감기 환자에게 모든 전문의가 동시에 진료할 필요는 없습니다. 먼저 진료 분류가 이뤄지고, 필요한 경우 내과·외과·영상의학과·재활의학과 전문의가 연결됩니다. MoE의 라우터도 비슷하게 입력을 분류하고 적합한 전문가 집합을 호출합니다.
AI는 어떤 전문가를 선택할까?
MoE의 성능은 전문가 수 자체보다 라우팅 품질에 크게 좌우됩니다. 잘못된 전문가를 선택하면 모델이 보유한 거대한 지식량에도 불구하고 답변 품질이 떨어질 수 있습니다.
라우터는 보통 각 토큰의 표현값을 바탕으로 전문가별 적합도 점수를 계산합니다. 이후 점수가 높은 일부 전문가만 선택하는 방식으로 동작합니다. 이를 흔히 Top-k 라우팅이라고 부릅니다.
가령 “이 서비스의 인증 모듈을 리팩터링하고 보안 취약점도 점검해줘”라는 요청이 들어오면, 모델은 단순히 한 명의 ‘코딩 전문가’만 선택하지 않을 수 있습니다.
- 코드 구조를 해석하는 전문가
- 보안 취약점을 찾는 전문가
- 긴 프로젝트 문맥을 유지하는 전문가
- 자연어로 개선안을 설명하는 전문가
이처럼 여러 전문 경로가 조합되어 하나의 응답을 만듭니다. 특히 Qwen3.8-Max처럼 100만 토큰 컨텍스트를 지원하는 모델에서는, 긴 코드베이스·로그·문서의 관계를 유지하면서 필요한 전문가를 배정하는 능력이 더욱 중요해집니다.
비용 절감은 단순히 “싸다”는 뜻이 아니다
MoE가 제공하는 가장 큰 가치는 모델 규모와 실제 계산량을 분리한다는 데 있습니다. 2.4조 파라미터의 잠재력을 갖되, 모든 요청에 2.4조 파라미터 규모의 비용을 지불하지 않도록 설계하는 것입니다.
이는 테크 업계에서 특히 중요한 변화입니다. 장기 에이전트, 대규모 코드 분석, 기업 문서 자동화처럼 토큰 사용량이 많은 작업은 모델 가격이 조금만 높아도 운영비가 빠르게 불어납니다. MoE는 이러한 작업을 더 현실적인 비용 범위로 가져오는 핵심 구조가 될 수 있습니다.
다만 활성 파라미터가 적다고 해서 운영이 무조건 간단해지는 것은 아닙니다. 전체 모델 가중치를 저장하고 여러 GPU에 분산해야 하므로, 메모리 요구량과 네트워크 통신, 전문가 간 부하 균형은 여전히 어려운 과제입니다. 특정 전문가만 반복적으로 선택되면 일부 장비에 작업이 몰리는 문제도 발생할 수 있습니다.
그럼에도 Qwen3.8-Max의 구조는 분명한 방향을 보여줍니다. 미래의 AI 경쟁은 “누가 더 큰 모델을 만들었는가”를 넘어, 누가 더 큰 모델의 능력을 더 적은 계산으로 꺼내 쓰게 하는가로 이동하고 있습니다.
대화형 AI에서 프로젝트형 AI로: 100만 토큰이 바꾸는 테크의 일하는 방식
수천 페이지에 이르는 계약서, 수년간 누적된 코드베이스, 이미지가 포함된 오류 로그를 AI에게 여러 번 나눠 설명해야 했던 경험이 있을 것입니다. 대화가 길어질수록 앞서 공유한 조건이 빠지고, 새 채팅을 열면 프로젝트의 맥락도 다시 설명해야 했습니다.
100만 토큰 컨텍스트 윈도우는 이 불편을 근본적으로 바꿀 수 있습니다. AI가 단발성 질문에 답하는 챗봇을 넘어, 프로젝트의 전체 기억을 유지하며 함께 일하는 작업자로 진화하는 기반이기 때문입니다.
100만 토큰, 얼마나 큰 규모인가
토큰은 AI가 텍스트를 처리하는 최소 단위입니다. 언어와 문서 형식에 따라 차이가 있지만, 100만 토큰은 일반적으로 수백만 자의 텍스트, 또는 수천 페이지 수준의 문서를 한 번에 다룰 수 있는 규모로 이해할 수 있습니다.
Qwen3.8-Max처럼 100만 토큰 컨텍스트를 지원하는 모델은 다음 정보를 한 작업 공간에 함께 올릴 수 있습니다.
- 기업의 규정집, 계약서, 회의록, 이메일 기록
- 여러 저장소로 나뉜 대형 코드베이스와 API 문서
- 서버 로그, 오류 메시지, 배포 이력, 이슈 티켓
- 제품 화면 캡처, 디자인 시안, 사용자 피드백
- 테스트 결과와 성능 지표, 이전 변경 내역
핵심은 단순히 “긴 문서를 읽는다”는 데 있지 않습니다. 서로 다른 형식의 자료를 연결해 왜 문제가 발생했는지, 어떤 제약을 지켜야 하는지, 이전 결정이 현재 작업에 어떤 영향을 주는지까지 추론할 수 있다는 점입니다.
질문 답변형 AI와 프로젝트형 AI의 차이
기존 대화형 AI는 대체로 하나의 질문과 하나의 답변에 최적화돼 있습니다. 사용자가 필요한 정보를 그때그때 정리해 제공하면, 모델은 해당 범위 안에서 요약·작성·분석을 수행합니다.
반면 프로젝트형 AI는 장기 맥락을 유지합니다. 프로젝트의 목표, 제약 조건, 과거의 실패, 이해관계자의 요구사항을 계속 참조하면서 다음 작업으로 넘어갑니다.
| 구분 | 대화형 AI | 프로젝트형 AI |
|---|---|---|
| 작업 단위 | 개별 질문·문서 | 프로젝트 전체 |
| 맥락 유지 | 짧은 대화 중심 | 장기 자료와 이력 중심 |
| 사용자 역할 | 매번 배경 설명 | 목표 설정과 검토 |
| AI 역할 | 답변 생성 도구 | 분석·실행·기록을 이어가는 작업자 |
| 대표 활용 | 요약, 번역, 초안 작성 | 개발, 감사, 리서치, 운영 자동화 |
이 변화는 AI의 답변 길이가 늘어나는 문제가 아닙니다. 사람의 업무 흐름 자체가 ‘지시 → 결과 확인 → 다음 지시’에서 ‘목표 설정 → 중간 검토 → 장기 실행 관리’로 바뀌는 일입니다.
코드베이스와 문서가 하나의 맥락이 되는 순간
개발 현장에서 100만 토큰의 가치는 특히 분명합니다. 기존에는 오류 로그를 붙여 넣고, 관련 코드 파일을 나눠 공유하고, 다시 API 명세와 배포 환경을 설명해야 했습니다. 파일 간 의존성이 복잡할수록 AI는 부분적인 조언만 내놓기 쉬웠습니다.
프로젝트형 AI는 전체 코드베이스와 관련 문서를 한꺼번에 참고할 수 있습니다. 예를 들어 다음과 같은 흐름이 가능해집니다.
- 모놀리식 애플리케이션의 구조와 서비스 의존성을 분석합니다.
- 최근 장애 로그와 변경된 커밋을 대조해 원인 후보를 좁힙니다.
- 수정이 필요한 모듈을 찾고, 다른 기능에 미칠 영향을 검토합니다.
- 리팩터링 코드와 테스트 코드를 생성합니다.
- 테스트 실패 결과를 다시 읽고 수정안을 보완합니다.
Qwen3.8-Max의 긴 컨텍스트와 멀티모달 처리 능력은 여기서 더 큰 의미를 가질 수 있습니다. 코드와 로그만 보는 것이 아니라, 오류가 발생한 화면 캡처나 관리자 UI 이미지, 사용자 제보까지 함께 분석할 수 있기 때문입니다. 이는 테크 조직이 디버깅과 제품 개선을 별개의 업무로 다루던 방식에도 변화를 줄 수 있습니다.
장기 에이전트의 핵심은 ‘기억’이 아니라 ‘추적 가능성’
다만 100만 토큰이 있다고 해서 AI가 자동으로 완벽한 프로젝트 관리자가 되는 것은 아닙니다. 긴 문맥 안에서 중요한 정보를 정확히 찾고, 오래된 정책과 최신 변경 사항을 구분하며, 근거를 제시하는 능력이 함께 필요합니다.
실무에서는 다음 원칙이 중요합니다.
- 자료의 최신성 관리: 오래된 문서와 최신 정책이 충돌할 수 있습니다.
- 권한 분리: 계약서, 고객 데이터, 소스코드는 접근 범위를 엄격히 통제해야 합니다.
- 근거 검토: AI의 결론에는 참조한 문서·코드·로그의 위치를 연결해야 합니다.
- 단계별 승인: 배포, 계약 판단, 고객 응대처럼 영향이 큰 작업은 사람이 최종 승인해야 합니다.
즉, 프로젝트형 AI의 경쟁력은 많은 정보를 담는 데서 끝나지 않습니다. 프로젝트 전체를 잊지 않으면서도, 어떤 판단이 어떤 근거에서 나왔는지 추적할 수 있는가에 달려 있습니다.
AI는 더 이상 창이 아니라 작업 공간이 된다
100만 토큰 컨텍스트는 AI를 여는 방식부터 바꿉니다. 이전에는 필요한 순간에 질문을 입력하는 ‘검색창’ 또는 ‘대화창’에 가까웠다면, 앞으로는 문서·코드·이미지·업무 이력이 축적되는 프로젝트 작업 공간에 가까워질 수 있습니다.
알리바바 Qwen3.8-Max가 제시한 초장기 컨텍스트는 그래서 단순한 스펙 경쟁 이상의 의미를 갖습니다. AI가 한 번의 답변을 잘하는 도구를 넘어, 며칠 또는 수주 동안 맥락을 유지하며 일을 이어가는 에이전트로 발전할 수 있다는 신호입니다.
결국 앞으로의 테크 경쟁은 “누가 더 똑똑하게 답하는가”보다, 누가 더 긴 프로젝트를 낮은 비용으로 안정적으로 완수하는가에서 갈릴 가능성이 큽니다.
테크: 100만 토큰에 2달러, 장기 에이전트의 가격표가 내려오다
AI가 몇 분짜리 답변을 만드는 도구를 넘어, 16일 동안 소프트웨어 엔지니어처럼 프로젝트를 수행한다면 기업의 업무 설계는 어떻게 달라질까요? 이제 핵심은 “AI를 쓸 수 있는가”가 아닙니다. 얼마나 오래, 얼마나 적은 비용으로, 얼마나 안정적으로 일을 맡길 수 있는가가 새로운 기준이 되고 있습니다.
Tongyi Qwen3.8-Max의 입력 비용은 보도 기준 100만 토큰당 약 2달러입니다. 이는 단순히 API 가격이 낮아졌다는 소식이 아닙니다. 대형 코드베이스, 사내 문서, 운영 로그, 제품 화면, 고객 문의를 긴 맥락으로 투입하는 장기 자동화 프로젝트의 손익 계산식을 바꾸는 숫자입니다.
입력 비용이 낮아지면 달라지는 것
100만 토큰은 짧은 질의응답에는 과한 규모처럼 보일 수 있습니다. 하지만 실제 기업 환경에서는 다릅니다. 수년간 쌓인 기술 문서, 수십 개 저장소의 코드, 장애 로그, 정책 문서, 티켓 이력은 빠르게 수십만~수백만 토큰 단위로 늘어납니다.
기존에는 긴 자료를 AI에 반복적으로 전달하는 과정 자체가 부담이었습니다. 문맥이 길어질수록 비용은 커지고, 작업을 여러 세션으로 나누면 AI가 앞선 판단을 잊는 문제가 생깁니다.
반면 100만 토큰 컨텍스트와 낮은 입력 단가가 결합하면 다음과 같은 테크 운영이 현실적인 선택지가 됩니다.
- 대형 코드베이스 전체를 읽힌 뒤 구조적 문제를 진단하는 작업
- 수개월치 장애 로그와 배포 이력을 분석해 원인을 추적하는 작업
- 계약서, 규정집, 내부 정책을 비교해 리스크를 표시하는 작업
- 사용자 피드백, UI 스크린샷, A/B 테스트 데이터를 묶어 제품 개선안을 만드는 작업
중요한 점은 모델이 단발성 답변을 잘하는지를 넘어, 긴 맥락을 유지한 채 반복적으로 계획·실행·검증하는 에이전트로 움직일 수 있다는 것입니다.
가격이 낮아진 것은 “질문 한 번의 비용”이 아니라, “프로젝트 하나를 AI에게 맡기는 비용”을 다시 계산할 수 있게 됐다는 의미에 가깝습니다.
16일짜리 AI 프로젝트가 던지는 질문
Qwen3.8-Max는 약 16일간 사람의 개입을 최소화한 상태로 자율 소프트웨어 엔지니어링 프로젝트를 수행한 사례와 함께 소개됐습니다. 물론 모든 개발 업무를 AI가 완전히 대체한다는 뜻은 아닙니다. 요구사항의 우선순위, 보안 승인, 제품 방향, 최종 품질 책임은 여전히 사람이 맡아야 합니다.
다만 개발 조직의 역할은 달라질 수 있습니다.
과거에는 엔지니어가 직접 수행하던 반복 업무가 많았습니다. 코드 탐색, 영향도 분석, 테스트 작성, 문서 갱신, 오류 재현, 리팩터링 후보 정리 등이 대표적입니다. 장기 에이전트는 이 업무를 하나의 연속된 흐름으로 처리할 가능성을 보여줍니다.
예를 들어 팀 리더는 AI에 다음과 같은 목표를 줄 수 있습니다.
- 레거시 결제 모듈과 관련 서비스의 의존성을 분석한다.
- 보안 취약점과 중복 로직을 찾는다.
- 리팩터링 계획을 문서화한다.
- 변경 코드를 작성하고 테스트를 실행한다.
- 실패한 테스트는 원인을 분석해 재시도한다.
- 사람이 검토할 수 있도록 변경 사항과 위험 요소를 요약한다.
이때 사람은 모든 코드를 처음부터 작성하는 역할보다, 목표를 정의하고 결과를 검증하며 책임 있는 의사결정을 내리는 역할에 더 집중하게 됩니다.
MoE 구조가 장기 작업 비용에 중요한 이유
Qwen3.8-Max는 총 2.4조 파라미터 규모지만, 실제 추론 시에는 약 950억 파라미터가 활성화되는 MoE(Mixture-of-Experts) 구조를 채택합니다.
MoE는 모든 파라미터를 매번 사용하는 대신, 입력의 성격에 맞는 일부 ‘전문가’만 선택해 계산하는 방식입니다. 코드 분석에는 코드 관련 전문가가, 수학적 추론에는 추론 관련 전문가가, 이미지나 비디오 입력에는 멀티모달 처리에 적합한 전문가가 더 집중적으로 활용될 수 있습니다.
이 방식의 핵심은 명확합니다.
- 거대한 모델의 표현력을 활용할 수 있고
- 동시에 매 요청마다 전체 모델을 계산하지 않아
- 긴 문맥과 반복 작업에 필요한 추론 비용을 낮출 수 있습니다.
장기 에이전트는 한 번의 답변으로 끝나지 않습니다. 자료를 읽고, 계획하고, 도구를 호출하고, 결과를 확인하고, 다시 수정하는 루프를 수십~수백 번 반복할 수 있습니다. 따라서 모델 성능만큼이나 반복 추론을 감당할 수 있는 비용 구조가 중요합니다.
“저렴한 토큰”과 “저렴한 프로젝트”는 다르다
다만 입력 토큰 100만 개당 2달러라는 숫자를 그대로 전체 프로젝트 비용으로 받아들여서는 안 됩니다. 실제 비용에는 입력 외에도 출력 토큰, 장기 메모리 저장, 검색 인프라, 도구 호출, GPU 또는 클라우드 운영비, 검토 인력 비용이 포함됩니다.
특히 에이전트가 코드를 생성하고 테스트를 반복하면 출력량과 실행 비용이 커질 수 있습니다. 잘못 설계된 에이전트는 불필요한 반복을 하거나, 지나치게 많은 문서를 다시 읽으며 비용을 키울 수도 있습니다.
따라서 기업은 가격표만 볼 것이 아니라 다음을 함께 설계해야 합니다.
- 작업 목표와 종료 조건을 명확히 정의할 것
- 사람이 승인해야 하는 단계와 자동 실행 범위를 구분할 것
- 코드 실행·배포 권한을 최소 권한 원칙으로 관리할 것
- 에이전트의 토큰 사용량, 실패율, 재시도 횟수를 측정할 것
- 단순 API 단가가 아니라 업무 완료당 비용으로 ROI를 평가할 것
테크 경쟁의 다음 무대는 ‘장기 실행력’
오늘날 AI 경쟁은 단순한 벤치마크 점수 경쟁을 넘어가고 있습니다. 얼마나 똑똑한가뿐 아니라, 얼마나 긴 문맥을 이해하는지, 얼마나 오래 작업을 지속하는지, 그리고 그 과정을 얼마나 낮은 비용으로 제공하는지가 중요해졌습니다.
Qwen3.8-Max의 가격 전략은 이 변화를 상징합니다. AI가 짧은 질문에 답하는 비서에서 벗어나, 며칠 또는 수주 단위의 업무를 수행하는 디지털 작업자로 진화할수록 기업은 사람의 시간을 더 전략적인 판단과 창의적 문제 해결에 배분하게 될 것입니다.
결국 100만 토큰에 2달러라는 가격은 할인 소식이 아닙니다. 장기 자동화가 일부 거대 기업만의 실험이 아니라, 더 많은 조직이 검토할 수 있는 현실적인 테크 전략이 되었음을 보여주는 신호입니다.
AI를 빌리는 시대에서 직접 운영하는 시대로: 테크 인프라의 전환
민감한 계약서, 고객 데이터, 핵심 소스코드를 외부 AI API에 전송하지 않고도 프런티어급 AI를 사내 서버에서 운영할 수 있다면 어떨까요?
이 질문은 이제 단순한 가정이 아닙니다. 알리바바의 Qwen3.8-Max가 예고한 오픈웨이트 전략과, Apache 2.0 라이선스를 채택한 Qwen3.8-27B는 AI를 매달 사용료를 내고 접속하는 서비스가 아니라 기업이 직접 배포·통제할 수 있는 공용 인프라로 바꾸는 흐름을 보여줍니다.
외부 API 의존이 만든 한계
그동안 기업은 고성능 AI를 활용하려면 대체로 클라우드 API를 선택해야 했습니다. 빠르게 시작할 수 있다는 장점은 분명하지만, 중요한 제약도 존재합니다.
- 사내 문서와 코드가 외부 서버를 경유할 수 있다는 보안 우려
- 산업별 규제와 데이터 레지던시 요구사항
- 사용량 증가에 따른 토큰 비용 부담
- API 가격, 정책, 모델 업데이트에 대한 공급자 의존
- 모델의 동작 방식과 배포 환경을 완전히 통제하기 어려운 문제
특히 금융, 의료, 공공, 제조, 게임, 대기업 IT 조직처럼 기밀 데이터가 많은 환경에서는 “성능이 좋아도 외부로 보낼 수 없는 데이터”가 존재합니다. 이때 필요한 것은 더 좋은 챗봇이 아니라, 조직 내부에서 안전하게 작동하는 AI 실행 환경입니다.
오픈웨이트가 바꾸는 AI의 소유 방식
오픈소스와 오픈웨이트는 같은 의미가 아닙니다. 오픈웨이트 모델은 학습된 모델 가중치, 즉 추론에 필요한 핵심 파라미터를 공개해 사용자가 직접 내려받아 실행할 수 있게 하는 방식입니다. 학습 데이터나 전체 학습 코드는 공개되지 않을 수 있지만, 조직은 모델을 자체 인프라에 배포하고 튜닝하며 운영할 수 있습니다.
Qwen3.8-Max의 오픈웨이트 공개 계획은 이 변화의 상징입니다. 2.4조 파라미터 규모와 100만 토큰 컨텍스트를 갖춘 초거대 모델이 배포 가능한 형태로 풀린다면, 프런티어 AI는 일부 클라우드 사업자만 제공하는 독점 서비스라는 전제가 흔들릴 수 있습니다.
물론 2.4조 파라미터 모델을 그대로 운영하려면 상당한 GPU 클러스터, 고속 네트워크, 스토리지, 추론 최적화 역량이 필요합니다. 다만 MoE 구조에서는 전체 2.4T 파라미터가 매번 계산에 참여하는 것이 아니라 약 950억 파라미터 수준의 전문가만 활성화됩니다. 이는 거대한 모델의 표현력을 유지하면서도 실제 추론 비용을 낮추려는 설계입니다.
Qwen3.8-27B와 Apache 2.0의 현실적 가치
많은 조직에는 Qwen3.8-Max보다 Qwen3.8-27B가 더 즉시적인 의미를 가질 수 있습니다. 27.8B 규모의 Dense 모델인 Qwen3.8-27B는 Apache 2.0 라이선스를 기반으로 하며, 상업적 활용과 수정, 재배포에 비교적 제약이 적습니다.
이는 기업이 다음과 같은 선택을 할 수 있다는 뜻입니다.
- 사내 GPU 서버 또는 프라이빗 클라우드에 모델 배포
- 내부 문서와 코드만 활용한 도메인 특화 튜닝
- 사내 검색 시스템, 벡터 데이터베이스, 권한 관리 체계와 연동
- 외부 API 호출 없이 코드 도우미·문서 요약·지식 검색 서비스 운영
- 조직의 보안 정책에 맞춘 감사 로그와 접근 제어 적용
예를 들어 개발 조직은 사내 Git 저장소와 기술 문서를 연결한 코드 어시스턴트를 구축할 수 있습니다. 이 시스템은 외부로 소스코드를 보내지 않은 채 레거시 코드 분석, 테스트 케이스 생성, 리팩터링 제안, 장애 로그 요약을 수행합니다. 법무팀은 계약서와 사내 규정집을 대상으로 조항 비교, 위험 문구 탐지, 검토 보고서 초안 작성에 활용할 수 있습니다.
AI는 구독 서비스가 아니라 배포 가능한 테크 스택이 된다
AI를 직접 운영한다는 것은 단순히 모델 파일을 다운로드하는 일이 아닙니다. 모델, GPU, 데이터 파이프라인, 검색 시스템, 권한 관리, 모니터링, 평가 체계를 결합하는 일입니다. 즉, AI는 SaaS 구독 항목에서 벗어나 데이터베이스나 쿠버네티스처럼 기업의 핵심 테크 스택 일부가 됩니다.
이 전환이 중요한 이유는 비용 절감만이 아닙니다. 조직은 자신의 업무 흐름에 맞게 AI를 설계할 수 있습니다. 예를 들어 모델이 답변할 수 있는 문서 범위를 부서별로 제한하고, 민감한 개인정보를 자동 마스킹하며, 특정 결과에는 반드시 사람의 승인을 거치게 만들 수 있습니다.
앞으로 경쟁력은 “가장 비싼 AI API를 쓰는 기업”보다, 자사 데이터와 업무 프로세스 위에서 AI를 얼마나 안전하고 정교하게 운영하는 기업인가에 의해 결정될 가능성이 큽니다. Qwen 계열의 오픈웨이트 전략은 바로 그 변화가 기술적으로, 그리고 사업적으로 현실화되고 있음을 보여줍니다.
