[태그:] AI추론

[뉴스] 2년 걸리던 걸 며칠 만에…AI 데이터센터로 바꾼 이 기술

News2026년 10월 05일

Reference by 한국경제 AI 데이터센터를 새로 지으려면 전력 설비와 냉각 시설을 마련하고 인허가를 받는 데 시간이 걸립니다. 삼바노바의 로드리고 리앙 최고경영자(CEO)는 새 데이터센터 개발에 2년이 걸릴 수 있지만, 자사 랙은 기존 시설에 들이면 며칠 안에 가동할 수 있다고 말합니다. 그 배경에는 전력 사용량 차이가 있습니다. 리앙 CEO에 따르면 기존 고성능 GPU 랙은 100~150㎾를 소비하는 반면, […]

[뉴스] 추론 35번 언급한 젠슨 황…그록3 앞세워 AI칩 새 판 짠다

News2026년 03월 17일

Reference by 한국경제 ‘AI가 생각하고 행동하려면 추론해야 한다.’ 이는 젠슨 황 엔비디아 CEO가 지난 ‘GTC 2026’에서 단언한 핵심 메시지로, AI의 미래 방향성을 명확히 보여줍니다. 이번 행사에서 젠슨 황은 ‘추론’을 35번이나 강조하며, AI기술의 판을 새롭게 짜기 위한 핵심 전략을 펼쳤습니다. 바로 AI칩 시장의 ‘새 판’을 열기 위한 추론 기반의 혁신입니다. 최근 인공지능 분야는 학습에서 추론으로 무게 […]

[뉴스] 젠슨 황의 신비로운 메모리 플랫폼…삼성·SK 기회 잡나 [강해령의 테크앤더시티]

News2026년 01월 24일

Reference by 한국경제 엔비디아 CEO 젠슨 황이 CES 2026에서 공개한 신비로운 메모리 플랫폼 ‘Inference Context Memory Platform’은 AI 추론 시대에 어떤 혁신을 가져올까요? 현존 AI의 한계를 깬 이 기술의 비밀을 탐험해봅시다. 최근 젠슨 황의 발표는 AI 산업에 새로운 지평을 열고 있습니다. 특히 ‘Inference Context Memory Platform’(이하 ICMS)은 기존의 GPU 메모리 구조를 넘어서는 획기적인 기술로 관심을 […]

2025년 주목할 NVIDIA Dynamo와 AWS 통합 AI 추론 혁신 핵심 5가지

Tech2025년 07월 27일

Created by AI 왜 2025년 7월 14일은 AI 추론 기술에 새로운 전환점이 되었을까요? NVIDIA Dynamo가 AWS와 손잡으며 대규모 AI 작업에 어떤 혁신을 가져왔는지 살펴봅니다. 2025년 7월 14일, NVIDIA는 자사의 Dynamo 플랫폼에 AWS 서비스 지원을 추가함으로써 클라우드 기반 AI 추론 기술에 혁명적인 변화를 일으켰습니다. 이 통합은 대규모 AI 추론 작업의 효율성과 성능을 크게 향상시켰으며, 특히 컴퓨터 […]