원문 소식, 쉽게 읽기

마이크로소프트는 2026년 10월 12일 자체 AI 가속기 Maia 300의 생산 배포를 2027년 시작한다고 발표했다. 회사는 이후 Azure Maia 시스템을 여러 기가와트 규모로 넓혀 자사 제품과 서비스의 주된 AI 추론 시스템으로 삼을 계획이다. 추론은 이미 학습된 AI 모델이 질문을 읽고 답변이나 다음 동작을 계산하는 과정이다. 발표에는 일반 판매나 Azure 고객용 출시일, 가격, 제공 지역이 따로 나오지 않았다. 출처

Maia 300은 긴 문맥을 읽는 추론, 응답 지연이 중요한 대화, 여러 단계를 계속 수행하는 AI 에이전트 작업을 중심으로 설계됐다. 이런 작업은 계산량만큼 모델의 중간 정보와 대화 문맥을 메모리에 저장하고 빠르게 옮기는 능력이 중요하다. 마이크로소프트가 칩의 연산 구조뿐 아니라 메모리 대역폭과 가속기 간 연결을 함께 강조한 이유다. 출처

칩 하나에는 HBM4 메모리 스택 8개가 들어가며 최대 메모리 대역폭은 초당 18.0테라바이트, 열설계전력(TDP)은 950와트다. HBM은 AI 가속기 가까이에 여러 층으로 쌓아 대량의 데이터를 빠르게 공급하는 고대역폭 메모리다. 연산 칩렛은 TSMC의 N2P 공정을 쓴다. 칩렛은 하나의 큰 칩에 모든 기능을 넣는 대신 연산·메모리 제어·입출력 기능을 여러 조각으로 나누어 묶는 설계다. 출처

한 랙에는 가속기 96개가 들어간다. 마이크로소프트가 공개한 전체 랙 전력 범위는 167킬로와트이고, HBM 용량은 27.6테라바이트, 합산 HBM 대역폭은 초당 1.7페타바이트다. 가속기끼리 데이터를 주고받는 연결은 이더넷 기반 구조를 활용해 한 랙에서 데이터센터 규모까지 확장하도록 설계됐다. 이 수치는 완성된 랙의 사양이고, 실제 서비스의 전력 사용량과 처리량은 워크로드에 따라 달라진다. 출처

회사는 Maia 300이 주요 GPU 기반 시스템보다 메가와트당 토큰을 40% 더 처리할 것으로 예상하고, 가속기 96개 구성에서는 Maia 200보다 랙 단위 토큰 처리량이 최대 7배라고 밝혔다. 토큰은 모델이 문장을 처리할 때 나누는 작은 텍스트 단위다. 메가와트당 토큰은 같은 전력에서 얼마나 많은 AI 출력을 만들 수 있는지 보는 지표다. 다만 발표문은 비교한 GPU 시스템, 모델·정밀도·응답 지연 조건과 재현 가능한 시험 방법을 공개하지 않아 서로 다른 회사 제품을 같은 조건으로 독립 비교한 결과로 볼 수는 없다. 출처

현재 생산 환경에서 쓰이는 것은 이전 세대 Maia 200이다. 마이크로소프트는 Maia 200이 Copilot과 자사 MAI 모델 개발에 쓰이고 있으며, GitHub Copilot과 Microsoft Foundry에도 2026년 말까지 적용할 계획이라고 설명했다. 미국·유럽·호주에 배포한 Maia 200의 경험을 Maia 300 설계에 반영했다는 것이 회사의 설명이다. Maia 300은 아직 2027년 생산 배포 계획 단계이므로 두 세대의 현재 이용 상태를 구분해야 한다. 출처

OYOPICK의 시선

Maia 300 발표의 핵심은 최고 연산량 하나보다 같은 전력으로 얼마나 많은 실제 답변을 만들 수 있는가에 무게를 둔 점이다. AI 서비스가 커질수록 칩 가격뿐 아니라 전력·냉각·데이터센터 면적과 응답 지연이 함께 비용을 결정한다. 토큰당 에너지 효율이 실제 운영에서도 개선된다면 더 많은 사람이 AI 기능을 안정적으로 이용할 여지가 생긴다.

아직은 마이크로소프트가 제시한 전망과 사양이다. 40%와 7배 수치는 비교 대상과 시험 조건이 빠져 있어 다른 가속기와의 우열을 확정하지 못한다. 2027년 배포 뒤 동일한 모델, 응답 길이, 지연 목표와 전력 측정 범위를 공개한 자료가 나와야 비용과 효율을 제대로 판단할 수 있다.

여러 기가와트 규모의 확대는 공급 능력을 키우는 동시에 막대한 전력 수요를 뜻한다. Maia 300의 의미는 칩 사양만이 아니라 어느 지역에 얼마나 배치되는지, 전력이 어떤 방식으로 조달되는지, Azure 고객에게 가격과 선택권이 어떻게 돌아오는지에 달려 있다. 마이크로소프트가 생산 일정과 서비스 적용 범위, 실제 에너지 성과를 함께 공개해 맞춤형 칩의 효율 개선이 접근 가능한 AI 서비스로 이어지기를 바란다.