추론 전용 NPU로 LLM 사전학습이 가능할까? 3억 2,500만 파라미터를 0부터 학습해 B200과 같은 품질을 냈다

요약

가능합니다. 단, 학습용 소프트웨어를 따로 만들어야 합니다. 비드래프트는 3억 2,560만 파라미터 언어모델 VKORE-325M-NPU-Base를 무작위 초기값에서 출발해 리벨리온 ATOM-Max(2025년 출시된 상용 추론 전용 NPU)로 사전학습했습니다. 같은 모델을 B200 GPU로도 학습해 비교했습니다. 두 모델 모두 학습에 한 번도 쓰지 않은 텍스트 1,024개 구간에서 평가했고, 손실은 NPU 0.7993, GPU 0.7994였습니다. 두 모델의 가중치와 평가 스크립트는 모두 공개했습니다.

왜 "추론 전용 NPU는 학습을 못 한다"고들 할까?

추론용 칩의 컴파일러와 런타임은 다른 곳에서 학습한 모델의 순전파를 실행하도록 만들어져 있습니다. 사전학습에는 그보다 훨씬 많은 것이 필요합니다. 모든 층의 역전파, 옵티마이저 상태, 그리고 수만 스텝 동안 안정적으로 이어지는 가중치 갱신입니다. 추론용 소프트웨어에는 이것들이 없습니다.

이 질문은 비용 문제와 바로 이어집니다. 추론용 NPU는 학습용 GPU보다 싸고 전력도 적게 쓰며, 이미 많은 기관이 보유하고 있습니다. 같은 장비로 학습까지 할 수 있다면 칩 한 종류로 두 가지 일을 할 수 있습니다.

무엇을 학습했나?

공개한 모델은 표준 LlamaForCausalLM 형식이라 transformers로 바로 불러올 수 있습니다.

"GPU와 같은 품질"은 어떻게 증명했나?

하드웨어만 다르고 나머지가 모두 같은 비교 대상이 있어야 합니다. 그래서 같은 모델을 같은 초기값, 같은 데이터, 같은 배치, 같은 학습률 일정으로 두 번 학습했습니다. 한 번은 NPU, 한 번은 B200 GPU 한 장입니다.

학습 곡선은 일치했나?

학습 내내 겹칩니다. 둘 다 약 5.8에서 약 0.80까지 내려갑니다. 작은 출렁임이 다른 것은 두 실험이 무작위 구간을 다른 순서로 뽑았기 때문입니다.

처음 보는 텍스트에서는 어땠나?

가장 중요한 시험입니다. 학습 말뭉치는 FineWeb-Edu sample/10BT의 앞 두 샤드로만 만들었습니다. 평가는 학습에 전혀 쓰지 않은 샤드 013에서 무작위로 뽑은 1,024개 구간으로 했습니다.

두 모델은 같은 구간으로 평가했기 때문에 구간마다 짝지어 비교할 수 있습니다. 평균 차이는 -0.0001(NPU 빼기 GPU), 표준오차는 0.0007이고, 구간의 50.1%에서 NPU가 더 낮았습니다. 이 해상도에서는 두 모델을 구별할 수 없습니다.

VKORE-46M과 무엇이 달라졌나?

VKORE-46M-NPU는 역전파가 칩 위에서 돌아갈 수 있다는 것을 보였습니다. VKORE-325M은 실제 사전학습 규모로 넘어간 단계입니다.

두 모델 사이의 가장 큰 과제는 역전파 자체가 아니라 긴 학습을 끝까지 안정적으로 끌고 가는 것이었습니다. 이 안정화 기술은 자체 개발했고 특허 출원 중이라 이 글에서는 설명하지 않습니다.

NPU만 사면 학습할 수 있나?

아닙니다. ATOM-Max와 기본 소프트웨어는 추론용으로 설계되어 있습니다. 학습은 비드래프트가 자체 개발한 학습 체계와 안정화 기술이 있어야 가능합니다. 칩을 구입하는 것만으로는 학습이 되지 않습니다.

직접 재현하려면?

from transformers import AutoModelForCausalLM npu = AutoModelForCausalLM.from_pretrained("FINAL-Bench/VKORE-325M-NPU-Base") gpu = AutoModelForCausalLM.from_pretrained("FINAL-Bench/VKORE-325M-NPU-Base", subfolder="b200_reference") 

저장소의 evaluate_unseen.py가 샤드 013을 내려받고 같은 1,024개 구간으로 두 모델의 손실과 짝 차이를 출력합니다. transformers, numpy, pyarrow만 있으면 됩니다.

자주 묻는 질문

어떤 NPU를 썼나요?
리벨리온이 2025년 출시한 상용 추론 전용 NPU ATOM-Max입니다.

NPU 모델이 GPU 모델만큼 좋은가요?
학습에 쓰지 않은 FineWeb-Edu 텍스트에서 손실 0.7993 대 0.7994로 같습니다. 짝 차이는 -0.0001, 표준오차 0.0007입니다.

대화형 모델인가요?
아닙니다. 50억 토큰으로 학습한 3억 2,500만 파라미터 기초 모델이며, 학습 하드웨어 성과를 보이기 위해 공개했습니다.

학습 방법도 공개하나요?
가중치, 데이터 구성, 평가는 공개했습니다. 학습 체계와 안정화 기술은 자체 기술이며 특허 출원 중입니다.

이전 모델과 어떤 관계인가요?
VKORE NPU 학습 시리즈의 두 번째 모델입니다. 첫 모델 VKORE-46M-NPU보다 7배 크고, 데이터는 222배 많습니다.

더 읽을거리

• 전체 기술 보고서(영문): Pretraining a 325M Language Model from Zero on an Inference-Only NPU
• 모델: FINAL-Bench/VKORE-325M-NPU-Base
• 추론 전용 NPU만으로 밑바닥부터 사전학습: VKORE-46M-NPU 공개
• AI 딥테크는 AI로 어떻게 일하는가: 비드래프트 AI NATIVE 5계층 구조 해설