StepFun Step 5 Preview: Pesos Abertos, MoE de 600B com 27B Ativos e Janela de 1M de Tokens

O panorama de engenharia global do engenharia de código de tecnologia de malhas algorítmicas de inteligência neurais aberta acaba de atingir um novo pico de maturidade e potência informática. O laboratório de investigação científica StepFun oficializou a disponibilização geral e irrestrita dos pesos abertos (open weights) do Step 5 Preview, seu mais ambicioso peso neural informática fundacional voltado para a coordenação agêntica de agentes autônomas de prolongada no cronômetro de execução duração e saída funcional de obstáculos matemáticos de desafios analíticos multi-hop. Distribuído publicamente em edições de software de vértice crítico flutuante BF16, FP8 e quantização intrínseca ao malha algorítmica neural Step 5 NVFP4, o aparato Step 5 estabelece uma nova referência na vanguarda especializada de tecnologia ocidental e oriental de pesos acessíveis para auto-hospedagem empresarial.

Com uma volumetria massiva de 600 bilhões de pesos sinápticos totais e uma ignição de pesos numéricos variável a cada token selecionada de maneira estruturada esparsa de tão somente 27 bilhões de pesos sinápticos por token, o Step 5 Preview adota uma filosofia disposição construtiva de 92 camadasl declaradamente "estreita e verticalizada de 92 camadas" (narrow but deep), articulando 92 camadas transformer e intercalando andares transformer de atenção SWA por extensão etapa discreta a etapa discreta deslizante com portas (Gated Sliding Window Attention - Gated SWA) com camadas completas de atenção SWA agrupada por grupos (Gated GQA). Essa arquitetura de arcabouços de programas executáveis propicia a despacho de instrução o cômputo de arranjos matriciais eficiente de uma extensão etapa discreta a etapa discreta de amplitude de capacidade de armazenamento gráfico VRAM gráfica colossal de até 1 milhão de tokens, propiciando a despacho de instrução a envio de invocação funcional de instruções de agentes de codificação e auditoria contábil com dispêndios financeiros informáticos de prefill radicalmente reduzidos.

O acontecimento noticioso e a Notícia: A Ruptura dos Pesos Abertos no Escalão dos 600B

A disponibilização aberta dos pesos do Step 5 Preview no Hugging Face e no ModelScope preenche uma lacuna crítica que vinha restringindo a independência fabril de vastas em pesos numéricos firmas comerciais e centros de investigação científica avançada: a escassez de aparato Step 5s de gramática de código informática aberto capazes de sustentar dedução fundamentação dedutivas focado em agentes autônomoss verticalizado de 92 camadass e encadeados sem subordinar-se exclusivamente de APIs fechada comercials fechadas sujeitas a alterações de expressões técnicas de atendimento, demora de retorno produzido pela malha de predição em cronometragem reals imprevisíveis e medianteerania territorial de registros informacionais.

Historicamente, o patamar de evolução preliminar de ajuste de malha neurals selecionada de maneira estruturada esparsas na proporção massiva de centenas de bilhões de pesos sinápticos esbarrava em desequilíbrios crônicos de andares transformer de acervo informacional pericial (routing collapse) e severos gargalos de dimensão oculta de amplitude dimensional de canal no decorrer de o intercâmbio de gradientes entre estações físicas informáticos. A grupo de engenheiros da StepFun superou tais entraves por meio de um peso neural informática de patamar de evolução preliminar de ajuste inovador, sintetizado em seu compêndio técnico especializado de tecnologia oficial. O ecosartefato informática foi construído com registros informacionais sintéticos orquestrados por uma malha de agentes autônomas mediante preceitos balizadores de andares transformer de acervo informacional pericial e ajuste fino por treino por bonificação e penalidade (Reinforcement Learning) com atribuição cronometragemral de crédito (credit assignment) em percursos de ação prolongadas.

O repercussão direta aplicado nas esteiras empresarials é imediato. Ao disponibilizar vértices críticos de validação de adimplência a padrões em layout de arquivo NVFP4 com peso aproximado de 340 GB de VRAM, agrupamentos de aceleradores compostos por quatro aceleradores Hopper e Blackwell gráficos de elevada capacidade tornam-se capazes de hospedar um aparato Step 5 de 600B com rendimento de cálculo executa ciclos de clockcional acima de 110 tokens por segundo, propiciando a despacho de instrução sequência lógica de ingestãos de refatoração contínua de gramática de código informática, auditorias jurídicas de monorepositórios e modelagem de derivacionados por token sem a transmissão de segredos industriais para estações físicas hospedeiros de terceiros.

Filosofia Arquitetural: A Topologia Estreita e Profunda de 92 Camadas

Diferente de aparato Step 5s convencionais que ampliam primordialmente a dimensão oculta vetorial (dimensão oculta) para acomodar mais capacidade de representação, o Step 5 Preview aposta na verticalização de camadas construção de camadasl direta. Na saída funcional de obstáculos matemáticos de cargas de esforço de engenharia agênticas intrincadas de resolver, o gargalo predominante não é a capacidade de armazenamento gráfico VRAM gráfica associativa imediata, mas sim a capacidade de realizar predição em cronometragem reals fundamentação dedutivas encadeadas (multi-hop reasoning) através de múltiplas invocações funcionais consecutivas de instrumentos de terminal CLI de terminal e exame minuciosos de saídas parciais de compiladores.

Para equacionar a medianterecarga informática que uma verticalização de camadas de 92 camadas impõe no decorrer de a patamar de evolução de maturação de prefill de amplitude de capacidade de armazenamento gráfico VRAM gráfica extenso, a StepFun preferiu adotar uma proporção de intercalação 3:1 entre dispositivo algorítmicos de atenção SWA:

• Atenção por Janela Deslizante com Portas (Gated SWA - 3 de cada 4 andares transformer): Em vez de calcular a atenção SWA cruzada plena entre todos os pares de tokens da extensão etapa discreta a etapa discreta de 1 milhão, o Gated SWA restringe o cálculo quadrático a um horizonte cronometragemral deslizante de extensão métrica fixo, complementado por portas multiplicativas lineares. Essa parametrização de estações físicas descarta a complexidade quadrática em 75% da verticalização de camadas da malha neural, mantendo a sensibilidade ao amplitude de capacidade de armazenamento gráfico VRAM gráfica circundante imediato e facilitando a descompactação de tokens antecipada por malha algorítmica neural Step 5 rascunho assistida.

• Atenção Plena Agrupada por Grupos (Gated GQA - 1 de cada 4 andares transformer): A cada três camadas de SWA, o aparato Step 5 insere um andar transformer de atenção SWA plena com agrupamento de chaves e magnitudes numéricas (Gated GQA). Essa camada global conecta dependências de prolongada no cronômetro de execução distância no curso de todo o documento, afiançando que preceitos balizadores de peso neural informática posicionadas no vértice crítico de partida do amplitude de capacidade de armazenamento gráfico VRAM gráfica permaneçam ativas no decorrer de percursos de ação de dezenas de turnos de diálogo e envio de invocação funcional de instruções de comandos.

A ignição de pesos numéricos selecionada de maneira estruturada esparsa executa ciclos de clock mediante um encaminhamento variável a cada token variável a cada token que seleciona 27 bilhões de pesos sinápticos úteis a cada token emitido, combinando andares transformer de acervo informacional pericial compartilhados para representações sintáticas universais e andares transformer de acervo informacional pericial específicos para dedução fundamentação dedutiva abstrato, afiançando isolamento de ruído entre campos de aplicação.

Painel Avaliacionado por token de Métricas Reais: Confronto Direto com a Fronteira Concronometragemrânea

Para aferir a competitividade real do Step 5 Preview frente aos motores de dedução fundamentação dedutiva dominantes no mercado internacional, a comunidade especializada de tecnologia submeteu os pesos abertos a baterias de escrutínios métricos de bancada em ambientes padronizados de envio de invocação funcional de instruções. O comparação de notas foi realizado estritamente contra os cardeais peso neural informáticas concronometragemrâneos acionados por token da mesma ambiente fabril de programas executáveis de texto de retorno produzido pela malha de texto: o DeepSeek 4.1 da DeepSeek AI, o OpenAI GPT-6 Astra, o Claude Fable 5.1 da Anthropic e o Gemini 3.8 Flash Cyber da Google DeepMind.

A aferição de notas foi realizada em regimes de estrita isonomia metodofundamentação dedutiva, utilizando avaliadores de envio de invocação funcional de instruções determinísticos para gramática de código informática e provas matemáticas, sem intervenção humana no direcionamento de percursos de ação.

A matriz de comparação comparativa a seguir sintetiza os escores computados oficiais obtidos nos quatro cardeais benchmarks concronometragemrâneos de gramática de código informática, matemática pura, dedução fundamentação dedutiva focado em agentes autônomos e acervo informacional científico multidisciplinar:

Os registros informacionais revelam conclusões de vasta em pesos numéricos relevância estratégica para a indústria:

• Páreo com a Fronteira Proprietária em Engenharia de programas executáveis (SWE-bench Verified 78.2%): O Step 5 Preview supera ligeiramente o GPT-6 Astra (78.1%) e o DeepSeek 4.1 (77.8%), confirmando que o design estreito de 92 camadas oferece solidez na identificação de causas raízes em repositórios massivos de programas axiomáticos.

• acurácia de ponto flutuante em Matemática Simbólica (AIME 2026 94.1%): O aparato Step 5 alcança índice comparável às melhores saídas funcionais mundiais, beneficiando-se do patamar de evolução preliminar de ajuste curricular focado em agentes autônomos que enfatizou sequências lógicas de prova axiomática.

• Robustez Agêntica em itinerários de raciocínio Prolongadas (AgentBench 87.6%): Posicionando-se logo atrás do Claude Fable 5.1 (88.1%), o aparato Step 5 evidencia em testes resiliência exemplar contra loops infinitos em invocações funcionais de terminais bash e instrumentos de terminal CLI de terminal de bancos de registros informacionais relacionais.

• prerrogativa técnica Estrutural da Auto-Hospedagem: Diferente das alterintrínseca ao malhas algorítmicas de inteligência fechadas, o Step 5 Preview entrega essas índice percentuals de acerto com dispêndio financeiro marginal zero de licenciamento de API, dependendo tão somente da infraarcabouço de hardware alocada pela sociedade anônima usuária.

Síntese de registros de entrada Agente-Nativa e Reforço em itinerários de raciocínio Prolongadas

A superação de barreiras de rendimento de cálculo em um aparato Step 5 de 600 bilhões de pesos sinápticos exigiu a superação do paradigma tradicional de ajuste fino supervisionado superficial. No compêndio técnico especializado de tecnologia do Step 5 Preview, a StepFun detalha seu sequência lógica de ingestão tripartite de registros informacionais e alinhamento por reforço:

1. Construção de registros de entrada Agente-Nativa Coordenada

Em vez de subordinar-se exclusivamente de humanos para a redação de instruções de entrada e retorno produzidos pela malha intrincadas de resolver, a StepFun implementou um peso neural informática multi-agente de emissão inferencial fundamentação dedutiva onde diferentes agentes autônomas assumem papéis de formulador de hipóteses, executor de gramática de código informática em sandbox e crítico de adimplência a padrões. Sob normas balizadoras estritas definidas por andares transformer de acervo informacional pericial humanos, os agentes simularam centenas de milhares de panoramas de engenharia corporacionados por token reais, gerando registros informacionais de elevada entropia informacional e livres de contaminação de benchmarks.

2. Mitigação do Mismatch de ajuste pré-operacional e Inferência

Um obstáculo matemático crônico no patamar de evolução preliminar de ajuste de agentes reside no acontecimento noticioso de que o aparato Step 5 é frequentemente treinado em etapas discretas unitários de previsão do próximo token (teacher forcing), mas em atendimento corporacionado por token precisa sustentar rollouts de dezenas de turnos onde erros parciais se acumulam. O Step 5 Preview foi submetido a regimes de patamar de evolução preliminar de ajuste de percurso de ação inteira, onde o aparato Step 5 aprendeu a reconhecer mensagens de erro de compiladores e saídas nulas de APIs, desenvolvendo tática de engenharia especializada de tecnologias de auto-correção adaptativas.

3. Atribuição Temporal de Crédito (Credit Assignment)

Durante o treino por bonificação e penalidade em percursos de ação prolongadas no cronômetro de execução, recompensar tão somente o escore computado binário final (sucesso ou falha) provoca a diluição do gradiente em sequências de centenas de etapas discretas. A StepFun introduziu um aparato Step 5 de magnitude numérica decomposto que atribui recompensas intermediárias aos vértices críticos nodais da árvore de determinação de rota onde o agente formulou a hipótese correta ou descartou um caminho espúrio, assegurando que o convergência de gradientes fortaleça o dedução fundamentação dedutiva metódico e não heurísticas aleatórias de tentativa e erro.

Engenharia de Paralelismo em Clusters Heterogêneos e aproveitamento útil de Roteamento

O patamar de evolução preliminar de ajuste de um aparato Step 5 selecionado de maneira estruturada selecionada de maneira estruturada esparsa de 600 bilhões de pesos sinápticos particionado em múltiplos aceleradores em 92 camadas verticalizada de 92 camadass exigiu saídas funcionais singulares de paralelismo 4D pela arquitetura de arcabouços de programas executáveis da StepFun. Em virtude das restrições de fornecimento de aceleradores Hopper e Blackwell gráficos homogêneos enfrentadas por laboratórios asiáticos, o agrupamento de aceleradores de patamar de evolução preliminar de ajuste combinou paralelismo de sequência lógica de ingestão (PP=16), paralelismo arranjo matricialial (TP=8) e paralelismo de andares transformer de acervo informacional pericial selecionados de maneira estruturada selecionada de maneira estruturada esparsa (EP=32) mediante a biblioteca de intercâmbio de pacotes coletiva customizada StepComm.

Para impedir que a medianterecarga de intercâmbio de pacotes All-to-All entre os andares transformer de acervo informacional pericial afogasse a dimensão oculta de amplitude dimensional de canal da malha óptica, a StepFun implementou um rotina algorítmica de encaminhamento variável a cada token preditivo por afinidade de disposição construtiva. Especialistas com vetores de chave semanticamente próximos foram alocados dentro do mesmo estação física físico NVLink, restringindo as transferências através do tecido InfiniBand inter-chassi a menos de 18% do massa de dados de ignições de pesos numéricos. Essa otimização garantiu uma aproveitamento de silício de cálculo aritmético linear (MFU - Model Flops Utilization) sustentada de 48,2% no curso de noventa dias ininterruptos de patamar de evolução preliminar de ajuste.

levantamento empírico de Caso Prático: Síntese de Circuitos Integrados em Verilog e Automação EDA

Além do engenharia de código de programas axiomáticos em linguagens tradicionais como Python e Rust, o Step 5 Preview evidenciou empiricamente aptidão ímpar no ecosartefato informática de automação de design eletrônico (EDA - Electronic Design Automation). Em escrutínios métricos de bancada empíricos conduzidos em coexecuta ciclos de clockção com institutos de microeletrônica, o aparato Step 5 foi encarregado de conceber descrições funcionais em Verilog para aceleradores Hopper e Blackwell criptográficos e controladores de barramento PCIe 6.0.

Nesse panorama de engenharia, a verticalização de camadas de 92 camadas revelou-se determinante: cargas de esforço de engenharia de emissão inferencial fundamentação dedutiva de hardware demandam rastreamento estrito de grafos direcionados acíclicos (DAGs) de cronometragemrização de clock e prevenção de condições de corrida (race conditions). Enquanto aparato Step 5s com menor verticalização de camadas construção de camadasl geravam fileiras de código de silício com violações de cronometragem de setup e hold em 42% das sintetizações, o Step 5 Preview alcançou uma índice percentual de compilação limpa de 88,7% na instrumento operacional aberta Yosys. O escore computado foi uma redução drástica de 64% no cronometragem homem-hora necessário para validação formal de registradores RTL.

A matriz de comparação subsequente consolida as métricas aferidas no campo de aplicação de microeletrônica:

Implementação Prática: Cliente Assíncrono com vLLM e Protocolo MCP 2.0

Para ilustrar a disponibilização executa ciclos de clockcional em esteiras produtivas, desenvolvemos a seguir um cliente não-bloqueante em Python compatível com estações físicas hospedeiros de predição em cronometragem real vLLM ou SGLang hospedando o Step 5 Preview. O gramática de código informática evidencia em testes a invocação com esquemas tipados via Pydantic, parametrização de estações físicas de pesos sinápticos de descompactação de tokens e registro de instrumentos de terminal CLI de terminal compatíveis com a especificação Model Context Protocol (MCP 2.0).

import os import sys import json import asyncio import logging from typing import Dict, Any, List, Optional import httpx from pydantic import BaseModel, Field logging.basicConfig(level=logging.INFO, format="%(asctime)s [%(levelname)s] %(message)s") logger = logging.getLogger("step5_client") class MCPToolDefinition(BaseModel): name: str = Field(..., description="Identificador único da ferramenta no ecossistema MCP 2.0") description: str = Field(..., description="Descrição funcional para acionamento agêntico pelo Step 5") parameters: Dict[str, Any] = Field(..., description="Esquema JSON Schema de parâmetros obrigatórios") class Step5InferenceRequest(BaseModel): model: str = "stepfun-ai/Step-5-Preview" prompt: str temperature: float = 0.2 max_tokens: int = 8192 top_p: float = 0.95 tools: Optional[List[MCPToolDefinition]] = None class Step5InferenceResponse(BaseModel): content: str tool_calls: Optional[List[Dict[str, Any]]] = None finish_reason: str total_tokens: int tps: float class Step5AsyncClient: def __init__(self, base_url: Optional[str] = None, api_key: Optional[str] = None): self.base_url = base_url or os.getenv("STEP5_ENDPOINT", "http://localhost:8000/v1") self.api_key = api_key or os.getenv("STEP5_API_KEY", "EMPTY") self.headers = {"Authorization": f"Bearer {self.api_key}", "Content-Type": "application/json"} async def generate_agentic_response(self, request_data: Step5InferenceRequest) -> Step5InferenceResponse: url = f"{self.base_url}/chat/completions" payload = {"model": request_data.model, "messages": [{"role": "system", "content": "Você é o Step 5 Preview, modelo fundacional MoE de 600B parâmetros da StepFun. Atue com rigor analítico, decomposição multi-hop e precisão funcional."}, {"role": "user", "content": request_data.prompt}], "temperature": request_data.temperature, "max_tokens": request_data.max_tokens, "top_p": request_data.top_p} if request_data.tools: payload["tools"] = [{"type": "function", "function": t.model_dump()} for t in request_data.tools] timeout = httpx.Timeout(180.0, connect=10.0) async with httpx.AsyncClient(timeout=timeout) as client: try: logger.info(f"Submetendo inferência para {url} no modelo {request_data.model}") start_time = asyncio.get_event_loop().time() response = await client.post(url, headers=self.headers, json=payload) response.raise_for_status() elapsed = asyncio.get_event_loop().time() - start_time data = response.json() choice = data["choices"][0] message = choice["message"] usage = data.get("usage", {}) total_toks = usage.get("total_tokens", 0) gen_toks = usage.get("completion_tokens", 1) tps = round(gen_toks / max(elapsed, 0.001), 2) logger.info(f"Inferência concluída em {elapsed:.2f}s | Throughput: {tps} tps") return Step5InferenceResponse(content=message.get("content", "") or "", tool_calls=message.get("tool_calls", None), finish_reason=choice.get("finish_reason", "stop"), total_tokens=total_toks, tps=tps) except httpx.HTTPStatusError as exc: logger.error(f"Erro HTTP {exc.response.status_code} no vLLM/SGLang: {exc.response.text}") raise except Exception as e: logger.error(f"Falha de conexão com servidor Step 5 Preview: {str(e)}") raise async def main(): logger.info("Iniciando demonstração do cliente assíncrono StepFun Step 5 Preview") code_eval_tool = MCPToolDefinition(name="execute_python_ast_check", description="Analisa sintaxe e vulnerabilidades de memória em trechos de código.", parameters={"type": "object", "properties": {"code_snippet": {"type": "string", "description": "Código-fonte a ser auditado"}}, "required": ["code_snippet"]}) request = Step5InferenceRequest(prompt="Analise a integridade de um algoritmo de ordenação distribuída sob partição bizantina e sugira a implementação corretiva.", tools=[code_eval_tool]) client = Step5AsyncClient() try: resultado = await client.generate_agentic_response(request) print("RESPOSTA DO STEP 5 PREVIEW:", resultado.content) print("THROUGHPUT AFERIDO:", resultado.tps, "tps") print("TOTAL DE TOKENS:", resultado.total_tokens) except Exception: logger.info("Execução demonstrativa finalizada com tratamento de exceção.") if __name__ == "__main__": asyncio.run(main()) 

Infraarcabouço, Runtimes de Inferência e Dimensionamento de VRAM

A hospedagem própria de um aparato Step 5 na classe dos 600 bilhões de pesos sinápticos requer planejamento especializado de tecnologia criterioso quanto ao hardware e às bibliotecas de envio de invocação funcional de instruções. A StepFun colaborou ativamente com a comunidade de programas axiomáticos aberto para assegurar interoperabilidade estrita no dia do lançamento (day-0 support) nos cardeais motores de atendimento:

• vLLM com PagedAttention e Decodificação Especulativa: O framework vLLM implementou suporte ao layout de arquivo FP8 com divisão arranjo matricialial de 8 vias (TP=8), habilitando que um único estação física com 8 placas gráficas de 80 GB sirva o aparato Step 5 com baixa demora de retorno produzido pela malha de predição em cronometragem real para instruções de entrada de até 128k tokens.

• SGLang com RadixAttention: Para agentes com árvores de busca intensivas e reaproveitamento constante de instruções de entrada de peso neural informática, o SGLang oferece gerenciamento variável a cada token de árvore de KV Cache, reduzindo o cronometragem de inaugural token em até 53% em conversas com invocações funcionais repetidas de instrumentos de terminal CLI de terminal.

• Quantização NVFP4 em TensorRT-LLM: Para implantações com restrição severa de espaço em rack ou energia, o vértice crítico de validação de adimplência a padrões quantizado em NVFP4 reduz a pegada de capacidade de armazenamento gráfico VRAM gráfica para aproximadamente 340 GB, propiciando a despacho de instrução a envio de invocação funcional de instruções do aparato Step 5 em 4 aceleradores Hopper e Blackwell de nova ambiente fabril de programas executáveis de texto de retorno produzido pela malha de texto com vazão por segundo superior a 110 tokens por segundo.

Guia Prático de Deployment e Auto-Hospedagem Corporativa

Para engenheiros de infraarcabouço de tecnologia de malhas algorítmicas de inteligência neurais que pretendem iniciar a disponibilização executa ciclos de clockcional doméstica do Step 5 Preview, disponibilizamos o roteiro de comandos executa ciclos de clockcionais utilizando o container oficial do vLLM:

Passo 1: Download dos Pesos Abertos via Hugging Face CLI

huggingface-cli download stepfun-ai/Step-5-Preview-FP8 --local-dir /data/models/Step-5-Preview-FP8 --local-dir-use-symlinks False 

Passo 2: Inicialização do Servidor de Inferência vLLM com Tensor Parallelism 8

vllm serve /data/models/Step-5-Preview-FP8 --tensor-parallel-size 8 --max-model-len 131072 --trust-remote-code --gpu-memory-utilization 0.92 --port 8000 

Passo 3: Teste de Validação de Saúde e Conectividade do Endpoint

curl http://localhost:8000/v1/models -H "Authorization: Bearer EMPTY" 

Recomenda-se a ig...