Se você olhou fichas técnicas de notebooks ou celulares recentemente, certamente encontrou uma sigla em destaque: NPU com 45 TOPS, IA integrada no silício ou o selo de Copilot+ PC. O argumento comercial é direto: compre este aparelho novo porque o processador dele foi desenhado para a era da inteligência artificial.
Apresentar um número alto na embalagem custa pouco; explicar o que aquele número mede e, principalmente, o que ele não mede, quase nunca entra no anúncio. Um processador com mais TOPS não pensa mais rápido, não navega sozinho pela internet e não substitui os servidores gigantescos onde os grandes modelos de linguagem operam.
Este post é uma análise de especificações públicas e documentações técnicas de desenvolvedores, não um relato de teste de bancada física. Os dados de fabricantes (Microsoft, Qualcomm, Intel, AMD e Apple) são citados a partir de suas fichas oficiais, e as conclusões sobre como interpretar esses números são análise de engenharia de computação para orientar decisões reais de compra e uso.
O que é um TOP e como essa conta é feita
A sigla TOPS significa Tera Operations Per Second, ou trilhões de operações matemáticas por segundo ($10^{12}$ ops/s).
Em redes neurais profundas, a imensa maioria dos cálculos resume-se a multiplicações e somas sucessivas em matrizes multidimensionais. A operação elementar dessa matemática é chamada de MAC (Multiply-Accumulate), que computa a expressão $A \times B + C$. Como cada operação MAC envolve uma multiplicação e uma adição, a indústria convencionou que 1 MAC equivale a 2 operações.
Portanto, quando uma fabricante declara que uma NPU atinge 40 TOPS, ela está afirmando que o circuito lógico daquele bloco é capaz de completar cerca de 20 trilhões de operações MAC por segundo.
Até aqui, parece uma métrica simples de velocidade. O problema começa quando olhamos o formato dos números que estão sendo multiplicados.
A pegadinha da precisão: INT8 versus ponto flutuante
Tradicionalmente, placas de vídeo (GPUs) e processadores centrais (CPUs) têm seu poder computacional medido em TFLOPS (Tera Floating-point Operations Per Second), usando precisão de ponto flutuante de 32 bits (FP32) ou 16 bits (FP16). Em ponto flutuante, o chip calcula números decimais com mantissa e expoente, essenciais para simulações físicas, renderização 3D e treinamento científico.
Uma NPU moderna, no entanto, mede seus TOPS quase universalmente em inteiros de 8 bits (INT8) — e, em alguns anúncios de marketing mais agressivos, em inteiros de 4 bits (INT4).
| Formato de dado | Tamanho na memória | Complexidade do circuito | Uso típico |
|---|---|---|---|
| FP32 (Ponto flutuante 32-bit) | 4 bytes por número | Muito alta | Treinamento de IA, jogos, física 3D |
| FP16 (Ponto flutuante 16-bit) | 2 bytes por número | Média | Treinamento e inferência de alta precisão |
| INT8 (Inteiro 8-bit) | 1 byte por número | Baixa (alta densidade) | Inferência de modelos quantizados na NPU |
| INT4 (Inteiro 4-bit) | 0,5 byte por número | Mínima | Compressão extrema para caber em RAM |
Um multiplicador que opera apenas com números inteiros de 8 bits ocupa uma fração diminuta da área de silício de um multiplicador de ponto flutuante completo e consome ordens de magnitude menos energia.
Essa distinção revela a primeira manobra frequente da publicidade: o chamado “Platform TOPS” ou “TOPS combinados”. Algumas marcas somam os TOPS da NPU (em INT8) com os TFLOPS da GPU (em FP16) e a capacidade da CPU, anunciando um número único inflado (como “80 TOPS totais”). Trata-se de uma soma de grandezas incompatíveis: esses blocos não operam no mesmo barramento, não compartilham a mesma latência e não executam a mesma instrução simultaneamente na prática.
Por que a Microsoft fixou o piso em 40 TOPS
Em maio de 2024, a Microsoft estabeleceu um requisito técnico rígido para certificar computadores sob a categoria de Copilot+ PC: o sistema precisava ter uma NPU dedicada entregando no mínimo 40 TOPS em INT8, sem contar CPU ou GPU.
Esse corte de 40 TOPS não foi acidental. Ele representou o piso mínimo de engenharia para que modelos compactos de linguagem (SLMs, na faixa de 2 a 3,8 bilhões de parâmetros, como a família Phi da própria Microsoft) e modelos locais de visão computacional pudessem rodar em segundo plano com latência imperceptível ao usuário.
A partir desse requisito, a indústria alinhou seus lançamentos:
- Qualcomm Snapdragon X Elite / Plus: estreou com a NPU Hexagon entregando 45 TOPS (INT8).
- AMD Ryzen AI 300: introduziu a arquitetura XDNA 2 com até 50 TOPS.
- Intel Core Ultra Série 2 (Lunar Lake): saltou dos ~11 TOPS da primeira geração para 40 a 48 TOPS na NPU 4.
- Apple Silicon M4 / A18 Pro: Neural Engine projetado com 38 TOPS (INT8), calibrado para o conjunto de modelos do Apple Intelligence.
Mas o que esses 40 TOPS executam no computador hoje?
Recursos como o Windows Studio Effects (que desfoca o fundo da webcam, ajusta o contato visual artificialmente e cancela ruído do microfone), legendas automáticas em tempo real (Live Captions) com tradução de áudio offline e indexação semântica de fotos na galeria. Nenhum desses recursos exige computação alienígena — a maioria já podia ser executada por uma GPU dedicada há anos. A diferença está em quanto custa executar essas tarefas.
A verdadeira função da NPU: eficiência energética (TOPS por Watt)
A pergunta mais frequente de quem já possui um notebook com placa de vídeo dedicada é: se a minha GPU já tem poder de sobra para fazer contas em matrizes, por que eu preciso de uma NPU?
A resposta não é velocidade bruta. É termodinâmica e autonomia de bateria.
Uma GPU moderna de notebook é uma máquina de paralelismo massivo projetada para renderizar dezenas de milhões de polígonos por segundo. Se você abrir uma reunião de duas horas no Teams, Zoom ou Meet e mantiver a GPU processando o filtro de cancelamento de ruído acústico e o desfoque de câmera em tempo real, ela consumirá entre 15 e 35 Watts continuamente. O notebook esquenta, as ventoinhas disparam e a bateria se esgota rapidamente.
A NPU é um circuito de função fixa (um ASIC especializado em tensores e multiplicações matriciais). Ela executa a mesmíssima rotina de cancelamento de ruído e visão computacional consumindo entre 1 e 2,5 Watts. O computador permanece frio, silencioso e a bateria dura o dia todo.
A vitória da NPU no silício não reside em fazer “mágica de inteligência”: reside em descarregar tarefas sensoriais contínuas da CPU e da GPU com um consumo de energia insignificante.
O gargalo que o marketing não mostra: a barreira da memória
Existe uma expectativa comum de que um computador com processador de IA seja capaz de rodar localmente um modelo do porte do Claude ou do ChatGPT sem conexão com a internet. A física da arquitetura de computadores impõe um freio rigoroso a essa expectativa: a chamada Memory Wall (barreira da memória).
Na geração de texto com modelos autoregressivos, o processamento ocorre token por token. A cada única palavra ou sílaba gerada, todos os pesos do modelo precisam ser lidos da memória RAM e transferidos para o processador.
Vamos fazer a conta com números reais:
- Um modelo relativamente pequeno de 7 bilhões de parâmetros, comprimido em 4 bits (INT4), ocupa cerca de 3,5 a 4 GB de memória RAM.
- Em um notebook moderno com memória LPDDR5x operando a uma largura de banda de cerca de 100 GB/s, o tempo teórico mínimo para ler esses 3,5 GB da memória é de aproximadamente 0,035 a 0,04 segundos.
- Isso limita a taxa máxima de saída a cerca de 25 a 28 tokens por segundo, mesmo se a NPU tivesse velocidade infinita.
- Se o modelo tiver 14 bilhões de parâmetros (~8 GB), a taxa máxima cai para ~12 tokens por segundo.
- Um modelo de ponta de 70 bilhões de parâmetros quantizado precisa de cerca de 35 a 40 GB de RAM apenas para os pesos — ele nem sequer cabe na memória unificada de 16 GB de um notebook convencional.
A conclusão é matemática: ter 45, 100 ou 200 TOPS de pico na NPU não adianta se a largura de banda da memória RAM não puder entregar os dados na velocidade que o núcleo consome. Na maior parte do tempo em inferência de texto local, o processador fica ocioso esperando a memória RAM responder.
O que roda localmente versus o que vai para a nuvem
Para não cair em promessas vazias, vale separar claramente o que as marcas demonstram em comerciais de TV do que efetivamente acontece dentro do aparelho:
O que roda no aparelho (na NPU ou localmente)
- Filtros de áudio e vídeo: cancelamento de eco, isolamento de voz, enquadramento de câmera e iluminação artificial.
- Transcrição e fala: conversão de áudio para texto local em tempo real (como o Whisper) sem enviar sua voz para servidores de terceiros.
- Visão computacional e busca semântica: reconhecimento de faces em fotos, busca por descrição de imagem (“foto da praia em 2024”) e OCR local.
- Pequenos modelos de linguagem (SLMs de 2B a 3B): resumo rápido de notas curtas, correção gramatical simples e respostas em assistentes de sistema pré-indexados.
O que continua exigindo a nuvem
- Raciocínio complexo e planejamento: modelos profundos de fronteira não cabem no aparelho.
- Geração criativa longa e código-fonte avançado: redação de ensaios completos, arquitetura de sistemas e depuração de código em larga escala.
- Geração e edição de imagem fotorrealista pesada: modelos como Flux ou Midjourney exigem clusters de GPUs com centenas de gigabytes de VRAM.
- Pesquisas em tempo real na web: qualquer consulta que precise varrer a internet ao vivo consulta servidores remotos.
Como avaliar a ficha técnica antes de comprar
Se você está pesquisando um notebook ou celular novo e quer tomar uma decisão técnica em vez de comprar um slogan, aplique este roteiro de quatro verificações:
- Exija o TOPS isolado da NPU: ignore números que anunciem “TOPS totais do ecossistema” ou “TOPS combinados”. Procure o número exato entregue pelo bloco da NPU de forma dedicada.
- Verifique a precisão do número: confira se a fabricante está divulgando o resultado em INT8. Se o número só for atingido em INT4, a capacidade real com modelos de precisão padrão é a metade do que o anúncio sugere.
- Priorize memória RAM e barramento: para qualquer carga de inteligência artificial local, 16 GB de memória RAM unificada é o piso absoluto, sendo 32 GB o patamar confortável para trabalho. Uma máquina com 32 GB de RAM e barramento largo de memória é muito mais útil para IA local do que uma máquina com 16 GB e 10 TOPS a mais no chip.
- Verifique se os seus programas têm suporte ao hardware: a NPU é silício inerte se o aplicativo que você usa não foi recompilado para usar os frameworks de aceleração do sistema (como DirectML no Windows, Core ML no macOS/iOS ou OpenVINO da Intel). Se os programas do seu fluxo diário não utilizam esses intermediários, ter uma NPU não trará nenhum ganho na sua rotina imediata.
Fontes
- Requisitos oficiais de hardware para a categoria Copilot+ PC (exigência mínima de 40 TOPS dedicados na NPU em INT8) — Microsoft Learn, Copilot+ PCs hardware requirements, documentação técnica oficial da Microsoft, verificado em 2026-09-01.
- Especificações da arquitetura da NPU Hexagon e plataforma Snapdragon X Elite — Qualcomm Technologies, Snapdragon X Elite Product Brief, ficha técnica do fabricante, verificado em 2026-09-01.
- Documentação da arquitetura Lunar Lake e NPU 4 para aceleração de matrizes neurais — Intel Corporation, Intel Core Ultra 200V Series Architecture Whitepaper, documento de arquitetura oficial, verificado em 2026-09-01.
- Whitepaper da arquitetura neural AMD XDNA 2 e suporte a block floating-point em processadores Ryzen AI — AMD, AMD XDNA 2 Architecture Overview, documentação oficial de produto, verificado em 2026-09-01.
- Guia para desenvolvedores sobre o Apple Neural Engine e execução de modelos quantizados em silício Apple — Apple Developer Documentation, Core ML Performance and Quantization, documentação oficial para desenvolvedores, verificado em 2026-09-01.
- Discussão acadêmica sobre o gargalo de largura de banda de memória em cargas generativas (Memory Wall) — Wulf & McKee, Hitting the Memory Wall: Implications of the Obvious, artigo clássico de arquitetura de computadores, e especificações JEDEC para memórias LPDDR5x, verificado em 2026-09-01.
