TOPS y NPU: cómo leer la sigla de IA del chip sin caer en marketing

Si usted miró fichas técnicas de laptops o celulares recientemente, seguramente encontró una sigla destacada: NPU con 45 TOPS, IA integrada en el silicio o el sello de Copilot+ PC. El argumento comercial es directo: compre este aparato nuevo porque su procesador fue diseñado para la era de la inteligencia artificial.

Presentar un número alto en el embalaje cuesta poco; explicar qué mide ese número y, sobre todo, qué no mide, casi nunca entra en el anuncio. Un procesador con más TOPS no piensa más rápido, no navega solo por internet y no sustituye los servidores gigantescos donde operan los grandes modelos de lenguaje.

Este post es un análisis de especificaciones públicas y documentaciones técnicas de desarrolladores, no un relato de prueba de banco físico. Los datos de fabricantes (Microsoft, Qualcomm, Intel, AMD y Apple) se citan a partir de sus fichas oficiales, y las conclusiones sobre cómo interpretar esos números son análisis de ingeniería de computación para orientar decisiones reales de compra y de uso.

Qué es un TOP y cómo se hace esa cuenta

La sigla TOPS significa Tera Operations Per Second, o billones de operaciones matemáticas por segundo ($10^{12}$ ops/s).

En redes neuronales profundas, la inmensa mayoría de los cálculos se resume a multiplicaciones y sumas sucesivas en matrices multidimensionales. La operación elemental de esa matemática se llama MAC (Multiply-Accumulate), que computa la expresión $A \times B + C$. Como cada operación MAC involucra una multiplicación y una adición, la industria convino en que 1 MAC equivale a 2 operaciones.

Por lo tanto, cuando un fabricante declara que una NPU alcanza 40 TOPS, está afirmando que el circuito lógico de ese bloque es capaz de completar cerca de 20 billones de operaciones MAC por segundo.

Hasta aquí, parece una métrica simple de velocidad. El problema empieza cuando miramos el formato de los números que se están multiplicando.

La trampa de la precisión: INT8 frente a punto flotante

Tradicionalmente, las tarjetas de video (GPUs) y los procesadores centrales (CPUs) tienen su poder computacional medido en TFLOPS (Tera Floating-point Operations Per Second), usando precisión de punto flotante de 32 bits (FP32) o 16 bits (FP16). En punto flotante, el chip calcula números decimales con mantisa y exponente, esenciales para simulaciones físicas, renderizado 3D y entrenamiento científico.

Una NPU moderna, sin embargo, mide sus TOPS casi universalmente en enteros de 8 bits (INT8) y, en algunos anuncios de marketing más agresivos, en enteros de 4 bits (INT4).

Un multiplicador que opera solo con números enteros de 8 bits ocupa una fracción diminuta del área de silicio de un multiplicador de punto flotante completo y consume órdenes de magnitud menos energía.

Esa distinción revela la primera maniobra frecuente de la publicidad: los llamados “Platform TOPS” o “TOPS combinados”. Algunas marcas suman los TOPS de la NPU (en INT8) con los TFLOPS de la GPU (en FP16) y la capacidad de la CPU, y anuncian un número único inflado (como “80 TOPS totales”). Se trata de una suma de magnitudes incompatibles: esos bloques no operan en el mismo bus, no comparten la misma latencia y no ejecutan la misma instrucción al mismo tiempo en la práctica.

Por qué Microsoft fijó el piso en 40 TOPS

En mayo de 2024, Microsoft estableció un requisito técnico rígido para certificar computadoras bajo la categoría de Copilot+ PC: el sistema necesitaba tener una NPU dedicada que entregara como mínimo 40 TOPS en INT8, sin contar CPU o GPU.

Ese corte de 40 TOPS no fue accidental. Representó el piso mínimo de ingeniería para que modelos compactos de lenguaje (SLMs, en el rango de 2 a 3,8 mil millones de parámetros, como la familia Phi de la propia Microsoft) y modelos locales de visión por computadora pudieran correr en segundo plano con latencia imperceptible para el usuario.

A partir de ese requisito, la industria alineó sus lanzamientos:

1. Qualcomm Snapdragon X Elite / Plus: debutó con la NPU Hexagon entregando 45 TOPS (INT8).
2. AMD Ryzen AI 300: introdujo la arquitectura XDNA 2 con hasta 50 TOPS.
3. Intel Core Ultra Serie 2 (Lunar Lake): saltó de los ~11 TOPS de la primera generación a 40 a 48 TOPS en la NPU 4.
4. Apple Silicon M4 / A18 Pro: Neural Engine diseñado con 38 TOPS (INT8), calibrado para el conjunto de modelos de Apple Intelligence.

Nota de actualización (02/11/2026): los cuatro números de la lista no cambiaron en la relectura. El Snapdragon X Elite sigue en hasta 45 TOPS en la ficha actual y en la tabla de SKUs. El piso de Microsoft sigue en 40+ TOPS en la página sucesora; la dirección antigua responde 404, y la frase actual no repite “INT8, sin contar CPU o GPU”. La página de comparación añade 16 GB de RAM a la definición de Copilot+ PC y dice que algunas API, entre ellas Phi Silica en GPU, también corren fuera de esa categoría. AMD todavía declara hasta 50 TOPS de pico en la XDNA 2, en el comunicado de lanzamiento; la página de producto citada responde 404. El comunicado del M4, de mayo de 2024, sigue en hasta 38 billones de operaciones por segundo y no usa la etiqueta INT8 en esa frase. El A18 Pro no se volvió a abrir. Lo que entró después es otra generación: la tabla del Snapdragon X2 Elite lista la NPU Hexagon en 80 TOPS en la mayor parte de los SKUs y en 85 en el X2E-90-100, con la etiqueta INT8 en la ficha. El rango de 40 a 48 TOPS de Intel se verificó en la ficha de la Surface Pro con Core Ultra Serie 2. El press kit antiguo ahora cae en la página de inicio de Intel.

Pero ¿qué ejecutan hoy esos 40 TOPS en la computadora?

Recursos como Windows Studio Effects (que desenfoca el fondo de la webcam, ajusta el contacto visual de forma artificial y cancela el ruido del micrófono), subtítulos automáticos en tiempo real (Live Captions) con traducción de audio sin conexión e indexación semántica de fotos en la galería. Ninguno de esos recursos exige computación extraterrestre — la mayoría ya podía ser ejecutada por una GPU dedicada hace años. La diferencia está en cuánto cuesta ejecutar esas tareas.

La verdadera función de la NPU: eficiencia energética (TOPS por Watt)

La pregunta más frecuente de quien ya tiene un laptop con tarjeta de video dedicada es: si mi GPU ya tiene potencia de sobra para hacer cuentas con matrices, ¿por qué necesito una NPU?

La respuesta no es velocidad bruta. Es termodinámica y autonomía de batería.

Una GPU moderna de laptop es una máquina de paralelismo masivo diseñada para renderizar decenas de millones de polígonos por segundo. Si usted abre una reunión de dos horas en Teams, Zoom o Meet y mantiene la GPU procesando el filtro de cancelación de ruido acústico y el desenfoque de cámara en tiempo real, consumirá entre 15 y 35 Watts de forma continua. El laptop se calienta, los ventiladores se disparan y la batería se agota rápido.

La NPU es un circuito de función fija (un ASIC especializado en tensores y multiplicaciones matriciales). Ejecuta la mismísima rutina de cancelación de ruido y visión por computadora consumiendo entre 1 y 2,5 Watts. La computadora permanece fría, silenciosa y la batería dura el día entero.

La victoria de la NPU en el silicio no reside en hacer “magia de inteligencia”: reside en descargar tareas sensoriales continuas de la CPU y de la GPU con un consumo de energía insignificante.

El cuello de botella que el marketing no muestra: la barrera de la memoria

Existe una expectativa común de que una computadora con procesador de IA sea capaz de correr localmente un modelo del porte de Claude o de ChatGPT sin conexión a internet. La física de la arquitectura de computadoras impone un freno riguroso a esa expectativa: la llamada Memory Wall (barrera de la memoria).

En la generación de texto con modelos autorregresivos, el procesamiento ocurre token por token. Por cada única palabra o sílaba generada, todos los pesos del modelo necesitan leerse de la memoria RAM y transferirse al procesador.

Vamos a hacer la cuenta con números reales:

• Un modelo relativamente pequeño de 7 mil millones de parámetros, comprimido en 4 bits (INT4), ocupa cerca de 3,5 a 4 GB de memoria RAM.
• En un laptop moderno con memoria LPDDR5x operando a un ancho de banda de cerca de 100 GB/s, el tiempo teórico mínimo para leer esos 3,5 GB de la memoria es de aproximadamente 0,035 a 0,04 segundos.
• Eso limita la tasa máxima de salida a cerca de 25 a 28 tokens por segundo, incluso si la NPU tuviera velocidad infinita.
• Si el modelo tiene 14 mil millones de parámetros (~8 GB), la tasa máxima cae a ~12 tokens por segundo.
• Un modelo de punta de 70 mil millones de parámetros cuantizado necesita cerca de 35 a 40 GB de RAM solo para los pesos: ni siquiera cabe en la memoria unificada de 16 GB de un laptop convencional.

La conclusión es matemática: tener 45, 100 o 200 TOPS de pico en la NPU no sirve si el ancho de banda de la memoria RAM no puede entregar los datos a la velocidad que el núcleo consume. La mayor parte del tiempo, en inferencia de texto local, el procesador queda ocioso esperando que la memoria RAM responda.

Qué corre localmente frente a qué va a la nube

Para no caer en promesas vacías, vale separar con claridad lo que las marcas demuestran en comerciales de TV de lo que efectivamente ocurre dentro del aparato:

Qué corre en el aparato (en la NPU o localmente)

• Filtros de audio y video: cancelación de eco, aislamiento de voz, encuadre de cámara e iluminación artificial.
• Transcripción y habla: conversión de audio a texto local en tiempo real (como Whisper) sin enviar su voz a servidores de terceros.
• Visión por computadora y búsqueda semántica: reconocimiento de caras en fotos, búsqueda por descripción de imagen (“foto de la playa en 2024”) y OCR local.
• Modelos de lenguaje pequeños (SLMs de 2B a 3B): resumen rápido de notas cortas, corrección gramatical simple y respuestas en asistentes locales donde la eficiencia del vocabulario y del tokenizador determina directamente el consumo de memoria unificada en la inferencia local.

Qué sigue exigiendo la nube

• Razonamiento complejo y planificación: los modelos profundos de frontera no caben en el aparato.
• Generación creativa larga y código fuente avanzado: redacción de ensayos completos, arquitectura de sistemas y depuración de código a gran escala.
• Generación y edición de imagen fotorrealista pesada: modelos como Flux o Midjourney exigen clústeres de GPUs con cientos de gigabytes de VRAM.
• Búsquedas en tiempo real en la web: cualquier consulta que necesite recorrer internet en vivo consulta servidores remotos.

Cómo evaluar la ficha técnica antes de comprar

Si usted está buscando un laptop o arquitecturas de chips dedicados y quiere tomar una decisión técnica en lugar de comprar un eslogan, aplique este recorrido de cuatro verificaciones:

1. Exija el TOPS aislado de la NPU: ignore los números que anuncien “TOPS totales del ecosistema” o “TOPS combinados”. Busque el número exacto que entrega el bloque de la NPU de forma dedicada.
2. Verifique la precisión del número: compruebe si el fabricante publica el resultado en INT8. Si el número solo se alcanza en INT4, la capacidad real con modelos de precisión estándar es la mitad de lo que sugiere el anuncio.
3. Priorice la memoria RAM y el bus: para cualquier carga de inteligencia artificial local, 16 GB de memoria RAM unificada es el piso absoluto, y 32 GB es el nivel cómodo para trabajar. Una máquina con 32 GB de RAM y un bus de memoria ancho es mucho más útil para IA local que una máquina con 16 GB y 10 TOPS más en el chip.
4. Verifique si sus programas tienen soporte del hardware: la NPU es silicio inerte si la aplicación que usted usa no se recompiló para usar los frameworks de aceleración del sistema. En Windows, la página leída el 02/11/2026 recomienda Windows ML; DirectML está en mantenimiento, sin desarrollo activo. La misma página todavía nombra a OpenVINO como el proveedor de Intel. En macOS y en iOS, el camino citado en septiembre sigue siendo Core ML, que no se volvió a abrir en esta fecha. Si los programas de su flujo diario no usan esos intermediarios, tener una NPU no traerá ninguna ganancia en su rutina inmediata.

Fuentes

• Requisitos oficiales de hardware para la categoría Copilot+ PC. La dirección citada el 01/09/2026 responde 404. La página sucesora mantiene el piso de 40+ TOPS en la NPU y no repite la fórmula “INT8, sin contar CPU o GPU” — Microsoft Learn, Copilot+ PCs developer guide, verificado el 2026-11-02.
• Definición actual de Copilot+ PC con 40+ TOPS, 16 GB de RAM y SoCs específicos; DirectML en mantenimiento; Windows ML como camino recomendado; Phi Silica también en GPU fuera de la categoría — Microsoft Learn, Choose your Windows AI solution, verificado el 2026-11-02.
• Snapdragon X Elite en hasta 45 TOPS. El PDF citado el 01/09/2026 no abre. La ficha pública actual mantiene el número — Qualcomm, Snapdragon X Elite Product Brief, verificado el 2026-11-02.
• Snapdragon X2 Elite: NPU Hexagon en 80 TOPS (INT8) en la ficha, y 85 TOPS en el SKU X2E-90-100 en la tabla de productos — ficha X2 Elite y tabla Snapdragon X Series, verificado el 2026-11-02.
• Rango de 40 a 48 TOPS en la NPU Intel AI Boost del Core Ultra Serie 2. El press kit citado el 01/09/2026 cae en la página de inicio de Intel — Microsoft Learn, Surface Pro con Intel Core Ultra Serie 2, verificado el 2026-11-02.
• Hasta 50 TOPS de pico en la NPU XDNA 2 de los Ryzen AI 300. La página de producto citada el 01/09/2026 responde 404 — AMD, comunicado del 3 de junio de 2024, verificado el 2026-11-02.
• Neural Engine del M4 en hasta 38 billones de operaciones por segundo, sin la etiqueta INT8 en esa frase. El A18 Pro no se volvió a abrir — Apple Newsroom, 7 de mayo de 2024, verificado el 2026-11-02.
• Guía para desarrolladores sobre el Apple Neural Engine y la ejecución de modelos cuantizados en silicio de Apple — Apple Developer Documentation, Core ML, documentación oficial para desarrolladores, verificado el 2026-09-01 y no reabierto el 2026-11-02.
• Discusión académica sobre el cuello de botella del ancho de banda de memoria en cargas generativas (Memory Wall) — Wulf & McKee, Hitting the Memory Wall: Implications of the Obvious, artículo clásico de arquitectura de computadoras, y especificaciones JEDEC para memorias LPDDR5x, verificado el 2026-09-01.