Un millón de vectores en 59 ms

Comparar una consulta contra el millón entero, uno por uno, sin índice de ningún tipo y con resultado exacto. En un portátil.

Qué se midió

Producto matriz-vector en float32 sobre BLAS, más selección de los diez mejores por similitud coseno. Sin índice, sin aproximación, sin descartar nada: el resultado es idéntico al de una comparación exhaustiva, porque lo es. Once repeticiones por celda tras calentar la caché, mediana.

vectores	384 dim	768 dim	1536 dim
1.000	0,011 ms	0,016 ms	0,027 ms
10.000	0,23 ms	0,51 ms	0,96 ms
100.000	2,95 ms	5,89 ms	9,60 ms
250.000	7,00 ms	13,6 ms	23,3 ms
500.000	14,8 ms	26,8 ms	49,6 ms
1.000.000	32,2 ms	59,1 ms	—

El hueco de abajo a la derecha es un resultado, no un olvido: un millón de vectores de 1536 dimensiones son 5,7 GB solo de datos, y en una máquina de 16 GB haciendo otras cosas no quedaba memoria libre suficiente para intentarlo con garantías. Lo que te expulsa de la fuerza bruta no es el reloj, es la memoria, y llega bastante antes.

La celda se llenó después, el 17·08·2026, en una máquina distinta: un sobremesa Intel i7-6700K de 2015 con 31 GB. Ahí el millón por 1536 dimensiones sí cabe, y tarda 203 ms. El límite era la memoria disponible, no la operación.

Lo que no esperaba encontrar

Divide, en cada celda, los megabytes leídos entre los milisegundos empleados. Sale casi el mismo número en las veintitrés. Y al repetir las veinticuatro en el sobremesa de 2015 vuelve a salir casi el mismo número, solo que otro:

ancho de banda efectivo · cada punto es una celda · ● relleno MacBook M3 · ○ hueco i7-6700K

Entre 48 y 60 GB/s sostenidos en el portátil, con independencia de las dimensiones y del tamaño del corpus. En el sobremesa, entre 26 y 28, igual de planos. La operación no está limitada por cálculo sino por lo rápido que la máquina lee sus propios datos: el procesador termina las multiplicaciones mucho antes de que lleguen los siguientes vectores.

Los tiempos del sobremesa salen entre 1,7 y 2,2 veces los del portátil según la celda, que es aproximadamente la razón entre los dos anchos de banda. Dos arquitecturas separadas por ocho años, la misma ley y una constante distinta. El factor no es exacto —crece algo con las dimensiones, y no tenemos medido por qué—, pero el orden lo fija la memoria.

Eso tiene una consecuencia bastante mejor que la tabla: no hace falta medir para saber cuánto va a tardar tu caso. Multiplica vectores por dimensiones por cuatro bytes y divide por el ancho de banda de tu máquina. Un corpus de 300.000 fragmentos de 768 dimensiones son 921 MB: unos 18 ms en el portátil, unos 32 en el sobremesa. El único número que necesitas medir es el tuyo.

Las tres primeras filas se salen de la regla —133, 177 y 213 GB/s— por el mismo motivo: con menos de treinta megabytes los datos caben en la caché del procesador y no hace falta salir a la memoria principal. En el sobremesa pasa lo mismo, hasta 130 GB/s en la fila de mil vectores. Por debajo de ese umbral, buscar es gratis en las dos máquinas.

La calculadora

máquina dimensiones tu corpus 40.000 vec presupuesto 50 ms

latencia: —
memoria: —
tope con tu presupuesto: —
veredicto: —

Por qué esto importa más de lo que parece

La arquitectura por defecto de cualquier proyecto de recuperación empieza hoy por una base de datos vectorial dedicada. Es una pieza más que desplegar, actualizar, respaldar, vigilar y explicarle a un auditor. Y para la inmensa mayoría de casos reales —un despacho con veinte mil documentos, un ayuntamiento con diez años de expedientes, una organización con su intranet entera— el corpus completo cabe en memoria y se busca en menos tiempo del que tarda la red en devolver la respuesta.

Hay tres razones legítimas para montar el índice aproximado, y ninguna es la velocidad a esta escala: que no quepa en memoria, que necesites filtrado por metadatos con garantías transaccionales, o que tengas muchas consultas concurrentes por segundo. Si ninguna de las tres es tu caso hoy, es complejidad comprada por adelantado.

Y el índice aproximado tiene un peaje que casi nunca se menciona: deja de ser exacto. Recupera el 95 % o el 98 % de lo que debería. En un buscador de productos da igual. En un sistema que tiene que acreditar que revisó todos los documentos aplicables a un expediente, ese 2 % es exactamente lo que te preguntan en la auditoría.

Reproducirlo

El guion no depende de nada nuestro: numpy, psutil y dos minutos. Si lo ejecutas, el número que te salga dividido entre los megabytes te dará el ancho de banda de tu máquina, que es el único parámetro necesario para predecir todo lo demás.

medido el 12·08·2026 · Apple M3, 8 núcleos, 16 GB · macOS · numpy 2.5.2 sobre Accelerate · y repetido el 17·08·2026 · Intel i7-6700K, 4 núcleos, 31 GB · Linux 6.12 · numpy 2.5.2 sobre scipy-openblas · Python 3.13, float32, k=10, 11 repeticiones por celda en ambas · con 11 muestras el percentil 95 no es estimable, por eso se publica solo la mediana · ragtime0.001 · alpha · ragtime.lovehacks.ai

Lab.