Conceptos De IA Explicados on Intellectual Guides

Fábula diaria de conceptos de posgrado: Small World navegable y jerárquico (HNSW)

Tue, 18 Aug 2026 00:00:00 +0000

¡Buenas noches! Aquí tienes la “Fábula diaria de conceptos de posgrado” de hoy.

La bodega de obsidiana y las arañas guía

En lo más profundo del continente del conocimiento se halla una enorme biblioteca subterránea conocida como la “Bodega de Obsidiana”. No guarda libros de papel; en su lugar, flotan en ella decenas de millones de “piedras de concepto” que emiten un tenue resplandor. Cada piedra sella un pasaje de texto o una sola idea.

La bodega tiene una regla peculiar: cuanto más cercanas en significado son dos piedras de concepto, más próximas se sitúan en el espacio.

Cada día los eruditos acuden a la bodega portando una “piedra desconocida”, tratando de encontrar el puñado de piedras de la bodega más similares a ella.

Al principio, los eruditos empleaban una “búsqueda de peinado”. Con la piedra desconocida en la mano, caminaban hasta la primera piedra de concepto para compararla, luego hasta la segunda, la tercera… Cuando el número de piedras alcanzaba las decenas de millones, encontrar una sola podía llevar buena parte de una vida, y muchos eruditos caían muertos de agotamiento en la bodega.

Más tarde, un artesano ingenioso inventó el “método del hilado”. Con seda de araña ató entre sí las piedras que estaban próximas, formando una enorme telaraña tridimensional.

Ahora el erudito solo tenía que elegir cualquier piedra al azar como punto de partida, mirar a sus vecinos conectados por seda de araña, escoger el más cercano al objetivo y caminar hacia él; después mirar a los nuevos vecinos y volver a caminar. Era como tirar del bejuco para hallar la calabaza: hasta que en los alrededores no quedara ninguna piedra más cercana.

¡Este método era mucho más rápido! Pero tenía dos defectos fatales: Primero, si el punto de partida elegido estaba demasiado lejos del objetivo, el erudito tenía que gatear por la red durante muchísimo tiempo. Segundo, a veces el erudito se metía en un “callejón sin salida”: todas las piedras de alrededor parecían ser las más cercanas, pero la respuesta verdaderamente perfecta estaba en realidad oculta en el otro extremo de la red, sin ninguna seda de araña que uniera ambos puntos.

Justo cuando la bodega estaba a punto de colapsar, un arquitecto ciego llegó con un grupo de mágicas “arañas guía”. El arquitecto ciego no alteró los decenas de millones de piedras del nivel inferior, pero hizo que las arañas guía construyeran, por encima de la bodega original, varias capas de “red suspendida”.

La capa superior (la capa de la nube): Las arañas eligieron solo una fracción ínfima de las piedras de la bodega (alrededor de una de cada diez mil) como “hitos intercontinentales”, las subieron a la capa más alta y las conectaron con seda de araña larguísima.
La capa intermedia (la capa de la ciudad): Una capa más abajo, las arañas eligieron el uno por ciento de las piedras como “hitos urbanos” y las conectaron.
La capa inferior (la capa del suelo): Mantuvo la densa red original en la que todas las decenas de millones de piedras estaban interconectadas.

Ahora, cuando un erudito llega con una piedra desconocida para buscar, la búsqueda del tesoro se vuelve exquisitamente elegante:

Toma el ascensor directo a la capa superior. Aquí solo hay unos pocos “hitos intercontinentales”, y de un vistazo distingue qué hito está más cerca de su objetivo. Da un paso gigantesco y se sitúa sobre ese hito.

A continuación, salta por la trampilla del hito a la capa de abajo, la “capa de la ciudad”. Aquí hay más piedras, pero no necesita buscar desde cero, pues ya ha aterrizado en la región intercontinental correcta. Siguiendo la seda de araña de la capa de la ciudad, camina unos pasos hasta el hito urbano más cercano.

Por último, desciende del todo hasta la capa inferior. A estas alturas está de pie, con precisión, en la puerta de la casa de la piedra objetivo. Solo tiene que dar dos o tres pasos por la densa capa del suelo para encontrar la única piedra de concepto más perfecta.

La telaraña tridimensional del arquitecto ciego convirtió una búsqueda que antes requería diez millones de comparaciones en un viaje impecable de apenas unas decenas de saltos ligeros entre distintas plantas.

La revelación: Small World navegable y jerárquico (HNSW)

Lo que describe esta historia es un algoritmo de nivel de posgrado, central y de alta eficiencia, de los campos de la inteligencia artificial moderna, las bases de datos vectoriales (Vector Database) y la generación aumentada por recuperación en grandes modelos (RAG): el Small World navegable y jerárquico (Hierarchical Navigable Small World, abreviado HNSW).

Cuando construimos una enorme base de conocimiento en local y convertimos el texto en vectores de alta dimensión (por ejemplo, embeddings generados con nomic-embed-text), encontrar a gran velocidad los pasajes más similares a la pregunta de un usuario entre un enorme montón de vectores de alta dimensión es un desafío mayúsculo.

El K-Nearest Neighbors (KNN) tradicional requiere calcular la distancia a cada uno de los vectores, con una complejidad temporal de $O(N)$, algo inaceptable al manejar datos a escala de millones. HNSW, al construir una estructura de grafo multinivel, combina con ingenio la idea de la lista de saltos (Skip List) con las propiedades de la red de mundo pequeño (Small World Network).

Permite que el algoritmo realice una “localización aproximada” de gran zancada al inicio de la búsqueda y un “ajuste fino” de corto alcance en la fase final, logrando comprimir drásticamente la complejidad temporal de la búsqueda de vectores de alta dimensión hasta cerca de $O(\log N)$.

Correspondencia de la metáfora

Elemento de la historia	Concepto de algoritmo y sistema	Explicación
La bodega de obsidiana y las piedras de concepto	Base de datos vectorial y embeddings de texto (Vector DB & Text Embeddings)	Convertir conocimiento, documentos o notas en puntos de coordenadas en el espacio. Cuanto más cercanos en significado son dos textos, menor es su distancia en el espacio multidimensional.
La búsqueda de peinado	Búsqueda por fuerza bruta (Brute-force Search / Exact KNN)	Calcular una por una la distancia entre el vector de consulta y todos los vectores de la base de datos (por ejemplo, la similitud del coseno): extremadamente lento.
El método del hilado plano	Grafo de mundo pequeño navegable (Navigable Small World, NSW)	Conectar solo nodos adyacentes en un único plano. Propenso a quedar atrapado en un óptimo local (un callejón sin salida) e ineficiente cuando el punto de partida está lejos del objetivo.
Las plantas de la red suspendida (nube, ciudad, suelo)	Las capas jerárquicas de HNSW (Hierarchical Layers)	El núcleo del algoritmo HNSW. La capa 0 contiene todos los nodos; cuanto más alta es la capa, menos nodos hay, decreciendo de forma exponencial.
Los hitos intercontinentales de la cima	Puntos de entrada en las capas superiores (Entry Points in Top Layers)	En las capas de grafo más dispersas, aportan capacidad de salto de larga distancia, garantizando que el algoritmo se aproxime rápido a la región global donde se halla el objetivo.
Descender capa a capa buscando	Enrutamiento por búsqueda voraz (Greedy Search Routing)	El algoritmo empieza en la capa más alta; tras hallar el nodo más cercano en esa capa, lo pasa hacia abajo como punto de partida de la siguiente, hasta llegar a la capa 0 y encontrar los vecinos más cercanos finales (Nearest Neighbors).

Fábula diaria de conceptos de posgrado: Decodificación Especulativa (Speculative Decoding)

Mon, 17 Aug 2026 00:00:00 +0000

¡Buenas noches! Aquí tienes la “Fábula diaria de conceptos de posgrado” de hoy.

El astuto aprendiz del escritorio real

En el corazón de la capital del imperio, el Escritorio Real se enfrentaba a una crisis sin precedentes.

El Gran Erudito del imperio, “Baltasar”, era la única persona viva con la sabiduría suficiente para redactar el código legal sagrado. Poseía una memoria fotográfica y en su mente guardaba diez millones de textos antiguos. Sin embargo, tenía un defecto fatal: escribía demasiado despacio.

El rigor del erudito rozaba la obsesión. Por cada palabra que escribía, hojeaba incontables tomos pesados en la biblioteca de su mente, deliberaba con cuidado y solo entonces posaba lentamente la palabra en el papel. Tras escribir esa palabra, reconsideraba todo lo que acababa de escribir para deducir la siguiente. Por eso, solo podía producir una palabra por minuto. El frente necesitaba con urgencia nuevos decretos, pero el erudito solo podía soltarlos palabra a palabra.

En ese momento, el escritorio contaba con un joven aprendiz llamado “Leo”. El saber de Leo no se acercaba ni de lejos al del erudito —los libros que llevaba en la cabeza no llegaban ni al uno por ciento de los del erudito—, pero tenía una virtud: era rapidísimo y muy hábil para adivinar los pensamientos del erudito.

Tras observar durante unos días, Leo le hizo una propuesta audaz al erudito.

“Maestro, en lugar de agonizar con cada palabra desde cero, ¿por qué no cambiamos la forma de trabajar?”, dijo Leo. “Deje que sea su ‘redactor de borradores’. De un tirón, adivinaré las cinco palabras que probablemente escribirá a continuación y las anotaré rápidamente en una pizarra. Después, usted solo tiene que mirar la pizarra.”

El erudito frunció el ceño. “¡Absurdo! Tu saber es superficial; si las palabras que escribes son erróneas, ¡arruinarán la dignidad del código!”

“Maestro, me malinterpreta”, explicó Leo con una sonrisa. “Concebir una palabra de la nada le cuesta un enorme esfuerzo de acarrear tomos por su mente; pero echar un vistazo a unas palabras y juzgar si concuerdan con su intención le resulta sencillísimo y rapidísimo. Si las palabras que he escrito le parecen correctas, basta con que las selle. En cuanto detecte una sola palabra que difiera de lo que tenía en mente, borre esa palabra y todo lo que la sigue, escriba usted mismo la palabra correcta, y yo retomaré las conjeturas a partir de la palabra que corrigió.”

Medio dudando, el erudito accedió.

Comenzó el trabajo. Leo escribió velozmente en la pizarra: “el imperio / gravará / con impuestos / al norte”.

El erudito lo recorrió con la vista y su mente completó la verificación al instante: ¡las palabras encajaban a la perfección con su hilo de pensamiento! De inmediato estampó su gran sello. Una frase que antes le habría llevado cinco minutos de agonía quedaba ahora lista en segundos.

Luego Leo escribió rápidamente: “la tasa impositiva / es / al año / cincuenta / monedas / de oro”.

El erudito le echó un vistazo, frunció el ceño y señaló la cuarta palabra: “Mal. No cincuenta, sino ‘cien’.”

De un trazo de su pincel, el erudito borró “cincuenta / monedas / de oro” y escribió “cien” de su puño y letra.

Entonces, mirando la palabra “cien”, Leo volvió a iniciar sus rápidas conjeturas y borradores.

Aunque Leo a veces se equivocaba, acertaba con precisión la mayoría de las construcciones habituales. Y lo más asombroso de todo: la calidad y la redacción finales del código resultaron ser “exactamente idénticas” a las que el erudito habría logrado palabra por palabra —sin concesión alguna—, y sin embargo la velocidad global de redacción se multiplicó varias veces.

La revelación: decodificación especulativa (Speculative Decoding)

Lo que describe esta historia es un algoritmo de nivel de posgrado excepcionalmente elegante y clave del campo de la aceleración de la inferencia en grandes modelos de lenguaje (LLM): la decodificación especulativa (Speculative Decoding). Es también una de las técnicas centrales que usan los motores de inferencia de alto rendimiento modernos (como vLLM) para superar los cuellos de botella del hardware.

En la generación de texto tradicional de un LLM, el modelo debe generar de forma autorregresiva: un token tras otro. En modelos grandes con decenas de miles de millones de parámetros (por ejemplo, la clase Qwen 35B), generar cada token requiere acarrear decenas de gigabytes de pesos desde la memoria de la GPU hasta los núcleos de cómputo. Esto hace que el cuello de botella de la inferencia en modelos grandes no sea el cómputo (Compute), sino el ancho de banda de memoria (Memory Bandwidth) — igual que, en la historia, el erudito tiene que acarrear laboriosamente tomos pesados para escribir una sola palabra.

La decodificación especulativa rompe con ingenio este punto muerto:

Introduce un modelo borrador (Draft Model) diminuto y rapidísimo (el aprendiz Leo) para generar velozmente varios tokens consecutivos de una sola vez.
Luego entrega esos tokens generados al modelo objetivo (Target Model), grande y preciso (el erudito), para una única ronda de verificación en paralelo (Parallel Verification).
Como el modelo objetivo, al verificar los tokens dados, puede aprovechar plenamente el enorme cómputo paralelo de la GPU (compute-bound), juzga en un instante si la distribución de probabilidad de esos tokens coincide con su propia salida.
Si se aceptan, equivale a haber generado varios tokens en una sola pasada hacia adelante (forward pass); si un token se rechaza, el modelo lo corrige en ese punto, descarta las conjeturas posteriores y vuelve a empezar.

La propiedad matemática más fascinante es esta: mediante un algoritmo específico de muestreo por rechazo en la verificación, la decodificación especulativa puede garantizar que la distribución de probabilidad de la salida final sea matemáticamente “100% equivalente” a la que el modelo objetivo habría producido por sí solo, en su lenta generación, sin pérdida alguna de calidad.

Correspondencia de la metáfora

Elemento de la historia	Concepto de inferencia en LLM	Explicación
El Gran Erudito “Baltasar”	Modelo objetivo (Target Model)	El gran modelo de lenguaje de enorme número de parámetros y alta precisión.
El astuto aprendiz “Leo”	Modelo borrador (Draft Model / Proposer)	Un modelo de lenguaje pequeño, diminuto en parámetros y rapidísimo en cómputo (o arquitecturas recientes de predicción multicabezal como MTP / Medusa).
Acarrear tomos pesados para escribir	Limitado por el ancho de banda de memoria (Memory-bandwidth bound)	La latencia que causa acarrear los pesos del modelo en la generación autorregresiva tradicional.
Recorrer con la vista la frase de la pizarra	Verificación en paralelo (Parallel Verification)	El modelo objetivo aprovecha la ventaja de cómputo de la GPU para evaluar las probabilidades de varios tokens en una sola pasada.
Estampar el sello / borrar y reescribir	Criterio de aceptación/rechazo (Acceptance/Rejection Criterion)	Si la predicción del modelo borrador cae dentro de la tolerancia de probabilidad del modelo objetivo, se acepta; si no, se retrocede (Rollback) desde el punto erróneo y el modelo objetivo aporta el token correcto.
La calidad no cambia en absoluto	Generación sin pérdidas (Lossless Generation)	La garantía matemática más importante de la decodificación especulativa: no altera la distribución de probabilidad de salida original del modelo objetivo.