Publicaciones
Deterministic Sovereign RAG
Período: ago 2025 —
El reto
La mayoría de los pipelines de retrieval-augmented generation son no-determinísticos entre corridas, así que una auditoría no puede rastrear qué evidencia sostuvo qué afirmación generada. La mitad de 'retrieval' del RAG es una caja negra.
Mi rol
Publiqué el fundamento matemático para compactación de contexto local O(1): proyección FNV-1a de 128 dimensiones, normalización L2, similitud coseno, con cotas de concentración Chernoff-Hoeffding. El trabajo ancla un repositorio companion y un meta-tool.
Lo que hice
01 Proyección determinista de ventanas de contexto
Por qué: Una proyección FNV-1a de 128 dimensiones colapsa una ventana de contexto a un vector de tamaño fijo que es reproducible entre corridas. La proyección es O(1) por token y round-trip safe.
Trade-off: FNV-1a no es criptográficamente segura; la proyección sirve para scoring de similitud, no para resistencia a tampering. El anclaje criptográfico es una capa separada.
02 Las cotas de concentración hacen auditable la afirmación de similitud
Por qué: Una similitud coseno por encima de un umbral no es por sí misma una afirmación; la cota de Chernoff-Hoeffding la convierte en una afirmación con intervalo de confianza. Los auditores obtienen un número, no una vibra.
Trade-off: Las cotas son conservadoras — un documento relevante que pasaría un umbral más laxo puede fallar la cota. La disciplina es el punto.
03 Ejecución local-first de extremo a extremo
Por qué: La proyección corre in-process; los embeddings nunca salen de la máquina del operador. La postura sovereign-rag es la restricción de diseño, no una línea de marketing.
Trade-off: El costo de CPU es del operador. El costo es el precio de una cadena de auditoría que no depende de un servicio de embeddings de terceros.
Lo que cambió
Compactación de contexto
Antes: Ventana variable, no reproducible
Después: Proyección fija de 128 dimensiones, determinista
Confianza de auditoría sobre una afirmación de similitud
Antes: Vibras, sin cota
Después: Intervalo de confianza Chernoff-Hoeffding
Ejecución controlada por el operador
Antes: API de embeddings hosteada
Después: Local-first, in-process
Trade-offs
La postura determinista cuesta CPU. Un revisor que no necesita la cadena de auditoría puede usar un servicio de embeddings hosteado y saltarse la proyección por completo.
Lo que aprendí
Determinismo no es lo mismo que seguridad; el determinismo es la precondición para que una cadena de auditoría exista siquiera.
Stack
- Math
- FNV-1a
- L2 normalization
- Chernoff-Hoeffding