IA local
23 000 páginas de normas técnicas, consultadas sin salir a la nube
- Ollama
- Búsqueda híbrida
- Embeddings locales
- Python
Un sistema que responde preguntas sobre 201 normas espaciales europeas, citando documento, cláusula y página, y que corre completo en un mini PC sin tarjeta gráfica.
El problema
Las normas ECSS de la industria espacial europea son 201 documentos y más de 23 000 páginas. Encontrar el requisito correcto a mano toma tiempo, y las herramientas en la nube no son una opción cuando la información es sensible.
La solución
Un sistema de recuperación aumentada (RAG) que construí de cero. Divide los documentos en 44 306 fragmentos sin cortar nunca un requisito, indexa 51 683 requisitos y combina búsqueda por palabras clave y por significado. El modelo de lenguaje recibe solo los fragmentos relevantes y responde con la cita exacta. Todo funciona sin conexión a internet.
Resultado
Medido con 24 preguntas de prueba:
- 19 de 20 veces encontró el documento correcto.
- 11 de 11 veces, el requisito o la cláusula exacta.
- 6 de 6 veces, la página correcta.
- Menos de 1 segundo para citar un requisito textual, y 51 segundos (mediana) para una respuesta redactada completa, en un mini PC sin tarjeta gráfica. En un servidor con tarjeta gráfica, la respuesta es varias veces más rápida.