Grounding y citas
El problema de la alucinación
Un modelo generativo produce texto plausible aunque no corresponda con ningún hecho. Sin anclaje, rellena huecos con invenciones convincentes. El grounding combate eso.
Restringir al contexto
- Se instruye al modelo a usar solo los fragmentos recuperados.
- Si la respuesta no está en el contexto, debe decirlo.
- La consigna reduce el impulso de inventar.
Citar fragmentos de origen
Cada afirmación se acompaña de la referencia al trozo o documento del que procede. El usuario puede abrir la fuente y verificar. Es la trazabilidad del RAG.
Grounding estricto frente a suave
El estricto prohíbe todo conocimiento fuera del contexto; el suave permite razonar con él pero anclando las afirmaciones fácticas. El grado depende de la tarea.
Verificabilidad de las citas
Una cita debe apuntar a un pasaje que de verdad respalde la frase. Citas decorativas que no sostienen la afirmación son peores que ninguna, porque dan falsa confianza.
Evaluar el grounding
- Métrica de fidelidad: ¿la afirmación se sigue de la fuente?
- Métrica de cita: ¿cada frase importante tiene respaldo?
- Métrica de cobertura: ¿se usó toda la evidencia relevante?
Rechazar a tiempo
Si el contexto no contiene la respuesta, el sistema debe declararse incapaz antes que fabricar. Saber callar es parte de responder bien.
Reducir la superficie alucinada
Formular respuestas cortas y enlazadas deja menos espacio para inventar. Parafrasear de más abre huecos que el modelo rellena con relleno plausible.
Prompt y formato de cita
Pedir explícitamente citas en un formato fijo y con marcadores ayuda al modelo a estructurar la respuesta y facilita comprobarlas después.
Riesgo de sesgo de recuperación
El grounding solo es tan bueno como lo recuperado. Si la búsqueda trajo fuentes erróneas o parciales, se citará con convicción algo equivocado.
Auditoría y confianza
Para dominios sensibles —legal, médico— la cita verificable no es un lujo: es requisito. La trazabilidad convierte la salida en algo auditable por humanos.
Errores frecuentes
- Citas decorativas: pegar una referencia al final sin que sostenga ninguna afirmación concreta.
- Permitir que el modelo mezcle conocimiento paramétrico y contexto recuperado sin distinguirlos: la cita parece verificada pero no lo está.
- Fiarse de la cita sin abrir el pasaje: en dominios sensibles la verificación humana sigue siendo la última línea.
- Sin evidencia, forzar una respuesta en vez de declarar que el contexto no la contiene.
Ejemplo resuelto: responder dudas legales con citas verificables
Un asistente jurídico interno debe poder señalar el artículo exacto que respalda cada frase de su consejo.
- Recuperas los artículos relevantes del corpus legal con la consulta del empleado.
- Instruyes al modelo: solo afirma lo que esté en los fragmentos, y si falta evidencia, dilo.
- Pides el formato de cita fijo: cada frase termina con el identificador del fragmento de origen.
- Verificas automáticamente que cada cita apunta a un pasaje que contiene la afirmación.
- En auditoría, un jurista revisa muestras diarias de citas: las decorativas delatan el fallo.
¿Para qué sirve en la realidad?
Motores de respuestas corporativas, asistentes médicos y legales y periodismo asistido por IA exigen cita verificable por regulación y por confianza: el grounding es lo que separa un oráculo de una herramienta auditable.
El «grounding» en un sistema RAG consiste en:
Un sistema con grounding perfecto nunca necesita declarar que no conoce la respuesta.
Grounding
Ordena cómo un RAG produce una respuesta con grounding:
Recuperar
Restringir
Generar
Citar
Fuente
La noción periodística de respaldar cada afirmación con su origen.
Une cada noción de grounding con su definición.
Responde citando, no creando
# Grounding y citas ## Anclar ### solo contexto recuperado ### rechazar sin evidencia ## Citar ### formato fijo ### pasaje que respalda ## Medir ### fidelidad ### cobertura de citas ## Riesgos ### citas decorativas ### fuentes erróneas recuperadas
Citar fuentes
La guía de referencia sobre qué hace que una cita respalde de verdad la afirmación.
Tu RAG responde con seguridad pero cita un pasaje que no respalda la afirmación. ¿Es un fallo de recuperación o de generación? Razona dónde mirar primero.