GUÍA PILAR
Verificación, privacidad y confianza en IA
El uso confiable no nace de confiar en el modelo, sino de los controles que lo rodean: entradas aprobadas, criterios explícitos, verificación independiente, excepciones registradas y una persona responsable que pueda rechazar la salida.
Clasifica la tarea y sus consecuencias
El control debe aumentar con la sensibilidad de los datos y el daño que causaría una respuesta incorrecta. Un borrador privado y una recomendación de elegibilidad no pueden seguir la misma aprobación.
- Identifica personas y sistemas afectados.
- Enumera clasificaciones de datos y entradas prohibidas.
- Define quién puede aprobar o detener el flujo.
Verifica al nivel adecuado
Puedes revisar fuentes, recalcular, comparar con un sistema confiable, pedir revisión experta o usar un método independiente. Preguntar otra vez al mismo modelo no constituye evidencia independiente.
- Rastrea afirmaciones a fuentes primarias vigentes.
- Prueba casos representativos y extremos.
- Registra la incertidumbre sin ocultarla.
Supervisa el flujo después del lanzamiento
Modelos, prompts, fuentes y comportamiento cambian. Conserva versiones, muestras, incidentes y revisiones periódicas para hacer visible la deriva.
- Asigna fechas y responsables.
- Sigue los fallos dañinos o costosos.
- Pausa o limita el flujo cuando fallen los controles.
EJEMPLO CONCRETO
Ejemplo: resumen de políticas para clientes
Soporte usa IA para preparar respuestas desde documentos aprobados.
- Limitar la búsqueda a políticas vigentes.
- Exigir la sección citada para cada regla.
- Escalar excepciones y decisiones de cuenta a una especialista.
FUENTES PRIMARIAS
Comprueba la base de esta guía.
NIST · 2023
Marco de Gestión de Riesgos de IA 1.0
NIST · 2024
Perfil de IA generativa — NIST AI 600-1
NIST · 2023
Playbook del NIST AI RMF
Preguntas frecuentes
¿Una cita basta para confiar?
No. Confirma que la fuente existe, está vigente y realmente respalda la afirmación.
¿Otro modelo es verificación independiente?
Puede mostrar desacuerdo, pero no sustituye una fuente autorizada, cálculo, sistema confiable o revisor calificado.
Construye flujos de IA confiables
Diseña un flujo repetible asistido por IA con controles, manejo de fallos y aprobación humana.
Ver el curso gratuito