01Las seis capas de TRACES.
Un sistema de IA fiable no es un modelo listo con un cuadro de texto, sino una serie de capas a su alrededor: de dónde vienen las respuestas, qué puede afirmar el sistema, qué se filtra, quién puede hacer qué, qué se registra, y quién da el visto bueno antes de que algo cuente. Ponemos cada sistema de IA que usáis a prueba de esas capas y valoramos cada una: presente, a medias, o ausente. Todo incidente de IA conocido, desde el chatbot de la aerolínea que prometió un descuento inexistente hasta el periódico con citas inventadas, se remonta exactamente a una capa así, ausente. Usamos esa lección para señalar, no para asustar.
02Las pruebas.
Qué puedes mostrar hoy y qué falta: una política de uso de IA, una relación de qué sistemas usas y para qué, acuerdos con proveedores sobre vuestros datos, la evaluación de privacidad donde haga falta, y la prueba de que tu gente sabe lo que hace (esa obligación ya rige). Contrastado con lo que de verdad se pide en tu mundo: educación, investigación, edición y consultoría tienen cada una sus propios requisitos, y los conocemos.
03Las personas.
¿Funciona de verdad la aprobación, o se marca a ciegas? ¿Mantiene el sistema a tu gente alerta, o le va quitando el pensar sin que se note? Esta es la parte de la evaluación que casi nadie hace, y para una organización que vive de pensar, quizá la más importante.
