La inteligencia artificial dejó de ser una promesa de laboratorio para volverse una infraestructura cotidiana: decide créditos, asiste diagnósticos, filtra postulantes y prioriza atención al cliente. Esa ubicuidad obliga a preguntarnos no sólo qué puede hacer la IA, sino bajo qué condiciones queremos que la haga.
Tres pilares no negociables
Una IA confiable se construye sobre tres pilares que deben operar de manera simultánea, no secuencial:
- Ética por diseño. No alcanza con códigos voluntarios redactados ex post. Los principios de justicia, no discriminación, transparencia y autonomía humana tienen que estar incorporados en la arquitectura del sistema desde su concepción.
- Responsabilidad distribuida pero exigible. Desarrollador, integrador y usuario final cumplen roles distintos, pero la víctima de un sistema sesgado no debiera tener que mapear cadenas contractuales de cinco eslabones para identificar a quién reclamar.
- Gobernanza demostrable. Comités de ética internos, evaluaciones de impacto algorítmico, registros de decisiones automatizadas significativas y auditorías externas son las piezas mínimas de un sistema verificable.
Por qué Chile no puede esperar al EU AI Act
El Boletín 15869-19, que regula los sistemas de IA, lleva años de tramitación legislativa. Mientras tanto, las organizaciones públicas y privadas ya despliegan sistemas con impacto en derechos fundamentales. Esperar a la entrada en vigencia del proyecto significa, en la práctica, normalizar usos que después será costoso revertir.
Las empresas que adopten estándares equivalentes al EU AI Act —sistemas de alto riesgo, documentación técnica, supervisión humana significativa, evaluación de conformidad— tendrán dos ventajas: estarán preparadas cuando Chile legisle, y podrán operar con clientes europeos sin fricción regulatoria.
El rol de la Agencia de Protección de Datos
La Ley N° 21.719 entrega a la nueva Agencia un mandato sobre tratamiento de datos personales, lo que incluye buena parte del entrenamiento y operación de sistemas de IA. La articulación entre esa autoridad y la futura supervisora de IA será determinante: si quedan silos, las empresas enfrentarán fiscalizaciones duplicadas; si hay coordinación real, Chile podrá ofrecer un entorno regulatorio comparable al europeo.
Una conclusión práctica
Hablar de IA confiable no es un ejercicio retórico. Es la diferencia entre proyectos que sobreviven a un cambio regulatorio y proyectos que tienen que ser reescritos. Para abogados y compliance officers, el momento de armar el caso interno —ética, responsabilidad, gobernanza— es ahora, no cuando el proyecto de ley se publique en el Diario Oficial.
Este contenido es de carácter educativo y no constituye asesoría jurídica. Las opiniones son de los autores.