En 2024, un tribunal canadiense rechazó el argumento de Air Canada de que no respondía por lo que decía su propio chatbot: «resulta obvio que es responsable de toda la información en su sitio, y no hace ninguna diferencia si esa información viene de una página estática o de un chatbot», escribió el tribunal en Moffatt v. Air Canada, 2024 BCCRT 149.
No cuento este caso para que le tenga miedo a los agentes de inteligencia artificial. Lo cuento porque conviene entenderlo antes de encender uno, no después de que algo salga mal. Delegar una tarea a un agente de IA no delega la responsabilidad de esa tarea: sigue siendo de la empresa. Lo que cambia con un agente no es quién responde ante el cliente cuando hay un error; es qué tan rápido puede ocurrir ese error, y con cuántos clientes a la vez.
Soy Pratosh Dwivedi, cofundador y director de tecnología de TecnIA. Diseño sistemas que usan inteligencia artificial para operar procesos reales, y la pregunta que más me hacen los directivos no es si un agente puede hacer la tarea. Es qué pasa el día que la hace mal.
¿Qué fue exactamente lo que pasó con el chatbot de Air Canada?
Un chatbot le dio a un cliente información incorrecta sobre una tarifa, el cliente confió en ella, y la aerolínea intentó no responder por eso. El tribunal se lo impidió: así de simple es el hecho central del caso.
En noviembre de 2022, tras la muerte de su abuela, Jake Moffatt preguntó al chatbot del sitio de Air Canada por la tarifa de duelo. El chatbot le dijo que podía solicitarla de forma retroactiva, dentro de un plazo de 90 días. Esa información era falsa: la política de la aerolínea no permitía solicitudes retroactivas. Moffatt compró sus vuelos a tarifa completa confiando en esa respuesta y después pidió el reembolso de la diferencia.
Air Canada se negó, y ante el Civil Resolution Tribunal de Columbia Británica argumentó algo llamativo: que no respondía por lo que decía el chatbot porque este operaba, en los hechos, como una entidad separada de la empresa. El tribunal calificó ese argumento de «insólito» y falló en contra: ordenó a Air Canada pagar 812.02 dólares canadienses, entre daños, intereses y costas, sobre un reclamo original de 880.
Mi lectura: no es un caso sobre tecnología. Es un caso sobre quién firma.
¿Qué tiene que poder contestar por escrito una empresa antes de encender un agente de IA?
Yo lo resumo en tres preguntas: qué puede hacer el agente sin preguntar, quién lo revisa y quién responde. Dos marcos de referencia de gestión de riesgo de IA, el del NIST estadounidense y la norma internacional ISO/IEC 42001, apuntan a lo mismo. Ninguno de los dos es una ley.
El Marco de Gestión de Riesgos de IA del NIST, la agencia de estándares del gobierno de Estados Unidos (AI RMF 1.0, publicado en enero de 2023), dedica una función completa, llamada GOVERN, a esto. Pide que los roles y responsabilidades para gestionar el riesgo de un sistema de IA «estén documentados y sean claros para individuos y equipos en toda la organización» (subcategoría GOVERN 2.1); que existan políticas que «definan y diferencien roles y responsabilidades para las configuraciones humano-IA y la supervisión de los sistemas de IA» (GOVERN 3.2), con procesos de supervisión humana «definidos, evaluados y documentados» (MAP 3.5); y, la parte que más directamente contesta la tercera pregunta, que «el liderazgo ejecutivo de la organización asuma la responsabilidad de las decisiones sobre los riesgos asociados al desarrollo y despliegue de un sistema de IA» (GOVERN 2.3). El perfil del propio NIST para IA generativa, publicado en julio de 2024, añade una advertencia práctica: con el tiempo, las personas pueden llegar a confiar de más en un sistema automatizado, un fenómeno que llama «sesgo de automatización». El riesgo, en el caso de Air Canada, estuvo del lado de la empresa: el tribunal consideró razonable que el cliente confiara en el chatbot y concluyó que la aerolínea no tomó un cuidado razonable para que fuera exacto.
La norma ISO/IEC 42001:2023, la primera norma internacional de sistema de gestión de IA, apunta al mismo lugar desde otro ángulo: exige que la organización establezca «políticas y objetivos, así como procesos para lograr esos objetivos», sobre el desarrollo, la provisión o el uso responsable de sistemas de IA, y se implementa con la metodología de planificar, hacer, verificar y actuar. No evalúa la tecnología: evalúa la gobernanza de quien la opera.
- Qué puede hacer el agente sin preguntar. El límite de su autonomía, definido antes de que opere, no descubierto el día que ya se equivocó.
- Quién lo revisa, y cuándo. No «alguien revisa de vez en cuando»: una persona con nombre, y un momento definido en el proceso.
- Quién responde ante el cliente si se equivoca. No el proveedor del modelo, no «el sistema»: una persona de la empresa, con autoridad para resolverlo.
¿Qué dice la ley mexicana si el agente de una empresa le da información incorrecta a un cliente?
Por lo que dice su texto, lo mismo que si se la hubiera dado un vendedor humano: el proveedor responde. La Ley Federal de Protección al Consumidor obliga a «todo proveedor» a «informar y a respetar» las condiciones que ofrece (artículo 7), y exige que la información y la publicidad que se difundan «por cualquier medio o forma» sean «veraces, comprobables, claros» (artículo 32). El capítulo dedicado a las transacciones por medios electrónicos añade que el proveedor «evitará las prácticas comerciales engañosas» y debe cumplir las mismas reglas de información y publicidad de toda la ley (artículo 76 BIS, fracción IV).
Ese capítulo existe desde el año 2000, y por eso no menciona la inteligencia artificial: nombra «medios electrónicos, ópticos o de cualquier otra tecnología». Que un agente de IA quede cubierto por esa frase es, a mi juicio, una lectura razonable de su alcance, no una declaración expresa del legislador sobre agentes de IA, y lo digo así porque no encontré, dentro de esta investigación, un caso mexicano resuelto y publicado que conteste la pregunta con la misma claridad que el tribunal canadiense. Lo que sí existe es la misma estructura legal de fondo: la responsabilidad se define por el proveedor, no por el canal que usó para hablarle a usted.
¿Qué tan lista está la empresa grande mexicana para esta conversación?
Todavía no mucho, según el propio banco central. El Banco de México encontró que, en septiembre de 2025, 24.3% de las empresas de más de 100 trabajadores en el país ya usaba o planeaba usar inteligencia artificial en los siguientes doce meses. De esas, 61.1% seguía en fase de evaluación o de prueba piloto, y, según Banxico, solo 2.1% la tenía funcionando por completo en algún proceso.
El dato que más me llamó la atención no es la adopción: es uno de los obstáculos que menos pesan. Entre las empresas que no usan ni planean usar inteligencia artificial ni automatización, Banxico les pidió calificar, en una escala de 1 a 7, qué tanto influyó cada factor en su decisión de no adoptarlas. «Preocupaciones éticas, legales, de seguridad o privacidad» calificó 2.8, el penúltimo de siete factores, por debajo de la falta de personal capacitado (3.3) o de presupuesto (3.1).
Mi lectura: la mayoría de las empresas grandes que no han adoptado estas herramientas no se están deteniendo por la pregunta de quién responde. Y las que ya empezaron, según el mismo estudio, en su mayoría siguen probando, no operando a plena autonomía todavía. Eso no es motivo para relajarse: es la ventana, todavía abierta, para escribir las tres preguntas antes de que un agente esté tomando decisiones reales frente a un cliente, no después.
¿Qué hacemos en TecnIA con esto?
Formamos para decidir con criterio sobre estos sistemas, no solo para operarlos. Nuestra maestría para quienes dirigen empresas con inteligencia artificial es 100% online e incluye, en su último cuatrimestre, una asignatura de gobernanza y estrategia de la transformación digital. Hace unas semanas escribimos aquí sobre por qué un curso de dos horas no cierra la brecha de dirigir con IA; esto es la otra mitad de esa misma conversación. No basta con saber usar la herramienta: hay que poder contestar quién responde cuando la herramienta se equivoca.
¿Ya puede contestar las tres preguntas de este artículo sobre el agente que su empresa está por encender, o está por encenderlo sin haberlas escrito? Escríbanos por WhatsApp y platicamos sin compromiso.
Preguntas frecuentes
¿Esto significa que no debería usar agentes de IA en mi empresa?
No. El artículo no argumenta en contra de usarlos: argumenta en contra de encenderlos sin haber contestado antes, por escrito, qué puede hacer el agente sin preguntar, quién lo revisa y quién responde. Los marcos citados aquí, NIST e ISO, son voluntarios y buscan que una organización adopte IA con roles y responsabilidades definidos, no frenar la adopción.
¿Qué es exactamente un agente de IA en este contexto?
Un sistema de inteligencia artificial al que se le delega una tarea completa, como responder a un cliente, aprobar un pago o mover inventario, y que puede tomar esa acción con distintos niveles de autonomía: desde proponer una respuesta hasta ejecutarla sin que una persona la revise antes.
¿Las normas NIST e ISO son obligatorias en México?
No. Son marcos voluntarios de gestión de riesgo, no leyes mexicanas. Lo que sí es obligatorio en México es la Ley Federal de Protección al Consumidor, que exige información veraz por cualquier medio, y esa obligación no depende de si la empresa adoptó o no un marco como NIST o ISO.
Mi empresa es pequeña y no tiene un área legal. ¿Por dónde empiezo?
Por escribir las tres preguntas de este artículo en una sola hoja, con nombres de personas, no de puestos genéricos: qué puede hacer el agente sin preguntar, quién lo revisa y cuándo, y quién responde ante el cliente si se equivoca. No requiere un área legal completa; requiere que alguien concreto acepte esa responsabilidad antes de que el agente empiece a operar.
Pratosh Dwivedi es cofundador y Director de Tecnología de TecnIA Universidad Online, donde diseña sistemas de inteligencia artificial para procesos reales y la gobernanza que decide quién responde por ellos.
Este artículo fue escrito por Pratosh Dwivedi con asistencia de herramientas de inteligencia artificial, conforme a nuestra Política de IA.
