Blog · Gobierno

Quién responde cuando un agente se equivoca

Antes de que un agente de IA proponga, contrate o pague una Campaña, alguien tiene que firmar qué puede hacer, con qué límites y quién responde si se equivoca. Esa firma suele ser la del director financiero. Explicamos los cinco controles que conviene exigir, una matriz de lo que el agente puede hacer solo, con aprobación o nunca, y el marco regulatorio vigente a octubre de 2026. El artículo describe el marco general y no sustituye una revisión jurídica.

Por el equipo de OS.ooh31 de octubre de 20268 min de lecturaCompartir

Directora financiera revisando en su despacho un panel de aprobaciones

Por qué el director financiero tiene que aprobar el agente

Los agentes de IA están pasando de las pruebas a la operación. En su encuesta de 2026, McKinsey encontró que unas dos de cada diez organizaciones están desplegando agentes de forma amplia, y que en las grandes empresas la proporción sube al 40 %, frente al 27 % del año anterior. El mismo estudio señala que las organizaciones con mejores resultados con la IA son mucho más propensas a trabajar para evitar acciones no autorizadas o no previstas de sus sistemas.1

En la compra de medios, un agente puede negociar y reservar caras, como contamos en Los agentes ya compran pantallas, y con ello compromete dinero de la empresa o de su cliente. Para que ese gasto sea tan auditable como el de un empleado con poder de firma, el director financiero necesita exigir cinco controles.

  1. Permisos y límites de gastoQué puede comprometer el agente, por Campaña, por proveedor y en total, y en nombre de quién.
  2. Segregación de funcionesEl agente que propone una compra no la aprueba, y nadie fija los límites que va a usar él mismo.
  3. Trazabilidad completaCada acción registrada con la regla que se aplicó, los datos consultados y la persona que aprobó.
  4. Revisión humana en puntos definidosMomentos concretos en los que decide una persona, con capacidad real de parar o corregir.
  5. Responsabilidad contractualQuién responde ante cada error, escrito en los contratos entre anunciante, agencia, exclusivista y proveedor de la tecnología.

Permisos, límites y segregación de funciones

Un agente debería tener su propia identidad en los sistemas, separada de la de cualquier empleado, con permisos limitados a su función. Así se sabe siempre qué hizo el agente y qué hizo una persona. Los límites se expresan en importes y en condiciones: presupuesto por Campaña, importe máximo por operación, proveedores homologados, fechas y tipos de soporte. El sistema debe comprobarlos antes de cada acción, con independencia de lo que el agente haya decidido.

La segregación de funciones es el control clásico para evitar que una sola persona inicie, apruebe y pague una operación. Con agentes se aplica igual. Si el agente de la agencia propone la compra, una persona o una regla verificada por el sistema la aprueba. Si el agente puede confirmar pedidos, la liberación del pago depende de que se cumplan las condiciones pactadas, como el montaje comprobado. Y quien define los permisos del agente es una persona distinta de quien lo usa a diario.

Gráfico 1Qué puede hacer un agente de compra solo, con aprobación y nunca

SoloDentro de las reglas aprobadas

  • Consultar inventario, disponibilidad y datos de audiencia.
  • Preparar planes y propuestas.
  • Negociar dentro de los rangos de precio y descuento aprobados.
  • Hacer reservas provisionales que caducan en un plazo fijado.
  • Confirmar compras por debajo del importe fijado, con proveedores homologados.
  • Validar comprobantes que superan el umbral acordado.
  • Avisar de incidencias y desviaciones.

Con aprobaciónDecide una persona con nombre

  • Compras por encima del importe fijado o fuera del presupuesto.
  • Proveedores nuevos o condiciones distintas de las pactadas.
  • Cambios de fechas, caras o creatividad en una Campaña confirmada.
  • Comprobantes dudosos, descuentos por incidencia y notas de abono.
  • Cancelaciones con penalización.

NuncaBloqueado por el sistema

  • Cambiar sus propios límites, permisos o reglas.
  • Dar de alta proveedores o cambiar sus datos bancarios.
  • Liberar pagos fuera de las condiciones pactadas.
  • Aprobar lo que él mismo ha propuesto.
  • Firmar contratos marco o cambiar condiciones generales.
  • Borrar o modificar registros.
Fuente: elaboración de OS.ooh. Es un punto de partida: cada empresa fija sus importes y adapta la matriz a sus políticas de firma.

Trazabilidad de cada acción

Para auditar a un agente hace falta reconstruir qué hizo, por qué y con qué autorización. Eso exige un registro que no se pueda modificar después y que enlace cada acción con la Campaña, el contrato, los comprobantes y la factura. Si el registro se guarda en un sistema distinto del que opera la Campaña, alguien tendrá que cruzarlos a mano en cada auditoría.

Gráfico 2Lo que debe guardar el registro de cada acción del agente
Registro de acción · ejemplo ficticio12/03/2027 · 10:42:07
Agente

Agente de compra de la agenciaIdentidad propia, distinta de la de cualquier empleado.

En nombre de

Agencia y anuncianteCon el mandato y el presupuesto que le dieron.

Acción

Confirmar compra de 12 carasCon el detalle de caras, fechas y precio.

Regla aplicada

Política de compra, versión 4Importe por debajo del límite de confirmación automática.

Datos consultados

Disponibilidad y precio pactadoTal como estaban en el momento de la acción.

Aprobación

No requerida por la reglaSi la hubiera, nombre de la persona y hora.

Enlazado a: Campaña EXT-27-MAD-014 · contrato · comprobantes de montaje · factura
Esquema ilustrativo de OS.ooh con datos ficticios.

Revisión humana en puntos definidos

Una revisión humana sirve si la persona tiene tiempo, información y capacidad para cambiar el resultado. El Reglamento europeo de IA lo describe en su artículo 14, pensado para los sistemas de alto riesgo. Según ese artículo, quien supervisa debe poder entender lo que el sistema puede y no puede hacer y vigilar su funcionamiento, ser consciente de la tendencia a fiarse en exceso de sus resultados, interpretarlos correctamente, decidir no usar el sistema o anular su resultado, e intervenir o detenerlo, por ejemplo con un botón de parada.2

Un agente de compra de medios no figura de forma expresa entre los usos de alto riesgo del anexo III, y su clasificación debe confirmarla un jurista. Aun así, el artículo 14 es una buena guía para diseñar la supervisión. En la práctica supone fijar en qué momentos interviene una persona, que esa persona vea el motivo y los datos de cada caso, y que exista una forma de suspender el agente al instante. También conviene medir cuántas propuestas se aprueban sin cambios: si son prácticamente todas, la revisión puede haberse vuelto un trámite.

Quién responde: lo que dice la ley y lo que dice el contrato

La Comisión Europea incluyó en febrero de 2025 la retirada de su propuesta de directiva sobre responsabilidad civil por IA en su programa de trabajo, y la confirmó en julio de ese año.34 Sigue vigente la nueva Directiva (UE) 2024/2853 sobre productos defectuosos, que incluye el software, también la IA, y que los Estados deben trasponer antes del 9 de diciembre de 2026.5 Esa directiva indemniza solo a personas físicas, por daños personales, daños a bienes y pérdida de datos, y excluye los bienes y los datos de uso exclusivamente profesional.6

En una compra entre empresas, por tanto, el reparto de responsabilidades depende sobre todo de los contratos. Conviene que la revisión jurídica cubra al menos estos puntos:

  1. Quién opera el agente y en nombre de quién actúaAgencia, anunciante o exclusivista, y qué mandato le da cada uno.
  2. Qué vincula a cada partePor ejemplo, que solo obligue un compromiso confirmado en el sistema y dentro de las reglas acordadas.
  3. Qué pasa con un errorUn precio fuera de rango, una cara equivocada o una reserva duplicada: cómo se detecta, cómo se corrige y quién asume el coste.
  4. Qué responde el proveedor de la tecnologíaDisponibilidad, fallos del agente, seguridad y límites de responsabilidad.
  5. Acceso a los registrosQuién puede consultarlos, durante cuánto tiempo se conservan y en qué formato se entregan en una auditoría o una disputa.
  6. SuspensiónQuién puede detener el agente y qué ocurre con las operaciones en curso.

El marco regulatorio a octubre de 2026

El Reglamento (UE) 2024/1689, conocido como Reglamento de IA, se aplica por fases. En julio de 2026 se publicó el Ómnibus Digital sobre IA, que entró en vigor el 27 de julio y aplazó las obligaciones de los sistemas de alto riesgo. Las del anexo III, que cubre usos como la selección de personal o la evaluación de solvencia de personas, pasan al 2 de diciembre de 2027, y las de los sistemas integrados en productos regulados, al 2 de agosto de 2028. El mismo texto reformuló la obligación de alfabetización en IA como un deber de adoptar medidas que la promuevan.78

Gráfico 3Calendario de aplicación del Reglamento europeo de IA tras el Ómnibus Digital
  1. Prácticas prohibidasPrimeras obligaciones aplicables.
  2. Modelos de uso generalObligaciones para los proveedores de estos modelos.
  3. Entra en vigor el ÓmnibusPublicado el 24 de julio; aplaza el alto riesgo.
  4. TransparenciaArtículo 50, con transición hasta el 2 de diciembre de 2026 para algunos sistemas.
  5. Alto riesgo, anexo IIILos integrados en productos regulados, el 2 de agosto de 2028.
Obligaciones ya aplicablesCambios del Ómnibus Digital
Fuentes: Garrigues (24 de julio de 2026) y Secure Privacy (julio de 2026) sobre el Ómnibus Digital sobre IA.

Dos marcos voluntarios ayudan a ordenar los controles. El NIST AI Risk Management Framework, publicado por el organismo de normalización de Estados Unidos en enero de 2023, organiza la gestión de riesgos de la IA en cuatro funciones: gobernar, mapear, medir y gestionar. En julio de 2024 se completó con un perfil para la IA generativa, y el marco está en revisión.9 La norma ISO/IEC 42001, publicada en diciembre de 2023, fija los requisitos de un sistema de gestión de la IA para cualquier organización que desarrolle, ofrezca o use productos basados en IA.10 Los dos dan al director financiero un lenguaje común con auditoría interna y con los proveedores, y se complementan con el análisis jurídico de cada caso.

Este artículo resume el marco general a octubre de 2026 y no constituye asesoramiento jurídico. La clasificación de cada sistema y el contenido de los contratos deben revisarlos los asesores legales de cada empresa.

Dónde encaja OS.ooh

En OS.ooh, cada empresa trabaja con sus roles y permisos, y cada Campaña queda registrada desde la propuesta hasta el cobro, con los comprobantes y la factura enlazados. Los fondos quedan retenidos en una cuenta de garantía (escrow) de MoneyToPay, entidad regulada por el Banco de España, y liberados cuando se cumplen las condiciones acordadas. Sobre esa base se pueden definir los permisos de un agente, sus límites y los puntos en los que decide una persona, con un registro que comparten las partes.

Roles y permisos por empresaRegistro de cada CampañaFondos en cuenta escrowIndicadores sin trabajo manual
Solicitar demo Hacer el test del Índice

Fuentes

  1. McKinsey & Company (QuantumBlack), «The state of AI in 2026: On the road to ROI», 25 de agosto de 2026. mckinsey.com
  2. Reglamento (UE) 2024/1689, artículo 14, «Supervisión humana», vía activeMind.legal. activemind.legal
  3. Bird & Bird, «Proposed EU AI liability rules withdrawn», febrero de 2025. twobirds.com
  4. Euronews, «EU Commission confirms ditching of AI liability and patents proposals», 31 de julio de 2025. euronews.com
  5. Norton Rose Fulbright, «Revised Product Liability Directive introducing rules on strict liability for AI». nortonrosefulbright.com
  6. CMS, «The new EU Product Liability Directive (EU) 2024/2853», 13 de octubre de 2026. cms.law
  7. Garrigues, «The AI Digital Omnibus Regulation has been published, redefining deadlines and simplifying requirements for companies and developers», 24 de julio de 2026. garrigues.com
  8. Secure Privacy, «EU AI Act Digital Omnibus: the new high-risk AI deadlines after Council approval», 10 de julio de 2026. secureprivacy.ai
  9. NIST, «AI Risk Management Framework». nist.gov
  10. IEC Webstore, «ISO/IEC 42001:2023 Information technology — Artificial intelligence — Management system», 18 de diciembre de 2023. webstore.iec.ch
Comparte este artículoCompartir en LinkedIn