Cuando una inteligencia artificial deja de limitarse a producir respuestas y comienza a ejecutar acciones, el problema jurídico cambia. Determinar quién debe reparar el daño exige analizar el riesgo creado, el control ejercido por cada participante y la relación causal entre sus decisiones y el resultado.
El problema de atribuir responsabilidad por los actos de una IA
En el derecho romano, el pretor (magistrado encargado principalmente de administrar justicia) concedía una acción particular cuando desde una vivienda se arrojaba o derramaba algo que causaba un daño. La responsabilidad podía alcanzar a quien habitaba el lugar aunque el acto material hubiese sido realizado por otra persona. Las Institutas de Justiniano explicaban esta solución dentro de las obligaciones nacidas de cuasidelito: ante la dificultad de identificar al autor inmediato, el derecho dirigía su mirada hacia quien ocupaba la esfera desde la cual provenía el peligro.1
La comparación tiene límites evidentes, pero conserva una intuición valiosa. El derecho no siempre necesita atribuir voluntad al instrumento que produce el daño. Puede preguntarse quién creó el riesgo, quién organizó la actividad, quién tenía posibilidades de controlarla y quién obtenía un beneficio de ella.
Esa pregunta adquiere una nueva actualidad frente a la inteligencia artificial agéntica, es decir, sistemas capaces de recibir un objetivo, planificar las tareas necesarias y ejecutar acciones mediante distintas herramientas con cierto grado de autonomía. Un agente de IA puede consultar bases de datos, modificar archivos, enviar comunicaciones, efectuar reservas, iniciar operaciones o coordinar otros sistemas. Su autonomía es funcional, no jurídica. No posee personalidad ni patrimonio propios y, por lo tanto, decir que “la IA se equivocó” describe un hecho técnico, pero no identifica al responsable.
El verdadero problema aparece detrás del sistema. Allí pueden encontrarse el desarrollador del modelo, la empresa que ofrece una API (una interfaz que permite conectar una aplicación con un modelo de inteligencia artificial), el proveedor que construye una aplicación sobre esa tecnología, la organización que la implementa y la persona que decide utilizarla con determinados permisos. Cuando una acción automatizada causa un perjuicio, la responsabilidad no debe buscarse en una entidad digital abstracta, sino en las conductas, los riesgos y las relaciones jurídicas de esos participantes.
De generar una respuesta a producir un daño
La inteligencia artificial generativa tradicional suele entregar un resultado que todavía debe ser utilizado por una persona. Si el sistema redacta incorrectamente una carta, el error permanece en la pantalla mientras nadie la envíe. Un agente, en cambio, puede incorporar ese contenido a un flujo de trabajo y ejecutar el paso siguiente sin una nueva intervención humana.
Imaginemos una aplicación empresarial que utiliza, mediante una API, el modelo de una compañía de inteligencia artificial. La aplicación recibe facturas, verifica datos, consulta una cuenta y programa pagos. Debido a una combinación de instrucciones defectuosas, una interpretación errónea del modelo y controles insuficientes, el agente transfiere dinero a una cuenta equivocada. En la producción del daño podrían haber incidido varias decisiones: el diseño del modelo, la información proporcionada por el operador de la API, la programación de la aplicación, la amplitud de los permisos concedidos y la ausencia de una confirmación humana antes de pagar.
El problema no se limita a una profesión o actividad determinada. Puede presentarse en cualquier organización que permita a un agente de inteligencia artificial acceder a información o ejecutar acciones con efectos externos. En la abogacía, por ejemplo, un agente conectado al correo electrónico y al sistema de gestión de un estudio podría vincular una propuesta confidencial con el expediente equivocado y enviarla a un tercero. Frente al cliente perjudicado, no bastaría con afirmar que el mensaje fue generado automáticamente: habría que determinar si el daño se originó en el modelo utilizado, en el diseño de la aplicación, en su configuración o en la falta de supervisión de quien decidió implementarla.
La IA agéntica no es un nuevo sujeto responsable
La capacidad de planificar y actuar no convierte al agente en una persona. El sistema carece de voluntad jurídicamente relevante, no celebra contratos por cuenta propia, no soporta una condena con un patrimonio autónomo y no reemplaza a las personas humanas o jurídicas que lo desarrollan, comercializan o utilizan.
Esta aclaración evita dos errores. El primero consiste en antropomorfizar el sistema y atribuirle la responsabilidad como si fuera un dependiente digital. El segundo consiste en considerar que, por no ser una persona, sus acciones quedarían fuera de las reglas vigentes. En realidad, el Código Civil y Comercial de la Nación (CCyCN) contiene categorías suficientemente amplias para comenzar el análisis: responsabilidad directa por acción u omisión, factores subjetivos y objetivos, riesgo o vicio de las cosas, actividades riesgosas, responsabilidad por terceros, pluralidad de responsables y obligaciones concurrentes.
La identificación del régimen aplicable dependerá del caso. No todo error de una IA genera responsabilidad, ni toda utilización de un agente constituye una actividad peligrosa. Deben existir un daño resarcible, un factor de atribución y una relación causal adecuada. La novedad tecnológica no suprime esos presupuestos; obliga a aplicarlos sobre una arquitectura en la que las decisiones y los controles se encuentran distribuidos.
Las cosas peligrosas y la responsabilidad por riesgo: los arts. 1757 y 1758 del Código Civil y Comercial
El artículo 1757 del Código Civil y Comercial establece la responsabilidad por el daño causado por el riesgo o vicio de las cosas y por las actividades que sean riesgosas o peligrosas por su naturaleza, por los medios empleados o por las circunstancias de su realización. Se trata de un factor objetivo: acreditados sus presupuestos, la discusión no se concentra en la culpa del responsable, quien debe demostrar una causa ajena con aptitud suficiente para interrumpir total o parcialmente el nexo causal. La autorización administrativa o el cumplimiento de técnicas preventivas no bastan por sí solos para excluir la responsabilidad.2
Aplicar esta norma a la inteligencia artificial requiere prudencia. Calificar al software, al modelo o a los datos como una “cosa” en el sentido del régimen de responsabilidad presenta dificultades conceptuales. El carácter inmaterial del sistema y la diversidad de componentes que intervienen desaconsejan afirmar, en abstracto, que toda IA sea una cosa riesgosa o viciosa.
El análisis de la actividad riesgosa por los medios empleados o por las circunstancias de su realización puede resultar más adecuado en determinados supuestos. Una herramienta que solo ordena bibliografía pública difícilmente pueda equipararse con un agente autorizado para operar cuentas, revelar información confidencial, modificar historiales médicos o adoptar decisiones a gran escala. La peligrosidad no proviene de la etiqueta “inteligencia artificial”, sino de la combinación concreta entre autonomía operativa, permisos, volumen, sensibilidad de los bienes comprometidos, posibilidad de propagación y dificultad para revertir el resultado.
El artículo 1758 permite identificar a los sujetos responsables. Respecto de las cosas, responsabiliza concurrentemente al dueño y al guardián, considerando guardián a quien ejerce el uso, la dirección y el control o a quien obtiene un provecho. Para las actividades riesgosas o peligrosas, la norma alcanza a quien las realiza, se sirve u obtiene provecho de ellas, por sí o por terceros.2
Trasladada al entorno agéntico, esta pauta dirige la atención hacia el control real y el beneficio. El proveedor de una aplicación puede decidir qué tareas ofrecer, cómo se conectará el modelo, qué permisos solicitará, qué barreras impondrá y cuándo exigirá una aprobación. El proveedor de la API controla, por su parte, aspectos del modelo, sus actualizaciones, ciertas medidas de seguridad y la información técnica que entrega a quienes lo integran. La empresa usuaria define el propósito concreto, selecciona los datos y habilita el acceso a sus sistemas. Ninguno queda comprendido automáticamente por el solo hecho de integrar la cadena, pero cualquiera puede resultar responsable si su esfera de actuación contribuyó causalmente al riesgo que se materializó.
No toda IA agéntica es una actividad riesgosa
El régimen objetivo no debe convertirse en una presunción general contra cualquier tecnología novedosa. Los artículos 1757 y 1758 del CCyCN exigen examinar la naturaleza de la actividad, los medios utilizados y las circunstancias de su realización. Por eso, el mismo modelo puede integrar actividades jurídicamente distintas.
Un agente que clasifica documentos ficticios en un entorno de prueba ofrece un riesgo reducido. Otro que administra medicación, opera activos financieros o presenta escritos sujetos a plazos puede afectar bienes relevantes mediante acciones inmediatas y difíciles de revertir. Entre ambos extremos importan la autonomía concedida, el alcance de los permisos, la existencia de supervisión, el número de personas expuestas, la previsibilidad de los errores y la posibilidad de detener el proceso.
Tampoco debe confundirse responsabilidad objetiva con responsabilidad automática. Incluso bajo un factor objetivo, la víctima debe vincular el daño con la cosa o actividad y con el sujeto a quien la ley atribuye el riesgo. El demandado puede invocar una causa ajena; y la incidencia del hecho del damnificado o de un tercero puede excluir o limitar la reparación cuando reúna las condiciones legales. La opacidad del sistema no elimina la causalidad, aunque puede justificar una valoración probatoria especialmente atenta a quién estaba en mejores condiciones de aportar registros, versiones, instrucciones y trazas de ejecución.3
El caso particular del abogado que utiliza un agente
Cuando el agente es incorporado al ejercicio profesional del derecho, debe considerarse el artículo 1768 del Código Civil y Comercial. La actividad del profesional liberal se rige por las obligaciones de hacer y, como principio, su responsabilidad es subjetiva, salvo que haya comprometido un resultado concreto. Además, la norma excluye expresamente la actividad profesional liberal del régimen de actividades riesgosas del artículo 1757 y solamente admite la responsabilidad derivada de las cosas cuando el daño provenga de su vicio.4
Por lo tanto, no sería correcto sostener que el abogado responde objetivamente solo por utilizar IA agéntica. Su actuación deberá examinarse, en principio, según la diligencia exigible: qué herramienta eligió, qué datos incorporó, qué permisos concedió, qué controles estableció y si verificó el resultado antes de producir un acto profesional. Los artículos 1724 y 1725 elevan la valoración cuando existe un deber especial de prudencia y conocimiento, como ocurre en una relación basada en la confianza y en el manejo de información reservada.3
Esto no impide que otros integrantes de la arquitectura tecnológica queden sometidos a factores diferentes. El abogado puede responder por una supervisión negligente, mientras que el proveedor de la aplicación podría responder por el riesgo o vicio del servicio, por un defecto de diseño o por información insuficiente. La diversidad de fundamentos es precisamente lo que vuelve relevante distinguir solidaridad de concurrencia.
Una aplicación construida sobre una API: ¿quién responde?
Supongamos que una empresa desarrolla una aplicación jurídica sobre la API de un proveedor de modelos, por ejemplo OpenAI. El desarrollador configura las instrucciones, diseña la interfaz, decide las herramientas disponibles y comercializa un agente capaz de leer expedientes y enviar comunicaciones. El proveedor de la API suministra el modelo que interpreta las instrucciones y genera las decisiones intermedias. El estudio contrata la aplicación y la conecta a su correo.
Si el agente envía información confidencial al destinatario equivocado, no existe una respuesta universal. La responsabilidad dependerá de la causa del error y del régimen aplicable.
El proveedor de la aplicación podría responder si diseñó un flujo que permitía enviar mensajes sin confirmación, mezcló datos de distintos clientes, omitió advertencias esenciales o solicitó permisos desproporcionados. El proveedor del modelo o de la API podría quedar alcanzado si el daño se relaciona causalmente con un defecto atribuible a su servicio, con información técnica insuficiente o con una modificación que introdujo un riesgo no comunicado. La organización usuaria también podría responder si configuró el sistema de modo imprudente, ignoró advertencias o eliminó barreras recomendadas.
En cambio, la mera presencia de una empresa en la infraestructura no alcanza para responsabilizarla. Si la aplicación alteró las protecciones del modelo o utilizó la API para una finalidad expresamente ajena a sus condiciones, y esa conducta fue la causa exclusiva del perjuicio, el proveedor de la API podría invocar la ajenidad causal. Del mismo modo, el desarrollador de la aplicación no debería responder por un hecho completamente extraño a su intervención. La cuestión exige prueba técnica y jurídica, no una atribución basada únicamente en el tamaño o notoriedad de las empresas.
Solidaridad y obligaciones concurrentes frente a la víctima
El artículo 1751 del CCyCN ofrece la primera regla para la pluralidad de responsables. Si varias personas participan en la producción de un daño que tiene una causa única, se aplican las reglas de las obligaciones solidarias. Si la pluralidad deriva de causas diferentes, se aplican las obligaciones concurrentes.5
En una obligación solidaria, la solidaridad debe surgir de la ley o del título constitutivo; no se presume. Cuando corresponde, la víctima puede reclamar la totalidad de la reparación a cualquiera de los obligados. En el supuesto de una aplicación y un proveedor de API, podría existir solidaridad si una norma especial la establece o si ambos participaron en una causa común en los términos del artículo 1751.
Las obligaciones concurrentes presentan otra estructura. El desarrollador de la aplicación puede deber la reparación por su diseño defectuoso y el proveedor del modelo por una causa distinta vinculada con su propio servicio. Aunque las fuentes sean diferentes, ambos adeudan a la víctima la reparación del mismo daño. Los artículos 850 y 851 permiten al damnificado reclamar a uno, a varios o a todos, simultánea o sucesivamente. El pago íntegro realizado por uno extingue la obligación de los demás, porque la víctima tiene derecho a una reparación plena, no a cobrar dos veces el mismo perjuicio.5
Por eso, desde la perspectiva práctica de la víctima, solidaridad y concurrencia pueden producir un efecto parecido: la posibilidad de dirigir el reclamo por el total contra más de un responsable. Sin embargo, no son categorías equivalentes. Difieren, entre otras cuestiones, en los efectos de la mora, la prescripción, la cosa juzgada y la acción de contribución. Utilizar la palabra “solidaria” como sinónimo general de responsabilidad múltiple puede ocultar consecuencias relevantes.
La relación de consumo y la solidaridad del artículo 40
Cuando la aplicación se ofrece a un consumidor o usuario final, también debe examinarse la Ley 24.240. Su artículo 40 establece que, si el daño deriva del vicio o riesgo de la cosa o de la prestación del servicio, responden solidariamente quienes integran la cadena allí enumerada —entre ellos, productor, fabricante, distribuidor, proveedor, vendedor y quien coloca su marca—, sin perjuicio de las acciones de repetición. Solo se libera total o parcialmente quien demuestra que la causa del daño le ha sido ajena.6
Una aplicación de IA y el servicio de API que la hace funcionar pueden formar parte de una cadena digital compleja. Si ambos califican jurídicamente como proveedores vinculados con la prestación defectuosa, el consumidor podría demandarlos y exigir el total a cualquiera de ellos. La empresa que ofrece la aplicación no debería poder oponer al usuario que el error provino del modelo contratado; tampoco el proveedor situado detrás de la API quedaría necesariamente al margen si su propia prestación integró causalmente el servicio dañoso.
Pero tampoco aquí la inclusión es automática. Será necesario acreditar la relación de consumo, el defecto o riesgo del servicio, el daño y la vinculación de cada demandado con la cadena. Cuando interviene un proveedor extranjero, se agregan cuestiones de jurisdicción, derecho aplicable, notificación y ejecución. Los términos contractuales celebrados entre empresas pueden ordenar sus relaciones internas, pero no deberían reducir los derechos inderogables que la legislación argentina reconoce al consumidor cuando resulte aplicable.
¿Frente a la víctima responden ambos?
La respuesta correcta es condicional. Pueden responder ambos frente a la víctima, e incluso cada uno por la totalidad, cuando el daño sea jurídicamente atribuible a sus respectivas intervenciones y exista solidaridad legal o una obligación concurrente. La víctima no tiene que soportar la fragmentación técnica del producto ni reconstruir, antes de reclamar, qué porcentaje exacto corresponde a cada capa del sistema.
Sin embargo, no basta con afirmar que una aplicación utilizaba determinada API. Si el perjuicio se produjo exclusivamente por una configuración realizada por el desarrollador, sin defecto ni aporte causal del proveedor del modelo, este último podría no responder. Y si el daño obedeció exclusivamente a una decisión de la empresa usuaria contraria a las instrucciones y previsiones razonables del sistema, el análisis puede desplazarse hacia ella.
La mejor forma de formular la regla es la siguiente: la arquitectura distribuida no debe perjudicar a la víctima, pero tampoco reemplaza la prueba del vínculo causal de cada demandado. Los registros del agente, las versiones del modelo, las instrucciones del sistema, la documentación técnica, los permisos concedidos y los contratos entre proveedores serán esenciales para reconstruir esa participación.
Quién paga finalmente: contribución y acción de regreso
Que la víctima pueda cobrar el total a uno de los responsables no significa que ese sujeto deba soportar definitivamente todo el costo. Después del pago se abre una segunda relación, interna, entre quienes participaron en la producción del daño.
En materia de obligaciones concurrentes, el artículo 851, inciso h) del CCyCN, dispone que la acción de contribución del deudor que paga contra los demás se rige por las relaciones causales que originaron la concurrencia. El artículo 852 del mismo cuerpo normativo permite aplicar subsidiariamente las normas de las obligaciones solidarias. Para estas últimas, los artículos 840 y 841 consideran, sucesivamente, lo pactado, la fuente y finalidad de la obligación o causa de la responsabilidad, las relaciones entre los interesados y las demás circunstancias. Solo cuando esos criterios no permiten determinar las cuotas se presume una participación por partes iguales.5
En una relación de consumo, el artículo 40 de la Ley 24.240 también preserva expresamente las acciones de repetición. Así, quien indemniza al consumidor puede reclamar a los restantes integrantes de la cadena la parte que corresponda según la causa del daño y las relaciones internas.6
Volvamos al ejemplo. Si el proveedor de la aplicación paga íntegramente a la víctima, luego podría repetir contra el proveedor de la API si demuestra que una falla atribuible al modelo tuvo una incidencia relevante. La distribución podría atender a la participación causal, el grado de control, el conocimiento del riesgo, las medidas de prevención omitidas y los acuerdos válidos de indemnidad celebrados entre las empresas. Si una pericia concluyera que el defecto del modelo explicó el setenta por ciento del daño y el diseño de la aplicación el treinta por ciento restante, esa proporción podría orientar la contribución interna. No existe, sin embargo, una regla que imponga siempre ese cálculo ni una división automática por mitades.
También puede ocurrir lo contrario. Si el desarrollador otorgó al agente permisos de pago sin confirmación, descartó advertencias técnicas y utilizó el modelo para una función que no estaba preparada para operar, el costo final podría recaer principalmente —o íntegramente— sobre él. Los contratos entre el desarrollador y el proveedor de la API pueden contener límites, garantías o cláusulas de indemnidad relevantes para esta etapa, cuya validez y alcance deberán examinarse según el derecho aplicable. Esos acuerdos internos no deberían ser trasladados sin más a la víctima protegida por normas imperativas.
Conclusión
Los romanos no atribuían personalidad a la cosa arrojada desde una vivienda. Buscaban la respuesta jurídica en la esfera desde la cual había surgido el peligro. Frente a la inteligencia artificial agéntica, el desafío es diferente, pero la pregunta conserva su fuerza: ¿quién creó, organizó, controló o aprovechó el riesgo que terminó causando el daño?
Responderla exige reconstruir el proceso y no limitarse a observar su resultado. Será necesario determinar quién eligió el modelo, quién redactó sus instrucciones, quién decidió que el agente podía enviar comunicaciones, realizar compras o efectuar pagos, qué advertencias existían, qué versión estaba activa, si se había previsto una confirmación humana y quién debía conservar los registros de cada operación.
Estas preguntas cumplen una doble función. Antes del daño, permiten adoptar medidas de prevención, como permisos mínimos, límites monetarios, separación de entornos, confirmaciones para actos sensibles, trazabilidad y mecanismos de interrupción. Después del daño, ayudan a establecer la relación causal y la esfera de control de cada participante. La ausencia de registros o la negativa de un proveedor a facilitar información técnica relevante puede dificultar esa tarea. En litigios atravesados por una marcada asimetría informativa, el artículo 1735 del Código Civil y Comercial permite al juez distribuir la carga de acreditar la culpa o la diligencia según quién se encuentre en mejores condiciones de aportar la prueba. Esto no elimina la necesidad de demostrar la causalidad, pero vuelve especialmente importante preservar evidencias técnicas desde el diseño.³
Los artículos 1757 y 1758 del Código Civil y Comercial ofrecen una posible vía de atribución cuando la actividad resulta riesgosa por su naturaleza, por los medios empleados o por las circunstancias de su realización. No toda utilización de inteligencia artificial quedará comprendida en ese régimen y, en el caso particular de los profesionales liberales, deberá respetarse la exclusión establecida por el artículo 1768. Según las circunstancias, la responsabilidad también puede fundarse en la culpa, el incumplimiento contractual, el defecto del servicio o las normas de defensa del consumidor.
Cuando intervienen el desarrollador de una aplicación, el proveedor de una API y la organización usuaria, la solución no consiste en elegir de antemano a uno solo. Si sus respectivas intervenciones contribuyeron causalmente al mismo daño, pueden quedar obligados solidaria o concurrentemente, según el régimen aplicable. Frente a la víctima, uno de ellos puede tener que afrontar la reparación total; posteriormente, el costo se distribuirá entre los responsables de acuerdo con las causas del daño, los contratos válidos y la participación atribuible a cada uno. Esa distribución no debe realizarse necesariamente por partes iguales.
La autonomía operativa de un agente no crea un vacío de responsabilidad. Al contrario, obliga a identificar con mayor precisión quién diseñó sus límites, quién le proporcionó las herramientas, quién se benefició con su utilización y quién decidió dejarlo actuar. Cuando la inteligencia artificial adquiere capacidad para producir efectos en el mundo, la responsabilidad debe seguir la ruta del control, del riesgo y del beneficio.
Notas y fuentes
- Justiniano, Institutas, libro IV, título V, § 1, sobre lo arrojado o derramado desde una vivienda. Texto disponible en The Roman Law Library, Universidad Grenoble Alpes: https://droitromain.univ-grenoble-alpes.fr/Anglica/just4_Moyle.htm. Como antecedente contemporáneo de esa tradición puede verse también el art. 1760 del Código Civil y Comercial argentino.
- Código Civil y Comercial de la Nación, arts. 1722, 1757 y 1758, Ley 26.994, texto oficial: https://www.argentina.gob.ar/normativa/nacional/norma-235975/texto.
- Código Civil y Comercial de la Nación, arts. 1724 a 1736, especialmente arts. 1725, 1726, 1729, 1731, 1735 y 1736.
- Código Civil y Comercial de la Nación, art. 1768.
- Código Civil y Comercial de la Nación, arts. 827, 828, 840, 841, 850, 851, 852 y 1751.
- Ley 24.240 de Defensa del Consumidor, art. 40, texto actualizado: https://www.argentina.gob.ar/normativa/nacional/ley-24240-638/actualizacion.