La inteligencia artificial actual no surgió solamente porque aparecieron algoritmos más sofisticados. Su expansión fue posible por la convergencia de enormes cantidades de datos digitalizados, mayor capacidad de cómputo, nuevas infraestructuras y modelos capaces de aprender a partir de ejemplos. En ese proceso, el Big Data aportó una materia prima decisiva, pero también trasladó a los sistemas sus errores, sesgos y problemas jurídicos.
Antes de la inteligencia artificial moderna estuvieron los datos
Cada búsqueda en Internet, compra electrónica, publicación en una red social, recorrido registrado por un teléfono, operación bancaria o consulta realizada en una plataforma digital deja una huella.
Consideradas individualmente, esas acciones pueden parecer insignificantes. Pero cuando se acumulan durante años y se combinan con millones de conductas semejantes, forman conjuntos de información de una dimensión extraordinaria. A ellos se agregan los datos producidos por empresas, organismos públicos, centros de salud, dispositivos conectados, cámaras y sensores.
Luis Joyanes Aguilar describió este fenómeno como un verdadero “diluvio de datos”: información generada tanto por las personas como por máquinas y objetos interconectados. El rasgo novedoso no es solo la cantidad, sino también la diversidad de fuentes y la velocidad con que la información se produce, circula y debe ser procesada.1
A este fenómeno se lo denomina Big Data. El concepto comprende conjuntos de datos cuyo volumen, complejidad o ritmo de generación exceden las posibilidades de las herramientas tradicionales y requieren tecnologías específicas para almacenarlos, combinarlos y analizarlos.
Sin embargo, una gran acumulación de información todavía no equivale a conocimiento. La importancia aparece cuando es posible encontrar patrones, correlaciones y tendencias que difícilmente serían advertidos mediante una observación humana convencional. Como señala un informe de la Fundación Innovación Bankinter, el fenómeno trasciende la mera cantidad: su aspecto transformador reside en la generación de valor mediante el procesamiento y el análisis de los datos.2
Las características del Big Data
El fenómeno suele explicarse a través de las llamadas “V” del Big Data.
Volumen: ya no se trabaja únicamente con cientos o miles de registros, sino con millones de documentos, imágenes, conversaciones, operaciones y comportamientos.
Velocidad: gran parte de la información se genera y procesa de manera continua o casi inmediata, como ocurre con las transacciones financieras, las ubicaciones, los sensores y las redes sociales.
Variedad: los datos no se encuentran solamente en bases ordenadas en filas y columnas. También aparecen en textos, fotografías, grabaciones, videos, correos electrónicos, expedientes, historias clínicas y publicaciones digitales.
Veracidad: se refiere a la confiabilidad, exactitud y calidad de la información disponible.
Valor: alude a la posibilidad de convertir los datos en información útil para comprender un fenómeno o adoptar una decisión.
Aunque existen clasificaciones que incorporan otras “V”, estas cinco permiten comprender la idea central. Joyanes Aguilar explica que las tres características iniciales —volumen, velocidad y variedad— fueron ampliadas para considerar también la veracidad y el valor de los datos.1
La veracidad merece una atención especial. Una cantidad inmensa de información incorrecta, incompleta, desactualizada o descontextualizada no necesariamente mejora un sistema. Puede, por el contrario, multiplicar sus errores y darles una apariencia de precisión. En inteligencia artificial, disponer de más datos no significa automáticamente disponer de mejores datos.
¿Cómo se relaciona el Big Data con la inteligencia artificial?
En un programa tradicional, el desarrollador define mediante instrucciones qué debe hacer el sistema frente a las situaciones previstas. En muchos sistemas de inteligencia artificial, en cambio, se utilizan técnicas de aprendizaje automático para que un modelo identifique relaciones y regularidades a partir de ejemplos.
Si se pretende que un sistema reconozca fotografías de perros, por ejemplo, resultaría impracticable describir mediante reglas todas las razas, formas, tamaños, posiciones y condiciones de iluminación posibles. Una alternativa consiste en entrenarlo con una gran cantidad de imágenes correctamente clasificadas para que ajuste sus parámetros y detecte los patrones relevantes.
Este procedimiento requiere datos. Y cuanto más compleja sea la tarea, mayor importancia tendrán la cantidad, diversidad, pertinencia y calidad de la información utilizada.
La expansión del Big Data permitió que numerosos sistemas dejaran de aprender exclusivamente a partir de bases pequeñas y especialmente preparadas. Los modelos comenzaron a entrenarse con enormes colecciones de textos, imágenes, sonidos y otros contenidos digitales. La analítica de Big Data, a su vez, hizo posible examinar esos volúmenes para descubrir patrones ocultos, correlaciones y otra información útil para la toma de decisiones.3
No obstante, sería inexacto afirmar que el Big Data creó por sí solo la inteligencia artificial contemporánea. Su desarrollo fue el resultado de una convergencia: la digitalización y disponibilidad de grandes cantidades de información; el aumento de la capacidad informática, especialmente mediante procesadores aptos para cálculos en paralelo; los avances en aprendizaje automático y redes neuronales profundas; la expansión del almacenamiento y el procesamiento distribuidos;
y la aparición de nuevas arquitecturas, entre ellas los transformers.
El Big Data aportó la materia prima; los algoritmos permitieron aprender de ella; y la capacidad computacional hizo posible procesarla a una escala antes inimaginable.
La IA generativa no consulta una biblioteca como una persona
Cuando una inteligencia artificial responde una pregunta, puede dar la impresión de que ingresó en una enorme biblioteca, encontró un párrafo y lo reprodujo. Esa imagen es útil como primera aproximación, pero no describe con precisión el funcionamiento de un modelo generativo.
Durante el entrenamiento, el sistema analiza grandes cantidades de contenido y ajusta millones o miles de millones de parámetros. De ese modo aprende relaciones estadísticas entre palabras, conceptos, imágenes u otros elementos. El resultado no es, en principio, una biblioteca de documentos individuales listos para ser consultados, sino un modelo matemático capaz de generar una continuación probable según la instrucción y el contexto recibidos.
Esto debe distinguirse de los sistemas conectados a un buscador, una base documental o un mecanismo de generación aumentada por recuperación —conocido como RAG—. En esos casos, la aplicación recupera información externa relevante y la incorpora al contexto para que el modelo elabore su respuesta. El documento consultado y el conocimiento adquirido durante el entrenamiento cumplen funciones diferentes.
Esa diferencia explica por qué un modelo puede redactar un texto nuevo, resumir una explicación o relacionar conceptos sin reproducir un documento determinado. También explica por qué puede generar afirmaciones falsas con una apariencia convincente: produce una respuesta estadísticamente plausible, pero no garantiza por sí mismo la verdad de cada dato.
La cantidad de datos amplía las capacidades del sistema, pero no convierte automáticamente sus resultados en hechos comprobados.
Los datos también transmiten errores y prejuicios
Los conjuntos utilizados para entrenar sistemas de inteligencia artificial no son neutrales. Provienen de decisiones, conductas e instituciones humanas. Qué información se recopila, cómo se clasifica, qué ejemplos se excluyen y con qué finalidad se utiliza son elecciones que influyen en el resultado.
Si los antecedentes reflejan desigualdades, discriminaciones o prácticas defectuosas, el sistema puede aprenderlas y reproducirlas. Incluso puede presentarlas como conclusiones objetivas por el solo hecho de expresarlas mediante cálculos.
Imaginemos una herramienta utilizada para seleccionar candidatos a un empleo. Si fue entrenada con contrataciones realizadas durante un período en el que determinado grupo fue injustificadamente excluido, podría interpretar esa desigualdad histórica como una regularidad útil para predecir quién debería ser contratado.
Algo semejante puede ocurrir con sistemas destinados a evaluar riesgos crediticios, detectar fraudes, establecer prioridades sanitarias o asistir en decisiones estatales.
El problema no siempre se resuelve eliminando nombres o documentos de identidad. Variables aparentemente neutras —como el código postal, los consumos o la trayectoria educativa— pueden actuar como indicadores indirectos de la situación económica, el origen o la pertenencia a determinado grupo.
El Reglamento de Inteligencia Artificial de la Unión Europea refleja esta preocupación. Para los sistemas de alto riesgo, su artículo 10 exige prácticas de gobernanza sobre los conjuntos de entrenamiento, validación y prueba. Entre otros aspectos, ordena examinar posibles sesgos y procurar que los datos sean pertinentes, suficientemente representativos y, en la mayor medida posible, correctos y completos para la finalidad prevista.4
El problema jurídico comienza antes del resultado
El debate legal suele concentrarse en la consecuencia visible: qué ocurre cuando una inteligencia artificial rechaza injustamente una solicitud, recomienda una decisión discriminatoria o brinda información incorrecta.
Pero el problema puede comenzar mucho antes. Antes de utilizar esos datos, habría que preguntarse de dónde fueron obtenidos, si las personas sabían que serían utilizados y si fueron recolectados originalmente para esa finalidad. También importa determinar si contienen información personal o sensible, durante cuánto tiempo serán conservados y quiénes podrán acceder a ellos.
A ello se suma otra cuestión fundamental: qué posibilidades tiene la persona afectada de intervenir sobre esa información. ¿Puede corregir datos inexactos? ¿Puede conocer cómo fueron utilizados? ¿Puede cuestionar una decisión adoptada sobre la base de esos datos?
Estas preguntas demuestran que la gobernanza de la inteligencia artificial comienza con la gobernanza de la información. No alcanza con controlar la respuesta final: también deben examinarse el origen de los datos, su licitud, calidad, seguridad, trazabilidad, plazo de conservación y compatibilidad con la finalidad declarada.
En la Argentina, la Ley 25.326 exige que los datos personales sean ciertos, adecuados, pertinentes y no excesivos respecto de la finalidad para la cual fueron obtenidos. También regula, entre otros aspectos, el consentimiento, la seguridad de la información y los derechos de acceso, rectificación, actualización o supresión.5
La utilización de grandes volúmenes de datos no desplaza esos principios. Por el contrario, puede volver más difícil su cumplimiento: la información se combina, se copia, se comparte y se reutiliza a una escala que muchas veces impide al titular conocer cuál fue su recorrido.
Cuando datos aparentemente anónimos vuelven a identificar a una persona
Una práctica habitual consiste en eliminar de una base los identificadores directos, como el nombre, el documento o el domicilio. Sin embargo, esa operación no siempre produce una anonimización irreversible.
La combinación de distintas fuentes puede permitir reconstruir identidades. Una fecha de nacimiento, una ubicación aproximada, una profesión y ciertos desplazamientos podrían ser suficientes para individualizar a una persona al cruzarse con otra base.
Por eso conviene distinguir entre anonimización y seudonimización. En la primera, la identificación debería dejar de ser razonablemente posible; en la segunda, los datos continúan vinculados a una persona mediante información adicional que se conserva separadamente. Sustituir un nombre por un código no vuelve anónima una base si existe una clave que permite restablecer la identidad.
El riesgo no depende solamente de cada dato aislado. También depende de las relaciones que pueden establecerse entre distintos datos y de los recursos disponibles para hacerlo. Esta es una de las paradojas del Big Data: información que separadamente parece inofensiva puede adquirir una considerable capacidad identificatoria cuando se acumula y combina.
Big Data en el ámbito jurídico
El campo jurídico también produce enormes cantidades de información: leyes, decretos, resoluciones, sentencias, dictámenes, escritos, contratos, expedientes y publicaciones doctrinarias.
Su procesamiento mediante inteligencia artificial puede facilitar búsquedas, identificar líneas jurisprudenciales, clasificar documentación, comparar cláusulas, detectar inconsistencias y encontrar relaciones entre decisiones judiciales. El análisis de datos permite examinar grandes colecciones para descubrir patrones que podrían permanecer ocultos en una revisión individual.3
Las posibilidades son importantes, pero también lo son sus límites.
Una base puede contener miles de sentencias y continuar siendo poco representativa si solo incluye determinados tribunales, períodos, instancias o materias. Un sistema podría presentar como criterio mayoritario lo que en realidad es una particularidad de las decisiones disponibles.
Además, una sentencia no puede comprenderse solamente por su resultado. Importan los hechos probados, la pretensión formulada, la prueba producida, el momento procesal, la jurisdicción, la vigencia normativa y las particularidades del caso.
Miles de fallos descontextualizados no forman necesariamente una buena fuente de conocimiento jurídico.
En el derecho, la calidad de los datos exige también calidad en su selección, clasificación e interpretación. Una herramienta puede ayudar a encontrar antecedentes o regularidades, pero la relevancia jurídica de esos hallazgos requiere análisis profesional.
Una nueva forma de poder
Quien controla grandes volúmenes de información no dispone únicamente de un recurso económico. También adquiere la capacidad de identificar patrones, anticipar comportamientos, clasificar personas y decidir qué información, ofertas u oportunidades se presentan a cada usuario.
El poder ya no consiste solamente en saber qué hizo una persona en el pasado. A partir de sus datos, es posible estimar qué podría hacer en el futuro, cuáles son sus intereses, qué le preocupa, qué estaría dispuesta a comprar o cómo podría reaccionar frente a determinado estímulo.
Pero esas inferencias no describen certezas: expresan probabilidades. El problema aparece cuando una estimación estadística deja de ser tratada como tal y se convierte en una etiqueta difícil de cuestionar: persona riesgosa, consumidor vulnerable, trabajador poco confiable o candidato inconveniente.
En ese punto, el sistema deja de limitarse a describir la realidad y comienza también a condicionarla. Una persona puede recibir menos oportunidades porque un algoritmo estimó previamente que tendría menos posibilidades de éxito. La predicción influye entonces sobre las decisiones que se adoptan respecto de ella y puede contribuir a producir el mismo resultado que luego parece confirmar.
Así, el dato deja de ser solamente una forma de conocer el pasado o interpretar el presente. También puede convertirse en una herramienta capaz de influir sobre las oportunidades futuras de las personas.
Conclusión No existe una inteligencia artificial mejor que sus datos
El Big Data fue uno de los grandes pilares de la inteligencia artificial moderna. La disponibilidad de enormes volúmenes de información, combinada con nuevos algoritmos, mayor capacidad de cómputo e infraestructura especializada, permitió entrenar sistemas capaces de reconocer imágenes, comprender instrucciones, generar textos y descubrir patrones a una escala sin precedentes.
Pero los datos no constituyen conocimiento puro ni reproducen la realidad de manera neutral. Son recopilados, seleccionados y clasificados mediante decisiones humanas. Pueden estar incompletos, desactualizados, contener errores, reflejar desigualdades históricas o haber sido obtenidos para finalidades diferentes de aquellas para las cuales luego son utilizados.
Por eso, evaluar un sistema de inteligencia artificial no consiste únicamente en medir la cantidad de datos que procesa o la precisión de sus resultados. También exige preguntarse de dónde proviene la información, a quiénes representa, qué personas o situaciones quedaron excluidas, con qué criterios fue clasificada y para qué finalidad será utilizada.
En el ámbito jurídico, estas preguntas resultan fundamentales. Una herramienta técnicamente avanzada puede producir decisiones injustas si aprende de información defectuosa o poco representativa. La calidad de sus resultados dependerá de los datos y de los modelos utilizados; pero la legitimidad de su aplicación dependerá, además, del respeto por los derechos de las personas, de la transparencia del proceso y de la posibilidad de revisar, explicar y cuestionar sus conclusiones.
El desafío, entonces, no consiste solamente en desarrollar sistemas capaces de procesar cada vez más información, sino en establecer condiciones para que esa capacidad sea utilizada de manera responsable. La gobernanza de la inteligencia artificial comienza mucho antes de que el sistema produzca una respuesta: empieza con la forma en que los datos son obtenidos, organizados, protegidos e interpretados.
El Big Data le dio a la inteligencia artificial una memoria estadística de una dimensión extraordinaria. El desafío jurídico consiste en evitar que esa memoria convierta los errores y las desigualdades del pasado en decisiones automáticas para el futuro.
Notas y referencias
- ↩a ↩b Luis Joyanes Aguilar, Big Data. Análisis de grandes volúmenes de datos en organizaciones, Alfaomega Grupo Editor, primera edición, México, 2013, ISBN 978-607-707-689-6.
- ↩ Esther Paniagua, Big Data. El poder de los datos, Fundación Innovación Bankinter, informe del Future Trends Forum, s. f.
- ↩a ↩b Luis Joyanes Aguilar, Inteligencia de negocios y analítica de datos. Una visión global de Business Intelligence & Analytics, Alfaomega Grupo Editor, Bogotá, 2019, ISBN 978-958-778-541-8.
- ↩ Unión Europea, Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo, por el que se establecen normas armonizadas en materia de inteligencia artificial, art. 10, 13 de junio de 2024. https://eur-lex.europa.eu/legal-content/ES/TXT/?uri=CELEX:32024R1689
- ↩ Ley 25.326 de Protección de los Datos Personales en Argentina, texto oficial. https://www.argentina.gob.ar/normativa/nacional/ley-25326-64790/texto