El Gobierno nacional presentó hace algunos días el proyecto de Gemelo Digital Social, una herramienta de inteligencia artificialimpulsada por el Ministerio de Capital Humano que promete cruzar datos, simular escenarios y anticipar el impacto de políticas públicas.

El anuncio, difundido como un salto tecnológico para la gestión estatal, abrió una discusión sensible: qué información usará el sistema, quién lo desarrollará, qué controles tendrá y hasta dónde puede avanzar el Estado cuando combina IA, bases de datos públicas y decisiones sociales.

La iniciativa fue presentada como un modelo capaz de transformar datos en predicción. Según la descripción oficial, el objetivo es que el Estado deje de actuar solamente después de que los problemas aparecen y pueda trabajar con anticipación, simulación y prevención. Pero en la práctica tiene que ver con usar información social, educativa, laboral y territorial para proyectar escenarios posibles y evaluar medidas antes de aplicarlas.

Más allá de lo que significa todo eso, lo que despertó más críticas es que el anuncio llegó con más promesas que precisiones. No se informó qué bases de datos concretas se integrarían, qué organismos participarían, si habría participación de empresas privadas, cuál sería el proveedor tecnológico, qué presupuesto tendría el proyecto ni qué mecanismos de auditoría permitirían revisar sus resultados. Esa falta de información convirtió una idea de modernización estatal en una polémica sobre privacidad, vigilancia, sesgos algorítmicos y concentración de datos sensibles.

Qué es un gemelo digital y por qué importa

“Un gemelo digital es un programa o sistema informático que genera una réplica virtual de activos físicos, sistemas o procesos, y se alimenta de datos del mundo real para producir predicciones o simulaciones, probar escenarios y anticipar resultados”, explicó al medio Florencia Zappalá, abogada especialista en Privacidad y Protección de Datos Personales.

“El concepto no es nuevo ni argentino: nació en los años 60, cuando la NASA lo usó para simular naves espaciales en tiempo real y fue clave durante la crisis del Apollo 13 en 1970, cuando ingenieros en tierra trabajaron sobre un modelo virtual de la nave para encontrar soluciones a 200.000 millas de distancia”, agregó la abogada. El término fue formalizado en 2002 por el ingeniero Michael Grieves en la Universidad de Michigan, en el contexto de gestión industrial. En la actualidad se usa en industrias como energía, transporte, salud, manufactura, urbanismo y aeroespacial. Por ejemplo, una fábrica puede crear el gemelo digital de una línea de producción para anticipar fallas, o el gobierno de una ciudad puede usar modelos virtuales para analizar movilidad, consumo energético o infraestructura.

Con su propuesta, el Gobierno argentino busca llevar esa lógica al terreno social. En lugar de simular una turbina, un puente o una red de tránsito, la herramienta buscaría modelar fenómenos vinculados a personas, hogares, educación, empleo, asistencia social y territorio. Ahí aparece la diferencia central: cuando el sistema modelado involucra población real, los datos dejan de ser una variable técnica y pasan a ser un asunto de derechos.

Un gemelo digital social podría servir para detectar zonas con mayor riesgo de abandono escolar, anticipar demandas de asistencia, identificar brechas laborales o evaluar el posible impacto de una política pública antes de ejecutarla. Pero también podría derivar en perfiles automatizados, segmentación de ciudadanos, decisiones opacas y errores que afecten el acceso a beneficios o servicios estatales.

La tecnología, por sí sola, no resuelve ese dilema. Todo depende de qué datos se usan, con qué finalidad, durante cuánto tiempo, bajo qué base legal, con qué controles externos y con qué posibilidad de revisión humana.

“Los datos personales son una de las cosas más valiosas que tenemos porque con ellos se ponen en juego y se pueden ejercer muchos otros derechos”, afirmó al medio David Regairaz, abogado y divulgador en IA, protección de datos y ciberseguridad. “De ellos depende, en un entorno algorítmico, que te traten de forma justa, sin discriminación ni sesgos, tu acceso a la salud, el otorgamiento de tu jubilación o tu plan social, acceder a un juicio justo. Todo pasa, de algún modo, por cómo se gestionan tus datos”, aseguró el especialista. “Por eso, cuando un sistema como el Gemelo Digital Social junta en un solo lugar la información que el Estado tiene sobre tu vida, los toca y los puede afectar todos juntos”.

Qué propone el Ministerio de Capital Humano

El Ministerio de Capital Humano presentó el Gemelo Digital Social como una herramienta de inteligencia artificial para diseñar políticas públicas con mayor capacidad predictiva. La comunicación oficial habla de integrar información de distintas áreas del Gobierno nacional y de construir una arquitectura tecnológica con herramientas de simulación e IA.

El proyecto, según la información disponible, tendría etapas de diagnóstico interno, mapeo de datos existentes, mesas de trabajo con actores públicos, privados y académicos, definición tecnológica y discusión sobre privacidad, ética algorítmica y marcos legales.

Esa descripción deja ver una intención ambiciosa: ordenar información dispersa dentro del Estado, conectarla, analizarla y usarla para tomar decisiones con mayor evidencia. El problema es que todavía no hay detalles suficientes para saber si se trata de un sistema estadístico agregado, una plataforma de análisis poblacional o una infraestructura capaz de construir perfiles individuales o grupales.

“El Gobierno avisó que el sistema cruzaría datos de distintos organismos del Estado, pero no aclaró cuáles ni qué información. Ese es el primer problema porque por ahora nadie explicó todavía qué información van a tomar de las personas”, cuestionó Regairaz.

En concreto, la información pública disponible todavía no permite determinar con precisión el alcance del procesamiento de datos ni la forma en que esa información será utilizada para generar predicciones.

Y esa es una de las cuestiones más importantes. Un modelo que trabaja con información anonimizada y agregada puede ayudar a orientar políticas públicas sin identificar personas. Pero un sistema que cruza datos personales de distintas bases estatales puede generar riesgos mucho más altos, incluso si su objetivo declarado es mejorar la gestión.

La polémica por los datos privados

La principal preocupación gira en torno a los datos. Fundación Vía Libre presentó un pedido de acceso a la información pública para conocer qué datos personales serían recolectados, procesados o utilizados, qué bases se integrarían, qué organismos las aportarían y si existiría tratamiento de datos sensibles.

La organización también pidió precisiones sobre la base legal del procesamiento, la existencia de convenios entre organismos, la eventual participación de bases privadas, las medidas de seguridad, las auditorías y las salvaguardas contra sesgos o discriminación.

El reclamo apunta a un tema clave: en Argentina existe una Ley de Protección de Datos Personales, y el Estado no puede tratar información ciudadana como si fuera un recurso ilimitado. Los datos fueron recolectados para finalidades específicas. Usarlos luego para entrenar modelos, alimentar sistemas predictivos o tomar decisiones automatizadas requiere una justificación legal clara.

“La Ley argentina Nro. 25.326 de Protección de Datos Personales establece el principio de finalidad. Eso implica que los datos que el Estado recaba para una función determinada solo pueden usarse para ese fin”, aclaró Zappalá. Regairaz agregó al respecto que si una persona va a un hospital, la información que brinda es para su atención en ese caso, no para alimentar un modelo de IA que pueda predecir conductas: “Eso no admite zonas grises”.

Justamente, hace unas semanas, un fallo de la Corte Suprema argentina fijó un límite al uso de datos personales y reforzó el derecho de los ciudadanos a controlar la información que entregan en trámites públicos. En su dictamen, el máximo tribunal resolvió que los organismos estatales no pueden utilizar datos como el teléfono o el email para fines distintos a los autorizados sin una justificación concreta, proporcional y compatible con la privacidad.

“El fallo fue explícito: no existe interés legítimo del Estado que justifique ese esquema sin diferenciar el tipo de organismo, la naturaleza de la información ni el potencial de afectación a la privacidad. El argumento de “funciones propias del Estado” no sobrevive al precedente que la propia Corte fijó tres semanas antes del anuncio del Gemelo Digital”, aseguró Zappalá.

La polémica también llegó al Congreso. Diputados presentaron pedidos de informes para que el Poder Ejecutivo detalle las características del proyecto, el tipo de decisiones que podrían adoptarse a partir de las simulaciones, las áreas alcanzadas, la intervención de la Agencia de Acceso a la Información Pública y las garantías para evitar vigilancia política, persecución ideológica, discriminación o perfilamiento.

Palantir, Peter Thiel y la aclaración oficial

Otra parte del debate apareció por las especulaciones sobre una posible relación con Palantir, la empresa estadounidense de análisis de datos fundada por Peter Thiel. La sospecha creció por la visita de Thiel a la Argentina y por el parecido conceptual entre algunos productos de análisis predictivo del magnate norteamericano y la comunicación oficial del Gemelo Digital Social.

El Ministerio de Capital Humano negó que el proyecto pertenezca a una empresa o individuo en particular. También aclaró que está en una etapa preliminar, que será conducido por el propio Ministerio y que no recurrirá a contrataciones integrales de empresas externas.

La aclaración redujo una parte de la incertidumbre, aunque no cerró el debate principal. “La pregunta sobre el proveedor es relevante con independencia de quién resulte elegido. Si una empresa estadounidense accediese a los datos de los argentinos, entra en juego el CLOUD Act (Clarifying Lawful Overseas Use of Data Act, 2018): una norma que obliga a empresas bajo jurisdicción de EEUU a entregar datos a las autoridades estadounidenses mediante orden judicial válida en ese país, sin que intervenga un tribunal argentino y sin aviso previo al ciudadano afectado. Lo que el Estado sabe sobre los argentinos podría quedar al alcance de una jurisdicción que no eligieron sus ciudadanos y ante la cual no tienen ningún derecho”, explicó Zappalá.

Y además, otra cuestión de fondo es qué modelo de gobernanza tendrá el sistema, quién podrá auditarlo, qué datos procesará y qué límites tendrá su uso.

“Quedan cuatro preguntas críticas para responder: qué metodología de anonimización va a usarse, qué tecnologías subyacentes va a tener el sistema, qué evaluación de impacto previa va a hacerse, y qué auditoría externa independiente va a tener una vez operativo”, detalló al medio Betania Allo, abogada y divulgadora especialista en IA y ciberseguridad.

Los riesgos de una IA social sin reglas claras

Un sistema predictivo aplicado a políticas sociales puede generar beneficios si se usa con controles robustos. Podría detectar necesidades antes de que escalen, mejorar la asignación de recursos y evaluar políticas con más evidencia. Para un Estado con información fragmentada, esa promesa resulta atractiva.

El riesgo aparece cuando la eficiencia se convierte en argumento para concentrar bases de datos sin transparencia. En políticas sociales, un error algorítmico puede dejar a una persona fuera de un beneficio, clasificar mal a una familia, reforzar prejuicios existentes o invisibilizar casos que no encajan en los patrones del sistema.

“Si ese modelo recomienda otorgar, recortar o negar una prestación, esa decisión que puede cambiar la vida de una persona, queda en manos de un algoritmo”, aseguró Regairaz.

“Además, los algoritmos discriminan. Los modelos de IA aprenden de datos históricos que ya arrastran desigualdades estructurales. Si el sistema predice que alguien “no califica” para una prestación social, esa predicción no es neutral, es el reflejo matemático de los sesgos que ya existían en los datos”, afirmó Zappalá.

“Y ante ese caso se debería poder exigir una explicación y la revisión de esa decisión por una persona humana. Ese derecho sobre decisiones automatizadas, hoy en Argentina, es inexistente”, aseguró Regairaz.

El especialista se refirió a la explicabilidad. Si una decisión se apoya en una simulación compleja, los ciudadanos deberían poder saber qué datos se usaron, qué criterio se aplicó y cómo reclamar ante un resultado injusto. Sin trazabilidad, la IA puede convertirse en una caja negra dentro del Estado.

La discusión recién empieza. El Gemelo Digital Social puede ser una herramienta de modernización pública o una infraestructura riesgosa para la privacidad. Eso dependerá de las respuestas concretas que el Gobierno todavía debe dar: datos utilizados o a utilizar, base legal, respeto a los derechos y privacidad de los ciudadanos, proveedor, auditorías, seguridad, supervisión humana y límites políticos del sistema.