Ir al contenido principal

Datos, algoritmos y políticas: El ciberpatrullaje de Bullrich


El ciberpatrullaje es un eufemismo que busca camuflar bajo la realización de una tarea de seguridad ciudadana corriente el despliegue de tareas que, de otra manera, estarían sujetas al estricto control judicial por el impacto que tiene en el ejercicio de los derechos humanos en el territorio digital. Apoyada en tecnologías y métodos de Inteligencia Artificial que, en otras regiones, como en la Unión Europea, demandan consensos y regulaciones construidas durante años con la participación de múltiples actores políticos y sociales, la oficina creada por resolución de Bullrich puede invadir la privacidad de millones de personas internautas sin orden judicial.

Por Alfredo Moreno

La flamante Unidad de Inteligencia Artificial del Ministerio de Seguridad, potencia las acciones antidemocráticas de Patricia Bullrich y amplía sus dominios en un campo en disputa con la Secretaría de Inteligencia del Estado (SIDE) por competencias en labores de "inteligencia".

Destinada a "patrullar las redes sociales abiertas, —aplicaciones y sitios de Internet", así como la llamada "Internet profunda"—, "utilizar algoritmos de aprendizaje automático a fin de analizar datos históricos de crímenes y de ese modo predecir futuros delitos", "crear perfiles de sospechosos", "analizar actividades en redes sociales para detectar amenazas potenciales" y "detectar transacciones financieras sospechosas o comportamientos anómalos que podrían indicar actividades ilegales", la nueva dependencia gubernamental contradice principios constitucionales y leyes vigentes.

Ahora podemos entender mejor el porqué del viaje en el mes de junio de 2024 del presidente Milei al Silicon Valley, donde desarrolló una nutrida agenda y acuerdos con "los dueños de los datos en Internet", desde el CEO de Open AI, Sam Altman, empresarios, inversores y dueños de start ups vinculados a la inteligencia artificial hasta dos de los gigantes de Silicon Valley: el jefe de Google, Sundar Pichai, y el director ejecutivo de Apple, Timothy Cook. La frutilla del postre fue el encuentro con el CEO de Meta (Facebook, WhatsApp e Instagram), el multimillonario Mark Zuckerberg.

Lo que sigue a continuación está basado en el detallado análisis que realizó en Centro de Estudios en Libertad de Expresión y Acceso a la Información (CELE).

El Ministerio de Seguridad mediante la  Resolución 428, una vez más, vuelve a instalar la figura del ciberpatrullaje. La Resolución potencia las aspiraciones de la ministra Bullrich dando vía libre a las autoridades de investigación criminal para la persecución de ciertos cibercrímenes a partir de la explotación de las denominadas "fuentes públicas y abiertas" en el territorio Internet. Entre los elementos novedosos se encuentra la posibilidad de emplear de medios automatizados para dicho fin y la aplicación de procesos basados en inteligencia artificial.

La Resolución 428 justifica su formulación en la persecución de cibercrímenes, para lo cual se referencia en la Convención de Budapest a la que adhirió Argentina. Esta convención, versa precisamente sobre esa materia y permite a las autoridades argentinas disponer acuerdos para obligar a proveedores de servicios de Internet a la entrega de los datos que necesiten para su investigación. La Resolución se justifica en la persecución de cibercrimenes. De su redacción, se entiende que dicha resolución convierte a la Argentina en una autopista jurídica y política que comunica directamente a las autoridades argentinas con plataformas como X o Meta, para que estas últimas entreguen los datos de sus usuarios para la investigación de cualquier delito.


La Resolución expresa en forma vaga y abierta "que no se perseguirá a personas que estén haciendo un uso regular, usual o inherente de Internet", esta afirmación solo puede dar paso a la discrecionalidad y el abuso. Esta expresión tiene como efecto inmediato amenazar el ejercicio de la libertad de expresión en especial en las ocasiones en que la manifestación de una opinión sea considerada incómoda, molesta, chocante y, por tanto, "inusual" o "poco inherente" al uso de Internet.

Para determinar la normalidad en el uso de Internet se convertirá a la policía en jueces de lo que investigan, lo que deterioraría aún más la división de poderes en la investigación y persecución criminal de delitos que delega en los jueces y juezas ese tipo de juicios de valor.

Con frecuencia, se advierte que el ciberpatrullaje apunta al monitoreo, investigación y obtención de información disponible en las fuentes públicas y abiertas en Internet. Ahora bien, ¿qué es lo público y abierto y qué queda excluido de ese conjunto de información?

La respuesta depende en buena medida de la fuente de consulta. La literatura especializada en inteligencia en fuentes abiertas en línea (ver por ejemplo Hassan – 2019 – Gathering Evidence from OSINT Sources), señala con algo de consenso, que en esa categoría se encuentra todo lo que está publicado en Internet y que no tenga restricciones de privacidad o de derechos de autor.

Esa definición incluiría de hecho información almacenada en bases de datos con datos robados o filtrados, sitios web ilegales, bases de datos del Estado que son de acceso público, como las de empadronamiento electoral o de registros de instrumentos públicos que son de consulta abierta en ciertos países. En esa categoría se incluyen las redes sociales y las publicaciones que no tengan restricciones de visualización o candados que recibe el nombre de inteligencia en redes sociales, Socmint (por sus siglas en inglés).

La Resolución de ciberpatrullaje da dos pistas clave sobre lo que está dentro de esas dos categorías de lo "público" y lo "abierto". La primera está en la justificación, que menciona a "las redes sociales de cualquier índole, fuentes, bases de datos públicas y abiertas, páginas de Internet, dark-web y espacios de relevancia de acceso público"; y la segunda, en el articulado, que agrega a los "medios de carácter no sensible y sin clasificación de seguridad". No define el almacenamiento de los datos públicos o privados. ¿Dónde están almacenados los datos que fluyen en Internet? ¿Quién garantiza su seguridad?

Bajo esta visión, las redes sociales con o sin restricción de privacidad, como los candados de X (que simulan privacidad), o las configuraciones de audiencia o cuentas en las publicaciones de Instagram o Facebook estarían incluidas en tanto que no son medios que puedan considerarse sensibles o con clasificación de seguridad. 

Las fronteras de lo público y lo abierto en el territorio digital son muy finitas, se diferencian por una simple autorización de acceso a datos privados. La mayor cantidad de datos que generamos en Internet es público es decir un bien público.

Desde este lugar son muy cuestionables las actividades de inteligencia masiva en fuentes abiertas, dado el impacto que esta intromisión significa en términos de privacidad y para la libertad de expresión, particularmente cuando se la emplea por el Estado sin controles, supervisión, ni contrapesos.

Cuando publicamos información sobre nuestros gustos, hábitos o tendencias sociales o políticas lo hacemos pensando en conectar con otros o hacer parte del debate público, y no en ofrecer información que pueda ser explotada por el Estado para ser eventualmente empleada en nuestra contra. Al tiempo, la sensación de que nuestra actividad en línea pueda ser usada para generar inteligencia estatal accionable, trae como efectos asociados la autocensura ante el miedo de que un tuit se pueda traducir en el futuro en una orden de captura.

Los representes del pueblo en el Congreso de la Nación Argentina, no deberían preguntarse ¿qué limites conviene imaginar para la inteligencia estatal en fuentes públicas y abiertas para que su despliegue sea compatible con los derechos humanos?,  ¿cómo imaginar límites que al tiempo no entorpezcan su uso por otros actores que persiguen finalidades que sirven a la búsqueda de la verdad judicial, la generación de información de interés público, el acceso a la información y la libertad de expresión?

Apoyada en tecnologías y métodos de Inteligencia Artificial que, en otras regiones, como en la Unión Europea, demandan consensos y regulaciones construidas durante años con la participación de múltiples actores políticos y sociales, la oficina creada por resolución de Bullrich puede invadir la privacidad de millones de personas internautas sin orden judicial.

Datos y Algoritmos: ciencia de datos

La predicción de futuros delitos en base a datos que seleccionará el Ministerio de Seguridad para entrenar herramientas de inteligencia artificial anula el principio de inocencia. Sumado a que el software que se implementa en relación con la inteligencia artificial suelen ser una caja negra que pone en tensión la fiabilidad pública de estos procesos, dejando a la población internauta a expensas de las grandes corporaciones y sus posibles acuerdos para la entrega o apertura de los datos que almacenan.

La sociología algorítmica tiene la probabilidad cierta de concluir en resultados sesgados que sostiene acciones de riego democrático. Un caso puede ser, la de una persona que vive en un barrio donde las estadísticas de Bullrich presuponen que hay más delito, esta persona, tendrá más probabilidades de ser fichada como blanco de un turbio monitoreo oficial que un residente de otros barrios.

Predecir comportamientos futuros, sentenciándolos como delictivos con base en métodos algorítmicos, es una atribución desproporcionada que el gobierno argentino se adjudicasin advertir la contradicción con la protección de los derechos humanos que compromete al Estado en el respeto Constitucional.

La Resolución Bullrich aspira a patrullar todo el territorio digital habitado por internautas argentinos. Patrullar las aplicaciones que, en los términos publicados en el Boletín Oficial, es un objetivo que supone controlar un sinfín de posibilidades en cada uno de los teléfonos móviles, computadoras, televisor inteligente (smart TV) y consolas de los más de cuarenta millones de argentinos. Las aplicaciones abarcan desde envíos de comida, tiendas de comercio electrónico, servicios de salud, de meteorología, transporte y tránsito, videos a demanda, juegos en línea, finanzas, mensajería, calendarios, aprendizaje de idiomas, citas, dieta, Mi Anses, Mi Argentina, etcétera. 

Aunque es dudoso que el Estado argentino, fagocitado por Milei y su entorno, posea las calificaciones y recursos necesarios para el inédito ciberpatrullaje de todo Internet que estableció Bullrich, es claro, sin embargo, que las funciones de la Unidad creada por la ministra contrarían los valores democráticos. Los acuerdos firmados en el viaje al Silicon Valley con los «dueños de los datos en Internet» no solamente son una pérdida de soberanía política sino además jurídica, ya que la intromisión de las corporaciones en los datos de bien público de los «usuarios» de sus aplicaciones son la materia prima para los procesos de inteligencia artificial aún desconocidos públicamente.

Milei propuso que Argentina sea polo de inteligencia artificial. Se piensa que Argentina es líder regional hoy en economía del conocimiento, con más de una decena de unicornios tecnológicos. A los veteranos Globant, Mercado Libre, Despegar y Olx se les sumaron hace poco otros como Auth0, Aleph, Vercel, Mural, Bitfarms, Ualá, Tiendanube y Satellogic.

Con la ley de bases y el RIGI el gobierno argentino garantiza el extractivismo de las infraestructuras nacionales y sus recursos naturales. Y con los acuerdos firmados en Silicon Valley completa el modelo de expoliación de los recursos ciudadanos en Internet: nuestros datos.


Alfredo Moreno





Comentarios

Lo más visto de la semana pasada

Los 100 Mejores Álbumes del Rock Argentino según Rolling Stone

Quizás hay que aclararlo de entrada: la siguiente lista no está armada por nosotros, y la idea de presentarla aquí no es porque se propone como una demostración objetiva de cuales obras tenemos o no que tener en cuenta, ya que en ella faltan (y desde mi perspectiva, también sobran) muchas obras indispensables del rock argento, aunque quizás no tan masificadas. Pero sí tenemos algunos discos indispensables del rock argentino que nadie interesado en la materia debería dejar de tener en cuenta. Y ojo que en el blog cabezón no tratamos de crear un ranking de los "mejores" ni los más "exitosos" ya que nos importa un carajo el éxito y lo "mejor" es solamente subjetivo, pero sobretodo nos espanta el concepto de tratar de imponer una opinión, un solo punto de vista y un sola manera de ver las cosas. Todo comenzó allá por mediados de los años 60, cuando Litto Nebbia y Tanguito escribieron la primera canción, Moris grabó el primer disco, Almendra fue el primer ...

Ficción - Sobre La Cresta De La Ola (2006)

Y seguimos con Ficción y su rock sinfónico venezolano que ya hemos presentado oportunamente, aquí vamos con su segundo disco. Quizás menos inspirado que el primero, el disco entrega 8 temas nuevos, y 5 son instrumentales, y se nota la química y la gran interacción entre los músicos, entregando potencia y dinámica, porque si hay un baluarte histórico y oculto dentro del rock progresivo y sinfónico latinoamericano que decidió desafiar el paso del tiempo con una entrega de madurez y virtuosismo instrumental, ese es este emblemático grupo. "Sobre La Cresta De La Ola", los encuentra consolidando una propuesta que cruza el pulso clásico de las grandes catedrales sinfónicas de los setenta con la pegada enérgica del jazz-rock instrumental y la vanguardia. Hablamos de un disco donde la instrumentación toma el rol protagónico absoluto con una predominancia de temas donde el diálogo musical habla por sí solo, demostrando que la química de la banda seguía tan afilada como en sus mejor...

Akenathon - Peregrino (2010)

"Akenathon en vivo tiene ese aire místico mezcla con taller mecánico, la complejidad y la simpleza..." se ha dicho de esta buena banda platense, un álbum relativamente sencillo pero efectivo y sumamente ecléctico, donde conviven lo sinfónico, el rock, el tango, el blues, y mil cosas más, dando como resultado un álbum único, personal y muy bueno, ya que el grupo plasmó en este trabajo un sonido principalmente encuadrado en el rock progresivo y sinfónico, mechado con influencias del jazz, blues, matices de hard rock, sutiles pasajes folklóricos y baladas. Se los recomiendo mucho si aún no los conocen. Artista: Akenathon Álbum: Peregrino Año: 2010 Género: Eclectic Prog Nacionalidad: Argentina Vamos a recordar el primer álbum de Akenathón , una de las bandas que más empuje le viene dando a esta gran muestra de dinamismo y actividad que tiene hoy en día la ciudad de La Plata en cuanto la cultura prog. Y para quienes no los conozcan, Akenathon "La mística del ...

Fulano - Lo Mejor (1996)

Y seguimos con nuestra saga de algo de lo mejor que ha dado Chile a la música universal, y recordamos al grupo de "fusión subversivo", uno de los mejores grupos que nos ha dado Chile, revolucionarios, talentosos, experimentales, lindando entre el rock progresivo, el jazz rock y el RIO, con Frank Zappa y Hermeto Pascoal como referencias principales, se dedicaron a la revolución cultural y con una postura ácida y contestataria en plena dictadura militar. Su arte fue reconocido mundialmente y han influido en gente como Mike Patton, por ejemplo. Fulano inventó uno de los sonidos más novedosos escuchados en la tradición de música chilena, con teclados, percusiones e instrumentos de viento como eje de su lenguaje, el sexteto se puso por encima de categorías, y encabezando la vanguardia. Sus discos nunca fueron masivos ni tuvieron éxitos comerciales, pero abrieron caminos insospechados en los sonidos hechos en Chile. Aquí con un recopilatorio de algunos de sus mejores temas hasta el...

Bubblemath - Turf Ascension (2022)

Ora vez estos hermosos desgraciados...¿y quizás los Bubblemath sea la mejor banda actual de EEUU? yo creo que sí, o pega en el palo. Y seguimos con nuestra selección de los mejores discos desconocidos o casi. Aquí viene el último disco de esta tremenda banda que la verdad me alucina, con su música increíble. Una banda que actualmente es muy respetada, y la verdad no puedo pensar en ninguna otra agrupación que suene como ellos, creando una música que se eleva por encima de la norma. Cuatro canciones que en total duran casi 50 minutos sin desperdicio alguno, donde nunca se sabe adónde irán los sonidos en los próximos segundos, así que solo resta dejarse sorprender y disfrutar del viaje que nos regalan estos degenerados de la buena música. Hay mucho Gentle Giant, mucho King Crimson, algo de Zappa, más melódico que el disco anterior y menos enrevesado, pero sin perder nada del complejo encanto que al menos yo encuentro en esta música. En definitiva, otro de los grandes trabajos del 2022,...

Ebb - Mad & Killing Time (2022)

Ayer trajimos su último disco así que recordamos su primer trabajo en nuestra sección de música desconocida pero muy recomendada. ¿King Crimson asociado con Pink Floyd y con elementos de soul y otros estilos, haciendo rock alternativo?. Continuamos con esta banda escocesa integrada casi exclusivamente por mujeres (cosa que en la música en general no se da habitualmente, dentro del rock menos y si hablamos del ámbito progresivo, muchísimo menos aún). En el 2022 lanzaron su único disco larga duración y lo presentamos en el blog cabeza especialmente porque me gusta mucho su música y su propuesta, un progresivo ecléctico con bastante de rock alternativo pero muy emocional (y seguramente el toque mágico de las chicas se hace sentir). Con una excelente voz femenina al frente, apoyada por excelentes instrumentistas, interpretando grandes temas, y cuando escuchas tanta música nueva como yo, se necesita algo realmente especial para destacar, y "Mad & Killing Time" es precisament...

MediaBanda - Dinero y Terminación Nerviosa (2007)

Seguimos con nuestra saga de los mejores discos chilenos y ya que hablamos de Fulano y de vanguardia chilena, ¿cómo dejar afuera a Mediabanda?. Aquí con su genial "Dinero y terminación nerviosa", un ícono de la buena música latinoamericana. Segundo trabajo discográfico de MediaBanda, disco doble con casi 90 minutos de música, un huracán sonoro en la escena chilena capaz de recoger el testigo iconoclasta de Fulano y llevar el avant-garde, el rock de cámara, el jazz fusión y la música contemporánea a un punto de no retorno. Hablamos de un álbum que funciona como un electrochoque a la masa encefálica: una sátira feroz al consumismo y al colapso de la neurosis urbana, condensada en un despliegue de energía técnica donde la elegancia de los vientos choca de frente con la furia del rock más descarnado, con una sección de vientos demoledora, polirritmias complejas y precisión de ensamble desplegando una paranoia urbana, una ironía ácida y catarsis esquizoide, un monumento a la orque...

Ciccada - A Child In The Mirror (2010)

Banda griega, una gran grata sorpresa en ese año. ¿Qué tenemos acá? 3 Teclistas (entre ellos hay Mellotron), una variedad de instrumentación barbara. Mucho estilo musical mezclado, influencias de música griega en pequeñas dosis, también algo mediterráneo, algo de folk prog, algo de sinfonismo, bastante de esa cosa indefinida que es el prog ecléctico y muy buenos adornos con estilo de música clásica. Es un disco con un muy buen balance de originalidad propia de la banda y de influencias que pasan por Anglagard, Renaissance, Jethro Tull, Gentle Giant y algo de Gryphon, entre otras cosas. Un disco bellísimo publicado en los primeros tiempos de este blog, con estos griegos demostrando cómo se puede imprimir sentimientos en sonidos, en un disco que perfectamente podría ser todo un clásico del género si hubiese sido creado en los 70s. No se pierdan esta maravilla del rock progresivo que está destinado a perdurar por su calidad musical y su buen gusto. ¡Ultra recomendado!!!   Artista: C...

Ciccada - The Finest Of Miracles (2015)

Revivimos otro discazo de estos geniales griegos (que ya hemos presentado y sorprendieron a más de un cabezón) en su última producción. Según nuestro eterno comentarista involuntario de siempre; esto es "El genial milagro de Ciccada para el rock progresivo de hoy en día". Un disco elegante, repleto de buen gusto, delicado, introspectivo, lleno de paisajes entre fastuosos y serenos y con un trabajo compositivo sublime. Les dejo el que es para mí y para muchos otros, uno de los mejores trabajos que salieron en aquel ya lejano 2015, folk rock progresivo con excursiones al jazz, a la más pura música popular folcklórica griega y hacia lo sinfónico del rock progresivo y rock de cámara. Un disco absolutamente exquisito, un material que inspira y desafía a la mente, así como al corazón y al alma. Artista: Ciccada Álbum: The Finest Of Miracles Año: 2015 Género: Folk progresivo / Rock Progresivo Ecléctico Duración: 46:43 Nacionalidad: Grecia Luego del gustazo que nos dier...

Fulano - Animal en Extinción (2015)

Y seguimos con esta gran banda chilena, ahora con su último disco de estudio publicado, que cierra su último ciclo y su historia, que es la historia de la música en rebelión (rebelión hacia el sistema, hacia las convenciones, hacia las modas). Fulano es, en cierto sentido, más que una simple banda o agrupación de personas. Parece ser más una forma de comportamiento, un ethos que importa ir por un camino paralelo al usual. Su discurso antimilitar y antifascista fue un sello propio en la resistencia a la dictadura (por algo siempre hacemos referencias a ellos, y les tenemos tanta simpatía). Luego, tras el regreso a la democracia y sobre todo la muerte de su pianista Jaime Vivanco, la banda se disolvió para regresar a la escena en 2009, tras seis años, pero las desaveniencias escalonadas entre sus integrantes referenciales terminaron por llevar a su fin la historia de Fulano en 2015, dejando como legado este disco póstumo. Aunque será una historia terminada que jamás termina realmente, al...

Ideario del arte y política cabezona

Ideario del arte y política cabezona


"La desobediencia civil es el derecho imprescriptible de todo ciudadano. No puede renunciar a ella sin dejar de ser un hombre".

Gandhi, Tous les hommes sont frères, Gallimard, 1969, p. 235.