Ir al contenido principal

Datos, algoritmos y políticas: El ciberpatrullaje de Bullrich


El ciberpatrullaje es un eufemismo que busca camuflar bajo la realización de una tarea de seguridad ciudadana corriente el despliegue de tareas que, de otra manera, estarían sujetas al estricto control judicial por el impacto que tiene en el ejercicio de los derechos humanos en el territorio digital. Apoyada en tecnologías y métodos de Inteligencia Artificial que, en otras regiones, como en la Unión Europea, demandan consensos y regulaciones construidas durante años con la participación de múltiples actores políticos y sociales, la oficina creada por resolución de Bullrich puede invadir la privacidad de millones de personas internautas sin orden judicial.

Por Alfredo Moreno

La flamante Unidad de Inteligencia Artificial del Ministerio de Seguridad, potencia las acciones antidemocráticas de Patricia Bullrich y amplía sus dominios en un campo en disputa con la Secretaría de Inteligencia del Estado (SIDE) por competencias en labores de "inteligencia".

Destinada a "patrullar las redes sociales abiertas, —aplicaciones y sitios de Internet", así como la llamada "Internet profunda"—, "utilizar algoritmos de aprendizaje automático a fin de analizar datos históricos de crímenes y de ese modo predecir futuros delitos", "crear perfiles de sospechosos", "analizar actividades en redes sociales para detectar amenazas potenciales" y "detectar transacciones financieras sospechosas o comportamientos anómalos que podrían indicar actividades ilegales", la nueva dependencia gubernamental contradice principios constitucionales y leyes vigentes.

Ahora podemos entender mejor el porqué del viaje en el mes de junio de 2024 del presidente Milei al Silicon Valley, donde desarrolló una nutrida agenda y acuerdos con "los dueños de los datos en Internet", desde el CEO de Open AI, Sam Altman, empresarios, inversores y dueños de start ups vinculados a la inteligencia artificial hasta dos de los gigantes de Silicon Valley: el jefe de Google, Sundar Pichai, y el director ejecutivo de Apple, Timothy Cook. La frutilla del postre fue el encuentro con el CEO de Meta (Facebook, WhatsApp e Instagram), el multimillonario Mark Zuckerberg.

Lo que sigue a continuación está basado en el detallado análisis que realizó en Centro de Estudios en Libertad de Expresión y Acceso a la Información (CELE).

El Ministerio de Seguridad mediante la  Resolución 428, una vez más, vuelve a instalar la figura del ciberpatrullaje. La Resolución potencia las aspiraciones de la ministra Bullrich dando vía libre a las autoridades de investigación criminal para la persecución de ciertos cibercrímenes a partir de la explotación de las denominadas "fuentes públicas y abiertas" en el territorio Internet. Entre los elementos novedosos se encuentra la posibilidad de emplear de medios automatizados para dicho fin y la aplicación de procesos basados en inteligencia artificial.

La Resolución 428 justifica su formulación en la persecución de cibercrímenes, para lo cual se referencia en la Convención de Budapest a la que adhirió Argentina. Esta convención, versa precisamente sobre esa materia y permite a las autoridades argentinas disponer acuerdos para obligar a proveedores de servicios de Internet a la entrega de los datos que necesiten para su investigación. La Resolución se justifica en la persecución de cibercrimenes. De su redacción, se entiende que dicha resolución convierte a la Argentina en una autopista jurídica y política que comunica directamente a las autoridades argentinas con plataformas como X o Meta, para que estas últimas entreguen los datos de sus usuarios para la investigación de cualquier delito.


La Resolución expresa en forma vaga y abierta "que no se perseguirá a personas que estén haciendo un uso regular, usual o inherente de Internet", esta afirmación solo puede dar paso a la discrecionalidad y el abuso. Esta expresión tiene como efecto inmediato amenazar el ejercicio de la libertad de expresión en especial en las ocasiones en que la manifestación de una opinión sea considerada incómoda, molesta, chocante y, por tanto, "inusual" o "poco inherente" al uso de Internet.

Para determinar la normalidad en el uso de Internet se convertirá a la policía en jueces de lo que investigan, lo que deterioraría aún más la división de poderes en la investigación y persecución criminal de delitos que delega en los jueces y juezas ese tipo de juicios de valor.

Con frecuencia, se advierte que el ciberpatrullaje apunta al monitoreo, investigación y obtención de información disponible en las fuentes públicas abiertas en Internet. Ahora bien, ¿qué es lo público y abierto y qué queda excluido de ese conjunto de información?

La respuesta depende en buena medida de la fuente de consulta. La literatura especializada en inteligencia en fuentes abiertas en línea (ver por ejemplo Hassan – 2019 – Gathering Evidence from OSINT Sources)señala con algo de consenso, que en esa categoría se encuentra todo lo que está publicado en Internet y que no tenga restricciones de privacidad o de derechos de autor.

Esa definición incluiría de hecho información almacenada en bases de datos con datos robados o filtrados, sitios web ilegales, bases de datos del Estado que son de acceso público, como las de empadronamiento electoral o de registros de instrumentos públicos que son de consulta abierta en ciertos países. En esa categoría se incluyen las redes sociales y las publicaciones que no tengan restricciones de visualización o candados que recibe el nombre de inteligencia en redes sociales, Socmint (por sus siglas en inglés).

La Resolución de ciberpatrullaje da dos pistas clave sobre lo que está dentro de esas dos categorías de lo "público" y lo "abierto". La primera está en la justificación, que menciona a "las redes sociales de cualquier índole, fuentes, bases de datos públicas y abiertas, páginas de Internet, dark-web y espacios de relevancia de acceso público"; y la segunda, en el articulado, que agrega a los "medios de carácter no sensible y sin clasificación de seguridad". No define el almacenamiento de los datos públicos o privados. ¿Dónde están almacenados los datos que fluyen en Internet? ¿Quién garantiza su seguridad?

Bajo esta visión, las redes sociales con o sin restricción de privacidad, como los candados de X (que simulan privacidad), o las configuraciones de audiencia o cuentas en las publicaciones de Instagram o Facebook estarían incluidas en tanto que no son medios que puedan considerarse sensibles o con clasificación de seguridad. 

Las fronteras de lo público y lo abierto en el territorio digital son muy finitas, se diferencian por una simple autorización de acceso a datos privados. La mayor cantidad de datos que generamos en Internet es público es decir un bien público.

Desde este lugar son muy cuestionables las actividades de inteligencia masiva en fuentes abiertas, dado el impacto que esta intromisión significa en términos de privacidad y para la libertad de expresión, particularmente cuando se la emplea por el Estado sin controles, supervisión, ni contrapesos.

Cuando publicamos información sobre nuestros gustos, hábitos o tendencias sociales o políticas lo hacemos pensando en conectar con otros o hacer parte del debate público, y no en ofrecer información que pueda ser explotada por el Estado para ser eventualmente empleada en nuestra contra. Al tiempo, la sensación de que nuestra actividad en línea pueda ser usada para generar inteligencia estatal accionable, trae como efectos asociados la autocensura ante el miedo de que un tuit se pueda traducir en el futuro en una orden de captura.

Los representes del pueblo en el Congreso de la Nación Argentina, no deberían preguntarse ¿qué limites conviene imaginar para la inteligencia estatal en fuentes públicas y abiertas para que su despliegue sea compatible con los derechos humanos?,  ¿cómo imaginar límites que al tiempo no entorpezcan su uso por otros actores que persiguen finalidades que sirven a la búsqueda de la verdad judicial, la generación de información de interés público, el acceso a la información y la libertad de expresión?

Apoyada en tecnologías y métodos de Inteligencia Artificial que, en otras regiones, como en la Unión Europea, demandan consensos y regulaciones construidas durante años con la participación de múltiples actores políticos y sociales, la oficina creada por resolución de Bullrich puede invadir la privacidad de millones de personas internautas sin orden judicial.

Datos y Algoritmos: ciencia de datos

La predicción de futuros delitos en base a datos que seleccionará el Ministerio de Seguridad para entrenar herramientas de inteligencia artificial anula el principio de inocencia. Sumado a que el software que se implementa en relación con la inteligencia artificial suelen ser una caja negra que pone en tensión la fiabilidad pública de estos procesos, dejando a la población internauta a expensas de las grandes corporaciones y sus posibles acuerdos para la entrega o apertura de los datos que almacenan.

La sociología algorítmica tiene la probabilidad cierta de concluir en resultados sesgados que sostiene acciones de riego democrático. Un caso puede ser, la de una persona que vive en un barrio donde las estadísticas de Bullrich presuponen que hay más delito, esta persona, tendrá más probabilidades de ser fichada como blanco de un turbio monitoreo oficial que un residente de otros barrios.

Predecir comportamientos futuros, sentenciándolos como delictivos con base en métodos algorítmicos, es una atribución desproporcionada que el gobierno argentino se adjudicasin advertir la contradicción con la protección de los derechos humanos que compromete al Estado en el respeto Constitucional.

La Resolución Bullrich aspira a patrullar todo el territorio digital habitado por internautas argentinos. Patrullar las aplicaciones que, en los términos publicados en el Boletín Oficial, es un objetivo que supone controlar un sinfín de posibilidades en cada uno de los teléfonos móviles, computadoras, televisor inteligente (smart TV) y consolas de los más de cuarenta millones de argentinos. Las aplicaciones abarcan desde envíos de comida, tiendas de comercio electrónico, servicios de salud, de meteorología, transporte y tránsito, videos a demanda, juegos en línea, finanzas, mensajería, calendarios, aprendizaje de idiomas, citas, dieta, Mi Anses, Mi Argentina, etcétera. 

Aunque es dudoso que el Estado argentino, fagocitado por Milei y su entorno, posea las calificaciones y recursos necesarios para el inédito ciberpatrullaje de todo Internet que estableció Bullrich, es claro, sin embargo, que las funciones de la Unidad creada por la ministra contrarían los valores democráticos. Los acuerdos firmados en el viaje al Silicon Valley con los «dueños de los datos en Internet» no solamente son una pérdida de soberanía política sino además jurídica, ya que la intromisión de las corporaciones en los datos de bien público de los «usuarios» de sus aplicaciones son la materia prima para los procesos de inteligencia artificial aún desconocidos públicamente.

Milei propuso que Argentina sea polo de inteligencia artificial. Se piensa que Argentina es líder regional hoy en economía del conocimiento, con más de una decena de unicornios tecnológicos. A los veteranos Globant, Mercado Libre, Despegar y Olx se les sumaron hace poco otros como Auth0, Aleph, Vercel, Mural, Bitfarms, Ualá, Tiendanube y Satellogic.

Con la ley de bases y el RIGI el gobierno argentino garantiza el extractivismo de las infraestructuras nacionales y sus recursos naturales. Y con los acuerdos firmados en Silicon Valley completa el modelo de expoliación de los recursos ciudadanos en Internet: nuestros datos.


Alfredo Moreno





Comentarios

Lo más visto de la semana pasada

Isaac Asimov: El Culto a la Ignorancia

Vivimos una época violenta, muy violenta; quizás tan violenta como otras épocas, sin embargo, la diferencia radica en que la actual es una violencia estructural y mundial; que hasta la OMS retrata como "epidemia mundial" en muchos de sus variados informes de situación. En ese engendro imperial denominado (grandilocuentemente) como "el gran país del norte", la ignorancia (junto con otras bestialidades, como el supremacismo, el racismo y la xenofobia, etc.) adquiere ribetes escandalosos, y más por la violencia que se ejerce directamente sobre aquellos seres que los "ganadores" han determinado como "inferiores". Aquí, un texto fechado en 1980 donde el genio de la ciencia ficción Isaac Asimov hace una crítica mordaz sobre el culto a la ignorancia, un culto a un Dios ciego y estúpido cual Azathoth, que se ha esparcido por todo el mundo, y aquí tenemos sus consecuencias, las vivimos en nuestra cotidaneidad. Hoy, como ayer, Cthulhu sigue llamando... ah,

David Gilmour - Luck and Strange (2024)

Una entrada cortita y al pie para aclarar porqué le llamamos "Mago". Esto recién va a estar disponible en las plataformas el día de mañana pero ya lo podés ir degustando aquí en el blog cabeza, lo último de David Gilmour de mano del Mago Alberto, y no tengo mucho más para agregar. Ideal para comenzar a juntar cositas para que escuchen en el fin de semana que ya lo tenemos cerquita... Artista: David Gilmour Álbum: Luck and Strange Año: 2024 Género: Rock Soft Progresivo / Prog Related / Crossover prog / Art rock Referencia: Aún no hay nada Nacionalidad: Inglaterra Lo único que voy a dejar es el comentario del Mago... y esto aún no existe así que no puedo hablar de fantasmas y cosas que aún no llegaron. Si quieren mañana volvemos a hablar. Cae al blog cabezón, como quien cae a la Escuela Pública, lo último del Sr. David Gilmour (c and p). El nuevo álbum de David Gilmour, "Luck and Strange", se grabó durante cinco meses en Brighton y Londres y es el prim

Jon Anderson & The Band Geeks - True (2024)

Antes de terminar la semana el Mago Alberto nos trae algo recién salido del horno y que huele bastante al Yes de los 80s y 90s, aunque también tiene un tema de más de 16 minutos de la onda de "Awaken" para los más progresivos. Y es que proviene de Jon Anderson, ex miembro fundador de Yes, que junto con la formación The Band Geeks como apoyo lanza este "True", que para presentarlo lo copio al Mago que nos dice: "La producción musical es sensacional con arreglos exquisitos, una instrumentación acorde a las ideas siempre extra mega espaciales de Anderson, el resultado; un disco fresco, agradable al oído, con toda la impronta de el viejo YES, lógico, sabiendo que Jon siempre fue el corazón de la legendaria banda británica". Ideal para ir cerrando otra semana a pura sorpresa, esta es otra más! Artista: Jon Anderson & The Band Geeks Álbum: True Año: 2024 Género: Prog related Nacionalidad: Inglaterra Antes del comentario del Mago Alberto, copio

Charly García - La Lógica del Escorpión (2024)

Y ya que nos estamos yendo a la mierda, nos vamos a la mierda bien y presentamos lo último de Charly, en otro gran aporte de LightbulbSun. Y no será el mejor disco de Charly, ya no tiene la misma chispa de siempre, su lírica no es la misma, pero es un disco de un sobreviviente, y ese sobreviviente es nada más y nada menos que Charly. No daré mucha vuelta a esto, otra entrada cortita y al pie, como para adentrarse a lo último de un genio que marcó una etapa. Esto es lo que queda... lanzado hoy mismo, se suma a las sorpresas de Tony Levin y del Tío Franky, porque a ellos se les suma ahora el abuelo jodón de Charly, quien lanza esto en compañía de David Lebón, Pedro Aznar, Fito Páez, Fernando Kabusacki, Fernando Samalea y muchos otros, entre ellos nuestro querido Spinetta que presenta su aporte desde el más allá. Artista: Charly García Álbum: La Lógica del Escorpión Año: 2024 Género: Rock Referencia: Rollingstone Nacionalidad: Argentina Como comentario, solamente dejar

Los 100 Mejores Álbumes del Rock Argentino según Rolling Stone

Quizás hay que aclararlo de entrada: la siguiente lista no está armada por nosotros, y la idea de presentarla aquí no es porque se propone como una demostración objetiva de cuales obras tenemos o no que tener en cuenta, ya que en ella faltan (y desde mi perspectiva, también sobran) muchas obras indispensables del rock argento, aunque quizás no tan masificadas. Pero sí tenemos algunos discos indispensables del rock argentino que nadie interesado en la materia debería dejar de tener en cuenta. Y ojo que en el blog cabezón no tratamos de crear un ranking de los "mejores" ni los más "exitosos" ya que nos importa un carajo el éxito y lo "mejor" es solamente subjetivo, pero sobretodo nos espanta el concepto de tratar de imponer una opinión, un solo punto de vista y un sola manera de ver las cosas. Todo comenzó allá por mediados de los años 60, cuando Litto Nebbia y Tanguito escribieron la primera canción, Moris grabó el primer disco, Almendra fue el primer

Tony Levin - Bringing It Down to the Bass (2024)

Llega el mejor disco que el pelado ha sacado hasta la fecha, y el Mago Alberto se zarpa de nuevo... "Cabezones, vamos de sorpresa en sorpresa, esta reseña la escribo hoy jueves 12 de Setiembre y mañana recién se edita en todo el mundo esta preciosura de disco, una obra impresionante, lo mas logardo hasta el momento por Levin". Eso es lo que dice el Mago Alberto presentando este disco, otro más que se adelanta a su salida en el mercado, para que lo empieces a conocer, a disfrutar y a paladear. Llega al blog cabezón un disco que marcará un antes y un después en la carreara de Levin, y creo que eso ya es mucho decir... o no? Otra sorpresota de aquellas, con un DISCAZO, con mayúsculas. Artista: Tony Levin Álbum: Bringing It Down to the Bass Año: 2024 Género: Fusion, Jazz-Rock. Referencia: Site oficial Nacionalidad: EEUU Creo que el pelado esta vez disfrutó el bajo como nunca, y ello parece haberse trasladado a la grabación, y de ahí a tu equipo de sonido y de

Spinetta & Páez - La La La (1986-2007)

#Músicaparaelencierro. LightbulbSun nos revive el disco doble entre el Flaco y Fito. La edición original de este álbum fue en formato vinilo y contenía 20 temas distribuidos en dos discos. Sin embargo en su posterior edición en CD se incluyeron los primeros 19 temas, dejando fuera la última canción que era la única canción compuesta por ambos. En relación a este trabajo, Spinetta en cada entrevista que le preguntaron sobre este disco el dijo que fue un trabajo maravilloso, que es uno de los discos favoritos grabados por él. En septiembre de 2007 se reedita el disco en formato CD, con todos los temas originales contenidos en la edición original en vinilo pero con un nuevo diseño. Creo que lo más elevado del disco es la poética del Flaco, este trabajo es anterior a "Tester de Vilencia" y musicalmente tiene alguna relación con dicho álbum... y una tapa donde se fusionan los rostros de ambos, que dice bastante del disco. Aquí, otro trabajo en la discografía del Flaco que estamos

El Ritual - El Ritual (1971)

Quizás aquellos que no estén muy familiarizados con el rock mexicano se sorprendan de la calidad y amplitud de bandas que han surgido en aquel país, y aún hoy siguen surgiendo. El Ritual es de esas bandas que quizás jamás tendrán el respeto que tienen bandas como Caifanes, jamás tendrán el marketing de Mana o la popularidad de Café Tacuba, sin embargo esta olvidada banda pudo con un solo álbum plasmar una autenticidad que pocos logran, no por nada es considerada como una de las mejores bandas en la historia del rock mexicano. Provenientes de Tijuana, aparecieron en el ámbito musical a finales de los años 60’s, en un momento en que se vivía la "revolución ideológica" tanto en México como en el mundo en general. Estas series de cambios se extendieron más allá de lo social y llegaron al arte, que era el principal medio de expresión que tenían los jóvenes. Si hacemos el paralelismo con lo que pasaba en Argentina podríamos mencionar, por ejemplo, a La Cofradía, entre otros muchos

Yaki Kandru - Yaki Kandru (1986)

#Músicaparaelencierro.  La agrupación colombiana Yaki Kandru, en cabeza del antropólogo e investigador Jorge López Palacio, constituye uno de los hitos etnomusicales de Latinoamérica, siendo sus aportes extremadamente valiosos para la etnomusicología no sólo del país, sino de todo el continente y a su paso, el mundo. Artista: Yaki Kandru Álbum: Yaki Kandru Año: 1986 Género: Etnomusicología Duración:  35:30 Referencia:   zigzagandino.blogspot.com Nacionalidad: Colombia Fundamentalmente, el trabajo de la agrupación consta de profundas y apasionadas investigaciones con las comunidades indígenas y campesinas, que terminaron en registros sonoros avezados, frutos de un esfuerzo inquebrantable por la comprensión integral de la música como un elemento de orden vital en las poblaciones nativas, superponiéndose a la concepción ornamental y estética del arte occidental. De este modo, Yaki Kandru no corresponde a un grupo meramente recopilatorio, sino uno que excava en los cimientos

Casandra Lange - Estaba En Llamas Cuando Me Acosté (1995)

#Músicaparaelencierro. LightbulbSun vuelve a las andadas y nos presenta un disquito de Casandra Lange (conjunto integrado por Charly García a la cabeza, junto con María Gabriela Epumer, Juan Bellia, Fabián Quintiero, Fernando Samalea y Jorge Suárez), un disquieto en vivo con canciones de Lennon, McCartney, Hendrix, Dylan, Annie Lennox, Jagger y Richards y de otros compositores además de las propias. Este es quizás uno de los secretos mejor guardados de Charly, que además aporta dos temas inéditos. Artista: Casandra Lange Álbum: Estaba En Llamas Cuando Me Acosté Año: 1995 Género: Rock Duración: 56:47 Referencia: Discogs Nacionalidad: Argentina Con ganas de pasarla bien, en el verano de 1995 Charly García armó una banda que tocara covers y recorrió distintos bares y teatros de la costa: Casandra Lange , con María Gabriela Epumer, Fabián Quintiero, Fernando Samalea y hasta Pedro Aznar en algunas ocasiones. Parte de esa gira quedó registrada aquí, un disco de edición re

Ideario del arte y política cabezona

Ideario del arte y política cabezona


"La desobediencia civil es el derecho imprescriptible de todo ciudadano. No puede renunciar a ella sin dejar de ser un hombre".

Gandhi, Tous les hommes sont frères, Gallimard, 1969, p. 235.