Ir al contenido principal

Datos, algoritmos y políticas: El ciberpatrullaje de Bullrich


El ciberpatrullaje es un eufemismo que busca camuflar bajo la realización de una tarea de seguridad ciudadana corriente el despliegue de tareas que, de otra manera, estarían sujetas al estricto control judicial por el impacto que tiene en el ejercicio de los derechos humanos en el territorio digital. Apoyada en tecnologías y métodos de Inteligencia Artificial que, en otras regiones, como en la Unión Europea, demandan consensos y regulaciones construidas durante años con la participación de múltiples actores políticos y sociales, la oficina creada por resolución de Bullrich puede invadir la privacidad de millones de personas internautas sin orden judicial.

Por Alfredo Moreno

La flamante Unidad de Inteligencia Artificial del Ministerio de Seguridad, potencia las acciones antidemocráticas de Patricia Bullrich y amplía sus dominios en un campo en disputa con la Secretaría de Inteligencia del Estado (SIDE) por competencias en labores de "inteligencia".

Destinada a "patrullar las redes sociales abiertas, —aplicaciones y sitios de Internet", así como la llamada "Internet profunda"—, "utilizar algoritmos de aprendizaje automático a fin de analizar datos históricos de crímenes y de ese modo predecir futuros delitos", "crear perfiles de sospechosos", "analizar actividades en redes sociales para detectar amenazas potenciales" y "detectar transacciones financieras sospechosas o comportamientos anómalos que podrían indicar actividades ilegales", la nueva dependencia gubernamental contradice principios constitucionales y leyes vigentes.

Ahora podemos entender mejor el porqué del viaje en el mes de junio de 2024 del presidente Milei al Silicon Valley, donde desarrolló una nutrida agenda y acuerdos con "los dueños de los datos en Internet", desde el CEO de Open AI, Sam Altman, empresarios, inversores y dueños de start ups vinculados a la inteligencia artificial hasta dos de los gigantes de Silicon Valley: el jefe de Google, Sundar Pichai, y el director ejecutivo de Apple, Timothy Cook. La frutilla del postre fue el encuentro con el CEO de Meta (Facebook, WhatsApp e Instagram), el multimillonario Mark Zuckerberg.

Lo que sigue a continuación está basado en el detallado análisis que realizó en Centro de Estudios en Libertad de Expresión y Acceso a la Información (CELE).

El Ministerio de Seguridad mediante la  Resolución 428, una vez más, vuelve a instalar la figura del ciberpatrullaje. La Resolución potencia las aspiraciones de la ministra Bullrich dando vía libre a las autoridades de investigación criminal para la persecución de ciertos cibercrímenes a partir de la explotación de las denominadas "fuentes públicas y abiertas" en el territorio Internet. Entre los elementos novedosos se encuentra la posibilidad de emplear de medios automatizados para dicho fin y la aplicación de procesos basados en inteligencia artificial.

La Resolución 428 justifica su formulación en la persecución de cibercrímenes, para lo cual se referencia en la Convención de Budapest a la que adhirió Argentina. Esta convención, versa precisamente sobre esa materia y permite a las autoridades argentinas disponer acuerdos para obligar a proveedores de servicios de Internet a la entrega de los datos que necesiten para su investigación. La Resolución se justifica en la persecución de cibercrimenes. De su redacción, se entiende que dicha resolución convierte a la Argentina en una autopista jurídica y política que comunica directamente a las autoridades argentinas con plataformas como X o Meta, para que estas últimas entreguen los datos de sus usuarios para la investigación de cualquier delito.


La Resolución expresa en forma vaga y abierta "que no se perseguirá a personas que estén haciendo un uso regular, usual o inherente de Internet", esta afirmación solo puede dar paso a la discrecionalidad y el abuso. Esta expresión tiene como efecto inmediato amenazar el ejercicio de la libertad de expresión en especial en las ocasiones en que la manifestación de una opinión sea considerada incómoda, molesta, chocante y, por tanto, "inusual" o "poco inherente" al uso de Internet.

Para determinar la normalidad en el uso de Internet se convertirá a la policía en jueces de lo que investigan, lo que deterioraría aún más la división de poderes en la investigación y persecución criminal de delitos que delega en los jueces y juezas ese tipo de juicios de valor.

Con frecuencia, se advierte que el ciberpatrullaje apunta al monitoreo, investigación y obtención de información disponible en las fuentes públicas y abiertas en Internet. Ahora bien, ¿qué es lo público y abierto y qué queda excluido de ese conjunto de información?

La respuesta depende en buena medida de la fuente de consulta. La literatura especializada en inteligencia en fuentes abiertas en línea (ver por ejemplo Hassan – 2019 – Gathering Evidence from OSINT Sources), señala con algo de consenso, que en esa categoría se encuentra todo lo que está publicado en Internet y que no tenga restricciones de privacidad o de derechos de autor.

Esa definición incluiría de hecho información almacenada en bases de datos con datos robados o filtrados, sitios web ilegales, bases de datos del Estado que son de acceso público, como las de empadronamiento electoral o de registros de instrumentos públicos que son de consulta abierta en ciertos países. En esa categoría se incluyen las redes sociales y las publicaciones que no tengan restricciones de visualización o candados que recibe el nombre de inteligencia en redes sociales, Socmint (por sus siglas en inglés).

La Resolución de ciberpatrullaje da dos pistas clave sobre lo que está dentro de esas dos categorías de lo "público" y lo "abierto". La primera está en la justificación, que menciona a "las redes sociales de cualquier índole, fuentes, bases de datos públicas y abiertas, páginas de Internet, dark-web y espacios de relevancia de acceso público"; y la segunda, en el articulado, que agrega a los "medios de carácter no sensible y sin clasificación de seguridad". No define el almacenamiento de los datos públicos o privados. ¿Dónde están almacenados los datos que fluyen en Internet? ¿Quién garantiza su seguridad?

Bajo esta visión, las redes sociales con o sin restricción de privacidad, como los candados de X (que simulan privacidad), o las configuraciones de audiencia o cuentas en las publicaciones de Instagram o Facebook estarían incluidas en tanto que no son medios que puedan considerarse sensibles o con clasificación de seguridad. 

Las fronteras de lo público y lo abierto en el territorio digital son muy finitas, se diferencian por una simple autorización de acceso a datos privados. La mayor cantidad de datos que generamos en Internet es público es decir un bien público.

Desde este lugar son muy cuestionables las actividades de inteligencia masiva en fuentes abiertas, dado el impacto que esta intromisión significa en términos de privacidad y para la libertad de expresión, particularmente cuando se la emplea por el Estado sin controles, supervisión, ni contrapesos.

Cuando publicamos información sobre nuestros gustos, hábitos o tendencias sociales o políticas lo hacemos pensando en conectar con otros o hacer parte del debate público, y no en ofrecer información que pueda ser explotada por el Estado para ser eventualmente empleada en nuestra contra. Al tiempo, la sensación de que nuestra actividad en línea pueda ser usada para generar inteligencia estatal accionable, trae como efectos asociados la autocensura ante el miedo de que un tuit se pueda traducir en el futuro en una orden de captura.

Los representes del pueblo en el Congreso de la Nación Argentina, no deberían preguntarse ¿qué limites conviene imaginar para la inteligencia estatal en fuentes públicas y abiertas para que su despliegue sea compatible con los derechos humanos?,  ¿cómo imaginar límites que al tiempo no entorpezcan su uso por otros actores que persiguen finalidades que sirven a la búsqueda de la verdad judicial, la generación de información de interés público, el acceso a la información y la libertad de expresión?

Apoyada en tecnologías y métodos de Inteligencia Artificial que, en otras regiones, como en la Unión Europea, demandan consensos y regulaciones construidas durante años con la participación de múltiples actores políticos y sociales, la oficina creada por resolución de Bullrich puede invadir la privacidad de millones de personas internautas sin orden judicial.

Datos y Algoritmos: ciencia de datos

La predicción de futuros delitos en base a datos que seleccionará el Ministerio de Seguridad para entrenar herramientas de inteligencia artificial anula el principio de inocencia. Sumado a que el software que se implementa en relación con la inteligencia artificial suelen ser una caja negra que pone en tensión la fiabilidad pública de estos procesos, dejando a la población internauta a expensas de las grandes corporaciones y sus posibles acuerdos para la entrega o apertura de los datos que almacenan.

La sociología algorítmica tiene la probabilidad cierta de concluir en resultados sesgados que sostiene acciones de riego democrático. Un caso puede ser, la de una persona que vive en un barrio donde las estadísticas de Bullrich presuponen que hay más delito, esta persona, tendrá más probabilidades de ser fichada como blanco de un turbio monitoreo oficial que un residente de otros barrios.

Predecir comportamientos futuros, sentenciándolos como delictivos con base en métodos algorítmicos, es una atribución desproporcionada que el gobierno argentino se adjudicasin advertir la contradicción con la protección de los derechos humanos que compromete al Estado en el respeto Constitucional.

La Resolución Bullrich aspira a patrullar todo el territorio digital habitado por internautas argentinos. Patrullar las aplicaciones que, en los términos publicados en el Boletín Oficial, es un objetivo que supone controlar un sinfín de posibilidades en cada uno de los teléfonos móviles, computadoras, televisor inteligente (smart TV) y consolas de los más de cuarenta millones de argentinos. Las aplicaciones abarcan desde envíos de comida, tiendas de comercio electrónico, servicios de salud, de meteorología, transporte y tránsito, videos a demanda, juegos en línea, finanzas, mensajería, calendarios, aprendizaje de idiomas, citas, dieta, Mi Anses, Mi Argentina, etcétera. 

Aunque es dudoso que el Estado argentino, fagocitado por Milei y su entorno, posea las calificaciones y recursos necesarios para el inédito ciberpatrullaje de todo Internet que estableció Bullrich, es claro, sin embargo, que las funciones de la Unidad creada por la ministra contrarían los valores democráticos. Los acuerdos firmados en el viaje al Silicon Valley con los «dueños de los datos en Internet» no solamente son una pérdida de soberanía política sino además jurídica, ya que la intromisión de las corporaciones en los datos de bien público de los «usuarios» de sus aplicaciones son la materia prima para los procesos de inteligencia artificial aún desconocidos públicamente.

Milei propuso que Argentina sea polo de inteligencia artificial. Se piensa que Argentina es líder regional hoy en economía del conocimiento, con más de una decena de unicornios tecnológicos. A los veteranos Globant, Mercado Libre, Despegar y Olx se les sumaron hace poco otros como Auth0, Aleph, Vercel, Mural, Bitfarms, Ualá, Tiendanube y Satellogic.

Con la ley de bases y el RIGI el gobierno argentino garantiza el extractivismo de las infraestructuras nacionales y sus recursos naturales. Y con los acuerdos firmados en Silicon Valley completa el modelo de expoliación de los recursos ciudadanos en Internet: nuestros datos.


Alfredo Moreno





Comentarios

Lo más visto de la semana pasada

Le Orme - Uomo Di Pieza (1972)

LightbulbSun nos trae un clásico del rock progresivo italiano. A ver; si hay un momento en el que el rock progresivo italiano dejó de mirar de costado a los británicos para patear la puerta con una personalidad propia, apabullante y rebosante de romanticismo mediterráneo, es este. Editado en 1972, "Uomo di Pezza" no es solo el disco más emblemático de Le Orme, sino la piedra basal indiscutida de ese movimiento, donde la melodía popular se cruza con las estructuras clásicas sin perder jamás el pulso sanguíneo ni la dulzura y romanticismo. Una de las audacias de este disco es la total ausencia de guitarras eléctricas, acá no vas a encontrar riffs pesados ni solos de distorsión desenfrenada; todo el peso armónico y el muro sónico recae sobre un arsenal de teclados analógicos deslumbrantes entrelazados con melodías acústicas y el bajo melódico. Los arreglos de cámara y la polifonía vocal demuestran una precisión quirúrgica, logrando que un formato de trío suene con la densidad, e...

Sonar - Three Movements (2023)

Ya presentamos al elegante y excelso guitarrista Stephan Thelen y mencionamos que Sonar es su banda principal, y este es un discazo que se alzó como uno de los mejores discos del 2023, al menos eso es lo que dicen los muchachos de Progarchives. Rock In Opposition, Avant-Prog, Math Rock y Experimental, concebido y compuesto por Sonar, con la participación de David Torn (Tori Amos, Bill Bruford, Tony Levin, David Sylvian, Michael Shrieve, Steve Roach, Don Cherry y un largo etcétera) en arreglos improvisaciones  y J. Peter Schwalm (compositor alemán muy relacionado con el trabajo de Brian Eno, además de componer música electrónica y ambiental para cine, teatro, radio, ballet y otro largo etcétera) y otro músicos adicionales que aportan lo suyo para crear tres movimientos basados en la matemática aplicada a lo rítmico, que crea un verdadero ritual sonoro, ideal como para empezar la semana, que aunque sea corta, la llenaremos de música y de buenas vibras. No pueden dejarlo pasar, más ...

Los 100 Mejores Álbumes del Rock Argentino según Rolling Stone

Quizás hay que aclararlo de entrada: la siguiente lista no está armada por nosotros, y la idea de presentarla aquí no es porque se propone como una demostración objetiva de cuales obras tenemos o no que tener en cuenta, ya que en ella faltan (y desde mi perspectiva, también sobran) muchas obras indispensables del rock argento, aunque quizás no tan masificadas. Pero sí tenemos algunos discos indispensables del rock argentino que nadie interesado en la materia debería dejar de tener en cuenta. Y ojo que en el blog cabezón no tratamos de crear un ranking de los "mejores" ni los más "exitosos" ya que nos importa un carajo el éxito y lo "mejor" es solamente subjetivo, pero sobretodo nos espanta el concepto de tratar de imponer una opinión, un solo punto de vista y un sola manera de ver las cosas. Todo comenzó allá por mediados de los años 60, cuando Litto Nebbia y Tanguito escribieron la primera canción, Moris grabó el primer disco, Almendra fue el primer ...

Quetango Quartet - Postango (2006)

Una joyita canadiense-argentina que mezcla el tango con la música de cámara, el jazz y tiene una pizca del clásico rock progresivo setentero, aunque esto ni por casualidad puede tratarse dentro de los parámetros del rock. . Este trabajo discográfico destaca por su propuesta de vanguardia, donde las ciudades de Quebec y Buenos Aires se descubren mutuamente a través de una sofisticada fusión de jazz contemporáneo, música de cámara y tango instrumental. El álbum recibió un gran reconocimiento crítico y fue nominado al prestigioso premio canadiense ADISQ en la categoría de Álbum Instrumental del Año. Esa introducción sirve solamente para aquellos distraídos que no sepan que cosas como estas están disponibles en el blog, como tantas maravillas que pueblan nuestro catálogo cabezón. Que lo disfruten!. Artista:  Quetango Quartet Álbum: Postango Año: 2006 Género: Tango, Progressive fusion, avantchamber Nacionalidad: Canada (Quebec) & Argentina Duración: 42:19 min Y vamos c...

Ergo Sum - Ergo Sum (1997)

Si hay un rincón de Sudamérica donde la potencia instrumental del progresivo supo reinventarse con una personalidad arrolladora en los noventa, ese es Chile. Vamos a recordar un disco imposible de conseguir hoy en día, un buen álbum de prog folk (muy al estilo Jetro Tull pero más pesado), un álbum es recomendable ya que combina la fusión, el folk, los ritmos latinos, el heavy y el sinfonismo de manera ágil y sólida, es que éste es un álbum que a pesar de su corta duración dejó grabado un progresivo de amplio espectro, pero con flautas traversas y percusión además de los típicos instrumentos de rock, y sin recurrir al tradicional colchón de teclados que suele dominar el género, este quinteto construye un sonido robusto, filoso y profundamente original, y con una guitarra que lidera el timón con solos pirotécnicos y una pegada filosa que por momentos dialoga con la escuela de los grandes violeros del virtuosismo. Muy buen disco que deberían conocer, una inyección de energía que te sacude...

Dave Bainbridge - To The Far Away (2021)

Otro de nuestros discos casi desconocidos y muy recomendados, ahora vamos a recordar un disco verdaderamente hermoso y emotivo inspirado en las consecuencias de la pandemia, más de 70 minutos de pura magia, y uno de los mejores discos que han salido en el 2021 (y si no me creen a mí, miren el puntaje que tiene en Progarchives , que raya en la perfección). 13 temas memorables, que realizan una combinación de estilos tremenda, algo que verdaderamente es una de las características de lo que denominamos "música progresiva", pero que en algunos casos lo hacen tan pero tan bien que casi deberían crear una denominación nueva, como en este caso (bueno, eso le pasó a Magma cuando definieron su música como "Zeuhl", aunque hay muchísimos otros casos donde debería haber pasado lo mismo). El señor Dave Bainbridge es un virtuosísimo multi-instrumentista que se encarga de casi todo (la revista "Prog" lo incluyó como uno de los mejores guitarristas, luego de Steve Hackett...

Los Barrocos - Sin Tiempo Ni Espacio (1974)

Este disco también lo había publicado hace muchísimo tiempo y ahora reaparece para que lo descubra mucho cabezón novato y desprevenido. Básicamente, Los Barrocos fueron un grupo que mezcló la música clásica con el rock, al punto de tener en su repertorio temas de rock pesado y otros de música de cámara. Y esta es otra casi desconocida banda argentina que tocaba rock con mezcla de música de cámara con la inclusión de violines, fue un proyecto muy interesante por cierto. Formados en 1970 y enrolados en el sonido progresivo de aquellos años, tuvieron muy buenos temas e hicieron muchos recitales, pero debido al desgaste de luchar con las discográficas, que derivaron en diferencias internas, el grupo terminó por disolverse y hoy está casi olvidado, injustamente. En este pequeño espacio los venimos a recordar, a ellos y su música. Que lo disfruten. Artista: Los Barrocos Álbum: Sin tiempo ni espacio Año: 1974 Género: Rock psicodélico Nacionalidad: Argentina Una gran oportunidad pa...

OdraReg - God's Garden (2004)

Otro proyecto creado por uno de los músicos de la legendaria banda venezolana Témpano, y con eso ya digo bastante. Seguimos con nuestra sección de progresivo latinoamericano que tenemos mucho y muy bueno para presentarles, ahora con un disco de una banda venezolana, registro publicado en Francia por el sello Musea en un efectivo cóctel de sinfonismo, psicodelia, jazz-rock y experimentación electrónica. La verdad, conocía de la existencia de este trabajo pero nunca había tenido oportunidad de escucharlo, y ahora aterriza en el blog cabezón. El sonido de esta banda es asombroso, y su música también, es dinámica, viva, aventurera, atomporal y muy personal, con un toque latino indefinible. ¡Simplemente tremendo! Si querés asombrarte con algo, te invito a que conozcas este tremendo proyecto que lamentablemente solo ha sacado un solo disco, así que hay que disfrutarlo y sacarle el jugo. Es lo que hay... Artista: Odra Reg Álbum: God's Garden Año: 2004 Género: Jazz rock progresivo...

Serú Girán - La Grasa de las Capitales (Edición 40 Aniversario) (1979 / 2019)

Esta edición especial tiene su lanzamiento digital hoy, y nosotros no podíamos dejar de mencionarlo. Un disco bien para que aparezca en el blog cabezón un viernes. Porque no es una versión cualquiera, porque salió hoy mismo, porque es una gran sorpresa tenerlo aquí y porque lo trae el Mago Alberto.  A partir de la recuperación del histórico catálogo discográfico de Music Hall, realizada por el Instituto Nacional de la Música (INAMU), y con un minucioso trabajo de producción que incluyó la remasterización del sonido desde cintas, restauración de arte de tapa e inclusión de un insert con fotos originales nunca antes vistas, se lanza a 40 años de su publicación una edición especial de "La Grasa de las Capitales", segundo disco del legendario Serú Girán. Con la idea de escuchar cada vez mejor estas obras que traspasan el tiempo, es que anunciamos estas cosas maravillosas que van saliendo, y es que así se vive la mejor música en el blog cabezón. Artista: Serú Girán Álbum: ...

Mojo Pojo - Mojo Pojo (2010)

Ya que estamos reviviendo parte de la mejor música venida de Venezuela, ahora recordamos a Mojo Pojo, llenos de virtuosismo y pirotecnia, este fue su primer disco y ya lo habíamos presentado hace años atrás. Música pretenciosa, dinámica, colorida, muchos temas instrumentales, fueron teloneros de Yes y Jethro Tull, y han hecho la delicia de sus seguidores. Aquí, el disco homónimo de una banda que les recomiendo que conozcan. Para que vayan teniendo mucho para escuchar en este fin de semana, revivimos una buena banda con nombre raro que lanzó su disco homónimo en el 2010, donde la banda combina el jazz, diferentes tendencias de rock muy potentes, la música progresiva y hasta algunas pinceladas experimentales producto de su libertad creativa, siendo quizás una de las bandas más originales dentro de la movida musical en Venezuela, con un estilo difícil de etiquetar. Otro de los discos desconocidos que damos a divulgar  acá en el blog cabeza, y por cierto, son cosas que no vas a encontr...

Ideario del arte y política cabezona

Ideario del arte y política cabezona


"La desobediencia civil es el derecho imprescriptible de todo ciudadano. No puede renunciar a ella sin dejar de ser un hombre".

Gandhi, Tous les hommes sont frères, Gallimard, 1969, p. 235.