Ir al contenido principal

Cuando acecha el algoritmo

Mientras en el mundo avanzan las regulaciones en sus usos, en la Argentina se crea una Unidad de Inteligencia Artificial Aplicada a la Seguridad que apunta a patrullar redes sociales utilizando algoritmos de aprendizaje automático para «predecir futuros delitos». Los especialistas reflexionan sobre los peligros del sesgo en los sistemas de «actuación policial predictiva», ya desestimados en muchos países.

Por Pablo Taranto

La inteligencia artificial es una herramienta poderosísima. El riesgo, como ocurre con cualquier herramienta, está en cómo se la usa. Con ella se pueden hacer cosas muy distintas: optimizar los diagnósticos de la clínica médica o montar un dispositivo de vigilancia masiva. El dilema a resolver es cómo construir una inteligencia artificial que sea fiable, justa, que se use para el bien (con un dilema adicional: quién dictamina qué es justo y qué es bueno).

Están pasando cosas con la inteligencia artificial. El 1º de agosto pasado entró en vigencia el Reglamento de IA de la Unión Europea, la primera regulación integral de esta tecnología, que es el resultado de un largo proceso de consultas con todos los sectores involucrados y con los derechos de las personas en el primer plano.

La normativa europea prohíbe expresamente cuatro usos de la inteligencia artificial que califica como inaceptables: las aplicaciones que manipulan el comportamiento humano para eludir la libre voluntad de los usuarios; las que habilitan algún tipo de «puntuación social» por parte de gobiernos y empresas; ciertos sistemas biométricos, como los que reconocen emociones para categorizar personas en el lugar de trabajo o los que las identifican con fines policiales en espacios de acceso público; y los sistemas llamados de «actuación policial predictiva».

En simultáneo, en la Argentina, la Cámara de Diputados empieza a discutir en comisiones siete proyectos de ley que buscan regular estas tecnologías, la mayoría en línea con la UE, velando por los derechos de la ciudadanía en materia de transparencia y protección de datos personales.

Pero el gobierno de Javier Milei va en la dirección contraria. A fines de julio, la Resolución 710/24 del Ministerio de Seguridad creó la Unidad de Inteligencia Artificial Aplicada a la Seguridad (Uiaas), una oficina de ciberpatrullaje que tendrá a su cargo tareas que claramente la regulación europea consideraría un riesgo para los ciudadanos.

El objetivo de la nueva oficina del ministerio que conduce Patricia Bullrich es patrullar redes sociales y sitios de internet utilizando algoritmos de aprendizaje automático para «crear perfiles de sospechosos», «detectar amenazas potenciales» y «predecir futuros delitos», como explicita el texto de la resolución.

Los algoritmos de aprendizaje automático detectan patrones en conjuntos de datos y luego pueden usarlos para realizar predicciones. Los datos, que son la materia prima con que se entrenan las inteligencias artificiales, son la clave: de dónde salen, cuáles se incorporan al modelo y cuáles no, y quién toma esa decisión.

«El sesgo en los modelos de inteligencia artificial suele ocurrir a partir de los datos que se usan para entrenarlos —explica Enzo Ferrante, doctor en matemática e informática e investigador del Laboratorio de Inteligencia Artificial Aplicada (LIAA), que funciona en el Instituto de Investigación en Ciencias de la Computación (ICC, UBA- Conicet), en Exactas UBA—. El recorte o la subrepresentación de datos que se hace al construir las muestras, tiende a generar un rendimiento dispar del modelo para distintos grupos sociales, caracterizados por distintos atributos demográficos, y eso redunda en un comportamiento discriminatorio. Por supuesto, ese recorte obedece a decisiones humanas que están lejos de ser neutrales. De hecho, el déficit de diversidad en los equipos de trabajo que diseñan sistemas de aprendizaje automatizado en el mundo tiende a replicar ese sesgo en sus creaciones”.

En los usos comerciales de la IA, el sesgo es la norma. «¿Cuál es el ícono cultural de esta época? —se pregunta Diego Fernández Slezak, doctor en computación, director del LIAA y profesor de Exactas UBA—. Es el like, la aprobación del otro, con distintos fines. ¿Qué hace la IA con eso? Sesga los pulgares arriba. Te muestra aquello con lo que más probablemente desees interactuar, porque es lo que necesita la empresa detrás de esa inteligencia artificial: que ese producto, ese contenido, genere en vos una reacción, y que vos le des información».

Ahora bien, ¿qué pasa cuando esos parámetros de puntuación social, esos datos, son un cierto reflejo de la realidad, que es profundamente desigual, y el sesgo resultante reproduce esa desigualdad?

«Por supuesto, se pueden diseñar técnicas algorítmicas para mitigar el sesgo. Hay una técnica particular que es no mostrarle al modelo el atributo protegido, el género, por ejemplo, obligarlo a ignorar esa variable. Quienes trabajamos en fairness, en equidad algorítmica, precisamente buscamos entender cómo diseñar modelos que sean más justos —puntualiza Ferrante—. Ahora, puede haber correlación entre ese atributo y alguna otra variable. Ese mecanismo se ve en los sistemas de puntuación que se usan, por ejemplo, para la asignación de préstamos bancarios o límites de gasto en tarjetas de crédito. Un caso testigo fue un modelo que, frente a una pareja con ingresos, gastos y deudas similares, estableció para la mujer un límite que era la mitad que el de su esposo. La brecha salarial entre hombres y mujeres es una realidad del mundo desigual en que vivimos, y los datos con los que fue entrenado ese modelo se reflejan en esa discriminación. Ahora, ¿queremos que el modelo perpetúe y hasta amplifique las desigualdades? ¿O queremos modificar esa realidad?»

El anuncio de que habrá una dependencia del Ministerio de Seguridad que va a «predecir» delitos nos sumerge en una distopía, análoga a la del film Minority Report, basado en un cuento de Philip K. Dick, y abre peligrosos interrogantes sobre el uso que puede darse a esta tecnología.

«Estamos retrocediendo en cuestiones que ya fueron consensuadas incluso antes de toda esta revolución de la IA —sostiene Fernández Slezak—. En Estados Unidos se usan modelos predictivos hace muchísimo tiempo y ya se demostró que fallan, que sólo pueden usarlos expertos, de forma controlada y como evidencia probabilística, de valoración de la prueba, pero no como mecanismo probatorio de un delito. Usaban modelos predictivos que, por ejemplo, confundían a personas de tez negra con gorilas. Eso ya se desestimó. No hay un predictor que diga: «Tenés cara de ladrón, vas a robar en las próximas doce horas». Los países centrales ya no usan estas tecnologías con ese fin, al menos no públicamente, porque están desautorizadas».

«El sesgo racial ha sido una de las grandes polémicas en los algoritmos de reconocimiento facial, con sistemas que claramente tienen un peor rendimiento en mujeres de piel negra que en hombres blancos. Son modelos cuyas predicciones benefician sistemáticamente a un grupo de individuos frente a otro, resultando así injustos», señala Ferrante.

Y vuelve a alertar sobre el modo en que el sesgo, fijando estereotipos, perpetúa las inequidades. «Si se pretende predecir el riesgo de que una persona delinca entrenando el modelo con datos de presos que cumplen condena, no sólo biométricos sino características educativas, económicas u otras, ese es un uso falaz de la IA, pero se puede hacer. Un sistema así diseñado —concluye— va a decir que si vivís en determinado barrio, potencialmente sos un delincuente».

Por supuesto, derechos como la presunción de inocencia, la privacidad o la libertad de expresión quedarían directamente cercenados en la Argentina si la nueva Unidad de Inteligencia Artificial Aplicada a la Seguridad utiliza, como se anunció, este tipo de herramientas.

¿Quién y cómo entrenará esos modelos de IA? Aparte de la flagrante invasión a la privacidad sin orden judicial o la persecución lisa y llana contra quienes no coincidan con el ideario del gobierno libertario, prefiguradas en las atribuciones de la nueva repartición, ¿qué impediría que esos sistemas de predicción del delito, entrenados nadie sabe con qué datos, entreguen «falsos positivos», guiados por un sesgo social, político o ideológico en su algoritmo?

«La regulación es necesaria. Pero hay dos formas de pensar la regulación —señala Fernández Slezak—. Una es regular cómo las empresas y los gobiernos entrenan sus modelos y qué se permite hacer con ellos: los usos. En este enfoque, la IA es una herramienta. Para aquello que querés proteger, para la salud, por ejemplo, es indistinto un ratón moviendo un engranaje o una IA diseñada por Sam Altman, las dos herramientas pueden hacer igual de mal en función de cómo se usan. El otro enfoque es atacar directamente el core técnico de cómo se entrenan las inteligencias artificiales. Decir: «Vamos a regular que nadie pueda crear modelos de IA de más de doscientos billones de parámetros». Yo creo que esa es una mirada inocente: ¿cómo aplicás esa regulación? La propia velocidad astronómica a la que avanza la IA impide regular el aspecto técnico. Hay que regular los campos de aplicación, penalizar los usos indebidos en los ámbitos donde los Estados consideren que hay un peligro».

El derecho de las personas a no estar sujetas a decisiones basadas en algoritmos o perfiles automatizados es todavía un derecho difuso, difícil de tutelar, básicamente porque millones de usuarios entregan voluntariamente sus datos a poderosas corporaciones que los usan en forma monopólica. La manipulación tiene matices, escalas. El algoritmo define un camino para cada usuario. Pero una cosa es que sugiera la próxima película que va a ver y otra que vaya inclinándolo hacia determinados valores o determinada opción política.

Para Fernández Slezak, la regulación tiene un desafío extra, que es, primero, describir el problema. «La ciencia del comportamiento existe desde hace miles de años. De los sofistas a la propaganda, las sociedades siempre generaron discursos para manipular. Lo que pasó en los últimos años es que la precisión con la que uno puede capturar el estado mental de las personas a las que quiere guiar en determinada dirección, es enorme. Tanto el poder de cómputo como la capacidad de captura de datos y el poder de manipularlos es astronómicamente más grande. Pero hay que definir el problema. ¿El problema es que empresas muy poderosas manipulen los datos? ¿O el problema ya es que los tengan? ¿O que sean las únicas en tenerlos?”

La oficina de ciberpatrullaje de Bullrich podrá ser un dispositivo que cercene muchos derechos, un riesgo para la democracia, en el contexto de un fuerte proceso de liberalización de las prácticas del mercado, incluidos los usos de la inteligencia artificial.

En uno de sus muchos viajes a Estados Unidos, en mayo, Javier Milei se reunió con Sam Altman, CEO de OpenAI y creador de ChatGPT. La promiscua relación que pretende establecer con éste y otros frontmen de las megaempresas tecnológicas un presidente que predica la autorregulación del mercado, es ciertamente preocupante.

«Precisamente —cierra Fernández Slezak—, este gobierno pregona la desregulación total. Si en Europa no se puede y en Estados Unidos tampoco, la Argentina sería tierra fértil para hacer las barbaridades que se les ocurran, que quizás salgan bien, nunca se sabe, pero el riesgo es altísimo. ¿Por qué vendrían? Porque tendrían vía libre para operar desreguladamente sus experimentos de manipulación con estrictos fines de lucro.»

Pablo Taranto



Comentarios

Lo más visto de la semana pasada

David Gilmour - Luck and Strange (2024)

Una entrada cortita y al pie para aclarar porqué le llamamos "Mago". Esto recién va a estar disponible en las plataformas el día de mañana pero ya lo podés ir degustando aquí en el blog cabeza, lo último de David Gilmour de mano del Mago Alberto, y no tengo mucho más para agregar. Ideal para comenzar a juntar cositas para que escuchen en el fin de semana que ya lo tenemos cerquita... Artista: David Gilmour Álbum: Luck and Strange Año: 2024 Género: Rock Soft Progresivo / Prog Related / Crossover prog / Art rock Referencia: Aún no hay nada Nacionalidad: Inglaterra Lo único que voy a dejar es el comentario del Mago... y esto aún no existe así que no puedo hablar de fantasmas y cosas que aún no llegaron. Si quieren mañana volvemos a hablar. Cae al blog cabezón, como quien cae a la Escuela Pública, lo último del Sr. David Gilmour (c and p). El nuevo álbum de David Gilmour, "Luck and Strange", se grabó durante cinco meses en Brighton y Londres y es el prim

Isaac Asimov: El Culto a la Ignorancia

Vivimos una época violenta, muy violenta; quizás tan violenta como otras épocas, sin embargo, la diferencia radica en que la actual es una violencia estructural y mundial; que hasta la OMS retrata como "epidemia mundial" en muchos de sus variados informes de situación. En ese engendro imperial denominado (grandilocuentemente) como "el gran país del norte", la ignorancia (junto con otras bestialidades, como el supremacismo, el racismo y la xenofobia, etc.) adquiere ribetes escandalosos, y más por la violencia que se ejerce directamente sobre aquellos seres que los "ganadores" han determinado como "inferiores". Aquí, un texto fechado en 1980 donde el genio de la ciencia ficción Isaac Asimov hace una crítica mordaz sobre el culto a la ignorancia, un culto a un Dios ciego y estúpido cual Azathoth, que se ha esparcido por todo el mundo, y aquí tenemos sus consecuencias, las vivimos en nuestra cotidaneidad. Hoy, como ayer, Cthulhu sigue llamando... ah,

King Crimson - Red (Elemental Mixes) (1974 - 2024)

Y para empezar la semana siempre vamos con algo bueno ¿Y qué decir de esto que ahora nos trae El Mago Alberto?, tenemos uno de los disco claves del Rey Carmesí con temas inéditos, y me copio de uno de los comentarios de esta entrada: "El último gran álbum de los mejores King Crimson, los de la década de los ’70, veía la luz en aquel Noviembre de 1974. "Red" nacía proyectando su propia sombra densa, vestida de elementos de su sinfónico pasado, de un oscuro y rauco jazz y del naciente heavy metal, marcado este último por las distorsionadas guitarras y sus pétreos riffs, que dieron una visión un tanto peculiar de aquel primogénito del Hard Rock desde el especial prisma de Robert Fripp. (...) Este álbum sin duda marcó un antes y un después en la carrera de la banda, pues tras 7 años de silencio después de "Red", la banda volvió entrados los ’80 con otra onda completamente distinta, otra visión y concepción de su sonido, sonando también interesantes y originales, pe

El Ritual - El Ritual (1971)

Quizás aquellos que no estén muy familiarizados con el rock mexicano se sorprendan de la calidad y amplitud de bandas que han surgido en aquel país, y aún hoy siguen surgiendo. El Ritual es de esas bandas que quizás jamás tendrán el respeto que tienen bandas como Caifanes, jamás tendrán el marketing de Mana o la popularidad de Café Tacuba, sin embargo esta olvidada banda pudo con un solo álbum plasmar una autenticidad que pocos logran, no por nada es considerada como una de las mejores bandas en la historia del rock mexicano. Provenientes de Tijuana, aparecieron en el ámbito musical a finales de los años 60’s, en un momento en que se vivía la "revolución ideológica" tanto en México como en el mundo en general. Estas series de cambios se extendieron más allá de lo social y llegaron al arte, que era el principal medio de expresión que tenían los jóvenes. Si hacemos el paralelismo con lo que pasaba en Argentina podríamos mencionar, por ejemplo, a La Cofradía, entre otros muchos

Bill Bruford - The Best of Bill Bruford The Winterfold & Summerfold Years (2024)

Empezamos la semana con la nueva versión del "Red" de King Crimson, seguimos luego con Bill Bruford´s Earthworks y parece que seguimos en la misma onda porque ahora presentamos, gracias al Mago Alberto, algo recién salido del horno: "The Best of Bill Bruford The Winterfold & Summerfold Years", que no otra cosa que una retrospectiva completa que cubre amplias franjas del trabajo del legendario baterista, desde su homónima banda de jazz-rock hasta la encarnación final de su célebre banda de jazz Earthworks, un conjunto de tres discos que está lleno de numerosas colaboraciones; su compañero de Yes Patrick Moraz, el pianista holandés Michiel Borstlap, Luis Conte, Chad Wackerman y Ralph Towner, entre otros. Artista: Bill Bruford Álbum: The Best of Bill Bruford The Winterfold & Summerfold Years Año: 2024 Género: Jazz Rock /  Fusion Referencia: Link a Discogs, Bandcamp, Youtube, Wikipedia, Progarchives o lo que sea. Nacionalidad: Inglaterra Ante

Alejandro Matos - Carnaval De Las Víctimas (2024)

Tras el impresionante "La Potestad" en el 2015, y casi diez años después llega el nuevo y  magnífico álbum del multiinstrumentista Alejandro Matos "Carnaval De Las Victimas", otro trabajo de primer nivel que para constatarlo se puede ver simplemente el lugar que ocupa en Progarchives, dentro de los mejores discos del este año 2024 a nivel mundial, y con eso ya nos damos una idea de la valía de este nuestro trabajo, donde Alejandro Matos se ocupa de todos los instrumentos salvo la batería, conformando un trabajo oscuro, cinematográfico, elegante y ambicioso, y toda una reflexión sobre los tiempos que corren, en base a buenos riffs y melodías cautivadoras, hasta su bucólica y triste belleza. Un trabajo que llevó tres largos años, que cursa su travesía desde un medio tiempo en casi toda su extensión y se escucha como un oscuro regalo de los dioses... o de los demonios, uno vaya a saber, pero que definitivamente tenemos que recomendar al selecto público cabezón. Ide

The Alan Parsons Project - Pyramid (Super Edtion Deluxe) (2024)

Otro gran aporte del Mago Alberto, se trata del tercer álbum de Alan Parsons Project, pero ahora reeditado en este 2024. "Pyramid" fue un álbum conceptual centrado en las pirámides de Giza, que se grabó en los estudios Abbey Road con una variedad de vocalistas y músicos un conjunto de 4 CD que incluyen una nueva remasterización del álbum por Miles Showell y 67 temas adicionales, 54 de ellos inéditos, incluidas tomas descartadas de sesiones de estudio y demos de Eric Woolfson o "Songwriting Diaries", como se las conoce. Y lo presentamos basándonos en un comentario que nos dejó hace tiempo nuestro amigo El Canario, que como siempre se disfruta mucho. Que lo disfruten, tanto al texto como a esta nueva versión de este clásico. Artista:  The Alan Parsons Project Álbum:  Pyramid (edición remasterizada y ampliada, 2008) Año: 1978 - 2024 Género:  rock progresivo, rock sinfónico Duración: 1:03:40 Nacionalidad:  inglesa De todo lo que he escuchado de Alan Par

King Crimson - Larks' Tongues In Aspic 50th Anniversary Edition Elemental Mixes (1973 - 2023)

Para ir cerrando la semana vamos con uno de los clásicos experimental de todos los tiempos, pero presentado de un modo nuevo gracias al Mago Alberto que se zarpa nuevamente para quemarla las válvulas a más de un cabezón, mientras que a algunos más les funde algunas lamparitas. Hablo de un álbum que rompió nuestra percepción del mundo de la música, donde Fripp, Bruford, Wetton, Cross y Muir crean un disco bisagra en la historia del Rey Carmesí, pero ahora en otra versión distinta a la que conocés, y sobre ello nos dice el Mago: "Una nueva edicion de Larks Tongues in Aspic commemorando los 50 años de la salida de esta enorme obra, y así como sucedió con RED nos encontramos con un nuevo lanzamiento con nuevas versiones y mezclas, esta vez a cargo de David Singleton, van a poder disfrutar también de versiones alternativas del mismo álbum. Cuando se lanzo este disco King Crimson rompió con todos los moldes existentes hasta el momento, la instrumentación era exquisita y la grabación era

Charly García - La Lógica del Escorpión (2024)

Y ya que nos estamos yendo a la mierda, nos vamos a la mierda bien y presentamos lo último de Charly, en otro gran aporte de LightbulbSun. Y no será el mejor disco de Charly, ya no tiene la misma chispa de siempre, su lírica no es la misma, pero es un disco de un sobreviviente, y ese sobreviviente es nada más y nada menos que Charly. No daré mucha vuelta a esto, otra entrada cortita y al pie, como para adentrarse a lo último de un genio que marcó una etapa. Esto es lo que queda... lanzado hoy mismo, se suma a las sorpresas de Tony Levin y del Tío Franky, porque a ellos se les suma ahora el abuelo jodón de Charly, quien lanza esto en compañía de David Lebón, Pedro Aznar, Fito Páez, Fernando Kabusacki, Fernando Samalea y muchos otros, entre ellos nuestro querido Spinetta que presenta su aporte desde el más allá. Artista: Charly García Álbum: La Lógica del Escorpión Año: 2024 Género: Rock Referencia: Rollingstone Nacionalidad: Argentina Como comentario, solamente dejar

Lluis Llach - Viatge A Itaca (1975)

En 1975, Lluis Llach crea uno de sus mejores discos: Viatge a Ítaca. Partiendo de los poemas de Constantino Petrou Cavafis, poeta griego, inspirado a su vez en "La Odisea", y ahora el Canario nos reseña y trae éste disco. Ítaca, la patria del mítico Ulises es una isla en el mar Jónico, una más de las seis mil islas e islotes que forman Grecia. Gran disco de un gran músico. Lluis Llach demuestra con este disco que es capaz de componer una hermosa sinfonía. Con este disco inició la colaboración en los arreglos de Manel Camp y Santi Arisa en batería, antiguos componentes de Fussion. Artista: Lluis Llach Álbum: Viatge A Itaca Año: 1975 Género: Nueva canción de Catalunya / Prog folk / Sinfónico Nacionalidad: España Lista de Temas: 1. Ítaca 2. A força de nits 3. Escriu-me aviat 4. Fins el mai 5. Abril 74 Alineación: - Lluis Llach / Voz, composición, arreglos - Manel Camp / Dirección musical - Santi Arisa / Batería y percusión - Tete Matutano / Flauta - La

Ideario del arte y política cabezona

Ideario del arte y política cabezona


"La desobediencia civil es el derecho imprescriptible de todo ciudadano. No puede renunciar a ella sin dejar de ser un hombre".

Gandhi, Tous les hommes sont frères, Gallimard, 1969, p. 235.