La Dominación del Algoritmo Garca

Este posteo viene a raíz de la imposibilidad -y la impotencia generada por luchar contra un algoritmo- de publicar la famosa última parte de una nota (sobre la filosofía del sonido de Schaeffer que dio origen a la música concreta, saga que se dió en llamar "El Oído Tiene Razones que la Física No Conoce"). Dicha nota la publiqué por primera vez el jueves y fue rechazada por Google por no cumplir con las "normas de la comunidad" (frase facha si las hay), y sin darme mucha más precisión. Al no poder preguntarle a nadie "qué carajo es lo que estoy haciendo mal" procedí una y mil veces a cambiarle las imágenes (quizás alguna tenía propiedad intelectual), links, videos, luego a directamente los saqué ya que el resultado era el mismo, hasta quedar pelada y a texto puro el día de ayer (sábado), luego de decenas de intentos infructuosos que terminaban con la misma respuesta facha: era la negación del algoritmo. Ello me dió que pensar de nuestra indefensión ante cualquier posible atropello por parte del código y el guarismo, que sumado a la actual dictadura del copyright, nos hace víctima de una nueva dominación: la del algoritmo garca, y justo en ese momento dí con esta atinada nota que paso a transcribir y se titula ¿Manejados por Algoritmos? Ojo que nadie está libre de lidiar con este tipo de cosas, y con asuntos mucho más importantes... y cada día nuestra indefensión será más grande.

No creo que a día de hoy nadie tenga ninguna duda, sobre el poder de procesamiento de datos a través de algoritmos y seudo-IAS, pero el problema que tendríamos que replantearnos es ¿cuanto control sobre nuestras vidas queremos delegar sobre ello?.

Esta claro que la inteligencia artificial tiene muchas utilidades en campos como la medicina,ciencia,ingeniería,etc... para poder realizar complejos cálculos y generar, algorítmicamente, escenarios donde podamos realizar simulaciones a mayor escala sobre problemas de diversa índole, y es bueno que esta nos permita poder generar estos "campos de pruebas" antes de enfrentarnos a situaciones reales, donde se podría poner en riesgo vidas humanas, pero tal vez el problema venga cuando delegamos en ellos situaciones a los que los humanos no queremos enfrentarnos.

Hace muchos años, leí un articulo sobre una persona que trabaja en Google, visionando y moderando contenido, esa persona era la encargada de valorar y filtrar el contenido que se subía a todos los servicios de Google para ver si era apropiado o no lo era. Ni que decir... esa persona acababa con serios problemas mentales y medicación diaria.

Ahora Google y las grandes compañías no tienen a personas realizando ese trabajo; tienen algoritmos, programas que deciden en base a una serie de características si el contenido es o no es adecuado, y si no lo es lo censuran. Y ahora ya no tenemos el problema de que una persona acabe mal de la cabeza por las "inmundicias" humanas, solo tenemos un problema de que una máquina decide en pocos segundos, en función de parámetros matemáticos, sobre la libertad de expresión o cultural de millones de personas. Con ejemplos tan gráficos como marcar todas las fotos subidas a su plataforma de personas de raza negra como si fueran primates, censurar una foto de un usuario que subió un beso con su novio como contenido inapropiado, porque otras personas así lo marcaron por ejemplo, censurar fotos de pezones, o partes íntimas, incluso en fotos sobre medicina u obras históricas, etc. Porque claro, el algoritmo hoy en día es el nuevo "mi perro se ha comido los deberes", porque todos sabemos que los algoritmos se programan ellos solitos y se suben a producción sin mediación de nadie.

Si estás tranquilamente tumbado en el sofá, y te llega una notificación de 10% de bebida gratis en tu local favorito esta tarde y acudes, no te sientas un títere, piensa que es culpa del algoritmo de la app que instalaste, porque la compañía que esta detrás no tiene ninguna culpa de auto-inducirte una necesidad que no tenías minutos antes de que te llegara el mensaje, es culpa del malvado algoritmo que quiere que te emborraches ;).

Los algoritmos no piensan por sí solos, porque hoy en día no hay nada similar ni siquiera a una IA (por lo menos públicamente). Si el algoritmo de un sistema autónomo de conducción tiene que elegir entre atropellar a una peatón o salvar la vida de los integrantes del coche, no lo va a hacer bajo parámetros humanos, si no bajo parámetros y mecánicas estadísticas introducidos por sus programadores, donde seguramente podría primar la seguridad de los integrantes del coche ¿que estúpida compañía automovilística va a vender un coche que no te protege? ¿de verdad quieres que una máquina decida sobre si matas o no a una persona con tu coche?

Recordás la escena de "Yo robot", la película donde el prota estaba enfadado con los androides, porque decidieron salvarle a el de un accidente de coche, donde también hay una niña pequeña, el androide decidió que la niña solo tenia un 2% de posibilidades de sobrevivir, pues es solo un pequeño ejemplo de las decisiones que las máquinas tomarán por nosotros si continuamos la tendencia de delegarles todo.

Quien me conozca sabe que no soy ningún tecnófobo, más bien lo contrario, pero los sentimientos es lo que nos hace humanos, y aunque nos hacen a veces inestables e imperfectos son parte de nosotros, no valorar esta variable y permitir a las máquinas que juzguen la sociedad y la vida humana bajo parámetros matemáticos, es un error que más tarde o más temprano nos pasará factura.

Los algoritmos manejan hoy en día casi cualquier parámetro de la sociedad, la automatización de las tareas que se delega en ellos, va desde el precio que puede obtener en bolsa un artículo, hasta la cotización de algo tan importante como el pan. Los algoritmos son el empleado perfecto, no se quejan, no cuestionan, no desobedecen, no comen, no hacen huelgas, solo tienes que pagar la factura de la luz y ya puedes explotarles a tu gusto.

¿Que quieres cargarte un objetivo militar en medio de una multitud de civiles? ¡no problem! el algoritmo mandara al dron la coordenada, disparara, y si falla y da a algún civil, pues son "daños colaterales" o "fallo del algoritmo". ¿Que los algoritmos deciden que hay riesgo de fuga de capitales y te bloquean el dinero del banco? ¿Que los algoritmos deciden que mediante a tus datos biométricos y médicos no eres una persona de fiar para tener un seguro?, pues nada, ya sabes que es lo que te toca.

Los algoritmos juzgan y deciden nuestras vidas, en base a parámetros que no podemos ni imaginar, y entonces me pregunto, si los partidos políticos se presentan con su programa (aunque no lo cumplan) ¿donde esta el código de estos seudo-dioses que todo lo saben y todo lo deciden?.

Puppetmaster - 28/03/2018