Elegir no siempre es decidir: ¿se puede regular la manipulación?

Aunque las decisiones parecen libres, son orientadas por algoritmos y estrategias de diseño en pos de acaparar nuestro tiempo, atención y dinero, mientras socavan nuestra autonomía y agencia.

Por Valentin Muro 

 

En Internet todo parece empujarnos para un lado u otro. Pongo un video y la primera publicidad intenta convencerme de abandonar mi vida por otra en la que ganaría más dinero con menos esfuerzo. Abro una página, no importa cuál, y el botón para cerrarla en realidad conduce a un laberinto de opciones que solo me hace más creativo para calificar a las madres de quienes la diseñaron. Recibo un correo con un asunto alarmante que, unas líneas después, indica que el único riesgo que corro es no aprovechar una oferta bancaria.

Todos estos ejemplos apuntan a modificar mi conducta, pero no lo hacen de la misma forma. La publicidad puede ser persuasiva sin mentir, el botón puede ser engañoso pero no obligarme a nada, y el correo puede secuestrar mi atención sin que se viole alguna regla. Coerción, mentira, engaño y manipulación amenazan nuestra autonomía de distintas formas, pero la manipulación es probablemente la más difícil de definir. Solemos aceptarla como parte de la vida cotidiana.

Cass Sunstein, durante años uno de los académicos del derecho más citados del mundo, dedicó su carrera a entender cómo conviene, o no, influenciar el modo en que nos comportamos. Junto con el economista Richard Thaler popularizó en Nudge (2008) el “empujoncito”, una forma de orientarnos en cierta dirección en virtud del modo en que se nos presentan las opciones. Esta idea hizo furor y trascendió las ciencias del comportamiento hasta llegar al diseño de políticas públicas en Argentina y el resto del mundo.

Este “paternalismo libertario” supone una forma de intervención que, aunque intenta orientar las decisiones de las personas, procura no restringir su libertad de elección. Es decir, un nudge o empujoncito no obliga ni oculta, sino que organiza una decisión para ayudar a que las personas elijan de acuerdo con sus propios intereses.

Al organizar una decisión, argumentan, debe identificarse qué alternativa resulta más beneficiosa para decidir qué aspectos hacer más visibles, sencillos o automáticos. Pero ese mismo conocimiento puede aprovecharse para que tomemos decisiones que nos perjudican y benefician a otro: suscripciones que se contratan con un clic y luego requieren un ritual chamánico para cancelarlas.

  

Manipulación y autonomía

En Manipulation (2025), uno de los cinco libros que publicó el año pasado, Sunstein se detiene precisamente en esa distinción. El libro abraza el imposible desafío de definir en qué consiste la manipulación para distinguir entre aquellas intervenciones que respetan nuestra capacidad de elegir de las que nos vuelven un títere de quien diseñó esa situación. Con el objetivo último de un “derecho a no ser manipulados”, Sunstein debe ser cuidadoso con no demonizar a la influencia misma, en cambio hurgando en los detalles que hacen la diferencia.

Según su definición, la manipulación es una influencia que “no respeta la capacidad de elegir de manera reflexiva y deliberada”. En esto se diferencia de la coerción, que modifica una conducta mediante una amenaza; la mentira y el engaño, que introducen creencias falsas; y la persuasión, que opera mediante razones que la otra persona puede considerar. La manipulación, en cambio, intenta evitar cualquier deliberación hacia una decisión, desviando nuestra atención o induciendo creencias falsas, como ocurre con los deepfakes, que operan simultáneamente como mentira y manipulación.

La distinción importa porque explica la sospechosa legalidad de las plataformas digitales: los detalles se encuentran en términos y condiciones imposibles de leer, la opción que buscamos está, pero en un diminuto tamaño que pasamos por alto, el botón de cancelar tiene el color correspondiente a aceptar, o los pasos son tan rebuscados que abandonamos en la mitad. Técnicamente, dice uno acomodándose los lentes, las personas tienen presentes las opciones que conservan su libertad. Pero prácticamente, le respondemos, los recorridos están diseñados para que no podamos ejercerla.

Nada de ingenuidad o inocencia hay en todo esto. Muchos de los hallazgos de las ciencias del comportamiento, como los presentados en Nudge, moldearon explícitamente muchas de las decisiones de diseño de las plataformas digitales. En su libro, Sunstein enumera prácticas que se aprovechan de esto: opciones aceptadas por defecto, precios que solo aparecen completos al final de la compra y servicios fáciles de contratar pero difíciles de cancelar. Los usuarios sabemos lo que pasa, pero nos gana el cansancio, la falta de atención o la urgencia y no nos queda otra que ceder.

   

Camino a la dignidad

Existen varias razones para oponerse a la manipulación, sigue Sunstein, pero podemos simplificarlas mediante su relación con dos tradiciones éticas: la deontológica y la utilitarista. Siguiendo a Kant, podemos evaluar qué tipo de trato recibe la persona manipulada y cuánto se respeta su capacidad de decidir. Siguiendo a John Stuart Mill, en cambio, nos detendríamos en los efectos de la manipulación sobre el bienestar. Aunque Sunstein se inclina por la segunda, ambas perspectivas nos permiten juzgar por qué una intervención manipuladora resulta objetable: una se concentra en el modo en que se tomó una decisión, la otra en las consecuencias para quien decide.

Podemos ser manipulados sin que nos produzca una pérdida concreta aparte de nuestra dignidad, pero también podemos perder tiempo y dinero, entre otras cosas, sin vivirlo como una ofensa. Y a veces, también, podemos perder tiempo y dinero quedándonos con la sensación de que nos pasaron por arriba antes de que nos pudiéramos dar cuenta.

El libro desde el principio anticipa la propuesta de un derecho a no ser manipulado. Este obliga a empresas y gobiernos a asumir una responsabilidad que ya no puede recaer exclusivamente sobre los individuos. Dicha responsabilidad de no ser manipulados ya no estaría entonces de nuestro lado, con la exigencia de entrenar técnicas para evitar la manipulación, sino del lado de quienes ahora deberían justificar la arquitectura de las decisiones que presentan. En pocas palabras, este derecho apunta a desterrar la pregunta acerca de si existía cierta opción en favor de una explicitación del consentimiento, comprensión y oportunidades razonables de rechazarla.

Este derecho, sin embargo, podría tener tal amplitud que haría difícil o demasiado abarcativa su aplicación: si toda comunicación discrimina entre cierta información, se apoya en cierto tono y busca producir cierto efecto, una prohibición general de la manipulación podría abarcar desde una plataforma digital hasta cualquier campaña política, una película o incluso una discusión familiar.

  

Es un poco más complejo

Este problema no se resuelve con definiciones más específicas, porque la manipulación depende de las intenciones, el contexto, cuán vulnerable es una persona y cuál es la relación de poder entre ambas partes.

El propio Sunstein distingue entre el derecho moral y su expresión legal. Como principio, el derecho a no ser manipulado permite juzgar una miríada de influencias abusivas, pero una regulación aplicable necesita un terreno más acotado: acuerdos obtenidos sin comprensión suficiente, costos ocultos y mecanismos que podrían resultar en aceptar algo que no queremos. Mientras que las intenciones pueden ser equívocas, la falta de consentimiento y el daño producido ofrecen criterios más compatibles con el sistema legal.

El libro, de todos modos, es un punto de partida. Sunstein repite numerosas veces que no considera a la manipulación un comportamiento siempre condenable, e incluso señala que puede ser parte de interacciones amorosas y saludables. Es por esto que su propuesta de un derecho a no ser manipulado sirve de orientación no solo para pensar mejor el tipo de cosas que aceptamos sin cuestionar, sino también para denunciar la proliferación de asimetrías deliberadamente construidas.

  

La IA y el algoritmo

Desde la primera línea del libro, literalmente, Sunstein habla también de inteligencia artificial y su capacidad manipuladora. En particular, destaca cómo la capacidad computacional de adaptar la experiencia a cada persona vuelve a ciertas herramientas máquinas perfectas de influencia y manipulación. Estos sistemas pueden apoyarse en nuestras preferencias y vulnerabilidades tanto para afinar recomendaciones como para orientar nuestras decisiones de maneras poco evidentes. La diferencia entre una ayuda personalizada y un mecanismo de manipulación a medida solo depende de quién fija el objetivo y si este se alinea con los del usuario.

No hay mejor momento que este para hablar sobre manipulación, defiende Sunstein, y lo compara con el derecho a la privacidad propuesto por Samuel Warren y Louis Brandeis en 1890. Aquel tampoco nació con límites bien establecidos, sino que sirvió para ponerle nombre a algo que las categorías de la época no lograban describir. Nombrar un derecho puede reorganizar la discusión pública antes de que exista una respuesta jurídica única.

El hastío de la manipulación es más fácil de reconocer que la manipulación misma, pero no existe motivo por el cual nuestra naturalización del fenómeno deba ser aceptado sin más. Los espacios de decisiones que habitamos son moldeados deliberadamente para orientarnos en una dirección u otra.

Aunque las fronteras de la manipulación sean difíciles de trazar, detenernos en la naturaleza de nuestras decisiones cotidianas, y en el modo en que se instrumentan, es un desafío que ya podemos abordar.

Valentin Muro