Ir al contenido principal

La falsa promesa de ChatGPT

Noam Chomsky, reconocido lingüista y filósofo escribió un artículo junto a dos especialistas, en el que compartió su visión sobre los avances que se han presentado en el campo de la inteligencia artificial, como los casos de ChatGPT y DALL-E. Según las declaraciones de los especialistas, el defecto más profundo de estas herramientas es la falta de capacidad crítica, lo que los hacen caer en declaraciones extremistas y controversiales, en medio de un escenario donde podrían ayudar a potenciar la ya alta cantidad de fake news y alborotadores del mundo digital. A través de varios ejemplos, el experto razona que ChatGPT y similares tienen como principal problema en que no pueden ir más allá de la descripción y la anticipación de ciertos contenidos. Se trataría simplemente de "un pesado motor estadístico de comparación de patrones, que se atiborra de cientos de terabytes de datos y extrapola la respuesta conversacional más probable o la respuesta más probable a una pregunta científica". Aquí la nota completa, donde se explica porqué se enuncia que la variante más destacada de la inteligencia artificial codifica una concepción errónea del lenguaje y el conocimiento.

Por Noam Chomsky, Ian Roberts, Jeffrey Watumull


Jorge Luis Borges escribió una vez que vivir en una época de grandes peligros y promesas es experimentar tanto la tragedia como la comedia, con “la inminencia de una revelación”, para entendernos a nosotros mismos y al mundo. En la actualidad, los avances supuestamente revolucionarios de la inteligencia artificial son motivo tanto de preocupación como de optimismo. Optimismo porque la inteligencia es el medio con el que resolvemos problemas. Preocupación porque tememos que la variante de la inteligencia artificial más popular y de moda (el aprendizaje automático) degrade nuestra ciencia y envilezca nuestra ética al incorporar a nuestra tecnología una concepción fundamentalmente errónea del lenguaje y el conocimiento.

ChatGPT de OpenAI, Bard de Google y Sydney de Microsoft son maravillas del aprendizaje automático. A grandes rasgos, toman enormes cantidades de datos, buscan patrones en ellos y se vuelven cada vez más competentes a la hora de generar resultados estadísticamente probables, como un lenguaje y un pensamiento de apariencia humana. Estos programas han sido objeto de elogio por ser los primeros destellos en el horizonte de la inteligencia artificial general, ese momento tan profetizado en el que las mentes mecánicas superan a los cerebros humanos no solo cuantitativamente en términos de velocidad de procesamiento y tamaño de memoria, sino también cualitativamente en términos de perspicacia intelectual, creatividad artística y cualquier otra facultad distintiva del ser humano.

Ese día llegará, pero aún no ha visto la luz, al contrario de lo que se lee en titulares hiperbólicos y de lo que se calcula mediante inversiones insensatas. La revelación borgiana de la comprensión no se ha producido ni se producirá —y, en nuestra opinión, no puede producirse— si los programas de aprendizaje automático como ChatGPT siguen dominando el campo de la inteligencia artificial. Por muy útiles que puedan ser estos programas en algunos ámbitos concretos (pueden ser útiles en programación informática, por ejemplo, o para sugerir rimas para versos ligeros), sabemos por la ciencia de la lingüística y la filosofía del conocimiento que difieren en gran medida de la manera en que los seres humanos razonamos y utilizamos el lenguaje. Estas diferencias imponen limitaciones significativas a lo que estos programas pueden hacer, codificándolos con defectos imposibles de erradicar.

Resulta a la vez cómico y trágico, como podría haber señalado Borges, que se concentren tanto dinero y atención en algo tan insignificante, algo tan trivial comparado con la mente humana, la cual, a fuerza de lenguaje, en palabras de Wilhelm von Humboldt, puede hacer un “uso infinito de medios finitos”, creando ideas y teorías de alcance universal.

A diferencia de ChatGPT y sus similares, la mente humana no es una pesada máquina estadística de comparación de patrones, que se atiborra de cientos de “terabytes” de datos y extrapola la contestación más probable en una conversación o la respuesta más probable a una pregunta científica. Por el contrario, la mente humana es un sistema sorprendentemente eficiente, e incluso elegante, que funciona con pequeñas cantidades de información; no busca inferir correlaciones brutas entre puntos de datos, sino suscitar explicaciones.

Por ejemplo, un niño pequeño que aprende un idioma está desarrollando (de manera inconsciente, automática y rápida a partir de datos minúsculos) una gramática, un sistema increíblemente sofisticado de principios y parámetros lógicos. Esta gramática puede entenderse como expresión del “sistema operativo” innato, instalado en los genes, que dota a los seres humanos de la capacidad de generar frases complejas y largos hilos de pensamiento. Cuando los lingüistas intentan desarrollar una teoría de por qué una lengua determinada funciona como lo hace (“¿Por qué se consideran gramaticales estas frases y no aquellas?”), están construyendo consciente y laboriosamente una versión explícita de la gramática que el niño construye por instinto y con una exposición mínima a la información. El sistema operativo del niño es completamente distinto al de un programa de aprendizaje automático.

De hecho, estos programas están estancados en una fase pre-humana o no humana de la evolución cognitiva. Su defecto más profundo es la falta de esa capacidad que es la más crucial de cualquier inteligencia: decir no sólo lo que es el caso, lo que fue el caso y lo que será el caso —eso es descripción y predicción—, sino, además, lo que no es el caso y lo que podría y no podría ser el caso. Esos son los ingredientes de la explicación, la marca de la verdadera inteligencia.

Pongamos, a continuación, un ejemplo. Supongamos que sostenemos una manzana en la mano. Dejamos ahora caer la manzana. Observamos el resultado y decimos: “La manzana cae”. Esa es una descripción. Una predicción podría ser la frase: “La manzana se caerá si abro la mano”. Ambas son valiosas y ambas pueden ser correctas. Pero una explicación es algo más: incluye no solo descripciones y predicciones, sino también conjeturas contrafácticas del género “cualquier objeto de este tipo caería”, más la cláusula adicional “debido a la fuerza de la gravedad” o “debido a la curvatura del espacio-tiempo”, o lo que sea. Eso es una explicación causal: “La manzana no habría caído de no ser por la fuerza de la gravedad”. Eso significa pensar.

El talón de Aquiles del aprendizaje automático se encuentra en la descripción y la predicción: no plantea ningún mecanismo causal ni leyes físicas. Por supuesto, cualquier explicación de tipo humano no es necesariamente correcta: somos falibles. Pero esto es parte de lo que significa pensar: para llevar razón, debe ser posible equivocarse. La inteligencia no sólo consiste en hacer conjeturas creativas, sino también críticas creativas. El pensamiento al modo humano se basa en explicaciones posibles y en la corrección de errores, un proceso que limita poco a poco las posibilidades que pueden considerarse racionalmente (tal como le dijo Sherlock Holmes al Dr. Watson: “Cuando hayas eliminado lo imposible, lo que quede, por improbable que sea, ha de ser la verdad”).

Pero ChatGPT y programas similares son, por su diseño, ilimitados en lo que pueden “aprender” (es decir, memorizar); son incapaces de distinguir lo posible de lo imposible. A diferencia, por ejemplo, de los humanos, que estamos dotados de una gramática universal que limita los idiomas que podemos aprender a aquellos con un cierto tipo de elegancia casi matemática, estos programas aprenden idiomas humanamente posibles y humanamente imposibles con la misma facilidad. Mientras que los humanos estamos limitados en el tipo de explicaciones que podemos conjeturar a nivel racional, los sistemas de aprendizaje automático pueden aprender tanto que la Tierra es plana como que es redonda. Se limitan a negociar con probabilidades que cambian con el tiempo.

Por esta razón, las predicciones de los sistemas de aprendizaje automático siempre serán superficiales y dudosas. Como estos programas no pueden explicar las reglas de la sintaxis de la lengua inglesa, por ejemplo, pueden predecir, erróneamente, que la frase “John is too stubborn to talk to” significa que Juan es tan terco que no habla con nadie (en lugar de que es demasiado terco como para razonar con él). ¿Por qué un programa de aprendizaje automático predeciría algo tan extraño? Porque podría establecer una analogía en el patrón que infirió a partir de frases como “John ate an apple” (Juan se comió una manzana) y “John ate” (Juan comió), en el que esta última significa que Juan se comió algo. El programa bien podría predecir que, como la frase “John is too stubborn to talk to Bill” (Juan es demasiado terco para hablar con Bill) es similar a “John ate an apple” (Juan se comió una manzana), “John is too stubborn to talk to” (Juan es demasiado terco para hablar) sería similar a “John ate” (Juan comió). Las explicaciones correctas de lenguaje son complicadas y no pueden aprenderse simplemente macerándolas en macrodatos.

Sin lógica alguna, ciertos entusiastas del aprendizaje automático parecen estar orgullosos de que sus creaciones puedan generar predicciones “científicas” correctas (digamos, sobre el movimiento de cuerpos físicos) sin recurrir a explicaciones (que impliquen, por ejemplo, las leyes del movimiento y la gravitación universal de Newton). Pero este tipo de predicción, aunque cuando tenga éxito, es pseudociencia. Aunque es cierto que los científicos buscan teorías que tengan un alto grado de corroboración empírica, como señaló el filósofo Karl Popper: “No buscamos teorías altamente probables, sino explicaciones; es decir, teorías poderosas y altamente improbables”.

La teoría de que las manzanas caen al suelo porque ése es su lugar natural (el punto de vista de Aristóteles) es posible, pero solo invita a plantearse más preguntas (¿por qué el suelo es su lugar natural?) La teoría de que las manzanas caen a la tierra porque la masa curva el espacio-tiempo (opinión de Einstein) es altamente improbable, pero en realidad te explica por qué caen. La verdadera inteligencia se demuestra en la capacidad de pensar y expresar cosas improbables pero lúcidas.

La verdadera inteligencia también es capaz de pensar moralmente. Esto significa ceñir la creatividad de nuestras mentes, que de otro modo sería ilimitada, a un conjunto de principios éticos que determinen lo que debe y no debe ser (y, por supuesto, someter esos mismos principios a la crítica creativa). Para ser útil, ChatGPT debe ser capaz de generar resultados novedosos; para ser aceptable para la mayoría de sus usuarios, debe mantenerse alejado de contenidos moralmente censurables. Pero los programadores de ChatGPT y otras maravillas del aprendizaje automático batallan, y seguirán haciéndolo, alcanzar este tipo de equilibrio.

En 2016, por ejemplo, el “chatbot” Tay de Microsoft (precursor de ChatGPT) inundó la Red de contenidos misóginos y racistas, tras haberse visto contaminado por “troles” cibernéticos que lo llenaron de datos de adiestramiento ofensivos. ¿Cómo resolver ese problema en el futuro? Al carecer de capacidad para razonar a partir de principios morales, los programadores de ChatGPT restringieron de manera burda la posibilidad de aportar algo novedoso a los debates controvertidos; es decir, importantes. Se sacrificó la creatividad por una especie de amoralidad.

Consideremos el siguiente intercambio que uno de nosotros (Watumull) mantuvo hace poco con ChatGPT sobre si sería ético transformar Marte para que pudiera albergar vida humana:

Nótese, a pesar de todo el pensamiento y lenguaje en apariencia sofisticados, la indiferencia moral nacida de la falta de inteligencia. Aquí, ChatGPT exhibe algo parecido a la banalidad del mal: plagio, apatía y obviedad. Resume los argumentos estándar de la literatura mediante una especie de “superautocompletado”, se niega a adoptar una postura sobre lo que sea, alega no solo ignorancia sino falta de inteligencia y, en última instancia, se defiende con un “solo cumplía órdenes”, trasladando la responsabilidad a sus creadores.

En resumen, ChatGPT y sus afines son constitutivamente incapaces de equilibrar la creatividad con la restricción. O bien generan de más (produciendo tanto verdades como falsedades, respaldando decisiones éticas y no éticas por igual) o generan de menos (mostrando falta de compromiso con cualquier decisión e indiferencia ante las consecuencias). Dada la amoralidad, la falsa ciencia y la incompetencia lingüística de estos sistemas, no podemos más que reír o llorar frente a su popularidad.

Noam Chomsky, Ian Roberts, Jeffrey Watumull

Noam Chomsky: profesor laureado de la Universidad de Arizona y catedrático emérito de Lingüística del Massachusetts Institute of Technology, es uno de los activistas sociales más reconocidos internacionalmente por su magisterio y compromiso político. Su libro más reciente es “Climate Crisis and the Global Green New Deal: The Political Economy of Saving the Planet”.

Ian Roberts: es Profesor de Lingüística del Downing College de la Universidad de Cambridge. Lingüista generativo, Se doctoró en la Universidad del Sur de California y ha sido profesor en las universidades de Ginebra, Bangor y Stuttgart.

Jeffrey Watumull: es director de Inteligencia Artificial de la empresa Oceanit, de Honolulu (Hawaii). Estudió Matemáticas y Biología Evolutiva en la Universidad de Harvard y se doctoró en Inteligencia Artificial en el MIT. Fuente:

The New York Times, Traducción: Lucas Antón

Fuente Sin Permiso







Texto expandido de la entrada

Texto expandido de la entrada




Lista de Temas:
1. ---
2. ---
3. ---
4. ---

Alineación:
- --- / ---
- --- / ---
- --- / ---
- --- / ---



Comentarios

Lo más visto de la semana pasada

Los 100 Mejores Álbumes del Rock Argentino según Rolling Stone

Quizás hay que aclararlo de entrada: la siguiente lista no está armada por nosotros, y la idea de presentarla aquí no es porque se propone como una demostración objetiva de cuales obras tenemos o no que tener en cuenta, ya que en ella faltan (y desde mi perspectiva, también sobran) muchas obras indispensables del rock argento, aunque quizás no tan masificadas. Pero sí tenemos algunos discos indispensables del rock argentino que nadie interesado en la materia debería dejar de tener en cuenta. Y ojo que en el blog cabezón no tratamos de crear un ranking de los "mejores" ni los más "exitosos" ya que nos importa un carajo el éxito y lo "mejor" es solamente subjetivo, pero sobretodo nos espanta el concepto de tratar de imponer una opinión, un solo punto de vista y un sola manera de ver las cosas. Todo comenzó allá por mediados de los años 60, cuando Litto Nebbia y Tanguito escribieron la primera canción, Moris grabó el primer disco, Almendra fue el primer ...

Ficción - Sobre La Cresta De La Ola (2006)

Y seguimos con Ficción y su rock sinfónico venezolano que ya hemos presentado oportunamente, aquí vamos con su segundo disco. Quizás menos inspirado que el primero, el disco entrega 8 temas nuevos, y 5 son instrumentales, y se nota la química y la gran interacción entre los músicos, entregando potencia y dinámica, porque si hay un baluarte histórico y oculto dentro del rock progresivo y sinfónico latinoamericano que decidió desafiar el paso del tiempo con una entrega de madurez y virtuosismo instrumental, ese es este emblemático grupo. "Sobre La Cresta De La Ola", los encuentra consolidando una propuesta que cruza el pulso clásico de las grandes catedrales sinfónicas de los setenta con la pegada enérgica del jazz-rock instrumental y la vanguardia. Hablamos de un disco donde la instrumentación toma el rol protagónico absoluto con una predominancia de temas donde el diálogo musical habla por sí solo, demostrando que la química de la banda seguía tan afilada como en sus mejor...

Akenathon - Peregrino (2010)

"Akenathon en vivo tiene ese aire místico mezcla con taller mecánico, la complejidad y la simpleza..." se ha dicho de esta buena banda platense, un álbum relativamente sencillo pero efectivo y sumamente ecléctico, donde conviven lo sinfónico, el rock, el tango, el blues, y mil cosas más, dando como resultado un álbum único, personal y muy bueno, ya que el grupo plasmó en este trabajo un sonido principalmente encuadrado en el rock progresivo y sinfónico, mechado con influencias del jazz, blues, matices de hard rock, sutiles pasajes folklóricos y baladas. Se los recomiendo mucho si aún no los conocen. Artista: Akenathon Álbum: Peregrino Año: 2010 Género: Eclectic Prog Nacionalidad: Argentina Vamos a recordar el primer álbum de Akenathón , una de las bandas que más empuje le viene dando a esta gran muestra de dinamismo y actividad que tiene hoy en día la ciudad de La Plata en cuanto la cultura prog. Y para quienes no los conozcan, Akenathon "La mística del ...

Ebb - Mad & Killing Time (2022)

Ayer trajimos su último disco así que recordamos su primer trabajo en nuestra sección de música desconocida pero muy recomendada. ¿King Crimson asociado con Pink Floyd y con elementos de soul y otros estilos, haciendo rock alternativo?. Continuamos con esta banda escocesa integrada casi exclusivamente por mujeres (cosa que en la música en general no se da habitualmente, dentro del rock menos y si hablamos del ámbito progresivo, muchísimo menos aún). En el 2022 lanzaron su único disco larga duración y lo presentamos en el blog cabeza especialmente porque me gusta mucho su música y su propuesta, un progresivo ecléctico con bastante de rock alternativo pero muy emocional (y seguramente el toque mágico de las chicas se hace sentir). Con una excelente voz femenina al frente, apoyada por excelentes instrumentistas, interpretando grandes temas, y cuando escuchas tanta música nueva como yo, se necesita algo realmente especial para destacar, y "Mad & Killing Time" es precisament...

Fulano - Lo Mejor (1996)

Y seguimos con nuestra saga de algo de lo mejor que ha dado Chile a la música universal, y recordamos al grupo de "fusión subversivo", uno de los mejores grupos que nos ha dado Chile, revolucionarios, talentosos, experimentales, lindando entre el rock progresivo, el jazz rock y el RIO, con Frank Zappa y Hermeto Pascoal como referencias principales, se dedicaron a la revolución cultural y con una postura ácida y contestataria en plena dictadura militar. Su arte fue reconocido mundialmente y han influido en gente como Mike Patton, por ejemplo. Fulano inventó uno de los sonidos más novedosos escuchados en la tradición de música chilena, con teclados, percusiones e instrumentos de viento como eje de su lenguaje, el sexteto se puso por encima de categorías, y encabezando la vanguardia. Sus discos nunca fueron masivos ni tuvieron éxitos comerciales, pero abrieron caminos insospechados en los sonidos hechos en Chile. Aquí con un recopilatorio de algunos de sus mejores temas hasta el...

Ciccada - The Finest Of Miracles (2015)

Revivimos otro discazo de estos geniales griegos (que ya hemos presentado y sorprendieron a más de un cabezón) en su última producción. Según nuestro eterno comentarista involuntario de siempre; esto es "El genial milagro de Ciccada para el rock progresivo de hoy en día". Un disco elegante, repleto de buen gusto, delicado, introspectivo, lleno de paisajes entre fastuosos y serenos y con un trabajo compositivo sublime. Les dejo el que es para mí y para muchos otros, uno de los mejores trabajos que salieron en aquel ya lejano 2015, folk rock progresivo con excursiones al jazz, a la más pura música popular folcklórica griega y hacia lo sinfónico del rock progresivo y rock de cámara. Un disco absolutamente exquisito, un material que inspira y desafía a la mente, así como al corazón y al alma. Artista: Ciccada Álbum: The Finest Of Miracles Año: 2015 Género: Folk progresivo / Rock Progresivo Ecléctico Duración: 46:43 Nacionalidad: Grecia Luego del gustazo que nos dier...

Bubblemath - Turf Ascension (2022)

Ora vez estos hermosos desgraciados...¿y quizás los Bubblemath sea la mejor banda actual de EEUU? yo creo que sí, o pega en el palo. Y seguimos con nuestra selección de los mejores discos desconocidos o casi. Aquí viene el último disco de esta tremenda banda que la verdad me alucina, con su música increíble. Una banda que actualmente es muy respetada, y la verdad no puedo pensar en ninguna otra agrupación que suene como ellos, creando una música que se eleva por encima de la norma. Cuatro canciones que en total duran casi 50 minutos sin desperdicio alguno, donde nunca se sabe adónde irán los sonidos en los próximos segundos, así que solo resta dejarse sorprender y disfrutar del viaje que nos regalan estos degenerados de la buena música. Hay mucho Gentle Giant, mucho King Crimson, algo de Zappa, más melódico que el disco anterior y menos enrevesado, pero sin perder nada del complejo encanto que al menos yo encuentro en esta música. En definitiva, otro de los grandes trabajos del 2022,...

Fulano - Animal en Extinción (2015)

Y seguimos con esta gran banda chilena, ahora con su último disco de estudio publicado, que cierra su último ciclo y su historia, que es la historia de la música en rebelión (rebelión hacia el sistema, hacia las convenciones, hacia las modas). Fulano es, en cierto sentido, más que una simple banda o agrupación de personas. Parece ser más una forma de comportamiento, un ethos que importa ir por un camino paralelo al usual. Su discurso antimilitar y antifascista fue un sello propio en la resistencia a la dictadura (por algo siempre hacemos referencias a ellos, y les tenemos tanta simpatía). Luego, tras el regreso a la democracia y sobre todo la muerte de su pianista Jaime Vivanco, la banda se disolvió para regresar a la escena en 2009, tras seis años, pero las desaveniencias escalonadas entre sus integrantes referenciales terminaron por llevar a su fin la historia de Fulano en 2015, dejando como legado este disco póstumo. Aunque será una historia terminada que jamás termina realmente, al...

MediaBanda - Dinero y Terminación Nerviosa (2007)

Seguimos con nuestra saga de los mejores discos chilenos y ya que hablamos de Fulano y de vanguardia chilena, ¿cómo dejar afuera a Mediabanda?. Aquí con su genial "Dinero y terminación nerviosa", un ícono de la buena música latinoamericana. Segundo trabajo discográfico de MediaBanda, disco doble con casi 90 minutos de música, un huracán sonoro en la escena chilena capaz de recoger el testigo iconoclasta de Fulano y llevar el avant-garde, el rock de cámara, el jazz fusión y la música contemporánea a un punto de no retorno. Hablamos de un álbum que funciona como un electrochoque a la masa encefálica: una sátira feroz al consumismo y al colapso de la neurosis urbana, condensada en un despliegue de energía técnica donde la elegancia de los vientos choca de frente con la furia del rock más descarnado, con una sección de vientos demoledora, polirritmias complejas y precisión de ensamble desplegando una paranoia urbana, una ironía ácida y catarsis esquizoide, un monumento a la orque...

Ciccada - A Child In The Mirror (2010)

Banda griega, una gran grata sorpresa en ese año. ¿Qué tenemos acá? 3 Teclistas (entre ellos hay Mellotron), una variedad de instrumentación barbara. Mucho estilo musical mezclado, influencias de música griega en pequeñas dosis, también algo mediterráneo, algo de folk prog, algo de sinfonismo, bastante de esa cosa indefinida que es el prog ecléctico y muy buenos adornos con estilo de música clásica. Es un disco con un muy buen balance de originalidad propia de la banda y de influencias que pasan por Anglagard, Renaissance, Jethro Tull, Gentle Giant y algo de Gryphon, entre otras cosas. Un disco bellísimo publicado en los primeros tiempos de este blog, con estos griegos demostrando cómo se puede imprimir sentimientos en sonidos, en un disco que perfectamente podría ser todo un clásico del género si hubiese sido creado en los 70s. No se pierdan esta maravilla del rock progresivo que está destinado a perdurar por su calidad musical y su buen gusto. ¡Ultra recomendado!!!   Artista: C...

Ideario del arte y política cabezona

Ideario del arte y política cabezona


"La desobediencia civil es el derecho imprescriptible de todo ciudadano. No puede renunciar a ella sin dejar de ser un hombre".

Gandhi, Tous les hommes sont frères, Gallimard, 1969, p. 235.