El lenguaje del pensamiento

De tiempo en tiempo, Manuel Bedia (un extraordinario ingeniero de informática, físico y filósofo) y yo mantenemos rápidas conversaciones cuando nos cruzamos en algún evento de las que salgo entusiasmado a investigar las pistas que me sugiere. El otro día, en Zaragoza, fue acerca de su interés por los bots, o programas de software que realizan tareas muy repetitivas en la red, y que están influyendo en múltiples aspectos de cómo la web configura nuestra sociedad. Uno de los usos, como ha sido magnificado recientemente en la prensa, es el distribuir mensajes a través de las redes, y especialmente Twitter. Muchos de estos mensajes son de carácter político y pueden afectar de manera sensible a la opinión pública. El otro tema del que hablábamos era sobre los Premios Loebner, que cada año se convocan para premiar al sofware que engañe durante más tiempo a un jurado acerca de si están hablando con una máquina informática o una persona. Por último, la reciente muerte de Jerry Fodor, el filósofo de la mente más importante de las últimas décadas, me lleva a escribir esta rápida nota sobre las relaciones entre la Inteligencia Artificial y el lenguaje humano cuya fama se originó en su libro de 1978 El lenguaje del pensamiento.

En 2014, ganó el premio un programa simulando un adolescente de trece años con no muy buen dominio del inglés. Los jueces fueron incapaces de determinar si estaban hablando con una máquina o un adolescente que iba a su bola y se callaba o se iba por los Cerros de Úbeda, exactamente como suele ocurrir en ocasiones con las conversaciones entre padres e hijos de esta edad. El supuesto mal control de la lengua en la que se formulaba el test explicaba a los jurados el resto de problemas de interacción. Este programa daría para escribir mucho sobre él, pero ya nos da una idea de cómo el Test de Türing, usado como test de investigación nos puede servir para investigar mucho sobre la interacción humana en la conversación. En particular, sobre los aspectos contextuales, los sobreentendidos, las estrategias de pregunta y respuesta, el conocimiento común del mundo y otros aspectos que están incluidos en lo que se denomina el "Problema del Marco", que se refiere a los límites de lo que se puede resolver en Inteligencia Artificial mediante rutinas incorporadas al programa.

En 2013, 2016 y 2017 ha ganado el premio Mitsuku, un chatbot diseñado para mantener interacciones conversacionales, e incluso para crearse algo así como un "amigo virtual" que, de hecho, es una máquina. Los chatbots son bots creados para interactuar en pequeñas conversaciones, por ejemplo en Twitter, convirtiéndose así en una poderosa herramienta de uso comercial o político, habida cuenta de la importancia que tienen estas redes en nuestra vida cotidiana. Los bots, en general, y en particular los chatbots están basados en eficaces programas que indexan términos y van creando respuestas que tienen que ver con los racimos de palabras que han sido indexadas, y que generalmente corresponden a un campo semántico. De esta manera se pueden predecir muchas cosas, por ejemplo las tendencias que se producen en la red respecto a ciertos temas. Los chatbots, por su parte, pueden usarse para engañar a los usuarios pensando que están interactuando con una persona. Cuando yo inicié este blog, hace casi diez años, y permitía comentarios sin control, un par de veces me puse a responder a mensajes que habían sido emitidos por bots (caiga la vergüenza sobre mí).

Marta Peirano, en un informativo artículo publicado en ElDiario.es hace unos días, explicaba muy bien como las granjas de trolls son ya empresas especializadas en el uso de bots y chatbots ordenadas a manipular las redes sociales de acuerdo a los intereses de las empresas, partidos o estados contratantes. Su libro, El pequeño libro rojo del activista en red es muy recomendable para entender los mecanismos de control que actualmente proliferan en la red y cómo invaden nuestra intimidad. Lo que no implica que haya que volverse conspiranoico o derrotista acerca de las posibilidades de resistir estas invasiones. El caso del reciente fracaso de los centros de inteligencia españoles para detectar los movimientos y estrategias de los organizadores del proces de independencia catalana, muestran cómo un uso inteligente del lenguaje puede engañar a la IA. Basta con hablar con sobreentendidos y pactando previamente relatos que no tienen nada que ver en superficie con lo que realmente transmiten. El terrorismo de nuevo cuño usa habitualmente estas técnicas para escapar a los aparentemente omnipotentes sistemas de vigilancia informática.

Esta larga introducción sobre los bots viene a cuento de que me interesaba tratar precisamente de lo que no he hablado hasta este momento: cómo toda esta parafernalia tecnológica nos enseña mucho más de lo que parece sobre lo que es la pragmática del lenguaje humano y sobre la sociología del lenguaje en el mundo virtual de la red. Que la red no es neutra y que modula y configura nuestros hábitos lingüísticos, es algo de lo que deberíamos ser conscientes y comenzar a pensar con cuidado. Las restricciones que imponen las redes sociales en el uso del lenguaje, y en  particular Twitter, está teniendo un efecto notorio sobre nuestros hábitos conversacionales y en particular sobre nuestros hábitos de discusión y argumentación. No es ni malo ni bueno, lo que importa es cómo estos nuevos patrones terminan configurando el modo en que pensamos (de ahí mi título ambiguo de esta entrada, "El lenguaje del pensamiento" en homenaje a Fodor). Por ejemplo, algo que ya ha sido notado, la aparición del fenómeno del zasca al que se están volviendo tan adictos los medios de comunicación,  y que está convirtiéndose en un penoso mal ejemplo de lo que tendría que ser una conversación deliberativa.

Hay otros fenómenos mucho más preocupantes producidos por el empobrecimiento deliberativo que generan las redes, en particular los fenómenos de rápida polarización en las posiciones respecto a ciertos temas de índole social o política. La polarización suele ser un fenómeno que se da debido a nuestros sesgos cognitivos cuando entramos en discusiones, pero el grado en el que se produce en las redes es un salto cualitativo respecto a su ocurrencia en las discusiones diarias o en la esfera pública. La polarización es ya un fenómeno estratégico que es empleado políticamente con eficacia para borrar las zonas grises donde realmente están las verdaderas causas y razones de los conflictos. La generación artificial de blancos y negros es un instrumento potente de poder político y social. La resistencia a la polarización es, desgraciadamente, cada vez más difícil debido al patrón de interacción en las redes. Y de nuevo volvemos a los chatbots. Si son tan efectivos es precisamente porque colonizan nuestros hábitos de conversación, aprovechan nuestros sesgos cognitivos y generan posiciones y agrupamientos que han sido inducidos artificialmente.

Para terminar: la epistemología y la filosofía del lenguaje son dos disciplinas que hasta hace poco estaban encerradas en círculos muy técnicos académicos, pero que el nicho ecológico de la web ha convertido en ciencias de uso estratégico. Hasta ahora para el poder. Esperemos que también para la resistencia. (Continuará...)