Un droide en el jardín

El jueves participaba en una mesa redonda organizada en la Escuela Técnica Superior de Ingenieros de Madrid sobre cómo la Inteligencia Artificial modelará nuestro futuro. Otro debate sobre transhumanismo y la nueva prospectiva sobre la tecnología que nos invadirá. Se discutía mucho de AlfaGo Zero, el programa automático creado para desarrollar capacidades de juego en el nivel de maestro en go y ajedrez. Está formado por dos redes neuronales que aprenden rápidamente (en 100 partidas) sin tener almacenado previamente ninguna base de datos de jugadas anteriores. Impresionaba mucho que hubiese alcanzado un nivel como para ganar a campeones de go y ajedrez habiendo aprendido a jugar en unas cuantas partidas.  Se planteaban los escenarios posthumanistas de Kurzweil sobre la llegada de la Singularidad, cuando la Inteligencia Artificial supere a la de la máquina y qué significaría. La discusión, por suerte (al fin y al cabo los ingenieros son gente muy sensata) derivó hacia cuestiones más filosóficas e interesantes sobre responsabilidad jurídica, moral y sobre identidad en un horizonte de aplicación masiva de estos objetos nuevos, que podríamos llamar "droides" para usar el término de StarWars. 

Véanse algunas predicciones como las que hace Klaus Schwab, empresario fundador del Foro Económico Mundial en su famoso libro sobre La Cuarta Revolución Industrial (curioso y divertido el prólogo de Ana Botín, presidenta del Banco de Santander, hablando sobre ética y tecnología). Pues bien, anuncia que para 2025 --pasado mañana-- se pueden anticipar con cierta probabilidad estos cambios: 

El 10% de las personas usarán ropa conectada a internet/El 90% de la gente tendrá almacenamiento ilimitado y gratuito (patrocinado mediante publicidad)/Un billón de sensores estarán conectados a internet/ Primer farmacéutico robótico en Estados Unidos/El 10% de las gafas de lectura estarán conectadas a internet/El 80% de las personas tendrán presencia digital en internet/El primer automóvil impreso en 3D estará en producción/ Primer gobierno que sustituirá su censo poblacional por uno basado en el Big Data/Primer teléfono móvil implantable disponible comercialmente/El 5% de los productos de consumo estarán impresos en 3D/El 90% de la población utilizará teléfonos inteligentes/El 90% de la población tendrá acceso regular a internet/Los automóviles sin conductor serán el 10% de todos los vehículos en las carreteras de Estados Unidos/ Primer trasplante de un hígado impreso en 3D/El 30% de las auditorías corporativas serán realizadas mediante inteligencia artificial/Primera vez que un gobierno recaudará sus impuestos utilizando blockchain/Más del 50% del tráfico de internet en los hogares será para electrodomésticos y dispositivos/ En general, habrá más viajes en vehículo compartido que en coches privados/Primera ciudad con más de 50.000 personas que no tendrá semáforos/El 10% del producto interior bruto global se almacenará con tecnología blockchain/Primera máquina de inteligencia artificial en una junta directiva 

Por supuesto, todo esto viene acompañado de una enorme parafernalia de advertencias de cómo hay que adaptar los entornos socioeconómicos para poder competir y sobrevivir en la nueva economía 4.0, o sea, un programa político de más neoliberalismo bajo el gran argumento de inevitabilidad de los cambios que van a introducir las nuevas tecnologías (por cierto, la segunda predicción sobre el almacenamiento ilimitado y gratuito, después del anuncio del fin de la neutralidad de la red y su pronta conversión en negocio la veo poco probable).

Que el cambio tecnológico está transformando la economía parece claro. Sufrimos tiempos de lo que se llaman "tecnologías intersticiales", tecnologías que transforman a todas las demás, como ocurrió con el vapor, la electricidad y la microinformática en tiempos pasados. Son tiempos donde se producen cambios de paradigma que transforman la economía y terminan reorganizando los modos de funcionamiento del capitalismo, por lo que no es extraño que aparezcan estos anuncios que preparan ideológicamente para las nuevas formas de control. Dejaremos para otro día el comentario de este nuevo aparato de propaganda. Volviendo a las discusiones en la mesa redonda, querría traer aquí tres puntos para los que, ciertamente, hay que preparar nuestros sistemas jurídicos e incluso educativos:

1. La responsabilidad en un mundo de droides: ¿quién será responsable de los accidentes que provoquen ocasionalmente los droides que tomen decisiones? Pensemos en automóviles autónomos, en sistemas de decisión económica, armas con decisión automática, etc.
2. La sensibilidad al estado personal. Uno de los casos que discutió la especialista en derecho informático fue el de los programas que toman automáticamente decisiones económicas. Por ejemplo, la concesión de préstamos en compañías telefónicas, que ya son automáticos. Mientras que el programa trabaja con perfiles del pasado, nuestra vida cambia continuamente. Programas de previsión sanitaria, de seguros, de perfiles policiales, ... No son pocos los malentendidos que ocurren en las fronteras cuando alguien es mal-catalogado como terrorista potencial por un sistema automatizado.
3. La privacidad de los datos: si nuestros teléfonos y datos personales son ahora ya vendidos a diferentes compañías, podemos imaginar lo que ocurrirá cuando las grandes bases almacenen nuestros datos de salud, nuestros currículos (dentro de muy poco no se necesitará presentar un currículo, el sistema lo generará explorando la red en pocos segundos), nuestros perfiles bancarios, etcétera. No es sólo un problema de si saben o no lo que hacemos, que lo saben, claro, sino de lo que hacen con ese conocimiento. 
4. Nuestras identidades personales cuando los lazos emocionales con droides sean tan fuertes o mayores que con animales o personas. Posiblemente los robots de compañía terminen haciendo más compañía a gente mayor que familiares que se acercan a ellos con un aburrido sentido de la obligación (por no hablar del nuevo gran negocio en perspectiva, los robots de compañía sexual).
5. Los posibles derechos de los droides. No es una cuestión banal. Los programas de IA son objetos que hacen proliferar el conocimiento y la inteligencia en nuestro entorno y que ya tienen muchas de las propiedades de los seres vivos. Ahora que comenzamos a tener cierta sensibilidad hacia las formas de vida y el respeto por ellas, y la inflicción de daños innecesarios, es un buen momento para pensar en cómo convivir con nuevas formas de inteligencia, la mayoría de ellas muy alejadas de las formas humanas, pero con niveles nuevos de autonomía. En un nuevo pensamiento ecológico, no bastará la solidaridad con las formas biológicas de vida, también habrá que incluir las no biológicas.

Hay muchos más puntos que hay que comenzar a pensar con cuidado. Las transformaciones educativas, por ejemplo: ¿Cómo proteger la búsqueda del conocimiento y la sabiduría, el estímulo de la curiosidad y la creatividad en un mundo de fácil acceso a la información? O los cambios en nuestra socialidad y planes de vida, como los que anticipa Remedios Zafra en su nuevo y maravilloso libro El entusiasmo, precariedad y trabajo creativo en la era digital. Quizás debamos repensar las propias ideas de identidad para incluir por abajo a los droides y por arriba a los nuevos sujetos colectivos en red, como propone últimamente Javier Echeverría. Ya no es posible pensar la tecnología sin la economía, la política, la epistemología y la ética. Como siempre ha ocurrido, sólo formas fuertes de ciudadanía, de control democrático del poder y de control democrático de la economía, de reparto justo de las capacidades y posibilidad de planes de vida puede hacer este mundo vivible bajo los horizontes de una nueva diversidad de cultura material. Cualquiera de los puntos anteriores implica profundas transformaciones jurídicas, institucionales y educativas. Pero la dirección, me parece, lleva a sendas divergentes de las que piensan los poderes socioeconómicos actuales, los Schwab y Botin de turno. Estamos a tiempo de contener las nuevas formas de barbarie.