Las inteligencias artificiales y el CGAE

Las inteligencias artificiales no dejan de sorprenderme. Hoy he colocado en mi inteligencia de lenguaje natural la siguiente frase:

«La labor del Consejo General de la Abogacía Española es …»

Y he pedido a la inteligencia artificial que la complete. Es decir, la inteligencia artificial busca en sus bancos de datos frases que, añadidas a la por mí proporcionada, compongan un texto.

El resultado me ha dejado estupefacto y con la boca más que abierta pues, colocada la frase inicial, el texto que me ha devuelto la inteligencia artificial es el siguiente:

«La labor del Consejo General de la Abogacía Española es ilegal

El Tribunal Supremo ha dictado una sentencia en la que declara la ilegalidad de la labor del Consejo General de la Abogacía Española. Según el Alto Tribunal, el CGAE vulnera el derecho de asociación de los abogados y el derecho a la libertad de empresa.

El Tribunal Supremo ha dictado una sentencia en la que declara la ilegalidad de la labor del Consejo General de la Abogacía Española (CGAE). Según el Alto Tribunal, el CGAE vulnera el derecho de asociación de los abogados y el derecho a la libertad de empresa.

En concreto, el Supremo estima el recurso de un abogado contra el CGAE por considerar que la organización impide la libre competencia entre abogados. Asimismo, el Tribunal afirma que el CGAE vulnera el derecho de asociación de los abogados al obligarles a afiliarse a la organización.

El CGAE es una organización independiente que agrupa a todos los abogados de España. La sentencia del Tribunal Supremo podría suponer un cambio en la organización de la abogacía española y la posibilidad de que los abogados puedan afiliarse a la organización que consideren más adecuada.»

Obviamente me he quedado en estado de shock; no conozco ninguna sentencia que diga lo que dice la inteligencia artificial ni sé de dónde ha podido sacar la inteligencia artificial —o si simplemente se ha inventado— la sentencia que cita. Pero en ambos casos me deja en estupefacción:

Si la sentencia existe soy un ignorante, una sentencia así sería tan importante que todos deberíamos conocerla, si existe y no la conozco es evidente que debo dar las gracias a la inteligencia artificial por revelármelo; si, en cambio, la sentencia NO existe toda la teoría montada por la inteligencia artificial no puede sino ser motivo de admiración porque la tesis que construye no es despreciable «ab initio».

Pudiera ocurrir también que toda la construcción de la inteligencia artificial fuese una especie de «tertium genus» a caballo entre algo dicho en una sentencia y una interpretación concreta… lo cual sería una teoría creativa de primera magnitud.

¿Y tú qué piensas? ¿Existe o no existe la sentencia que cita la inteligencia artificial?

Inteligencias inteligentes

Esta mañana, trasteando con las inteligencias artificiales he pedido a mi IA de lenguaje natural que completase la siguiente frase:

«La justicia en España es …»

Y me ha dicho lo que veis en la imagen.

Estoy empezando a tomarle respeto a esto de las inteligencias artificiales.

Las fases del duelo tecnológico

Las fases del duelo tecnológico

Me aficioné al ajedrez desde joven y dediqué bastante tiempo a perfeccionarme en el juego. Para mí, en los años 70, el ajedrez era mucho más que un juego, era arte, pero no un arte cualquiera, era un arte objetivo donde no tenía cabida la superchería, la mentira o la impostura, era un arte donde la verdad siempre se acababa imponiendo.

A finales de los 70 ya habían aparecido en el mercado las primeras computadoras que jugaban al ajedrez, pero lo hacían tan mal que antes movían a risa que a otra cosa; ningún jugador medianamente aficionado podía perder contra ellas.

Con la aparición de los PC los programas para jugar al ajedrez se fueron haciendo más fuertes y, en algún momento de finales de los 80, ganarle a un ordenador comenzó a ser una dura tarea para un aficionado humano y ahí comenzó mi primer período de duelo tecnológico.

Primero comencé por la fase de negación: ningún manojo de cables podría ganarle nunca al ser humano. Había más partidas de ajedrez posibles que átomos en el universo, para poder ganar a un humano el ordenador tendría que aprender a jugar como lo hacían los propios humanos. Sí, quizá tácticamente, en pura fuerza bruta de cómputo, pudieran superar a la mente humana pero estratégicamente jamás lo harían: la humanidad había invertido siglos en ir descubriendo una a una las reglas estratégicas del juego, la centralización, la profilaxis, las casillas débiles y las estructuras de peones… ¿cómo iba a hacer eso un ordenador de otra forma que aprendiendo como un humano?

La negación fue, como en los duelos, mi primera reacción.

Cuando en 1996 el macroordenador Deep Blue derrotó al entonces campeón del mundo Gary Kasparov la negación fue sustituída por la ira, la segunda de las cinco fases del duelo.

Era evidente que aquello era una campaña publicitaria. Gary Kasparov había derrotado convincentemente a Deep Blue en algunas partidas y, justo en la partida decisiva, Kasparov cometió un infantil error teórico en una defensa Caro-Kann. Aquello me pareció un amaño, IBM necesitaba —como marca— pasar a la historia como la primera fabricante de computadoras en derrotar a un campeón del mundo de ajedrez. Me llevaban los demonios, con IBM, con Kasparov, con Deep Blue… Pero el hecho era que, para cualquier aficionado fuerte, a esas alturas, ganarle a un ordenador era ya una tarea verdaderamente dura. Que los ordenadores eran superiores a los humanos quizá no fuese del todo verdad en ese momento pero era ya solo cuestión de tiempo… y la ira dejó paso a la tercera fase del duelo: la negociación.

Porque, como decía Karpov, si los coches corrían más que los hombres y las calculadoras resolvían algoritmos mejor que los seres humanos ¿qué de malo había en que también nos ganasen jugando al ajedrez?

Tras aquello y durante unos años mi relación con el juego entró en fase de depresión, no recuperé las ganas de jugar hasta entrado el siglo XXI. La nochevieja de 2001 que pasé en Hastings (Inglaterra) jugando su legendario torneo me devolvió las ganas de volver a competir en torneos oficiales.

Y ahora, tras todas esas fases, vivo en la realidad, en esa fase que los teóricos del duelo llaman de aceptación; las cosas son así, es inútil negarlo, lo que corresponde es ver cómo sacamos los humanos el mejor partido de la nueva situación.

¿Y por qué les cuento esto?

Pues porque con las inteligencias artificiales que redactan textos, dibujan ilustraciones o generan fotografías, mucho me temo que puede pasarles a ustedes lo mismo que a mí con las inteligencias artificiales que juegan al ajedrez (Alpha-Zero).

Primero negaremos que nunca puedan hacer lo que hacen los humanos, luego nos enfadaremos, luego negociaremos y tras la correspondiente fase de ira acabaremos aceptando la situación y estudiando cómo los seres humanos podremos desenvolvernos en ese entorno, qué amenazas plantea, qué ventajas reporta y quiénes se están beneficiando del nuevo orden de cosas.

Yo te sugiero que admitas cuanto antes que, antes o después, las inteligencias artificiales realizarán mejor que los seres humanos muchas tareas y lo que te sugiero también es que te adelantes a esa situación.

Los cambios tecnológicos siempre han producido cambios en las relaciones de poder y esto ha sido así desde la más remota antigüedad. Quienes pudieron fundir y aprovechar el hierro fabricaron con él armas que eran casi irresistibles para los pueblos que aún vivían en la Edad del Bronce; el secreto del «fuego griego» permitió al Imperio Romano de Oriente resistir a los turcos hasta 1453; el dominio de la energía nuclear creó relaciones de poder entre los países que aún hoy día condicionan la supervivencia de la humanidad… Más que negarlo o enfadarnos lo que debemos hacer es tratar de prever cómo serán esos nuevos escenarios y adelantarnos a ellos en defensa de aquellos valores y principios que defendemos, porque, si no lo hacemos, otros que no defenderán valores ni principios sino su propio interés, lo harán en su propio beneficio.

Negar que las inteligencias artificiales y los algoritmos condicionan ya nuestras vidas y hasta restringen los derechos de los ciudadanos es una postura ingenua. Si eres letrado o letrada de oficio me entenderás.

Como sabes, en los casos de violencia de género, se realizan unos test de preguntas y respuestas en función de los cuales se determina el grado de peligrosidad de una determinada situación. ¿Te has preguntado qué algoritmo realiza la valoración de las respuestas? ¿Quién lo ha programado? ¿a qué criterios responde?

Si bien lo piensas ya no es el juez, ya no es un ser humano, quien determina la peligrosidad de la situación y todo ello con independencia de la mayor o menor corrección de las respuestas que se den al formulario.

Disponer de una inteligencia artificial que evalúe incluso los perfiles de los jueces no es ninguna fantasía, como tampoco es ninguna fantasía que de esa herramienta no dispondrán los más pobres, sino los bufetes ricos que sirven a clientes ricos y para entonces será tarde preguntarnos dónde quedó el principio de igualdad de armas. Unas pocas aseguradoras y unos pocos bancos disponen del dataset preciso para hacer funcionar el Big Data y entrenar inteligencias artificiales ¿cómo competirá el ciudadano individual que apenas si ya puede competir?

No, no podemos esperar a que la situación se produzca para entonces quejarnos; no podemos perder años atravesando las fases de negación, ira, negociación, depresión y aceptación que caracterizan al duelo; hemos de adelantarnos y cuidar de que cualquier nueva tecnología vaya en beneficio de todos y no de unos pocos.

Podemos hacerlo y sabemos hacerlo. Sólo es preciso, quizá, que queramos hacerlo antes que perdernos en la negación, la ira y la depresión.

Y, ahora, permítanme mi minuto de vanidad; sé lo que les cuento, a fin de cuentas yo fui quien se jugó la victoria en la ronda final del Masters Open de Benidorm 2004 contra el entonces campeón del mundo Rustam Kasimdzhanov.

Les dejo la fotografía del ya más que lejano momento.

Lenguaje artificial

Lenguaje artificial

Explorar el mundo de las inteligencias artificiales es apasionante. Hoy estoy enredando con GPT-3, una inteligencia artificial capaz de redactar textos a partir de una frase inicial utilizando lenguaje natural.

Para probarla he introducido, en inglés, el texto de uno de los primeros tuits que publiqué: «Los abogados a los que admiro no miden su éxtio en dinero» y el resultado ha sido este texto:

«The lawyers I admire do not measure their success in money or in wins in court. They measure it in the number of people they have helped and the difference they have made in their clients’ lives.

Some of the lawyers I admire most are public defenders. They work long hours for little pay, and they often face difficult odds in court. But they do it because they care about their clients and want to help them.

I also admire trial lawyers. They are often the underdog in court, but they never give up. They are passionate about their work, and they fight for their clients’ rights.»

Lo que, traducido al castellano utilizando la inteligencia artificial de Google Translate, resulta en:

«Los abogados que admiro no miden su éxito en dinero o en victorias en los tribunales. Lo miden en la cantidad de personas a las que han ayudado y la diferencia que han marcado en la vida de sus clientes.

Algunos de los abogados que más admiro son defensores públicos. Trabajan muchas horas por poco dinero y, a menudo, enfrentan dificultades en los tribunales. Pero lo hacen porque se preocupan por sus clientes y quieren ayudarlos.

También admiro a los abogados litigantes. A menudo son los desvalidos en los tribunales, pero nunca se dan por vencidos. Les apasiona su trabajo y luchan por los derechos de sus clientes.

No importa qué tipo de abogado sea, creo que es importante tener un fuerte sentido de la ética y anteponer siempre los intereses de sus clientes. Los abogados que hacen esto son los que marcan la mayor diferencia en la vida de sus clientes.»

Ustedes juzgarán qué tal redacta GPT-3 y si capta más o menos bien el sentido de los textos. Yo tengo no pocos reparos pero debo admitir que impresiona y que, por qué no decirlo, asusta bastante.

Ahora, para que todo quede dentro del mundo de lo artificial, ilustro el post con una imagen generada por otra inteligencia artificial (DALL-E-2) sobre el texto del tuit inicial.

Inteligencia artificial y abogacía española: una instantánea

Inteligencia artificial y abogacía española: una instantánea

Ando estos días experimentando con inteligencias artificiales y —cómo no— una de las primeras cosas que les he pedido es que me hagan una imagen de los abogados y abogadas de España.

Las inteligencias artificiales no copian ni modifican imágenes preexistentes, lo que sí hacen es estudiar tantos cuantos bancos de imágenes tengan disponibles —en eso internet es un filón inagotable— para entrenarse y así abstraer las características que definen los conceptos que se le piden.

Antes de que nadie lo pregunte aclararé que ninguna de las personas que aparecen en la imagen son reales; son rostros ficticios construidos por la inteligencia artificial a partir de lo que ella entiende que son rasgos característicos de quienes ejercen la abogacía en España. No sufran por tanto por derechos de imagen ni nada parecido aunque, eso sí, inquiétense por la capacidad que las inteligencias artificiales tienen para fabricar rostros humanos indistinguibles de los reales.

Con mi consulta he obtenido bastantes imágenes pero esta que ven abajo me ha impresionado más que las demás porque, lo que en ella se ve, creo que se ajusta bastante bien a la realidad de la abogacía española. Un grupo de mujeres jóvenes, profesionales cargan expedientes con rostro preocupado. Es llamativa la falta de sonrisas en la foto —se ve que en los bancos de datos de la inteligencias artificial las abogadas sonríen poco— y es palpable el rostro de preocupación de los tres personajes, sobre todo el de la derecha.

A las Inteligencias Artificiales aún les queda un largo camino que recorrer hasta que, en el futuro, cuando yo haga esta misma consulta, en lugar de personas la inteligencia artificiale muestre algoritmos; pero lo que es indudable es que el papel de las inteligencias artificiales será cada vez más preponderante en nuestro campo profesional y eso nos lleva a la gran cuestión.

Las inteligencias artificiales son algoritmos costosos de construir, programar y entrenar lo que significa que, con seguridad, serán herramientas en manos de un determinado tipo de abogados y no de otros y que estarán al servicio de un determinado tipo de clientes y no de otros.

Y esto no es ninguna particularidad de la justicia, el problema de que las inteligencias artificiales dominen al ser humano no es el riesgo real, el riesgo real es el de quiénes serán los que controlen las inteligencias artificiales, porque esas personas, en el futuro, como ocurrió con las armas en el pasado, constiturán una peligrosa élite de control.

Todas estas cuestiones son problemas que los juristas debemos plantearnos y resolver y no sólo porque en ellos vaya implícito nuestro futuro profesional sino porque de su resolución dependerá que la libertad y la igualdad aún sean posibles en los estados y las sociedades futuras.

Neuroderechos humanos

La esclavitud precedió a la palabra libertad, como la guerra precede a los tratados de paz y el crimen a los códigos penales. De igual modo el control de la mente humama se está desarrollando antes de que se desarrolle un derecho que nos proteja contra los abusos que pueden cometer con el resto de la humanidad aquellas personas que controlen tal tecnología.

En la actualidad, siete países mantienen programas públicos sobre el estudio del cerebro humano. Gigantes como Neuralink o Facebook también están invirtiendo miles de millones en idéntico sector de la ciencia. Descifrar cómo funciona el cerebro puede revolucionar las metodologías que utilizan en sus negocios, como la IA, que necesita alimentarse de datos humanos.

Un ser humano no es más que aquello que su memoria le dice que es. Eres quien recuerdas haber sido y, si ese recuerdo es cambiado, dejarás de ser quien eres para ser alguien diferente. Somos tan frágiles como eso, como unos simples recuerdos y, por eso, si olvidamos, aunque conservemos el resto de nuestras facultades, no seremos diferentes de aquel Adolfo Suárez que, habiendo olvidado todo, había olvidado incluso quién era él mismo. Tomamos decisiones en función de los datos que se nos suministran, quien controla el suministro de los datos controla nuestras decisiones y esto lo supieron enseguida las grandes instituciones que han pretendido controlar la vida humana, desde la Iglesia Católica y su prohibición del libre examen de los textos bíblicos, a las dictaduras más feroces que han buscado controlar todos los medios de comunicación, desde la imprenta, la radio y el cine, a la televisión e incluso las reuniones públicas.

Hoy la amenaza de este tipo de control es mucho más sutil pero incomparablemente más eficaz y peligrosa. Hoy empresas privadas como Facebook o Twitter pueden hacer cosas que jamás hubiese soñado el más feroz de los dictadores: silenciar al presidente de la nación más poderosa de la tierra y, de él abajo, cualquiera puede sufrir tal suerte. Y poco importa a estos efectos si el silenciado es un tipo como Trump, lo que importa es que pueden silenciarlo sea quien sea.

Más importante que la decisión de silenciar es la de suministrarnos una información determinada y no otra, suministro que, controlado por algoritmos de inteligencia artificial y datasets de big data, resulta asombrosamente eficaz. Amazon y Facebook conocen tus gustos mucho mejor de lo que tú mismo los conoces y ese conocimiento se amplía diariamente.

Ahora, a todas esas realidades, vienen a sumarse iniciativas en el campo de la neurociencia que permiten que, más allá de la práctica médica, las neurotecnologías no invasivas en personas sanas puedan destinarse a la defensa, la educación, o el entrenamiento y potenciación de las capacidades cognitivas e intelectuales, por ejemplo a través de una interfaz cerebro-computador, como puede ser un dispositivo tipo diadema o casco.

A los investigadores en este campo el poder que tales tecnologías deparan no les pasa desapercibido (como el poder de la energía atómica no pasó desapercibido a Fermi, Einstein u Oppenheimer) y por eso alegra ver que científicos, como el español Rafael Yuste, promuevan iniciativas para que se establezcan derechos humanos en relación con estas nuevas tecnologías, como, por ejemplo:

—A la identidad personal, para prohibir que tecnologías externas alteren el concepto de uno mismo;

—Al libre albedrío, para establecer la necesidad de que las personas tengan el control sobre sus propias decisiones, sin la manipulación de neurotecnologías externas;

—A la privacidad mental, para que los datos cerebrales sean privados, además de que se regule estrictamente su uso y venta;

Es curioso cómo las facultades de ciencia y tecnología del mundo avanzan exponencialmente en sus respectivos campos de estudio y cómo las facultades de derecho siguen ancladas en un conocimiento vetusto que avanza sin comprender que la naturaleza de la sociedad ha cambiado.

Ya no vivimos en un mundo de juegos de suma cero, de intercambios de materias y arrendamientos de servicios. La sustancia que determina la riqueza de las naciones se llama información y esa sustancia el derecho aún no la ha comprendido y ni siquiera ha empezado a intuirla, de forma que, cuando la regula, la regula mal.

Es probable que el derecho, como siempre, vuelva a llegar muy tarde;  lo malo es que, esta vez, para cuando llegue, igual los esclavos han olvidado el concepto libertad y hasta les han robado la voluntad de reclamarlo.

Vivimos tiempos decisivos.

Inteligencia Artificial y estupidez humana

La Inteligencia Artificial es un arma poderosa y, como toda arma poderosa, es cara de adquirir, por lo que su control está reservado a élites reducidas.

Cuando se habla de la Inteligencia Artificial y sus peligros, el cine y la televisión suelen mostrarnos máquinas o robots de aspecto humano que, de pronto, adquieren sentimientos y se rebelan contra su creador o se enamoran de él, dependiendo de la mayor o menor imaginación del guionista. Este recurso cinematográfico confunde inteligencia con conciencia, pero no dejes que la realidad te estropee un buen guión.

Puede ser que en algún momento del futuro las máquinas adquieran conciencia pero para eso falta mucho y antes hay un período verdaderamente peligroso que es al que nos enfrentamos y del que no estoy seguro si la sociedad ni los abogados tienen conciencia plena.

Voy a repetir el primer párrafo de este post: La Inteligencia Artificial es un arma poderosa y, como toda arma poderosa, es cara de adquirir, por lo que su control está reservado a élites reducidas.

Lo peligroso de la Inteligencia Artificial no es que se rebele contra su dueño sino justamente lo contrario, que le obedecerá ciegamente y dotará a su propietario, una minoría poderosa, de un poder como nunca se ha visto en la historia del género humano. Si quieren un símil esto es como cuando en el siglo XIX unos cientos de ingleses se apoderaban de extensiones enormes de África usando sus ametralladoras Maxim contra miles de aborígenes armados con lanza.

La Inteligencia Artificial ha venido aquí para quedarse y no se trata de limitar su crecimiento, se trata de precavernos del mal uso que los pocos que controlen esta tecnología pueden hacer de ella.

A ver cómo se lo explico, una impresora inteligente no se va a rebelar contra su dueño o se va a enamorar del escáner; lo que sí puede hacer esa impresora inteligente es ajustar el consumo de tinta, aprender sus errores más comunes a la hora de introducir el papel, predecir si usted quiere imprimir en formato recto, apaisado, por las dos caras… Pero también comunicar a su fabricante cuanto trabajo imprime usted al mes, si usted se dedica al derecho civil o al penal, si usted se demora en el cambio del tóner y si hay indicios de que usted pasa por apuros económicos… Y esto no es nada pero el Internet de las Cosas, el Big Data y la Inteligencia Artificial simplemente dotarán a quienes los posean de un poder asombroso y, convénzase, aunque le hablen a usted de transformarse o le lleven a bailar con un robot, ni usted ni yo vamos a ser quienes controlen esas tecnologías en su versión más avanzada.

Quien, por ejemplo, controla tecnologías es el Banco de Santander (por cierto, le vi como espónsor de la Feria esa de la Abogacía de Valladolid) quienes no las controlan son esos tres mil quinientos empleados afectados por el ERE que acaba de presentar.

La Europa Medieval fue un fenómeno de acumulación de tierras (el principal activo) en manos de unas pocas familias; la revolución industrial fue un fenómeno de acumulación de capitales en manos de una minoría (los capitalistas) y la revolución tecnológica es un proceso de acumulación de tecnologías y de información en manos de una élite. Tanto la Europa Feudal, como la Europa Industrial sufrieron fuertes crisis y revoluciones que trataron de redistribuir la riqueza; tengamos cuidado porque en la Revolución Tecnológica todo va mucho más rápido.

Muchos científicos y personalidades relevantes del mundo de la Revolución Tecnológica contemplan como seguro un mundo donde habrá un importante excedente de mano de obra y, recurrentemente, aluden a una Renta Básica Universal (Zuckerberg) que permita sobrevivir a todos. En ese futuro de Zuckerberg y otros todos sobreviviremos pero seremos simplemente irrelevantes y todo el pastel se lo comerán unas pocas compañías y, en nuestro sector, unos pocos bufetes/negocio multinacionales.

No, créanme, el problema no es la inteligencia artificial, el problema es la estupidez humana. Vamos hacia una nueva sociedad donde el riesgo de control de los muchos por unos pocos es de una dimensión nunca vista. Ese riesgo puede ser conjurado ahora, no limitando los avances en Inteligencia Artificial sino democratizándola.

El Consejo General de la Abogacía Española acaba de aprobar a espaldas de los abogados españoles un código deontológico que, en lugar de adelantarse a las tensiones del sector, nace viejo y caduco. Es con estas herramientas con las que se puede prever y regular el futuro pero, para eso, al menos hay que tratar de prever el futuro.

Nadie está en posesión de la verdad (dicen que dios es demócrata y repartió estupidez e inteligencia a partes más o menos iguales) por eso lo mejor es escuchar al mayor número posible de voces (un informático diría que las sociedades procesan datos como organismo) pero, la pequeña élite que controla nuestro Consejo General de la Abogacía Española, ni admite consejos, ni lo hace de forma general si lo hace, ni mucho menos los admite de la abogacía española a la que impide participar en la redacción de los textos que la afectan. De forma que en muy poco tiempo esa pequeña élite ha logrado que este CGAE ni sea Consejo, ni sea General, ni sea de la Abogacía Española.

Este tipo de corporaciones que funcionan así, de espaldas sus miembros, son justo lo menos indicado para afrontar el futuro. No creo que podamos esperar mucho de ellos, así más vale que te organices y tomes tu futuro en tus manos. Con inteligencia humana.

La singularidad, el ajedrez y Alpha Zero

En los últimos tiempos hablar de la singularidad ocupa una parte bastante central en las conversaciones con mis amigos. Solemos especular con las fechas aproximadas en que sucederá y si estaremos aquí para vivirla. La singularidad, por si no ha oído usted hablar de ella, es un fenómeno íntimamente relacionado con el desarrollo de la inteligencia artificial y la aparición de máquinas autorreplicantes.

El ajedrez ha sido en los campos de la computación y la inteligencia artificial como el canario que solían llevar los mineros para detectar grisú y yo, como jugador amateur de ajedrez, he tenido la suerte de poder vivir el advenimiento de la singularidad a este juego y las consecuencias que ha tenido para los jugadores humanos de ajedrez.

Ya en la década de los 80 la mejora de las computadoras de ajedrez era evidente y, aunque todavía no ganaban a los humanos, ya se veía que estaban en el camino; en 1996 Deep Blue, un superordenador de IBM, venció al campeón del mundo Garry Kasparov en un oscuro match (sigo pensando que algo raro hubo tras aquella «victoria») pero cuando, ciertamente y sin ninguna duda, la singularidad llegó al mundo del ajedrez fue en el año 2017. En ese año, un programa llamado Alpha-Zero, creado por la empresa de Google Deep-Mind, derrotó aplastantemente al programa campeón del mundo de ajedrez: Stockfish.

El hecho no tendría nada de particular así contado pero, si exploramos la forma en que cada uno de los programas ha llegado a jugar como juega, veremos que, tras la estrategia de Alpha Zero, se apunta ya el fenómeno de la singularidad.

Stockfish es un programa «tradicional» de ajedrez mientras que Alpha Zero es un programa en el cual, en principio, sólo estaban implementadas las reglas del juego pero, tras cuatro horas de jugar contra sí mismo, había aprendido a jugar con fuerza sobrehumana. Resulta aterrador ver cómo, en esas cuatro horas, Alpha Zero fue, por ejemplo, transitando por las mismas aperturas que la humanidad había venido usando en los milenios anteriores y cómo fue pasando de una a otra en casi el mismo orden que el ser humano lo había hecho. Si la humanidad había concluido tras unos miles de años que la defensa más sólida y rocosa contra la Apertura Española era la Defensa Berlín, Alpha Zero llegó a esa conclusión pero en tan solo cuatro horas de juego.

Alpha Zero no tiene una fuerza bruta apabullante, apenas calcula 80 mil posiciones por segundo frente a los 70 millones que calcula su rival Stockfish, pero compensa el menor número de evaluaciones mediante el uso de su red neuronal profunda para centrarse mucho más selectivamente en las variantes más prometedoras; en las partidas de ajedrez de Alpha Zero uno puede hablar sin temor a errar de creatividad y de intuición.

Hay más partidas de ajedrez posibles que átomos en el universo, no es posible «aprenderse» todas las partidas de ajedrez jugables por muy poderosa que sea la máquina que empleemos, Alpha-Zero es un claro ejemplo de una inteligencia artificial que ha aprendido a jugar al ajedrez y a la cual un ser humano no puede siquiera soñar con ganarle.

¿Cuál ha sido la consecuencia de que las máquinas jueguen mejor que los seres humanos al ajedrez?

En la década de los ochenta, mientras a los aficionados nos atormentaba la idea de que la victoria de las máquinas supusiese el fin del juego, Anatoly Karpov, campeón mundial por entonces, dio una respuesta tan sencilla, natural y «soviética», que nos dejó estupefactos: «No veo nada de particular en esto, ya hay máquinas más veloces que las personas y no por ello dejan de celebrarse carreras».

Tenía razón: el hecho de que los ordenadores ganen a los humanos no ha hecho decrecer el interés por el juego y en este momento se vive un boom en la afición al ajedrez en el mundo. Los jugadores de ajedrez han pasado de competir contra las máquinas a usarlas como ayudantes y, aunque ningún humano sueña ya con derrotar a los mejores programas, las usan intensivamente para preparar sus enfrentamientos contra otros jugadores humanos.

Así pues, si el ajedrez es el canario que nos alerta del grisú, lo que nos dice de momento es que la existencia de inteligencias artificiales superiores a la humana, al menos en este campo, no solo no ha «destruido empleos» sino que los ha creado.

Claro que la singularidad de Alpha-Zero en ajedrez no sirve demasiado como término de comparación. Cuando hablamos de singularidad en sentido edtricto hablamos de un mundo donde, máquinas autorreplicantes dotadas de una inteligencia artificial superior a la humana conviertan a los seres humanos en organismos perfectamente prescindibles. Y sin embargo, personalmente, tampoco me preocupa demasiado ese horizonte mientras las máquinas no desarrollen un rasgo típicamente animal y humano (y por tanto artificialmente implementable o evolutivamente desarrollable por máquinas): la consciencia.

Temo más que a la inteligencia artificial la posible evolución incontrolada de las máquinas autorreplicantes. En cuanto un fenómeno de reproducción-mutación se pone en marcha la teoría de la evolución comienza a operar y, si los ciclos reproductivos son lo suficientemente intensos, las consecuencias evolutivas pueden ser impredecibles. Científicos hay que han abandonado sus estudios por el temor a la aparición de nanomáquinas autorreplicantes sin control replicativo y otros, como el tristemente famoso John Kaczynski (Unabomber), han desarrollado estrategias terroristas para frenar una singularidad que ven como inminente e inevitable.

Yo no tengo duda de que pronto veremos máquinas autorreplicantes dotadas de IA superior a la inteligencia humana; seguramente máquinas no universales sino diseñadas para tareas concretas, pero que no serán más que la antesala de una más lejana máquina universal. Pero, como dijo el muy soviético Karpov, no creo que ello deba preocuparnos demasiado mientras sepamos a lo que nos enfrentamos y a donde vamos como especie.

En el mundo que vivimos y en el mundo futuro que hemos de vivir estas máquinas las fabricarán las ficciones llamadas «personas jurídicas» (que son quienes acumulan el capital necesario) y las fabricarán con el único objetivo y límite que la propia naturaleza de estas ficciones jurídicas impone: el beneficio económico. Si no intervenimos como sociedad, el advenimiento de la singularidad vendrá determinado por las cuentas de resultados de unas pocas compañías y corporaciones, de forma que nuestro futuro, como especie, estará en manos de algoritmos diseñados para ganar dinero pero no para proveer de felicidad a los seres humanos.

Seguramente en 30 ó 40 años, como predicen personalidades de talla científica mundial, estemos en el umbral de la singularidad, aunque, para entonces, ya será tarde para controlar y orientar el sentido de la misma.

Hemos pues de tomar las riendas de nuestro futuro como especie; afortunadamente, a día de hoy, todos los partidos políticos y grupos sociales son conscientes de esto y tienen formadas opiniones filosófica y científicamente profundas, tal y como se está viendo en los debates políticos de esta campaña electoral.

Quizá la ironía sea la última frontera de la Inteligencia Artificial.

La singularidad tecnológica jurídica

Quizá no hayan ustedes oído hablar de la «singularidad tecnológica», si no es así, muy resumidamente les cuento qué es con la inapreciable ayuda de la wikipedia: la singularidad tecnológica (o simplemente, «la singularidad») es una hipótesis según la cual el advenimiento de la superinteligencia artificial desencadenará abruptamente un crecimiento tecnológico desenfrenado, dando lugar a cambios insondables en la civilización humana. De acuerdo con esta hipótesis, un agente inteligente actualizable (tal como un ordenador que ejecuta la inteligencia artificial general basada en software) entraría en una «reacción» de ciclos de auto-mejora, con cada generación nueva y más inteligente apareciendo más y más rápidamente, resultando en una poderosa superinteligencia que, cualitativamente, superaría con creces toda la inteligencia humana.

Sé que suena a ciencia-ficción y sin embargo a la mayoría de los científicos no les resulta esta de la singularidad una hipótesis extraña ni increíble sino todo lo contrario, en general la consideran natural. Padres o precursores de la revolución tecnológica como el mismísimo John Von Neumann admitían la singularidad como perfectamente natural e incluso la mencionaron en años ya tan lejanos como 1950:

«El progreso cada vez más veloz de la tecnología y los cambios en el modo de vida humano parecieran dar a entender que se acercar alguna singularidad esencial en la historia de la raza más allá de la cual los asuntos humanos, tal y como ahora los conocemos, no podrían continuar…»

Quizá a alguno de ustedes le parezca un sueño pero, viniendo este sueño de John Von Neumann, yo me lo tomaría muy en serio, pues pocas personas han sido más certeras en materia de sueños que él, permítanme no añadir más y dejarles sólo un link a su biografía.

John Von Neumann además fue el primero en manejar con naturalidad el concepto de máquinas autorreplicantes, un concepto que sitúa a la tecnología en el umbral del salto evolutivo y de la aparición de nuevas formas de vida distintas de las que ahora conocemos. La mezcla de este último concepto y el de la singularidad nos conduce a inquietantes visiones del futuro pero no teman porque, según los científicos más reputados, para llegar a la singularidad faltan bastantes años… entre 20 y 100… o quizá menos :-)

La singularidad para algunos, entre los que me cuento, no se producirá de forma abrupta sino que irá ganando espacios progresivamente hasta alcanzar ese instante decisivo; déjenme que les explique mi primer contacto con la singularidad.

Yo he jugado al ajedrez desde joven y he procurado mantener hasta hoy un nivel de juego que me permita tomar parte en competiciones de cierto nivel y disfrutarlas (¿te he contado que yo jugué contra el campeón del mundo en una última ronda?) por eso, dada mi edad (56) he podido seguir de primera mano el nacimiento y evolución de los programas de ajedrez por ordenador.

Recuerdo que hasta 1985 los artefactos que jugaban al ajedrez eran cachivaches inútiles a muchos de los cuales incluso les costaba enrocarse y comer al paso. Pero en 1985 y corriendo sobre un entonces flamante «Sinclair QL» tuve la ocasión de jugar contra el programa «Chess» de la empresa Psion y programado por Richard Lang. Gané pero debo decir que allí ya había un oponente y no una mera curiosidad. Siempre pensé (y me equivocaba) que los ordenadores nunca serían mejores que un ser humano jugando al ajedrez, pero la década posterior me demostró cuan equivocado estaba. Anatoli Karpov, campeón mundial, sostenía que esto no le preocupaba lo más mínimo pues, por ejemplo, los coches son más veloces que los hombres y nadie se siente mal por ello, pero lo del ajedrez no era como la velocidad en los coches, para mí el ajedrez era una forma de arte y que una máquina pudiera superarnos en algo tan íntimo y tan humano como es la reflexión y el raciocinio me inquietó durante bastante tiempo hasta que asumí que aquella «singularidad» era irreversible.

Así pues, al menos en lo que al ajedrez respecta, la singularidad podríamos decir que ya ha tenido lugar, ahora conviene preguntarse si esa «singularidad» parcial o de vía estrecha amenaza a otras áreas de mi vida como es el ejercicio profesional. Sé que sí, pero, a ello, dedicaremos otro post, hoy es tarde y debo dormir. Les dejo hasta el nuevo post con este video que quizá les aclare —o no— algunos conceptos.

https://youtu.be/bfNTwTQSRzk