Inteligencia Artificial y estupidez humana

La Inteligencia Artificial es un arma poderosa y, como toda arma poderosa, es cara de adquirir, por lo que su control está reservado a élites reducidas.

Cuando se habla de la Inteligencia Artificial y sus peligros, el cine y la televisión suelen mostrarnos máquinas o robots de aspecto humano que, de pronto, adquieren sentimientos y se rebelan contra su creador o se enamoran de él, dependiendo de la mayor o menor imaginación del guionista. Este recurso cinematográfico confunde inteligencia con conciencia, pero no dejes que la realidad te estropee un buen guión.

Puede ser que en algún momento del futuro las máquinas adquieran conciencia pero para eso falta mucho y antes hay un período verdaderamente peligroso que es al que nos enfrentamos y del que no estoy seguro si la sociedad ni los abogados tienen conciencia plena.

Voy a repetir el primer párrafo de este post: La Inteligencia Artificial es un arma poderosa y, como toda arma poderosa, es cara de adquirir, por lo que su control está reservado a élites reducidas.

Lo peligroso de la Inteligencia Artificial no es que se rebele contra su dueño sino justamente lo contrario, que le obedecerá ciegamente y dotará a su propietario, una minoría poderosa, de un poder como nunca se ha visto en la historia del género humano. Si quieren un símil esto es como cuando en el siglo XIX unos cientos de ingleses se apoderaban de extensiones enormes de África usando sus ametralladoras Maxim contra miles de aborígenes armados con lanza.

La Inteligencia Artificial ha venido aquí para quedarse y no se trata de limitar su crecimiento, se trata de precavernos del mal uso que los pocos que controlen esta tecnología pueden hacer de ella.

A ver cómo se lo explico, una impresora inteligente no se va a rebelar contra su dueño o se va a enamorar del escáner; lo que sí puede hacer esa impresora inteligente es ajustar el consumo de tinta, aprender sus errores más comunes a la hora de introducir el papel, predecir si usted quiere imprimir en formato recto, apaisado, por las dos caras… Pero también comunicar a su fabricante cuanto trabajo imprime usted al mes, si usted se dedica al derecho civil o al penal, si usted se demora en el cambio del tóner y si hay indicios de que usted pasa por apuros económicos… Y esto no es nada pero el Internet de las Cosas, el Big Data y la Inteligencia Artificial simplemente dotarán a quienes los posean de un poder asombroso y, convénzase, aunque le hablen a usted de transformarse o le lleven a bailar con un robot, ni usted ni yo vamos a ser quienes controlen esas tecnologías en su versión más avanzada.

Quien, por ejemplo, controla tecnologías es el Banco de Santander (por cierto, le vi como espónsor de la Feria esa de la Abogacía de Valladolid) quienes no las controlan son esos tres mil quinientos empleados afectados por el ERE que acaba de presentar.

La Europa Medieval fue un fenómeno de acumulación de tierras (el principal activo) en manos de unas pocas familias; la revolución industrial fue un fenómeno de acumulación de capitales en manos de una minoría (los capitalistas) y la revolución tecnológica es un proceso de acumulación de tecnologías y de información en manos de una élite. Tanto la Europa Feudal, como la Europa Industrial sufrieron fuertes crisis y revoluciones que trataron de redistribuir la riqueza; tengamos cuidado porque en la Revolución Tecnológica todo va mucho más rápido.

Muchos científicos y personalidades relevantes del mundo de la Revolución Tecnológica contemplan como seguro un mundo donde habrá un importante excedente de mano de obra y, recurrentemente, aluden a una Renta Básica Universal (Zuckerberg) que permita sobrevivir a todos. En ese futuro de Zuckerberg y otros todos sobreviviremos pero seremos simplemente irrelevantes y todo el pastel se lo comerán unas pocas compañías y, en nuestro sector, unos pocos bufetes/negocio multinacionales.

No, créanme, el problema no es la inteligencia artificial, el problema es la estupidez humana. Vamos hacia una nueva sociedad donde el riesgo de control de los muchos por unos pocos es de una dimensión nunca vista. Ese riesgo puede ser conjurado ahora, no limitando los avances en Inteligencia Artificial sino democratizándola.

El Consejo General de la Abogacía Española acaba de aprobar a espaldas de los abogados españoles un código deontológico que, en lugar de adelantarse a las tensiones del sector, nace viejo y caduco. Es con estas herramientas con las que se puede prever y regular el futuro pero, para eso, al menos hay que tratar de prever el futuro.

Nadie está en posesión de la verdad (dicen que dios es demócrata y repartió estupidez e inteligencia a partes más o menos iguales) por eso lo mejor es escuchar al mayor número posible de voces (un informático diría que las sociedades procesan datos como organismo) pero, la pequeña élite que controla nuestro Consejo General de la Abogacía Española, ni admite consejos, ni lo hace de forma general si lo hace, ni mucho menos los admite de la abogacía española a la que impide participar en la redacción de los textos que la afectan. De forma que en muy poco tiempo esa pequeña élite ha logrado que este CGAE ni sea Consejo, ni sea General, ni sea de la Abogacía Española.

Este tipo de corporaciones que funcionan así, de espaldas sus miembros, son justo lo menos indicado para afrontar el futuro. No creo que podamos esperar mucho de ellos, así más vale que te organices y tomes tu futuro en tus manos. Con inteligencia humana.

La singularidad, el ajedrez y Alpha Zero

En los últimos tiempos hablar de la singularidad ocupa una parte bastante central en las conversaciones con mis amigos. Solemos especular con las fechas aproximadas en que sucederá y si estaremos aquí para vivirla. La singularidad, por si no ha oído usted hablar de ella, es un fenómeno íntimamente relacionado con el desarrollo de la inteligencia artificial y la aparición de máquinas autorreplicantes.

El ajedrez ha sido en los campos de la computación y la inteligencia artificial como el canario que solían llevar los mineros para detectar grisú y yo, como jugador amateur de ajedrez, he tenido la suerte de poder vivir el advenimiento de la singularidad a este juego y las consecuencias que ha tenido para los jugadores humanos de ajedrez.

Ya en la década de los 80 la mejora de las computadoras de ajedrez era evidente y, aunque todavía no ganaban a los humanos, ya se veía que estaban en el camino; en 1996 Deep Blue, un superordenador de IBM, venció al campeón del mundo Garry Kasparov en un oscuro match (sigo pensando que algo raro hubo tras aquella «victoria») pero cuando, ciertamente y sin ninguna duda, la singularidad llegó al mundo del ajedrez fue en el año 2017. En ese año, un programa llamado Alpha-Zero, creado por la empresa de Google Deep-Mind, derrotó aplastantemente al programa campeón del mundo de ajedrez: Stockfish.

El hecho no tendría nada de particular así contado pero, si exploramos la forma en que cada uno de los programas ha llegado a jugar como juega, veremos que, tras la estrategia de Alpha Zero, se apunta ya el fenómeno de la singularidad.

Stockfish es un programa «tradicional» de ajedrez mientras que Alpha Zero es un programa en el cual, en principio, sólo estaban implementadas las reglas del juego pero, tras cuatro horas de jugar contra sí mismo, había aprendido a jugar con fuerza sobrehumana. Resulta aterrador ver cómo, en esas cuatro horas, Alpha Zero fue, por ejemplo, transitando por las mismas aperturas que la humanidad había venido usando en los milenios anteriores y cómo fue pasando de una a otra en casi el mismo orden que el ser humano lo había hecho. Si la humanidad había concluido tras unos miles de años que la defensa más sólida y rocosa contra la Apertura Española era la Defensa Berlín, Alpha Zero llegó a esa conclusión pero en tan solo cuatro horas de juego.

Alpha Zero no tiene una fuerza bruta apabullante, apenas calcula 80 mil posiciones por segundo frente a los 70 millones que calcula su rival Stockfish, pero compensa el menor número de evaluaciones mediante el uso de su red neuronal profunda para centrarse mucho más selectivamente en las variantes más prometedoras; en las partidas de ajedrez de Alpha Zero uno puede hablar sin temor a errar de creatividad y de intuición.

Hay más partidas de ajedrez posibles que átomos en el universo, no es posible «aprenderse» todas las partidas de ajedrez jugables por muy poderosa que sea la máquina que empleemos, Alpha-Zero es un claro ejemplo de una inteligencia artificial que ha aprendido a jugar al ajedrez y a la cual un ser humano no puede siquiera soñar con ganarle.

¿Cuál ha sido la consecuencia de que las máquinas jueguen mejor que los seres humanos al ajedrez?

En la década de los ochenta, mientras a los aficionados nos atormentaba la idea de que la victoria de las máquinas supusiese el fin del juego, Anatoly Karpov, campeón mundial por entonces, dio una respuesta tan sencilla, natural y «soviética», que nos dejó estupefactos: «No veo nada de particular en esto, ya hay máquinas más veloces que las personas y no por ello dejan de celebrarse carreras».

Tenía razón: el hecho de que los ordenadores ganen a los humanos no ha hecho decrecer el interés por el juego y en este momento se vive un boom en la afición al ajedrez en el mundo. Los jugadores de ajedrez han pasado de competir contra las máquinas a usarlas como ayudantes y, aunque ningún humano sueña ya con derrotar a los mejores programas, las usan intensivamente para preparar sus enfrentamientos contra otros jugadores humanos.

Así pues, si el ajedrez es el canario que nos alerta del grisú, lo que nos dice de momento es que la existencia de inteligencias artificiales superiores a la humana, al menos en este campo, no solo no ha «destruido empleos» sino que los ha creado.

Claro que la singularidad de Alpha-Zero en ajedrez no sirve demasiado como término de comparación. Cuando hablamos de singularidad en sentido edtricto hablamos de un mundo donde, máquinas autorreplicantes dotadas de una inteligencia artificial superior a la humana conviertan a los seres humanos en organismos perfectamente prescindibles. Y sin embargo, personalmente, tampoco me preocupa demasiado ese horizonte mientras las máquinas no desarrollen un rasgo típicamente animal y humano (y por tanto artificialmente implementable o evolutivamente desarrollable por máquinas): la consciencia.

Temo más que a la inteligencia artificial la posible evolución incontrolada de las máquinas autorreplicantes. En cuanto un fenómeno de reproducción-mutación se pone en marcha la teoría de la evolución comienza a operar y, si los ciclos reproductivos son lo suficientemente intensos, las consecuencias evolutivas pueden ser impredecibles. Científicos hay que han abandonado sus estudios por el temor a la aparición de nanomáquinas autorreplicantes sin control replicativo y otros, como el tristemente famoso John Kaczynski (Unabomber), han desarrollado estrategias terroristas para frenar una singularidad que ven como inminente e inevitable.

Yo no tengo duda de que pronto veremos máquinas autorreplicantes dotadas de IA superior a la inteligencia humana; seguramente máquinas no universales sino diseñadas para tareas concretas, pero que no serán más que la antesala de una más lejana máquina universal. Pero, como dijo el muy soviético Karpov, no creo que ello deba preocuparnos demasiado mientras sepamos a lo que nos enfrentamos y a donde vamos como especie.

En el mundo que vivimos y en el mundo futuro que hemos de vivir estas máquinas las fabricarán las ficciones llamadas «personas jurídicas» (que son quienes acumulan el capital necesario) y las fabricarán con el único objetivo y límite que la propia naturaleza de estas ficciones jurídicas impone: el beneficio económico. Si no intervenimos como sociedad, el advenimiento de la singularidad vendrá determinado por las cuentas de resultados de unas pocas compañías y corporaciones, de forma que nuestro futuro, como especie, estará en manos de algoritmos diseñados para ganar dinero pero no para proveer de felicidad a los seres humanos.

Seguramente en 30 ó 40 años, como predicen personalidades de talla científica mundial, estemos en el umbral de la singularidad, aunque, para entonces, ya será tarde para controlar y orientar el sentido de la misma.

Hemos pues de tomar las riendas de nuestro futuro como especie; afortunadamente, a día de hoy, todos los partidos políticos y grupos sociales son conscientes de esto y tienen formadas opiniones filosófica y científicamente profundas, tal y como se está viendo en los debates políticos de esta campaña electoral.

Quizá la ironía sea la última frontera de la Inteligencia Artificial.

La singularidad tecnológica jurídica

Quizá no hayan ustedes oído hablar de la «singularidad tecnológica», si no es así, muy resumidamente les cuento qué es con la inapreciable ayuda de la wikipedia: la singularidad tecnológica (o simplemente, «la singularidad») es una hipótesis según la cual el advenimiento de la superinteligencia artificial desencadenará abruptamente un crecimiento tecnológico desenfrenado, dando lugar a cambios insondables en la civilización humana. De acuerdo con esta hipótesis, un agente inteligente actualizable (tal como un ordenador que ejecuta la inteligencia artificial general basada en software) entraría en una «reacción» de ciclos de auto-mejora, con cada generación nueva y más inteligente apareciendo más y más rápidamente, resultando en una poderosa superinteligencia que, cualitativamente, superaría con creces toda la inteligencia humana.

Sé que suena a ciencia-ficción y sin embargo a la mayoría de los científicos no les resulta esta de la singularidad una hipótesis extraña ni increíble sino todo lo contrario, en general la consideran natural. Padres o precursores de la revolución tecnológica como el mismísimo John Von Neumann admitían la singularidad como perfectamente natural e incluso la mencionaron en años ya tan lejanos como 1950:

«El progreso cada vez más veloz de la tecnología y los cambios en el modo de vida humano parecieran dar a entender que se acercar alguna singularidad esencial en la historia de la raza más allá de la cual los asuntos humanos, tal y como ahora los conocemos, no podrían continuar…»

Quizá a alguno de ustedes le parezca un sueño pero, viniendo este sueño de John Von Neumann, yo me lo tomaría muy en serio, pues pocas personas han sido más certeras en materia de sueños que él, permítanme no añadir más y dejarles sólo un link a su biografía.

John Von Neumann además fue el primero en manejar con naturalidad el concepto de máquinas autorreplicantes, un concepto que sitúa a la tecnología en el umbral del salto evolutivo y de la aparición de nuevas formas de vida distintas de las que ahora conocemos. La mezcla de este último concepto y el de la singularidad nos conduce a inquietantes visiones del futuro pero no teman porque, según los científicos más reputados, para llegar a la singularidad faltan bastantes años… entre 20 y 100… o quizá menos 🙂

La singularidad para algunos, entre los que me cuento, no se producirá de forma abrupta sino que irá ganando espacios progresivamente hasta alcanzar ese instante decisivo; déjenme que les explique mi primer contacto con la singularidad.

Yo he jugado al ajedrez desde joven y he procurado mantener hasta hoy un nivel de juego que me permita tomar parte en competiciones de cierto nivel y disfrutarlas (¿te he contado que yo jugué contra el campeón del mundo en una última ronda?) por eso, dada mi edad (56) he podido seguir de primera mano el nacimiento y evolución de los programas de ajedrez por ordenador.

Recuerdo que hasta 1985 los artefactos que jugaban al ajedrez eran cachivaches inútiles a muchos de los cuales incluso les costaba enrocarse y comer al paso. Pero en 1985 y corriendo sobre un entonces flamante «Sinclair QL» tuve la ocasión de jugar contra el programa «Chess» de la empresa Psion y programado por Richard Lang. Gané pero debo decir que allí ya había un oponente y no una mera curiosidad. Siempre pensé (y me equivocaba) que los ordenadores nunca serían mejores que un ser humano jugando al ajedrez, pero la década posterior me demostró cuan equivocado estaba. Anatoli Karpov, campeón mundial, sostenía que esto no le preocupaba lo más mínimo pues, por ejemplo, los coches son más veloces que los hombres y nadie se siente mal por ello, pero lo del ajedrez no era como la velocidad en los coches, para mí el ajedrez era una forma de arte y que una máquina pudiera superarnos en algo tan íntimo y tan humano como es la reflexión y el raciocinio me inquietó durante bastante tiempo hasta que asumí que aquella «singularidad» era irreversible.

Así pues, al menos en lo que al ajedrez respecta, la singularidad podríamos decir que ya ha tenido lugar, ahora conviene preguntarse si esa «singularidad» parcial o de vía estrecha amenaza a otras áreas de mi vida como es el ejercicio profesional. Sé que sí, pero, a ello, dedicaremos otro post, hoy es tarde y debo dormir. Les dejo hasta el nuevo post con este video que quizá les aclare —o no— algunos conceptos.

https://youtu.be/bfNTwTQSRzk