Neuroderechos humanos

La esclavitud precedió a la palabra libertad, como la guerra precede a los tratados de paz y el crimen a los códigos penales. De igual modo el control de la mente humama se está desarrollando antes de que se desarrolle un derecho que nos proteja contra los abusos que pueden cometer con el resto de la humanidad aquellas personas que controlen tal tecnología.

En la actualidad, siete países mantienen programas públicos sobre el estudio del cerebro humano. Gigantes como Neuralink o Facebook también están invirtiendo miles de millones en idéntico sector de la ciencia. Descifrar cómo funciona el cerebro puede revolucionar las metodologías que utilizan en sus negocios, como la IA, que necesita alimentarse de datos humanos.

Un ser humano no es más que aquello que su memoria le dice que es. Eres quien recuerdas haber sido y, si ese recuerdo es cambiado, dejarás de ser quien eres para ser alguien diferente. Somos tan frágiles como eso, como unos simples recuerdos y, por eso, si olvidamos, aunque conservemos el resto de nuestras facultades, no seremos diferentes de aquel Adolfo Suárez que, habiendo olvidado todo, había olvidado incluso quién era él mismo. Tomamos decisiones en función de los datos que se nos suministran, quien controla el suministro de los datos controla nuestras decisiones y esto lo supieron enseguida las grandes instituciones que han pretendido controlar la vida humana, desde la Iglesia Católica y su prohibición del libre examen de los textos bíblicos, a las dictaduras más feroces que han buscado controlar todos los medios de comunicación, desde la imprenta, la radio y el cine, a la televisión e incluso las reuniones públicas.

Hoy la amenaza de este tipo de control es mucho más sutil pero incomparablemente más eficaz y peligrosa. Hoy empresas privadas como Facebook o Twitter pueden hacer cosas que jamás hubiese soñado el más feroz de los dictadores: silenciar al presidente de la nación más poderosa de la tierra y, de él abajo, cualquiera puede sufrir tal suerte. Y poco importa a estos efectos si el silenciado es un tipo como Trump, lo que importa es que pueden silenciarlo sea quien sea.

Más importante que la decisión de silenciar es la de suministrarnos una información determinada y no otra, suministro que, controlado por algoritmos de inteligencia artificial y datasets de big data, resulta asombrosamente eficaz. Amazon y Facebook conocen tus gustos mucho mejor de lo que tú mismo los conoces y ese conocimiento se amplía diariamente.

Ahora, a todas esas realidades, vienen a sumarse iniciativas en el campo de la neurociencia que permiten que, más allá de la práctica médica, las neurotecnologías no invasivas en personas sanas puedan destinarse a la defensa, la educación, o el entrenamiento y potenciación de las capacidades cognitivas e intelectuales, por ejemplo a través de una interfaz cerebro-computador, como puede ser un dispositivo tipo diadema o casco.

A los investigadores en este campo el poder que tales tecnologías deparan no les pasa desapercibido (como el poder de la energía atómica no pasó desapercibido a Fermi, Einstein u Oppenheimer) y por eso alegra ver que científicos, como el español Rafael Yuste, promuevan iniciativas para que se establezcan derechos humanos en relación con estas nuevas tecnologías, como, por ejemplo:

—A la identidad personal, para prohibir que tecnologías externas alteren el concepto de uno mismo;

—Al libre albedrío, para establecer la necesidad de que las personas tengan el control sobre sus propias decisiones, sin la manipulación de neurotecnologías externas;

—A la privacidad mental, para que los datos cerebrales sean privados, además de que se regule estrictamente su uso y venta;

Es curioso cómo las facultades de ciencia y tecnología del mundo avanzan exponencialmente en sus respectivos campos de estudio y cómo las facultades de derecho siguen ancladas en un conocimiento vetusto que avanza sin comprender que la naturaleza de la sociedad ha cambiado.

Ya no vivimos en un mundo de juegos de suma cero, de intercambios de materias y arrendamientos de servicios. La sustancia que determina la riqueza de las naciones se llama información y esa sustancia el derecho aún no la ha comprendido y ni siquiera ha empezado a intuirla, de forma que, cuando la regula, la regula mal.

Es probable que el derecho, como siempre, vuelva a llegar muy tarde;  lo malo es que, esta vez, para cuando llegue, igual los esclavos han olvidado el concepto libertad y hasta les han robado la voluntad de reclamarlo.

Vivimos tiempos decisivos.

La singularidad, el ajedrez y Alpha Zero

En los últimos tiempos hablar de la singularidad ocupa una parte bastante central en las conversaciones con mis amigos. Solemos especular con las fechas aproximadas en que sucederá y si estaremos aquí para vivirla. La singularidad, por si no ha oído usted hablar de ella, es un fenómeno íntimamente relacionado con el desarrollo de la inteligencia artificial y la aparición de máquinas autorreplicantes.

El ajedrez ha sido en los campos de la computación y la inteligencia artificial como el canario que solían llevar los mineros para detectar grisú y yo, como jugador amateur de ajedrez, he tenido la suerte de poder vivir el advenimiento de la singularidad a este juego y las consecuencias que ha tenido para los jugadores humanos de ajedrez.

Ya en la década de los 80 la mejora de las computadoras de ajedrez era evidente y, aunque todavía no ganaban a los humanos, ya se veía que estaban en el camino; en 1996 Deep Blue, un superordenador de IBM, venció al campeón del mundo Garry Kasparov en un oscuro match (sigo pensando que algo raro hubo tras aquella «victoria») pero cuando, ciertamente y sin ninguna duda, la singularidad llegó al mundo del ajedrez fue en el año 2017. En ese año, un programa llamado Alpha-Zero, creado por la empresa de Google Deep-Mind, derrotó aplastantemente al programa campeón del mundo de ajedrez: Stockfish.

El hecho no tendría nada de particular así contado pero, si exploramos la forma en que cada uno de los programas ha llegado a jugar como juega, veremos que, tras la estrategia de Alpha Zero, se apunta ya el fenómeno de la singularidad.

Stockfish es un programa «tradicional» de ajedrez mientras que Alpha Zero es un programa en el cual, en principio, sólo estaban implementadas las reglas del juego pero, tras cuatro horas de jugar contra sí mismo, había aprendido a jugar con fuerza sobrehumana. Resulta aterrador ver cómo, en esas cuatro horas, Alpha Zero fue, por ejemplo, transitando por las mismas aperturas que la humanidad había venido usando en los milenios anteriores y cómo fue pasando de una a otra en casi el mismo orden que el ser humano lo había hecho. Si la humanidad había concluido tras unos miles de años que la defensa más sólida y rocosa contra la Apertura Española era la Defensa Berlín, Alpha Zero llegó a esa conclusión pero en tan solo cuatro horas de juego.

Alpha Zero no tiene una fuerza bruta apabullante, apenas calcula 80 mil posiciones por segundo frente a los 70 millones que calcula su rival Stockfish, pero compensa el menor número de evaluaciones mediante el uso de su red neuronal profunda para centrarse mucho más selectivamente en las variantes más prometedoras; en las partidas de ajedrez de Alpha Zero uno puede hablar sin temor a errar de creatividad y de intuición.

Hay más partidas de ajedrez posibles que átomos en el universo, no es posible «aprenderse» todas las partidas de ajedrez jugables por muy poderosa que sea la máquina que empleemos, Alpha-Zero es un claro ejemplo de una inteligencia artificial que ha aprendido a jugar al ajedrez y a la cual un ser humano no puede siquiera soñar con ganarle.

¿Cuál ha sido la consecuencia de que las máquinas jueguen mejor que los seres humanos al ajedrez?

En la década de los ochenta, mientras a los aficionados nos atormentaba la idea de que la victoria de las máquinas supusiese el fin del juego, Anatoly Karpov, campeón mundial por entonces, dio una respuesta tan sencilla, natural y «soviética», que nos dejó estupefactos: «No veo nada de particular en esto, ya hay máquinas más veloces que las personas y no por ello dejan de celebrarse carreras».

Tenía razón: el hecho de que los ordenadores ganen a los humanos no ha hecho decrecer el interés por el juego y en este momento se vive un boom en la afición al ajedrez en el mundo. Los jugadores de ajedrez han pasado de competir contra las máquinas a usarlas como ayudantes y, aunque ningún humano sueña ya con derrotar a los mejores programas, las usan intensivamente para preparar sus enfrentamientos contra otros jugadores humanos.

Así pues, si el ajedrez es el canario que nos alerta del grisú, lo que nos dice de momento es que la existencia de inteligencias artificiales superiores a la humana, al menos en este campo, no solo no ha «destruido empleos» sino que los ha creado.

Claro que la singularidad de Alpha-Zero en ajedrez no sirve demasiado como término de comparación. Cuando hablamos de singularidad en sentido edtricto hablamos de un mundo donde, máquinas autorreplicantes dotadas de una inteligencia artificial superior a la humana conviertan a los seres humanos en organismos perfectamente prescindibles. Y sin embargo, personalmente, tampoco me preocupa demasiado ese horizonte mientras las máquinas no desarrollen un rasgo típicamente animal y humano (y por tanto artificialmente implementable o evolutivamente desarrollable por máquinas): la consciencia.

Temo más que a la inteligencia artificial la posible evolución incontrolada de las máquinas autorreplicantes. En cuanto un fenómeno de reproducción-mutación se pone en marcha la teoría de la evolución comienza a operar y, si los ciclos reproductivos son lo suficientemente intensos, las consecuencias evolutivas pueden ser impredecibles. Científicos hay que han abandonado sus estudios por el temor a la aparición de nanomáquinas autorreplicantes sin control replicativo y otros, como el tristemente famoso John Kaczynski (Unabomber), han desarrollado estrategias terroristas para frenar una singularidad que ven como inminente e inevitable.

Yo no tengo duda de que pronto veremos máquinas autorreplicantes dotadas de IA superior a la inteligencia humana; seguramente máquinas no universales sino diseñadas para tareas concretas, pero que no serán más que la antesala de una más lejana máquina universal. Pero, como dijo el muy soviético Karpov, no creo que ello deba preocuparnos demasiado mientras sepamos a lo que nos enfrentamos y a donde vamos como especie.

En el mundo que vivimos y en el mundo futuro que hemos de vivir estas máquinas las fabricarán las ficciones llamadas «personas jurídicas» (que son quienes acumulan el capital necesario) y las fabricarán con el único objetivo y límite que la propia naturaleza de estas ficciones jurídicas impone: el beneficio económico. Si no intervenimos como sociedad, el advenimiento de la singularidad vendrá determinado por las cuentas de resultados de unas pocas compañías y corporaciones, de forma que nuestro futuro, como especie, estará en manos de algoritmos diseñados para ganar dinero pero no para proveer de felicidad a los seres humanos.

Seguramente en 30 ó 40 años, como predicen personalidades de talla científica mundial, estemos en el umbral de la singularidad, aunque, para entonces, ya será tarde para controlar y orientar el sentido de la misma.

Hemos pues de tomar las riendas de nuestro futuro como especie; afortunadamente, a día de hoy, todos los partidos políticos y grupos sociales son conscientes de esto y tienen formadas opiniones filosófica y científicamente profundas, tal y como se está viendo en los debates políticos de esta campaña electoral.

Quizá la ironía sea la última frontera de la Inteligencia Artificial.