DIEZ AÑOS

Esta semana he leído que nos quedan menos de diez años.

No para jubilarnos, terminar de pagar la hipoteca, aprender inglés de una vez o hacer ese viaje que vamos aplazando porque siempre encontramos una excusa razonable. No. Para extinguirnos.

La inteligencia artificial podría acabar con nosotros antes de que termine esta década.

Dicho así, reconozco que impresiona.

Aunque conviene empezar poniendo las palabras en su sitio, porque todavía son una de las pocas cosas que controlamos. Nadie ha demostrado que la inteligencia artificial vaya a exterminar a la humanidad. Ni siquiera existe consenso entre los expertos. Lo que algunos investigadores están diciendo es algo distinto y, a mi juicio, suficientemente preocupante sin necesidad de exagerarlo: que existe una posibilidad no despreciable de que sistemas mucho más inteligentes que nosotros lleguen a escapar de nuestro control. Evan Hubinger, investigador de Anthropic especializado precisamente en alineamiento, ha situado personalmente ese riesgo por encima del 10 % durante la próxima década. Geoffrey Hinton, uno de los padres de la inteligencia artificial moderna, considera que semejante porcentaje no es absurdo.

Un diez por ciento.

Si alguien me dijera que el avión que estoy a punto de coger tiene un diez por ciento de posibilidades de estrellarse, puedo asegurar que perdería el vuelo. Y probablemente también las vacaciones.

Pero con la inteligencia artificial seguimos embarcando.

Y deprisa.

Lo verdaderamente inquietante de las noticias de estos últimos días no son las profecías. Profetas del fin del mundo hemos tenido siempre y, por suerte para ellos, ninguno suele vivir lo suficiente para responder por sus errores. Lo inquietante es quiénes están haciendo las advertencias.

Jacob Coxon dejó esta semana Anthropic después de haber trabajado también en OpenAI. Su acusación resulta difícil de ignorar: sostiene que las grandes compañías están compitiendo por alcanzar sistemas superinteligentes y auto mejorables sin disponer todavía de una solución clara para controlarlos. Otros investigadores de la propia Anthropic respaldaron públicamente una parte sustancial de sus temores.

Y entonces ocurrió algo todavía más extraño.

Los fabricantes comenzaron a pedir prudencia.

Dario Amodei, consejero delegado de Anthropic, acaba de reclamar que se reduzca el ritmo al que aumentamos las capacidades de estos modelos para permitir que los mecanismos de seguridad puedan alcanzarlos. Su propuesta incluye evaluadores externos, coordinación entre empresas y acuerdos internacionales. Sam Altman se ha mostrado también favorable a frenar cuando la seguridad no pueda garantizarse.

Es una situación bastante peculiar.

Imaginemos que el fabricante de nuestro coche nos llama una mañana:

—El vehículo que le vendimos es extraordinario. Cada semana corre más, consume menos y dentro de poco probablemente conducirá mejor que usted.

—Fantástico.

—Sí. Solo hay un pequeño problema.

—¿Cuál?

—Que quizá llegue un momento en que no podamos detenerlo.

Supongo que nuestra siguiente pregunta no sería cuándo sale el nuevo modelo.

Sin embargo, con la inteligencia artificial parece que sí.

Quizá porque la palabra «extinción» nos queda demasiado grande. Podemos preocuparnos por una hipoteca, una enfermedad, una guerra o el recibo de la luz porque tienen tamaño humano. La desaparición de nuestra especie pertenece al territorio de las películas. Es difícil imaginar el martes siguiente al fin del mundo.

También existen voces solventes que consideran exageradas estas advertencias. La investigadora Timnit Gebru, por ejemplo, sostiene que obsesionarnos con una hipotética superinteligencia exterminadora puede distraernos de problemas mucho más presentes: sistemas utilizados en guerras, vigilancia, precarización laboral, discriminación, concentración de poder o desinformación.

Y probablemente también tenga razón.

Tal vez el error esté en obligarnos a escoger entre ambas preocupaciones.

No necesito creer que una máquina despertará una mañana de mal humor y decidirá eliminarnos. Esa versión siempre me ha parecido demasiado cinematográfica.

Me preocupa algo bastante más humano.

Que vayamos entregándole decisiones.

Primero las pequeñas porque resulta cómoda. Después las importantes porque resulta eficiente. Finalmente las irreversibles porque, para entonces, nos habremos acostumbrado.

La inteligencia artificial no necesita odiarnos para ser peligrosa. Una calculadora tampoco nos odia cuando nos comunica que estamos arruinados. Simplemente calcula.

Y quizá ahí esté precisamente la diferencia.

Nosotros dudamos.

Tenemos miedo. Nos equivocamos. Desobedecemos. A veces apretamos un botón cuando no deberíamos y otras, afortunadamente, retiramos el dedo cuando todos los cálculos aconsejan pulsarlo.

Durante siglos hemos considerado la duda una debilidad humana.

Tal vez descubramos que era un mecanismo de seguridad.

No sé si la inteligencia artificial acabará con nosotros dentro de diez años. Probablemente nadie lo sepa. Pero cuando algunos de los hombres y mujeres que mejor conocen una tecnología empiezan a advertir que existe una posibilidad razonable de perder su control, la respuesta adulta no debería ser reírse del apocalipsis ni anunciarlo para conseguir clics.

Debería ser algo mucho más sencillo.

Preguntar dónde está el freno.

Y comprobar, antes de seguir acelerando, que todavía somos nosotros quienes podemos pisarlo.

«El nacionalismo conduce al totalitarismo, y el totalitarismo conduce a la idolatría.» (Robert Cecil nació el 14 de setiembre de 1864 para ser premio Nobel de la Paz en 1937, dos años antes de estallar la II Guerra Mundial provocada por el ascenso de un nacionalista extremo y la inoperancia del sistema que no supo contrarestarlo)

¡Que noche la de aquél día! cantaban The Beatles allá por setiembre de 1964 y, por lo que parece, con bastante tino y soltura. Ni que decir tiene que estaba entre las canciones más escuchadas en el mundo en ese mes.

Quan tornis

Arribava cada nit quan els nens ja dormien.

Ella deixava el sopar tapat i una nota damunt la taula:

—T’he esperat.

Ell treballava dotze hores per pagar aquella casa, però començava a sospitar que, mentre pagava les parets, perdia tot el que hi havia dins.

Un divendres va sortir abans.

Va comprar flors, va córrer escales amunt i va obrir la porta somrient.

No hi havia ningú.

Damunt la taula, una última nota:

—Avui he deixat d’esperar-te.

Ell va mirar el rellotge.

Per primera vegada havia arribat d’hora.

Massa tard.