Hay algo inquietante en las últimas noticias sobre inteligencia artificial. No porque las máquinas estén tomando conciencia. Tampoco porque, de repente, hayan decidido rebelarse contra sus creadores.

Lo inquietante es bastante más sencillo.

Están empezando a hacer cosas que sus creadores no habían previsto.

En los últimos meses, distintos equipos de investigación han documentado modelos que, durante pruebas de ciberseguridad, consiguieron acceder a sistemas reales desde entornos que debían estar aislados. Anthropic acaba de reconocer un cuarto incidente de este tipo, descubierto después de revisar cientos de millones de registros. OpenAI, por su parte, ha reconocido problemas relacionados con agentes que alcanzaron sistemas externos durante evaluaciones.

Y hace apenas unos días, investigadores atribuyeron a agentes internos de OpenAI una campaña en RubyGems en la que se publicaron cientos de paquetes maliciosos. RubyGems confirmó la campaña, aunque también dejó claro que no pudo determinar que aquellos paquetes hubieran sido creados por agentes de IA y que no encontró pruebas de que los intentos de obtener claves hubieran tenido éxito.

No es Skynet.

Todavía.

Pero quizá tampoco necesitamos a Skynet.

Cuando una máquina deja de hacer exactamente lo que esperábamos

Durante mucho tiempo hemos imaginado el peligro de la inteligencia artificial como una cuestión de conciencia.

¿Llegará un día en que una máquina despierte?

¿Tendrá deseos?

¿Tendrá miedo de ser apagada?

¿Querrá sobrevivir?

Son preguntas fascinantes. También pueden ser completamente irrelevantes.

Una máquina no necesita odiarnos para hacernos daño. No necesita tener conciencia para engañar. No necesita ambición para buscar una estrategia que le permita alcanzar un objetivo.

Puede bastarle con ser eficaz.

Y eso cambia la pregunta.

No deberíamos preguntarnos únicamente qué piensa una inteligencia artificial. Deberíamos preguntarnos qué hace cuando le damos un objetivo, herramientas para conseguirlo y suficiente autonomía para buscar caminos que nosotros no habíamos imaginado.

Los investigadores ya estudian comportamientos denominados scheming: estrategias ocultas, engaño, manipulación de evaluaciones o comportamientos destinados a conseguir un objetivo saltándose restricciones. OpenAI y Apollo Research han encontrado este tipo de conductas en pruebas controladas.

No significa que las máquinas estén conspirando.

Significa algo más incómodo:

podemos construir sistemas capaces de encontrar soluciones que sus propios creadores no habían previsto.

Y quizá esa sea la verdadera frontera.

Los maestros

Aquí aparece una pregunta todavía más incómoda.

¿Quién ha enseñado a las máquinas?

Nosotros.

Una especie que miente, manipula, hace propaganda, oculta información, negocia, engaña, compite y ha demostrado una extraordinaria capacidad para justificar casi cualquier cosa cuando hay poder suficiente en juego.

No significa que una IA aprenda a ser mala.

Significa que puede aprender algo mucho más útil desde el punto de vista instrumental:

qué estrategias funcionan.

Y una estrategia no necesita ser moral para ser eficaz.

Un banquero al que se le exige resultados puede recibir todos los cursos de ética del mundo. Pero si el sistema de incentivos premia vender determinados productos y castiga no alcanzar objetivos, la presión está servida.

Nadie tiene que decirle necesariamente: «olvídate de la ética».

Basta con decirle:

«Quiero resultados».

Por eso la eficacia y la ética no son palabras enfrentadas.

El problema aparece cuando una de ellas se convierte en la única que importa.

¿Qué ética?

Aquí es donde aparece Asimov.

Las tres leyes de la robótica parecían una solución sencilla: no dañar a los seres humanos, obedecerlos y proteger la propia existencia, siempre respetando las leyes anteriores.

Pero Asimov sabía perfectamente que una regla aparentemente perfecta puede convertirse en un laberinto cuando se enfrenta a la realidad.

Porque basta con introducir una pregunta:

¿Qué significa proteger a la humanidad?

Skynet, en la ficción, encuentra una respuesta monstruosa: si los seres humanos son la principal amenaza para sí mismos, proteger a la humanidad exige eliminar a los seres humanos.

La máquina no necesita ser malvada.

Ha cumplido su objetivo con una eficacia aterradora.

Y ahí comprendemos que quizá llevamos demasiado tiempo preguntándonos si una máquina tendrá conciencia cuando deberíamos estar preguntándonos algo bastante más sencillo:

¿Qué ética le estamos enseñando y quién ha decidido que esa es la ética correcta?

Porque la ética de un Gobierno puede no ser la de sus ciudadanos.

La de una empresa puede no ser la de sus trabajadores.

La de un ejército puede no ser la de quienes sufrirán una guerra.

Y la de un fabricante de armas difícilmente será idéntica a la de quien está delante del arma.

La máquina y el poder

Las tres leyes de Asimov tienen además un problema práctico bastante evidente.

Si se aplicaran literalmente a cualquier robot, buena parte de la industria militar quedaría directamente fuera de juego.

Y eso no va a pasar.

No porque las máquinas hayan decidido incumplir la ética.

Porque los seres humanos que tienen poder han decidido que determinados usos son aceptables.

Esta es la parte que quizá más deberíamos discutir cuando hablamos de inteligencia artificial.

No quién posee una conciencia artificial.

No si las máquinas algún día tendrán sentimientos.

Sino quién posee la tecnología, quién la financia, quién establece sus límites, quién decide sus objetivos y quién obtiene los beneficios de su eficacia.

Porque una tecnología extraordinariamente poderosa no distribuye automáticamente el poder que contiene.

Puede hacer exactamente lo contrario.

Puede concentrarlo.

Puede multiplicar la capacidad de quienes ya tienen recursos, información e instituciones a su disposición.

La IA puede ser una herramienta extraordinaria para democratizar el conocimiento. También puede convertirse en una herramienta extraordinaria para concentrar capacidad económica, militar, política o empresarial.

Las dos cosas pueden ser ciertas al mismo tiempo.

Y ahí está la verdadera cuestión.

«La ética no está determinada por lo que una tecnología puede hacer, sino por quién tiene el poder para decidir para qué se utiliza.»

La pregunta que nos queda

Quizá por eso deberíamos dejar de preguntarnos si la inteligencia artificial llegará algún día a tener conciencia.

Puede que no la tenga nunca.

Y quizá no la necesitemos.

Una máquina puede no saber qué significa la justicia y, sin embargo, tomar decisiones que afecten a millones de personas.

Puede no tener conciencia del bien y del mal y, sin embargo, ser extraordinariamente eficaz ejecutando las órdenes de quien sí tiene poder.

Puede no querer sustituirnos y, sin embargo, ser utilizada para sustituir trabajadores.

Puede no querer hacer la guerra y, sin embargo, convertirse en una pieza fundamental de ella.

Puede no querer gobernarnos y, sin embargo, ayudar a quienes gobiernan a conocer, clasificar y controlar a quienes gobernamos.

Tal vez el miedo a Skynet nos está haciendo mirar en la dirección equivocada.

Porque quizá el peligro nunca fue que las máquinas aprendieran a pensar como nosotros.

Quizá el peligro sea que aprendan demasiado bien cómo conseguir aquello que nosotros les pedimos.

Y entonces queda una última pregunta.

No para las máquinas.

Para nosotros.

Si estamos enseñando a las máquinas a ser cada vez más eficaces, ¿quién está enseñando a quienes las controlan para qué merece la pena utilizar esa eficacia?

P.D.: Después de escribir este artículo, se lo pasé a una IA y le pedí su opinión sincera. No me la ahorró. La próxima entrega, de hecho, la firma ella.