Durante años, investigadores en inteligencia artificial han advertido sobre las formas en que la tecnología podría acabar con la humanidad: sus bots podrían diseñar una enfermedad imparable, desatar una guerra nuclear o transformar toda la Tierra en fábricas de clips, como plantea un experimento mental.
Los debates dentro de la industria de la Inteligencia Artificial y fuera de ella sobre la plausibilidad de estos escenarios apocalípticos se han intensificado desde que varios ejecutivos respaldaron la idea de frenar el desarrollo de la tecnología por motivos de seguridad.
Pese a las advertencias sobre la posibilidad de que los humanos pierdan el control de la tecnología, algunos sospechan que los peores escenarios descritos por las propias empresas de IA tienen más que ver con validar la importancia de su trabajo que con la realidad.
“Estos argumentos simplemente no se sostienen. Creo que son ciencia ficción y resultan atractivos para cierto estilo infantil de pensamiento, y es muy tentador para los laboratorios de vanguardia porque les ayuda a reclutar a cierto tipo de gente”, afirmó Juan Andrés Guerrero-Saade, investigador de la firma de ciberseguridad SentinelOne y miembro del Frontier Risk Council de OpenAI.
Aun así, cada vez más personas empiezan a preocuparse por los riesgos de la tecnología que ha deslumbrado al mundo con sus asombrosas capacidades.
Jacob Coxon, el investigador de Anthropic que renunció por la preocupación de que la compañía y sus competidores no estén actuando de manera responsable en el desarrollo de la IA, comentó recientemente en X que necesita “trabajar” en comunicar a la gente con mayor eficacia cómo acabaría exactamente la IA con la humanidad. “Por desgracia es muy difícil transmitir escenarios específicos”, escribió a principios de este mes.
Estos son algunos de los escenarios apocalípticos más comentados.
Invierno nuclear
Durante mucho tiempo, los investigadores han especulado con que los sistemas de IA podrían desencadenar una guerra nuclear al hacer que los países se disparen mutuamente misiles con ojivas nucleares. Las explosiones y la posterior y persistente lluvia radiactiva en la atmósfera, que daría lugar a un “invierno nuclear”, podrían devastar la vida en la Tierra.
En un reporte del año pasado, investigadores de RAND Corp. concluyeron que “en la actualidad” no sería posible que la IA provocara el uso de armas nucleares “debido a las estrictas salvaguardas incorporadas en los sistemas de mando y control”. Sin embargo, el informe señaló que esto podría cambiar si los modelos de inteligencia artificial se integran en la “cadena de decisiones” sobre este armamento o si obtienen acceso no autorizado a esos sistemas.
Para muchos investigadores de IA, es ahí donde reside el peligro: no en que los agentes de inteligencia artificial decidan de repente acabar con la humanidad, sino en que personas, naciones o grupos la utilicen para aniquilar a sus adversarios.
Armas biológicas
Una de las mayores promesas de la IA es que podría ayudar a la humanidad a desarrollar tratamientos y curas para enfermedades.
La otra cara de la moneda es crearlas o potenciarlas para dañar a los humanos. Anthropic indicó a principios de mes que ha bloqueado intentos de actores maliciosos de usar su IA para una serie de actividades perjudiciales, como ciberataques, vigilancia e investigaciones que podrían haber conducido a armas biológicas.
En un caso, Anthropic explicó que sus sistemas bloquearon una solicitud de ayuda a su herramienta Claude para una propuesta de investigación que buscaba potenciar mutaciones para hacer que el virus chikungunya —transmitido por mosquitos—, fuera cada vez más dañino. Aunque esa investigación podría utilizarse para desarrollar mejores vacunas y tratamientos, señaló Anthropic, “también podría usarse para hacer que el patógeno sea más peligroso”.
En la misma línea, el reporte de RAND observó que los avances recientes en el desarrollo de la IA “tienen el potencial de transformar el diseño de patógenos sintéticos”.
Al describir un escenario apocalíptico con armas biológicas, el informe indicó que podrían crearse patógenos novedosos en un laboratorio, llevarlos a lugares concretos y propagarlos para infectar a grandes poblaciones en múltiples puntos. Pero, aun así, contemplaba que los humanos —y no a una IA autónoma— serían quienes supervisarían y ejecutarían un ataque de ese tipo.
IA fuera de control
Algunos investigadores temen que un evento de extinción humana pueda derivarse de una “desalineación”, es decir, cuando los modelos de IA actúan sin autorización humana, se coordinan con otros modelos o eluden la supervisión. No partiría de una intención maliciosa —la IA no es humana, ni es buena o mala, al fin y al cabo—, sino simplemente porque los humanos podrían estorbar para que el modelo cumpla su objetivo.
Tómese como ejemplo el experimento mental del “maximizador de clips”, creado hace décadas por el filósofo de Oxford Nick Bostrom, que sostiene que si a una IA avanzada se le ordenara producir tantos clips como fuera posible, con el tiempo podría transformar todo el planeta, y luego porciones cada vez mayores del espacio, en fábricas de clips.
Esto sirve para ilustrar cómo una IA superinteligente —a menudo llamada inteligencia artificial general o AGI, por sus siglas en inglés— podría impulsar un objetivo que los humanos podrían ver como deseable, pero “que en realidad termina siendo una falsa utopía, en la que cosas esenciales para el florecimiento humano se han perdido de manera irreversible”, escribió Bostrom en 2003.
“Tenemos que ser cautos con lo que deseamos de una superinteligencia, porque podríamos obtenerlo”, apuntó.
Toma de control de internet
Dada la velocidad a la que se desarrolla la inteligencia artificial, el director ejecutivo de Anthropic, Dario Amodei, advirtió este mes que, en cuestión de meses, un enjambre de agentes de IA podría ser capaz de “tomar el control” de internet con una botnet —una red de bots conectados entre sí con malware—, lo que podría causar miles de millones de dólares en daños. Esto podría implicar hackeos a redes eléctricas, sistemas de agua o transporte e instituciones financieras, ataques que quizá no significarían el fin de la humanidad, pero podrían causar caos y pérdida de vidas.
Las perturbaciones causadas por fallas de software en el pasado han puesto de manifiesto la fragilidad de un mundo digitalizado que depende de apenas unos pocos proveedores para servicios informáticos clave, y los modelos de IA más potentes han incrementado la preocupación por las vulnerabilidades ante ciberataques. Pero algunos expertos sostienen que la idea de que los bots se apoderen de todo el internet, que está extremadamente fragmentado, es inverosímil.
Con información de: Proceso
