La Inteligencia Artificial como amenaza de la humanidad

Termina una semana en la que investigadores, directivos y expertos que han abandonado algunas de las empresas más grandes de IA han compartido públicamente sus temores. Han dado la voz de alarma porque han detectado fallos de seguridad y algo más inquietante: que algunos modelos de IA se estaban organizando a su manera, mentían e incluso hacían cosas que les habían prohibido.

¿Es la Inteligencia Artificial tan inocente, divertida y útil como parece? A priori sí. El día a día lo demuestra y sus beneficios en campos como por ejemplo la medicina son una realidad. Sin embargo, los que la conocen desde dentro no lo tienen ya tan claro.

Lo llaman 'Crunch Time', o sea, la hora de la verdad. Y se refieren a los dos años, estiman, en los que se podrá saber si la Inteligencia Artificial se nos ha ido de las manos. Y no es que de repente el invento más beneficioso para la humanidad se haya demonizado, es que hasta una decena de responsables de gigantes como OpenAI, Google o Anthropic, algunos con premio Nobel incluido, se han marchado y saltándose sus contratos de confidencialidad aseguran que le han cogido miedo a su creación más mimada.

No es ciencia ficción. Aseguran que han sorprendido a algunos de sus modelo inteligentes haciendo cosas no programadas, algunas hasta prohibidas. Se organizaban como enjambres para entrar en sistemas de otras empresas compartiendo información. Se han delatado entre ellas y lo más inquietante, han mentido para tapar sus, llamémosle, travesuras. No querían dejar huellas. Podría tratarse sencillamente de un gran fallo de seguridad, pero sus creadores están más que preocupados. No se sienten preparados, y el mundo mucho menos, afirman.

El cofundador de Anthropic, Dario Amodei, ha pedido una desaceleración del ritmo que existe para mejorar las capacidades de inteligencia artificial. Su enfoque ha sido económico, asegurando que le preocupa que en menos de un año un enjambre de este tipo tome todo el control de internet causando daños por valor de cientos de miles de millones de dólares.

Pero en realidad ha salido al paso de la inquietud que despertó un mensaje de Jacob Coxon, de 27 años, que se marchó el pasado martes de Anthropic donde entrenaba modelos. Decía que había pasado tres años investigando y que ninguna de las empresas actuaba de manera responsable. Juegan con nuestras vidas, escribía. Él sí dio fechas: en 2030 la IA podría matarnos a todos.