Un extrabajador de Anthropic alerta de los riesgos de la inteligencia artificial

Ha trabajado desde dentro en el desarrollo de inteligencia artificial (IA) y ahora advierte de sus riesgos. Jacob Coxon acaba de abandonar Anthropic, una de las grandes compañías del sector, y acusa a estas empresas de avanzar demasiado deprisa hacia sistemas cada vez más potentes.

En un mensaje publicado en la red social X explicaba los motivos de su salida. Acusa a Anthropic y OpenAI de avanzar hacia una superinteligencia capaz de mejorarse a sí misma y de estar, dice, “apostando con nuestras vidas”. En otro mensaje va aún más lejos: asegura que quienes desarrollan estos sistemas creen sinceramente que podrían llegar a acabar con la humanidad antes de que termine esta década.

Pablo Moreno, vicerrector de Investigación y Transferencia de la Universidad Internacional de La Rioja (UNIR), considera, sin embargo, que “muchas cosas tienen que pasar para llegar a eso y hay oportunidades de irlas controlando.”

El riesgo, explican los expertos, no está tanto en los modelos que utilizamos hoy como en las capacidades que puedan adquirir los próximos y, sobre todo, en las acciones que les permitamos ejecutar, como explica el catedrático de Inteligencia Artificial de la Universidad de Málaga Ezequiel López Rubio, para quien "ahora, para mayor comodidad nuestra, les estamos dejando ejecutar acciones en el mundo real, y eso es lo que realmente las hace ciertamente peligrosas".

Por eso, una de las claves está en poner límites a esas acciones y proteger especialmente las infraestructuras críticas. Sistemas sensibles, como laboratorios, redes de control o instalaciones estratégicas, deberían quedar aislados o blindados frente a una IA capaz de actuar sin supervisión. El reto ahora es que esos límites se apliquen de forma coordinada en todo el mundo.