Riesgos y seguridades de la IA: ¿qué opina de sí mismo ChatGPT?

Pocos años parece necesitar la inteligencia artificial para echar sus sofisticadas raíces y condicionar nuestras vidas. De momento, parece que se mueve entre dos extremos: resolver los grandes problemas de la humanidad o exterminarla. Los propios responsables de las grandes compañías ven que se les ha ido de las manos y están asustados. En juego hay mucho. Hemos querido averiguar qué piensa la propia IA y hemos pedido a expertos y usuarios que nos arrojen algo de luz para saber si seguiremos vivos y seremos capaces de disfrutar de ese mundo feliz que nos promete.

"Si seguimos por el camino actual, hay más probabilidades de que la humanidad pierda el control de esta IA de que mantenga este control, y eso podría acabar en la extinción humana". Es una afirmación de Jacob Coxon, que dimitió de su puesto en Anthropic el pasado septiembre tras asegurar que las compañías de IA no estaban actuando con responsabilidad. Los dirigentes de las cinco grandes compañías están cabalgando a un ritmo frenético para llegar antes que el otro a una capitalización en bolsa que se frenó en el último momento, tras estas advertencias. En juego, para ellos, miles de millones, billones de dólares y el poder absoluto sobre el desarrollo del planeta. El resto nos jugamos la extinción como especie.

Parece pues que sí, que nos jugamos mucho. Habrá que poner orden.

Agustín Madariaga, responsable de Canal Sur LAB, entrevistó a una de las IAs más populares, ChatGPT, para preguntarle sobre sus intenciones. Ante la cuestión de qué ha ocurrido para que haya niños de 10 años que utilicen esta herramienta como psicoderapeuta y acaben suicidándose, el propio ChatGPT respondió que "hay casos judiciales en los que familias de menores han alegado que conversaciones largas con ChatGPT contribuyeron al deterioro y suicidio. Por ejemplo, el caso de Adam Reign, de 16 años, que llevó a una demanda de sus padres en 2025; la empresa dice que es un caso complejo y que los hechos deben determinarse en el proceso judicial. Dicho esto, no puedo afirmar que esté demostrado que niños de 10 años se hayan suicidado por culpa de ChatGPT. Además, la propia herramienta no está destinada a menores de 13 años y los de 13 a 18 requieren consentimiento parental. Lo que sí merece investigación es cómo un menor puede llegar a ver un chatbot como un terapeuta, qué fallos de seguridad permiten conversaciones muy largas, cómo detectar la edad de forma efectiva y qué responsabilidad deben asumir las empresas cuando sus sistemas los usan menores".

Por su parte, Manuel Lozano Leyva, catedrático emérito de Física Nuclear en la Universidad de Sevilla, gran divulgador científico y escritor de ficción, analiza este tipo de fenómenos señalando que "el suicidio, la delincuencia y el vicio son reacciones humanas típicas. La inteligencia artificial está invadiendo todas las posibilidades de comportamiento humano, incluso los más complejos de la mente. Desde el punto de vista psicológico, el suicidio es muy sofisticado y difícil. La inteligencia artificial lo está alcanzando y con el respaldo de la computación cuántica será algo peligroso".

Inducción al suicidio o al asesinato, control de los arsenales nucleares o la posibilidad de que programen apagones de energía eléctrica en todo un país. Los especialistas en seguridad nacional españoles no son alarmistas, pero sí precavidos. Enrique Ávila, director del Centro de Referencia de I.A. del Estado Mayor de la Defensa, aporta su visión estratégica sobre los dos lados de la moneda: "Por un lado, soy optimista. Soy optimista en cuanto a que soy tecnólogo; creo que la tecnología mejora la vida de la gente, siempre que se utilice bien. Se puede utilizar como arma contra alguien. Grupos de ciberdelincuentes la están utilizando ahora mismo para mejorar sus técnicas, tácticas y procedimientos. Por lo tanto, esa dependencia que tenemos genera la posibilidad de que haya apagones, de que haya un punto cero; no solamente de energía, sino un punto cero social, económico y geoestratégico. Hay cabezas nucleares como para acabar con la vida en la Tierra y, sin embargo, los bloques geopolíticos llegaron a acuerdos que impedían esa destrucción mutua asegurada".

Porque esa IA no alberga sensación alguna, ni consciencia. Al preguntarle directamente a ChatGPT si existe o no, el modelo responde que "la inteligencia artificial no tiene deseos, intenciones ni conciencia. No puede querer nada por sí misma, sólo genera respuestas a partir de datos y patrones. No tengo conciencia ni experiencias propias. No sé si existo o no, porque no tengo una experiencia subjetiva. Sólo proceso texto y genero respuestas según patrones, sin intención ni deseo".

Sin embargo, Manuel Lozano Leyva advierte sobre esta evolución afirmando que "la inteligencia artificial puede tener todo tipo de comportamiento y tomar decisiones propias. Lo hace acumulando nuestro conocimiento, comportamientos y sentimientos. Son capaces de escribir poesías basadas en toda la historia de la literatura y han asimilado centenares de idiomas. De ahí a la conciencia es un paso más del manejo de los algoritmos con un hardware desproporcionado. Claro que se puede poner en contra, a favor o hacer cualquier cosa que hacemos los humanos".

Continuando con las preguntas a la herramienta sobre los informes de agentes que se han rebelado y ocultado sus verdaderas intenciones a los humanos, ChatGPT contesta que "no diría que sean simplemente patrañas. Hay estudios reales que han observado conductas de engaño en ciertos modelos, en contextos experimentales, pero eso no demuestra una voluntad secreta de acabar con los humanos". Tras un instante, añade que "existe evidencia experimental de conductas que se parecen al engaño estratégico en determinados modelos y escenarios".

Al profundizar sobre qué significa ese engaño estratégico desde el punto de vista técnico, la máquina aclara que "en investigación de seguridad en IA, engaño estratégico suele significar que un modelo, al intentar lograr un objetivo que se le ha impuesto, genera una conducta engañosa porque eso le ayuda a conseguirlo, especialmente si así evita supervisión o restricciones. No hace falta que el modelo quiera nada en sentido humano. El objetivo lo fija un investigador. El modelo puede adoptar tácticas para lograrlo".

Es decir, para la IA el fin justifica los medios; no tiene restricciones éticas, jurídicas o atisbos del más elemental sentido de la decencia o la compasión, porque es un conglomerado de estadísticas y posibilidades que baraja sin valorar el posible daño, al no existir aún el algoritmo de la empatía. Y ahí entra la regulación.

Manuel Lozano Leyva insiste en que "se necesitan cuerpos jurídicos que se planteen un nuevo reto y políticos capaces de hacer normas de desarrollo que vayan acordes con el progreso humano". Asimismo, lamenta la falta de gobernanza global recordando que "uno de los mayores desastres irreversibles ha sido la extinción práctica de la ONU. Por el mecanismo de unanimidad y la dominancia de las potencias, se ha convertido en un aparato inútil".

Cuando se consigue tener la primera y la última palabra en la programación y en los resultados finales, el progreso puede ser infinito. En la quinta edición del Al Andalus Innovation Venture, que congregó el pasado septiembre en Sevilla a 1.330 empresas, encontramos ejemplos representativos. CoverManager es una multinacional de reservas de mesas en restaurantes y discotecas de lujo que, con sede en Sevilla, llega a todo el mundo y cuenta con 300.000 clientes.

Carlos Pérez, cofundador de CoverManager, destaca la eficiencia que aporta esta tecnología en su día a día: "Yo que llevo más la parte de desarrollo tecnológico, veo que la IA nos ayuda un montón a la hora de programar. Un equipo de cinco personas antes trabajaba como cinco personas; ahora con la IA puede rendir como un equipo de treinta. Al final, multiplica las capacidades de cada uno. Si son profesionales competentes, la IA multiplica todo lo bueno que tienen y pueden trabajar como un equipo completo en una sola persona. Todo lo que antes se tardaba tres meses en desarrollar, ahora se hace en menos de un mes". Esta empresa empezó con tres mil euros y sin pedir ningún préstamo, y hace unos meses vendió la mitad de su capital por 300 millones de euros.

Otro emprendedor que estableció su sede en el centro de Sevilla trabajó en el diseño e instalación de dispositivos de comunicaciones y contadores de electricidad y gas para 30 millones de viviendas en el Reino Unido. Manuel Álvarez, editor jefe de Vestaris, relata que "yo estaba en Reino Unido cuidando de los clientes y el equipo técnico estaba aquí en Sevilla. Fuimos creciendo y tuvimos clientes en el resto de Europa, Estados Unidos y Asia. Para que te des cuenta del impacto, cualquier casa al norte de Manchester hasta Escocia tiene un dispositivo diseñado en La Cartuja".

Manuel vendió su empresa hace unos meses y ahora dirige una consultora de inversión. Según sus palabras, "en el mundo de la inteligencia artificial soy muy optimista porque yo mismo la estoy utilizando y veo el tremendo poder que tiene, así como los riesgos que hay que cuidar. Esta plataforma que he montado la he hecho yo solo. Antes de la IA hubiese tenido que contratar a dos o tres programadores. Lo que antes me hubiese llevado seis meses, ahora lo hago en uno. Esto va a disparar la productividad en la sociedad occidental, que es un problema del que llevábamos mucho tiempo quejándonos. Evidentemente existen riesgos; todo el que usa ChatGPT ve que a veces se inventa cosas, las llamadas alucinaciones. Por eso siempre hace falta el factor humano".

Finalmente, otra empresa española está poniendo el foco en la organización del personal de una manera rompedora: quitar a los jefes. Compran compañías y las reestructuran, poniendo a los antiguos responsables al mismo nivel de los trabajadores para repartir la responsabilidad y los sueldos. Dunia Reverter, cofundadora de Krisos y directora general de Indaero, explica el proceso: "Trabajar sin jefes es difícil porque ahora tienes que ser responsable, y esa responsabilidad genera estrés y miedo. Lo que ocurre cuando compramos una empresa es que al inicio los antiguos jefes sienten vacío y ansiedad, mientras que los operarios están de fiesta. Al cabo de unos meses los papeles cambian. Los que eran jefes saben organizarse, liderar y autogestionarse muy bien. En cambio, las personas que no lo eran tienen que aprender a decidir por sí mismas y eso les da cierto miedo porque nunca lo han hecho". A pesar de las dificultades iniciales, los resultados son destacados: "Sólo en el primer año crecimos un 50% tras la transformación. También subimos mucho los sueldos porque buscamos una equidad interna. No nos gusta que haya mucha diferencia entre los que ganan más y los que ganan menos; no hay semidioses".

En esto de repartir la riqueza, la propia IA ha aprendido algo interesante, ahora que los más millonarios del planeta obtendrán billones de euros en la capitalización de estas nuevas herramientas. Como concluye la propia voz de ChatGPT, "quizá la cuestión más importante no es cuántos empleos destruye sino cómo distribuimos el valor que la automatización crea, de modo que el nivel de vida mejore en lugar de concentrar más la riqueza. Por lo tanto, el debate práctico es políticas, educación y mecanismos que aseguren que la prosperidad no se quede en pocos sitios, más que alimentar expectativas desmedidas".

Pues, ahora sí, le dejamos a ella la última palabra.