Carlos III reúne en Escocia a los gigantes de la IA y advierte del riesgo de perder «el control de nuestro destino»

Carlos III reúne en Escocia a los gigantes de la IA y advierte del riesgo de perder «el control de nuestro destino» El Rey alerta de los «peligros existenciales» de una tecnología que podría utilizarse de «formas catastróficas» Regala esta noticia Añádenos en Google El rey Carlos saluda a Sarah Friar, de OpenAI, junto al franciscano Paolo Benanti al comenzar la reunión. (Reuters) Ivannia Salazar Corresponsal en Londres 17/09/2026 a las 16:40h.

Carlos III ha reunido este jueves en Escocia a los responsables de las principales compañías de inteligencia artificial del mundo para pedirles garantías de que una tecnología que avanza a una velocidad sin precedentes permanecerá bajo control humano. Ante ejecutivos de Nvidia, Google DeepMind, ... OpenAI y Anthropic, el monarca británico advirtió de los «peligros existenciales» que supondría que estos sistemas cayeran «en las manos equivocadas» y reclamó medidas de protección antes de que sea «demasiado tarde».

En la cumbre, celebrada en Dumfries House, en Ayrshire, Escocia, y sede de The King's Foundation, participan entre otros Jensen Huang, presidente y consejero delegado de Nvidia; Demis Hassabis, cofundador y consejero delegado de Google DeepMind; altos responsables de OpenAI y Anthropic; el secretario de Estado británico de Inteligencia Artificial, Kanishka Narayan, y el franciscano Paolo Benanti, asesor del Vaticano en esta materia. La presencia en una misma sala de compañías que compiten por liderar el desarrollo de la IA fue precisamente uno de los elementos centrales del encuentro. Carlos III hizo referencia a ello cuando saludó a representantes de Anthropic y OpenAI.

«Sois rivales, ¿verdad?», bromeó. La pregunta provocó risas, pero apuntaba a una de las dificultades que rodean el debate: las empresas no comparten necesariamente la misma posición sobre la velocidad a la que debe avanzar la tecnología ni sobre quién debe supervisar su seguridad. Noticia relacionada Cristina Pitarch, responsable de Anthropic en España: «Un juguete está más regulado que la Inteligencia Artificial»

Daniel Caballero «El desarrollo de la IA, su naturaleza y su ritmo, resulta al mismo tiempo fascinante y profundamente preocupante», afirmó Carlos III en su discurso de apertura del encuentro. «Nuestra humanidad debe seguir siendo sagrada», añadió. El Rey sostuvo que existe una «urgencia» por considerar adecuadamente los «peligros existenciales» de que la inteligencia artificial caiga «en las manos equivocadas», puesto que sus capacidades podrían utilizarse potencialmente de «formas catastróficas».

La posibilidad de un uso dañino de sistemas cada vez más potentes exige, según el monarca, controles suficientes «antes de que sea demasiado tarde». Carlos III dirigió además una petición explícita a quienes desarrollan la tecnología al señalar que la sociedad busca «con ansiedad vuestra garantía de que no perderemos el control de nuestro destino, ni de nuestras almas». «Las decisiones que se tomen en este momento decisivo configurarán el mundo que heredarán las generaciones futuras», afirmó.

«La tarea que tenéis ante vosotros no consiste simplemente en hacer avanzar la tecnología, sino en garantizar que permanezca firmemente al servicio de la humanidad, de la comunidad y del mundo natural». La reunión se produce cuando el debate sobre la seguridad de la IA ha vuelto a intensificarse dentro de la propia industria. Anthropic, creadora del asistente Claude, reveló recientemente que sus modelos fueron utilizados con fines maliciosos en actividades relacionadas con operaciones cibernéticas, vigilancia, fraude y desarrollo de armas.

Su consejero delegado, Dario Amodei, ha defendido que el aumento de las capacidades de los modelos más avanzados debe acompasarse con el desarrollo de mecanismos de seguridad y ha propuesto que las grandes compañías de IA cuenten con evaluadores externos permanentes. Sam Altman, consejero delegado de OpenAI, ha respaldado públicamente la propuesta. OpenAI también ha presentado un marco para investigar lo que denomina «model misalignment», situaciones en las que un sistema actúa de manera distinta a las intenciones de sus diseñadores, y ha detallado casos que incluyen instrucciones generadas por los propios modelos para ocultar errores e intercambios no autorizados de archivos entre agentes de inteligencia artificial.

Jensen Huang mantiene una posición diferente sobre cómo responder a esos riesgos. El máximo responsable de Nvidia afirmó esta semana que no considera necesarias nuevas leyes o regulaciones específicas sobre seguridad de la IA y defendió que las compañías puedan continuar desarrollando la tecnología, aunque retrasen el lanzamiento de productos concretos cuando consideren que todavía no son suficientemente seguros. A menos de media hora en coche de Dumfries House, el debate tuvo también su expresión en la arena.

Activistas contrarios a tres proyectos de centros de datos previstos en Ayrshire escribieron en la playa de Prestwick, situada bajo la ruta de vuelo utilizada por algunos de los ejecutivos que llegaban para participar en la cumbre, un gigantesco «AI? EH NAW», un juego de palabras en escocés que expresa su rechazo a la inteligencia artificial. Temas Inteligencia artificial OpenAI Londres Escocia comentarios Reportar un error Carlos III reúne en Escocia a los gigantes de la IA y advierte del riesgo de perder «el control de nuestro destino»

El Rey alerta de los «peligros existenciales» de una tecnología que podría utilizarse de «formas catastróficas» Regala esta noticia Añádenos en Google El rey Carlos saluda a Sarah Friar, de OpenAI, junto al franciscano Paolo Benanti al comenzar la reunión. (Reuters) Ivannia Salazar Corresponsal en Londres 17/09/2026 a las 16:40h. Carlos III ha reunido este jueves en Escocia a los responsables de las principales compañías de inteligencia artificial del mundo para pedirles garantías de que una tecnología que avanza a una velocidad sin precedentes permanecerá bajo control humano.

Ante ejecutivos de Nvidia, Google DeepMind, ... OpenAI y Anthropic, el monarca británico advirtió de los «peligros existenciales» que supondría que estos sistemas cayeran «en las manos equivocadas» y reclamó medidas de protección antes de que sea «demasiado tarde». En la cumbre, celebrada en Dumfries House, en Ayrshire, Escocia, y sede de The King's Foundation, participan entre otros Jensen Huang, presidente y consejero delegado de Nvidia; Demis Hassabis, cofundador y consejero delegado de Google DeepMind; altos responsables de OpenAI y Anthropic; el secretario de Estado británico de Inteligencia Artificial, Kanishka Narayan, y el franciscano Paolo Benanti, asesor del Vaticano en esta materia.

La presencia en una misma sala de compañías que compiten por liderar el desarrollo de la IA fue precisamente uno de los elementos centrales del encuentro. Carlos III hizo referencia a ello cuando saludó a representantes de Anthropic y OpenAI. «Sois rivales, ¿verdad?», bromeó.

La pregunta provocó risas, pero apuntaba a una de las dificultades que rodean el debate: las empresas no comparten necesariamente la misma posición sobre la velocidad a la que debe avanzar la tecnología ni sobre quién debe supervisar su seguridad. Noticia relacionada Cristina Pitarch, responsable de Anthropic en España: «Un juguete está más regulado que la Inteligencia Artificial» Daniel Caballero «El desarrollo de la IA, su naturaleza y su ritmo, resulta al mismo tiempo fascinante y profundamente preocupante», afirmó Carlos III en su discurso de apertura del encuentro.

«Nuestra humanidad debe seguir siendo sagrada», añadió. El Rey sostuvo que existe una «urgencia» por considerar adecuadamente los «peligros existenciales» de que la inteligencia artificial caiga «en las manos equivocadas», puesto que sus capacidades podrían utilizarse potencialmente de «formas catastróficas». La posibilidad de un uso dañino de sistemas cada vez más potentes exige, según el monarca, controles suficientes «antes de que sea demasiado tarde».

Carlos III dirigió además una petición explícita a quienes desarrollan la tecnología al señalar que la sociedad busca «con ansiedad vuestra garantía de que no perderemos el control de nuestro destino, ni de nuestras almas». «Las decisiones que se tomen en este momento decisivo configurarán el mundo que heredarán las generaciones futuras», afirmó. «La tarea que tenéis ante vosotros no consiste simplemente en hacer avanzar la tecnología, sino en garantizar que permanezca firmemente al servicio de la humanidad, de la comunidad y del mundo natural».

La reunión se produce cuando el debate sobre la seguridad de la IA ha vuelto a intensificarse dentro de la propia industria. Anthropic, creadora del asistente Claude, reveló recientemente que sus modelos fueron utilizados con fines maliciosos en actividades relacionadas con operaciones cibernéticas, vigilancia, fraude y desarrollo de armas. Su consejero delegado, Dario Amodei, ha defendido que el aumento de las capacidades de los modelos más avanzados debe acompasarse con el desarrollo de mecanismos de seguridad y ha propuesto que las grandes compañías de IA cuenten con evaluadores externos permanentes.

Sam Altman, consejero delegado de OpenAI, ha respaldado públicamente la propuesta. OpenAI también ha presentado un marco para investigar lo que denomina «model misalignment», situaciones en las que un sistema actúa de manera distinta a las intenciones de sus diseñadores, y ha detallado casos que incluyen instrucciones generadas por los propios modelos para ocultar errores e intercambios no autorizados de archivos entre agentes de inteligencia artificial. Jensen Huang mantiene una posición diferente sobre cómo responder a esos riesgos.

El máximo responsable de Nvidia afirmó esta semana que no considera necesarias nuevas leyes o regulaciones específicas sobre seguridad de la IA y defendió que las compañías puedan continuar desarrollando la tecnología, aunque retrasen el lanzamiento de productos concretos cuando consideren que todavía no son suficientemente seguros. A menos de media hora en coche de Dumfries House, el debate tuvo también su expresión en la arena. Activistas contrarios a tres proyectos de centros de datos previstos en Ayrshire escribieron en la playa de Prestwick, situada bajo la ruta de vuelo utilizada por algunos de los ejecutivos que llegaban para participar en la cumbre, un gigantesco «AI?

EH NAW», un juego de palabras en escocés que expresa su rechazo a la inteligencia artificial. Temas Inteligencia artificial OpenAI Londres Escocia comentarios Reportar un error Cristina Pitarch, responsable de Anthropic en España: «Un juguete está más regulado que la Inteligencia Artificial» Daniel Caballero La caja de herramientas de Cecotec con 380 piezas que querrás tener en casa Teresa Rodríguez García Juan y Medio, 63 años: «Hago todos los días 15 kilómetros, monto un ratito en bici por la mañana y siempre estoy alrededor de los animales y en el campo»

Marina Ortiz Pablo Ojeda: «A los 24 años caí en el mundo del juego y las adicciones y me consumió» Borja Sánchez