El rey Carlos III planea dirigirse a figuras clave del sector de la inteligencia artificial para solicitar garantías de que los desarrolladores mantendrán el control sobre sus tecnologías. Este jueves se celebrará en Escocia un evento convocado por el monarca, al que asistirán el director ejecutivo de Nvidia, Jensen Huang; la directora financiera de OpenAI, Sarah Friar; el cofundador de Google DeepMind, Demis Hassabis; y el director de asuntos públicos de Anthropic, Tino Cuéllar.
Según los puntos clave preparados, el rey Carlos III tiene previsto declarar: «Quienes valoran la humanidad y su componente moral esencial buscan que les aseguremos que no perderemos el control de nuestro propio destino». Según el Palacio de Buckingham, los participantes debatirán cómo utilizar estas tecnologías «en beneficio de la sociedad y del mundo natural».
Debate global sobre los riesgos de la IA
Este debate a puerta cerrada tiene lugar en medio de una discusión global sobre los riesgos de la IA. El director ejecutivo de Anthropic, Dario Amodei, provocó recientemente un amplio debate al pedir en un ensayo que se ralentice el desarrollo de modelos avanzados. El director ejecutivo de OpenAI, Sam Altman, coincidió con las conclusiones del ensayo, y el cofundador de Google DeepMind, Demis Hassabis, las calificó como «el camino correcto a seguir». Por su parte, el director ejecutivo de Nvidia, Jensen Huang, se ha opuesto a cualquier ralentización o a la imposición de regulaciones adicionales.
Durante la última semana, dos investigadores de IA abandonaron Google DeepMind y Anthropic, advirtiendo que la tecnología podría representar un peligro mortal.
Estas preocupaciones han inquietado a legisladores y ciudadanos de diversos países. El primer ministro del Reino Unido, Keir Starmer, está bajo presión de los diputados del gobernante Partido Laborista, que exigen mayor claridad sobre la política nacional en materia de IA. Funcionarios chinos han rechazado en los últimos días las declaraciones de Dario Amodei, calificándolas de «alarmismo», al tiempo que advierten sobre los peligros de la IA.
El presidente de los Estados Unidos Donald Trump también se ha manifestado en contra de ralentizar el desarrollo de la IA. No obstante, legisladores de ambos partidos estadounidenses han propuesto medidas para mejorar la seguridad, mientras crece la preocupación ciudadana sobre esta tecnología.
Cuestiones de seguridad y cooperación internacional
Durante la cumbre, el rey Carlos III planteará dos preguntas clave: «En primer lugar, ¿cómo podemos aprovechar los beneficios de la IA poniendo la seguridad en el centro de este proceso? Y, en segundo lugar, ¿cómo podemos construir una cooperación internacional y alcanzar un consenso para que ningún país se quede atrás y el futuro de la humanidad esté protegido?»
Según el programa del evento, el rey Carlos III mantendrá una reunión privada con Jensen Huang, Demis Hassabis, Tino Cuéllar y Sarah Friar, además de otros cinco invitados. Entre ellos se encuentran el teólogo católico Paolo Benanti y el informático británico Stuart Russell, quien ha criticado a las empresas tecnológicas. También participarán la ministra de Inteligencia Artificial del Reino Unido, Kanishka Narayan; la secretaria del gabinete, Antonia Romeo; y el director de la Ditchley Foundation, James Arroyo, cuya organización ayudó a coordinar el evento.
El rey Carlos III ha hablado públicamente sobre la IA en ocasiones anteriores, como en la primera cumbre sobre seguridad de la IA del Reino Unido en 2023, donde advirtió sobre la necesidad de abordar con urgencia los riesgos asociados a esta tecnología. También ha expresado en repetidas ocasiones su preocupación por el cambio climático, un tema que podría ser objeto de preguntas a los directivos tecnológicos.
Las emisiones de las grandes empresas tecnológicas han aumentado drásticamente debido a la transición hacia centros de datos que consumen mucha energía, algunos de los cuales dependen de combustibles fósiles. El miércoles, el Parlamento de Escocia votó a favor de endurecer las normas para la construcción de nuevos centros de datos. Según la decisión, las nuevas solicitudes deberán incluir una evaluación del impacto ambiental de dichas instalaciones.
Esto sienta las bases para una disputa entre Escocia y el gobierno del Reino Unido, ya que Keir Starmer ha rechazado la idea de una moratoria en la construcción de centros de datos. El debate en el Reino Unido refleja las preocupaciones globales sobre el impacto ambiental y el coste energético de los centros de datos utilizados para operar y entrenar sistemas de IA.
Fuente: Bloomberg
