Le roi Charles III prévoit de s’adresser aux figures clés du secteur de l’intelligence artificielle pour obtenir l’assurance que les développeurs garderont le contrôle de leurs technologies. Un événement organisé par le roi Charles III se tiendra ce jeudi en Écosse. Y participeront le directeur général de Nvidia Jensen Huang, la directrice financière d’OpenAI Sarah Friar, le cofondateur de Google DeepMind Demis Hassabis et le responsable des relations publiques d’Anthropic Tino Cuellar.
Selon les notes préparées, le roi Charles III compte déclarer : « Ceux qui, dans notre monde, valorisent l’humanité et sa composante morale essentielle, cherchent à obtenir de vous l’assurance que nous ne perdrons pas le contrôle de notre propre destin ». D’après le palais de Buckingham, les participants discuteront de la manière d’utiliser ces technologies « pour le bien de la société et du monde naturel ».
Débat mondial sur les risques de l’IA
Cette discussion à huis clos intervient dans un contexte de débat mondial sur les risques liés à l’IA. Le directeur général d’Anthropic Dario Amodei a récemment suscité une large controverse en appelant, dans un essai, à ralentir le développement des modèles avancés. Le directeur général d’OpenAI Sam Altman a souscrit aux conclusions de cet essai, et le cofondateur de Google DeepMind Demis Hassabis les a qualifiées de « bonne voie à suivre ». À l’inverse, le directeur général de Nvidia Jensen Huang s’est opposé à tout ralentissement du développement ou à l’introduction de réglementations supplémentaires.
Au cours de la semaine dernière, deux chercheurs en IA ont quitté Google DeepMind et Anthropic, affirmant que cette technologie pourrait présenter un danger mortel.
Ces craintes ont suscité l’inquiétude des législateurs et du public dans plusieurs pays. Le Premier ministre britannique Andy Burnham subit la pression de députés du Parti travailliste au pouvoir, qui exigent plus de clarté sur la politique du pays en matière d’IA. Ces derniers jours, des responsables chinois ont rejeté les déclarations d’Dario Amodei, les qualifiant de « peur irrationnelle », tout en mettant en garde contre les dangers de l’IA.
Le président américain Donald Trump s’est également opposé à un ralentissement du développement de l’IA. Parallèlement, des législateurs des deux partis américains ont proposé des mesures pour renforcer la sécurité, alors que l’inquiétude des citoyens face à cette technologie grandit.
Questions de sécurité et coopération internationale
Lors du sommet, le roi Charles III devrait poser deux questions clés : « Premièrement, comment pouvons-nous exploiter les avantages de l’IA en plaçant la sécurité au cœur de ce processus ? Et deuxièmement, comment pouvons-nous construire une coopération internationale et parvenir à un consensus pour qu’aucun pays ne soit laissé pour compte et que l’avenir de l’humanité soit protégé ? »
Selon le programme de l’événement, le roi Charles III tiendra une réunion privée avec Jensen Huang, Demis Hassabis, Tino Cuellar et Sarah Friar, ainsi que cinq autres invités. Parmi eux figurent le théologien catholique Paolo Benanti et l’informaticien britannique Stuart Russell, qui a critiqué les entreprises technologiques. Le ministre britannique de l’IA Kanishka Narayan, la secrétaire du cabinet Antonia Romeo et le directeur de la Ditchley Foundation James Arroyo, dont l’organisation a aidé à organiser l’événement, y participeront également.
Le roi Charles III s’est déjà exprimé publiquement sur l’IA, notamment lors du premier sommet sur la sécurité de l’IA au Royaume-Uni en 2023, où il a averti de la nécessité de traiter d’urgence les risques liés à cette technologie. Il a également exprimé à plusieurs reprises ses préoccupations concernant le changement climatique, un sujet qui pourrait faire l’objet de questions aux dirigeants des entreprises technologiques.
Les émissions des plus grandes entreprises technologiques ont fortement augmenté avec la transition vers des centres de données énergivores, dont certains dépendent des combustibles fossiles. Mercredi, le Parlement écossais a voté en faveur d’un durcissement des règles de construction des nouveaux centres de données. Selon cette décision, les nouvelles demandes doivent inclure une évaluation de l’impact environnemental de ces installations.
Cela crée un terrain propice à un conflit entre l’Écosse et le gouvernement britannique, car Andy Burnham a rejeté l’idée d’un moratoire sur la construction de centres de données. Le débat au Royaume-Uni reflète les inquiétudes mondiales concernant l’impact environnemental et le coût énergétique des centres de données utilisés pour faire fonctionner et entraîner les systèmes d’IA.
Source : Bloomberg
