Observatoire
Coup d’œil : les développements qui font des vagues
Gouvernance de l’IA
Le Chili a présenté une politique nationale actualisée en matière d’IA ainsi qu’une nouvelle législation visant à en garantir un développement éthique, à répondre aux préoccupations en matière de protection de la vie privée et à promouvoir l’innovation au sein de son écosystème technologique. En Afrique du Sud, le Gouvernement a annoncé la création d’un conseil consultatif d’experts en IA. Ce conseil sera chargé de mener des recherches, de formuler des recommandations et de superviser la mise en œuvre des politiques d’IA dans le pays. Dans le même temps, la Zambie a finalisé une stratégie globale en matière d’IA, visant à mettre les technologies modernes au service du développement du pays.
Le très attendu deuxième sommet mondial sur l’IA, qui s’est tenu à Séoul, a permis d’obtenir des promesses de sécurité de la part d’entreprises de premier plan, soulignant ainsi l’importance des efforts de collaboration pour faire face aux risques liés à l’IA.
Aux États-Unis, les législateurs ont présenté un projet de loi visant à réglementer les exportations d’IA. Ce projet de loi vise à contrôler l’exportation des technologies d’IA qui pourraient être utilisées à des fins malveillantes ou constituer une menace pour la sécurité nationale. En outre, le ministère américain du Commerce envisage de nouvelles mesures de contrôle des exportations de logiciels d’IA vendus à la Chine. Cette annonce intervient alors que les États-Unis et la Chine se sont rencontrés à Genève pour discuter des risques liés à l’IA.
Les inquiétudes concernant la sécurité et la transparence de l’IA ont été mises en évidence par un groupe d’employés actuels et anciens d’OpenAI, qui ont publié une lettre ouverte signalant que les principales entreprises d’IA ne disposent pas de la transparence et de la responsabilité nécessaires pour prévenir les risques potentiels.
Technologies
Les États-Unis devraient tripler leur production de semi-conducteurs d’ici 2032, creusant ainsi l’écart avec la Chine en matière de fabrication de puces. Les entreprises chinoises spécialisées dans les puces d’IA, dont des fleurons du secteur tels que MetaX et Enflame, revoient à la baisse la conception de leurs puces pour se conformer aux protocoles de sécurité de la chaîne d’approvisionnement et aux exigences réglementaires rigoureuses de la Taiwan Semiconductor Manufacturing Company (TSMC), ce qui suscite des inquiétudes quant à l’innovation et à la compétitivité à long terme. La Corée du Sud a dévoilé un programme de soutien substantiel de 26 billions de wons (19 milliards de dollars américains) pour son industrie des puces, tandis que la loi européenne sur les puces financera une nouvelle ligne pilote de puces à hauteur de 2,5 milliards d’euros. Le Japon envisage une nouvelle législation pour soutenir la production commerciale de semi-conducteurs avancés.
Le premier essai sur l’homme de l’implant cérébral de Neuralink s’est heurté à des problèmes majeurs, car les fils du dispositif se sont détachés du cerveau, ce qui a compromis sa capacité à décoder les signaux cérébraux.
Cybersécurité
Les discussions de haut niveau entre les États-Unis et la Chine ont attiré l’attention sur des cybermenaces telles que Volt Typhoon, reflétant ainsi l’escalade des tensions. Les responsables américains et britanniques ont souligné que la Chine représentait une menace redoutable pour la cybersécurité. Par ailleurs, le groupe de travail à composition non limitée (GTCNL) sur la sécurité des TIC a établi un répertoire mondial des centres d’opérations d’urgence (POC), afin de renforcer la réponse internationale aux cyberincidents. Pour en savoir plus, voir page 7.
Une cyberattaque massive contre le ministère britannique de la Défense a suscité des soupçons, et la Chine a été mise en cause. Le groupe Qilin a revendiqué la responsabilité d’une cyberattaque contre les laboratoires Synnovis, qui a perturbé des services clés dans des hôpitaux londoniens. Une violation de données revendiquée par IntelBroker a visé Europol, amplifiant les inquiétudes concernant la sécurité des données des forces de l’ordre. En outre, Ticketmaster a été victime d’une violation de données qui a compromis les données personnelles de 560 millions d’utilisateurs et fait l’objet d’un recours collectif.
Infrastructure
Les autorités américaines ont averti les entreprises de télécommunications qu’une société chinoise contrôlée par l’État, chargée de réparer les câbles sous-marins internationaux, pourrait les endommager. Google a annoncé qu’il allait construire Umoja, le premier câble sous-marin reliant l’Afrique et l’Australie. Le Zimbabwe a accordé à Starlink, la société d’Elon Musk, une licence d’exploitation dans le pays.
Juridique
Dans une bataille juridique, TikTok et ses créateurs ont poursuivi le gouvernement américain au sujet d’une loi exigeant que l’application rompe ses liens avec sa société mère chinoise, ByteDance, sous peine d’être interdite aux États-Unis. Cela a incité la cour d’appel du District de Columbia à accélérer l’examen de la loi d’interdiction de TikTok.
La bataille juridique entre la société X, d’Elon Musk, et l’autorité australienne de régulation de la cybersécurité au sujet de la suppression de 65 messages montrant une vidéo d’un évêque chrétien assyrien poignardé a pris fin. En avril, la Cour fédérale d’Australie, agissant à la demande du commissaire à la cybersécurité, a émis une ordonnance mondiale temporaire obligeant X à masquer le contenu de la vidéo. Toutefois, en mai, le tribunal a rejeté la requête de l’autorité de régulation visant à prolonger cette ordonnance, ce qui a conduit l’autorité de régulation à abandonner ses poursuites judiciaires à l’encontre de X.
L’UE a lancé une enquête sur Facebook et Instagram en raison de craintes concernant la sécurité des enfants. Dans le même temps, l’organisme de régulation italien a infligé une amende à Meta pour utilisation abusive des données des utilisateurs.
Économie de l’internet
Microsoft, OpenAI et Nvidia se sont retrouvés sous le microscope antitrust aux États-Unis en raison de leur position dominante perçue dans le secteur de l’IA. Le Rwanda a annoncé son intention de créer une monnaie numérique d’ici à 2026, tandis que les Philippines ont approuvé un programme pilote de monnaie stable.
Droit numérique
La Cour européenne des droits de l’Homme a déclaré que la loi polonaise sur la surveillance violait le droit à la vie privée, faute de garanties et d’un contrôle efficace. Les Bermudes ont interrompu leurs projets de technologie de reconnaissance faciale en raison de préoccupations liées à la protection de la vie privée et de retards dans les projets, ce qui reflète les hésitations mondiales quant à l’impact de la technologie sur les libertés civiles.
OpenAI a été critiquée pour avoir utilisé la voix de Scarlett Johansson dans ChatGPT sans son consentement, ce qui a mis en lumière les questions de respect de la vie privée et de droits de propriété intellectuelle. Le rapport de la GLAAD a révélé que les principales plateformes de médias sociaux ne gèrent pas la sécurité, la vie privée et l’expression de la communauté LGBTQ en ligne.
Google a lancé son service « Results about you » en Australie pour aider les utilisateurs à supprimer les résultats de recherche contenant leurs informations personnelles. Les grandes entreprises mondiales de l’internet travaillent en étroite collaboration avec les régulateurs de l’UE pour s’assurer que leurs produits d’intelligence artificielle sont conformes aux lois sur la protection des données de l’Union, a déclaré la Commission irlandaise de protection des données. Cependant, OpenAI est en conflit avec le Conseil européen de la protection des données au sujet de l’exactitude des résultats de ChatGPT.
Développement
L’UE a officiellement adopté le règlement pour une industrie « zéro net » (NZIA) afin d’encourager la fabrication de technologies propres au sein de l’UE.
L’Afrique du Sud s’est engagée à réduire la fracture numérique dans le pays et à étendre l’accès à l’internet pour tous. Le Maroc a lancé un programme visant à étendre l’accès à l’internet à haut débit à 1 800 zones rurales. Le programme « Génération connectée » (GenSi) a été lancé pour fournir des compétences numériques aux jeunes et aux femmes des zones rurales d’Indonésie.
Socioculturel
L’UE a lancé une enquête sur la désinformation sur X après la fusillade du Premier ministre slovaque. Par ailleurs, X a officiellement commencé à autoriser les contenus pour adultes.
Le Maroc a annoncé sa stratégie numérique 2030, qui vise à dématérialiser les services publics et à renforcer l’économie numérique afin d’encourager les solutions numériques locales, de créer des emplois et d’apporter de la valeur ajoutée. La Zambie a franchi une étape importante dans la transformation numérique des cartes d’identité, en numérisant 81 % de ses cartes d’identité papier en trois mois.
OpenAI a annoncé qu’elle avait démantelé cinq opérations secrètes qui utilisaient ses modèles d’IA pour des activités trompeuses en ligne, ciblant des questions telles que l’invasion de l’Ukraine par la Fédération de Russie, le conflit de Gaza, les élections indiennes, et la politique en Europe et aux États-Unis. Une enquête a révélé une grande inquiétude quant à une éventuelle utilisation abusive de l’IA lors de la prochaine élection présidentielle aux États-Unis. Les élections européennes sont un sujet brûlant au début du mois de juin. L’UE a accusé la Russie de diffuser de la fausse information avant ces élections, et une étude a montré que TikTok n’avait pas réussi à lutter efficacement contre la diffusion de la désinformation avant les élections. Il est intéressant de noter que Microsoft a indiqué que l’IA n’avait eu qu’un impact minime sur la désinformation les entourant.
Les législateurs new-yorkais s’apprêtent à interdire aux entreprises de médias sociaux d’utiliser des algorithmes pour contrôler le contenu vu par les jeunes sans le consentement de leurs parents. Dans le même temps, l’Australie a annoncé un essai de technologies de vérification de l’âge afin d’améliorer la sécurité en ligne des mineurs.
En bref
La gouvernance numérique au cœur du SMSI+20 et du Sommet mondial AI for Good 2024
La dernière semaine de mai a été marquée par deux événements numériques qui ont suscité un grand intérêt : le SMSI+20 et le Sommet mondial AI for Good. Le premier a figuré en bonne place à l’ordre du jour des responsables de la politique numérique, étant donné l’examen prochain, 20 ans après, des progrès réalisés dans la mise en œuvre des résultats du SMSI tels que définis dans la déclaration de Genève et l’agenda de Tunis. L’année 2024 a également été marquée par la négociation du Pacte mondial pour le numérique (PMN), dans le cadre duquel les États membres des Nations unies doivent réaffirmer et renforcer leur engagement en faveur du développement numérique et d’une gouvernance efficace. Il est tout à fait naturel qu’au cours du SMSI+20 de cette année, une question soit restée en suspens : quelle est la pertinence des résultats du SMSI à la lumière du PMN ?
Selon la première révision du PMN, les États membres de l’ONU doivent « rester fidèles aux résultats du [SMSI] ». Les parties prenantes se sont réunies lors du SMSI+20 pour réfléchir et comparer le PMN et les processus d’examen du SMSI+20. Les intervenants ont souligné la nécessité d’aligner les deux processus, et en particulier de tirer parti du modèle multipartite inclusif défini par le processus du SMSI. Certains ont réitéré l’importance du Forum sur la gouvernance de l’internet (FGI), une plateforme clé de politique numérique pour les discussions multipartites née de l’agenda de Tunis, qui doit être exploitée dans la mise en œuvre et l’alignement des lignes d’action du SMSI et des principes du PMN. D’autres ont souligné la nécessité de mécanismes concrets de suivi du PMN et ont suggéré que le processus d’examen du SMSI+20 soit un moment crucial de réflexion. Enfin, plusieurs autres intervenants se sont penchés sur la dimension régionale, soulignant que les besoins locaux, le multiculturalisme et le multilinguisme étaient des éléments essentiels à prendre en compte dans les deux processus.
Une discussion plus nuancée a également eu lieu sur la pertinence du processus global du SMSI pour la gouvernance numérique. Avant l’examen des 20 ans en 2025, les experts ont réfléchi aux réalisations du processus du SMSI jusqu’à présent, notamment en ce qui concerne la promotion de la coopération numérique entre les groupes de la société civile, le secteur privé et d’autres parties prenantes. Certains ont appelé à une collaboration accrue au sein du système des Nations unies afin de réaliser des progrès plus substantiels dans la mise en œuvre des AL du SMSI ; d’autres ont encouragé la communauté technique à s’intégrer davantage dans le processus d’examen du SMSI+20.
Le Sommet mondial AI for Good, quant à lui, est pertinent pour la gouvernance numérique à deux égards. D’une part, il sert de plateforme aux acteurs de l’IA pour se réunir, échanger, travailler en réseau et rechercher des possibilités de développement. L’initiative de l’UIT comprend non seulement un sommet mondial, mais aussi des ateliers et des initiatives qui se déroulent tout au long de l’année, et qui encouragent les développeurs et les chercheurs dans le domaine de l’IA à trouver des solutions créatives aux défis mondiaux. Dans la première révision du PMN, l’initiative AI for Good est également mentionnée pour son rôle de mécanisme de renforcement des capacités en matière d’IA.
D’autre part, le Sommet mondial AI for Good offre une plateforme aux chefs d’entreprise, aux décideurs politiques, aux chercheurs en IA et à d’autres pour discuter ouvertement des questions de gouvernance de l’IA, échanger des cas d’utilisation à fort potentiel pour faire progresser les ODD et établir des partenariats intersectoriels qui vont au-delà de l’événement de trois jours. Le sommet de cette année comprenait une journée sur la gouvernance de l’IA au cours de laquelle des décideurs politiques de haut niveau et des développeurs d’IA de premier plan ont pu débattre des principaux processus de gouvernance de l’IA, du rôle du système des Nations unies dans l’avancement de ces processus et de la difficulté pour les gouvernements de trouver un équilibre entre les risques et les avantages du développement de l’IA.
Les conversations du sommet ont porté sur des sujets plus techniques que les discussions politiques conventionnelles. Les experts ont évalué les avantages et les inconvénients des modèles linguistiques à code source ouvert par rapport aux modèles propriétaires, ainsi que la possibilité d’établir des normes pour l’harmonisation des industries de haute technologie ou le développement responsable et équitable de la technologie. La diversité linguistique et culturelle dans le développement de l’IA a également été présentée comme un élément clé, en particulier parce que les LLM occupent le devant de la scène.
GIP a fourni des rapports en temps réel du SMSI+20 et du Sommet mondial AI for Good.
Analyse
Avons-nous besoin d’un contrat social numérique ?
Vous connaissez peut-être le concept de « contrat social ». L’idée est que les individus veulent quitter l’état de nature, où il n’y a pas d’ordre politique, et qu’ils forment une société, acceptant d’être gouvernés par une autorité en échange d’une sécurité ou de droits civils.
L’ère numérique soulève les questions suivantes : l’État peut-il respecter sa part du contrat social ? Avons-nous besoin d’un nouveau contrat social pour l’ère en ligne, qui rétablirait la relation de confiance entre les citoyens et l’État ? Suffit-il de réunir les citoyens et l’État autour d’une même table ? Ou bien le contrat social d’aujourd’hui devrait-il également impliquer spécifiquement la communauté technique et le secteur privé, qui gèrent la majeure partie du monde en ligne ?
La société moderne pourrait avoir besoin d’un nouveau contrat social entre les utilisateurs, les sociétés Internet et les gouvernements, dans la tradition du Léviathan de Thomas Hobbes (échanger la liberté contre la sécurité) ou du Contrat social de Rousseau, plus favorable (volonté individuelle contre volonté commerciale/politique). Le nouvel accord entre les citoyens, les gouvernements et les entreprises devrait répondre aux questions suivantes : quels devraient être les rôles respectifs des gouvernements et du secteur privé dans la protection de nos intérêts et de nos actifs numériques ? Un système de freins et de contrepoids ? Un système d’équilibre des pouvoirs soigneusement conçu et plus transparent serait-il suffisant ? Le nouveau contrat social doit-il être mondial ou des contrats régionaux et nationaux peuvent-ils fonctionner ?
Un contrat social pourrait résoudre les principaux problèmes et jeter les bases d’un internet plus fiable. Cette solution est-elle réalisable ? Il y a des raisons d’être prudemment optimiste sur la base d’intérêts partagés dans la préservation de l’internet. Pour les entreprises de l’internet, plus elles ont d’utilisateurs confiants, plus elles peuvent faire de bénéfices. Pour de nombreux gouvernements, l’internet est un facilitateur de croissance sociale et économique. Même les gouvernements qui considèrent l’internet comme un outil subversif doivent réfléchir à deux fois avant d’interrompre ou d’interdire l’un de ses services. Nos habitudes quotidiennes et nos vies personnelles sont tellement liées à l’internet que toute perturbation de ce dernier pourrait catalyser une perturbation de la société dans son ensemble. Un internet digne de confiance est donc dans l’intérêt de la majorité.
D’un point de vue rationnel, il est possible de parvenir à un compromis autour d’un nouveau contrat social pour un internet de confiance. Nous devrions faire preuve d’un optimisme prudent, car la politique (en particulier la politique mondiale) tout comme la confiance (et la confiance mondiale) ne sont pas nécessairement rationnelles.
Ce texte a été adapté des articles d’opinion L’Internet et la confiance et Dans l’Internet nous avons confiance : Faut-il un contrat social pour l’internet ?
Les étapes de la gouvernance de l’IA en Europe
En l’espace d’une semaine, l’Europe a connu deux évolutions importantes en matière de gouvernance de l’IA : le Comité des ministres du Conseil de l’Europe a adopté une convention sur l’IA et les droits de l’Homme, tandis que le Conseil européen a donné son approbation finale à l’Acte sur l’IA de l’UE. Cela semble un peu confus à première vue, n’est-ce pas ?
Tout d’abord, il s’agit d’organes différents : le Conseil de l’Europe (CdE) est une organisation européenne de défense des droits de l’Homme, tandis que le Conseil européen est l’un des organes exécutifs de l’UE. Ensuite, logiquement, les deux documents en question sont également différents, mais ils présentent de nombreuses similitudes.
Les deux documents définissent un système d’IA comme un système basé sur une machine qui déduit, à partir des données qu’il reçoit, comment générer des résultats tels que des prédictions, du contenu, des recommandations ou des décisions qui peuvent influencer des environnements physiques ou virtuels.
Les deux documents visent à garantir que les systèmes d’IA soutiennent et ne portent pas atteinte aux droits de l’Homme, à la démocratie et à l’État de droit. Toutefois, la convention-cadre du Conseil de l’Europe offre une structure générale et globale applicable à toutes les étapes du cycle de vie de l’IA. La loi européenne sur l’IA est plus spécifique au marché unique de l’UE et vise également à garantir un niveau élevé de protection de la santé, de la sécurité et de l’environnement.
Les deux documents adoptent une approche fondée sur le risque, ce qui signifie que les réglementations sont d’autant plus strictes que le préjudice potentiel pour la société est élevé. Ils soulignent que les personnes physiques doivent être informées si elles interagissent avec un système d’IA et non avec une autre personne physique.
Aucun des deux documents ne couvre les activités liées à la sécurité nationale et à la défense ni les systèmes d’IA ou les modèles développés dans le cadre de la recherche et du développement scientifiques.
Les États parties à la convention du CdE peuvent évaluer si un moratoire, une interdiction ou d’autres mesures appropriées sont nécessaires en ce qui concerne certaines utilisations de systèmes d’IA si l’État partie considère que ces utilisations sont incompatibles avec le respect des droits de l’Homme, le fonctionnement de la démocratie ou l’État de droit.
La convention du CdE est de caractère international, et elle est ouverte à la signature des États membres du CdE, des États non membres qui ont participé à son élaboration et de l’UE. Elle sera juridiquement contraignante pour les États signataires. La loi européenne sur l’IA, quant à elle, n’est applicable que dans les États membres de l’UE.
En outre, les mesures énumérées dans ces deux documents sont appliquées de manière différente. Dans le cas de la convention-cadre du Conseil de l’Europe, chaque partie à la convention adopte ou maintient les mesures législatives, administratives ou autres appropriées pour donner effet aux dispositions énoncées dans la présente convention. Son champ d’application est multiple : Si les signataires doivent appliquer la convention aux « activités entreprises dans le cadre du cycle de vie ou des systèmes d’IA par les autorités publiques ou les acteurs privés agissant en leur nom », ils peuvent décider de l’appliquer également aux activités des acteurs privés ou de prendre d’autres mesures pour satisfaire aux normes de la convention dans le cas de ces acteurs.
En revanche, la loi européenne sur l’IA est directement applicable dans les États membres de l’UE. Elle n’offre pas d’options : les fournisseurs de systèmes d’IA qui mettent sur le marché de l’UE des systèmes d’IA ou des modèles d’IA à usage général doivent se conformer aux dispositions, de même que les fournisseurs et les déployeurs de systèmes d’IA dont les résultats sont utilisés au sein de l’UE.
Notre conclusion ? La convention du CdE a une perspective plus large et elle est moins détaillée que l’acte de l’UE, tant en ce qui concerne les dispositions que les questions d’application. Bien qu’ils se chevauchent quelque peu, ces deux documents sont distincts, mais complémentaires. Les parties qui sont des États membres de l’UE doivent appliquer les règles de l’UE lorsqu’elles traitent entre elles des questions couvertes par la convention du CdE. Elles doivent toutefois respecter les objectifs de la convention du CdE et l’appliquer pleinement lorsqu’elles interagissent avec des parties non membres de l’UE.
En bref
Le téléphone rouge de la cybernétique : l’annuaire POC
Le concept des lignes directes entre États, qui servent de lignes de communication immédiates et sécurisées en cas de crise ou d’urgence, a été établi il y a de nombreuses années. L’exemple le plus célèbre est peut-être le téléphone rouge Washington-Moscou de 1963, créé pendant la crise des missiles de Cuba comme mesure de confiance pour éviter une guerre nucléaire.
Dans le cybermonde d’aujourd’hui, où l’incertitude et l’interconnexion entre les États sont de plus en plus grandes, et où les conflits ne sont pas rares, les canaux de communication directe sont indispensables au maintien de la stabilité et de la paix. En 2013, les États ont discuté pour la première fois des points de contact pour la gestion des crises dans le contexte de la sécurité des TIC.
Après une décennie de discussions sous les auspices de l’ONU, les États se sont finalement mis d’accord sur les éléments nécessaires à la mise en place d’un répertoire mondial et intergouvernemental des points de contact, dans le cadre du rapport d’activité annuel du groupe de travail à composition non limitée de l’ONU (GTCNL).
Qu’est-ce que l’annuaire POC et pourquoi est-il important ? L’annuaire POC est un répertoire en ligne de points de contact qui vise à faciliter l’interaction et la coopération entre les États afin de promouvoir un environnement TIC ouvert, sûr, stable, accessible et pacifique. Il se veut facultatif, pratique et neutre, et vise à accroître le partage d’informations entre les États, et à soutenir la prévention, la détection et la réponse à des incidents TIC urgents ou importants par le biais d’efforts de renforcement des capacités.
En janvier 2024, le Bureau des affaires de désarmement des Nations unies (UNODA) a invité tous les États à désigner, dans la mesure du possible, des POC diplomatiques et techniques. En mai 2024, l’UNODA a annoncé que 92 États l’avaient déjà fait. L’UNODA a également annoncé le lancement de l’annuaire mondial des POC et de son portail en ligne, marquant ainsi l’opérationnalisation de ces mesures de confiance dans la sphère de la sécurité des TIC.
Le premier test ping est prévu pour le 10 juin 2024, et d’autres tests de ce type seront effectués tous les six mois pour maintenir les informations à jour. Le travail sur le répertoire complétera le travail des réseaux des équipes d’intervention en cas d’urgence informatique (CERT) et des équipes d’intervention en cas d’incident de sécurité informatique (CSIRT).
Chaque État décide de la manière de répondre aux communications reçues par l’intermédiaire du répertoire. L’accusé de réception initial ne signifie pas que vous êtes d’accord avec les informations partagées, et toutes les informations échangées entre les POC doivent rester confidentielles.
Avant la création du répertoire mondial des POC au niveau des Nations unies, certains États utilisaient déjà des POC au niveau bilatéral ou régional, tels que les POC de cybersécurité ASEAN-Japon, le réseau de POC politiques et techniques de l’OSCE, les POC du Conseil de l’Europe établis par la Convention de Budapest et les POC d’INTERPOL pour la cybercriminalité. Bien que ces canaux puissent se chevaucher, tous les États ne sont pas membres de ces organisations régionales ou sous-régionales, ce qui fait de l’annuaire mondial un complément essentiel.
Le répertoire s’accompagne également d’efforts de renforcement des capacités, ce qui en constitue probablement l’un des éléments les plus importants. Par exemple, le président du GTCNL est chargé d’organiser des exercices de simulation pour utiliser des scénarios de base afin de permettre aux représentants des États de simuler les aspects pratiques de la participation à un répertoire des POC, et de mieux comprendre leurs rôles diplomatiques et techniques.
En outre, des réunions régulières en personne et virtuelles des POC seront organisées. Une réunion spécifique sera consacrée cette année à la mise en œuvre de l’annuaire et à l’examen des améliorations nécessaires ; nous devrions donc nous attendre à des actualisations ultérieures sur sa mise en œuvre pratique.
Réduire la confusion terminologique : s’agit-il de gouvernance numérique, de gouvernance de l’internet ou de gouvernance de l’IA ?
Les termes « numérique » et « internet » sont presque interchangeables dans les discussions sur la gouvernance. Bien que la plupart des utilisations soient occasionnelles, le choix signale parfois des approches de gouvernance différentes.
Le terme « numérique » renvoie à l’utilisation d’une représentation binaire – par « 0 » et « 1 » – des éléments de notre réalité sociale. Le terme « internet » fait référence à toute communication numérique effectuée via le protocole de communication de transport/protocole internet (TCP/IP). Vous lisez probablement ce texte grâce au TCP/IP, qui transporte des signaux numériques (0 et 1) représentant des lettres, des mots et des phrases. L’utilisation correcte des deux termes décrit ce qui se passe en ligne, pour introduire un troisième terme, ainsi que dans les informations numérisées.
Devrions-nous utiliser le terme de gouvernance de l’internet dans un sens plus spécifique que celui de gouvernance numérique ? La réponse est à la fois oui et non.
« OUI », on pourrait dire que tous les phénomènes numériques pertinents pour la gouvernance sont communiqués via TCP/IP, du contenu au commerce électronique et à la cybercriminalité. La plupart des aspects de l’IA qui nécessitent une gouvernance concernent l’utilisation de l’internet pour interagir avec ChatGPT ou pour générer des images et des vidéos sur des plateformes d’IA.
Par exemple, la réglementation des « hypertrucages » générés par l’IA est une question de gouvernance de l’internet, car le préjudice causé à la société est dû à leur diffusion via l’internet et les médias sociaux alimentés par TCP/IP, le protocole de l’internet. Si nous avons des hypertrucages enregistrés sur nos ordinateurs, il n’y a pas lieu de les réglementer, car ils ne causent pas de préjudice à la société.
La réponse « NON » est liée à la tendance croissante à régir l’IA au-delà de ses utilisations, en réglementant les algorithmes et le matériel sur lesquels l’IA fonctionne. Cette approche de la réglementation du fonctionnement de l’IA sous le prétexte des risques à long terme est problématique, car elle ouvre la porte à une intrusion plus profonde dans l’innovation, les utilisations abusives et les risques qui peuvent affecter le fondement de la société humaine.
Alors que les propositions de gouvernance de l’IA deviennent de plus en plus populaires, nous devrions garder à l’esprit deux leçons tirées de l’histoire de la technologie et de la gouvernance de l’internet.
Premièrement, si l’internet s’est développé au cours des dernières décennies, c’est précisément parce qu’il a été réglementé au niveau des utilisations (applications). Deuxièmement, chaque fois qu’une gestion exceptionnelle est allée plus loin sous le capot de la technologie, cela s’est fait avec une ouverture et une transparence totales, comme cela a été le cas pour l’établissement de TCP/IP, HTML et d’autres normes internet.
En résumé, si la gouvernance de l’IA s’effectue au niveau des usages, comme cela a été le cas pour la plupart des technologies dans l’histoire, elle n’est pas différente de la gouvernance de l’internet. Bien que cela puisse sembler hérétique, compte tenu de l’engouement actuel pour l’IA, on peut même se demander si nous avons besoin d’une gouvernance de l’IA. Elle devrait peut-être être régie par les règles existantes en matière de propriété intellectuelle, de contenu, de commerce, etc.
Prendre du recul par rapport au tourbillon des débats numériques pourrait nous aider à revoir la terminologie et les concepts que nous avons peut-être considérés comme acquis. De telles réflexions, y compris la façon dont nous utilisons les termes « internet » et « numérique », devraient améliorer la clarté de la pensée sur les développements numériques/internet/IA à venir.
Ce texte a été publié pour la première fois sur le blog de Diplo. Lire la version originale.
Actualités de la Francophonie
L’OIF au Sommet mondial de la société de l’information (SMSI) 27-31 mai à Genève
L’un des rendez-vous majeurs de l’agenda numérique international a donné l’occasion à l’OIF de mettre en avant ses priorités de de sensibiliser les décideurs à des thématiques importantes dans le contexte des négociations du Pacte numérique mondial.
C’est ainsi que l’OIF s’est associé à l’initiative de la Fédération Wallonie-Bruxelles autour du sujet « Intelligence artificielle et désinformation : des solutions techniques et politiques». M. Bertrand Levant, chef du pôle Intégrité de l’information à l’OIF, a présenté les initiatives de l’organisation dans ce domaine, et notamment le programme ODIL, plateforme francophone des initiatives de lutte contre la désinformation.De son côté, la Représentation permanente de l’OIF auprès des Nations Unies à Genève et Vienne (RPGV), cheffe de file de l’organisation sur les questions de gouvernance internationale du numérique et de l’intelligence artificielle, a organisé deux sessions. La première, organisée en partenariat avec le programme Information pour tous (IFAP) de l’UNESCO et intitulée « Comprendre et surmonter les biais culturels et linguistiques dans l’IA » a accueilli deux professionnels du secteur pour évoquer les méthodes concrètes de mise en œuvre de la découvrabilité de contenus francophones sur internet.
Puis, la RPGV s’est penchée plus particulièrement sur les enjeux du Pacte numérique mondial (PNM) en organisant un dialogue entre Mme Renata Dwan, conseillère spéciale au Bureau de l’Envoyé spécial pour les technologies du Secrétaire général de l’ONU, Mme Sorina Teleanu, Directrice de la connaissance à la Diplo foundation et M. Henri Eli Monceau, Représentant permanent de l’OIF à Genève. Ce dialogue, très suivi par les diplomates en charge des questions numériques à Genève, a notamment permis d’évoquer le partage des rôles entre Genève et New York dans la mise en œuvre et le suivi du PNM et les points d’amélioration des versions actuelles du document.
Les Tech civiques francophones au service de la gouvernance démocratique
En marge du SMSI, la RPGV a organisé le 30 mai au Graduate Institute de Genève, et en partenariat avec l’organisation ICT4Peace, un évènement de valorisation de l’action des Tech civiques francophones.
Quatre entrepreneurs sociaux (Open Terms Archive, Sayna, Siren Analytics et Fondation Hirondelle) ont ainsi eu l’opportunité de présenter leurs activités respectives, où les outils d’intelligence artificielle se mettent au service d’objectifs de « service public »:. contrôle démocratique des conditions d’utilisation des plateformes numériques, lutte contre la désinformation ou formation aux métiers du numérique des populations défavorisées. Des projets activement soutenus par l’OIF qui a souhaité faire connaître leur travail au plus grand nombre, convaincue que de nombreux partenariats sont possibles avec les organisations de la Genève internationale.
L’assistance de l’OIF dans le cadre des négociations du Pacte numérique mondial
L’OIF poursuit son soutien multiforme aux délégations francophones engagées dans les négociations du PNM. Au-delà des actions de plaidoyer et de sensibilisation, la Représentation permanente de l’OIF auprès des Nations unies à Genève et à Vienne (RPGV) a fourni aux délégations une analyse détaillée des changements apportés au projet de texte dans les versions successives au « 0 draft ».
Des propositions de formulation sur les priorités de l’OIF (promotion de la diversité culturelle et linguistique des contenus numériques, et renforcement des compétences numériques) ont également été soumises aux diplomates francophones afin qu’ils puissent s’en faire l’écho dans le cadre des négociations.
Par ailleurs, un atelier intitulé « La diversité culturelle et linguistique à l’ère du numérique et des technologies émergentes » a été organisé par la Représentation permanente de l’OIF à New York et la Représentation permanente de l’OIF à Genève, en collaboration avec le Groupe des amis de l’espagnol et la Communauté des pays de langue portugaise. Cette discussion a permis de réaffirmer collectivement l’importance d’élargir et de renforcer dans le texte du Pacte numérique mondial les formulations relatives à la diversité culturelle et linguistique, et de passer en revue les formulations concrètes qui pourraient être introduites dans le texte.
L’OIF à ICANN80
La Secrétaire générale de la Francophonie, invitée par les autorités rwandaises, a demandé à M. Henri Monceau, Représentant permanent de l’OIF à Genève et Vienne, de la représenter lors de la conférence ICANN80 de Kigali (8-14 juin).
C’est ainsi que M. Monceau a pris part à de nombreuses tables-rondes dans le cadre de la Conférence, ainsi qu’à des évènements organisés en marge, telle que la réunion convoquée par Smart Africa.
Cette mission a également permis d’organiser de nombreuses rencontres bilatérales avec les acteurs techniques de la gouvernance internationale du numérique afin de les sensibiliser aux priorités de l’OIF et des pays de l’espace francophone.