Campaigns

Observatoire

Coup d’œil : les développements qui ont fait des remous

Gouvernance de l’IA

L’Organe consultatif sur l’IA du Secrétaire général des Nations unies a publié son rapport intermédiaire sur la gouvernance de l’IA pour l’humanité, tandis que l’Assemblée générale des Nations unies a adopté une résolution sur les systèmes d’armes autonomes létaux (LAWS). Les dirigeants mondiaux se sont engagés à promouvoir une IA responsable lors du sommet 2023 du Partenariat mondial sur l’intelligence artificielle (GPAI) à New Delhi. L’Italie a pris la présidence du G7 en janvier 2024 et a défini des priorités, qui incluent le développement de l’Afrique et l’IA. La norme internationale ISO/IEC 42001 sur les systèmes de management de l’IA a été publiée.

Les ambassadeurs de l’UE ont donné leur feu vert à la loi européenne sur l’IA, qui devrait être officiellement adoptée par l’UE à la mi-avril. La publication du texte consolidé de l’Acte de l’UE sur l’IA a donné lieu à des discussions. La Commission européenne se prépare à mettre en place l’Office européen de l’IA, qui jouera un rôle essentiel dans l’application de la loi sur l’IA. La Commission conteste également la tentative des États-Unis d’exclure le secteur privé de la future convention du Conseil de l’Europe sur l’IA et les droits de l’Homme.

La Commission fédérale du commerce des États-Unis a ouvert une enquête sur les investissements des géants de la technologie dans l’IA. La National AI Research Resource a été lancée pour soutenir la recherche responsable en matière d’IA et stimuler l’innovation. La Maison-Blanche a publié une note d’information décrivant les principales actions en matière d’IA à la suite du décret de M. Biden sur l’IA.

Les États-Unis, le Royaume-Uni et l’Union européenne examinent de près le partenariat entre Microsoft et OpenAI.

D’autres juridictions sont également actives dans le domaine de l’IA : l’Australie prévoit de créer un organe consultatif pour la surveillance et la réglementation de l’IA, l’Inde se lance dans la course au LLM avec un modèle en telugu, la Chine a approuvé plus de 40 modèles d’IA au cours des six derniers mois et l’Arabie saoudite a lancé l’initiative GenAI for All (l’IA générique pour tous). ChatGPT, d’OpenAI, est à nouveau soumis à l’examen de l’autorité italienne chargée de la protection des données.
Les principales entreprises américaines du secteur de la santé se sont engagées à adopter l’IA de manière éthique, tandis que Microsoft a promis de renforcer la sécurité et de protéger la vie privée à l’ère de l’IA. OpenAI a supprimé l’interdiction explicite d’utiliser l’IA à des fins militaires, a répondu aux inquiétudes concernant l’utilisation abusive de l’IA lors des élections et a dévoilé un cadre de sécurité pour l’IA.

Technologies 

La société Neuralink d’Elon Musk a implanté la toute première puce cérébrale sur un être humain. Une enquête a révélé que l’armée chinoise a contourné les restrictions américaines sur les puces Nvidia. Nvidia va lancer une nouvelle puce d’intelligence artificielle pour la Chine afin de se conformer aux restrictions américaines à l’exportation. Les nouvelles contraintes néerlandaises ont eu un impact sur les expéditions d’ASML vers la Chine. La Corée du Sud va accroître les avantages fiscaux pour les investissements dans l’industrie des semi-conducteurs du pays.

Sécurité

Les P.-D. G. des grandes entreprises technologiques ont témoigné lors d’une audition au Sénat américain, accusés de ne pas prendre les mesures adéquates pour protéger les enfants contre les contenus préjudiciables et les messages publicitaires non sollicités (CSAM).

Le GTCNL sur la sécurité des TIC a lancé un appel aux États membres pour qu’ils désignent des interlocuteurs à inclure dans le répertoire mondial des contacts sur la sécurité des TIC.

Le plus grand opérateur de télécommunications d’Ukraine a été victime d’une cyberattaque dévastatrice, qui aurait été menée par des pirates informatiques russes. Le FBI et le DoJ ont eu recours à une décision de justice pour contrecarrer le piratage d’infrastructures critiques par des Chinois. Une gigantesque « Mother of all Breaches » (MOAB) a exposé plus de 26 milliards d’enregistrements de données. Le NCSC britannique a mis en garde contre l’augmentation de la fréquence et de l’impact des cyberattaques dues à l’IA. Les chercheurs ont prédit que la cybercriminalité entraînera un coût faramineux de 12 000 milliards de dollars américains d’ici 2025.

Infrastructure

Les négociations sur le règlement de l’UE visant à accélérer le déploiement de la 5G et de la fibre optique sont en cours. Les principales discussions portent sur le principe d’approbation tacite et les frais de communication intra-UE.

Juridique

Le Times a intenté une action en justice contre OpenAI et Microsoft aux États-Unis, alléguant que ces entreprises technologiques avaient utilisé sans autorisation le contenu du journal pour perfectionner leurs modèles d’intelligence artificielle en langues étrangères. OpenAI a répondu que l’affaire était « sans fondement » et a exprimé son souhait d’établir un partenariat avec le média. Epic Games a gagné un procès de lutte contre la concurrence contre Google au sujet de son application Play Store. Le directeur du FMI a appelé à la reconversion et à la mise en place de dispositifs de sécurité dans le contexte des changements d’emploi induits par l’IA.

Économie de l’internet

La Chine a dévoilé son plan en faveur d’une meilleure économie numérique et d’une plus grande prospérité commune, qui vise à intégrer les technologies numériques à l’économie réelle et à résoudre les problèmes de développement par des moyens numériques. L’Association des nations de l’Asie du Sud-Est (ASEAN) se prépare à établir un accord sur l’économie numérique à l’échelle régionale. Dans le même temps, l’autorité britannique de la concurrence et des marchés (CMA) a présenté ses projets de mise en œuvre d’un nouveau régime de concurrence sur les marchés numériques.

Droits numériques

Selon une plainte déposée par l’État du Nouveau-Mexique (États-Unis), Meta tirerait profit des publicités d’entreprises placées à proximité de contenus incitant à l’exploitation sexuelle des enfants. L’autorité française de protection des données a infligé une amende de 10 millions d’euros à Yahoo! pour non-respect de la vie privée et du consentement des utilisateurs en ce qui concerne les témoins de connexion (« cookies »).

Politique de contenu

La Cyberspace Administration of China (CAC) s’est concentrée sur la lutte contre le pessimisme et l’extrémisme sur les plateformes numériques, tandis que la Commission européenne a commencé à enquêter sur X pour des infractions présumées à la loi sur les services numériques (Digital Services Act, DSA). Le Conseil de surveillance de Meta a reproché à cette dernière d’avoir supprimé des vidéos illustrant le conflit entre Israël et le Hamas. La Cour constitutionnelle de Turquie a jugé inconstitutionnelles les dispositions relatives au blocage des contenus sur l’internet.

Des vidéos violentes ont fait leur apparition sur X dans le cadre du « conflit armé interne » en Équateur. Les fausses images de Taylor Swift ont suscité des appels à la criminalisation de la pornographie par les fausses images aux États-Unis. L’Inde a averti les entreprises de médias sociaux qu’elles seraient tenues pour responsables de la diffusion sur leurs plateformes de fausses images générées par l’intelligence artificielle.

Développement

L’Allemagne et la Namibie, co-facilitateurs du Sommet du futur, ont annoncé la publication de la version zéro du Pacte pour l’avenir, qui comprend des dispositions relatives à l’impact des technologies numériques sur la paix et la sécurité, ainsi que le potentiel de la science, de la technologie et de l’innovation pour faire progresser le développement durable. Les entreprises technologiques et les gouvernements se sont engagés à intensifier leurs actions pour faire face à la crise climatique par le biais de l’action numérique verte lors de la 28^e conférence des parties (COP28). La Thaïlande a dévoilé une initiative visant à renforcer le capital humain et le développement numérique. L’Iran est confronté à l’escalade des coûts de l’internet et à la censure, malgré la promesse d’un accès gratuit. Le Kirghizstan et la Chine ont signé un accord de coopération numérique pour faire avancer le progrès technologique, tandis que le Royaume-Uni et l’Inde ont annoncé une coopération sur la durabilité numérique. Statistics Netherlands a développé une nouvelle méthodologie pour cartographier les déchets électroniques européens. La Banque mondiale a récemment souligné que l’amélioration de l’accès à l’internet au Nigeria et en Tanzanie avait considérablement réduit l’extrême pauvreté.

En bref

Douze prédictions sur l’IA et le numérique pour 2024

2024 sera l’année de l’IA. La technologie de l’IA continuera à se développer en profondeur grâce à de puissants modèles fondamentaux et à se diversifier grâce à davantage de connexions avec le reste de l’écosystème numérique (par exemple, l’IdO, la réalité virtuelle et les infrastructures numériques). Les modèles d’IA plus petits et à source ouverte gagneront en popularité en raison de leur transparence, de leur adaptabilité et de leur respect de l’environnement.

Les risques liés à l’IA prédomineront dans le débat sur la gouvernance et la réglementation. Les risques existants (par exemple, les emplois, la désinformation et les préjugés) bénéficieront d’une plus grande attention que les risques existentiels. La gouvernance de l’IA deviendra plus spécifique et concrète, abordant la puissance de calcul, les données et les connaissances, les algorithmes et les applications de l’IA.

La poussée pour la souveraineté nationale sur les données, l’IA et l’infrastructure technologique va remodeler la géopolitique numérique. Le découplage numérique entre la Chine et les États-Unis s’améliorera considérablement en 2024. L’Inde, le Brésil, l’Afrique du Sud, Singapour, la Turquie et les États du Golfe, entre autres, tenteront de créer un « troisième espace numérique » asymétrique entre les deux superpuissances.

De nouvelles organisations, commissions et groupes d’experts traitant de l’IA et de la gouvernance numérique seront mis en place. L’adoption de la convention des Nations unies sur la cybercriminalité devrait marquer le début de la gouvernance numérique mondiale en 2024. Le Pacte mondial pour le numérique (PMN) sera négocié, et les organismes internationaux, notamment le Conseil de sécurité des Nations unies, se pencheront sur les aspects numériques des conflits et des crises humanitaires.

L’IA placera la diplomatie à l’épreuve de l’automatisation des tâches à l’aide de grands modèles de langage (LLM). La diplomatie devra s’adapter à une pression accrue pour négocier les sujets liés à l’IA et au numérique, qui s’étendent à des domaines tels que la gouvernance numérique, la santé, le commerce et les droits de l’Homme.

La cybersécurité sera une préoccupation importante, avec un accent sur les conflits militaires à Gaza et en Ukraine, les menaces émergentes pour les infrastructures numériques critiques, et les vols et activités illégales facilités par l’IA. L’adoption de la convention des Nations unies sur la cybercriminalité, prévue pour le début de l’année 2024, donnera une nouvelle impulsion aux efforts mondiaux en la matière.

L’impact de l’IA sur les droits de l’Homme, y compris la liberté d’expression et la protection de la vie privée, sera au centre des débats sur la dignité et la définition de l’humanité. Les droits neuronaux, influencés par l’IA et les développements biotechnologiques, gagneront en importance.

L’IA accélérera les changements économiques, de la restructuration des industries traditionnelles au développement de nouvelles industries basées sur la technologie de l’IA. Les principales dynamiques politiques seront liées aux conséquences économiques du découplage numérique (ou dérisquage) entre la Chine et les États-Unis, à la lutte contre les monopoles dans le domaine de l’IA, à la taxation des entreprises en ligne et au commerce numérique.

La communauté de la standardisation donnera la priorité aux normes relatives à l’IA, aux réseaux 6G, à l’informatique quantique et à d’autres technologies avancées. Les processus multilatéraux exploreront les normes techniques en tant qu’approche de régulation douce.

La saga du chiffrement en ligne, qui dure depuis des décennies, va connaître un nouvel élan avec le débat sur la recherche de contenus illicites dans les communications à l’aide d’un outil permettant de détecter et de bloquer en temps réel les contenus illégaux.

Les identités numériques gagneront en importance, l’accent étant mis sur l’initiative d’infrastructure publique numérique (IPN) approuvée par le G20.

Les élections qui se déroulent dans plus de 70 pays vont accroître les inquiétudes concernant les contenus en ligne, en particulier la désinformation par le biais de vidéos, de textes et de sons truqués, ce qui va accélérer les efforts pour détecter les contenus générés par l’IA.

L’IA suscitera l’innovation dans de nouveaux aspects de l’inclusion, car les pays et les communautés s’efforceront de mettre au point des solutions d’IA ascendantes qui reflètent leur patrimoine culturel et leurs connaissances.

L’optimisme de l’IA dans un Davos géopolitiquement pessimiste

Dans le cadre serein des Alpes suisses, le Forum économique mondial (WEF) de Davos est considéré comme le baromètre de l’air du temps technologique de l’année. Après un sommet 2023 exceptionnellement timide sur le plan technologique, l’IA a cette année restauré l’optimisme technologique à Davos. Le ciel bleu de la technologie se détache d’autant plus de la géopolitique mondiale morose et nuageuse. Cette dose d’optimisme à l’égard de l’IA est-elle une panacée pour les problèmes mondiaux, la maturation du discours sur l’IA ou un nouveau somnambulisme technologique ?

Posologie optimiste. Les 24 sessions centrées sur l’IA sur les 235 que compte le WEF ont rassemblé 135 intervenants et une rafale de 1 101 débats, la majorité d’entre eux ayant un aspect positif (600). Les débats du WEF sur l’IA ont reçu une bonne note de 8 sur l’échelle d’optimisme de DiploAI. Les conversations ont été axées sur le potentiel de l’IA à augmenter la productivité, à combattre les maladies et à résoudre les crises environnementales. Les prévisions économiques présentent l’IA comme une source de revenus de plusieurs milliards de dollars, ce qui contraste avec les scénarios apocalyptiques de l’IA du printemps 2023.

De l’extinction aux risques existants. Le discours sur les risques liés à l’IA a évolué au WEF, les risques existants étant désormais considérés comme des problèmes que l’humanité peut surmonter, à l’instar des défis technologiques du passé. La plupart des débats sur les risques liés à l’IA se sont concentrés sur les dangers actuels d’une mauvaise utilisation de l’IA, tels que la désinformation, les pertes d’emploi et la réforme de l’éducation.

On ne sait pas très bien pourquoi les gourous de l’IA ont réajusté leur langage au WEF, étant donné que leurs prédictions selon lesquelles l’IA détruirait l’humanité ont été faites avec beaucoup de conviction l’année dernière. La franchise de Sam Altman, qui a déclaré que « personne ne sait ce qui se passera ensuite [avec l’IA] », résume la double nature de la situation actuelle : à la fois alarmante et rassurante. L’incertitude exprimée par ceux qui sont à la pointe du développement de l’IA est préoccupante. Dans le même temps, il est encourageant de voir les dirigeants du secteur technologique parler plus ouvertement de leur connaissance de l’impact de l’IA, sans les discours anxiogènes de l’année dernière.

DPI et contenu pour l’IA. Le procès intenté par le New York Times contre OpenAI pour l’utilisation de contenus protégés par des droits d’auteur afin d’entraîner des modèles d’IA a été fréquemment mentionné à Davos. La traçabilité et la transparence dans le développement de l’IA seront essentielles pour une économie de l’IA durable et fonctionnelle. 

Gouvernance de l’IA. Le discours de l’année dernière selon lequel la gouvernance devrait se concentrer sur les capacités de l’IA a cédé la place à une attention particulière portée aux applications. L’IA devient ainsi moins unique et plus gouvernable, comme n’importe quelle autre technologie. Cette approche, utilisée par la loi européenne sur l’IA, gagne également en popularité aux États-Unis. Les discussions du WEF ont révélé plus de similitudes que de différences dans la réglementation de l’IA en Chine, aux États-Unis et dans l’UE.

L’IA en libre accès. La position sur l’IA à code source ouvert, considérée comme un risque ingérable, s’est assouplie au WEF. Yann LeCun, de Meta, a fait valoir que l’IA à code source ouvert est bénéfique non seulement pour le progrès scientifique, mais aussi pour le contrôle des monopoles des grandes entreprises de technologie de l’IA, ainsi que pour l’intégration de diverses contributions culturelles et sociétales dans le développement de l’IA. L’IA à code source ouvert gagnera du terrain en 2024, posant un défi important aux logiciels propriétaires tels qu’OpenAI.

IA et développement. Selon l’envoyé du Secrétaire général des Nations unies pour la technologie, Amandeep Sing Gill, l’IA ne sauvera pas les objectifs du Millénaire pour le développement si la tendance actuelle se poursuit. Cette estimation franche était plutôt une aberration dans les discussions du WEF. Par exemple, il n’a guère été question de l’aggravation de la fracture numérique induite par l’IA ni de la concentration croissante du pouvoir économique et du savoir entre les mains de quelques entreprises.

La confusion autour des potentiels et des risques de l’IA souligne la nécessité d’une conversation mature et nuancée sur l’avenir de l’IA. Nous devons relever les défis connus grâce à des cadres réglementaires souples, transparents et inclusifs. Les débats de Davos ont fait des progrès dans cette direction, visant à nous éloigner d’un avenir dystopique de l’IA par un dialogue informé et équilibré plutôt que par la peur.

La saga de la propriété intellectuelle : l’impact de l’IA sur les brevets et les marques déposées

Dans le domaine de l’IA et de la propriété intellectuelle, les secrets commerciaux et les marques déposées présentent des défis et des occasions uniques qui requièrent une attention particulière dans un paysage juridique en constante évolution. Ce blog présente les complexités, les défis et les opportunités qui définissent les droits et les obligations en matière de propriété intellectuelle, en se concentrant sur des exemples tirés des cadres juridiques de l’UE et des États-Unis.

La loi américaine sur le secret commercial protège diverses informations, telles que les données financières, commerciales, scientifiques et techniques, si le propriétaire prend des mesures de sécurité appropriées pour préserver le secret. Les informations doivent tirer leur valeur du fait qu’elles ne sont pas largement connues ou facilement accessibles par d’autres à travers des moyens légitimes (18 U.S.C. § 1839 [3]). Les exigences liées au secret excluent la protection du secret commercial pour les résultats générés par l’IA qui ne sont pas confidentiels, tels que ceux produits par des systèmes comme ChatGPT ou Dall-E. Néanmoins, les lois sur le secret commercial semblent plus souples pour protéger divers actifs liés à l’IA. En effet, il n’est pas stipulé qu’un secret commercial doit provenir d’un être humain, tandis que le matériel généré par l’IA est traité comme toute autre forme d’information, ainsi que le montre l’article 18 U.S.C. § 1839 (4), qui définit la propriété d’un secret commercial.

Les innovateurs en matière d’IA choisissent souvent la protection du secret commercial plutôt que les brevets en raison de l’ambiguïté des lois sur l’IA et le droit d’auteur. Du point de vue de l’UE, l’imminente loi sur l’IA pourrait exiger la divulgation des activités d’IA, ce qui aurait un impact sur la viabilité de la protection du secret commercial dans certains cas. Des lignes directrices claires concernant les secrets commerciaux en matière d’IA et la définition des obligations de collaboration sont essentielles pour encourager l’innovation et protéger les actifs des entreprises.

L’intégration de l’IA transforme la protection des marques, en étendant le champ d’application des logos aux contenus et algorithmes générés par l’IA. La définition du « consommateur moyen » et la détermination de la responsabilité dans les affaires de contrefaçon de marques posent des problèmes dans le cadre du service à la clientèle piloté par l’IA. Il n’existe pas d’affaires connues traitant de l’IA et de la responsabilité en matière de contrefaçon de marques. Toutefois, la Cour de justice de l’Union européenne (CJUE) s’est prononcée dans des affaires telles que Louis Vuitton contre Google France et L’Oréal contre eBay. Ces décisions stipulent que Google et eBay ne peuvent être tenus responsables de la violation d’une marque à moins qu’ils ne soient conscients et activement impliqués dans la sélection automatique qui aboutit à la violation de la marque. Par conséquent, si nous devions appliquer ces cas aux systèmes d’IA, 

les fournisseurs d’IA seraient tenus pour responsables dans l’UE si le fournisseur d’IA participe plus activement à des actions illégales potentielles.

L’impact de l’IA sur les industries met en évidence la nécessité d’une législation souple en matière de propriété intellectuelle afin d’équilibrer l’innovation et la protection. Les cadres juridiques doivent s’adapter pour reconnaître et protéger les innovations générées par l’IA, ce qui soulève des questions sur la titularité et l’attribution de la propriété. Les décideurs politiques et les parties prenantes doivent élaborer des réglementations tournées vers l’avenir afin de tenir compte du potentiel de l’IA tout en protégeant les droits et les intérêts de toutes les parties.

La cryptotempête par excellence

Nous avons regardé le nouveau documentaire de Netflix, Bitconned (escroquerie cryptographique), sur la fraude dans le secteur des cryptomonnaies. Découvrez les raisons qui ont conduit à la création d’une telle catastrophe pour les victimes.

L’engouement pour les cryptomonnaies et la blockchain de 2017 à 2021 s’est déroulé dans un cadre unique. Une composante a amplifié et multiplié l’effet de l’autre, créant ainsi une parfaite cryptotempête, qui a eu un impact sur la confiance dans le secteur et a causé des pertes financières. 

Le bitcoin, souvent qualifié d’or numérique, est apparu comme une merveille de l’ingénierie humaine et un phénomène unique. Cela a conduit à l’émergence d’un nouveau secteur de paiement, dirigé par des organisations financières traditionnelles qui cherchent à s’adapter à l’ère numérique.

Simultanément, le secteur de l’investissement de détail a connu un afflux de capitaux, les sociétés de commerce en ligne soutenues par des investisseurs institutionnels présentant des risques pour les utilisateurs de détail et la protection des consommateurs. Les risques non résolus, les changements dans le secteur financier et les investisseurs inexpérimentés ont ouvert la voie à une tempête parfaite, exacerbée par la cupidité humaine.

La cryptotempête par excellence. Le documentaire de Netflix Bitconned dépeint de manière saisissante comment des entreprises comme Centra Tech ont déclenché une tempête de cryptomonnaies. En 2017, Centra Tech a levé 25 millions de dollars pour une carte de crédit adossée à VISA, qui s’est révélée n’être qu’un mirage mis en scène. Le procès s’est achevé en 2021, aboutissant à des peines de prison. Le documentaire, dirigé par Ray Trapani, l’une des figures clés de Centra Tech, révèle comment de jeunes escrocs ont levé des millions dans le cadre d’une ICO (levée de fonds en cryptomonnaies) avec un site web d’une seule page.

La cryptotempête a sévi pendant des années, atteignant son paroxysme avec l’effondrement de FTX, la deuxième plus grande Bourse de cryptomonnaies au monde. Des sociétés telles que Celsius et Luna ont également fait l’objet de poursuites judiciaires pour avoir détourné des fonds d’investisseurs.

Comment les sociétés de fraude cryptographique ont-elles utilisé les composants susmentionnés ? En promettant la bonne chose au bon moment. Les internautes ont assisté à la transformation du secteur financier et au succès du bitcoin. Ils se laissent facilement convaincre qu’une nouvelle infrastructure financière décentralisée est sur le point de voir le jour et qu’elle sera soutenue par l’absence de cadre réglementaire. En même temps, cela leur donnerait une chance équitable de participer aux débuts de l’industrie et de devenir les nouveaux cryptomillionnaires, ce qui était la principale motivation pour beaucoup d’entre eux. Si les personnes à l’origine de la cryptomonnaie à code source ouvert (bitcoin) ont pu créer l’« internet de l’information », la prochaine génération d’ingénieurs spécialisés dans les cryptomonnaies devrait certainement créer l’« internet de l’argent ». Mais là encore, c’était une erreur. Il s’agissait en fait d’une expérience soigneusement élaborée en vue de gagner de l’argent.

Toutes les idées susmentionnées constituent encore un point de départ pour les développements futurs de l’industrie.

Cette situation pourrait-elle se reproduire pour les services financiers en ligne ? À l’avenir, il est peu probable que des escroqueries de cette ampleur se reproduisent dans le secteur des services financiers en ligne. Les cadres réglementaires ont été renforcés, et les autorités sont mieux équipées pour identifier les activités frauduleuses et y remédier. En outre, les investisseurs sont devenus plus perspicaces et se méfient des promesses qui semblent trop belles pour être vraies.

Toutefois, le risque de tromperie reste inhérent à toute industrie axée sur la technologie, car des intervenants opportunistes peuvent continuer à exploiter les aspirations de la société en matière d’innovation et de progrès. C’est pourquoi la vigilance et le scepticisme sont essentiels lorsque vous vous engagez dans de nouvelles technologies et opportunités d’investissement, en veillant à ce que les utilisateurs ne soient pas induits en erreur par de fausses promesses ou des affirmations exagérées.

Le GTCNL achève sa sixième session de travail de fond

La sixième session de fond du groupe de travail à composition non limitée (GTCNL) des Nations unies sur la sécurité et l’utilisation des technologies de l’information et de la communication 2021-2025 s’est tenue en décembre 2023, marquant ainsi l’arrivée à mi-parcours du processus. Voici un aperçu des discussions.

Menaces. Les risques et les défis associés aux technologies émergentes, telles que l’IA, l’informatique quantique et l’internet des objets (IoT), ont été soulignés par plusieurs pays. Beaucoup d’entre eux se sont inquiétés de l’augmentation de la fréquence et de l’impact des attaques par rançongiciels sur diverses entités, y compris les infrastructures critiques, les gouvernements locaux, les établissements de santé et les institutions démocratiques. De nombreux pays ont souligné l’importance de la coopération internationale et du partage d’informations pour relever efficacement les défis de la cybersécurité. L’idée d’un répertoire mondial des cybermenaces, avancée par le Kenya, bénéficie d’un large soutien.

Règles, normes et principes. Les délégations ont indiqué qu’il était nécessaire de clarifier les normes et de fournir des conseils de mise en œuvre. Elles ont exprimé des points de vue différents sur la nécessité de nouvelles normes.

Droit international. Le sujet tabou est la pertinence d’un nouveau traité et de nouvelles normes contraignantes. Le droit de la responsabilité des États, le principe de diligence raisonnable, et l’applicabilité du droit international humanitaire (DIH) et du droit international des droits de l’Homme dans le cyberespace sont également des domaines qui ne font pas l’objet d’un consensus.

Mesures de confiance (CBMs). Le répertoire mondial des points de contact (PoC) bénéficie d’un large soutien et constitue une précieuse mesure de confiance. Les membres du GTCNL se concentreront sur sa mise en œuvre et son fonctionnement.

Renforcement des capacités. Les capacités fondamentales telles que les cadres juridiques, la création d’agences spécialisées et les mécanismes de réponse aux incidents, avec un accent particulier sur les équipes d’intervention en cas d’urgence informatique (CERT) et la coopération entre les CERT, ont été constamment soulignées comme étant cruciales. Les délégations ont également souligné l’importance des contextes nationaux et le fait qu’il n’existe pas de solution unique pour renforcer les capacités fondamentales. Les délégations ont exprimé leur soutien à la liste de contrôle volontaire pour le renforcement des capacités en matière de cybersécurité proposée par Singapour et à l’appel d’Accra pour le développement de la cyberrésilience lancé lors de la conférence mondiale sur le renforcement des cybercapacités (GC3B).
Un dialogue institutionnel régulier. Les discussions sur la forme que prendra le futur dialogue institutionnel régulier peuvent être résumées comme suit : programme d’action (PoA) contre GTCNL. Les partisans du programme d’action suggèrent d’utiliser le mécanisme d’examen pour identifier les lacunes du droit international existant et reconnaître que ces lacunes peuvent être comblées par de nouvelles normes. Les partisans de la poursuite d’un dialogue institutionnel régulier dans le cadre du GTCNL suggèrent la création d’un GTCNL permanent qui se concentrerait sur l’élaboration de règles juridiquement contraignantes en tant qu’éléments d’un futur traité universel sur la sécurité de l’information. Ils proposent une prise de décision par consensus et des règles plus strictes pour la participation des parties prenantes.

Actualités de la Francophonie

Une troisième cohorte de fonctionnaires et diplomates formée en français par l’Université Senghor et l’OIF, sur le numérique et la gouvernance de l’Internet 

26 fonctionnaires et diplomates de 18 des Etats et gouvernements membres de l’OIF ont suivi une formation en ligne et en français sur l’Introduction à la gouvernance de l’Internet. La formation s’est déroulée sur 3 mois, de septembre à décembre 2023, pendant lesquels les apprenants ont été introduits à la gouvernance de l’Internet, à ses acteurs et leurs enjeux, aux défis de la cybersécurité et des droits humains en ligne, aux infrastructures, régulations et normalisations de l’internet et du numérique, mais également aux dimensions économique et juridique, socioculturelle et du développement du cyberespace.  

Organisée dans le cadre du Projet « D-CLIC, formez-vous au numérique avec l’OIF », cette formation a été déployée par l’Université Senghor, opérateur direct de la Francophonie, dont la mission est de former, en français, des cadres capables de relever les défis du développement durable en Afrique et en Haïti.

Elle s’est organisée autour de tutorat avec des experts intervenants pour chaque module/thématique, des témoignages de personnes-ressources et un webinaire hebdomadaire sur chaque module, animé par l’expert intervenant. Des contrôles de connaissances réguliers à travers des questionnaires d’évaluation et une note de synthèse finale ont également rythmé cet apprentissage. La formation a également permis de mettre en place une communauté d’apprentissage francophone et de fortifier le réseau de diplomates, fonctionnaires et décideurs politiques des Etats membres de la Francophonie, réseau essentiel à la visibilité et à la présence de cette communauté dans le développement du numérique au niveau national et international. À travers ce cycle de formation, l’OIF vise ainsi à renforcer leurs compétences afin de leur permettre de mieux apprécier les défis actuels et futurs de la gouvernance numérique et plus généralement des enjeux numériques.

Les participants sont issus d’Arménie Bénin, Burkina Faso, Burundi, Cameroun, Centrafrique, Comores, Congo, Congo RD, Égypte, Guinée Équatoriale, Haïti, Maroc, Niger, Roumanie, Sénégal, Tchad et Togo. Au total, sur les 26 candidats (dont 8 femmes) admis, 24 ont pu suivre et 22 dont 7 femmes ont pu satisfaire à toutes les exigences de la formation. Plus de 70% des participants ont estimé que leur niveau de familiarité et de connaissance globale sur les thèmes et enjeux du numérique ont été améliorés grâce à cette formation. 

La cérémonie de clôture de la formation a eu lieu en ligne en présence du Recteur de l’Université Senghor, Monsieur Thierry Verdel, de la Directrice de la Francophonie économique et numérique de l’OIF, Madame Florence Brillouin, de leurs équipes respectives et des apprenants. Dans une dynamique de réplication de cette initiative, d’autres sessions devraient être déployées en 2024.

Crédit photographique : Université Senghor
https://www.usenghor-francophonie.org/

L’OIF soutient les Nations unies et l’Organe consultatif de haut niveau sur l’intelligence artificielle 

Une gouvernance de l’Intelligence artificielle (IA) coordonnée à l’échelle mondiale est le seul moyen de mettre l’IA au service de l’humanité tout en abordant ses risques et ses incertitudes à mesure que les services, les algorithmes, la capacité de calcul et l’expertise liés à cette technologie numérique se généralisent à l’échelle internationale. 

Conscient de cet enjeu, le Secrétaire général des Nations unies a créé le 26 octobre 2023 un Comité consultatif de haut niveau des Nations Unies sur l’intelligence artificielle. Cet organe consultatif multipartite rassemble 39 experts du monde entier et doit formuler des recommandations préliminaires sur la gouvernance internationale de l’IA, la compréhension partagée des risques et des défis, ainsi que les opportunités liées à la réalisation des ODD. Cet organe s’intègre également dans le cadre du processus d’élaboration du Pacte numérique mondial (PNM), premier instrument international dédié à la gouvernance du numérique et appelé à être adopté par les Etats membres des Nations Unies à l’occasion du Sommet de l’avenir en septembre 2024.

L’OIF via sa Direction de la Francophonie économique et numérique (DFEN) et la Représentation auprès des Nations unies à New York (RPNU), soutient cette initiative et contribue ainsi aux travaux de l’Organe consultatif en ayant attribué fin 2023 une subvention d’environ 50 000 euros. Cet appui s’inscrit dans le cadre de la Contribution de la Francophonie au PNM qui soutient notamment, dans la Thématique 6 « Promouvoir la réglementation de l’intelligence artificielle », des principes et engagements soutenant un développement « éthique et responsable, sûr, sain et respectueux des droits de l’Homme » de l’IA et en prônant la mise en place de coopérations, de règlementations et de mécanismes de gouvernance aux niveaux multilatéral et national, favorisant une coordination intersectorielle des politiques de l’IA. L’OIF y promeut également la diversité culturelle et linguistique dans l’espace numérique, si essentielle dans le domaine de l’Intelligence artificielle. L’Organe consultatif mis en place devrait notamment examiner tous les biais, y compris linguistiques, qui peuvent miner le développement et la gouvernance globale de l’IA.

Conscient de la nécessité du multilinguisme dans ce domaine et mesurant l’importance d’un travail étroit avec l’espace francophone, le Bureau de l’Envoyé pour les technologies souhaite, en lien avec l’OIF, entretenir cette coopération francophone. Les activités soutenues consisteront ainsi à traduire vers le français les rapports et publications de l’Organe consultatif, ainsi que produire des contenus en français sur le site Internet de l’Organe consultatif.

Le rapport intérimaire de l’Organe consultatif a été publié en décembre dernier. Il devrait être accessible en français très prochainement sur le site des Nations unies et la plateforme en ligne dédiée à la soumission des contributions des parties prenantes au rapport préliminaire. Le rapport appelle à un alignement plus étroit entre les normes internationales et la façon dont l’IA est développée et déployée. Le rapport propose également de renforcer la gouvernance internationale de l’IA en exerçant sept fonctions critiques telles que la veille et l’analyse des risques, le soutien à la collaboration internationale sur les données, ainsi que la capacité informatique pour atteindre les objectifs de développement durable. Il propose également des recommandations visant à améliorer la responsabilité et à assurer une voix équitable pour tous les pays.

Les individus, les groupes et les organisations sont encouragés à fournir des commentaires via le formulaire de soumission en ligne avant le 31 mars 2024. L’organe consultatif de l’IA publiera son rapport final avant le sommet de l’avenir, à l’été 2024.En savoir plus : https://www.un.org/en/ai-advisory-body

Événements à venir :

• Intervention de l’OIF au 5^e Sommet sur les compétences 2024 de l’OCDE (21 et 22 février 2024, Bruxelles) sur le thème « Les compétences de demain : construire des ponts vers de nouvelles opportunités », 
• Publication du Rapport intérimaire en français de l’Organe consultatif de haut niveau sur l’intelligence artificielle des Nations unies (mars 2024, à confirmer)

Snapshot: The developments that made waves

AI governance

The UN Secretary-General’s AI Advisory Body launched its Interim Report on governing AI for humanity, while the UN General Assembly adopted a resolution on Lethal Autonomous Weapons Systems (LAWS). Global leaders pledged to promote responsible AI at the 2023 Global Partnership on Artificial Intelligence (GPAI) Summit in New Delhi. Italy took over the G7 presidency in January 2024 and outlined priorities that include Africa’s development and AI. The international standard ISO/IEC 42001 on AI management systems was published.

The EU ambassadors have given the green light to the EU AI Act, which is now expected to be formally adopted by the EU by mid-April. The leaked consolidated text of the EU AI Act prompted discussions. The European Commission is preparing to establish the European AI Office, which will be crucial in enforcing the AI Act. The Commission is also challenging the US-led bid to exclude the private sector from the Council of Europe’s upcoming Convention on AI and human rights. 

The US Federal Trade Commission launched an inquiry into tech giants’ AI investments. The National AI Research Resource was launched with to support responsible AI research and drive innovation. The White House released a fact sheet outlining key AI actions following Biden’s executive order on AI.

The USA, the UK, and the EU are scrutinising Microsoft’s partnership with OpenAI.

Other jurisdictions are active in the AI field as well: Australia is planning to establish an advisory body for AI oversight and regulation, India is entering the LLM race with a Telugu model, China approved over 40 AI models in the last six months, and Saudi Arabia launched the GenAI for All initiative. OpenAI’s ChatGPT again faces scrutiny from the Italian data protection authority. 

Leading US healthcare companies committed to the ethical adoption of AI, Microsoft pledged to enhance trust and safeguard privacy in the age of AI. OpenAI removed an explicit ban on military use, addressed concerns over election misuse of AI, and unveiled an AI safety framework.  

Technologies 

Elon Musk’s Neuralink implanted the first-ever brain chip in a human. Investigation revealed that the Chinese military bypassed US restrictions on Nvidia chips. Nvidia will roll out a new AI chip for China to comply with US export restrictions. New Dutch restrictions impacted ASML shipments to China. South Korea will extend tax benefits for investments in the nation’s semiconductor industry.

Security

Big Tech CEOs testified at a US Senate hearing over accusations of failing to take adequate measures to protect children from harmful and CSAM content. 

The OEWG on ICT security issued a call to member states to nominate points of contact to be included in the global points of contact directory on ICT security. 

Ukraine’s largest telecom operator suffered a crippling cyberattack, allegedly by Russian hackers. The FBI and DoJ used a court order to thwart Chinese hacking of critical infrastructure.  A supermassive Mother of all Breaches (MOAB) exposed over 26 billion data records. The UK NCSC warned of the escalating frequency and impact of cyberattacks due to AI. Researchers predicted that cybercrime will incur a staggering USD12 trillion in costs by 2025.

Infrastructure

Negotiations on the EU regulation to accelerate 5G and fibre rollout are underway. Key discussions revolve around the tacit approval principle and intra-EU communication fees.

Legal

The Times filed a lawsuit against OpenAI and Microsoft in the USA, alleging that the tech firms used the newspaper’s content without authorisation to train their AI large language models. OpenAI responded that the case is ‘without merit’ and expressed hope for a partnership with the media outlet. Epic Games has won an antitrust lawsuit against Google over its Play Store app. The IMF chief called for retraining and safety nets amidst AI-driven job changes.

Internet economy

China revealed its plan for a better digital economy and common prosperity, which aims to integrate digital technologies with the real economy and address development issues using digital means. The Association of Southeast Asian Nations (ASEAN) is gearing up to establish a region-wide digital economy agreement. At the same time, the UK’s Competition and Markets Authority (CMA) has outlined its plans for implementing a new digital markets competition regime.   

Digital rights

A legal filing by the state of New Mexico, the USA, alleges that Meta profits from corporate ads placed alongside content promoting child sexual exploitation. The French Data Protection Authority imposed a €10 million fine against Yahoo for failing to comply with users’ privacy and consent regarding cookies.

Content policy

The Cyberspace Administration of China (CAC) focused on curbing pessimism and extremism on digital platforms, while the European Commission started investigating X for alleged breaches of the Digital Services Act (DSA). Meta’s Oversight Board criticised Meta for the removal of videos depicting the Israel-Hamas conflict. Türkiye’s constitutional court ruled internet content-blocking provisions unconstitutional. 

Violent videos surfaced on X amid Ecuador’s ‘internal armed conflict’. Taylor Swift’s deepfakes prompted calls for criminalising deepfake pornography in the USA. India warned social media companies that they will be held responsible for disseminating AI-generated deepfakes on their platforms.

Development

Germany and Namibia, co-facilitators of the Summit of the Future, announced the release of the zero draft of the Pact for the Future, which includes provisions related to the impact of digital technologies on peace and security, as well as the potential of science, technology, and innovation in advancing sustainable development. Tech companies and governments have pledged to increase their actions to address the climate crisis through the Green Digital Action track at the 28th Conference of the Parties (COP28). Thailand revealed an initiative to enhance human capital and digital development. Iran is grappling with escalating internet costs and censorship despite promised free access. Kyrgyzstan and China signed a digital cooperation agreement to advance technological progress, while the UK and India announced cooperation on digital sustainability. Statistics Netherlands developed a new methodology to map European e-waste. World Bank’s recent brief highlighted that enhanced internet accessibility in Nigeria and Tanzania has notably diminished extreme poverty.

12 AI and digital predictions for 2024

2024 will be the year of AI. AI technology will continue to grow deeper through powerful foundational models and wider through more connections to the rest of the digital ecosystem (e.g. IoT, virtual reality, and digital infrastructures). Smaller AI and open-source models will gain traction for their transparency, adaptability, and eco-friendliness.

AI risks will dominate the governance and regulatory debate. Existing risks (e.g. jobs, misinformation, biases) will receive more attention than existential risks. AI governance will become more specific and concrete, addressing computational power, data and knowledge, algorithms, and AI applications.

The push for national sovereignty over data, AI, and technology infrastructure will reshape digital geopolitics. The digital decoupling between China and the USA will accelerate significantly in 2024. India, Brazil, South Africa, Singapore, Türkiye, and Gulf states, among others, will try to carve an asymmetric ‘third digital space’ between the two superpowers.

There will be a push for new organisations, commissions, and expert groups dealing with AI and digital governance. The adoption of the UN Cybercrime Convention is anticipated to mark the beginning of global digital governance in 2024. The Global Digital Compact (GDC) will be negotiated, and international bodies, including the UN Security Council, will address digital aspects of conflicts and humanitarian crises.

AI will put diplomacy to the test through the automation of tasks using Large Language Models (LLMs). Diplomacy will need to adapt to increased pressure to negotiate AI and digital topics, extending to areas such as digital governance, health, trade, and human rights.

Cybersecurity will be a significant concern, with a focus on military conflicts in Gaza and Ukraine, emerging threats to digital critical infrastructure, and AI-facilitated theft and illegal activities. The expected adoption of the UN Cybercrime Convention in early 2024 will further shape global cybersecurity efforts.

AI’s impact on human rights, including freedom of expression and privacy, will be on the centre stage, sparking debates on dignity and humanity’s definition. Neurorights, influenced by AI and biotechnological developments, will gain prominence.

AI will accelerate economic changes, from restructuring traditional industries to developing new ones built around AI technology. The primary policy dynamics will be related to the economic consequences of the digital decoupling (or de-risking) between China and the USA, anti-monopolies in AI, taxation of online industries, and digital trade.

The standardisation community will prioritise standards for AI, 6G networks, quantum computing, and other advanced technologies. Multilateral processes will explore technical standards as a soft regulation approach.

The decades-long saga around online encryption will gain new momentum with the debate around on-device scanning of communications for illegal content.

Digital identities will gain importance, with a focus on the Digital Public Infrastructure (DPI) initiative endorsed by the G20.

Elections in over 70 countries will heighten concerns about online content, specifically mis/disinformation through deepfake videos, texts, and sounds, which will accelerate efforts to detect AI-generated content.
AI will trigger innovation in new aspects of inclusion as countries and communities will aim to develop bottom-up AI solutions that reflect their cultural and knowledge heritage.

Read the 12 AI and Digital Predictions for 2024 in full.

diplomacy.edu

Review of AI and digital developments in 2024 – Diplo

diplomacy.edu

Review of AI and digital developments in 2024 – Diplo

AI optimism in geopolitically pessimistic Davos

In the serene backdrop of the Swiss Alps, the World Economic Forum (WEF) in Davos stands as a barometer for the year’s technological zeitgeist. After an exceptionally tech-shy Summit in 2023, AI restored tech optimism in Davos this year. The blueness of the tech sky stands out even more against the gloomy and cloudy global geopolitics. Is this optimistic dose of AI a panacea for global problems, the maturation of AI discourse, or yet another tech sleepwalk?

Optimistic dosage. The 24 AI-centric sessions out of 235 at WEF featured 135 speakers and a flurry of 1,101 arguments, with the majority having a positive tone (600). The WEF AI debates have been rated a solid 8 on DiploAI’s optimism scale. Conversations have revolved around AI’s potential to elevate productivity, combat diseases, and solve environmental crises. The economic forecasts present AI as a trillion-dollar boon, a narrative contrast to AI doomsday scenarios from the spring of 2023. 

From extinction to existing risks. The narrative surrounding AI risks has shifted at WEF, with existential risks now viewed as problems humanity can overcome, similar to past technological challenges. Most of the AI risk debate focused on the existing risks of AI misuse, such as misinformation, job losses, and educational reform. 

It’s unclear why AI gurus have recalibrated their language at WEF, as their predictions that AI would destroy humanity were made with great conviction last year. Sam Altman’s frank admission, ‘no one knows what comes next [with AI]’, encapsulates the dual nature of this juncture: it’s both alarming and reassuring. The uncertainty voiced by those at the forefront of AI development is concerning. At the same time, it is encouraging that tech leaders speak more frankly about their knowledge of the impact of AI without the fear-mongering of the last year.

IPR and content for AI. The New York Times‘ court case against OpenAI over the use of copyrighted material to train AI models was frequently mentioned in Davos. Traceability and transparency in AI development will be critical for a sustainable and functional AI economy. 

AI governance. Last year’s narrative that governance should focus on AI capabilities has given way to a focus on applications. It makes AI less unique and more governable, just like any other technology. This approach, used by the EU AI Act, is also gaining popularity in the USA. The WEF discussions revealed more similarities than differences in the regulation of AI in China, the USA, and the EU.

Open source AI. The stance on open-source AI as an unmanageable risk softened at WEF. Yann LeCun of Meta argued that open-source AI is beneficial not only for scientific progress but also for controlling the monopolies of large AI tech companies and incorporating diverse cultural and societal inputs into AI development. Open-source AI will gain traction in 2024, posing a significant challenge to proprietary software such as OpenAI.

AI and development. According to the UN Secretary-General’s Envoy on Technology, Amandeep Sing Gill, AI will not save the SDGs if current trends continue. This candid assessment was more of an outlier in WEF discussions. For example, there was little discussion of the AI-driven widening of digital divides and the increasing concentration of economic and knowledge power in the hands of a few companies.

The confusion around AI potentials and risks underscores the need for a mature, nuanced conversation on AI’s future. We must navigate the known challenges with agile, transparent, and inclusive regulatory frameworks. The Davos debates have made strides in this direction, aiming to steer us away from a dystopian AI future through informed, balanced dialogue rather than fear.

Browse the reports from WEF’s 2024 annual meeting and the final report from the event.

The intellectual property saga: AI’s impact on trade secrets and trademarks

Within the realm of AI and intellectual property, trade secrets and trademarks present unique challenges and opportunities that require special attention in the evolving legal landscape. This blog outlines the complexities, challenges, and opportunities that define intellectual property rights and obligations, focusing on examples from the EU and US legal frameworks.

US trade secret law safeguards diverse information, such as financial, business, scientific, and technical data, if the owner takes reasonable security measures to maintain secrecy. The information must derive value from not being widely known or easily accessible by others through legitimate means (18 U.S.C. §1839(3)). Requirements related to secrecy exclude trade secret protection for AI-generated outputs that are not confidential, such as those produced by systems like ChatGPT or Dall·E. Nevertheless, trade secret laws seem to be more flexible to safeguard various AI-related assets. Namely, there is no stipulation that a trade secret must be originated by a human being, while AI-generated material is treated like any other form of information, as evident in 18 U.S.C. §1839(4), which defines trade secret ownership. 

AI innovators often choose trade secret protections over patents due to ambiguous AI and copyright laws. From the EU perspective, the impending AI Act might require disclosure of AI operations, impacting the viability of trade secret safeguarding in some cases. Clear guidelines for AI trade secrets and defining collaboration obligations are crucial for fostering innovation and protecting business assets.

AI integration transforms trademark protection, expanding from logos to AI-generated content and algorithms. Defining the ‘average consumer’ and determining responsibility in trademark infringement cases pose challenges in AI-driven customer service. There aren’t any known cases addressing AI and liability in trademark infringement. However, the Court of Justice of the European Union (CJEU) ruled in cases like Louis Vuitton vs Google France and L’Oréal vs eBay. These decisions state that Google and eBay cannot be held accountable for trademark infringement unless they are aware and actively involved in the automatic selection that results in trademark infringement. Therefore, if we were to apply these cases in AI systems, AI would be held liable in the EU if the AI provider plays a more active role in potential infringing actions. 

The impact of AI on industries highlights the need for flexible intellectual property laws to balance innovation and protection. Legal frameworks must adapt to recognise and safeguard AI-generated innovations, raising questions about authorship and ownership attribution. Policymakers and stakeholders must craft forward-thinking regulations to accommodate AI’s potential while protecting all parties’ rights and interests.

A longer version of this blog first appeared on the Digital Watch Observatory. Read the full version of the blog, and discover part 1 of the blog series, The intellectual property saga: The age of AI-generated content.

wp.dig.watch

The intellectual property saga: AI’s impact on trade secrets and trademarks | Part 2

26 Jan 2024

wp.dig.watch

The intellectual property saga: AI’s impact on trade secrets and trademarks | Part 2

26 Jan 2024

wp.dig.watch

The intellectual property saga: The age of AI-generated content | Part 1

30 Oct 2023

wp.dig.watch

The intellectual property saga: The age of AI-generated content | Part 1

30 Oct 2023

The perfect cryptostorm

We watched the new Netflix documentary ‘Bitconned’ on cryptocurrency industry fraud. Read what were the ingredients to create such a perfect storm for victims.

The cryptocurrency and blockchain craze from 2017 to 2021 unfolded in a unique setting. One component amplified the other, multiplying the effect, thus creating a perfect cryptostorm that impacted trust in the industry and caused financial losses. 

Bitcoin, often termed the digital gold, stood out as a marvel of human engineering and a one-hit wonder. This led to the emergence of a new payment industry, driven by legacy financial organisations seeking relevance in the digital era.

Simultaneously, the retail investing industry saw an influx of capital, with online trading companies backed by institutional investors posing risks for retail users and consumer protection. Unanswered risks, changes in the financial industry, and inexperienced investors set the stage for a perfect storm, exacerbated by human greed.

The perfect cryptostorm. The Netflix documentary ‘Bitconned’ vividly portrays the summoning of the cryptostorm by companies like Centra Tech. In 2017, Centra Tech raised $25 million for a VISA-backed credit card, only to be revealed as a staged mirage. The court case concluded in 2021, resulting in jail sentences. The documentary, led by Ray Trapani, one of Centra Tech’s key figures, reveals how young scammers raised millions in an ICO with a one-page website.

The cryptostorm persisted for years, culminating in the collapse of FTX, the world’s second-largest cryptocurrency exchange. Companies like Celsius and Luna also faced legal challenges for misusing investor funds. 

How did crypto scam companies utilise the above ingredients? By promising the right thing at the right moment. Internet users witnessed the financial sector’s transformation and bitcoin’s success. They could easily be convinced that a new decentralised finance infrastructure is on the verge, which will be supported by the lack of a regulatory framework. At the same time, giving them a fair chance to participate in the industry beginnings and become the new crypto millionaires, which was the main incentive for many. If people behind the open-source cryptocurrency (bitcoin) could create the ‘internet of information’,  the next generation of cryptocurrency engineers would surely deliver the ‘internet of money’. However, again, it was false. It was, in fact, a carefully worded money-grabbing experiment.

All the above ideas still stand as a goalpost for further industry developments. 

Could this happen again for online financial services? Looking ahead, the likelihood of a recurrence of such large-scale scams within online financial services is slim. Regulatory frameworks have been strengthened, and authorities are better equipped to identify and intervene in fraudulent activities. Moreover, investors have become more discerning and wary of promises that seem too good to be true.

However, the potential for deception remains inherent in any technology-driven industry, as opportunistic actors may continue to exploit societal aspirations for innovation and progress. As such, vigilance and scepticism are essential when engaging with new technologies and investment opportunities, ensuring that users are not misled by false promises or exaggerated claims.

A longer version of this blog first appeared on the Digital Watch Observatory. Read the full version of the blog.

wp.dig.watch

The perfect cryptostorm

29 Jan 2024

wp.dig.watch

The perfect cryptostorm

29 Jan 2024

OEWG wraps up its sixth substantive session

The sixth substantive session of the UN Open-Ended Working Group (OEWG) on security of and the use of information and communications technologies 2021–2025 was held in December 2023, marking the midway point of the process. Here is a quick snapshot of the discussions.  

Threats. The risks and challenges associated with emerging technologies, such as AI, quantum computing, and the internet of things (IoT), were highlighted by several countries. Numerous nations expressed concerns about the increasing frequency and impact of ransomware attacks on various entities, including critical infrastructure, local governments, health institutions, and democratic institutions. Many countries emphasised the importance of international cooperation and information sharing to effectively address cybersecurity challenges. The idea of a global repository of cyber threats, as advanced by Kenya, enjoys much support.

Rules, norms and principles. Delegations  signalled that clarifying the norms and providing implementation guidance is necessary. Delegations expressed different views on whether new norms are needed.

International law. The elephant in the room is the question of whether a new treaty and new binding norms are needed. The law of state responsibility, the principle of due diligence, and the applicability of international humanitarian law (IHL) and international human rights law in cyberspace are also areas without consensus.

Confidence-building measures (CBMs). There’s widespread support for the global Points of Contact (PoC) directory as a valuable CBM. The OEWG members will focus on its implementation and operationalisation. 

Capacity building. Foundational capacities such as legal frameworks, the establishment of dedicated agencies, and mechanisms for incident response, with a special focus on computer emergency response teams (CERTs) and CERT cooperation, were consistently highlighted as crucial. Delegations also stressed the importance of national contexts and how there is no one-size-fits-all answer to building foundational capacities. Delegations expressed support for the voluntary cybersecurity capacity-building checklist proposed by Singapore and for the Accra Call for Cyber Resilience Development set forth during the Global Conference on Cyber Capacity Building (GC3B).
Regular institutional dialogue. The discussions on what the future regular institutional dialogue will look like can be summarised as Programme of Action (PoA) vs OEWG. The supporters of the Programme of Action (PoA) suggest using the review mechanism to identify gaps in existing international law and recognise that such gaps can be filled with new norms. Those who support continuing regular institutional dialogue within the framework of OEWG suggest a permanent OEWG should be established, focusing on developing legally binding rules as elements of a future universal treaty on information security. They propose consensus-based decision-making and stricter rules for stakeholder participation.

Observatoire

Coup d’œil : quelles sont les nouveautés en matière de politique numérique ?

Gouvernance de l’IA

Google et Anthropic ont annoncé un partenariat élargi prévoyant des efforts conjoints sur les normes de sécurité de l’IA, l’engagement à respecter les normes de sécurité de l’IA les plus élevées et l’utilisation de puces TPU pour le traitement des données de l’IA.

Google a dévoilé « The AI Opportunity Agenda », qui propose des lignes directrices aux décideurs politiques, aux entreprises et aux sociétés civiles afin qu’ils collaborent à l’adoption de l’IA et à l’exploitation de ses avantages.

L’OCDE a lancé l’Observatoire des politiques relatives à l’IA, qui propose une analyse complète des politiques et des données sur les incidents liés à l’IA, mettant en lumière les impacts de l’IA afin de contribuer à l’élaboration de stratégies avisées en matière d’IA. Le président américain Joe Biden et le président chinois Xi Jinping, en marge de la semaine des dirigeants de la Coopération économique pour l’Asie-Pacifique (APEC), ont convenu de la nécessité « d’aborder les risques des systèmes d’IA avancés et d’améliorer la sécurité de l’IA dans le cadre de discussions entre le gouvernement américain et le gouvernement chinois ».

L’autorité italienne de protection des données (DPA) a lancé une enquête pour déterminer si les plateformes en ligne ont mis en œuvre des mesures suffisantes afin d’empêcher les plateformes d’IA de récupérer des données personnelles pour former des algorithmes d’IA.

Le Conseil fédéral suisse a chargé le Département de l’environnement, des transports, de l’énergie et de la communication (DETEC) de présenter, d’ici fin 2024, une synthèse des approches réglementaires possibles en matière d’IA. L’objectif du Conseil est d’utiliser cette analyse comme base pour une proposition de réglementation de l’IA en 2025.

Technologies 

Yangtze Memory Technologies Co (YMTC), le plus grand fabricant chinois de puces mémoire, a intenté une action en justice contre Micron Technology et sa filiale pour violation de huit brevets. Dans le cadre du Conseil du commerce et de la technologie (CCT) UE-Inde, l’UE et l’Inde ont signé un protocole d’accord sur les modalités de travail dans l’écosystème des semi-conducteurs, sa chaîne d’approvisionnement et l’innovation. Les fabricants de taxis aériens Joby Aviation et Volocopter ont présenté leurs avions électriques à New York. Amazon a présenté Q, un chatbot piloté par l’IA et conçu pour ses clients Amazon Web Services, Inc. (AWS), qui constitue une solution polyvalente répondant aux besoins en matière d’intelligence économique et de programmation.

Sécurité

Le Royaume-Uni, les États-Unis et 16 autres partenaires ont publié les premières lignes directrices mondiales visant à renforcer la cybersécurité tout au long du cycle de vie d’un système d’intelligence artificielle. Ces lignes directrices couvrent quatre domaines clés du cycle de vie du développement d’un système d’IA : la sécurisation de la conception, du développement, du lancement, de l’exploitation et de la maintenance.

Le Parlement européen et le Conseil de l’UE sont parvenus à un accord politique sur la loi relative à la cyber-résilience. L’accord va maintenant être soumis à l’approbation formelle du Parlement et du Conseil.

Infrastructure

Le Gigabit Infrastructure Act (GIA) de l’UE connaît une modification importante, puisque le « principe d’approbation tacite », conçu pour accélérer le déploiement des réseaux à large bande, a été exclu du dernier texte de compromis diffusé par la présidence espagnole du Conseil de l’UE. L’ICANN a lancé son service de demande de données d’enregistrement (RDRS) afin de simplifier les demandes d’accès aux données d’enregistrement non publiques relatives aux domaines génériques de premier niveau (gTLD).

L’Union internationale des télécommunications (UIT) a adopté la résolution 65 de l’UIT-R, qui vise à orienter l’élaboration d’une norme 6G. Cette résolution permet de réaliser des études sur la compatibilité des réglementations actuelles avec les technologies d’interface radio des télécommunications mobiles internationales (IMT) de la sixième génération pour 2030 et au-delà. 

Le gouvernement indien a lancé son référentiel mondial des infrastructures publiques numériques et créé le Fonds d’impact social pour faire progresser les infrastructures publiques numériques dans le Sud, dans le cadre des initiatives du G20.

Juridique

Le Conseil de l’UE a adopté la loi sur les données, qui définit les principes d’accès, de portabilité et de partage des données pour les utilisateurs de produits IdO. OpenAI a lancé le Copyright Shield, un programme qui couvre les frais juridiques de ses clients commerciaux confrontés à des plaintes pour violation de droits d’auteur à la suite de l’utilisation de la technologie d’IA d’OpenAI.

Économie de l’Internet

Apple, TikTok et Meta ont fait appel pour contester leur catégorisation en tant que « garde-barrière » en vertu de la loi européenne sur les marchés numériques (DMA), qui vise à permettre la mobilité des utilisateurs entre des services rivaux tels que les plateformes de médias sociaux et les navigateurs web. À l’inverse, Microsoft et Google ont choisi de ne pas contester l’étiquette de « garde-barrière ». Le ministère des Finances des États-Unis a conclu un accord record de 4,2 milliards de dollars avec Binance, la plus grande Bourse d’échange de monnaies virtuelles au monde, pour non-respect des lois contre le blanchiment d’argent et les sanctions, imposant une période de surveillance de cinq ans et des mesures rigoureuses de mise en conformité. Le régulateur australien a demandé une nouvelle loi sur la concurrence pour les plateformes numériques en raison de leur influence croissante.

Droits numériques

La Cour de justice de l’UE (CJUE) a statué que les personnes concernées ont le droit de faire appel de la décision de l’autorité de contrôle nationale concernant le traitement de leurs données personnelles.

Politique de contenu

Le Népal a décidé d’interdire TikTok, invoquant la dégradation de la cohésion sociale causée par l’utilisation abusive de l’application vidéo populaire. YouTube a introduit une nouvelle politique qui oblige les créateurs à divulguer l’utilisation de l’IA générative. OpenAI et Anthropic ont rejoint l’appel à l’action de Christchurch, un projet lancé par le président français Emmanuel Macron et la Première ministre néo-zélandaise Jacinda Ardern pour supprimer les contenus terroristes. X (anciennement Twitter) est dans le collimateur de la Commission européenne pour avoir beaucoup moins de modérateurs de contenu que ses rivaux.

Développement

Le rapport « Faits et chiffres 2023 » de l’UIT révèle des progrès inégaux en matière de connectivité à l’Internet dans le monde, ce qui exacerbe les disparités de la fracture numérique, en particulier dans les pays à faible revenu. La Suisse a annoncé des projets pour un nouveau système d’identité numérique géré par l’État, dont le lancement est prévu en 2026, après que les électeurs ont rejeté une initiative privée en 2021 en raison de craintes liées à la protection des données personnelles. Le ministère indonésien de la Communication et de l’Information a introduit une nouvelle politique en matière d’identité numérique, qui exigera plus tard que tous les citoyens disposent d’une carte d’identité numérique.

En bref

Les quatre saisons de l’IA

ChatGPT, une innovation révolutionnaire d’OpenAI lancée le 30 novembre 2022, a non seulement captivé le monde de la technologie, mais a également marqué l’histoire de l’IA. Le premier anniversaire de ChatGPT nous incite à prendre un peu de recul pour réfléchir au chemin parcouru et à ce qui nous attend. 

Un voyage symbolique à travers les saisons a servi de toile de fond à la trajectoire de l’IA depuis novembre dernier. La frénésie hivernale a permis une adoption rapide par les utilisateurs, dépassant même les géants des médias sociaux par sa rapidité. En 64 jours, ChatGPT a atteint le chiffre stupéfiant de 100 millions d’utilisateurs, un exploit qu’Instagram, par exemple, a mis 75 jours à réaliser. L’intérêt soudain pour l’IA générative a pris les grandes entreprises technologiques par surprise. Outre ChatGPT, plusieurs autres modèles d’IA générative notables, tels que Midjourney, Stable Diffusion et Google’s Bard, ont été publiés.

Le printemps des métaphores qui a succédé a donné lieu à une vague de comparaisons et de discussions imaginatives sur la gouvernance de l’IA. Des descriptions anthropomorphiques et des scénarios apocalyptiques ont vu le jour, reflétant les tentatives de la société de faire face aux implications de l’IA avancée.

Alors que ChatGPT entrait dans son été de réflexion contemplative, une période d’introspection est née. S’inspirant des philosophies anciennes et des différents contextes culturels, le discours s’est élargi au-delà des simples avancées technologiques. L’exploration de la sagesse de la Grèce antique, à Confucius, de l’Inde, et du concept Ubuntu en Afrique, a cherché des réponses aux défis complexes posés par l’IA, allant au-delà des simples solutions technologiques.

Aujourd’hui, en cet automne de lucidité, le battage médiatique initial s’est apaisé, laissant place à des formulations politiques précises. L’IA a trouvé sa place dans les agendas des parlements nationaux et des organisations internationales. Dans les documents d’orientation de divers groupes tels que le G7, le G20, le G77 et les Nations unies, l’équilibre entre les opportunités et les risques s’est déplacé vers une plus grande concentration sur les risques. Les menaces existentielles à long terme de l’IA ont occupé le devant de la scène lors de conférences telles que le Sommet de Londres sur l’IA, les propositions de gouvernance s’inspirant d’entités telles que l’Agence internationale de l’énergie atomique (AIEA), le CERN et le Groupe d’experts intergouvernemental sur l’évolution du climat (GIEC).

Qu’est-ce qui nous attend ? Nous devrions nous concentrer sur les deux principales questions qui émergent : comment aborder les risques liés à l’IA et quels sont les aspects de l’IA qui devraient être régis ?

Pour gérer les risques liés à l’IA, il est essentiel, pour concevoir des réglementations efficaces, de bien comprendre les trois catégories suivantes : les risques à court terme, les risques à moyen terme et les risques à long terme. Si les risques à court terme, tels que la perte d’emploi et la protection des données, sont familiers et peuvent être traités avec les outils existants, les risques à moyen terme impliquent des monopoles potentiels contrôlant les connaissances de l’IA, ce qui exige une attention particulière pour éviter les scénarios dystopiques. Les risques à long terme, qui englobent les menaces existentielles, dominent le discours public et l’élaboration des politiques, comme le montre la déclaration de Bletchley. Pour naviguer dans le débat sur la gouvernance de l’IA, il est nécessaire d’aborder les risques de manière transparente et de hiérarchiser les décisions en fonction des réactions de la société.

En ce qui concerne la gouvernance des aspects de l’IA, les discussions actuelles tournent autour du calcul, des données, des algorithmes et des applications. Les aspects liés au calcul impliquent la course au matériel puissant, avec des implications géopolitiques entre les États-Unis et la Chine. Les données, souvent appelées « le pétrole de l’IA », exigent une transparence accrue quant à leur utilisation. La gouvernance algorithmique, axée sur les risques à long terme, se concentre sur la pertinence des paramètres de mesure dans les modèles d’IA. Au niveau des applications et des outils, le passage actuel d’une réglementation algorithmique à une réglementation axée sur les applications pourrait avoir un impact significatif sur les progrès technologiques. Les débats négligent souvent la gouvernance des données et des applications, des domaines détaillés dans la réglementation, mais non alignés sur les intérêts des entreprises technologiques.

Les législateurs de l’UE s’affrontent au sujet de la loi sur l’IA

Après plus de 22 heures de négociations en trilogue dans l’UE les 6 et 7 décembre, portant sur un ordre du jour de 23 points, l’accord relatif à la loi sur l’IA reste difficile à atteindre. Voici ce que les rapports indiquent.

Types de fondations. Les négociations ont connu un sérieux revers lorsque la France, l’Allemagne et l’Italie se sont opposées à l’approche par paliers initialement envisagée dans la loi européenne sur l’IA pour les modèles de base (modèles de base pour les développeurs). L’approche par paliers consisterait à classer l’IA dans différentes catégories de risques, avec une réglementation plus ou moins stricte en fonction du niveau de risque. La France, l’Allemagne et l’Italie souhaitent réglementer uniquement l’utilisation de l’IA plutôt que la technologie elle-même, car elles veulent s’assurer que l’innovation en matière d’IA dans l’UE ne soit pas freinée. Ils ont proposé une « autorégulation obligatoire par le biais de codes de conduite » pour les modèles de fondation. Les fonctionnaires du Parlement européen ont interrompu une réunion pour signifier qu’il n’était pas politiquement acceptable d’exclure les modèles de fondation du champ d’application de la loi.

Selon un document de synthèse examiné par Euractiv, l’approche différenciée a été conservée dans le texte de la loi. Toutefois, la législation ne s’appliquerait pas aux systèmes d’IA à usage général (GPAI) proposés sous des licences libres et gratuites. Cette exemption peut être annulée si le modèle à code source ouvert est utilisé à des fins commerciales. Dans le même temps, les législateurs ont convenu que les codes de conduite serviront de lignes directrices supplémentaires jusqu’à ce que les normes techniques soient harmonisées.

Selon l’accord préliminaire, tout modèle formé à l’aide d’une puissance de calcul supérieure à 10^25 opérations en virgule flottante (FLOP) sera automatiquement considéré comme présentant des risques systémiques. Ces modèles seront soumis à de nombreuses obligations, notamment en matière d’évaluation, d’appréciation des risques, de cybersécurité et de consommation d’énergie.

Un bureau européen de l’IA sera créé au sein de la Commission pour faire appliquer les règles fondamentales du modèle, les autorités nationales supervisant les systèmes d’IA par l’intermédiaire du Bureau européen de l’intelligence artificielle.

Le Conseil de l’intelligence économique (EAIB) veillera à l’application correcte de la loi. Un forum consultatif recueillera les réactions des parties prenantes. Un groupe scientifique d’experts indépendants donnera des conseils sur l’application de la loi, identifiera les risques systémiques et contribuera à la classification des modèles d’IA.

Sujets à controverse. Si une dizaine de questions restent en suspens, les principaux obstacles concernent les interdictions, l’identification biométrique à distance et les exemptions pour raisons de sécurité nationale.

Interdictions. Jusqu’à présent, les législateurs se sont provisoirement mis d’accord sur les interdictions des techniques de manipulation, des systèmes exploitant les vulnérabilités, de l’évaluation sociale et de l’extraction sans discernement d’images faciales. Dans le même temps, le Parlement européen a proposé une liste beaucoup plus longue de pratiques interdites et se heurte à une forte résistance de la part du Conseil.

Identification biométrique à distance. Les membres du Parlement européen (MEP) font pression pour une interdiction générale des systèmes de catégorisation biométrique basés sur des traits personnels délicats, y compris la race, les opinions politiques et les croyances religieuses. Dans le même temps, les États membres font pression pour obtenir des dispenses leur permettant d’utiliser la surveillance biométrique en cas de menace pour la sécurité nationale.
Exemptions au titre de la sécurité nationale. La France, en tête des pays de l’UE, plaide pour une large exemption de la sécurité nationale dans les réglementations sur l’IA, en soulignant la discrétion des États membres dans les domaines de la défense, de l’armée et de la sécurité nationale. Toutefois, cette proposition se heurtera probablement à la résistance des législateurs progressistes, qui préconiseront probablement une interdiction pure et simple.

In focus

Des enjeux plus importants dans la course à l’IAG ?

Le suspens autour de la saga du mois de novembre d’OpenAI a été tout simplement captivant, et nous avons été au cœur de l’action, en suivant chaque rebondissement.

En résumé, le P.-D. G. d’OpenAI, Sam Altman, a été démis de ses fonctions parce qu’il « n’était pas toujours franc dans ses communications » avec le conseil d’administration. La plupart des employés d’OpenAI, environ 700 sur 750, ont exprimé leur intention de quitter l’entreprise et de rejoindre M. Altman chez Microsoft, ce qui a entraîné sa réintégration en tant que P.-D. G. En outre, le conseil d’administration d’OpenAI a remplacé certains de ses membres.

Les rapports (et les spéculations) sur Q* se sont rapidement répandus. Selon Reuters, M. Altman a été licencié en partie à cause de Q*, un projet d’IA prétendument si puissant qu’il pourrait menacer l’humanité.

Q* est censé pouvoir résoudre certains problèmes mathématiques. Bien que ses prouesses soient du niveau des élèves de l’école primaire (les six ou huit premières années), il pourrait s’agir d’une percée potentielle dans le domaine de l’intelligence artificielle générale (AGI), car cela suggère une capacité de raisonnement plus élevée. OpenAI considère l’AGI comme une IA visant à surpasser les capacités humaines dans des tâches à valeur économique.

À son retour en tant que P.-D. G., M. Altman a déclaré à propos de Q* : « Pas de commentaire particulier sur cette malheureuse fuite. »

La nouvelle a fait grand bruit, beaucoup se demandant ce qu’est exactement Q*, et si cela existe vraiment. Certains observateurs avisés pensent que Q* pourrait être lié à un projet d’OpenAI du mois de mai, qui se vantait de la « supervision de processus », une technique qui entraîne les modèles d’IA à résoudre les problèmes étape par étape.

Certains pensent que le projet Q* pourrait combiner l’apprentissage-Q (c’est-à-dire un type d’apprentissage par renforcement dans lequel un modèle apprend de manière itérative et s’améliore au fil du temps en étant récompensé pour avoir pris la bonne décision) avec un algorithme que les ordinateurs peuvent utiliser pour déterminer comment se rendre rapidement d’un point à un autre (recherche A*).

D’autres ont avancé que le nom Q* pourrait faire référence à l’algorithme de recherche Q*, qui a été développé pour contrôler les recherches déductives dans un système expérimental.

Google entre dans la course. Début décembre, Google a lancé Gemini, un modèle d’IA qui, selon la firme de Mountain View, a surpassé les experts humains dans le domaine de la compréhension du langage multitâche massif ; une mesure conçue pour évaluer les connaissances de l’IA en matière de mathématiques, d’histoire, de droit et d’éthique. Ce modèle serait capable de surpasser GPT-4 en mathématiques de niveau primaire. Google a toutefois refusé de commenter le nombre de paramètres de Gemini.

Tout cela est-il vraiment lié à l’AGI ? C’est difficile à dire. D’une part, l’IA qui dépasse les capacités humaines semble être une dystopie (pourquoi personne ne pense-t-il jamais qu’il pourrait s’agir d’une utopie ?). D’autre part, les experts affirment que même si une IA pouvait résoudre des équations mathématiques, cela ne se traduirait pas nécessairement par des percées plus importantes de l’AGI.

Quel est l’objet réel de toutes ces spéculations ? La transparence – et pas uniquement chez OpenAI et Google. Nous devons comprendre qui (ou quoi) façonnera notre avenir. Sommes-nous les acteurs principaux ou de simples spectateurs qui attendent de voir ce qui va se passer ?

Équilibrer le discours en ligne : lutter contre la haine tout en préservant la liberté

La bataille en cours sur la prévention et la lutte contre les discours haineux en ligne tout en garantissant la protection de la liberté d’expression a amené l’Agence des droits fondamentaux de l’UE (FRA) à préconiser une « modération appropriée et précise des contenus ».

La FRA a publié un rapport sur les défis liés à la détection des discours de haine en ligne contre les personnes originaires d’Afrique, les Juifs, les Roms et d’autres personnes sur les plateformes numériques, notamment Telegram, X (anciennement connu sous le nom de Twitter), Reddit et YouTube. Des données ont été recueillies auprès de la Bulgarie, de l’Allemagne, de l’Italie et de la Suède afin de fournir une analyse comparative basée sur leurs politiques nationales actuelles. La FRA a appelé les régulateurs et les plateformes numériques à garantir un espace plus sûr pour les personnes d’ascendance africaine, les juifs et les Roms, car il a été constaté qu’ils subissent des niveaux très élevés de discours de haine et de cyberharcèlement. En outre, la FRA a attiré l’attention sur la nécessité d’une réglementation efficace en matière de modération des contenus pour les femmes, car les niveaux d’incitation à la violence à leur encontre sont plus élevés que dans d’autres groupes.

Le DSA est-il suffisant pour garantir la modération du contenu dans l’UE ? Bien que la loi sur la sécurité numérique (DSA) soit considérée comme un grand pas en avant dans la lutte contre le discours haineux en ligne, la FRA affirme que ses effets ne sont pas encore visibles. Selon la FRA, il est nécessaire de clarifier ce qui est considéré comme un discours de haine, notamment en formant les forces de l’ordre, les modérateurs de contenu et les indicateurs aux normes juridiques permettant d’identifier les discours de haine. Cette formation devrait également permettre de s’assurer que les plateformes ne suppriment pas trop de contenu.

Directives de l’UNESCO. La directrice générale de l’UNESCO, Audrey Azoulay, a tiré la sonnette d’alarme face à la montée de la désinformation et des discours de haine en ligne, les qualifiant de « menace majeure pour la stabilité et la cohésion sociale ». En conséquence, l’UNESCO a publié des lignes directrices pour la gouvernance des plateformes numériques afin de lutter contre la désinformation et les discours de haine en ligne tout en protégeant la liberté d’expression. Ces lignes directrices prévoient notamment la mise en place de régulateurs publics indépendants dans les pays du monde entier, la présence de modérateurs de différentes langues sur les plateformes numériques, la priorité à la transparence dans le financement des médias et la promotion de la pensée critique.

L’importance de la société civile. Depuis le début de la guerre israélo-palestinienne, les messages sur la Palestine et les suppressions de contenu ont atteint une « ampleur sans précédent », a déclaré Jillian York, directrice de la liberté d’expression internationale à l’Electronic Freedom Foundation (EFF). Plusieurs groupes palestiniens de défense des droits de l’Homme ont donc lancé la pétition « Meta: Let Palestine Speak » (Laissez la Palestine s’exprimer), demandant au géant de la technologie de remédier à la suppression injuste de contenus palestiniens.
Et, bien sûr, l’IA. Comme l’indique le rapport de la FRA, l’évaluation du contenu basée sur les personnes utilise souvent des paramètres biaisés et discriminatoires. Toutefois, cela ne signifie pas que l’on puisse empêcher l’IA de le faire, comme le montre la traduction automatique de Meta, qui a appliqué le terme « terroriste » aux utilisateurs palestiniens dont la biographie contenait une phrase en arabe, et pour laquelle Meta a présenté des excuses publiques en octobre 2023.

Lancement du Geneva Manual sur le comportement responsable dans le cyberespace

Le Geneva Manual récemment publié se concentre sur les rôles et les responsabilités des parties prenantes non étatiques dans la mise en œuvre de deux normes cybernétiques des Nations unies relatives à la sécurité de la chaîne d’approvisionnement et au signalement responsable des failles dans les technologies de l’information et de la communication.

Le manuel a été rédigé par le Dialogue de Genève sur le comportement responsable dans le cyberespace, une initiative établie par le Département fédéral suisse des affaires étrangères et dirigée par DiploFoundation, avec le soutien de la République et de l’État de Genève, du Center for Digital Trust (C4DT) de l’École polytechnique fédérale de Lausanne (EPFL), de Swisscom et de l’UBS.

Le Dialogue de Genève prévoit d’étendre le manuel en étudiant la mise en œuvre de normes supplémentaires dans les années à venir.
Le manuel est un document vivant, ouvert à la participation et à l’enrichissement. Visitez le site genevadialogue.ch pour faire part de vos réflexions, de vos idées et de vos suggestions, alors que nous traçons la voie vers un cyberespace plus sûr et plus stable.

Actualités de la Francophonie

Le Réseau francophone des régulateurs des médias (REFRAM) réuni à Nouakchott les 16 et 17 novembre 2023 sur le thème « l’audiovisuel à l’ère du numérique : acquis et défis »

La Haute Autorité de la presse et de l’audiovisuel de Mauritanie (HAPA) a organisé les 16 et 17 novembre 2023 un colloque sur « l’audiovisuel à l’ère du numérique : acquis et défis ». Cette rencontre réunissait des représentants de haut niveau des régulateurs membres du REFRAM, et des experts venant de 11 pays. 

La conférence a été introduite par Houssein OULD MEDDOU, président de la HAPA, hôte de l’événement, suivie par une allocution vidéo de Roch-Olivier MAISTRE, le président du REFRAM et de l’Arcom, retenu à Paris et représenté par Hervé Godechot, membre du Collège.

Le forum a été le lieu de réflexion où les acteurs du domaine de l’audiovisuel ont pu discuter des nouvelles méthodes nécessaires pour s’adapter à l’évolution technologique rapide de l’industrie numérique. Les travaux étaient répartis sur les deux journées en cinq sessions. La première journée du 16 novembre a été, outre la traditionnelle session d’ouverture, divisée en trois sessions thématiques. La première a abordé les questions de diffusion et distribution des contenus audiovisuels ; la deuxième s’est plus particulièrement intéressée aux grands enjeux techniques, économiques et culturels. Une troisième session consacrée à un retour d’expériences de plusieurs régulateurs en matière télévisuelle est venue conclure cette première journée de travaux.

La matinée du 17 novembre s’est ouverte par une session relative aux relations entre régulateurs et opérateurs. Elle s’est poursuivie par une session sur les stratégies à adopter pour entretenir un espace audiovisuel pluraliste, notamment au travers d’une réglementation adaptée et réactualisée, face à l’évolution de l’offre numérique.

Lors de la session de clôture, les membres se sont félicités de la richesse des travaux et de l’excellence de l’organisation et de l’accueil réservé par la HAPA et les autorités mauritaniennes.

En marge de la Conférence, des chefs de délégations des autorités membres du réseau ont eu l’honneur d’être reçus vendredi 17 novembre par Son Excellence Monsieur Mohamed Ould Cheikh El Ghazouani, président de la République de Mauritanie. Lors de cette audience, Mme Latifa Akharbach, présidente de la Haute Autorité de la communication audiovisuelle du Maroc et présidente du Réseau des instances africaines de la communication (RIARC), a mis en exergue la mobilisation des régulateurs africains pour la garantie du droit du citoyen à l’accès à l’information et à la liberté d’expression en même temps que la protection des sociétés contre la désinformation, les théories complotistes et les contenus nuisibles à la cohésion sociale dont la transformation numérique des médias et de la communication a renforcé la prévalence dans l’espace public médiatique.

En savoir plus : https://www.refram.org/

L’OIF contribue activement au programme de la Conférence eWeek 2023 (Genève, 4-8 décembre 2023)

La Conférence des Nations Unies sur le commerce et le développement (CNUCED) a organisé à Genève la semaine eWeek sur le thème « Façonner l’avenir de l’économie numérique », du 4 au 8 décembre 2023, avec plus de 150 sessions axées sur les questions urgentes liées à la numérisation.

L’ eWeek de la CNUCED est une plateforme pour un dialogue constructif et inclusif dont l’objectif est de susciter des idées et des actions contribuant aux efforts mondiaux, en particulier le processus en cours du Pacte numérique mondial des Nations unies visant à promouvoir un avenir numérique ouvert, libre et sûr pour tous, en vue du Sommet de l’avenir des Nations unies de 2024. Cet événement réunit des gouvernements, des chefs d’entreprise, des dirigeants d’organisations internationales, des représentants de la société civile et d’autres parties prenantes.

Les principaux sujets abordés portent sur la gouvernance des plateformes, l’impact de l’intelligence artificielle (IA) sur le développement, les pratiques numériques respectueuses de l’environnement, l’autonomisation des femmes grâce à l’entrepreneuriat numérique et l’accélération de la préparation au numérique dans les pays en développement.

L’Organisation internationale de la Francophonie a contribué activement à l’organisation de 3 sessions au programme de cette manifestation internationale sur les thèmes suivants : « Vers un indice de vulnérabilité numérique », « La découvrabilité des contenus numériques, un impératif pour garantir la diversité culturelle » et « Comment répondre aux besoins de compétences numériques en Afrique francophone ? ». 

Dans cette dernière session, l’OIF, à travers sa Directrice de la Francophonie économique et numérique, Madame Florence BRILLOUIN, a présenté la démarche du projet Phare D-CLIC pour relever le défi de la mise en place de compétences numériques adaptées aux besoins spécifiques des pays francophones africains. S’appuyant sur une cartographie des métiers du numérique dans l’espace francophone, cette initiative de l’Organisation développe des formations répondant aux besoins des Etats africains francophones, telles que des formations professionnalisantes courtes de 3 à 9 mois les plus demandées sur le marché du travail ainsi que favoriser l’entrepreneuriat. Les mécanismes de suivi et d’évaluation de D-CLIC, dont la mise en place de dispositifs d’accompagnement à l’insertion professionnelle et d’un outil de pilotage (cadre logique), ont été aussi évoqués, la finalité étant de mesurer la qualité, l’atteinte des objectifs et l’impact du projet, gage d’efficacité et de redevabilité.

L’OIF forme les experts des missions diplomatiques francophones auprès des Nations unies à New York en prélude aux négociations du Pacte numérique mondial (PNM) 

Dans le cadre de l’élaboration du Pacte numérique mondial, et afin de capitaliser sur la Contribution de la Francophonie au PNM, l’Organisation internationale de la Francophonie a mis en place différentes actions de sensibilisation et d’appropriation de cette Contribution à destination des diplomates en charge de négocier ce futur Pacte. 

Ainsi, l’OIF a organisé une « formation des négociateurs aux enjeux du Pacte numérique mondial » les 4 et 5 décembre à New York, en présentiel. Cette formation de deux demi-journées s’est adressée aux experts francophones en charge du numérique au sein des Missions permanentes des Nations unies à New York. Visant à renforcer leurs capacités de négociation sur le PNM et proposer des clés de compréhension des enjeux au cœur des consultations intergouvernementales sur le PNM afin de maximiser l’implication et la coordination des pays francophones dans ce processus, cette initiative a été développée en partenariat avec l’ISOC – Internet Society et avec la contribution du Bureau de l’Envoyé pour les technologies du Secrétaire général de l’ONU.

Deux évènements parallèles ont également été organisés les 4 et 5 décembre. Le premier est un déjeuner-débat, à l’initiative de la Mission permanente du Canada en partenariat avec les Représentations permanentes de la Tunisie et l’OIF, sur le thème : « La gouvernance de l’Internet et de l’intelligence artificielle ». Cette manifestation a été l’occasion d’un débat passionnant d’éminents experts sur l’avenir de la gouvernance de l’Intelligence Artificielle à l’aune des modèles qui ont fait le succès de la gouvernance de l’Internet. Le lendemain s’est tenu un déjeuner – discussion, à l’initiative de l’AFFIN (Association des Français Fonctionnaires Internationaux de New York), sur le thème « L’élaboration d’une réglementation nationale pour le numérique : enjeux, stratégies et perspectives ». Cela a permis de croiser les regards d’un parlementaire français et d’un Conseiller du Département des Affaires juridiques de l’ONU, sur les implications et les défis en matière de régulation du secteur du numérique au niveau national, régional et mondial. 

Ces actions s’inscrivent dans les objectifs du volet n°3 de l’initiative « D-CLIC, Formez-vous au numérique avec l’OIF » qui comprend le renforcement des capacités des pouvoirs publics, dont les agents publics, autour des enjeux liés à la gouvernance du numérique.