Un court post pour inviter à la discussion au sein du Club sur ces questions sociétales

Les réseaux sociaux, fossoyeurs des sociétés connectées ?

Business first

A la lecture de l’interview de David Chavalarias publiée dans le journal « Le 1 » (références mentionnées en fin de post), il apparait clairement que la démocratie et la cohésion sociale sont mises à mal par les réseaux sociaux, en raison des algorithmes sciemment mis en oeuvre par les plateformes, pour générer de l’engagement, et donc du clic/scroll amenant la possibilité de placer des messages publicitaires.

L’IA va vraisemblablement jouer un rôle d’amplificateur

Les grandes plateformes investissent massivement sur l’intelligence artificielle, avec évidemment un objectif de retour sur investissement. Aujourd’hui déjà 20 à 30% des posts sur les réseaux sociaux sont émis par des robots, il est vraisemblable qu’avec les IA conversationnelles la capacité à générer de l’engagement va être de plus en plus sophistiquée.

Exploitation de biais cognitifs

Les algorithmes exploitent notamment le biais de négativité qui va naturellement pousser un individu à réagir aux informations et évènement négatifs. Au bilan, explique David Chavalarias, la proportion de contenus toxiques est de 50% supérieure à celle attendue (publications des personnes auxquelles on est abonné). C’est en ce sens « un miroir déformant de la réalité ».

D’autres aspects comme la tendance à la bipolarité sont évoqués dans l’article que je ne vais pas reprendre en entier.

En point de sortie, deux questions sont posées.

Comment lutter ? Est évoquée la piste FranceConnect qui permettrait d’identifier sans erreur des concitoyens sans qu’il soit nécessaire de communiquer à des plateformes étrangères des documents personnels relatifs à notre identité.

Y a-t-il des réseaux plus vertueux ? Sont évoquées les solutions issues du logiciel libre comme Mastodon.

Quelles réflexions en découlent ?

Un enjeu d’éducation

A la fin de la lecture, ma réflexion personnelle était que, dans ce contexte, plus qu’auparavant, l’école et les parents doivent redoubler de vigilance. Les biais cognitifs exploités par les réseaux sociaux peuvent conduire à la formation d’esprits plus étroits et polarisés. En mettant l’accent sur le négatif, les contenus viraux ont tendance à encourager une vision du monde binaire, manichéenne, qui laisse peu de place à la nuance et à la complexité de la réalité.

Dans un contexte éducatif, cela peut être problématique car cela nuit au développement d’une pensée critique, ouverte et nuancée, laissant se propager a contrario des erreurs voire des contre-vérités. La facilité du scroll peut les amener à se fier davantage aux informations rapides et superficielles diffusées sur ces réseaux-plateformes, au détriment d’une réflexion plus approfondie et nuancée, qui exige de prendre le temps de lectures plus longues — sans surprise cela nous ramène également au fameux adage qui s’applique dans le monde capitaliste : si c’est gratuit (en apparence), c’est toi le produit (Courte vidéo d’ARTE). Si on se fie aux chiffres avancés par Michel Desmurget (La fabrique du crétin digital, Le Seuil, 2019), dans la tranche d’âge 13-18 ans, ce sont en moyenne 6h45 passés devant les écrans des tablettes et smartphones.

Il y a une double urgence : protéger nos enfants des plateformes qui monétisent l’attention et proposer des alternatives éthiques.

Prendre les plateformes à contrepied

Etant donné les travers de ces réseaux sociaux guidés par la profitabilité, la tentation pourrait être de les déserter pour recréer des communautés sur des plateformes plus saines (cf. l’option des communs numériques mentionnées ci-après).

Mais combattre ces réseaux sur le propre terrain n’est pas une option à écarter. Le cas échéant, puisque les algorithmes exploitent un biais de négativité, une manière de les contrer pourrait être de ne pas entrer dans ce jeu mortifère et au contraire de privilégier les posts porteurs d’une vision positive, au détriment de la viralité/popularité de ses publications.

Se tourner vers les communs numériques

Pour disposer de plateformes décentralisées dans lesquelles on retrouve une véritable liberté d’expression, dans lesquelles les publications et leur circulation ne sont pas contrôlées par des algorithmes tournés vers la profitabilité, dans lesquelles les données que nous publions nous appartiennent (portabilité), dans lesquelles on peut maitriser son audience… une option est de se tourner vers les communs numériques, ce qui implique d’y entrainer les communautés avec lesquelles nous souhaitons pouvoir échanger.

Pour mémoire, les communs numériques peuvent être définis comme “une communauté de producteurs et d’utilisateurs qui gèrent une ressource numérique en vue de son enrichissement dans le temps à travers des règles de gouvernance conjointement élaborées et dont ils protègent le libre accès face aux tentatives d’appropriation exclusive.” (référence: CNNum)

Un lien avec la souveraineté numérique

Tous ceux qui s’intéressent aux enjeux du numérique savent que l’ultra-domination par un faible nombre d’acteurs privés à but lucratif est un sujet d’inquiétude. Les GAFAM et BATX ont atteint des cours de valorisation qui dépassent le PIB de certaines nations et leur pouvoir n’est plus à démontrer. Cette situation est pointée du doigt par des acteurs influents de la sphère numérique, comme Gilles Babinet (Il y a un glissement de souveraineté des Etats vers les GAFA, France Inter, 14 août 2018), sans pour autant que les choix politiques soient en mesure d’amener un point d’inflexion sur la dangereuse pente de la dépendance numérique.

Même si la régulation européenne sur le plan juridique tend à fixer des limites, il n’en demeure pas moins que l’Europe se retrouve acculée. La souveraineté exige des investissements qui ne sont pas soutenables à l’échelle nationale. Comme l’indiquait Vincent Coudrin (responsable mission cloud à la Direction interministérielle du numérique) à l’occasion d’un récent échange, il faudrait qu’au niveau politique un leadership s’affirme pour rassembler plusieurs nations européennes au tour d’un projet commun, en mesure d’investir dans des infrastructures et plus globalement une capacité (au sens militaire) qui permette de faire émerger un acteur en mesure de servir les besoins civils et militaires, publics et privés, de sorte que le volume d’utilisateurs soit suffisant pour assurer la soutenabilité économique dans la durée. Vaste programme…

Impuissance de la sphère politique

Le Sénat a constitué le 1er juin 2023 une commission spéciale chargée d’examiner un projet de loi visant à sécuriser et à réguler l’espace numérique, commission présidée par Catherine Morin-Desailly, avec comme rapporteurs Patrick Chaize et Loïc Hervé, réunissant 10 vice-présidents, 3 secrétaires et 21 membres.

La page réservée aux travaux portés par cette commission plante parfaitement le décor : « La question de la régulation du numérique est devenue un sujet central des politiques publiques, avec le développement ces dernières années d’entreprises extrêmement puissantes qui disposent maintenant d’une influence majeure, tant économique que politique ou sociétale. »

Une proposition de loi est successivement présentée au Sénat, à l’Assemblée nationale, devant une Commission mixte paritaire, avant d’être soumise à l’approbation du Conseil constitutionnel, puis d’être promulguée : loi visant à sécuriser et à réguler l’espace numérique (n° 2024-449 du 21 mai 2024), parue au JO n° 117 du 22 mai 2024.

On ne peut donc pas dire que les instances politiques se désintéressent du sujet. La Nation se donne les moyens de la réflexion. Mais la régulation dans un monde globalisé ne permet pas d’obtenir les effets escomptés. L’innovation au service des intérêts mercantiles se poursuit sous nos yeux.

Ce post fait suite à la lecture du journal « Le 1 » en date du 16/10/2024

Cette édition n°517 du journal consacre une pleine page à Naomi Klein. Mais ce post est directement en lien avec l’article relatif à l’entretien avec le mathématicien David Chavalarias, directeur de recherches au centre d’analyses et de mathématiques sociales du CNRS, auteur de Toxic data (Flammarion), dont les propos sont recueillis par Lou Heliot et Julien Bisson

En lien avec ce post…

France Inter : débat du 7/10, 13 novembre 2024, Réseaux sociaux : une menace durable pour la démocratie ?

CNNum :

• lettre du Conseil #57, octobre 2023, pour une approche ouverte des réseaux sociaux
• lettre du Conseil #101, novembre 2024, Musk n’est pas notre projet. En voici un autre.

Nombreux sont les essais qui dénoncent les travers des réseaux sociaux, mais ils ne sont visiblement pas suffisamment lus au vu la dérive insidieuse qui se poursuit… Plus graves, des affaires comme les facebook files dénoncés en 2021 par Frances Haugen, ne se sont pas traduits par un rejet des utilisateurs.

Parmi les ouvrages recommandables, on peut citer par exemple Propagande de David Colon (2021). L’un des propos frappant et a priori contre-intuitif est abordé dès l’introduction en indiquant que la propagande touche en priorité les milieux les plus cultivés et les plus à même d’accéder à l’information. L’explication : plus l’individu est exposé à la complexité du monde et une information riche, plus il a besoin d’explications simples, d’une grille de lecture qui lui permette de s’inscrire dans une vision collective et lui laisse croire qu’il comprend le monde qui l’entoure.

Le CNNum, déjà cité, mène également des travaux éclairants sur ce sujet, à lire sur leur site. A écouter / regarder « le réseau social du futur sera avant tout un protocole« , interview de Jean Cattan, 26 février 2024.

Parmi les membres actifs du CNNum, Gilles Babinet avait indiqué dans un post sur X(Twitter) « Il faut le dire et le redire : la régulation des réseaux sociaux est insuffisante (même post DSA) et met en danger la démocratie. Le @CNNum a entre autre appelé a ce que les algorithmes de recommandation ne soient plus contrôlés par les plateformes ». Dans ce post Gilles Babinet relayait une tribune relative à l’impact de la manipulation des affects par ces plates-formes, de Daniel Lacerda, publiée le 1er août 2024 dans le journal Le Monde « Les réseaux sociaux sont une arme politique de destruction massive« .

Les récents rendez-vous électoraux ne démentent pas cette tendance, bien au contraire. A cet égard, je ne saurais trop recommander l’excellent site politoscope.org qui avait publié un article intitulé « minuit moins dix à l’horloge de Poutine« , article éclairant sur les manoeuvres de fond qui visent à prendre le pouvoir par la manipulation de l’information.

In fine, la lecture de cet article résonne avec bien d’autres lectures et échanges. Mais puisqu’il faut s’arrêter dans la rédaction de ce post, mentionnons les travaux d’Henri Verdier, profondément attaché à la notion de « communs », qui avait déjà identifié la plateforme Mastodon en 2017, était déjà convaincu de l’intérêt des communs numériques avant d’arriver à la tête de la DINSIC (devenue DINUM), et qui défend aujourd’hui encore l’intérêt de cette approche dans ses fonctions d’Ambassadeur pour le numérique au sein du ministère de l’Europe et des affaires étrangères. Il a publié le 24 juin 2022 un rapport sur les communs numériques : un levier essentiel pour la souveraineté européenne.

Chaque fois que la surface digitale du monde s’étend, les enjeux de cybersécurité prennent une part croissante.
Dans le contexte d’une transformation numérique qui continue sa progression dans tous les secteurs, cela impose une prise de conscience de ces enjeux cyber par tous les acteurs concernés, quelle que soit leur fonction dans l’organisation. Ces questions cyber n’ont pas manqué de nous animer en 2023, leur intérêt demeure en 2024 et sera vraisemblablement amplifié dans le cadre du contexte des JO/JOP.

L’année 2023 a probablement été celle de la mise à disposition au plus grand nombre d’interfaces d’accès à des capacités dites d’intelligence artificielle générative. Effet de mode ? Probablement pas ! Reste que beaucoup d’organisation se sont rapidement retrouvées face à des problématiques nouvelles. Là encore, un travail de réflexion approfondie est nécessaire pour parvenir à un bon niveau de maturité prenant en compte les nombreux aspects (gains de productivité, gestion des données, sécurité, éthique, social…). Dans le domaine de l’IA, l’année 2024 sera probablement riche en discussions.

Dans un contexte de changement climatique de plus en plus préoccupant, où l’activité humaine apparait comme un facteur déterminant dans l’évolution de l’écosystème planétaire, il apparait nécessaire de s’interroger sur la part que prend le numérique dans ces débordements et sur les mesures à prendre. La COP 28 qui s’est tenue du 30 novembre au 12 décembre 2023 à Dubaï a mis en évidence les tensions qui demeurent avec la compétition économique qui constitue le déterminant principal. Le besoin de revenir à une activité humaine plus frugale pour freiner les évolutions climatiques en cours apparait clairement en opposition avec la multiplication des datacenters, des réseaux et de tous les appareils qui s’y connectent… Les réflexions que nous portons devraient alimenter la recherche d’efficience globale, i.e. pas celle de l’efficacité avec une moindre dépense financière (faire plus avec moins), mais celle de l’efficacité avec un moindre impact énergétique, climatique…

Il y a bien entendu de nombreuses autres thématiques qui doivent nous inviter à réfléchir à comment mieux porter le numérique pour qu’il permette de mieux construire la société de demain… Après une année 2023 riche en échanges, je laisse au Club de la transformation numérique, à son conseil d’administration, à l’ensemble de ses adhérents, à l’ensemble des intervenants qui animent nos soirées mensuelles, le soin d’apporter leurs propres interrogations (et si possible des pistes de réponse) pour qu’avec ce collectif nous puissions participer à une transformation numérique plus vertueuse pour notre humanité et pour la planète.

Merci à tous pour votre confiance et ce que nous avons vécu en 2023, tous les membres du conseil d’administration sont heureux et fiers de poursuivre avec vous en 2024.
Meilleurs voeux à tous pour cette nouvelle année et au plaisir de vous retrouver pour les moments de partage qui nous attendent.

Le Président du Club

Lors de la réunion du lundi 11 décembre Alexandre David CEO de Heptalytics – IA sécurité paiements nous a présenté un cas d’usage de l’intelligence artificielle, dans le cadre de la lutte contre la fraude.

Il ressort de la présentation que les solutions actuelles sont insatisfaisantes car :

1. Les clients sont mécontents de voir leur transactions parfois en attente pour quelques jours alors qu’il n’y a aucun problème.
2. Les banques sont submergées par la lutte contre la fraude avec des augmentations à deux chiffres, en valeur et en volume des transactions suspectes, et surtout des tentatives de fraudes liées à l’ingénierie sociale.

Après un bref panorama sur la fraude, et quelques exemples vécus, Alexandre a présenté les différents modèles d’intelligence artificielles qui sont mobilisés pour lutter contre la fraude. 

La solution qui a été développée par sa société active différentes briques d’IA pour identifier spontanément les signaux d’alertes et identifier la fraude. 

Ce qui parait intéressant c’est que la démarche est en rupture avec les outils existants qui sont bâtis sur des moteurs de règles. De fait, l’intelligence artificielle permet d’afficher une efficacité impressionnante.

D’après les retours opérationnels partagés pendant la soirée, la solution permet une amélioration de la capacité de détection de la fraude de 30 à 50 %, et aussi une amélioration de la productivité des opérationnels de 50 à 70%.

La réunion débat s’est terminée par un quizz sur les différents cas d’usages et les notions évoquées en cours de soirée.

Une très belle soirée pour clôturer l’année 2023 !

Intelligence artificielle : « La meilleure protection c’est d’avoir des modèles européens », plaide Jean-Noël Barrot (Le Monde, Alexandre Piquard, 15/12/2023)

L’article du journal Le Monde consacré au plaidoyer de Jean-Noël Barrot met en lumière les débats entourant le projet de règlement européen sur l’intelligence artificielle (AI Act) et souligne les positions défendues par le ministre délégué au numérique français, Jean-Noël Barrot.

Le ministre délégué au numérique s’est exprimé sur le projet de règlement européen sur l’intelligence artificielle (AI Act) juste avant une réunion cruciale qui était prévue le 6 décembre 2023. Au-delà des positions de la France dans les négociations autour de la régulation de l’intelligence artificielle en Europe, l’article met en évidence les débats sur les nécessaires obligations, le besoin de transparence des modèles, et la nécessité de créer des acteurs européens forts dans le domaine de l’IA.

La France est critiquée pour son opposition apparente aux propositions plus strictes du Parlement européen, ce qui a créé des tensions dans les négociations. Mais Jean-Noël Barrot défend la position de la France en soulignant que l’Europe devient la première démocratie à établir un cadre législatif pour l’intelligence artificielle. Si ce cadre est adopté, les systèmes d’IA présentant des risques élevés devront obtenir un marquage CE, avec des obligations d’audit et de transparence les plus élevées au monde. Cela s’appliquerait aux domaines tels que la conduite autonome, le diagnostic médical, le tri des CV, et l’attribution de crédit, mais pas aux domaines sans risque comme le divertissement ou le jeu vidéo.

Concernant les modèles de fondation, utilisés par des entreprises pour créer des services, Barrot propose une approche où les fabricants collaboreraient avec les entreprises clientes et publieraient des informations de base sur le fonctionnement de leurs modèles. Il suggère également un code de bonne conduite pour harmoniser les pratiques et envisage des exonérations pour les modèles en accès libre (open source), arguant que l’open source offre des garanties de transparence et favorise la concurrence équitable.

Soutenue par l’Allemagne et l’Italie, la France s’oppose aux obligations plus strictes proposées par le Parlement en juin, concernant des évaluations régulières et des mesures d’atténuation des risques pour les droits fondamentaux. La France a également rejeté le compromis réservant ces obligations aux modèles les plus puissants. Cette position a suscité des critiques, notamment de spécialistes de l’intelligence artificielle et de l’association de PME du numérique SME Alliance. Le ministre Barrot affirme que l’AI Act serait ainsi la réglementation la plus contraignante au monde.

Dans ce type de configuration, il est fréquent de se voir reprocher une forme de favoritisme déguisé. La France est ainsi accusée de suivre les intérêts de sa start-up Mistral AI. Jean-Noël Barrot insiste au contraire sur une démarche guidée par l’intérêt général et une approche basée sur des échanges avec toutes les parties prenantes.

Les réflexions stratégiques convergent par ailleurs vers la création de « champions européens » de l’IA comme étant une priorité absolue, estimant que cela offre une meilleure protection que de tenter de réguler des plateformes qui s’exportent par nature avec leur propre droit. Enfin, des questions comme la lutte contre les monopoles dans l’accès à la capacité de calcul informatique et le droit d’auteur mériteraient des évolutions législatives.

Lundi 15 janvier, La culture comme facteur de réussite des transformation, Jérôme Bouquet

Lundi 26 février, La transformation numérique du ministère des armées, Vincent TEJEDOR

Mercredi 13 mars (séminaire), La transformation numérique du groupe Orange, Mathieu HUET

Lundi 22 avril, assemblée générale du Club

Lundi 13 mai, Comprendre les vulnérabilités et construire des pratiques pour une organisation régénérative Boutayna BURKEL

Lundi 10 juin Gaia X Nadia FRONTIGNY

Lundi 1er juillet, L’évaluation de la maturité digitale 360° Michaël TARTAR

Lundi 9 septembre, Retex sur la mise en œuvre IA  avec Alexandre MARTINELLI, CEO de La Javaness

Lundi 7 octobre Le rapport IA : notre ambition pour la France avec Cyprien CANIVENC

Lundi 4 novembre, Les wargame au ministères des armées, Patrick RUETSCHMANN

Lundi 9 décembre A définir

Tiré de l’article « L’opacité des algorithmes favorise les dérives au sein des établissements publics » (Par Adrien Sénécat, Le Monde, 05/12/2023)

Suite au révélations de l’association La Quadrature du Net, il est intéressant de rappeler les attentes de transparence s’agissant du traitement de l’information par des algorithmes.

L’article du journal Le Monde examine les implications de l’utilisation d’algorithmes opaques au sein des services publics, en mettant en lumière le cas de la Caisse nationale d’allocations familiales (CNAF) en France.

L’utilisation d’algorithmes, qu’ils soient simples ou sophistiqués, vise à produire des résultats à partir de commandes spécifiques. Cependant, leur utilisation est souvent entourée d’opacité. Cela pose un problème s’agissant du secteur public. L’article se penche sur le cas de la CNAF qui a été médiatisé au cours des derniers jours car il utilise un score de risque discutable pour cibler ses contrôles parmi ses 13,8 millions de foyers d’allocataires.

L’association La Quadrature du Net, qui à l’origine de l’étude, souligne le besoin de transparence dans le fonctionnement de ces systèmes, argumentant que la publication des détails de l’algorithme devrait être publique pour permettre un débat démocratique. En 2022, La Quadrature du Net a demandé à la CNAF de divulguer les détails de son algorithme, mais la demande a été initialement rejetée au motif que cela pourrait aider les fraudeurs à contourner les contrôles.

Suite à une intervention de la Commission d’accès aux documents administratifs (CADA), La Quadrature du Net et Le Monde ont pu obtenir des informations détaillées sur les algorithmes utilisés par la CNAF de 2010 à 2020. L’analyse de ces données révèle que le système s’appuie en grande partie sur des critères potentiellement discriminatoires, tels que l’âge, la situation familiale, les droits à l’allocation aux adultes handicapés, et la vulnérabilité économique.

L’opacité entourant ces algorithmes soulève des inquiétudes quant aux potentielles dérives. Par exemple, un critère de nationalité discriminatoire a été utilisé pendant des années, attribuant un score de risque plus élevé aux citoyens extra-européens. Les 700 contrôleurs de la CNAF n’avaient aucune connaissance du mode de calcul du score de risque, ce qui souligne le manque de transparence.

L’article souligne également que, dans certains domaines, les professionnels qui utilisent des traitements automatisés de données pour prendre des décisions doivent connaître les fondements de ces systèmes. Les lois existantes, comme le règlement général sur la protection des données en Europe, prévoient des dispositions pour garantir l’information des citoyens sur le traitement automatisé de leurs données. Cependant, les administrations peuvent interpréter ces règles de manière restrictive.

L’utilisation croissante d’algorithmes dans les services publics, tels que Parcoursup en France, souligne l’importance de mettre en place des garde-fous. L’article mentionne d’autres exemples européens où des discriminations ont été observées en l’absence de transparence et de réglementation adéquate.

L’utilisation des algorithmes appelle à la vigilance pour éviter les dérives potentielles et assurer une protection adéquate des droits des citoyens.

Robert Vesoul est un cadre chevronné qui possède une solide expérience dans les domaines de la haute technologie, de la technologie numérique et de la stratégie. Actuellement PDG et cofondateur d’Illuin Technology, il se concentre sur la mise en œuvre de projets technologiques à grande échelle avec une approche centrée sur le client. Illuin Technology, sous sa direction, relève les défis de l’intelligence artificielle, en se spécialisant dans l’apprentissage automatique, les applications conversationnelles et les architectures de micro-services.

En dehors de son rôle dans l’entreprise, Robert est codirecteur de la chaire d’innovation numérique à CentraleSupélec, où il a lancé l’Année de la technologie numérique, un programme de spécialisation pour les ingénieurs à haut potentiel, qui leur enseigne les compétences en IA et en génie logiciel. Cette initiative fait le lien entre le monde académique et le monde de l’entreprise, en formant des entrepreneurs du numérique pour la révolution numérique en cours.

Son engagement s’étend à Time for the Planet, dont il est l’un des associés. Cette entreprise à mission vise à rassembler 1 milliard d’euros pour déployer 100 innovations luttant contre le changement climatique, en promouvant l’esprit d’entreprise, l’intelligence collective et les principes de l’open-source.

Avant de rejoindre Illuin Technology, Robert a été PDG de ST Groupe pendant plus de 13 ans, dirigeant des activités de conseil en transformation numérique, des projets d’innovation ouverte et du développement full-stack. Il a également travaillé chez Randstad et Dafsa.

Outre ses activités professionnelles, il participe à des initiatives dans les domaines de l’éducation et de l’environnement, ce qui témoigne de son leadership multidimensionnel et de son engagement en faveur de l’innovation et du changement positif.

(Source : LinkedIn)

Si la cybersécurité constitue depuis une vingtaine d’années un enjeu de tout premier ordre, la capacité offensive est en revanche longtemps demeurée un sujet tabou.

Il est difficile de fournir une liste définitive des nations les plus avancées en termes de capacités offensives en cybersécurité, car ces informations sont souvent classifiées et difficiles à obtenir. Cependant, certaines nations sont réputées pour avoir des capacités avancées dans le domaine de la cyberguerre. Voici quelques-unes d’entre elles, bien que cela puisse évoluer avec le temps :

• États-Unis: Les États-Unis sont largement considérés comme ayant certaines des capacités offensives les plus avancées en matière de cyber. Ils ont des agences gouvernementales dédiées, telles que la NSA (Agence de sécurité nationale) et le Cyber Command, qui sont impliquées dans la cybersécurité et la cyberguerre.
• Russie: La Russie est également connue pour avoir des capacités offensives avancées en cybersécurité. Des groupes de cybercriminels russes sont souvent associés à des activités de piratage et d’espionnage.
• Chine: La Chine a investi massivement dans ses capacités cybernétiques et est considérée comme un acteur majeur dans le cyberespace. Les rapports suggèrent que la Chine est impliquée dans des activités de cyberespionnage et de cybercriminalité.
• Israël: Israël est réputé pour ses compétences en matière de cybersécurité, en partie grâce à des investissements importants dans la recherche et le développement.
• Royaume-Uni: Le Royaume-Uni dispose également de capacités avancées en cybersécurité, avec le GCHQ (Government Communications Headquarters) jouant un rôle clé dans la défense et l’exploitation des capacités offensives.

De nombreux autres pays développent également activement leurs capacités en matière de cybersécurité. Les frontières entre les acteurs étatiques et non étatiques peuvent parfois être floues, car des groupes de pirates informatiques indépendants peuvent agir au nom d’un État ou être tolérés par celui-ci. En outre, le paysage de la cybersécurité évolue constamment, avec de nouvelles menaces et des développements technologiques qui influent sur les capacités offensives. L’arrivée de Pegasus a permis d’introduire des attaques « as a service ». C’est cette capacité nouvelle qui incite à la mise en place d’une régulation car soudainement la capacité offensive est à la portée d’un beaucoup plus grand nombre de nations dès lors qu’elle disposent de ressources financières.

L’Arrangement de Wassenaar

L’Arrangement de Wassenaar semble dépassé tant la situation a évolué depuis son adoption en 1996. Pour mémoire, il s’agit d’un accord international visant à réglementer le commerce des biens à double usage, qui peuvent avoir des applications civiles et militaires. Il tire son nom de la ville de Wassenaar aux Pays-Bas, où il a été initialement négocié en 1995 et est entré en vigueur en 1996. L’objectif principal de cet arrangement est de promouvoir la transparence et de prévenir la prolifération des technologies sensibles. Cet arrangement est un outil essentiel pour prévenir la diffusion non autorisée de technologies qui pourraient être utilisées à des fins militaires, y compris dans le domaine de la cybersécurité. Cependant, son efficacité dépend de la volonté des États signataires de mettre en œuvre et d’appliquer ces contrôles de manière cohérente.

Cette situation explique pourquoi la France prend l’initiative de consulter sur un nouveau texte concernant la « prolifération » des logiciels commerciaux « offensifs » lors du Forum de Paris pour la paix. En partenariat avec le Royaume-Uni, ce texte vise à élargir la portée d’un appel précédent, lancé par les États-Unis en mars, qui visait à contrer les usages néfastes des logiciels espions commerciaux tels que Predator ou Pegasus. Le nouvel accord cherche à inclure d’autres programmes ou services « offensifs » utilisés pour des cyberattaques. C’est ce qu’indique l’article « Cybersécurité : la France à l’initiative d’un nouveau texte sur les logiciels commerciaux « offensifs » » publié le 10 novembre 2023 par le journal Le Monde.

A l’instar de l’arrangement de Wassenaar, le projet ressemble à un code de bonne conduite non contraignant, visant à encourager la signature de nombreux États démocratiques et à stimuler les discussions. Cependant, des défis potentiels peuvent surgir en raison de positions ambivalentes de la France, comme révélé par les « Predator files ». Des entreprises françaises ont contribué à la prolifération de logiciels espions, contournant les règles d’exportation, ce qui pourrait compliquer la persuasion d’autres États. Actuellement, les ventes de logiciels espions sont régies par l’arrangement de Wassenaar, mais son application est inégale, et certains grands exportateurs comme Israël ne l’ont pas signé. Des tentatives d’introduire des dispositions plus strictes au niveau européen ont rencontré une résistance, y compris de la part de la France.

L’article « Les secrets de la compétitivité suisse » édité par le journal Le Monde explore les facteurs qui contribuent au succès économique de la Suisse, malgré sa petite taille et ses coûts élevés. La nation se distingue par son investissement significatif dans la recherche et le développement (R&D), un système éducatif performant, et un écosystème favorable à l’innovation et aux start-ups.

La Suisse consacre 3,2 % de son PIB à la R&D, surpassant la moyenne européenne et la France. Son industrie représente 25 % du PIB, le double de celui de la France. La nation dépose le plus grand nombre de brevets par million d’habitants (en 2022, elle a déposé 1 031 brevets, comparé à 161 en France) et occupe la première place du classement mondial de l’innovation depuis douze ans.

L’éducation joue un rôle clé, avec un système d’apprentissage très accessible et valorisé. La flexibilité des régulations, l’absence de bureaucratie excessive, et la participation consultative favorisent la rapidité des mouvements et la culture du consensus. La fiscalité relativement basse pour les entreprises (les entreprises suisses bénéficient d’une fiscalité relativement basse, avec un impôt sur les sociétés oscillant entre 12 % et 20 % selon les cantons), les salaires élevés, et les charges patronales réduites contribuent également à l’attractivité économique (la Suisse a réussi à attirer des entreprises internationales majeures, telles que Google, qui a choisi Zurich pour son plus grand centre de recherche et développement hors des Etats-Unis).

L’article souligne toutefois certaines faiblesses, notamment dans la formation continue et le financement des étapes ultérieures du développement des start-ups. De plus, la Suisse es sous la menace d’une évolution des relations avec l’Union européenne (UE), avec des négociations en cours sur un accord-cadre. Un échec dans ces négociations pourrait entraîner des barrières douanières et limiter l’accès au marché européen, suscitant des inquiétudes quant à l’attractivité économique de la Suisse.

Même vis-à-vis des Etats-Unis, la suisse apparait comme plus compétitive. Même si l’article ne l’indique pas, ne soyons pas naïfs: indépendamment de l’efficacité rapportée à la taille de la population, les Etats-Unis continuent d’être un leader mondial dans de nombreux domaines, notamment en termes de taille économique globale, de dynamisme entrepreneurial et d’innovation technologique. La Suisse peut exceller dans certains aspects spécifiques, mais cela ne signifie pas nécessairement qu’elle est globalement plus performante que les Etats-Unis.

Le Club de la transformation numérique a démarré le cycle de travaux sur l’intelligence artificielle avec Pierre-Emmanuel Removille et Johan Jublanc le la starup LittleBigCode.

Afin de s’accorder plus rapidement pendant les échanges, les définitions des termes les plus utilisés dans la suite de l’intervention ont été précisées (https://www.cnil.fr/fr/intelligence-artificielle/glossaire-ia).

Avant de rentrer dans le vif du sujet IA, Pierre-Emmanuel et Johan ont choisi de repasser par le concept d’entreprise « data driven »:

• C’est quoi ?
• Pour faire quoi?
• Comment ça se matérialise dans le SI ?
• Les évolutions des architectures: business intelligence, multi-modal data processing, IA et machine learning
• Les 6 axes de transformation pour l’entreprise
• L’IA générative: en quoi elle amène une nouvelle transformation ?
• Exemples concrets de mise en oeuvre

Prochaine soirée, le 13 novembre. Un grand merci à LittleBigCode pour l’animation de cette soirée très appréciée de tous les membres du Club présents.