Chaque fois que la surface digitale du monde s’étend, les enjeux de cybersécurité prennent une part croissante.
Dans le contexte d’une transformation numérique qui continue sa progression dans tous les secteurs, cela impose une prise de conscience de ces enjeux cyber par tous les acteurs concernés, quelle que soit leur fonction dans l’organisation. Ces questions cyber n’ont pas manqué de nous animer en 2023, leur intérêt demeure en 2024 et sera vraisemblablement amplifié dans le cadre du contexte des JO/JOP.

L’année 2023 a probablement été celle de la mise à disposition au plus grand nombre d’interfaces d’accès à des capacités dites d’intelligence artificielle générative. Effet de mode ? Probablement pas ! Reste que beaucoup d’organisation se sont rapidement retrouvées face à des problématiques nouvelles. Là encore, un travail de réflexion approfondie est nécessaire pour parvenir à un bon niveau de maturité prenant en compte les nombreux aspects (gains de productivité, gestion des données, sécurité, éthique, social…). Dans le domaine de l’IA, l’année 2024 sera probablement riche en discussions.

Dans un contexte de changement climatique de plus en plus préoccupant, où l’activité humaine apparait comme un facteur déterminant dans l’évolution de l’écosystème planétaire, il apparait nécessaire de s’interroger sur la part que prend le numérique dans ces débordements et sur les mesures à prendre. La COP 28 qui s’est tenue du 30 novembre au 12 décembre 2023 à Dubaï a mis en évidence les tensions qui demeurent avec la compétition économique qui constitue le déterminant principal. Le besoin de revenir à une activité humaine plus frugale pour freiner les évolutions climatiques en cours apparait clairement en opposition avec la multiplication des datacenters, des réseaux et de tous les appareils qui s’y connectent… Les réflexions que nous portons devraient alimenter la recherche d’efficience globale, i.e. pas celle de l’efficacité avec une moindre dépense financière (faire plus avec moins), mais celle de l’efficacité avec un moindre impact énergétique, climatique…

Il y a bien entendu de nombreuses autres thématiques qui doivent nous inviter à réfléchir à comment mieux porter le numérique pour qu’il permette de mieux construire la société de demain… Après une année 2023 riche en échanges, je laisse au Club de la transformation numérique, à son conseil d’administration, à l’ensemble de ses adhérents, à l’ensemble des intervenants qui animent nos soirées mensuelles, le soin d’apporter leurs propres interrogations (et si possible des pistes de réponse) pour qu’avec ce collectif nous puissions participer à une transformation numérique plus vertueuse pour notre humanité et pour la planète.

Merci à tous pour votre confiance et ce que nous avons vécu en 2023, tous les membres du conseil d’administration sont heureux et fiers de poursuivre avec vous en 2024.
Meilleurs voeux à tous pour cette nouvelle année et au plaisir de vous retrouver pour les moments de partage qui nous attendent.

Le Président du Club

Lors de la réunion du lundi 11 décembre Alexandre David CEO de Heptalytics – IA sécurité paiements nous a présenté un cas d’usage de l’intelligence artificielle, dans le cadre de la lutte contre la fraude.

Il ressort de la présentation que les solutions actuelles sont insatisfaisantes car :

1. Les clients sont mécontents de voir leur transactions parfois en attente pour quelques jours alors qu’il n’y a aucun problème.
2. Les banques sont submergées par la lutte contre la fraude avec des augmentations à deux chiffres, en valeur et en volume des transactions suspectes, et surtout des tentatives de fraudes liées à l’ingénierie sociale.

Après un bref panorama sur la fraude, et quelques exemples vécus, Alexandre a présenté les différents modèles d’intelligence artificielles qui sont mobilisés pour lutter contre la fraude. 

La solution qui a été développée par sa société active différentes briques d’IA pour identifier spontanément les signaux d’alertes et identifier la fraude. 

Ce qui parait intéressant c’est que la démarche est en rupture avec les outils existants qui sont bâtis sur des moteurs de règles. De fait, l’intelligence artificielle permet d’afficher une efficacité impressionnante.

D’après les retours opérationnels partagés pendant la soirée, la solution permet une amélioration de la capacité de détection de la fraude de 30 à 50 %, et aussi une amélioration de la productivité des opérationnels de 50 à 70%.

La réunion débat s’est terminée par un quizz sur les différents cas d’usages et les notions évoquées en cours de soirée.

Une très belle soirée pour clôturer l’année 2023 !

Intelligence artificielle : « La meilleure protection c’est d’avoir des modèles européens », plaide Jean-Noël Barrot (Le Monde, Alexandre Piquard, 15/12/2023)

L’article du journal Le Monde consacré au plaidoyer de Jean-Noël Barrot met en lumière les débats entourant le projet de règlement européen sur l’intelligence artificielle (AI Act) et souligne les positions défendues par le ministre délégué au numérique français, Jean-Noël Barrot.

Le ministre délégué au numérique s’est exprimé sur le projet de règlement européen sur l’intelligence artificielle (AI Act) juste avant une réunion cruciale qui était prévue le 6 décembre 2023. Au-delà des positions de la France dans les négociations autour de la régulation de l’intelligence artificielle en Europe, l’article met en évidence les débats sur les nécessaires obligations, le besoin de transparence des modèles, et la nécessité de créer des acteurs européens forts dans le domaine de l’IA.

La France est critiquée pour son opposition apparente aux propositions plus strictes du Parlement européen, ce qui a créé des tensions dans les négociations. Mais Jean-Noël Barrot défend la position de la France en soulignant que l’Europe devient la première démocratie à établir un cadre législatif pour l’intelligence artificielle. Si ce cadre est adopté, les systèmes d’IA présentant des risques élevés devront obtenir un marquage CE, avec des obligations d’audit et de transparence les plus élevées au monde. Cela s’appliquerait aux domaines tels que la conduite autonome, le diagnostic médical, le tri des CV, et l’attribution de crédit, mais pas aux domaines sans risque comme le divertissement ou le jeu vidéo.

Concernant les modèles de fondation, utilisés par des entreprises pour créer des services, Barrot propose une approche où les fabricants collaboreraient avec les entreprises clientes et publieraient des informations de base sur le fonctionnement de leurs modèles. Il suggère également un code de bonne conduite pour harmoniser les pratiques et envisage des exonérations pour les modèles en accès libre (open source), arguant que l’open source offre des garanties de transparence et favorise la concurrence équitable.

Soutenue par l’Allemagne et l’Italie, la France s’oppose aux obligations plus strictes proposées par le Parlement en juin, concernant des évaluations régulières et des mesures d’atténuation des risques pour les droits fondamentaux. La France a également rejeté le compromis réservant ces obligations aux modèles les plus puissants. Cette position a suscité des critiques, notamment de spécialistes de l’intelligence artificielle et de l’association de PME du numérique SME Alliance. Le ministre Barrot affirme que l’AI Act serait ainsi la réglementation la plus contraignante au monde.

Dans ce type de configuration, il est fréquent de se voir reprocher une forme de favoritisme déguisé. La France est ainsi accusée de suivre les intérêts de sa start-up Mistral AI. Jean-Noël Barrot insiste au contraire sur une démarche guidée par l’intérêt général et une approche basée sur des échanges avec toutes les parties prenantes.

Les réflexions stratégiques convergent par ailleurs vers la création de « champions européens » de l’IA comme étant une priorité absolue, estimant que cela offre une meilleure protection que de tenter de réguler des plateformes qui s’exportent par nature avec leur propre droit. Enfin, des questions comme la lutte contre les monopoles dans l’accès à la capacité de calcul informatique et le droit d’auteur mériteraient des évolutions législatives.

Lundi 15 janvier 2024, La culture comme facteur de réussite des transformation, Jérôme Bouquet

Lundi 26 février 2024, La transformation numérique du ministère des armées, Vincent TEJEDOR

Mercredi 13 mars (séminaire), La transformation numérique du groupe Orange, Mathieu HUET

Lundi 22 avril 2024, assemblée générale du Club

Lundi 13 mai 2024, Comprendre les vulnérabilités et construire des pratiques pour une organisation régénérative Boutayna BURKEL

Lundi 10 juin 2024 Gaia X Nadia FRONTIGNY

Lundi 1er juillet 2024, L’évaluation de la maturité digitale 360° Michaël TARTAR

Lundi 9 septembre, Retex sur la mise en œuvre IA  avec Alexandre MARTINELLI, CEO de La Javaness

Lundi 7 octobre 2024 Le rapport IA : notre ambition pour la France avec Cyprien CANIVENC

Lundi 4 novembre2024, Les wargame au ministères des armées, Patrick RUETSCHMANN

Lundi 9 décembre De la dimension culturelle

27 janvier 2025 Apports et limites de la #ChangeTech et #IA. Conditions de réussites – Essec Chaire Change Management

3 Février 2025 IA LegalTech et Data Management (Rapport IA GÉNÉRATIVE : S’UNIR OU SUBIR) Arno PONS et Thomas Saint-Aubin

3 Mars 2025 De la croissance-éclair à la recherche-action : réorienter l’industrie numérique, utopie ou nécessité? Anne ALOMBERT

19 MARS Partie 2 : Dimension culturelle de la Transformation Numérique (Gallerie culturelle)

7 AVRIL Comment l’approche LowCode s’intègre dans le schéma global d’une organisation complexe – capitaine de frégate Jean-François BIGOT 

5 MAI Les impacts de l’IA sur l’emploi ? (UNEDIC)

2 JUIN De la domination cartésienne aux nouveaux régimes de production de la vérité
La révolution épistémologique et épistémique du vingtième siècle Pierre GIORGINI

7 JUILLET Les impacts pour les banques & assurances des identités digitales – Florent TOURNOIS et Olivier VAN de BLICKE

8 SEPTEMBRE Comment se préparer et anticiper dans un monde d’innatendus? Jeremy LAMRI

6 OCTOBRE Que sont devenus nos CDOs ? Vincent ROBERTI (UNEDIC)

3 NOVEMBRE Ateliers ID numérique citoyenne – CTN – Institut de l’Iconomie – Innocherche

8 DÉCEMBRE Géopolotique de la transformation numérique – Ce que nous pouvons apprendre de la Chine ?

Tiré de l’article « L’opacité des algorithmes favorise les dérives au sein des établissements publics » (Par Adrien Sénécat, Le Monde, 05/12/2023)

Suite au révélations de l’association La Quadrature du Net, il est intéressant de rappeler les attentes de transparence s’agissant du traitement de l’information par des algorithmes.

L’article du journal Le Monde examine les implications de l’utilisation d’algorithmes opaques au sein des services publics, en mettant en lumière le cas de la Caisse nationale d’allocations familiales (CNAF) en France.

L’utilisation d’algorithmes, qu’ils soient simples ou sophistiqués, vise à produire des résultats à partir de commandes spécifiques. Cependant, leur utilisation est souvent entourée d’opacité. Cela pose un problème s’agissant du secteur public. L’article se penche sur le cas de la CNAF qui a été médiatisé au cours des derniers jours car il utilise un score de risque discutable pour cibler ses contrôles parmi ses 13,8 millions de foyers d’allocataires.

L’association La Quadrature du Net, qui à l’origine de l’étude, souligne le besoin de transparence dans le fonctionnement de ces systèmes, argumentant que la publication des détails de l’algorithme devrait être publique pour permettre un débat démocratique. En 2022, La Quadrature du Net a demandé à la CNAF de divulguer les détails de son algorithme, mais la demande a été initialement rejetée au motif que cela pourrait aider les fraudeurs à contourner les contrôles.

Suite à une intervention de la Commission d’accès aux documents administratifs (CADA), La Quadrature du Net et Le Monde ont pu obtenir des informations détaillées sur les algorithmes utilisés par la CNAF de 2010 à 2020. L’analyse de ces données révèle que le système s’appuie en grande partie sur des critères potentiellement discriminatoires, tels que l’âge, la situation familiale, les droits à l’allocation aux adultes handicapés, et la vulnérabilité économique.

L’opacité entourant ces algorithmes soulève des inquiétudes quant aux potentielles dérives. Par exemple, un critère de nationalité discriminatoire a été utilisé pendant des années, attribuant un score de risque plus élevé aux citoyens extra-européens. Les 700 contrôleurs de la CNAF n’avaient aucune connaissance du mode de calcul du score de risque, ce qui souligne le manque de transparence.

L’article souligne également que, dans certains domaines, les professionnels qui utilisent des traitements automatisés de données pour prendre des décisions doivent connaître les fondements de ces systèmes. Les lois existantes, comme le règlement général sur la protection des données en Europe, prévoient des dispositions pour garantir l’information des citoyens sur le traitement automatisé de leurs données. Cependant, les administrations peuvent interpréter ces règles de manière restrictive.

L’utilisation croissante d’algorithmes dans les services publics, tels que Parcoursup en France, souligne l’importance de mettre en place des garde-fous. L’article mentionne d’autres exemples européens où des discriminations ont été observées en l’absence de transparence et de réglementation adéquate.

L’utilisation des algorithmes appelle à la vigilance pour éviter les dérives potentielles et assurer une protection adéquate des droits des citoyens.

Robert Vesoul est un cadre chevronné qui possède une solide expérience dans les domaines de la haute technologie, de la technologie numérique et de la stratégie. Actuellement PDG et cofondateur d’Illuin Technology, il se concentre sur la mise en œuvre de projets technologiques à grande échelle avec une approche centrée sur le client. Illuin Technology, sous sa direction, relève les défis de l’intelligence artificielle, en se spécialisant dans l’apprentissage automatique, les applications conversationnelles et les architectures de micro-services.

En dehors de son rôle dans l’entreprise, Robert est codirecteur de la chaire d’innovation numérique à CentraleSupélec, où il a lancé l’Année de la technologie numérique, un programme de spécialisation pour les ingénieurs à haut potentiel, qui leur enseigne les compétences en IA et en génie logiciel. Cette initiative fait le lien entre le monde académique et le monde de l’entreprise, en formant des entrepreneurs du numérique pour la révolution numérique en cours.

Son engagement s’étend à Time for the Planet, dont il est l’un des associés. Cette entreprise à mission vise à rassembler 1 milliard d’euros pour déployer 100 innovations luttant contre le changement climatique, en promouvant l’esprit d’entreprise, l’intelligence collective et les principes de l’open-source.

Avant de rejoindre Illuin Technology, Robert a été PDG de ST Groupe pendant plus de 13 ans, dirigeant des activités de conseil en transformation numérique, des projets d’innovation ouverte et du développement full-stack. Il a également travaillé chez Randstad et Dafsa.

Outre ses activités professionnelles, il participe à des initiatives dans les domaines de l’éducation et de l’environnement, ce qui témoigne de son leadership multidimensionnel et de son engagement en faveur de l’innovation et du changement positif.

(Source : LinkedIn)

Si la cybersécurité constitue depuis une vingtaine d’années un enjeu de tout premier ordre, la capacité offensive est en revanche longtemps demeurée un sujet tabou.

Il est difficile de fournir une liste définitive des nations les plus avancées en termes de capacités offensives en cybersécurité, car ces informations sont souvent classifiées et difficiles à obtenir. Cependant, certaines nations sont réputées pour avoir des capacités avancées dans le domaine de la cyberguerre. Voici quelques-unes d’entre elles, bien que cela puisse évoluer avec le temps :

• États-Unis: Les États-Unis sont largement considérés comme ayant certaines des capacités offensives les plus avancées en matière de cyber. Ils ont des agences gouvernementales dédiées, telles que la NSA (Agence de sécurité nationale) et le Cyber Command, qui sont impliquées dans la cybersécurité et la cyberguerre.
• Russie: La Russie est également connue pour avoir des capacités offensives avancées en cybersécurité. Des groupes de cybercriminels russes sont souvent associés à des activités de piratage et d’espionnage.
• Chine: La Chine a investi massivement dans ses capacités cybernétiques et est considérée comme un acteur majeur dans le cyberespace. Les rapports suggèrent que la Chine est impliquée dans des activités de cyberespionnage et de cybercriminalité.
• Israël: Israël est réputé pour ses compétences en matière de cybersécurité, en partie grâce à des investissements importants dans la recherche et le développement.
• Royaume-Uni: Le Royaume-Uni dispose également de capacités avancées en cybersécurité, avec le GCHQ (Government Communications Headquarters) jouant un rôle clé dans la défense et l’exploitation des capacités offensives.

De nombreux autres pays développent également activement leurs capacités en matière de cybersécurité. Les frontières entre les acteurs étatiques et non étatiques peuvent parfois être floues, car des groupes de pirates informatiques indépendants peuvent agir au nom d’un État ou être tolérés par celui-ci. En outre, le paysage de la cybersécurité évolue constamment, avec de nouvelles menaces et des développements technologiques qui influent sur les capacités offensives. L’arrivée de Pegasus a permis d’introduire des attaques « as a service ». C’est cette capacité nouvelle qui incite à la mise en place d’une régulation car soudainement la capacité offensive est à la portée d’un beaucoup plus grand nombre de nations dès lors qu’elle disposent de ressources financières.

L’Arrangement de Wassenaar

L’Arrangement de Wassenaar semble dépassé tant la situation a évolué depuis son adoption en 1996. Pour mémoire, il s’agit d’un accord international visant à réglementer le commerce des biens à double usage, qui peuvent avoir des applications civiles et militaires. Il tire son nom de la ville de Wassenaar aux Pays-Bas, où il a été initialement négocié en 1995 et est entré en vigueur en 1996. L’objectif principal de cet arrangement est de promouvoir la transparence et de prévenir la prolifération des technologies sensibles. Cet arrangement est un outil essentiel pour prévenir la diffusion non autorisée de technologies qui pourraient être utilisées à des fins militaires, y compris dans le domaine de la cybersécurité. Cependant, son efficacité dépend de la volonté des États signataires de mettre en œuvre et d’appliquer ces contrôles de manière cohérente.

Cette situation explique pourquoi la France prend l’initiative de consulter sur un nouveau texte concernant la « prolifération » des logiciels commerciaux « offensifs » lors du Forum de Paris pour la paix. En partenariat avec le Royaume-Uni, ce texte vise à élargir la portée d’un appel précédent, lancé par les États-Unis en mars, qui visait à contrer les usages néfastes des logiciels espions commerciaux tels que Predator ou Pegasus. Le nouvel accord cherche à inclure d’autres programmes ou services « offensifs » utilisés pour des cyberattaques. C’est ce qu’indique l’article « Cybersécurité : la France à l’initiative d’un nouveau texte sur les logiciels commerciaux « offensifs » » publié le 10 novembre 2023 par le journal Le Monde.

A l’instar de l’arrangement de Wassenaar, le projet ressemble à un code de bonne conduite non contraignant, visant à encourager la signature de nombreux États démocratiques et à stimuler les discussions. Cependant, des défis potentiels peuvent surgir en raison de positions ambivalentes de la France, comme révélé par les « Predator files ». Des entreprises françaises ont contribué à la prolifération de logiciels espions, contournant les règles d’exportation, ce qui pourrait compliquer la persuasion d’autres États. Actuellement, les ventes de logiciels espions sont régies par l’arrangement de Wassenaar, mais son application est inégale, et certains grands exportateurs comme Israël ne l’ont pas signé. Des tentatives d’introduire des dispositions plus strictes au niveau européen ont rencontré une résistance, y compris de la part de la France.

L’article « Les secrets de la compétitivité suisse » édité par le journal Le Monde explore les facteurs qui contribuent au succès économique de la Suisse, malgré sa petite taille et ses coûts élevés. La nation se distingue par son investissement significatif dans la recherche et le développement (R&D), un système éducatif performant, et un écosystème favorable à l’innovation et aux start-ups.

La Suisse consacre 3,2 % de son PIB à la R&D, surpassant la moyenne européenne et la France. Son industrie représente 25 % du PIB, le double de celui de la France. La nation dépose le plus grand nombre de brevets par million d’habitants (en 2022, elle a déposé 1 031 brevets, comparé à 161 en France) et occupe la première place du classement mondial de l’innovation depuis douze ans.

L’éducation joue un rôle clé, avec un système d’apprentissage très accessible et valorisé. La flexibilité des régulations, l’absence de bureaucratie excessive, et la participation consultative favorisent la rapidité des mouvements et la culture du consensus. La fiscalité relativement basse pour les entreprises (les entreprises suisses bénéficient d’une fiscalité relativement basse, avec un impôt sur les sociétés oscillant entre 12 % et 20 % selon les cantons), les salaires élevés, et les charges patronales réduites contribuent également à l’attractivité économique (la Suisse a réussi à attirer des entreprises internationales majeures, telles que Google, qui a choisi Zurich pour son plus grand centre de recherche et développement hors des Etats-Unis).

L’article souligne toutefois certaines faiblesses, notamment dans la formation continue et le financement des étapes ultérieures du développement des start-ups. De plus, la Suisse es sous la menace d’une évolution des relations avec l’Union européenne (UE), avec des négociations en cours sur un accord-cadre. Un échec dans ces négociations pourrait entraîner des barrières douanières et limiter l’accès au marché européen, suscitant des inquiétudes quant à l’attractivité économique de la Suisse.

Même vis-à-vis des Etats-Unis, la suisse apparait comme plus compétitive. Même si l’article ne l’indique pas, ne soyons pas naïfs: indépendamment de l’efficacité rapportée à la taille de la population, les Etats-Unis continuent d’être un leader mondial dans de nombreux domaines, notamment en termes de taille économique globale, de dynamisme entrepreneurial et d’innovation technologique. La Suisse peut exceller dans certains aspects spécifiques, mais cela ne signifie pas nécessairement qu’elle est globalement plus performante que les Etats-Unis.

Le Club de la transformation numérique a démarré le cycle de travaux sur l’intelligence artificielle avec Pierre-Emmanuel Removille et Johan Jublanc le la starup LittleBigCode.

Afin de s’accorder plus rapidement pendant les échanges, les définitions des termes les plus utilisés dans la suite de l’intervention ont été précisées (https://www.cnil.fr/fr/intelligence-artificielle/glossaire-ia).

Avant de rentrer dans le vif du sujet IA, Pierre-Emmanuel et Johan ont choisi de repasser par le concept d’entreprise « data driven »:

• C’est quoi ?
• Pour faire quoi?
• Comment ça se matérialise dans le SI ?
• Les évolutions des architectures: business intelligence, multi-modal data processing, IA et machine learning
• Les 6 axes de transformation pour l’entreprise
• L’IA générative: en quoi elle amène une nouvelle transformation ?
• Exemples concrets de mise en oeuvre

Prochaine soirée, le 13 novembre. Un grand merci à LittleBigCode pour l’animation de cette soirée très appréciée de tous les membres du Club présents.

Appel à projet pour l’IA Generative porté par BPI et le cahier de tendance de France Télévision de cet été sur l’IA (écouter les communicants sur ce sujet pourrait être instructif, si besoin.

Enfin, Finance Innovation organise un workshop d’une quarantaine de personnes sur le sujet avec ces membres sur les « verticales » Banque, Assurance et Immobilier.