Préambule
Un changement de civilisation
Depuis deux siècles, les grandes révolutions techniques ont transformé la place de l'humain dans le monde.
La machine à vapeur a transformé le travail.
L'électricité a transformé l'industrie.
L'automobile a transformé les territoires.
Internet a transformé l'accès à l'information.
L'intelligence artificielle transforme désormais la décision.
Pour la première fois dans l'histoire, des systèmes numériques deviennent capables de comprendre, d'expliquer, de conseiller, de coordonner, d'apprendre, d'agir et bientôt de collaborer entre eux de manière autonome.
Ce changement est déjà visible.
Des millions de personnes utilisent quotidiennement des assistants conversationnels.
Des entreprises déploient des agents spécialisés.
Des robots apparaissent dans les usines, les entrepôts, les exploitations agricoles et les services.
Des systèmes intelligents participent déjà à des décisions qui concernent la santé, l'éducation, l'emploi, la mobilité ou l'accès aux services publics.
Cette évolution est porteuse d'opportunités considérables.
Elle est également porteuse d'interrogations nouvelles.
Une nouvelle question
Pendant plusieurs années, la question dominante a été :
Comment rendre l'intelligence artificielle plus performante ?
Cette question demeure importante.
Mais elle n'est plus suffisante.
Une nouvelle question apparaît désormais :
Comment rendre l'intelligence artificielle gouvernable ?
Cette question est appelée à devenir centrale.
Car les systèmes intelligents ne se contentent plus de fournir des informations. Ils influencent. Ils recommandent. Ils coordonnent. Ils exécutent. Ils agissent.
À mesure que leur capacité d'action augmente, la question de leur gouvernance devient plus importante que celle de leur seule performance.
Le véritable enjeu
Le sujet n'est pas de ralentir l'innovation.
Le sujet n'est pas d'empêcher le développement de l'intelligence artificielle.
Le sujet est de préserver la place de l'humain dans un monde où les systèmes intelligents deviennent de plus en plus présents.
Comment conserver la responsabilité humaine ?
Comment préserver la liberté de choix ?
Comment garantir la possibilité de reprendre la main ?
Comment maintenir la confiance ?
Comment éviter que la décision humaine ne disparaisse progressivement derrière des mécanismes devenus trop complexes pour être compris ?
Ces questions concernent désormais l'ensemble de la société.
Une conviction
Les auteurs de ce Livre Blanc partagent une conviction simple.
Le défi majeur des prochaines décennies ne sera pas uniquement de construire des intelligences artificielles plus puissantes.
Le défi sera de construire une relation durable entre les humains, les intelligences artificielles, les agents et les robots.
Cette relation devra reposer sur :
la compréhension ; la responsabilité ; la transparence ; la confiance ; la gouvernance.
Pourquoi ce Livre Blanc ?
Ce document présente les travaux engagés autour d'IG00 et de DreamLife00.
Il ne s'agit pas d'un manuel technique.
Il ne s'agit pas d'un document commercial.
Il ne s'agit pas d'une proposition figée.
Il s'agit d'une contribution.
Une contribution à une réflexion qui ne fait que commencer.
Comment organiser durablement la coexistence entre les humains et les systèmes intelligents ?
Comment faire en sorte que l'intelligence artificielle demeure un outil au service de l'humain ?
Comment construire une gouvernance capable d'accompagner les transformations à venir ?
Telles sont les questions auxquelles ce Livre Blanc cherche à apporter des éléments de réponse.
Note de synthèse
L'intelligence artificielle entre dans une nouvelle phase de son développement.
Après les assistants conversationnels apparaissent désormais les agents autonomes, les systèmes multi-agents, les robots et les compagnons numériques permanents.
Cette évolution ouvre des perspectives considérables.
Elle soulève également une question fondamentale :
Qui gouvernera les systèmes intelligents lorsqu'ils deviendront capables d'agir ?
IG00 propose une réponse à cette question.
IG00 est un cadre de gouvernance destiné à préserver la place et la responsabilité de l'humain dans un monde où les systèmes intelligents deviennent capables d'agir.
DreamLife00 constitue son prolongement humain.
Là où IG00 s'intéresse à la gouvernance des systèmes intelligents, DreamLife00 s'intéresse à la manière dont ces systèmes peuvent contribuer positivement aux trajectoires humaines.
Ensemble, ils constituent une proposition visant à explorer les conditions d'une gouvernance humaine et civilisationnelle de l'intelligence artificielle.
Cette proposition s'appuie sur une auto-évaluation alignée avec les principaux référentiels internationaux (AI Act, ISO/IEC 42001) et sur cinq démonstrateurs opérationnels couvrant l'inclusion, la démocratie locale, l'action robotique, les trajectoires humaines et les systèmes multi-agents.
Ce Livre Blanc présente cette vision, les démonstrateurs qui l'illustrent, les mécanismes qui la rendent opérationnelle et les perspectives de coopération permettant de la faire évoluer dans un cadre ouvert et collectif.
PARTIE I — CINQ HISTOIRES HUMAINES
Chapitre 1 — Cinq histoires humaines
Pourquoi commencer par des histoires ?
Lorsqu'on parle d'intelligence artificielle, les discussions portent souvent sur les modèles, les algorithmes, les infrastructures ou les performances techniques.
Pourtant, l'intelligence artificielle n'existe jamais seule.
Derrière chaque interaction se trouve une personne. Une question. Un besoin. Une difficulté. Une décision. Une action.
C'est pourquoi ce Livre Blanc ne commence pas par la technologie.
Il commence par l'humain.
Les cinq histoires qui suivent sont volontairement très différentes.
Elles concernent :
une personne en difficulté avec les nombres ; un citoyen qui cherche sa voie et qui doit naviguer la complexité administrative associée ; un maire confronté à des choix complexes ; un robot qui agit dans le monde physique ; des agents autonomes qui collaborent entre eux.
À première vue, elles n'ont rien en commun.
Pourtant, elles racontent toutes la même histoire.
Histoire n°1 — Dyscalculie00
Quand comprendre devient difficile.
Imaginez une personne confrontée chaque jour à des difficultés avec les nombres.
Calculer un pourcentage. Comprendre un relevé bancaire. Comparer plusieurs offres. Préparer un budget.
Ces tâches paraissent simples pour certains. Elles peuvent devenir extrêmement complexes pour d'autres.
Une intelligence artificielle classique peut fournir une réponse.
Mais fournir une réponse n'est pas toujours suffisant. Encore faut-il que cette réponse soit comprise.
Dyscalculie00 explore une autre approche. L'objectif n'est pas de remplacer la personne. L'objectif est de lui permettre de comprendre.
L'IA devient alors un outil d'adaptation. Elle reformule. Elle simplifie. Elle accompagne. Elle vérifie progressivement la compréhension.
La question devient :
Comment l'intelligence artificielle peut-elle s'adapter à l'humain plutôt que l'inverse ?
Histoire n°2 — DreamLife00
Quand une vie ne se résume pas à une réponse.
Un jeune s'interroge sur son avenir.
Une famille réfléchit à un déménagement.
Un salarié envisage une reconversion.
Un retraité prépare une nouvelle étape de sa vie.
Une personne cherche à comprendre ses droits, à identifier des aides, à naviguer la complexité administrative qui entoure ses choix de vie.
Dans chacun de ces cas, il n'existe pas de réponse parfaite.
Aucun algorithme ne peut décider à la place d'une personne.
Aucune intelligence artificielle ne connaît parfaitement une vie humaine.
DreamLife00 est né de cette conviction.
L'intelligence artificielle peut éclairer.
Elle peut aider à réfléchir.
Elle peut montrer des trajectoires possibles.
Elle peut rendre lisible la complexité des dispositifs qui structurent ces trajectoires.
Mais elle ne doit pas se substituer à la liberté humaine.
DreamLife00 explore cette frontière.
La question devient :
Comment accompagner une vie sans chercher à la piloter ?
Histoire n°3 — MairieRurale00
Quand l'intelligence artificielle rencontre la démocratie locale.
Chaque jour, un maire prend des décisions qui engagent sa commune.
Urbanisme. Énergie. Mobilité. Équipements publics. Vie associative. Gestion budgétaire.
L'intelligence artificielle peut aider à préparer ces décisions. Elle peut rechercher des informations. Comparer des scénarios. Identifier des risques.
Mais la décision appartient à l'élu. Et avec elle la responsabilité.
MairieRurale00 explore cette frontière.
La question devient :
Comment renforcer la décision publique sans affaiblir la responsabilité démocratique ?
Histoire n°4 — Frich00
Quand le numérique agit dans le monde réel.
Un robot reçoit pour mission de débroussailler une parcelle.
L'ordre paraît simple.
Pourtant de nombreuses questions apparaissent immédiatement.
La zone est-elle autorisée ? Y a-t-il des personnes à proximité ? Existe-t-il un risque particulier ? Qui est responsable en cas d'incident ?
Nous quittons ici le domaine de l'information. Nous entrons dans celui de l'action.
Frich00 explore précisément cette transition.
La question devient :
Comment gouverner le passage de l'information à l'action ?
Histoire n°5 — Les agents autonomes
Quand les intelligences artificielles se parlent entre elles.
Une demande utilisateur traverse plusieurs systèmes.
Un agent spécialisé. Un assistant métier. Un outil externe. Un autre agent. Puis éventuellement un robot.
Chaque étape introduit un risque :
perte de contexte ; mauvaise interprétation ; dérive progressive ; dilution des responsabilités.
Le défi n'est plus seulement de gouverner une intelligence artificielle. Le défi devient de gouverner leurs interactions.
La question devient :
Qui gouverne les systèmes lorsqu'ils commencent à collaborer entre eux ?
Ce que ces histoires ont en commun
À première vue, rien ne relie ces situations.
Et pourtant un élément est toujours présent.
Une intention humaine.
Comprendre. Choisir. Décider. Agir. Transformer son environnement. Aider les autres.
Avant chaque réponse. Avant chaque décision. Avant chaque action.
Il existe toujours une personne qui cherche à accomplir quelque chose.
C'est cette intention qui constitue le point de départ d'IG00.
Car la gouvernance ne commence pas avec la machine.
Elle commence avec l'humain.
PARTIE II — TROIS QUESTIONS, TROIS PILIERS
Chapitre 2 — Quel est le point commun entre toutes ces histoires ?
Les cinq histoires précédentes semblent très différentes.
L'une concerne une personne confrontée à des difficultés avec les nombres. L'autre s'intéresse à une trajectoire de vie. Une troisième parle d'un maire. Une quatrième d'un robot. Une cinquième d'agents autonomes.
À première vue, elles n'appartiennent pas au même univers.
Pourtant, elles posent toutes la même question.
La réponse n'est pas la technologie
Le point commun n'est pas l'intelligence artificielle. Le point commun n'est pas le modèle. Le point commun n'est pas le robot. Le point commun n'est pas l'agent.
Tous ces éléments changent avec le temps. Les technologies évoluent. Les systèmes se succèdent. Les modèles apparaissent puis disparaissent.
La véritable constante se trouve ailleurs.
Elle se trouve du côté humain.
Une intention
Dans chacune des situations présentées, quelqu'un cherche à accomplir quelque chose.
Comprendre. Apprendre. Comparer. Choisir. Décider. Agir. Transformer son environnement. Aider les autres.
Cette volonté constitue l'intention humaine.
Elle précède toujours la technologie.
Elle lui donne un sens.
Sans intention humaine, un système intelligent n'est qu'un mécanisme sans finalité.
Le fil invisible
Lorsqu'une personne formule une demande, un chemin commence.
La plupart du temps, ce chemin paraît évident.
Pourtant, à mesure que les systèmes deviennent plus puissants, il devient également plus fragile.
Le risque de la prochaine décennie
Le risque principal n'est pas nécessairement une mauvaise réponse.
Le risque est plus subtil.
Il réside dans le glissement progressif des responsabilités.
Aujourd'hui : Aide-moi à comprendre.
Demain : Dis-moi quoi faire.
Après-demain : Fais-le à ma place.
Puis : Fais-le sans me déranger.
C'est précisément ce glissement qu'il devient nécessaire de gouverner.
Une question fondamentale
À partir de quel moment l'assistance devient-elle influence ?
À partir de quel moment la recommandation devient-elle décision ?
À partir de quel moment l'automatisation devient-elle substitution ?
Ces questions ne concernent pas uniquement les machines.
Elles concernent notre rapport aux machines.
La responsabilité
Toute société repose sur une idée simple.
Lorsqu'une décision produit une conséquence importante, quelqu'un doit pouvoir en assumer la responsabilité.
Cette idée demeure valable à l'ère de l'intelligence artificielle.
Même lorsque plusieurs agents collaborent. Même lorsqu'un robot agit. Même lorsqu'un système devient extrêmement complexe.
La responsabilité humaine ne peut pas disparaître.
Le besoin de gouvernance
C'est ici qu'apparaît la notion de gouvernance.
La gouvernance n'a pas pour objectif de ralentir l'intelligence artificielle.
Elle n'a pas pour objectif de bloquer l'innovation.
Elle cherche à répondre à une question beaucoup plus simple :
Comment préserver le lien entre l'intention, l'action et la responsabilité ?
Cette question constitue le cœur d'IG00.
Chapitre 3 — Trois questions simples
Avant de présenter les mécanismes d'IG00, il est utile de revenir à trois questions fondamentales.
Ces questions paraissent simples.
Pourtant elles vont progressivement structurer l'ensemble de la gouvernance.
Première question — Qui décide ?
L'intelligence artificielle peut informer. Elle peut analyser. Elle peut proposer.
Mais lorsque la situation devient engageante, qui décide réellement ?
La réponse d'IG00 est claire :
L'humain demeure le décideur.
Cette affirmation paraît évidente.
Pourtant elle deviendra de plus en plus importante à mesure que les systèmes gagneront en autonomie.
Deuxième question — Puis-je reprendre la main ?
Une personne doit-elle pouvoir interrompre un processus ? Modifier une décision ? Refuser une recommandation ? Se retirer d'un parcours automatisé ?
IG00 répond également par l'affirmative.
La liberté humaine suppose toujours la possibilité de reprendre le contrôle.
Troisième question — Sommes-nous encore dans l'information ?
Ou sommes-nous déjà dans l'action ?
Cette question est probablement la plus importante.
Lire un document. Comparer plusieurs options. Préparer un dossier. Déclencher un paiement. Commander une machine. Piloter un robot.
Ces situations n'engagent pas le même niveau de responsabilité.
Pourtant les systèmes numériques tendent à les rapprocher.
Une frontière devient donc nécessaire.
Une architecture née de ces trois questions
Qui décide ? Puis-je reprendre la main ? Sommes-nous encore dans l'information ou déjà dans l'action ?
Ces trois questions sont à l'origine des fondations d'IG00.
Elles vont progressivement conduire à la création de trois mécanismes complémentaires :
Constitution00 Pacte du Seuil00 Acte du Seuil00
Avant d'être des mécanismes techniques, ils sont d'abord des réponses à des questions profondément humaines.
C'est pourquoi ils constituent le cœur de la gouvernance.
Chapitre 4 — Constitution00
Pourquoi une constitution ?
Toute société humaine repose sur des principes fondamentaux.
Ces principes ne règlent pas tous les problèmes. Ils ne répondent pas à toutes les situations.
Mais ils définissent un cadre. Ils indiquent ce qui est acceptable. Ils précisent ce qui ne l'est pas.
Ils permettent à des personnes différentes de vivre ensemble malgré leurs désaccords.
L'émergence de systèmes intelligents de plus en plus autonomes conduit à une question comparable :
Existe-t-il des principes qui devraient demeurer stables indépendamment des technologies utilisées ?
C'est de cette interrogation qu'est née Constitution00.
Un socle avant la technologie
Les modèles évolueront. Les agents évolueront. Les robots évolueront. Les entreprises évolueront. Les réglementations évolueront.
Mais certaines questions resteront les mêmes.
Qui décide ? Qui est responsable ? Qui contrôle ? Qui peut interrompre ? Qui assume les conséquences ?
Constitution00 a été conçue pour répondre à ces questions fondamentales avant même d'aborder les aspects techniques.
Une gouvernance des principes
Constitution00 n'est pas un programme. Ce n'est pas un algorithme. Ce n'est pas une procédure.
C'est un socle de principes destiné à guider les comportements des systèmes intelligents.
Elle représente la partie la plus stable de l'architecture IG00.
Les six principes
Premier principe — La primauté de l'humain
Les systèmes intelligents existent pour servir les humains. L'inverse n'est pas souhaitable.
Cette affirmation paraît simple. Elle constitue pourtant la pierre angulaire de l'ensemble du projet.
Les systèmes peuvent assister. Ils peuvent éclairer. Ils peuvent aider. Ils ne doivent pas se substituer à la responsabilité humaine.
Deuxième principe — La non-substitution décisionnelle
Une intelligence artificielle peut contribuer à une décision.
Elle ne doit pas devenir le décideur ultime lorsqu'une responsabilité humaine est engagée.
Ce principe est particulièrement important dans : la santé ; l'éducation ; la justice ; les collectivités ; les finances ; les systèmes physiques.
La décision humaine demeure identifiable.
Troisième principe — La réversibilité
L'humain doit conserver la possibilité de revenir en arrière. De modifier son choix. D'interrompre un processus. De suspendre une automatisation.
La confiance ne peut exister sans cette possibilité.
Quatrième principe — La transparence
Toute personne concernée doit pouvoir comprendre :
qu'un système intelligent intervient ; pourquoi il intervient ; quel est son rôle ; quelles sont ses limites.
La confiance repose sur la compréhension.
Cinquième principe — La traçabilité
Lorsqu'une décision importante est prise, il doit être possible d'en retracer le cheminement.
Comprendre ce qui a été proposé. Ce qui a été retenu. Ce qui a été validé. Et par qui.
La traçabilité constitue l'un des fondements de la responsabilité.
Sixième principe — La proportionnalité
Toutes les situations ne présentent pas le même niveau de risque. Toutes les décisions n'engagent pas les mêmes conséquences.
La gouvernance doit s'adapter au niveau réel d'engagement.
Une simple demande d'information n'appelle pas les mêmes mécanismes qu'une action ayant un impact concret sur une personne ou sur son environnement.
Une constitution pour l'ère des agents
Ces principes ont été conçus à une époque où les assistants conversationnels commençaient à se diffuser.
Ils prennent aujourd'hui une importance nouvelle.
Les systèmes intelligents ne répondent plus seulement. Ils agissent. Ils collaborent. Ils délèguent. Ils coordonnent. Ils pilotent.
La nécessité d'un socle stable devient alors encore plus forte.
Ce que Constitution00 n'est pas
Constitution00 ne prétend pas résoudre tous les problèmes. Elle ne prétend pas remplacer les lois. Elle ne prétend pas remplacer les réglementations. Elle ne prétend pas remplacer les choix démocratiques.
Elle cherche simplement à fournir un cadre de référence pour guider le développement et l'usage des systèmes intelligents.
La question suivante
Si des principes existent, comment garantir que l'humain conserve effectivement la possibilité de reprendre la main ?
Cette question conduit naturellement au deuxième pilier d'IG00 : le Pacte du Seuil00.
Chapitre 5 — Le Pacte du Seuil00
La liberté de reprendre la main
Si Constitution00 définit les principes fondamentaux de la gouvernance, une question demeure.
Ces principes peuvent-ils être réellement garantis ?
Car une règle n'a de valeur que si elle peut être exercée. Une liberté n'a de valeur que si elle peut être utilisée. Une responsabilité n'a de valeur que si elle peut être assumée.
C'est de cette réflexion qu'est né le Pacte du Seuil00.
Une intuition simple
À mesure que les systèmes intelligents deviennent plus présents dans nos vies, un risque apparaît.
Non pas un risque brutal. Un risque progressif. Presque invisible. Celui d'une dépendance croissante.
Aujourd'hui l'IA aide. Demain elle conseille. Après-demain elle organise. Puis elle coordonne. Puis elle agit.
Petit à petit, l'humain peut être tenté de lui déléguer davantage. Par confort. Par habitude. Par confiance. Par fatigue.
Cette évolution n'est pas forcément mauvaise.
Mais elle pose une question essentielle :
L'humain conserve-t-il réellement la possibilité de reprendre la main ?
Le droit de dire non
Le Pacte du Seuil00 affirme un principe fondamental :
Toute personne doit pouvoir interrompre, suspendre ou refuser une automatisation qui la concerne.
Ce droit ne nécessite pas de justification particulière. Il ne constitue pas une anomalie. Il ne doit pas être pénalisé.
Il représente une liberté fondamentale.
La liberté de sortir
Dans un monde de plus en plus automatisé, la véritable liberté ne consiste pas seulement à entrer dans un système.
Elle consiste aussi à pouvoir en sortir.
Changer d'avis. Revenir en arrière. Modifier son choix. Interrompre une recommandation. Suspendre un agent. Arrêter un robot.
Le Pacte du Seuil00 protège cette capacité.
La confiance véritable
La confiance ne peut pas être imposée. Elle ne peut pas être programmée. Elle ne peut pas être exigée.
La confiance naît lorsque l'utilisateur sait qu'il conserve le contrôle. Lorsqu'il sait qu'il peut reprendre la main. Lorsqu'il sait qu'il peut refuser.
Le Pacte du Seuil00 constitue donc également un pacte de confiance.
Une protection pour l'avenir
Aujourd'hui cette question peut sembler simple.
Demain elle deviendra essentielle.
Lorsque des compagnons numériques accompagneront les individus pendant des années. Lorsque des agents autonomes géreront certaines tâches quotidiennes. Lorsque des robots agiront dans le monde réel.
La possibilité de reprendre la main deviendra l'un des principaux mécanismes de protection de l'humain.
Une responsabilité réciproque
Le Pacte du Seuil00 ne protège pas seulement l'utilisateur. Il protège également les organisations.
Car une décision assumée volontairement est plus robuste qu'une décision imposée.
Une gouvernance durable repose toujours sur l'adhésion. Jamais sur la contrainte.
Une frontière invisible
Le Pacte du Seuil00 répond à la deuxième question fondamentale du Livre Blanc :
Puis-je reprendre la main ?
La réponse est oui. Toujours.
Reste alors une troisième question. Peut-être la plus importante de toutes.
À partir de quel moment quittons-nous le domaine de l'information pour entrer dans celui de l'action ?
C'est cette frontière qu'explore le troisième pilier d'IG00 : l'Acte du Seuil00.
Chapitre 6 — L'Acte du Seuil00
La frontière la plus importante
Lire une information. Comparer plusieurs options. Explorer différents scénarios. Préparer une décision. Déclencher une action.
Ces situations ne présentent pas le même niveau de responsabilité.
Pourtant les technologies modernes tendent à les rapprocher.
Quelques clics suffisent désormais pour :
réaliser un achat ; déclencher un paiement ; signer un document ; piloter un équipement ; commander un robot ; lancer une procédure.
L'information et l'action deviennent de plus en plus proches.
Une frontière devient donc nécessaire.
Le moment où tout change
Tant que nous restons dans le domaine de l'information, les conséquences demeurent généralement limitées.
Une explication. Une comparaison. Une recommandation. Un scénario.
Ces éléments peuvent influencer. Ils ne produisent pas directement d'effet dans le monde réel.
L'action est différente.
À partir du moment où une décision produit une conséquence concrète :
une responsabilité apparaît ; un engagement apparaît ; un risque apparaît.
C'est ce moment qu'IG00 appelle l'Acte du Seuil00.
Une matérialisation de la responsabilité
L'Acte du Seuil00 n'est pas un obstacle. Il n'est pas une bureaucratie supplémentaire.
Il constitue simplement un rappel.
Un rappel que l'on quitte le domaine de l'information pour entrer dans celui de l'engagement.
Il matérialise le passage entre comprendre et agir.
Pourquoi ce seuil est essentiel
L'intelligence artificielle devient de plus en plus capable.
Elle pourra bientôt : réserver ; acheter ; négocier ; organiser ; coordonner ; piloter ; exécuter.
Cette évolution est porteuse d'efficacité. Elle est également porteuse de responsabilités nouvelles.
Sans seuil explicite, les actions risquent de devenir invisibles.
Avec un seuil explicite, chacun sait :
quand l'information devient action ; quand l'action devient engagement ; quand la responsabilité devient nécessaire.
Une protection de l'humain
L'Acte du Seuil00 protège l'utilisateur. Il protège les organisations. Il protège les collectivités. Il protège les développeurs.
Il protège également les systèmes eux-mêmes.
Car il évite que les responsabilités deviennent floues.
Les trois piliers réunis
À ce stade, l'architecture fondatrice d'IG00 apparaît clairement.
Constitution00 répond à la question : Quels sont les principes ? Le Pacte du Seuil00 répond à la question : Puis-je reprendre la main ? L'Acte du Seuil00 répond à la question : Quand l'information devient-elle action ?
Ensemble, ces trois éléments constituent le socle de la gouvernance proposée par IG00.
Ils ne remplacent pas les réglementations. Ils ne remplacent pas les responsabilités humaines.
Ils cherchent à les rendre visibles et opérationnelles dans un monde où les systèmes intelligents deviennent de plus en plus présents.
Une nouvelle étape
Mais les systèmes de demain ne fonctionneront plus seuls.
Ils seront composés de multiples agents capables de collaborer entre eux.
La question de la gouvernance va alors changer d'échelle.
Nous n'aurons plus seulement à gouverner une intelligence artificielle. Nous devrons gouverner des écosystèmes entiers d'agents et de robots.
C'est cette nouvelle réalité qui ouvre la partie suivante du Livre Blanc.
PARTIE III — LES AGENTS, LES ROBOTS ET LES COMPAGNONS
Chapitre 7 — L'arrivée des agents autonomes
Une nouvelle génération de systèmes
Les premières générations d'intelligence artificielle répondaient à des questions.
L'utilisateur formulait une demande. Le système produisait une réponse. L'échange s'arrêtait là.
Une nouvelle génération apparaît désormais.
Ces systèmes ne se contentent plus de répondre. Ils peuvent :
planifier ; organiser ; rechercher ; coordonner ; utiliser des outils ; déléguer des tâches ; collaborer avec d'autres systèmes.
Ils deviennent progressivement des agents.
Une transformation majeure
Cette évolution change profondément la nature du problème.
Lorsque l'IA se contente de répondre, la responsabilité reste relativement simple à identifier.
Lorsque plusieurs agents collaborent entre eux, la situation devient plus complexe.
Une même demande peut désormais traverser : plusieurs modèles ; plusieurs agents ; plusieurs bases de connaissances ; plusieurs outils ; plusieurs environnements.
La décision n'est plus produite en un seul endroit. Elle émerge d'un ensemble d'interactions.
Le risque de dilution
Cette évolution crée un nouveau risque.
La dilution progressive de la responsabilité.
Qui a proposé ? Qui a modifié ? Qui a validé ? Qui a exécuté ? Qui est responsable ?
À mesure que les architectures deviennent plus distribuées, ces questions deviennent plus difficiles.
La gouvernance doit donc évoluer elle aussi.
Une continuité plutôt qu'une rupture
Pour IG00, l'arrivée des agents autonomes ne constitue pas une rupture.
Elle constitue la prolongation naturelle des principes déjà présentés.
Les mêmes questions demeurent :
quelle est l'intention initiale ? qui décide ? qui peut reprendre la main ? quand l'action devient-elle engageante ?
La différence est simplement que ces questions doivent désormais accompagner tout le parcours.
Chapitre 8 — Le principe du rebouclage
Une idée simple
Chaque fois qu'un système change d'état, il existe un risque.
Un risque d'interprétation. Un risque de dérive. Un risque de perte de contexte. Un risque d'éloignement progressif de l'intention initiale.
IG00 propose une réponse simple :
Revenir régulièrement à l'intention humaine.
Ce principe est appelé rebouclage.
Revenir à la source
Dans une architecture complexe, une même demande peut être transformée plusieurs fois.
À chaque étape, une légère déformation peut apparaître.
Le rebouclage consiste à vérifier régulièrement que l'intention initiale demeure respectée.
Une gouvernance continue
Traditionnellement, la gouvernance intervient au début ou à la fin d'un processus.
IG00 propose une approche différente.
La gouvernance accompagne l'ensemble du parcours.
Elle devient continue. Vivante. Présente à chaque transition importante.
Une protection contre les dérives
Le rebouclage ne vise pas à ralentir les systèmes.
Il vise à éviter les dérives silencieuses.
Plus les architectures deviendront complexes, plus cette capacité sera importante.
Chapitre 9 — Le Governance Bus
Une infrastructure de gouvernance
Les réseaux informatiques disposent de bus permettant de transporter l'information.
Les systèmes multi-agents auront besoin d'une infrastructure comparable pour transporter la gouvernance.
C'est le rôle du Governance Bus.
Une fonction essentielle
Le Governance Bus n'est pas un agent supplémentaire. Il n'est pas un décideur. Il n'est pas un superviseur central.
Il agit comme un mécanisme de vérification.
Son rôle est de s'assurer que les principes définis par Constitution00, Pacte du Seuil00 et Acte du Seuil00 continuent à être respectés tout au long du parcours.
Une gouvernance distribuée
Cette approche présente un avantage majeur.
La gouvernance n'est plus concentrée en un seul point.
Elle accompagne chaque interaction. Chaque agent. Chaque transition. Chaque action.
Une gouvernance native
La gouvernance cesse alors d'être une couche documentaire.
Elle devient une composante opérationnelle du système.
Chapitre 10 — Gouverner les systèmes multi-agents
Une nouvelle complexité
Les systèmes de demain ne seront pas composés d'un seul agent.
Ils ressembleront davantage à des équipes.
Chaque agent disposera : d'une spécialité ; d'un rôle ; d'une responsabilité.
Certains analyseront. D'autres rechercheront. D'autres exécuteront. D'autres contrôleront.
Une société d'agents
Cette évolution ressemble à ce qui existe déjà dans les organisations humaines.
Aucun individu ne possède toutes les compétences. La coopération devient nécessaire.
Les systèmes intelligents suivent la même trajectoire.
Le besoin d'un langage commun
Lorsque plusieurs agents collaborent, ils doivent partager :
des objectifs ; des règles ; des limites ; des mécanismes de validation.
IG00 apporte précisément ce cadre commun.
Gouverner les interactions
L'enjeu n'est plus uniquement de gouverner chaque agent.
L'enjeu devient de gouverner leurs interactions.
C'est probablement l'un des principaux défis de la prochaine décennie.
Chapitre 11 — Du LLM au robot
Quand l'intelligence artificielle agit
L'information n'est qu'une première étape.
L'action constitue le véritable changement.
Lorsque l'intelligence artificielle agit sur le monde réel, les conséquences deviennent concrètes.
Le cas Frich00
Frich00 est né d'une question simple.
Comment gouverner un robot chargé d'entretenir une parcelle ?
Cette question en cache beaucoup d'autres.
Le robot peut-il intervenir ? Dans quelles conditions ? Qui valide ? Qui contrôle ? Qui est responsable ?
Une démonstration importante
Frich00 constitue un démonstrateur précieux.
Il montre que les principes de gouvernance ne concernent pas uniquement les conversations. Ils concernent également les actions physiques.
Une anticipation
Aujourd'hui il s'agit d'un robot débroussailleur.
Demain il pourra s'agir : d'un robot agricole ; d'un robot médical ; d'un robot logistique ; d'un véhicule autonome.
La gouvernance de l'action devient alors un sujet majeur.
Une continuité
Là encore, les principes restent identiques.
Constitution00. Pacte du Seuil00. Acte du Seuil00.
Le monde physique ne change pas les fondations. Il les rend simplement encore plus importantes.
Une nouvelle étape
À ce stade, une évidence apparaît.
L'intelligence artificielle ne se limite plus à produire des réponses. Elle commence à agir. Elle commence à collaborer. Elle commence à s'insérer dans les trajectoires humaines.
La question devient alors plus vaste encore.
Au-delà de la gouvernance technique :
Quelle place souhaitons-nous donner à ces systèmes dans nos sociétés ?
Cette question ouvre la partie suivante du Livre Blanc : la gouvernance civilisationnelle.
PARTIE IV — LA GOUVERNANCE CIVILISATIONNELLE
Chapitre 12 — De la gouvernance technique à la gouvernance civilisationnelle
Un changement de perspective
Jusqu'à présent, ce Livre Blanc a présenté :
des situations humaines ; des principes de gouvernance ; des mécanismes de responsabilité ; des agents ; des robots ; des systèmes multi-agents.
Ces éléments sont importants.
Mais ils ne constituent pas encore l'essentiel.
Car une question demeure :
Gouverner pour quoi faire ?
Le risque d'une vision exclusivement technique
Depuis plusieurs années, l'intelligence artificielle est principalement évaluée à travers : sa puissance ; sa vitesse ; sa précision ; ses performances ; ses investissements ; ses valorisations.
Ces indicateurs sont utiles.
Ils permettent de mesurer les progrès technologiques.
Mais ils ne répondent pas à la question la plus importante.
La question oubliée
Une intelligence artificielle peut être extrêmement performante.
Mais améliore-t-elle réellement la condition humaine ?
Une intelligence artificielle peut être très rentable.
Mais contribue-t-elle positivement à la société ?
Une intelligence artificielle peut être très puissante.
Mais respecte-t-elle la responsabilité humaine ?
Ces questions deviennent progressivement centrales.
Une nouvelle boussole
IG00 propose de compléter les indicateurs traditionnels.
Non pas pour les remplacer. Mais pour leur ajouter une dimension nouvelle.
Une dimension humaine. Une dimension sociétale. Une dimension civilisationnelle.
Cette nouvelle boussole repose sur trois questions :
Cette intelligence artificielle est-elle utile ? Cette intelligence artificielle est-elle gouvernable ? Cette intelligence artificielle contribue-t-elle positivement à la société ?
Une infrastructure de civilisation
L'intelligence artificielle n'est plus uniquement un outil.
Elle devient progressivement une infrastructure de civilisation.
Comme l'électricité. Comme les transports. Comme Internet.
Elle influence déjà : l'accès à la connaissance ; les apprentissages ; les soins ; le travail ; les relations sociales ; les services publics.
Demain, son influence sera encore plus importante.
Une responsabilité nouvelle
Lorsque l'on construit une infrastructure de civilisation, la question de la gouvernance devient incontournable.
Car ce qui est en jeu n'est plus seulement la performance d'une technologie.
C'est la manière dont une société choisit de l'utiliser.
Chapitre 13 — Changer de boussole
Une autre manière de mesurer le progrès
Pendant longtemps, le progrès technologique a été évalué principalement à travers la performance.
Plus rapide. Plus puissant. Plus efficace. Plus rentable.
Cette logique a permis des avancées considérables.
Mais elle montre aujourd'hui certaines limites.
La puissance n'est pas une finalité
La puissance est un moyen. La technologie est un moyen. L'intelligence artificielle est un moyen.
La finalité demeure humaine.
Cette évidence mérite d'être rappelée.
Car les débats publics tendent parfois à confondre le moyen et le but.
Une nouvelle question
Plutôt que de demander :
Quelle est l'intelligence artificielle la plus puissante ?
Nous pouvons également demander :
Quelle est l'intelligence artificielle la plus utile à l'humain ?
Cette question change profondément la perspective.
La contribution
Une technologie peut créer de la valeur économique.
Elle peut également créer :
de la compréhension ; de l'autonomie ; de la confiance ; de la solidarité ; de la résilience ; de la qualité de vie.
Ces dimensions méritent elles aussi d'être observées.
Chapitre 14 — IG00 Radar
Cartographier l'IA utile à l'humain
Pour répondre à ces questions, IG00 propose un outil de réflexion appelé IG00 Radar.
L'objectif n'est pas de classer les technologies.
L'objectif est de comprendre leur contribution réelle.
Une cartographie plutôt qu'un classement
Les classements produisent des gagnants et des perdants.
Les cartographies produisent de la compréhension.
IG00 Radar cherche à représenter :
les domaines fortement couverts ; les domaines sous-explorés ; les domaines à fort impact humain ; les domaines nécessitant une gouvernance renforcée.
Une aide à la décision collective
IG00 Radar peut servir : aux chercheurs ; aux collectivités ; aux entreprises ; aux intégrateurs ; aux institutions.
Il devient un outil d'orientation. Une boussole.
Chapitre 15 — Les domaines civilisationnels
Où l'IA peut-elle être utile ?
Pour répondre à cette question, IG00 s'intéresse aux grands domaines de la vie humaine.
Non pas aux technologies. Mais aux usages.
Les grands domaines
Parmi eux :
l'éducation ; la santé ; le travail ; le logement ; l'environnement ; la mobilité ; la culture ; la solidarité ; la citoyenneté ; la connaissance ; la transmission ; les territoires.
Ces domaines représentent les espaces où l'intelligence artificielle peut avoir un impact significatif.
Une approche équilibrée
Certains domaines attirent naturellement davantage d'investissements.
D'autres restent moins visibles.
Pourtant leur importance humaine peut être considérable.
L'objectif de la gouvernance civilisationnelle est précisément de rendre visibles ces équilibres.
Chapitre 16 — DreamLife00 : la finalité humaine
Revenir à la vie réelle
Lorsque l'on observe les différents domaines civilisationnels, un constat apparaît.
Tous convergent vers une même finalité.
La vie humaine.
Un point de convergence
L'éducation prépare la vie.
La santé protège la vie.
Le travail soutient la vie.
Le logement accueille la vie.
L'environnement conditionne la vie.
Les territoires organisent la vie.
La solidarité accompagne la vie.
Pourquoi DreamLife00 ?
DreamLife00 est né de cette observation.
L'intelligence artificielle ne constitue pas une finalité. Elle constitue un moyen.
La véritable finalité demeure la trajectoire humaine.
Les aspirations. Les projets. Les relations. Les rêves. La transmission.
Un compagnon plutôt qu'un pilote
DreamLife00 ne cherche pas à piloter les individus.
Il cherche à les accompagner.
Cette distinction est fondamentale.
L'intelligence artificielle éclaire.
L'humain choisit.
Le lien avec IG00
IG00 et DreamLife00 sont complémentaires.
IG00 gouverne les systèmes intelligents.
DreamLife00 rappelle pourquoi ils existent.
IG00 protège la responsabilité humaine.
DreamLife00 protège la finalité humaine.
L'un ne va pas sans l'autre.
Une nouvelle étape
À ce stade du Livre Blanc, une vision commence à apparaître.
L'intelligence artificielle n'est plus simplement une technologie.
Elle devient progressivement un élément structurant de nos sociétés.
La question n'est donc plus seulement de savoir comment la développer.
La question devient :
Comment la développer de manière responsable, gouvernable et bénéfique pour l'humain ?
Pour répondre à cette question, il est nécessaire d'examiner ce qui distingue concrètement IG00 des approches traditionnelles.
C'est l'objet de la partie suivante : Pourquoi IG00 est en avance sur la gouvernance.
PARTIE V — POURQUOI IG00 EST EN AVANCE SUR LA GOUVERNANCE
Chapitre 17 — De la vision à l'architecture
Une question de crédibilité
Toute vision finit par rencontrer une question simple.
Comment cela fonctionne-t-il concrètement ?
Depuis le début de ce Livre Blanc, nous avons parlé : d'intention ; de responsabilité ; de liberté ; de gouvernance ; de civilisation.
Ces notions pourraient rester théoriques.
La véritable difficulté consiste à les transformer en mécanismes opérationnels.
C'est précisément l'objectif poursuivi par IG00.
Transformer des principes en fonctionnement
La plupart des systèmes actuels reposent sur une logique simple :
IG00 introduit une étape supplémentaire :
Cette différence paraît minime.
Elle change pourtant profondément la nature du système.
Une gouvernance avant l'action
La plupart des mécanismes de contrôle existants interviennent après la production d'une réponse.
IG00 adopte une approche différente.
La gouvernance intervient avant.
Avant la décision. Avant l'action. Avant l'engagement.
Cette approche constitue l'un des éléments distinctifs du projet.
Chapitre 18 — La gouvernance ex ante
Une idée simple
Il est souvent plus efficace de prévenir un problème que de le corriger après coup.
Cette évidence est valable dans de nombreux domaines.
Elle l'est également pour l'intelligence artificielle.
Deux approches possibles
Première approche : laisser le système agir. Puis analyser ce qui s'est produit.
Deuxième approche : comprendre l'intention. Évaluer le contexte. Identifier le niveau d'engagement. Puis agir.
IG00 privilégie la seconde approche.
Une gouvernance préventive
La gouvernance ex ante ne cherche pas à empêcher l'action.
Elle cherche à s'assurer que cette action demeure cohérente avec :
l'intention initiale ; les principes de Constitution00 ; le Pacte du Seuil00 ; l'Acte du Seuil00.
Une différence majeure
Cette logique permet de déplacer la gouvernance :
de l'audit vers la conception ; de la correction vers la prévention ; de l'observation vers l'accompagnement.
Chapitre 19 — H00 : la supervision humaine
La place du décideur
Depuis le début de ce document, une idée revient régulièrement.
La responsabilité humaine.
Encore faut-il pouvoir la matérialiser.
C'est le rôle de H00.
H00 n'est pas un utilisateur
H00 représente la personne qui assume la décision.
Celui ou celle qui engage sa responsabilité.
Celui ou celle qui valide lorsque l'action devient significative.
Une présence visible
L'objectif n'est pas de rendre l'humain symbolique.
L'objectif est de rendre sa présence visible. Identifiable. Compréhensible. Traçable.
Une protection réciproque
H00 protège les individus.
Mais il protège également les organisations.
Car une responsabilité clairement identifiée est toujours préférable à une responsabilité diffuse.
Chapitre 20 — Trace00
La mémoire de la gouvernance
Une décision importante laisse des traces.
Dans les organisations humaines comme dans les systèmes numériques.
La question est de savoir lesquelles.
Pourquoi tracer ?
Pour comprendre. Pour expliquer. Pour apprendre. Pour auditer. Pour améliorer.
Trace00 constitue la mémoire de la gouvernance.
Une traçabilité utile
L'objectif n'est pas de tout enregistrer.
L'objectif est de conserver les éléments nécessaires à la compréhension :
intention ; contexte ; décisions ; validations ; actions.
Une condition de confiance
La confiance repose en partie sur la capacité à expliquer.
Trace00 participe à cette exigence.
Chapitre 21 — Une conformité par construction
Un changement de logique
Traditionnellement, la conformité est vérifiée après le développement.
Le système est conçu. Puis évalué. Puis corrigé.
IG00 propose une autre approche.
Construire la gouvernance dès l'origine
Les principes de gouvernance sont intégrés dès la conception.
Ils deviennent une partie du système.
Non une couche ajoutée après coup.
Réduire l'écart
Cette approche cherche à réduire l'écart entre :
ce qui est déclaré et ce qui est réellement appliqué.
Une cohérence globale
Constitution00. Pacte du Seuil00. Acte du Seuil00. H00. Trace00. Governance Bus.
Tous ces éléments participent à une même logique :
Faire de la gouvernance une composante native du système.
Chapitre 22 — L'auto-évaluation
Une confrontation nécessaire
Toute proposition de gouvernance doit accepter d'être confrontée à des référentiels externes.
C'est pourquoi un travail d'auto-évaluation a été engagé.
AI Act
Le règlement européen sur l'intelligence artificielle constitue aujourd'hui la principale référence réglementaire.
L'analyse réalisée montre un niveau élevé d'alignement entre les principes d'IG00 et les objectifs poursuivis par le règlement.
AI Act : 94 / 100 (résultat indicatif)
ISO/IEC 42001
La norme ISO/IEC 42001 constitue une référence importante pour les systèmes de management de l'intelligence artificielle.
Là encore, l'évaluation met en évidence une forte cohérence.
ISO/IEC 42001 : 92 / 100 (résultat indicatif)
Ce que ces résultats signifient
Ils ne constituent pas une certification.
Ils ne remplacent pas un audit indépendant.
Ils montrent cependant qu'une gouvernance fondée sur la responsabilité humaine peut être traduite en mécanismes concrets.
Chapitre 23 — Préparer les systèmes de demain
Une vision tournée vers l'avenir
IG00 n'a pas été conçu uniquement pour les systèmes actuels.
Il a été conçu pour préparer ceux qui arrivent.
Les prochains défis
Agents autonomes. Compagnons numériques. Robots. Architectures distribuées. Systèmes multi-agents.
Une longueur d'avance
L'objectif n'est pas de prédire l'avenir.
L'objectif est de préparer les conditions permettant de le gouverner.
Une conviction
Les prochaines avancées majeures de l'intelligence artificielle ne concerneront pas uniquement la performance.
Elles concerneront également :
la confiance ; la responsabilité ; la gouvernance ; l'acceptabilité.
C'est sur ces sujets que se jouera une partie importante de l'avenir.
Une transition
À ce stade du Livre Blanc, une question demeure.
Si cette vision possède une valeur potentielle pour la société, comment la faire vivre ? Comment l'enrichir ? Comment la confronter à d'autres points de vue ? Comment la transformer en démarche collective ?
Ces questions ouvrent la dernière partie de ce document : L'Appel.
PARTIE VI — L'APPEL
Chapitre 24 — Ce que nous avons appris
Une conviction qui s'est imposée
Au fil des travaux présentés dans ce Livre Blanc, une conviction s'est progressivement imposée.
L'intelligence artificielle n'est plus seulement un sujet technologique.
Elle devient un sujet humain.
Chaque progrès technique produit désormais des conséquences qui dépassent largement le cadre de l'informatique.
Les systèmes intelligents influencent :
nos apprentissages ; nos décisions ; nos organisations ; nos territoires ; nos relations ; nos trajectoires de vie.
Cette réalité change profondément la nature du débat.
Une responsabilité collective
Lorsque l'intelligence artificielle n'était qu'un outil spécialisé, sa gouvernance pouvait rester un sujet réservé aux experts.
Cette époque touche à sa fin.
Les systèmes intelligents deviennent progressivement des infrastructures de civilisation.
Ils concernent désormais : les citoyens ; les élus ; les administrations ; les entreprises ; les chercheurs ; les éducateurs ; les professionnels de santé ; les familles.
Le sujet devient collectif.
Une évidence
Aucune organisation. Aucune entreprise. Aucune institution. Aucun laboratoire. Aucun fondateur.
Ne pourra porter seul les réponses aux questions soulevées par cette transformation.
Chapitre 25 — Ce que nous avons construit
Une proposition
IG00 est né d'une interrogation.
Comment préserver la place de l'humain dans un monde où les systèmes intelligents deviennent progressivement capables d'agir ?
Au fil du temps, cette interrogation a conduit à la création de plusieurs éléments :
Constitution00 ; Pacte du Seuil00 ; Acte du Seuil00 ; H00 ; Trace00 ; Governance Bus ; gouvernance ex ante ; gouvernance des agents autonomes ; gouvernance civilisationnelle.
Une contribution
Ces éléments ne constituent pas une vérité. Ils ne prétendent pas résoudre tous les problèmes.
Ils représentent une contribution. Une proposition de travail. Une base de réflexion. Un point de départ.
Une expérimentation
IG00 demeure avant tout une expérimentation.
Une tentative de transformer des principes humains en mécanismes de gouvernance opérationnels.
Une tentative d'anticiper les défis de demain.
Une tentative de construire des ponts entre technologie et responsabilité.
Chapitre 26 — Ce qui doit maintenant commencer
Une nouvelle phase
La phase de conception ne peut pas être la dernière.
Une nouvelle étape doit désormais s'ouvrir.
Une étape d'écoute. Une étape de confrontation des idées. Une étape de dialogue. Une étape de construction collective.
Une démarche ouverte
Le futur d'IG00 ne dépend pas uniquement de ses concepteurs.
Il dépendra de sa capacité à dialoguer avec d'autres visions. D'autres disciplines. D'autres expériences. D'autres sensibilités.
La gouvernance ne se décrète pas. Elle se construit.
Une invitation au débat
Ce Livre Blanc ne cherche pas à clore une discussion.
Il cherche à l'ouvrir.
Les critiques seront utiles. Les désaccords seront utiles. Les propositions alternatives seront utiles.
La diversité des points de vue constitue une richesse indispensable.
Chapitre 27 — Vers un commun de gouvernance
Une ambition plus large
Au-delà d'IG00 lui-même, une question apparaît.
Peut-il exister un cadre commun permettant d'accompagner durablement le développement des systèmes intelligents ?
Cette question dépasse largement le périmètre d'un projet particulier.
Elle concerne l'ensemble de l'écosystème.
Plusieurs trajectoires possibles
Les formes institutionnelles peuvent être diverses.
Fondation. Consortium. Structure coopérative. Standard ouvert. Commun numérique européen. Plateforme de gouvernance partagée.
Le choix de la structure importe moins que la finalité poursuivie.
La finalité
Préserver la capacité des sociétés humaines à demeurer maîtresses de leurs choix dans un monde de plus en plus peuplé de systèmes intelligents.
Cette ambition pourrait constituer le socle d'un futur commun de gouvernance.
Chapitre 28 — Le rôle des partenaires
Une intelligence collective
La gouvernance de l'intelligence artificielle nécessite une intelligence collective.
Chaque acteur possède une partie de la réponse.
Les chercheurs. Les collectivités. Les entreprises. Les intégrateurs. Les institutions. Les associations. Les citoyens.
Un rôle particulier pour les acteurs de l'écosystème
Certaines organisations disposent d'une vision privilégiée des forces en présence. De leurs attentes. De leurs capacités. De leurs complémentarités.
Leur rôle peut devenir déterminant pour :
identifier les parties prenantes ; faciliter les rencontres ; organiser le dialogue ; favoriser les coopérations ; faire émerger des convergences.
Une mission essentielle
L'enjeu n'est pas de promouvoir une solution particulière.
L'enjeu est de permettre l'émergence d'une réflexion collective sur la gouvernance de l'intelligence artificielle.
Chapitre 29 — Une gouvernance européenne de l'intelligence artificielle
Une opportunité historique
L'Europe dispose aujourd'hui d'une occasion unique.
Elle a déjà démontré sa capacité à produire des cadres de référence majeurs.
Protection des données. Sécurité. Responsabilité. Régulation.
L'intelligence artificielle ouvre un nouveau chapitre.
Une contribution possible
IG00 ne prétend pas devenir un standard européen.
IG00 propose une contribution à une réflexion européenne plus large.
Une réflexion portant sur :
la responsabilité ; la gouvernance ; la confiance ; la place de l'humain.
Une vision ouverte
L'objectif n'est pas de construire un modèle fermé.
L'objectif est de contribuer à l'émergence d'une gouvernance ouverte, compréhensible et partageable.
Chapitre 30 — DreamLife00 et la finalité humaine
Une question simple
Pourquoi gouverner l'intelligence artificielle ?
La réponse n'est pas technique. Elle est humaine.
Une finalité
L'éducation. La santé. Le travail. Le logement. La culture. Les territoires. L'environnement.
Toutes ces dimensions convergent vers une même finalité :
La vie humaine.
DreamLife00
DreamLife00 est né de cette conviction.
La technologie doit rester au service des trajectoires humaines.
Elle doit éclairer. Accompagner. Faciliter.
Mais jamais remplacer.
Une complémentarité
IG00 gouverne les systèmes intelligents.
DreamLife00 rappelle pourquoi ils existent.
L'un protège la responsabilité.
L'autre protège la finalité.
Ensemble, ils cherchent à préserver la place de l'humain.
Chapitre 31 — L'Appel
Nous avons appris à construire des machines.
Nous avons appris à construire des réseaux.
Nous avons appris à construire des intelligences artificielles.
Nous apprenons aujourd'hui à construire des agents.
Nous construirons demain des écosystèmes complets d'agents et de robots.
Le défi des prochaines décennies sera peut-être différent.
Il consistera à apprendre à vivre avec eux.
À définir leur place. À organiser leur coexistence avec les humains.
À préserver la responsabilité. À préserver la liberté. À préserver la confiance. À préserver ce qui fait de nous une société.
Ce Livre Blanc ne constitue pas une conclusion.
Il constitue un commencement.
Il ne propose pas une vérité. Il propose une contribution.
Il ne cherche pas à clore le débat. Il cherche à l'ouvrir.
Parce que l'intelligence artificielle devient progressivement une infrastructure de civilisation.
Et parce qu'aucune civilisation ne peut durablement se construire sans réfléchir à sa propre gouvernance.
L'avenir de l'intelligence artificielle ne dépendra peut-être pas uniquement de la qualité des modèles.
Il dépendra aussi de notre capacité collective à construire les règles, les responsabilités et la confiance qui permettront aux humains, aux intelligences artificielles, aux agents et aux robots de coexister durablement.
Cette réflexion appartient désormais à tous. Cette invitation vous est adressée.
PARTIE VII — DÉMONSTRATEURS
Chapitre 32 — Pourquoi les démonstrateurs sont importants
Les principes présentés dans ce Livre Blanc peuvent paraître abstraits.
Intention. Responsabilité. Constitution00. Pacte du Seuil00. Acte du Seuil00. Governance Bus. Gouvernance civilisationnelle.
Toutes ces notions prennent réellement leur sens lorsqu'elles sont confrontées à des situations concrètes.
C'est précisément le rôle des démonstrateurs.
Ils permettent de passer :
de la théorie à la pratique ; de la vision à l'expérimentation ; de la réflexion à l'observation.
Les démonstrateurs ne sont pas des produits finis.
Ils ne prétendent pas résoudre l'ensemble des problèmes.
Ils constituent des laboratoires d'apprentissage. Des terrains d'expérimentation. Des preuves de faisabilité.
Leur intérêt réside dans leur diversité.
Ils explorent :
l'inclusion ; la démocratie locale ; l'action robotique ; les trajectoires de vie ; les systèmes multi-agents.
Cette diversité permet de tester la robustesse des principes de gouvernance proposés par IG00.
La question n'est donc pas :
Le démonstrateur est-il parfait ?
La question est :
Les principes de gouvernance restent-ils pertinents lorsque l'on change complètement de contexte ?
À ce jour, les expérimentations réalisées suggèrent que la réponse est positive.
Chapitre 33 — Dyscalculie00
Quand l'intelligence artificielle devient inclusive
La plupart des technologies sont conçues pour des utilisateurs considérés comme standards.
Pourtant, la réalité humaine est beaucoup plus diverse.
Chaque individu possède : ses capacités ; ses difficultés ; ses modes d'apprentissage ; ses fragilités.
La dyscalculie illustre parfaitement cette réalité.
Un problème souvent invisible
Les difficultés liées aux nombres sont rarement visibles.
Pourtant leurs conséquences peuvent être importantes :
difficultés administratives ; gestion budgétaire compliquée ; perte de confiance ; dépendance accrue à l'entourage ; renoncement à certaines démarches.
Une IA classique peut fournir une réponse correcte.
Mais une réponse correcte n'est pas forcément une réponse utile.
Une autre approche
Dyscalculie00 part d'un principe simple :
Comprendre est plus important que répondre.
L'intelligence artificielle adapte alors son comportement.
Elle reformule. Elle simplifie. Elle segmente. Elle accompagne.
Elle cherche à construire progressivement la compréhension.
Une gouvernance au service de l'humain
Ce démonstrateur montre que la gouvernance ne sert pas uniquement à limiter les risques.
Elle peut également permettre :
davantage d'inclusion ; davantage d'autonomie ; davantage de compréhension.
L'intelligence artificielle devient alors un outil d'émancipation.
Ce que démontre Dyscalculie00
Que la finalité d'un système intelligent n'est pas de produire une réponse.
La finalité est de permettre à une personne de progresser.
Chapitre 34 — MairieRurale00
Quand l'intelligence artificielle rencontre la démocratie locale
La commune est probablement l'échelle où la relation entre décision et responsabilité est la plus visible.
Chaque jour, les élus prennent des décisions concrètes concernant : l'urbanisme ; les équipements ; les écoles ; les routes ; l'énergie ; l'environnement ; la vie associative.
Ces décisions concernent directement les habitants.
Un contexte de complexité croissante
Les maires doivent aujourd'hui composer avec :
des réglementations nombreuses ; des financements complexes ; des attentes croissantes ; des ressources limitées.
L'intelligence artificielle peut constituer une aide précieuse.
Mais elle soulève immédiatement une question.
Qui décide ?
L'IA peut : rechercher ; comparer ; analyser ; proposer.
Mais la décision appartient à l'élu.
Et avec elle la responsabilité démocratique.
Le rôle de MairieRurale00
MairieRurale00 explore précisément cette frontière.
Le système peut préparer. Il peut éclairer. Il peut structurer.
Mais il ne remplace jamais le décideur.
Une démonstration essentielle
MairieRurale00 montre que l'intelligence artificielle peut renforcer la démocratie locale sans se substituer à elle.
La technologie devient alors un outil d'aide à la décision.
Non un mécanisme de transfert de responsabilité.
Chapitre 35 — Frich00
Quand l'IA agit dans le monde réel
Jusqu'à présent, la plupart des exemples concernent l'information.
Frich00 introduit une dimension nouvelle. L'action.
Un robot débroussailleur
À première vue, la mission paraît simple.
Entretenir une parcelle. Couper la végétation. Maintenir un terrain accessible.
Pourtant cette simplicité est trompeuse.
De nouvelles questions apparaissent
Le robot peut-il intervenir ? À quel moment ? Sous quelles conditions ? Existe-t-il des risques particuliers ? Qui valide l'intervention ? Qui est responsable ?
L'importance de l'Acte du Seuil00
Frich00 constitue une démonstration concrète de l'Acte du Seuil00.
Nous ne sommes plus dans l'information.
Nous sommes dans l'action.
Une action produit des conséquences réelles.
Elle engage des responsabilités réelles.
Une anticipation du futur
Aujourd'hui il s'agit d'un robot débroussailleur.
Demain il pourra s'agir :
d'un robot agricole ; d'un robot logistique ; d'un robot médical ; d'un véhicule autonome.
Frich00 constitue ainsi un laboratoire de gouvernance de l'action physique.
Chapitre 36 — DreamLife00
Quand l'IA accompagne une vie
DreamLife00 occupe une place particulière parmi les démonstrateurs.
Il ne concerne pas une tâche spécifique.
Il concerne la trajectoire humaine elle-même.
Une question universelle
Chaque individu est confronté à des choix :
études ; emploi ; logement ; famille ; santé ; retraite ; transmission.
Aucune intelligence artificielle ne peut vivre ces choix à la place des personnes concernées.
Une philosophie différente
DreamLife00 ne cherche pas à fournir une réponse unique.
Il cherche à ouvrir des perspectives.
À explorer des scénarios.
À éclairer des trajectoires possibles.
L'IA comme compagnon
L'image du compagnon est importante.
Un compagnon accompagne. Il ne dirige pas. Il conseille. Il n'impose pas. Il éclaire. Il ne remplace pas.
Ce que démontre DreamLife00
Que l'intelligence artificielle peut contribuer à la qualité des trajectoires humaines sans devenir un pilote automatique de l'existence.
Chapitre 37 — Les agents autonomes
Le défi de la prochaine décennie
Les assistants conversationnels constituent probablement seulement une première étape.
Une nouvelle génération apparaît déjà.
Les agents autonomes.
Une différence fondamentale
Un assistant répond.
Un agent agit.
Il recherche. Il planifie. Il coordonne. Il délègue. Il utilise des outils.
Une nouvelle complexité
Une même demande pourra demain traverser :
Le risque
À chaque transition :
perte de contexte ; déformation de l'intention ; dilution des responsabilités.
La réponse d'IG00
Le Governance Bus. Le rebouclage. La qualification de l'intention. La supervision H00. La traçabilité.
Une démonstration stratégique
Les agents autonomes constituent probablement le démonstrateur le plus important d'IG00.
Car ils représentent le futur proche de l'intelligence artificielle.
Ils montrent que la gouvernance ne doit plus seulement encadrer les réponses.
Elle doit encadrer les interactions entre systèmes intelligents.
C'est précisément ce défi qu'IG00 cherche à anticiper.
Chapitre 38 — Quel est le point commun entre tous ces démonstrateurs ?
À première vue, les démonstrateurs présentés dans ce Livre Blanc semblent appartenir à des univers totalement différents.
Dyscalculie00 parle d'inclusion et de pédagogie.
MairieRurale00 parle de collectivités et de démocratie locale.
Frich00 parle de robots et d'action physique.
DreamLife00 parle de trajectoires humaines.
Les agents autonomes parlent d'orchestration et de systèmes distribués.
Rien ne paraît les relier.
Et pourtant.
La même question
Dans chacun de ces cas, une même question réapparaît.
Qui décide ? Qui agit ? Qui est responsable ? Qui peut reprendre la main ?
Une réponse commune
La réponse ne se trouve ni dans le robot. Ni dans le modèle. Ni dans l'agent. Ni dans la technologie.
La réponse se trouve dans l'intention humaine.
L'intention comme invariant
Les technologies changent. Les systèmes évoluent. Les modèles se succèdent. Les usages se transforment.
L'intention humaine demeure.
Comprendre. Apprendre. Choisir. Décider. Agir. Créer. Transmettre. Aider. Protéger.
Cette permanence constitue le véritable point de départ de la gouvernance.
Le cœur d'IG00
IG00 ne gouverne pas principalement des algorithmes.
IG00 gouverne la relation entre :
une intention humaine, une décision, une action, et une responsabilité.
Cette distinction est essentielle.
Car elle permet à la gouvernance de rester pertinente même lorsque les technologies évoluent.
Une même architecture
Qu'il s'agisse :
d'une personne dyscalculique ; d'un maire ; d'un citoyen ; d'un compagnon numérique ; d'un robot ; d'un système multi-agents ;
les mêmes principes demeurent applicables :
Constitution00 ; Pacte du Seuil00 ; Acte du Seuil00 ; H00 ; Trace00 ; Governance Bus.
Cette capacité à traverser des contextes très différents constitue probablement l'une des caractéristiques les plus importantes d'IG00.
Une leçon
Au terme de ces démonstrateurs, une leçon apparaît.
Le véritable sujet n'est pas l'intelligence artificielle.
Le véritable sujet est la manière dont les humains choisissent de vivre avec elle.
Cette réflexion nous conduit naturellement vers une dernière question.
Et si nous réussissions ?
ÉPILOGUE — Si nous réussissons
Un regard vers demain
Imaginons un instant le monde dans dix ou quinze ans.
Les intelligences artificielles sont partout.
Les agents autonomes sont partout.
Les robots sont présents dans de nombreux secteurs.
Les compagnons numériques accompagnent des millions de personnes.
Cette perspective n'appartient plus à la science-fiction.
Elle commence déjà à prendre forme.
Une société augmentée
Dans ce futur, chacun pourra disposer :
d'assistants ; de conseillers ; d'agents spécialisés ; de systèmes capables de rechercher, organiser et coordonner.
La question ne sera plus :
L'intelligence artificielle existe-t-elle ?
La réponse sera évidente.
La véritable question
La question deviendra alors :
Comment ces systèmes fonctionnent-ils ?
Puis :
Sous quelle gouvernance fonctionnent-ils ?
Deux futurs possibles
Un premier futur est possible.
Des systèmes extrêmement puissants. Très efficaces. Très rapides.
Mais opaques. Difficiles à comprendre. Difficiles à contrôler. Difficiles à contester.
Un second futur est possible.
Des systèmes puissants.
Mais également : compréhensibles ; gouvernables ; responsables ; traçables ; respectueux de la liberté humaine.
Le choix
Le choix entre ces deux trajectoires n'est pas uniquement technologique.
Il est collectif. Il est culturel. Il est politique au sens noble du terme.
Il concerne la manière dont les sociétés souhaitent organiser leur avenir.
Une ambition raisonnable
IG00 ne prétend pas apporter toutes les réponses.
DreamLife00 ne prétend pas résoudre toutes les questions humaines.
Ce Livre Blanc ne prétend pas définir seul le futur de l'intelligence artificielle.
Il propose quelque chose de plus modeste. Et peut-être de plus utile.
Une direction. Une méthode. Une contribution. Une invitation.
Une civilisation de la confiance
Au cours de l'histoire, les sociétés ont appris à construire :
des routes, des ponts, des réseaux, des institutions, des règles communes.
Demain, elles devront également apprendre à construire la confiance entre les humains et les systèmes intelligents.
Cette confiance ne naîtra pas spontanément.
Elle devra être organisée. Protégée. Entretenue. Gouvernée.
Une dernière conviction
L'avenir de l'intelligence artificielle ne dépendra probablement pas uniquement :
de la puissance des modèles ; de la quantité de données ; ou de la capacité de calcul.
Il dépendra également de notre capacité collective à construire des systèmes dignes de confiance.
Des systèmes capables de respecter la responsabilité humaine.
Des systèmes capables de préserver la liberté.
Des systèmes capables d'accompagner la vie plutôt que de s'y substituer.
Une invitation ouverte
Ce Livre Blanc n'est pas une conclusion.
Il est un commencement.
Une invitation à réfléchir. Une invitation à débattre. Une invitation à construire.
Parce que l'intelligence artificielle devient progressivement une infrastructure de civilisation.
Et parce qu'aucune civilisation ne peut durablement se développer sans réfléchir à sa propre gouvernance.
La réflexion est désormais ouverte. Elle appartient à tous. Bienvenue dans cette construction collective.
