Résumé Exécutif
1. Pourquoi ce document ?
L'intelligence artificielle entre dans une nouvelle phase de son histoire.
Après les assistants conversationnels apparaissent désormais :
les agents autonomes ; les systèmes multi-agents ; les robots ; les compagnons numériques permanents ; les systèmes capables d'agir dans le monde réel.
Cette évolution constitue un changement majeur.
Pendant plusieurs années, la question principale était :
Comment rendre l'intelligence artificielle plus performante ?
Une nouvelle question apparaît désormais :
Comment rendre l'intelligence artificielle gouvernable ?
Ce Livre Blanc présente une proposition de réponse à cette question.
2. Le constat
L'intelligence artificielle devient progressivement une infrastructure de civilisation.
Elle influence déjà :
l'éducation ; la santé ; le travail ; les collectivités ; les services publics ; les territoires ; l'environnement ; les trajectoires de vie.
Demain, cette influence sera encore plus importante avec l'arrivée des agents autonomes et des robots.
Le défi n'est donc plus uniquement technologique. Il devient humain.
Comment préserver :
la responsabilité ? la liberté ? la confiance ? la capacité de décision ?
3. La proposition IG00
IG00 est un cadre de gouvernance destiné à préserver la place et la responsabilité de l'humain dans un monde où les systèmes intelligents deviennent capables d'agir.
IG00 n'est :
ni un modèle d'IA ; ni un concurrent des LLM ; ni un assistant supplémentaire.
IG00 constitue une couche de gouvernance placée entre l'intention humaine et l'action produite par un système intelligent.
Son objectif est simple :
Maintenir l'humain au centre de la décision.
4. Les trois fondations
Constitution00
Constitution00 définit les principes fondamentaux :
primauté de l'humain ; non-substitution décisionnelle ; réversibilité ; transparence ; traçabilité ; proportionnalité.
Elle constitue le socle stable de la gouvernance.
Pacte du Seuil00
Le Pacte du Seuil00 garantit que l'humain conserve toujours la possibilité :
de reprendre la main ; d'interrompre ; de refuser ; de revenir en arrière.
Il protège la liberté de choix.
Acte du Seuil00
L'Acte du Seuil00 matérialise le passage de l'information vers l'action.
Il identifie le moment où une décision devient réellement engageante et nécessite une responsabilité humaine explicite.
5. Les démonstrateurs
Plusieurs démonstrateurs ont été développés afin d'éprouver ces principes dans des contextes très différents.
Dyscalculie00
Adaptation de l'IA aux personnes rencontrant des difficultés avec les nombres.
Objectif : rendre l'IA plus inclusive.
MairieRurale00
Assistance aux élus et collectivités.
Objectif : renforcer la décision publique sans se substituer à elle.
Frich00
Gouvernance d'un robot débroussailleur.
Objectif : gouverner le passage de l'information à l'action physique.
DreamLife00
Accompagnement des trajectoires humaines.
Objectif : éclairer sans diriger.
Agents autonomes
Gouvernance des systèmes multi-agents.
Objectif : préserver l'intention humaine dans des architectures complexes.
6. Pourquoi DreamLife00 ?
DreamLife00 constitue le prolongement humain d'IG00.
Si IG00 gouverne les systèmes intelligents, DreamLife00 rappelle pourquoi ils existent.
L'éducation. La santé. Le travail. Le logement. L'environnement. Les territoires.
Toutes ces dimensions convergent vers une même finalité :
La vie humaine.
DreamLife00 vise à accompagner les trajectoires individuelles sans jamais se substituer aux personnes.
7. Une gouvernance des agents et des robots
L'une des évolutions majeures des prochaines années sera l'émergence :
d'agents autonomes ; d'équipes d'agents ; de robots ; de systèmes capables d'agir.
IG00 anticipe cette évolution grâce à plusieurs mécanismes :
qualification de l'intention ; rebouclage permanent ; supervision humaine H00 ; Trace00 ; Governance Bus.
L'objectif est de garantir que les systèmes demeurent cohérents avec l'intention humaine initiale.
8. Vers une gouvernance civilisationnelle
Au-delà des aspects techniques et réglementaires, IG00 s'inscrit dans une réflexion plus large.
L'intelligence artificielle devient progressivement une infrastructure de civilisation.
La question n'est donc plus uniquement :
Comment construire des IA plus puissantes ?
La question devient :
Comment construire des IA utiles, responsables et gouvernables ?
Cette approche est désignée sous le terme de gouvernance civilisationnelle.
Un outil cartographique — IG00 Radar — permet de représenter la contribution réelle des systèmes d'intelligence artificielle aux grands domaines civilisationnels (éducation, santé, travail, territoires, environnement…) et d'identifier aussi bien les domaines fortement couverts que les angles morts à explorer.
9. Une longueur d'avance
Afin de confronter cette approche aux principaux référentiels internationaux, une auto-évaluation a été réalisée.
Résultats indicatifs :
AI Act : 94 / 100 ISO/IEC 42001 : 92 / 100
Ces résultats ne constituent pas une certification.
Ils témoignent cependant d'un alignement avancé avec les principales exigences actuelles de gouvernance.
Ils traduisent surtout une logique de conformité par construction.
10. Une invitation
IG00 n'est pas présenté comme une vérité.
IG00 est proposé comme une contribution.
Une proposition ouverte destinée à alimenter une réflexion collective sur la gouvernance de l'intelligence artificielle.
Cette réflexion concerne :
les chercheurs ; les collectivités ; les entreprises ; les intégrateurs ; les institutions ; les associations ; les citoyens.
11. La question qui s'ouvre
Nous avons appris à construire :
des machines ; des réseaux ; des intelligences artificielles.
Nous apprenons aujourd'hui à construire :
des agents ; des robots ; des systèmes capables d'agir.
Le défi des prochaines décennies sera peut-être différent. Il consistera à apprendre à vivre avec eux.
L'avenir de l'intelligence artificielle ne dépendra probablement pas uniquement de la qualité des modèles.
Il dépendra également de notre capacité collective à construire les règles, les responsabilités et la confiance qui permettront aux humains, aux intelligences artificielles, aux agents et aux robots de coexister durablement.
IG00 et DreamLife00 constituent une contribution à cette ambition.
La réflexion est ouverte. L'invitation est lancée.
