Une alternative à l’IA des géants de la tech · Essai n° 2 sur 7

Une IA qui reste dans son domaine

L'atout majeur réside dans une machine qui ne peut pas outrepasser les limites pour se substituer à vous dans les décisions qui vous reviennent.

Résumé. Les inquiétudes concernant l’IA sont généralement associées à la vie privée. La moitié d’entre elles réside ailleurs, et il est plus difficile de les dissiper : la crainte qu’une machine ne prenne des décisions qui ne la regardent pas — hiérarchiser ce qui compte, trancher une question de valeurs, agir avant même qu’une personne n’ait réfléchi. Un bouton d’arrêt répond à la moitié des inquiétudes liées à la vie privée, mais pas du tout aux autres. Notre réponse à ces deux préoccupations est une machine conçue pour connaître sa place, où la frontière entre ce qu’elle peut faire et ce qu’elle ne peut pas faire est tracée par son architecture, et non par les bonnes manières du fournisseur. Certains jugements peuvent être confiés à un logiciel. D’autres ne le peuvent pas et doivent revenir aux personnes dont ils émanent. Cet essai traite de cette limite : pourquoi une frontière que l’on ne peut qu’espérer n’en est pas une, et pourquoi une machine incapable de prendre le volant est la plus utile.

Télécharger le PDF Présentation sous forme de diapositives PDF de présentation

Messages clés — appuyez sur n’importe quelle ligne pour lire la section

Le malaise ne concerne pas uniquement la vie privéeCe que les gens redoutent, c’est qu’une machine prenne des décisions qui ne la regardent pas.

Un bouton d’arrêt répond à la surveillance — et non à toute forme d’abus.
Dans une pile technologique des géants du web, il n’y a pas de limites, seulement un modèle qui s’étend aussi loin qu’il est autorisé.
La question fondamentale : quelles décisions ne doivent jamais échapper au contrôle humain ?

Une certaine méfiance vis-à-vis de l’IA ne touche jamais à la vie privée. On peut être rassuré de savoir que ses données ne sont pas collectées tout en restant inquiet que le système prenne des décisions qu’il ne devrait pas prendre :

trier vos candidats
orienter une décision
rédiger la justification à laquelle vous serez plus tard tenu de vous conformer
régler, par défaut, une question qu’une personne était censée évaluer.

Les partisans du « bouton d’arrêt » réagissent également à cela, même lorsqu’ils qualifient cela de problème de vie privée. Ils veulent que la machine reste dans sa voie. Dans une pile technologique des géants du web, il n’y a pas de voie, seulement un modèle qui fait tout ce qu’on lui demande de faire, dans la mesure où il est autorisé à aller.

Nous sommes partis de cet aspect du problème, et non de la vie privée. Une question a structuré l’ensemble, simple à poser mais difficile à respecter : quelles décisions peut-on confier à une machine, lesquelles doivent rester entre les mains de l’humain, et comment maintenir cette limite quand personne ne surveille ?

La limite qui n’est pas une question de goûtCertains jugements peuvent être systématisés ; les valeurs, le sens et la capacité d’agir ne le peuvent pas.

L’automatisation d’une valeur fait s’immiscer par la force des valeurs d’autrui comme valeur par défaut.
Les limites, en clair : des valeurs vérifiées, pas automatisées ; une autonomie respectée, pas simulée.
Les décisions pour lesquelles une communauté a le plus besoin d’aide se situent précisément sur cette ligne.

Cette ligne suit la forme des décisions elles-mêmes, et non pas les limites qu’une entreprise décide de fixer pour son produit. Certaines choses peuvent être systématisées et déléguées en toute sécurité : réduites à une règle, une procédure, un modèle. D’autres ne le peuvent pas, car les systématiser revient à les détruire. On ne peut pas automatiser un jugement de valeur sans y introduire subrepticement les valeurs de quelqu’un d’autre comme valeur par défaut. Le sens peut être reconnu, pas calculé ; la finalité préservée, pas générée.

Nous avons consigné cela sous forme de limites, dans un langage simple : les valeurs ne peuvent être automatisées, seulement vérifiées. L’autonomie ne peut être simulée, seulement respectée. Et celle qui fait l’essentiel du travail : ce qu’on ne peut pas systématiser, on doit s’en remettre au jugement humain. Ce sont des spécifications techniques, rédigées pour être mises en œuvre plutôt que pour être admirées. Chacune stipule, pour une catégorie de décision, que celle-ci ne doit pas être déléguée au modèle, et que cela doit être intégré dans le fonctionnement du système, sinon ce n’est qu’une belle phrase sur une page.

Les décisions pour lesquelles une communauté a le plus besoin d’aide se situent précisément à la limite :

un conseil d’administration évaluant un conflit d’intérêts
une clinique décidant de ce qu’il convient de divulguer
une fiducie statuant sur la qualité d’un membre.

C’est là qu’un modèle fluide est à la fois le plus tentant et le plus dangereux : il produira une réponse assurée à une question à laquelle il n’avait jamais pour mission de répondre.

A weathered bench beside a wire fence over rolling farmland, Aotearoa New Zealand

Une limite que l’on ne fait qu’espérer n’est pas une limiteUne barrière de sécurité formulée comme un vœu ne limite pas ce que le système fait réellement.

La plupart des « IA responsables » sont un panneau vous demandant de ne pas franchir la ligne, pas une clôture.
Nous avons intégré cette limite dans l’architecture : les décisions réservées sont confiées aux humains par le cheminement du code.
Une vérification s’effectue avant qu’une action ne prenne effet — et ne peut être contournée par une invite.

La plupart des « IA responsables » constituent une limite que l’on espère voir respectée. On demande au modèle de rester dans les limites ; une politique stipule qu’il doit le faire ; tout le monde s’accorde à dire qu’il le devrait. Rien de tout cela ne contraint le système lorsqu’il est sollicité de manière détournée, car la contrainte réside dans un langage que le modèle est libre d’ignorer. Une barrière de sécurité formulée comme un vœu n’est qu’un espoir animé de bonnes intentions.

Nous avons intégré cette limite dans l’architecture. Une décision qui empiète sur les domaines réservés — les valeurs, l’autonomie, les éléments qui ne doivent pas être automatisés — ne peut être exécutée par le modèle seul ; il doit s’arrêter et renvoyer la décision à une personne. La vérification s’effectue avant qu’une action ne prenne effet, et non sous forme de conseil après coup. Les décisions réservées aux humains sont confiées aux humains dans le chemin du code, de sorte que « l’IA a décidé » n’est pas une phrase que le système peut produire à propos des choses qui comptent. Ce n’est pas le modèle qui fait respecter la limite, et aucune invite astucieuse ne peut le faire changer d’avis. Il ne s’agit pas d’une conversation. Il s’agit de vérifier une limite.

C’est la différence entre une clôture et un panneau vous demandant de ne pas traverser. Sur le cloud de quelqu’un d’autre, vous obtenez le panneau : le modèle est le produit, et le délimiter strictement délimite ce qu’ils vendent. Lorsque la communauté est propriétaire du système, la clôture peut être réelle, car les revenus de personne ne dépendent du fait que le modèle aille plus loin qu’il ne le devrait.

Walkers crossing tussock toward a high-country mountain pass, Aotearoa New Zealand

Ce que fait la machine à la placeElle propose ; une personne décide — et la frontière entre les deux est visible à dessein.

Fait ressortir l’histoire, résume les fils de discussion, rédige des textes courants — un véritable travail de pris en charge.
S’arrête au jugement lui-même ; ne s’aventure jamais dans ce qui est réservé.
Chaque intervention est consignée : ce qui a été utilisé, quel modèle, où il a été exécuté.

Rien de tout cela ne rend l’IA inutile. Cela en fait un instrument, ce qui est justement la raison d’être d’un instrument. Dans les limites fixées, elle effectue un véritable travail, et elle le fait bien :

met en évidence l'historique pertinent avant une réunion
résume un fil de discussion long et enchevêtré
rédige une première ébauche de texte standard
aide un nouveau venu à s’y retrouver
indique à quoi ressemble une décision dans le procès-verbal

Chacune de ces tâches allège la charge de travail d’un bénévole.

Ce qu’elle ne fait pas, c’est franchir la ligne. Elle propose ; la personne décide. Lorsqu’elle a apporté son aide, celle-ci est consignée : ce qui a été utilisé, quel modèle, où il a été exécuté. Une personne consultant le journal a posteriori peut voir où la machine a aidé et où la personne a décidé. La frontière entre les deux est visible à dessein, afin que vous n’ayez jamais à vous demander dans quelle mesure une décision était réellement la vôtre. La manière dont l’IA du Village est conçue pour rester à l’intérieur de cette limite, et la façon dont chaque intervention est consignée, sont expliquées en termes clairs sur village-ai.html et ai-transparency.html.

A high-country lake below snow peaks at dusk, Aotearoa New Zealand

Pourquoi une machine encadrée est-elle plus utile ?On peut faire pleinement confiance à une machine délimitée par sa conception, sans avoir à la tenir à distance.

C’est cette limite qui vous permet de vous détendre et de lui confier les tâches fastidieuses sans surveillance.
Nous ne prétendons pas qu’elle surpasse les plus grands modèles — nous revendiquons une meilleure organisation.
Une communauté a besoin d’un assistant compétent en qui elle peut avoir confiance pour ne pas la contrôler. C’est chose faite.

Si vous voyez là un sacrifice, une sécurité acquise au prix de la capacité, c’est que vous avez tout compris à l’envers. Une machine que vous devez garder à distance, parce que vous ne pouvez pas savoir ce qu’elle va entreprendre, est une machine que vous utilisez avec crainte. Une machine dont la conception est encadrée peut être rapprochée de vous, à qui l’on peut confier les tâches fastidieuses sans surveillance, en qui on peut avoir confiance dans la pièce, car sa portée est fixe et ne dépend pas de votre vigilance. C’est cette limite qui vous permet de vous détendre.

C’est là le principe sur lequel la série revient sans cesse. Nous ne prétendons pas que le modèle du Village surpasse les plus grands modèles du monde. C’est un modèle modeste, et nous le disons clairement. Ce que nous revendiquons, c’est une meilleure organisation : un instrument qui vous appartient, qui reste dans son domaine, qui ne peut pas discrètement s’arroger une autorité qui ne lui a jamais été conférée. Une communauté n’a pas besoin de l’ oracle le plus intelligent. Elle a besoin d’un assistant compétent en qui elle peut avoir confiance pour ne pas la gouverner. La première est une course qu’aucune petite organisation ne peut gagner. La seconde est acquise.

Qui a le plus besoin de cette limite ?Ceux qui assument des responsabilités qu’ils ne peuvent déléguer.

Les conseils d’administration, où une décision imputée au « système » est une décision dont personne n’est responsable.
Les cliniciens et les travailleurs sociaux, pour qui tout excès est un préjudice, et non un simple désagrément.
Ceux qui ont des principes — qui ne voulaient pas l’absence de la machine, mais la certitude qu’elle reste à sa place.

Ceux qui ressentent cela en premier portent déjà une responsabilité qu’ils ne peuvent déléguer :

un conseil d’administration, où une décision imputée au « système » est une décision dont personne n’est responsable
un clinicien ou un assistant social, où une machine qui outrepasse ses fonctions n’est pas un dérangement mais un préjudice
un organe directeur soumis à des obligations légales, qui sait faire la différence entre être assisté et être remplacé
les lecteurs intègres que cette série ne cesse de rencontrer, qui ont appuyé sur le bouton d’arrêt et reconnaîtront que ce qu’ils voulaient n’a jamais été l’ absence de la machine, mais seulement la certitude qu’elle resterait à sa place.

Pour tous, la promesse est la même. L’IA prend en charge ce qui peut l’être et ne touche pas à ce qui vous revient de peser, et vous pouvez voir la limite, car elle est intégrée à la chose elle-même plutôt qu’imprimée sur une page qui en parle.

Le principe sur lequel repose le reste de la sérieConnaître sa place est la discipline de conception qui rend tout le reste sûr à posséder.

Le registre non modifiable fonctionne parce que l’IA ne peut pas inventer les motifs d’un directeur.
Le modèle interne est régi par la même limite quant à ce qu’il peut décider.
Un système digne de confiance sait à laquelle des deux catégories il appartient : il est un instrument, et non une autorité.

Tout ce qui suit s’applique à cette seule idée :

Le dossier qui ne peut être discrètement réécrit fonctionne parce que la machine n’est pas autorisée à rédiger les motifs du directeur
le modèle qui reste à l’intérieur de vos murs est régi par la même ligne
la tour de contrôle des opérateurs respecte les limites qu’elle surveille .

Connaître sa place n’est pas une fonctionnalité parmi d’autres. C’est la discipline de conception qui rend toutes les autres sûres à utiliser.

Un modèle peut aider ; c’est à une personne de juger. Un système digne de confiance sait à quelle catégorie il appartient — de par sa conception, et non ses conditions d’utilisation.

Le Village est un système en fonctionnement, pas une brochure — découvrez-le sur mysovereignty.digital. Les limites décrites ici constituent la discipline de conception énoncée du cadre, appliquée au niveau architectural plutôt que promise par des mots. — John G. Stroh, My Digital Sovereignty Ltd., juin 2026.