Een alternatief voor de AI van de grote techbedrijven · Essay 2 van 7

AI die binnen zijn grenzen blijft

Het belangrijkste is een machine die de grens niet overschrijdt en zich niet mengt in de beslissingen die u zelf moet nemen.

Samenvatting. De ongerustheid over AI wordt meestal ondergebracht bij privacy. De helft ervan ligt echter elders, en die is moeilijker uit te schakelen: de zorg dat een machine beslissingen neemt waar ze niets mee te maken heeft — het rangschikken van wat belangrijk is, het afwegen van waarden, handelen voordat een persoon erover heeft nagedacht. Een uitschakelaar biedt een oplossing voor de privacykant, maar niet voor de rest. Ons antwoord op beide is een machine die is gebouwd om zijn plaats te kennen, waarbij de grens tussen wat hij wel en niet mag doen wordt bepaald door de architectuur, niet door de goede manieren van de leverancier. Sommige beslissingen kunnen aan software worden overgelaten. Andere niet, en die moeten teruggaan naar de mensen aan wie die beslissingen toebehoren. Dit essay gaat over die grens: waarom een grens waar je alleen maar op kunt hopen geen grens is, en waarom een machine die het stuur niet kan overnemen, juist de nuttigere is.

PDF downloaden Presenteren als dia's Briefing-PDF

Belangrijkste punten — tik op een regel om het gedeelte te lezen

Het onbehagen gaat niet alleen over privacyWat mensen vrezen, is dat een machine beslissingen neemt waar ze niets mee te maken heeft.

Een uitschakelaar biedt een antwoord op toezicht — en voorkomt dat er te ver wordt gegaan.
In een Big Tech-stack is er geen afgebakende baan, alleen een model dat zo ver reikt als is toegestaan.
De leidende vraag: welke beslissingen mogen nooit uit menselijke handen verdwijnen?

Sommige ongemakkelijke gevoelens bij AI hebben niets met privacy te maken. Je kunt tevreden zijn dat je gegevens niet worden verzameld en toch ongerust zijn dat het systeem beslissingen neemt die het niet zou moeten nemen:

je aanvragers sorteren
een beslissing sturen
de reden opstellen waaraan je later zult worden gehouden
het standaard afhandelen van een kwestie die iemand eigenlijk zelf had moeten afwegen.

Ook de voorstanders van de uitknop reageren hierop, zelfs als ze het een privacyprobleem noemen. Ze willen dat de machine binnen zijn eigen baan blijft. Bij een Big Tech-stack is er geen baan, alleen een model dat doet wat het moet doen, voor zover het mag reiken.

We zijn bij dit aspect van het probleem begonnen, niet bij privacy. Eén vraag bracht alles op een rijtje, eenvoudig te stellen en moeilijk na te leven: welke beslissingen kun je aan een machine toevertrouwen, welke mogen nooit uit menselijke handen verdwijnen, en hoe houd je die grens in stand als niemand toekijkt?

De grens die geen kwestie van smaak isSommige beslissingen kunnen worden gesystematiseerd; waarden, betekenis en handelingsvermogen kunnen dat niet.

Het automatiseren van een waarde zorgt ervoor dat de waarde van iemand anders stiekem als standaard wordt ingevoerd.
De grenzen, simpel gezegd: waarden die worden geverifieerd, niet geautomatiseerd; keuzevrijheid die wordt gerespecteerd, niet gesimuleerd.
De beslissingen waarbij een gemeenschap het meest hulp nodig heeft, liggen precies op deze grens.

De grens volgt de vorm van de beslissingen zelf, niet waar een bedrijf toevallig de grenzen van zijn product trekt. Sommige zaken kunnen worden gesystematiseerd en veilig gedelegeerd: teruggebracht tot een regel, een procedure, een model. Andere kunnen dat niet, omdat het systematiseren ervan de essentie vernietigt. Je kunt een waardeoordeel niet automatiseren zonder de waarden van iemand anders als standaard binnen te sluizen. Betekenis kan worden herkend, niet berekend; doel kan worden behouden, niet gegenereerd.

We hebben deze als grenzen opgeschreven, in een eenvoudige formulering: waarden kunnen niet worden geautomatiseerd, alleen geverifieerd. Eigen initiatief kan niet worden gesimuleerd, alleen gerespecteerd. En degene die het meeste werk doet: wat men niet kan systematiseren, daarin moet men vertrouwen op het menselijk oordeel. Het zijn technische specificaties, geschreven om te worden gebouwd in plaats van bewonderd. Elk zegt, over een categorie beslissingen: dit wordt niet gedelegeerd aan het model, en dat moet worden ingebouwd in hoe het systeem zich gedraagt, anders is het slechts een mooie zin op een pagina.

De beslissingen waarbij een gemeenschap het meest hulp nodig heeft, liggen precies op de grens:

een bestuursorgaan dat een belangenconflict afweegt
een kliniek die beslist wat er openbaar gemaakt moet worden
een stichting die een uitspraak doet over de status van een lid.

Dit zijn de punten waarop een vloeiend model het meest verleidelijk en het gevaarlijkst is: het zal een zelfverzekerd antwoord geven op een vraag die het nooit had mogen beantwoorden.

A weathered bench beside a wire fence over rolling farmland, Aotearoa New Zealand

Een grens waar je alleen maar op hoopt, is geen grensEen vangrail die als een wens is geformuleerd, legt geen beperkingen op aan wat het systeem daadwerkelijk doet.

De meeste ‘verantwoordelijke AI’ is een bord dat je vraagt niet over te steken, geen hek.
We hebben de grens als architectuur opgebouwd: voorbehouden beslissingen worden via het codepad aan mensen voorbehouden.
Er vindt een controle plaats voordat een actie van kracht wordt — en het kan niet door een prompt van zijn taak worden afgebracht.

De meeste ‘verantwoorde AI’ is een grens waar je op hoopt. Het model wordt gevraagd binnen de grenzen te blijven; een beleid schrijft voor dat het dat moet; iedereen is het erover eens dat het zo hoort. Niets daarvan beperkt wat het systeem doet wanneer het op een andere manier wordt aangestuurd, omdat de beperking vervat is in taal die het model vrijelijk kan negeren. Een vangrail die als een wens is opgeschreven, is slechts een hoop met goede bedoelingen.

We hebben de grens als architectuur ingebouwd. Een beslissing die de voorbehouden domeinen overschrijdt — waarden, handelingsvrijheid, de zaken die niet geautomatiseerd mogen worden — kan niet door het model alleen worden uitgevoerd; het moet stoppen en terugkeren naar een mens. De controle vindt plaats voordat een actie van kracht wordt, niet als advies achteraf. Beslissingen die voorbehouden zijn aan mensen, worden in het codepad aan mensen voorbehouden, dus „de AI heeft besloten“ is geen zin die het systeem kan produceren over de dingen die ertoe doen. Wat de grens handhaaft, is niet het model, en geen enkele slimme prompt kan het ompraten. Het is geen gesprek voeren. Het is het controleren van een grens.

Het is het verschil tussen een hek en een bord dat je vraagt niet over te steken. In de cloud van iemand anders krijg je het bord: het model is het product, en door het strak af te bakenen, wordt hetgeen ze verkopen strak afgebakend. Wanneer de gemeenschap eigenaar is van het systeem, kan het hek echt zijn, omdat niemands inkomsten afhangen van het feit dat het model verder reikt dan het zou moeten.

Walkers crossing tussock toward a high-country mountain pass, Aotearoa New Zealand

Wat de machine in plaats daarvan doetZij stelt voor; een mens beslist — en de naad daartussen is met opzet zichtbaar.

Brengt geschiedenis naar boven, vat discussielijnen samen, stelt routinematige teksten op — echt werk dat uit handen wordt genomen.
Stopt bij het oordeel zelf; dringt nooit door tot wat voorbehouden is.
Elke ondersteuning wordt geregistreerd: wat er werd gebruikt, welk model, waar het draaide.

Dit alles maakt de AI niet nutteloos. Het maakt er een instrument van, en daar is een instrument nu juist voor bedoeld. Binnen de grenzen verricht het echt werk, en doet dat goed:

brengt de relevante achtergrond naar voren vóór een vergadering
vat een lange, ingewikkelde discussie samen
stelt een eerste versie van routinematige tekst op
helpt een nieuwkomer te vinden waar dingen liggen
wijst erop hoe een besluit er in de notulen uitziet.

Elk van die taken is werk dat van de schouders van een vrijwilliger wordt gehaald.

Wat het niet doet, is de grens overschrijden. Het doet voorstellen; de persoon beslist. Wanneer het heeft geholpen, wordt de hulp geregistreerd: wat er is gebruikt, welk model, waar het is uitgevoerd. Een mens die het verslag achteraf leest, kan zien waar de machine heeft geholpen en waar de persoon heeft beslist. De scheiding tussen beide is met opzet zichtbaar, zodat je nooit hoeft te raden in hoeverre een beslissing echt van jou was. Hoe de AI van het Village is gebouwd om binnen die grens te blijven, en hoe elke ondersteuning wordt vastgelegd, wordt in duidelijke bewoordingen uiteengezet op village-ai.html en ai-transparency.html.

A high-country lake below snow peaks at dusk, Aotearoa New Zealand

Waarom een begrensde machine nuttiger isEen machine die door haar opbouw begrensd is, kun je van dichtbij vertrouwen, in plaats van op armlengte afstand te houden.

De grens zorgt ervoor dat je je kunt ontspannen en het vervelende werk zonder toezicht aan het systeem kunt overlaten.
We beweren niet dat het de grootste modellen overtreft — we beweren dat het een betere opzet heeft.
Een gemeenschap heeft een bekwame assistent nodig die het kan vertrouwen en die het niet zal besturen. Dat is geregeld.

Zie dit als een opoffering, veiligheid die je koopt met bekwaamheid, en je hebt het verkeerd begrepen. Een machine die je op afstand moet houden, omdat je niet weet wat het allemaal gaat doen, gebruik je met schroom. Een machine die in zijn opzet begrensd is, kun je dichtbij halen, het saaie werk zonder toezicht aan hem toevertrouwen en erop vertrouwen dat hij in de kamer blijft, omdat zijn reikwijdte vastligt en niet afhankelijk is van jouw waakzaamheid. De begrenzing zorgt ervoor dat je je kunt ontspannen.

Dit is de kern waar de serie steeds weer op terugkomt. We beweren niet dat het model van The Village de grootste modellen ter wereld overtreft. Het is een bescheiden model, en dat zeggen we ook ronduit. De bewering is een betere opzet: een instrument dat van jou is, dat binnen zijn grenzen blijft, dat niet stilletjes de autoriteit kan overnemen die het nooit is gegeven. Een gemeenschap heeft niet het slimste orakel nodig. Ze heeft een bekwame assistent nodig waarvan ze kan vertrouwen dat hij haar niet zal besturen. Het eerste is een race die geen enkele kleine organisatie kan winnen. Het tweede is een uitgemaakte zaak.

Wie heeft de begrenzing het hardst nodigDe mensen die verantwoordelijkheid dragen die ze niet kunnen delegeren.

Besturen, waar een beslissing die aan ‘het systeem’ wordt toegeschreven, een beslissing is waarvoor niemand verantwoording hoeft af te leggen.
Clinici en maatschappelijk werkers, waar te ver gaan schade is, geen ongemak.
De principevaste mensen — die niet de afwezigheid van de machine wilden, maar de zekerheid dat deze op zijn plaats blijft.

De mensen die dit als eersten voelen, dragen al een verantwoordelijkheid die ze niet kunnen delegeren:

een bestuur, waar een besluit dat aan „het systeem“ wordt toegeschreven, een besluit is waarvoor niemand verantwoordelijk is
een behandelaar of maatschappelijk werker, waar een machine die zijn boekje te buiten gaat geen ongemak is, maar een kwaad
een bestuursorgaan met wettelijke taken, dat het verschil kent tussen bijgestaan worden en vervangen worden
de principiële lezers die deze reeks steeds weer tegenkomt, die naar de uitknop grepen en zullen inzien dat wat zij wilden nooit de afwezigheid van de machine was, maar alleen de zekerheid dat deze zou blijven waar hij thuishoort.

Voor hen allemaal geldt dezelfde belofte. De AI neemt op zich wat opgenomen kan worden en laat datgene waarvoor jij de afweging moet maken met rust, en je kunt de grens zien, omdat die in het ding zelf is ingebouwd in plaats van op een pagina erover te zijn afgedrukt.

Het principe waarop de rest van de serie is gebaseerdJe plaats kennen is de ontwerpdiscipline die ervoor zorgt dat al het andere veilig in bezit kan worden genomen.

Het niet-herschrijfbare verslag werkt omdat de AI de redenen van een directeur niet kan bedenken.
Het interne model wordt beheerst door dezelfde grens met betrekking tot wat het mag beslissen.
Een systeem dat het vertrouwen waard is, weet welke van de twee het is: instrument, geen autoriteit.

Alles wat hierna volgt, past dit ene idee toe:

het verslag dat niet stilletjes kan worden herschreven, werkt omdat de machine geen toegang heeft tot het opstellen van de motivering van een directeur
het model dat binnen je muren blijft, wordt beheerst door dezelfde lijn
de verkeerstoren voor operators respecteert de grenzen waarover hij waakt.

Zijn plaats kennen is niet zomaar één functie onder vele. Het is de ontwerpdiscipline die ervoor zorgt dat alle andere functies veilig kunnen worden toegepast.

Een model kan helpen; een mens moet oordelen. Een systeem dat het vertrouwen waard is, weet welke van de twee het is — in zijn opbouw, niet in zijn gebruiksvoorwaarden.

The Village is een werkend systeem, geen brochure — bekijk het op mysovereignty.digital. De hier beschreven grenzen vormen de vastgelegde ontwerpdiscipline van het raamwerk, die architectonisch wordt afgedwongen in plaats van in woorden te worden beloofd. — John G. Stroh, My Digital Sovereignty Ltd., juni 2026.