Over goede mensen, slechte mensen en AI
Begin april verschenen er twee stukken die ik niet los van elkaar kon lezen.
Het eerste was een onderzoek van The New Yorker – achttien maanden werk, meer dan honderd gesprekken, interne documenten die nooit eerder openbaar waren. Het portret dat ontstaat is van Sam Altman, de CEO van OpenAI: een man die publiekelijk voor AI-regulering pleit en tegelijkertijd achter de schermen lobbyt om die regulering te voorkomen.
Het tweede was een technische publicatie van Anthropic over hun nieuwste model, Mythos Preview. Zo capabel op het gebied van cybersecurity dat het zelfstandig kwetsbaarheden vond in alle grote besturingssystemen en browsers – kwetsbaarheden die soms twintig jaar onontdekt waren gebleven. En niet alleen voor experts: ook onderzoekers zonder enige beveiligingsopleiding konden het model vragen om een aanval te schrijven en de volgende ochtend een werkend resultaat aantreffen.
Beide stukken trekken dezelfde conclusie: AI in de verkeerde handen is gevaarlijk. Het verhaal is oud en herkenbaar. Slechte mensen, goede tools.
Mijn eerste reflex was dat uit te werken. Want als dat klopt, wil je weten wie je in huis hebt.
Goed en slecht
De matrix schrijft zich bijna vanzelf. Op de ene as of iemand iets kan – kennis, ervaring, het vermogen om te beoordelen wat AI produceert. Op de andere as of iemand het goed bedoelt. Vier vakjes. De gevaarlijkste combinatie tekent zich meteen af: iemand die wel kan maar niet deugt heeft nu middelen die zijn impact ver voorbij zijn omgeving tillen.
Maar als ik er concrete mensen in probeer te plaatsen – mensen uit organisaties die ik van binnenuit ken – kloppen de assen niet. Goed en slecht veronderstellen allebei dat het iemand iets uitmaakt. Dat er een intentie is, een richting, een keuze.
De derde variabele
Hannah Arendt schreef ooit dat het gevaarlijkste niet zit in uitzonderlijke slechtheid, maar in gewone gedachteloosheid. Niet kwade wil. Gewoon: de vraag niet stellen wat je aan het doen bent.
Wat als dat – en niet goed of slecht – de dominante variabele is?
Onverschilligheid is geen positie op de as tussen goed en slecht – het is een volledig nieuwe as. En AI verandert de andere: wie voorheen te weinig kennis of ervaring had om grote impact te maken, heeft die drempel nu achter zich gelaten. Een model dat prima output levert, een dashboard dat groen kleurt, een chatbot die vriendelijk antwoordt – wie stelt dan nog de vraag: wat doen we hier eigenlijk? De onverschillige medewerker heeft geen agenda. Hij levert output die er prima uitziet. Hij stelt de vraag niet wat die output doet voor zijn klant, zijn collega, zijn organisatie. Hij is niet tegen je. Hij denkt alleen niet aan je.
Wat AI werkelijk vergroot
De voor de hand liggende reactie op dit alles is: ik herken mezelf hier niet in. Ik denk na over wat ik doe. Ik stel vragen. Dit gaat over anderen.
Dat is precies wat de onverschillige ook denkt.
Want onverschilligheid is niet iets wat je bij jezelf herkent. Ze zit niet in kwade wil of in aantoonbaar onvermogen – ze zit in de vragen die je niet stelt omdat je ze niet mist. De medewerker die AI-output doorstuurt zonder die te lezen denkt niet: ik ben onverschillig. Hij denkt: ik ben efficiënt. De manager die adoptiecijfers groen kleurt zonder te weten wat er geproduceerd wordt denkt niet: ik kijk weg. Hij denkt: ik stuur op resultaat.
Dat maakt toezicht op onverschilligheid zo lastig. Alle governance rond AI is ingericht op het herkennen van de kwaadwillende – de Altman die liegt, het model dat in verkeerde handen valt. Daar is beleid voor. Daar zijn journalisten voor. Anthropic geeft Mythos Preview bewust alleen vrij aan geselecteerde partners, juist omdat ze weten hoe gevaarlijk die capaciteit is in handen van mensen met slechte bedoelingen.
Maar de onverschillige gebruiker staat niet op die lijst. Hij is geen bedreiging die je kunt aanwijzen. Hij heeft geen agenda. Hij doet gewoon zijn werk – met steeds krachtiger gereedschap, en steeds minder reden om er bij na te denken.
Altman wordt onderzocht. Mythos wordt beheerd. De onverschilligheid verandert niet. AI geeft haar ongekende superkrachten.
-- dit bericht is eerder gepubliceerd op LinkedIn