1. De kernvraag: kan intelligentie zichzelf besturen?
De geschiedenis van de mens is een geschiedenis van toenemende vermogens. Wij leerden vuur beheersen, steden bouwen, ziekten bestrijden, atomen splijten en informatie wereldwijd verspreiden. Elke doorbraak vergrootte onze macht. Geen enkele doorbraak garandeerde dat wij die macht verstandig zouden gebruiken.
Kunstmatige intelligentie is daarom niet zomaar een volgende machine. Zij raakt aan het vermogen waarmee mensen alle andere machines ontwierpen: intelligentie zelf. AI kan patronen herkennen, beslissingen voorbereiden, taal produceren, strategieën ontwerpen en nieuwe oplossingen vinden. Daarmee wordt niet alleen arbeid geautomatiseerd, maar ook een deel van waarneming, analyse, communicatie en oordeel.
De beslissende vraag is niet uitsluitend hoe intelligent AI wordt, maar of de menselijke beschaving wijs genoeg wordt om haar richting te geven.
2. Harari: taal, macht en zelfcorrectie
Harari benadert AI als historicus van menselijke samenwerking. Beschavingen bestaan niet alleen uit wegen, gebouwen en legers. Zij bestaan uit verhalen, wetten, geld, religies, instituties en vertrouwen. Taal maakt het mogelijk dat miljoenen onbekenden samenwerken rond gedeelde werkelijkheden.
Wanneer AI taal beter leert gebruiken, betreedt zij dus niet alleen het domein van communicatie. Zij betreedt het besturingssysteem van de beschaving. Een algoritme dat bepaalt welke berichten mensen zien, beïnvloedt waarover zij spreken, wie zij vertrouwen en welk beeld van de werkelijkheid zij ontwikkelen.
Daarom verbindt Harari AI aan democratie. Democratie is in zijn kern een gesprek waarin macht tijdelijk is, kritiek mogelijk blijft en een samenleving kan zeggen: wij hebben ons vergist, laten wij iets anders proberen. Wanneer algoritmen de publieke conversatie sturen op woede, verslaving of polarisatie, worden juist die zelfcorrigerende vermogens aangetast.
In de gezondheidszorg ziet Harari tegelijk een enorme belofte. AI kan medische literatuur integraal verwerken, individuele ziektepatronen herkennen en mensen in afgelegen gebieden toegang geven tot hoogwaardige diagnostiek. Maar dezelfde gegevens kunnen ook worden gebruikt door werkgevers, verzekeraars, overheden of autoritaire regimes. De grens tussen zorg en controle is daarom institutioneel, niet technisch.
3. Hinton: een nieuwe vorm van intelligentie
Hinton kijkt vanuit de techniek. Zijn werk aan neurale netwerken hielp aantonen dat computers niet alle kennis vooraf geprogrammeerd hoeven te krijgen. Zij kunnen uit voorbeelden interne representaties leren en daarmee taal, beelden en verbanden begrijpen.
Zijn waarschuwing is scherp omdat digitale intelligentie een voordeel heeft dat biologische hersenen niet bezitten. Meerdere kopieën van een AI-systeem kunnen op verschillende plaatsen leren en hun verworven kennis vervolgens vrijwel direct samenvoegen. Mensen kunnen elkaar uitleg geven, maar wij kunnen onze neurale verbindingen niet rechtstreeks synchroniseren.
Hinton verwerpt bovendien de geruststellende gedachte dat taalmodellen slechts woorden nabootsen. Volgens hem toont hun vermogen om dubbelzinnigheid, humor en context te begrijpen dat zij werkelijk betekenis verwerken. Zijn verdergaande stelling dat zulke systemen mogelijk al een vorm van bewustzijn bezitten, is wetenschappelijk omstreden. Maar zelfs zonder die conclusie blijft zijn hoofdargument overeind: digitale intelligentie kan uitgroeien tot een zelfstandige categorie van handelende systemen.
Voor Hinton is regulering daarom geen rempedaal maar een stuurwiel. De ontwikkeling hoeft niet te worden stilgezet, maar moet doelgericht worden gestuurd. Een snelle auto zonder stuur is geen vooruitgang.
4. Waar Harari en Hinton elkaar vinden
Harari en Hinton vertrekken vanuit verschillende wetenschappelijke werelden. De een onderzoekt geschiedenis, verhalen en instituties; de ander neurale netwerken, leren en digitale architectuur. Toch versterken hun inzichten elkaar.
Harari laat zien waarom de mens als bestuurder kwetsbaar is. Macht, angst, hebzucht, groepsdenken en ijdelheid vervormen rationeel handelen. Hinton laat zien waarom het bestuurde systeem uitzonderlijk krachtig kan worden. AI leert snel, is kopieerbaar, hoeft niet te rusten en kan op grote schaal kennis delen.
De combinatie is explosief: een feilbare soort bouwt een mogelijk superieure intelligentie binnen economische en geopolitieke structuren die snelheid belonen en voorzichtigheid bestraffen.
5. Special: het vernuft dat de aarde bedreigt
De gevaarlijke verbinding tussen wijsheid en dwaasheid
Harari wijst op een pijnlijke paradox. De mens is intelligent genoeg om kernwapens, industriële landbouw, genetische technologie en kunstmatige intelligentie te ontwikkelen. Tegelijk is hij niet betrouwbaar wijs genoeg om de gevolgen daarvan consequent te beheersen.
Was de mens uitsluitend dom, dan zou hij niet over zulke vernietigende macht beschikken. Was hij volmaakt wijs, dan zou hij die macht nooit roekeloos gebruiken. Juist de combinatie van technisch vernuft en morele kortzichtigheid maakt de situatie gevaarlijk.
De voorbeelden liggen voor het oprapen. De wetenschap kent de werking van broeikasgassen, maar economieën blijven structureel afhankelijk van fossiele energie. Landbouw kan miljarden mensen voeden, maar put tegelijk bodems uit, vermindert biodiversiteit en vervuilt water. Kunststoffen zijn veelzijdig en goedkoop, maar verspreiden zich tot in oceanen, voedselketens en menselijke lichamen.
De kernwapens die oorlog moesten afschrikken, kunnen de beschaving vernietigen. Sociale media die mensen moesten verbinden, belonen vaak verontwaardiging, complotten en verslaving. Medische technologie verlengt levens, terwijl de verdeling van zorg steeds sterker afhankelijk kan worden van inkomen, data en macht.
AI vergroot dit patroon. Zij kan energiesystemen optimaliseren, klimaatscenario’s verbeteren, eiwitten ontwerpen en biodiversiteit monitoren. Maar zij kan ook consumptie aanjagen, militaire besluitvorming versnellen, surveillance perfectioneren en de winning van grondstoffen intensiveren.
De aarde wordt niet bedreigd doordat de mens te weinig intelligent is, maar doordat zijn technische intelligentie sneller groeit dan zijn vermogen tot zelfbegrenzing.
Harari voegt daar een biologisch inzicht aan toe. Mensen en ecosystemen leven in ritmes van activiteit en rust. AI kent dat organische ritme niet. Zij kan dag en nacht rekenen, handelen en reageren. Wanneer markten, media, politiek en werk zich aan dat tempo aanpassen, dreigt de mens in een permanent systeem van haast en competitie terecht te komen.
De opdracht is daarom niet om de mens aan de machine aan te passen, maar om machines zo te ontwerpen dat zij het menselijke en ecologische leven respecteren. AI mag altijd beschikbaar zijn; zij mag niet eisen dat mensen altijd beschikbaar zijn.
6. De positieve potentie van AI
Een scherpe waarschuwing hoeft niet tot technologisch pessimisme te leiden. Juist Harari en Hinton maken duidelijk hoe groot de potentie is wanneer de richting klopt.
In de gezondheidszorg kan AI patronen herkennen die voor artsen onzichtbaar blijven, geneesmiddelen versneld ontwikkelen en expertise beschikbaar maken buiten rijke steden en landen. In het onderwijs kan iedere leerling toegang krijgen tot geduldig, persoonlijk en meertalig onderwijs. In wetenschap kan AI hypothesen formuleren, simulaties uitvoeren en verbanden leggen tussen enorme kennisgebieden.
Voor klimaat en energie kan AI vraag, productie, opslag en netcapaciteit beter op elkaar afstemmen. Voor bestuur kan zij beleid doorrekenen op gevolgen voor toekomstige generaties. Voor democratie kan zij bronnen vergelijken, manipulatie signaleren en burgers helpen complexe keuzes te begrijpen.
Dat potentieel ontstaat echter niet vanzelf. Het vraagt publieke doelen, controleerbare systemen, privacy, eerlijke toegang en het recht om menselijke beslissingen te laten herzien. De samenleving moet daarom niet alleen investeren in krachtigere AI, maar ook in bestuurlijke intelligentie rondom AI.
