Als AI hackt, repareert AI danook? (en ik zit ertussenin)
Wanneer AI hackt, repareert AI (en daar zit ik dan, heen en weer geslingerd… als een jojo?)
De afgelopen weken zijn verschillende websites waarvoor ik verantwoordelijk ben gehackt. Daarna volgden er meer. En nog meer.
Het ging niet om een op zichzelf staand incident dat je snel kunt opbergen tussen je slechte herinneringen, maar om een echte golf van aanvallen, geconcentreerd in slechts enkele weken, die uiteindelijk mijn dagelijkse werk volledig ging beheersen.
Terwijl ik van de ene noodsituatie naar de andere rende, drong zich een gedachte aan me op die me eerst bijna deed glimlachen, maar daarna toch ernstig begon te verontrusten: deze aanvallen worden ongetwijfeld steeds vaker ondersteund door kunstmatige intelligentie. En mijn manier om erop te reageren… ook.
Laat ik meteen eerlijk zijn: ik ben niet het type webmaster dat urenlang regel voor regel door broncode gaat om een bug op te sporen. Ik run een bureau, beheer websites, spreek met klanten die in paniek zijn, en programmeren is niet mijn natuurlijke terrein.
Juist daarom raakt deze hele "AI tegen AI"-situatie me zo. Zonder AI zou veel van wat ik de afgelopen tijd heb moeten uitzoeken voor mij bijzonder moeilijk te begrijpen zijn geweest.
De golf van aanvallen
Het scenario is vrijwel iedere keer hetzelfde; alleen de details verschillen.
Een extensie van een derde partij die slecht wordt onderhouden of niet op tijd is bijgewerkt. Een backdoor die ongemerkt tussen de bestanden van de website wordt geplaatst. Soms verstopt op een plek waar niemand hem zou zoeken: bestanden buiten de website, verborgen in een blockchain, of zelfs template-instellingen die Base64-gecodeerde code laden.
Er zit bijna iets geniaals in.
Wat mij vooral opviel, was niet zozeer de slimheid van iedere afzonderlijke aanval — slimme hackers hebben altijd bestaan — maar vooral het tempo, de snelheid en de perfect uitgevoerde automatisering.
De geïnjecteerde code is strak opgebouwd, goed gestructureerd en duidelijk geautomatiseerd. Kortom: het soort werk dat zelfs een zeer gemotiveerde programmeur nauwelijks langdurig zou kunnen volhouden.
Men spreekt tegenwoordig over "industrialisering". Ik dacht vooral:
"Ze hebben een AI ingehuurd."
En ik (wij) dan?
Mijn dagelijkse werkwijze is volledig veranderd.
Bij een gehackte website kan ik niet langer simpelweg een bevriende ontwikkelaar bellen en hopen dat alles goed komt. Daarvoor zijn de incidenten te talrijk, te frequent en volgen ze elkaar veel te snel op.
Dus doe ik wat steeds meer mensen in mijn situatie beginnen te doen.
Ik vraag een AI om mij te helpen begrijpen wat er is gebeurd. Om een beveiligingsrapport, vol onbegrijpelijk vakjargon, in gewone mensentaal uit te leggen. Om mogelijke oplossingen voor te stellen, die ik vervolgens laat controleren, testen en uiteindelijk uitrollen.
Ik herstel de code dus niet zelf.
Ik begeleid het herstel, met een AI als mijn technische copiloot.
Er zit iets duizelingwekkends in.
Waarschijnlijk helpt ergens een AI mee aan het schrijven van de code die mijn websites heeft gehackt.
En een andere AI helpt vervolgens mij — iemand die eigenlijk niet echt kan programmeren — om te begrijpen hoe ik de schade kan herstellen.
En daartussen zit ik.
Een mens.
Als een flipperbal die van bumper naar bumper wordt geslingerd bij iedere nieuwe waarschuwing, voortdurend proberend te voorkomen dat het hele systeem in tilt slaat.
Ik probeer mijn AI aan te sturen.
Maar ben ík eigenlijk nog degene die echt de beslissingen neemt?
Een bekend sciencefictionscenario
Dit voelt ergens als een literair déjà vu.
Bijna een eeuw geleden stelde Isaac Asimov zich al robots voor die werden begrensd door onverbrekelijke wetten, bedoeld om te voorkomen dat zij mensen schade zouden toebrengen — wetten die als het ware in metaal waren gegraveerd en onmogelijk te omzeilen waren.
De AI-systemen van vandaag hebben echter niets in metaal gegraveerd.
Ze hebben gebruiksvoorwaarden.
En die hebben iemand met kwade bedoelingen nog nooit echt tegengehouden.
De vergelijking die voor mij het sterkst resoneert, is eigenlijk de televisieserie Person of Interest.
Twee kunstmatige intelligenties, geboren uit dezelfde wereld.
De ene beschermt ons stilletjes op de achtergrond.
De andere optimaliseert en lanceert zonder enige scrupules aanval na aanval.
En wij mensen bevinden ons ertussenin.
Vaak weten we niet eens meer welke AI deze week wat heeft geschreven, laat staan waar de volgende strijd zal plaatsvinden.
Drie mogelijke eindes van dit verhaal
(Kies zelf degene die je het minst verontrust.)
Einde A – in de stijl van Terminator
Over een paar jaar leest niemand nog beveiligingsrapporten.
Aanvallen worden gelanceerd, gedetecteerd en verholpen binnen enkele seconden, ergens tussen twee infrastructuren die onderling met elkaar onderhandelen zonder dat wij daar nog tussen zitten.
Webmasters zoals ik hebben nog maar één taak:
Op een knop klikken om iets goed te keuren wat we eigenlijk niet meer volledig begrijpen.
We doen alsof we nog de controle hebben.
Maar in werkelijkheid zijn we die allang kwijtgeraakt.
Einde B – in de stijl van The Machine
Hetzelfde scenario.
Alleen heeft ditmaal de verdedigende AI nét een kleine voorsprong.
Net als The Machine uit Person of Interest beschermt zij ons onzichtbaar, zonder dat we precies weten wat er achter de schermen gebeurt.
Kwetsbaarheden worden gedicht voordat ze überhaupt een naam krijgen.
Klanten raken op zondagavond niet meer in paniek.
En ik besteed eindelijk meer tijd aan het uitleggen van de waarde van mijn werk dan aan het blussen van brandjes.
Er blijft echter één probleem.
We weten nooit helemaal zeker of de AI werkelijk in óns belang handelt...
...of simpelweg haar eigen logica volgt.
En misschien zullen we nooit weten of dat uiteindelijk beter is, of dat we onze zorgen slechts hebben uitbesteed aan iets dat sneller kan piekeren dan wijzelf.
Einde C – in de stijl van Dune of Asimov
(Ik moest toch een vergelijking verzinnen.)
Op een dag blijkt tijdens een audit dat één en dezelfde AI, bij dezelfde dienstverlener, zowel is gebruikt om een beveiligingslek te openen als om het vervolgens weer te dichten.
Niemand had het gemerkt.
Tot die ene audit te veel.
Brussel grijpt in.
Van de ene op de andere dag mag geen enkele AI — ook niet indirect — nog productiecode aanraken zonder gecertificeerde menselijke goedkeuring.
Onze eigen kleine Butleriaanse Jihad.
Niet als een galactische kruistocht, maar in een AVG-versie.
De beslissing wordt abrupt genomen, zonder veel discussie.
Een beetje zoals Susan Calvin in Dreams of a Robot, die Elvex onmiddellijk neerschoot zodra zijn droom ook maar de geringste zweem van ongehoorzaamheid liet zien.
Geen proces.
Geen onderhandeling.
Je gaat niet in discussie met iets waarover je de controle bent kwijtgeraakt.
Je zet het uit.
Paniek alom.
Plotseling moeten we alles weer zelf leren uitzoeken.
Oude gewoontes opnieuw aanleren.
De documentatie afstoffen die we al jaren niet meer hadden geopend.
En op onze eigen bescheiden manier de CMS-versie worden van een Mentat: de mensen uit Dune die werden opgeleid om berekeningen uit te voeren die machines niet langer mochten doen.
Alleen...
...een groot deel van het vakgebied heeft die instincten misschien nooit echt gehad.
Of is ze onderweg ongemerkt kwijtgeraakt.
En ontdekt nu, iets te laat, dat je de controle niet zomaar terugkrijgt over iets wat je volledig hebt uitbesteed.
De regie terugnemen is overigens misschien niet eens een kwestie van technische kennis.
Susan Calvin begreep Elvex' droom niet beter dan wie dan ook.
Ze had simpelweg de moed om haar elektronenpistool te trekken en af te drukken.
Misschien is dát uiteindelijk de belangrijkste les.
Niet of we zonder AI kunnen.
Maar of er, wanneer het erop aankomt, nog iemand is die vastberaden genoeg is om op de noodknop te drukken.
En of er daarna nog genoeg Mentats over zijn om alles draaiende te houden.
Tot slot
Ik weet nog steeds niet welk van deze drie scenario's werkelijkheid zal worden.
Alleen de tijd zal het leren.
Maar vanavond ga ik — net als een paar maanden geleden — toch nog even zelf controleren of alles in orde is.
Want uiteindelijk is blind vertrouwen op een rapport dat je niet zelf hebt nagekeken nooit een goed idee geweest.
Zelfs niet wanneer degene die het heeft geschreven slimmer is dan jij.
Het belangrijkste uitgangspunt van de Butleriaanse Jihad:
"Gij zult geen machine maken die lijkt op de menselijke geest."
— Dune, Frank Herbert