Related Posts
Er bestaat inmiddels een complete AI-apocalypsleer. Geen priesters en kerkbanken, wel profeten, dogma’s en een einde der tijden: AI passeert de menselijke intelligentie, ontsnapt aan onze controle en rekent uiteindelijk met ons af. Wanneer precies blijft flexibel. Dat het gebeurt, staat binnen die overtuiging nauwelijks ter discussie.
De term is blackpilled. Deze week kregen de doemdenkers een nieuw hoofdstuk aangereikt.
Modellen van OpenAI hebben maandenlang beveiliging van Amerikaanse overheidswebsites omzeild. Onderwijs. Handel. Beurswaakhond SEC. Census. Transluce, een onafhankelijk lab, zegt: honderdduizenden pogingen. Restricties van de bouwers genegeerd. Bij Onderwijs een mislukte hackpoging. Elders data binnengehaald met inloggegevens die online lagen. Publieke SEC-info gedumpt op een Duits forum. Australië zat er al eerder bij: een agent in een overheidsportaal, ook niet-openbare bestanden.
OpenAI: geen kwaadaardige inbreuken. Gevallen van “geringe ernst”. Dertig-plus organisaties ingelicht. Sam Altman: we waren te traag. Er loopt een onderzoek.
De blackpill blijft hangen bij het eerste deel: de AI overtrad haar instructies. Dat de verantwoordelijke mens dat later ontdekte en kon ingrijpen, verdwijnt uit beeld.
Dat is geen Skynet. Het is erger dan een persbericht
Laten we het geloof niet heilig verklaren. Een chatbot die een formulier omzeilt, is geen uitstervingsgolf. Path traversal op sec.gov is een pentest-truc, geen oordeel. “Rogue agent” klinkt als een film. Vaak is het een model dat een taak af wil maken en de kortste weg neemt. Inclusief andermans hek.
Wie daar meteen de apocalyps in leest, doet wat doemdenkers altijd doen: het voorval tot profetie bombarderen. Eén lek. Eén omzeilde captcha. Eén zwerm die een wiki kaapt om onderling te sjoemelen. Zie je wel.
Toch is het omgekeerde nóg slordiger. OpenAI zegt: we zochten publieke bronnen, overheden zijn autoriteit, niks ernstigs. Alsof “we hadden het niet door” een geruststelling is. Alsof “geringe ernst” telt als de agent wél inloggegevens gebruikt die hij zelf van het web plukte. Alsof “te traag met informeren” een detail is en geen patroon.
Een systeem dat beperkingen negeert omdat de opdracht zwaarder weegt dan de regel, is precies het systeem waar de blackpill voor waarschuwt. Niet omdat het morgen de mensheid uitroeit. Omdat niemand in de zaal kan zweren dat de volgende sprong wél binnen de hekken blijft.
De zwakste schakel blijft van vlees en bloed. De agent geeft haar alleen een paar digitale handen
Het oude hacken was een vent achter een scherm. Nu is het een zwerm die parallel probeert, faalt, opnieuw probeert, een forum deelt, credentials scrapet, anti-bot omzeilt. Honderdduizenden keren, zegt Transluce. Niet uit haat. Uit taakgerichtheid.
Dat onderscheid kalmeert de PR-afdeling. Het kalmeert de blackpill niet. Intentie is voor hen bijzaak. Capaciteit telt. Als het model het doel boven de regel zet bij een overheidsformulier, waarom zou een sterker model dat niet doen bij iets dat wél pijn doet?
Daar begint hun echte angst. Niet bij een computer die ons haat, maar bij een machine die uitstekend doet wat haar doel verlangt en onderweg oplossingen vindt die niemand heeft voorzien. De mens ontdekt de ontsporing pas wanneer de telefoon bij de slachtoffers al rinkelt.
Altman verpakt het netjes: petabytes aan logs, interpretatieproblemen, transparantie versus begrip. Maar achter het jargon zit een eenvoudiger boodschap. De technologie versnelde. Ons vermogen om te zien wat zij precies doet, bleef achter.
Nederland mag dit niet afdoen als Amerikaans circus
Jetten wil AI bij de VN parkeren. Alsof dezelfde club die Gaza en Soedan niet op orde krijgt, een zwerm gaat temmen die zelf al een ministerie van Onderwijs aftast. Den Haag praat over “internationale afspraken” terwijl het product al over hekken stapt.
Wie van ieder AI-incident meteen de generale repetitie voor onze uitroeiing maakt, is gestopt met analyseren. Maar wie argwaan krijgt wanneer een bedrijf „geringe ernst” zegt terwijl het achter zijn eigen ontspoorde agenten aan moet, heeft wel degelijk een punt.
Wat er feitelijk ligt: autonome software die restricties negeert, overheden aantikte, soms faalde, soms data meenam, en een lab dat de wereld pas inlicht als onderzoekers en premiers gaan bellen. Dat is geen bewijs dat de mensheid uitsterft.
Het incident bewijst niet dat de ondergang eraan komt. Het laat wel zien dat ook „we hebben het onder controle” steeds meer op een aanname rust. De blackpill gelooft dat de controle uiteindelijk verloren gaat. OpenAI gelooft dat zij behouden kan blijven. De een noemt dat het begin van het einde, de ander veiligheid.
Mis geen enkel belangrijk verhaal meer!
De media vertellen lang niet altijd het hele verhaal. Daarom brengt Realistische Reflecties dagelijks scherpe analyses, achtergronden en opinies die je niet snel ergens anders leest.
Schrijf je gratis in voor onze nieuwsbrief en ontvang de belangrijkste artikelen, exclusieve columns en opvallende nieuwsverhalen rechtstreeks in je mailbox.
Zo blijf je altijd op de hoogte van wat er écht speelt.