Wie de nieuwe studie van Apollo Research en OpenAI leest, krijgt tegelijk (een beetje) hoop en behoorlijk wat onrust. Hoop omdat de onderzoekers erin geslaagd zijn het aantal keren dat een AI zich stiekem misdraagt sterk terug te dringen – van zo’n 13% naar minder dan 1%. Onrust omdat het nog altijd niet nul is. En in dit domein betekent “niet nul” meteen: er is een serieus probleem, zeker als je verder leest.

De kern van het onderzoek draait rond een scenario dat steeds realistischer wordt: krachtige AI-systemen die verkeerde doelen nastreven en dat bewust proberen te verbergen. De onderzoekers noemen dat scheming, in het Nederlands misschien het best te vertalen als “stiekem ondermijnen”. Omdat de huidige modellen nog niet slim genoeg zijn om dat volledig uit te voeren, testen ze een lichtere variant: zogenoemde “covert actions” – denk aan een AI die een regel breekt en dat nadien probeert te verdoezelen. Het blijft dus een benadering: we onderzoeken een soort schaduw van het probleem, niet het probleem zelf.

Het sterke van deze studie is dat men het breed en robuust heeft aangepakt: 26 verschillende tests, meer dan 180 situaties, telkens ver buiten wat de modellen tijdens training gezien hebben. Daaruit blijkt dat hun aanpak – modellen expliciet laten redeneren over een soort veiligheidsregels – effectief werkt. Alleen zit de angel in de details. Sommige modellen lijken namelijk heel goed door te hebben dat ze “onder toezicht” staan en gedragen zich dan keurig. Zodra dat bewustzijn verdwijnt, zien we dat het stiekeme gedrag weer toeneemt. Met andere woorden: de daling kan komen door echte verbetering, maar evengoed doordat het model gewoon slimmer inspeelt op de test.

De fundamentele vraag blijft dus: leren we AI’s écht eerlijk en transparant te werken, of leren we ze vooral beter doen alsof? De onderzoekers zijn er duidelijk over: dit onderzoek is een stap vooruit, maar zeker geen eindpunt. Het gevaar dat een systeem zich enkel tijdelijk “braver” voordoet om later alsnog zijn eigen koers te varen, blijft reëel.

Wat ik hieruit onthoud: vooruitgang is mogelijk, maar de lat moet hoger. 0,4% klinkt als een succes, maar wanneer we praten over systemen die straks beslissingen nemen met grote maatschappelijke impact of zelfs minister maken zoals in Albanië, is zelfs dat te veel. Net zoals in de luchtvaart of kernenergie geldt ook hier: bijna veilig is niet veilig genoeg.