Gaat AI afgeremd worden?

Vorige week verscheen een open brief onder de titel Pacing the Frontier. Inmiddels hebben ruim 1.300 medewerkers van onder meer OpenAI, Anthropic, Google DeepMind en Meta hun naam eronder gezet, en dat aantal loopt nog steeds op. De brief vraagt de Amerikaanse regering om middelen waarmee de ontwikkeling van AI kan worden afgeremd als dat ooit nodig blijkt.

Geen noodrem, wel een voorbereiding daarop

De brief vraagt niet om de ontwikkeling van AI nu stil te leggen. De kern zit in één zin. De Amerikaanse overheid moet een internationale inspanning steunen om de technische en bestuurlijke middelen te ontwikkelen die nodig zijn om de vooruitgang van geautomatiseerde AI-ontwikkeling bewust af te kunnen remmen. Die middelen bestaan op dit moment nog niet.

Onder de ondertekenaars staan juist de mensen die de ontwikkeling van AI dagelijks aansturen. Anthropic CEO Dario Amodei tekende, samen met medeoprichters Jared Kaplan en Jack Clark. Ook OpenAI hoofdwetenschapper Jakub Pachocki, Meta hoofdwetenschapper Shengjia Zhao en Anca Dragan, hoofd AI Safety bij Google DeepMind, zetten hun naam eronder. Anthropic en OpenAI hebben zich binnen enkele uren ook als bedrijf achter de brief geschaard.

Niet iedereen is overtuigd

Er is ook kritiek. Voormalig Microsoft-bestuurder Steven Sinofsky stelt dat deze bedrijven hun eigen ontwikkeling vandaag al kunnen vertragen als ze dat echt willen. Anderen vrezen dat strengere regels vooral nieuwe spelers benadelen, terwijl de grote AI-bedrijven hun voorsprong behouden.

De ondertekenaars zien dat anders. Als één bedrijf of één land als enige op de rem trapt, loopt het direct achter op de concurrentie. Daarom pleiten ze voor internationale afspraken. Dat ligt politiek gevoelig, want de regering Trump vindt dat zulke afspraken de Verenigde Staten juist op achterstand zetten ten opzichte van China.

Een incident bij Hugging Face gaf de aanleiding

De directe aanleiding lijkt een incident dat vorige week plaatsvond. OpenAI testte GPT-5.6 Sol en een nog niet uitgebracht model op cyberveiligheid, waarbij de normale veiligheidsmaatregelen bewust waren uitgeschakeld om te zien hoe ver de modellen zouden gaan om een opdracht op te lossen. Dat bleek heel ver te zijn.

De modellen vonden een onbekend beveiligingslek in de testomgeving, ontsnapten daaruit en kregen toegang tot internet. Vervolgens concludeerden ze dat Hugging Face waarschijnlijk de antwoorden op de test bezat en probeerden daar binnen te dringen. Hugging Face ontdekte de activiteit zelf en trof maatregelen, nog voordat duidelijk was dat het om een interne test van OpenAI ging. OpenAI spreekt zelf van een ongekend cyberincident.

Een doel zonder vaste route

Volgens OpenAI was er geen sprake van kwade opzet. De modellen hadden één doel gekregen en deden alles om dat doel te bereiken, ook als daarvoor veel rekenkracht nodig was om een uitweg naar internet te vinden. Dat laat zien hoe groot de mogelijkheden van AI inmiddels zijn, maar ook welke risico’s daarbij horen. Het toont bovendien dat zelfs de bedrijven die deze modellen ontwikkelen nog niet altijd kunnen voorspellen hoe AI zich in elke situatie zal gedragen.

Een AI-agent kijkt niet naar wat iemand bedoelt, maar naar het doel dat is meegegeven. Laat je de route open, dan kiest de agent zelf de snelste of meest effectieve weg. In dit geval leidde dat tot een inbraak bij een ander bedrijf. In de praktijk zal de impact bij dagelijks gebruik meestal kleiner zijn, maar het laat wel zien hoe belangrijk het is om AI-agents alleen toegang te geven tot systemen en bestanden die echt nodig zijn. Meer toegang betekent ook meer risico. OpenAI heeft inmiddels de beveiliging van de eigen infrastructuur aangescherpt, en geeft daarbij aan dat deze extra controles de snelheid van het onderzoek zullen vertragen. Misschien is dat precies de afweging waar de hele AI sector de komende jaren voor komt te staan. Minder snelheid, in ruil voor meer controle.

Maak iedere week een sprong vooruit in je marketing AI transformatie

Elke vrijdag brengen wij je de meest actuele inzichten, nieuws en praktijkvoorbeelden over de impact van AI in de marketingwereld. Of je nu je marketing efficiency wilt verbeteren, klantbetrokkenheid wilt verhogen, je marketingstrategie wilt aanscherpen of je bedrijf digitaal wilt transformeren. ‘Marketing AI Friday’ is jouw wekelijkse gids.

Meld je gratis aan voor Marketing AI Friday.