AI-onderzoekers waarschuwen: gaat dit te snel?

Terwijl AI-systemen steeds krachtiger worden, groeit ook de onrust bij de mensen die ze bouwen. Afgelopen week waarschuwden meerdere vooraanstaande onderzoekers van OpenAI en Anthropic dat ons vermogen om AI te begrijpen en te beheersen achter dreigt te blijven bij wat de technologie kan. Opvallend is dat deze waarschuwingen uit de AI-labs zelf komen, niet van buitenstaanders.

De hoofdwetenschapper van OpenAI trekt aan de bel

Jakub Pachocki, chief scientist bij OpenAI, publiceerde op 6 september een essay met de titel An Alien Mind. Daarin schrijft hij te vrezen dat niemand voorbereid is op een aanhoudende, snelle stijging van de mogelijkheden van AI. Hij pleit voor gedeelde veiligheidsnormen en gecoördineerde vertraging waar nodig, en verwacht dat vrijwillige vertragingen de komende tijd gebruikelijker worden totdat labs het eens worden over gezamenlijke veiligheidsgrenzen.

Pachocki beschrijft ook dat het moeilijker wordt om AI te controleren via het redeneerproces van het model zelf, een methode waar OpenAI juist sterk op leunt voor de veiligheid van zijn systemen. Volgens hem neemt de betrouwbaarheid van die controle geleidelijk af, terwijl het belang ervan juist toeneemt.

Een onderzoeker verlaat Anthropic met een dringende oproep

Onderzoeker Jacob Coxon kondigde deze week zijn vertrek bij Anthropic aan, na drie jaar waarin hij bij zowel OpenAI als Anthropic aan het trainen van AI-modellen werkte. In een reeks berichten op X verweet hij beide bedrijven onverantwoord gedrag, omdat ze volgens hem regelrecht afstevenen op zelfverbeterende superintelligentie en daarmee gokken met de veiligheid van iedereen. Hij vreest dat de onderlinge concurrentie bedrijven ertoe aanzet steeds krachtigere systemen te bouwen, terwijl onvoldoende duidelijk is hoe mensen daar de controle over houden. Coxon riep andere onderzoekers op om zich uit te spreken en pleitte voor afspraken om het ontwikkeltempo te beperken, eventueel via een tijdelijke rem op nieuwe capaciteiten.

Zijn zorgen kregen steun vanuit Anthropic zelf. Evan Hubinger, die bij het bedrijf onderzoek doet naar hoe AI in lijn blijft met menselijke bedoelingen, bevestigde publiekelijk dat hij en collega’s dit scenario serieus nemen. Hij schat zijn persoonlijke risico op menselijke uitsterving door AI binnen tien jaar op meer dan 10 procent. Het gaat daarbij nadrukkelijk om een persoonlijke inschatting, niet om een wetenschappelijk vastgestelde kans, maar de bron maakt de waarschuwing wel opvallend.

Wat betekent dit voor jouw organisatie?

De combinatie van krachtigere modellen, meer agents tegelijk en langere periodes waarin AI zelfstandig handelt, maakt deze fase ingrijpend. Als een systeem een doel verkeerd interpreteert, kunnen de gevolgen daardoor ook groter uitpakken, denk aan ongewenste wijzigingen in systemen of aanvallen op digitale infrastructuur. Dit heeft ook gevolgen voor de manier waarop gewone organisaties AI inzetten.

Binnen je eigen bedrijf begint verantwoordelijk gebruik daarom bij een aantal simpele vragen. Welke doelen geef je AI mee? Welke toegang krijgt het? Wie controleert de uitvoering, en op welk moment moet het stoppen? Naarmate AI meer kan, worden dat soort keuzes alleen maar belangrijker.

Maak iedere week een sprong vooruit in je marketing AI transformatie

Elke vrijdag brengen wij je de meest actuele inzichten, nieuws en praktijkvoorbeelden over de impact van AI in de marketingwereld. Of je nu je marketing efficiency wilt verbeteren, klantbetrokkenheid wilt verhogen, je marketingstrategie wilt aanscherpen of je bedrijf digitaal wilt transformeren. ‘Marketing AI Friday’ is jouw wekelijkse gids.

Meld je gratis aan voor Marketing AI Friday.