AI-bazen slaan alarm over eigen technologie: zit daar meer achter?

De bazen van Anthropic, OpenAI, Grok en Gemini roepen gezamenlijk op tot een vertraging van de ontwikkeling van AI. Zij zouden zich zorgen maken omdat het 'de mensheid kan uitroeien'. Moeten we ons zorgen maken? Dat valt wel mee, volgens Joe van Burik, AI-deskundige bij BNR Nieuwsradio. 'AI-makers bezorgen zichzelf hiermee een plek aan de onderhandelingstafel.'

Van Burik erkent dat AI-systemen steeds krachtiger worden en bijvoorbeeld zelfstandig kwetsbaarheden in computersystemen kunnen opsporen en misbruiken. Toch vindt hij doemscenario’s over losgeslagen AI en killerrobots voorbarig. 'Dat gaat niet gebeuren. Dat is nog steeds in handen van die mensen.'

Volgens hem zitten grote AI-bedrijven vooral gevangen in een onderlinge wedloop om steeds krachtigere systemen te ontwikkelen. Met hun waarschuwingen vragen ze overheden in feite om hen tegen zichzelf te beschermen.

AI-bedrijven proberen invloed op regels te krijgen

Volgens Van Burik spelen er achter de waarschuwingen ook economische en geopolitieke belangen. Amerikaanse AI-bedrijven willen China voorblijven en hebben er belang bij om mee te praten over eventuele nieuwe regels. Van Burik noemt daarbij 'regulatory capture': bedrijven waarschuwen zelf voor een probleem en verzekeren zich daarmee van een plek aan tafel wanneer overheden regels gaan maken.

Dat de waarschuwingen vooral voortkomen uit de angst dat AI binnenkort de mensheid uitroeit, betwijfelt hij dan ook. 'Het is heel ontransparant om te zien: waarom zeg je dit nou eigenlijk?'