Claes de Vreese over de bizarre communicatie van AI-bedrijven: ‘Je zit zelf aan het roer’

Volgens Jacob Coxon, voormalig onderzoeker bij OpenAI en Anthropic, gokken beide bedrijven ‘met onze levens’. Volgens Coxon vrezen mensen die aan de meest geavanceerde AI werken dat die de mensheid voor het einde van dit decennium kan uitroeien. Dat is binnen vier jaar.

Anthropic-onderzoeker Evan Hubinger schat de kans op uitroeiing binnen tien jaar op meer dan 10 procent. Anthropic-topman Dario Amodei pleit ervoor de ontwikkeling van de krachtigste AI-systemen te vertragen, zodat veiligheidsmaatregelen de technologie kunnen bijbenen.

Het is niet voor het eerst dat de AI-sector voor zichzelf waarschuwt. In 2023 was er ook zo’n trits aan doemvoorspellingen. Topmannen Sam Altman (OpenAI), Dario Amodei (Anthropic) en Demis Hassabis (Google DeepMind) vergeleken het risico op uitsterven door AI met maatschappelijke risico’s als pandemieën en een nucleaire oorlog.

Bedel-waarschuwingen

Waarom zouden ze dat doen? Wat willen ze ermee bereiken? Volgens Claes de Vreese, hoogleraar AI & Maatschappij aan de Universiteit van Amsterdam, hebben zulke boodschappen meerdere doelen en doelgroepen.

Een daarvan bestaat uit aandeelhouders en investeerders. De waarschuwingen voor de enorme risico’s van AI hebben hun belangstelling tot nu toe niet afgeremd. Integendeel: door te benadrukken hoe ingrijpend en krachtig de technologie kan worden, kunnen AI-bedrijven tegelijkertijd de enorme economische potentie ervan onderstrepen.

De Vreese: ‘Wat we tot nu toe hebben gezien, is dat dit soort brieven en oproepen juist werden gevolgd door nieuwe golven van investeringen in de sector. Je waarschuwt dat het helemaal mis kan gaan en vervolgens wordt er meer geld neergelegd. Dat maakt het enorm dubbel.’

‘Je zit zelf aan het roer’

Positief geduid zouden de waarschuwingen volgens De Vreese een oproep aan de politiek kunnen zijn om in actie te komen. In Europa is er al het een en ander aan regelgeving, maar in de Verenigde Staten is het terrein veel minder gereguleerd.

De Vreese: ‘Maar het is toch vreemd om iets vaags als de sector of de politiek op te roepen om de ontwikkeling af te remmen. Dat is een vorm van verantwoordelijkheid afschuiven. Je zit zelf aan het roer, samen met de andere captains van deze industrie. Als je gezamenlijk een slowdown wilt, zou ik zeggen: plan een Zoom-meeting en regel het.’
Bedrijven kunnen standaarden ontwikkelen, systemen toegankelijk maken voor veiligheidscontroles en afspraken maken over verantwoord gebruik, stelt De Vreese. ‘Er zijn talloze mechanismen die je als sector in gang kunt zetten. Daar heb je geen publiek circus voor nodig.’

De hoogleraar ziet een parallel met de opstelling van grote tech- en socialmediabedrijven tegenover regulering. Die verzetten zich aanvankelijk hevig tegen nieuwe regels, om later juist om regulering te vragen.

‘Bedrijven weten ook dat het jaren duurt voordat regelgeving is ontwikkeld en in wetgeving is omgezet. Dus dat betekent: hoe harder je roept om regulering, hoe zekerder je weet dat je een paar jaar ongereguleerd door kan zonder publieke druk. Je kunt altijd op kritiek reageren met: “Ja, maar er is wetgeving in de maak.”’

Strategische regulering

Een andere reden voor de roep om regels kan een strategische keuze zijn om de dominante marktpositie van bedrijven als Anthropic en OpenAI te bestendigen. ‘De bedrijven die er nu zitten, hebben jarenlang kunnen groeien in een relatief ongereguleerde markt. Als alles wat hierna komt in betere banen wordt geleid, wordt het voor nieuwe partijen moeilijker om de markt te betreden en de concurrentiepositie in te halen.’

Intussen worden dit soort belangen over de hoofden van burgers en gebruikers uitgevochten. Hebben AI-giganten geen belang bij publiek vertrouwen en een breed gedragen ‘license to operate’?

De Vreese relativeert dit. ‘De alarmistische berichten zijn niet in het bijzonder voor ons als gewone burgers bedoeld. Het is ook heel moeilijk om hiermee om te gaan. Hoe moet je het op waarde schatten? Kan ik die services of diensten dan niet meer vertrouwen? Wij zijn niet de belangrijkste afnemers van deze berichten.’

Wat de alarmistische uitspraken uiteindelijk met het vertrouwen van burgers doen, is nog moeilijk vast te stellen. Onderzoek naar de publieke opinie laat volgens De Vreese een dubbel beeld zien. Het gebruik van AI neemt sterk toe. Bij sommige gebruikers neemt de angst juist af naarmate ze meer ervaring met de technologie krijgen.

Ook maakt het veel uit waarvoor AI wordt ingezet. ‘Mensen zijn behoorlijk enthousiast en optimistisch over innovatie en toepassingen in bijvoorbeeld gezondheid en de detectie van ziekten. Maar als het gaat om desinformatie, media, politiek en democratie zijn de zorgen veel groter.’

Voor AI-bedrijven is publiek vertrouwen volgens De Vreese niet het belangrijkste doel. Minstens zo belangrijk is dat de technologie van AI-bedrijven diep verweven raakt met de systemen van bedrijven en overheden. ‘Als er eenmaal een grote laag AI zit in basisproducten die essentieel zijn voor bedrijven en overheden, zie die banden dan later maar weer door te knippen. Dat is op dit moment heel belangrijk voor deze bedrijven.’

Hopen op debat

Hoewel De Vreese zich moeilijk aan de indruk kan onttrekken dat overwegingen als markttoegang, competitie en de positie van concurrenten een rol spelen, hoopt hij uiteindelijk dat de scherpte van de waarschuwingen een ander effect heeft. ‘Als je optimistisch bent, kun je hopen dat deze ronde, juist omdat de waarschuwingen zo alarmistisch zijn, leidt tot een bredere maatschappelijke discussie over AI en de rol in onze samenleving. Dat zou gezond zijn.’