We kunnen steeds meer met AI, maar begrijpen steeds minder

Door Joost Marsman

Zomer 2023. Ik staar naar een knipperende cursor. Neem een slok koffie, rek me uit, verlos mijn ogen van het scherm en staar naar buiten. Er komt niks. Ik zucht, zwicht en tik: ‘Hey Chat, help me om …’ Nog voor ik mijn bakkie troost op heb, staat er een volledige blogpost klaar. Lekker gewerkt, Chat! Dan zet ik mijn eindredactiebril op. Oei. Ik schrap hele passages, trek kromme redeneringen recht en knip, plak, vloek, schuur en schaaf tot er een tekst staat die het publiceren waard is. Maar de lol is eraf.

Mijn conclusie destijds: AI die voor je schrijft produceert McCopy, fastfood voor de geest. Je wint tijd, maar verliest iets anders. Alleen wist ik nog niet precies wat. Ik denk dat ik er inmiddels achter ben, en het is gevaarlijker dan ik dacht.

Tech-investeerder Paul Graham schreef ooit: als je denkt zonder te schrijven, denk je alleen maar dat je denkt. Andersom geldt het ook. Als je schrijft zonder te denken, denk je alleen maar dat je schrijft. Je moet bereid zijn door de blubber van je eigen gedachten te ploegen om knopen te ontwarren, een rode draad te vinden, zijpaden te verkennen, verbanden te leggen die alleen in jouw hoofd kunnen ontstaan en daarmee een logisch en overtuigend verhaal op te bouwen. Als copy- en songwriter zie ik nu wat er verloren gaat als je dat proces overslaat.

En dat gaat verder dan schrijven.

Technologie is er om frictie weg te nemen en processen te versnellen. Maar bij cognitief werk is die frictie onderdeel van het proces. Juist door te worstelen, te zoeken en fouten te maken, doen we kennis en begrip op, trainen we onze creativiteit en ontwikkelen we ons oordeelsvermogen. Precies dat proces besteden we nu steeds vaker uit aan AI.

Zelf laat ik LLM’s allang niet meer voor me schrijven. Maar voor bijna alles eromheen staan ze inmiddels wel op de loonlijst. AI helpt me researchen en ideeën ontwikkelen, houdt mijn weekplanning bij en bouwt websites en andere digitale producten voor mijn bedrijven en opdrachtgevers. We schrijven nauwelijks nog zelf code; we praten tegen machines die dat voor ons doen. Taal is de nieuwe programmeertaal. AI-native werken betekent dat AI ook echt centraal staat. Niet aan de rand, maar in de core.

En juist daar begint me de laatste tijd iets op te vallen. AI wordt steeds autonomer. Als ik Claude vraag wat de beste stack is om een website te bouwen, krijg ik een overtuigend voorstel vol frameworks, databases en afkortingen. Ik kijk ernaar, knik ernstig en zeg: ‘Ziet er goed uit. Let's go.’ Vaak heb ik geen idee waarom Claude voor A kiest en niet voor B. Welke aannames eronder liggen. Welke alternatieven ze heeft verworpen. Ik weet alleen steeds beter hoe weinig ik eigenlijk weet. En daarmee dringt zich een ongemakkelijke vraag op: als ik steeds meer kan maken zonder te begrijpen wat er onder de motorkap gebeurt, verlies ik dan niet precies het vermogen om te beoordelen what good looks like?

In een discussie hierover (met ChatGPT) stuitte ik op The Ironies of Automation van onderzoeker Lisanne Bainbridge uit 1983, over menselijke operators in geautomatiseerde omgevingen zoals fabrieken en energiecentrales. Bainbridge ontdekte daarin een ironische paradox: hoe meer je een proces automatiseert, hoe meer de mens verandert van uitvoerder in toezichthouder. Wanneer de automatisering faalt, moet de mens ingrijpen. Maar dat wordt steeds moeilijker omdat diezelfde mens door de automatisering steeds minder de ervaring en vaardigheden heeft om dat goed te kunnen doen. Automatisering is geweldig, zolang het goed gaat. Maar wat als het misgaat?

Net zoals we niet hoeven te weten hoe elektriciteit werkt om een lamp te kunnen aansluiten, hoeven we ook geen code meer te kunnen schrijven om digitale producten te maken. Ik zie die kloof tussen kunnen en kennen de komende jaren heel snel groter worden, met alle risico’s van dien. De vraag is niet welk werk AI van ons kan overnemen, maar welke skills wij als operators van AI onder de knie moeten hebben. Volgens mij zijn dat er drie.

Oordeelvermogen

Op de socials gaat een filmpje rond van een piepjonge Memphis Depay die tegen een interviewer zegt: ‘Ik ga deze antwoord niet bevragen.’ Zijn zenuwachtige verhaspeling raakt voor mij de essentie van werken met AI. Vroeger moest je voor antwoorden een encyclopedie pakken, een boek lezen of een specialist bellen. Antwoorden waren schaars en dus waardevol. Nu AI onbeperkt geloofwaardige antwoorden kan produceren, verschuift de waarde naar het vermogen ze te beoordelen. Of, in de woorden van Memphis: we moeten leren de antwoorden te bevragen. Dat is veel moeilijker en ik zie het bijna niemand doen. Welke aannames zitten hierin? Welke informatie ontbreekt? Stellen we de juiste vraag? De gevaarlijkste fouten zijn die waarvoor je de kennis én de intuïtie mist om ze überhaupt als fout te herkennen.

Creativiteit

Automatisering is een zegen zolang de werkelijkheid zich gedraagt zoals verwacht. Maar omdat geschiedenis ons niets leert, behalve dat er iets zal gebeuren, kun je er donder op zeggen dat er iets fout gaat wat je niet van tevoren had kunnen bedenken. En da’s logisch, zou Cruijff roepen, want ‘voordat ik een fout maak, maak ik die fout niet'. Als de machine vastloopt of ontspoort, heb je weinig aan iemand die alleen de logische volgende stap kan zetten. Want dat had de (AI)-machine dan zelf wel gedaan. Hier heb je mensen voor nodig die een onverwacht verband zien, een aanname loslaten, om de vragen heen denken, een regel ter discussie stellen of het probleem vanuit een totaal andere hoek bekijken. Creativiteit is - onder andere - het vermogen om iets te bedenken waarvoor het bestaande proces geen instructies bevat. Om je een andere werkelijkheid voor te kunnen stellen. Hoe meer AI we gebruiken, hoe belangrijker dat vermogen wordt.

Intentie

AI kan analyseren, optimaliseren, plannen maken en een route uitstippelen naar vrijwel ieder doel. Maar wie bepaalt dat doel? ChatGPT heeft uit zichzelf geen ambities of dromen. Het is een machine die voorspelt wat het meest waarschijnlijke vervolg is op basis van gemiddelden, context en data. Maar waarschijnlijk is niet hetzelfde als wenselijk. En voorspellen is iets anders dan verlangen. Wij mensen kunnen besluiten dat we een toekomst willen die op basis van alle beschikbare data hoogst onwaarschijnlijk lijkt. We moeten dus niet alleen het antwoord bevragen en om de vragen heen denken, maar vooral onszelf afvragen: wat is hier allemaal de bedoeling van? Wat wil ik? Wat willen wij? AI kan routes voorstellen en zelfs de beste weg kiezen. Wij mensen moeten de doelen bepalen.

De kloof tussen wat we met AI kunnen en wat we ervan kennen, zal alleen maar groter worden. Vakmanschap in de creatieve sector draaide altijd al om oordeelvermogen, creativiteit en intentie. Laten we dus vooral het werk uitbesteden. Zolang we het vak maar niet verleren.