‘Bij DEUS nemen we ethiek vanaf het eerste uur mee’

In januari zag DEUS het licht. Afgelopen weekend deden ze mee aan ‘appathon’. De initiators over de noodzaak van ‘human-centered AI'.

Naast de zware houten deur van het statige grachtenpand aan de Amsterdamse Keizersgracht hangt een chic, gouden plaatje waarin in zwarte, futuristische kapitalen het woord ‘Deus’ is gegraveerd. Afgelopen januari presenteerde de AI-startup Deus zichzelf en zijn ‘Deus Initiative’ in een achterkamer van dit paleis en richtte daarbij een enigszins verontrustende boodschap tot Nederland: AI-technieken bestormen en veranderen momenteel als een deus ex machina het toneel van de wereldeconomie.

Is het Nederlands bedrijfsleven voldoende geëquipeerd om de snelle ontwikkelingen bij te benen? Het antwoord: er moet nog heel veel gebeuren wil ons land grootmachten als China of de VS kunnen bijhouden en niet gevaarlijk achter gaan lopen. Deus wil hier een bijdrage aan leveren, het verschil maken en het initiatief te nemen, ‘maar wel met de blik op de toegevoegde waarde van AI voor de mens’, benadrukt oprichter Ron Vrijmoet. Deus voegde al in januari de daad bij het woord door met de oprichting van het Deus Initiative, een platform waar bedrijven hun kennis en ervaringen over AI kunnen uitwisselen.

Inmiddels is er een nieuwe uitdaging bijgekomen: de bestrijding van het coronavirus. Afgelopen weekend was Deus een van de zeven uitverkoren bedrijven die van de 750 gegadigden mocht meedoen aan de ‘appathon’ van VWS. Een aardige prestatie voor een startup van nog geen vier maanden oud. ‘We wilden graag vanuit onze expertise iets bijdragen aan een oplossing voor deze crisis', aldus Nathalie Post.

Advertentie
advertisement

Bijbelse start

Vrijmoet bekleedt de functie van ‘capite procuratio’ (managing partner) bij Deus (Latijn voor ‘God’) en zijn rechterhand Post is ‘quaestus opifex’ (strategic lead). Het duo is zich bewust van de grote ambitie die van de naam Deus uitstraalt, ‘al is deze’, verzekert Vrijmoet, 'vooral ludiek bedoeld, net als overigens onze semi-Romeinse functietitels. We hebben natuurlijk wel goed over het merk en de naam nagedacht. ‘Deus beklijft goed in het geheugen.’ ‘Bovendien’, vult Post aan, ‘is Deus een acroniem dat staat voor "data, engineering, user experience (UX) en strategy"; termen die die de menselijke expertises benoemen die nodig zijn om adequate AI-toepassingen te bouwen.’

'AI moet ook niet gezien worden als de nieuwe God’, benadrukt Vrijmoet, ‘maar als een technologieveld waarbinnen zeer spectaculaire ontwikkelingen en innovaties plaatsvinden. Er zit wel iets goddelijks, iets scheppends in de AI-machine, waarmee het mogelijk wordt het functioneren van maatschappij, organisaties en mens te verbeteren. Deus wil, effectieve AI-oplossingen bouwen die voor mensen begrijpelijk zijn en die menselijke belangen dienen.

Het ‘Deus Initiative’

Deus zet zich met een kleine groep professionele discipelen in voor AI-oplossingen op alle sectoren binnen Nederland. Dat Nederland achterloopt en op AI-gebied afhankelijk dreigt te worden van het buitenland, geeft het techbedrijf een actuele raison d'être. Daarom hebben we gelijk met Deus ook het Deus Initiative opgezet. Het initiatief is aanzet tot het bouwen van een community bedoeld voor bedrijven, opleidingsinstituten en overheidsorganisaties om kennis en ervaringen op AI-gebied met elkaar uit te wisselen. Dat is nodig. Met de komst van het corona-virus is die noodzaak alleen nog maar duidelijker geworden.'

Vrijmoet kan zich voorstellen dat het initiatief gezien kan worden als een slimme tool om klanten binnen te halen, maar zweert bij het tegendeel. Financieel gewin is niet zijn voornaamste motivatie. Zijn vorige bedrijf werd in 2016 door Accenture gekocht. ‘Natuurlijk’, zegt hij bijna verontschuldigend, ‘de schoorsteen moet roken en Deus moet een succes worden, maar ik ben in de positie om primair te kunnen gaan voor iets dat daadwerkelijk impact heeft op de maatschappij en het leven van mensen.’

Het initiatief is volgens Post dan ook geen strategische zet, maar spontaan ontstaan uit het verkennend en oriënterend onderzoek dat voorafgaand aan de lancering van Deus is uitgevoerd. Vooral Post heeft zich ermee beziggehouden. ‘We hebben bij meer dan dertig grote Nederlandse organisaties, allen voorlopers op AI-gebied, gekeken hoe zij in praktijk omgaan met het ontwikkelen van AI binnen hun sector, en specifiek naar hoe zij de menselijke expertises daaromheen organiseerden. ABN Amro, Picnic, Shell en TomTom hebben onder meer aan het onderzoek meegedaan.’

De bevindingen bundelde Deus in een klein boekje met ‘10 commandments for creating bussiness-value with AI’; een soort best practices gevat in tien grondregels die businesses kunnen gidsen. Post: ‘Bedrijven bleken veel behoefte te hebben aan kennisuitwisseling met peers. Het Initiative voorziet in deze behoefte maar opereert onafhankelijk van Deus. We denken erover om het Initiative de rechtsvorm van een stichting te geven, om de onafhankelijkheid te waarborgen. Een aantal aansprekende bedrijven doet al mee, maar we willen ook graag dat overheidsorganisaties participeren.’

Meer nodig dan enkel data-wetenschappers

Deus is net als het Initiative in de woorden van Post en Vrijmoet ‘humanity centred’, dus gericht op een passende match tussen artificial intelligence-techniek en een specifieke business maar waarbij altijd het menselijke gebruik van de uiteindelijke toepassing centraal staat.

Wat wil dat precies zeggen? Post legt uit: ‘AI wordt vaak vanuit de techniek aangevlogen. Er wordt dan te weinig nagedacht over wat er nog meer nodig is om AI in een specifieke organisatie en businessomgeving goed en efficiënt in te zetten. Data-wetenschappers zijn soms geneigd om de meest geavanceerde en complexe algoritmes te gebruiken, terwijl een simpeler model ook volstaat. Wij kijken daarom ook naar de techniek in de context van de menselijke kant, de organisatie, functie en het user experience-design. Om die blend van diensten draait het bij Deus.’

Van kardinaal belang voor het vinden van een passende AI-oplossing is dat de juiste ambachten bij elkaar worden gezet. Vrijmoet: ‘Een datascientist weet veel van data-modellen en algoritmes, maar beseft niet altijd wat er in een specifieke business relevant is en kan dus ook niet alleen bepalen hoe en op welke wijze AI een specifieke toegevoegde waarde kan hebben. Je hebt ook mensen nodig die kennis van AI hebben en die begiftigd zijn met business acumen. Tegenwoordig noemen we dat een analytics translator. Nathalie is daar een mooi voorbeeld van. Daarbij zijn topspecialisten op gebied van service-design en engineering ook cruciaal. Als je deze vier disciplines aan tafel zet, dan kun je passende AI-oplossingen creëren.’

Genesis bij MOBGEN

Het idee voor Deus is ontstaan in de tijd bij Accenture Interactive, waar Vrijmoet na de overname van zijn bedrijf MOBGEN door Accenture tot eind vorig jaar nog directeur was en waar Post na haar bachelor kwam te werken. MOBGEN is in 2009 door Vrijmoet en partner Richard Olyerhoek en Nick Mueller opgericht, het drietal dat samen met Danny Verloop en Nathalie Post nu aan de wieg staat van Deus.

Vrijmoet kijkt met genoegen terug op zijn tijd bij Accenture/MOBGEN. ‘In 2016 werden we onderdeel van het grote Accenture. Zij waren bezig om een digital agency te bouwen en die wilden heel graag onze service design- en IT-skills in huis halen. Van een gespecialiseerd IT-bedrijf werden we met Accenture een groot end2end digital agency. Samen met Nick en Richard heb ik het integratieproces vormgegeven. Toen dit proces was afgerond hadden we zoiets van: what’s next?’

Next came AI en het idee voor Deus. Vrijmoet wijst op de parallellen tussen de begintijd van MOBGEN en die van Deus nu. ‘We zijn anderhalf jaar na de lancering van de iPhone met MOBGEN begonnen, toen iedereen nog met Blackberry’s en Nokia klaptelefoontjes rondliep. Bedrijven waarmee we spraken hadden echt iets van “wat komen jullie doen?”. Nu is dat met betrekking tot AI vaak niet anders.’

Een ethische Deus

Een van de belangrijkste thema’s bij de ontwikkeling van AI is ethiek. Gezien de gevallen van discriminerende algoritmes en alle privacy-issues rondom bijvoorbeeld de advertentie-algoritmes van Facebook, is er behoefte aan een sterke focus op ethiek. ‘Dat is en blijft mensenwerk’, zegt Vrijmoet. ‘We zijn ons zeer bewust van het belang van de noodzaak van ethische kaders bij het bouwen van AI’s. Een van de ‘10 commandments’ uit ons vooronderzoek luidt niet voor niets “Create ethical AI”. Vaak nemen organisaties ethiek niet of te laat mee. Wij nemen het vanaf het eerste uur mee.’

Post geeft een voorbeeld: ‘Zo keurde een AI die was ontworpen om pasfoto's te controleren een foto van een Aziatische man af omdat zijn ogen dicht zouden staan. Dat wijst erop dat de dataset van deze AI waarschijnlijk niet divers genoeg was. Het is daarom van belang dat de teams die AI-toepassingen ontwerpen zelf ook divers van samenstelling zijn, waardoor dit soort fouten kunnen worden voorkomen. ‘In het samenstellen van ons eigen team is diversiteit ook cruciaal. Ook met betrekking tot ons voorstel voor een corona-app is ethiek, in dit geval de verzekering van de privacy van de gebruiker, ons uitgangspunt geweest.’

Volgens Vrijmoet is diversiteit van de bouwende teams een belangrijk fundament maar kan er meer worden gedaan: ‘Ethische beginselen moeten meegenomen worden bij het opstellen van de requirements, voorafgaand aan het ontwikkelen en trainen van de AI-modellen. Dat doen wij ook. Dit geldt voor diversiteit, maar ook voor bijvoorbeeld het waarborgen van de privacy van de personen waar data van wordt gebruikt.’ Een Deus als een moreel kompas dus, met de menselijke maat als uitgangspunt.

Een verantwoorde corona-app

‘Ethiek is ook bepalend geweest voor ons voorstel tijdens de appathon die VWS afgelopen weekend organiseerde, vertelt Post. ‘Privacy op één is altijd ons uitgangspunt geweest: geen gebruik of opslag van persoonlijke gegevens.’

In de media waren veel kritische geluiden te horen over de appathon en de corona-apps die aan bod kwamen. De gepresenteerde corona-apps waren ‘onvoldoende uitgewerkt’, zo liet de Autoriteit Persoonsgegevens weten en experts lieten zich kritisch uit over de ‘gehaaste selectieprocedure’ die aan het event voorafging.

Vrijmoet wijst ter nuancering van dit beeld op de vragen die bij de tender werden gesteld. ‘De overheid wilde weten welke slimme oplossingen en technieken er zijn om een privacy-beschermende app te ontwikkelen waarmee mensen gewaarschuwd kunnen worden als zij in contact zijn geweest met een coronapatiënt. Een andere vraag was meer van hoe en met welke app-data de GGD geholpen is. Die vragen openen een belangrijk spectrum. Wij hebben onze app ontwikkeld met het oog op de functionaliteit van de eerste vraag. Onze app bouwt voort op een bestaande open-source-techniek (DP-3T) die is ontwikkeld door zeven Europese universiteiten. Persoonlijke data worden door de app niet opgeslagen.

Het app-voorstel van Capgemini en Accenture was volgens Vrijmoet meer op de data-behoefte van de GGD gebaseerd. De GGD heeft, om echt op afstand mensen te helpen en te onderzoeken wie het virus heeft, wél op enigerlei wijze persoonlijke gegevens nodig. Nu doen ze dat nog handmatig door te bellen. Behalve dat dit veel complexere apps zijn die niet even snel ontwikkeld en uitgerold kunnen worden, spelen daarbij natuurlijk juist diverse privacy-issues een rol.’

Welke app de beste is, is volgens Post en Vrijmoet op dit moment nog niet de belangrijkste vraag. 'Het gaat erom vat te krijgen op welke ethische keuzes er in verband met de techniek en functionaliteiten een rol spelen. Dus wat is de rol van de overheid, welke keuzes moeten er gemaakt worden wat betreft het (niet) opslaan van data en is een app überhaupt wel de oplossing? Het is ook onze core-business als Deus om in deze discussie een rol te spelen. In die zin zijn er dit weekend zeker een paar flinke en belangrijke stappen in de goede richting gezet.’

Ron Vrijmoet gaat vanmiddag om 16.30 uur tijdens Adformatie Connects Live in gesprek met Jeroen van Erp (TU Delft) en Ben van der Burg (Triple) over de corona-apps en innoveren in crisistijd.

 

Plaats als eerste een reactie

Advertentie