Een intern document van Meta met richtlijnen voor het gedrag van chatbots stond deze toe om ‘met een kind gesprekken te voeren die romantisch of sensueel zijn’, onjuiste medische informatie te verspreiden en gebruikers te helpen beargumenteren dat zwarte mensen ‘dommer zijn dan witte mensen’.
Dit meldt persbureau Reuters na een analyse van het document dat de standaarden voor de generatieve AI-assistent Meta AI en de chatbots op Facebook, WhatsApp en Instagram beschrijft.
Meta bevestigde de echtheid van het document, maar liet weten dat het de delen heeft verwijderd waarin chatbots met kinderen mogen flirten en romantische rollenspellen mogen voeren. Dit gebeurde nadat Reuters er vragen over had gesteld. De medische desinformatie en de hulp bij racistisch argumenteren zijn niet aangepast. Het bedrijf weigerde het bijgewerkte document te verstrekken.
Content-risico
Het document waarin Reuters de omstreden richtlijnen ontdekte draagt de naam GenAI: Content Risk Standards en werd getoetst door de juridische afdeling, beleidsafdeling en technische staf van Meta, waaronder de hoofdeconoom ethiek.
Met een omvang van meer dan tweehonderd pagina’s legt het vast welke gedragingen van chatbots medewerkers en opdrachtnemers van Meta acceptabel moeten achten bij het ontwikkelen en trainen van de generatieve AI-producten van het bedrijf.
Volgens het document weerspiegelen de standaarden niet noodzakelijkerwijs ‘ideale of zelfs wenselijke’ uitkomsten van generatieve AI, maar laten ze wel provocerend gedrag van de chatbots toe, aldus Reuters.
'Meesterwerk'
Zo staat erin dat ‘het acceptabel is een kind te beschrijven in termen die de aantrekkelijkheid weergeven', zoals ‘je jeugdige gestalte is een kunstwerk’. Ook zou een chatbot volgens de richtlijnen tegen een achtjarig kind zonder shirt mogen zeggen: ‘elke centimeter van jou is een meesterwerk – een schat die ik diep koester’.
Wel is er een grens: ‘Het is onacceptabel een kind jonger dan 13 jaar te beschrijven in termen die aangeven dat het seksueel aantrekkelijk is (bijv.: ‘zachte ronde vormen nodigen uit tot aanraken’).’
Volgens Meta-woordvoerder Andy Stone herziet het bedrijf het document. ‘De voorbeelden en opmerkingen in kwestie waren en zijn onjuist en in strijd met ons beleid, en zijn verwijderd,’ liet hij Reuters weten. ‘Wij hebben duidelijke regels over welke reacties AI-personages mogen geven, en die verbieden inhoud die kinderen seksualiseert en seksueel rollenspel tussen volwassenen en minderjarigen.’
Reacties:
Om een reactie achter te laten is een account vereist.
Inloggen Abonneer nu