OpenAI is met een nieuwe versie van chatbot ChatGPT gekomen, speciaal voor tieners. Deze is voorzien van strengere beveiligingen, omdat het bedrijf eerder kritiek kreeg dat zijn chatbot sommige gebruikers tot zelfmoord zou hebben gedreven.
De versie wordt automatisch ingeschakeld als iemand zich registreert als 13- tot 17-jarige. Ook gebeurt dit als gebruikspatronen erop wijzen dat het waarschijnlijk om een minderjarige gaat.
Maatregelen tegen suïcide
Volgens OpenAI herinnert de versie vaker om pauze te nemen en zijn er 'stille uren' waarin de dienst wordt geblokkeerd. Ook mag de chatbot niet suggereren dat deze een eigen bewustzijn bezit. En ouders kunnen een waarschuwing krijgen als wordt gesproken over zaken als zelfbeschadiging of suïcide.
De tienermodus komt te midden van toenemende druk van toezichthouders. OpenAI wordt ook geconfronteerd met verschillende rechtszaken, waaronder die van de ouders van de 16-jarige Adam Raine, een tiener die zelfmoord pleegde, naar verluidt met methoden die door ChatGPT werden geadviseerd.
Bron: ANP
Reacties:
Om een reactie achter te laten is een account vereist.
Inloggen Abonneer nu