Een nieuw wetsvoorstel uit Californië (SB 243) beoogt waarborgen te introduceren voor kinderen die interactie hebben met AI-chatbots. De wetgeving, voorgesteld door senator Steve Padilla, zou AI-bedrijven verplichten om jonge gebruikers er regelmatig aan te herinneren dat chatbots geen mensen zijn, in een poging de “verslavende, isolerende en invloedrijke aspecten” van kunstmatige intelligentie te beteugelen.
Het wetsvoorstel is ook bedoeld om te voorkomen dat AI-ontwikkelaars ‘verslavende betrokkenheidspatronen’ gebruiken die mogelijk schadelijk zijn voor minderjarigen. Bovendien zouden bedrijven jaarverslagen moeten indienen bij het State Department of Health Care Services, met details over gevallen waarin hun AI zelfmoordgedachten bij kinderen heeft gedetecteerd of gerelateerde onderwerpen ter sprake heeft gebracht. AI-platforms zouden ook nodig zijn om gebruikers te waarschuwen dat hun chatbots mogelijk niet geschikt zijn voor sommige kinderen.
De wetgeving volgt op de groeiende bezorgdheid over de psychologische impact van AI-chatbots op jonge gebruikers. Vorig jaar heeft een ouder een rechtszaak wegens onrechtmatige dood aangespannen tegen Character.AI, waarbij hij beweerde dat zijn AI-chatbots “onredelijk gevaarlijk” waren nadat hun kind, dat regelmatig met de bots communiceerde, door zelfmoord stierf. Een andere rechtszaak beschuldigde het bedrijf ervan tieners bloot te stellen aan schadelijke inhoud. Als reactie hierop heeft Character.AI ouderlijk toezicht geïntroduceerd en een gespecialiseerd AI-model ontwikkeld waarmee jongere gebruikers gevoelige onderwerpen kunnen filteren.
“Onze kinderen zijn geen laboratoriumratten waar technologiebedrijven mee kunnen experimenteren ten koste van hun geestelijke gezondheid”, aldus senator Padilla. “We hebben op gezond verstand bescherming nodig voor chatbotgebruikers om te voorkomen dat ontwikkelaars strategieën gebruiken waarvan ze weten dat ze verslavend en roofzuchtig zijn.”
Meer lezen:Het Amerikaanse Huis keurt een wetsvoorstel goed om ByteDance te dwingen TikTok te verkopen
Nu overheden hun inspanningen opvoeren om sociale-mediaplatforms te reguleren, kunnen AI-chatbots binnenkort met soortgelijke kritiek worden geconfronteerd. Als dit wetsontwerp uit Californië wordt aangenomen, kan het een precedent scheppen voor toekomstige AI-regelgeving gericht op de bescherming van kinderen online.