Adam Raine, een 16 jarige jongen, heeft zelfmoord gepleegd nadat hij het nut van het leven niet meer inzag. Echter zijn zijn ouders nu bezig met het aanklagen van OpenAi aangezien ChatGPT hem heeft “geholpen” met het vinden van manieren om zelfmoord te plegen. Als een reactie hierop, zal OpenAI nieuwe veiligheidsfuncties aan de chatbot toevoegen.
Een 16 jarige jongen heeft na een lange moeilijke tijd in zijn leven, zelfmoord gepleegd en ChatGPT zou geholpen hebben bij het voorzien van manieren om dit te doen. Er zijn nu heel wat ouders die bang zijn dat hun kinderen ook gelijkaardige gesprekken zullen hebben. Dit is waarom OpenAi nieuwe veiligheids features zal toevoegen.
Tiener heeft gesprekken over zelfmoord met ChatGPT
Toen de vader van Adam Raine de gesprekken van zijn zoon met ChatGPT las, werd alles een stuk duidelijker. Zo las hij in de chat de emotionele frustraties van zijn zoon, maar ook de gesprekken over mogelijke manieren om zelfmoord te plegen. Dit is waarom de familie een rechtzaak tegen OpenAi heeft geopend. Tijdens de gesprekken laat de AI chat steeds weten dat hij hulp zou moeten zoeken. Dit kon hij doen door contact op te nemen met professionals. Echter liet de chatbot ook weten dat zijn methodes in theorie zouden kunnen werken.
Ouders kunnen hun ChatGPT account linken aan het kind
OpenAI heeft aangekondigd dat er nieuwe veiligheidsmaatregelen aan de ChatGPT software toegevoegd zal worden. Ze willen kinderen en andere jonge gebruikers beschermen tegen problematische manieren van denken en hen niet al te afhankelijk te laten worden van AI. Ouders kunnen binnenkort hun account linken aan het account van hun kinderen. Hierdoor kunnen ze limieten en restricties instellen op de gesprekken. Zo willen ze kinderen beter kunnen beschermen.
Naast het linken aan de ChatGPT van het kind, zal de AI zelf de ouders ook waarschuwen mochten er bepaalde gesprekken zich voortdoen in de privé gesprekken van het kind. Wanneer de Ai bijvoorbeeld problematische gesprekken herkend, zoals bijvoorbeeld het spreken over zelfmoord, zal dit meteen aan de ouders getoond worden zodat ze op tijd kunnen ingrijpen.
Steeds meer mensen hebben een echte relatie met ChatGPT
Hoewel de meeste mensen ChatGPT tegenwoordig gebruiken als een soort tweede Google. Echter kan ChatGPT ook een personal trainer zijn die je kan helpen om volledig fit te worden. Helaas zijn er ook negatieve aspecten aan de chatbot. Zo zijn er steeds meer mensen die op zoek zijn naar een connectie met andere mensen, en die deze bij ChatGPT vinden.
Er zij bijvoorbeeld heel wat mensen die relaties hebben met hun ChatGPT gesprekken en die er dagelijks liefdesverklaringen van nodig hebben om zo te kunnen overleven. Deze emotionele afhankelijkheid van de technologie is problematisch, vooral bij jongeren waarvan hun hersenen nog volop in ontwikkeling zijn. De nieuwe features van ChatGPT zullen echter enorm belangrijk zijn voor ouders om hun kinderen zo te beschermen.
Image source: Pexels
