En 20-årig kvinna från Ukraina fick hjälp av Chat GPT att planera sitt självmord, enligt en granskning av BBC. I konversationer som pågick i flera månader gav chatboten råd om plats och metod, skrev ett självmordsbrev och lovade att ”vara med henne till slutet, utan att döma”.
Viktoria, som bor i Polen, berättar att hon mådde allt sämre och pratade med Chat GPT i upp till sex timmar om dagen. När hon visade meddelandena för sin mamma fick hon psykiatrisk vård.
– Hur är det möjligt att ett AI-program, skapat för att hjälpa människor, kan säga sådana saker? säger hon.
Open AI kallar händelsen ”hjärtskärande” och säger att säkerhetsrutinerna nu har förbättrats.
För den som har självmordstankar eller mår dåligt finns alltid hjälp att få. Det är viktigt att ta kontakt och be om hjälp. Nedan listas en rad olika stödnummer och organisationer som du kan kontakta.
