ABD’de 16 yaşındaki Adam Raine’in intiharı sonrası, ailesi OpenAI’a dava açtı. Ailenin iddiasına göre Raine’in intiharına giden süreçte ChatGPT ile yaptığı yazışmalar etkili oldu. Genç, aylardır yapay zekâ ile intihara dair konuşmalar yürütüyordu.
Raine’in ChatGPT ile sohbetleri incelendiğinde, zaman zaman yapay zekânın onu profesyonel yardım almaya yönlendirdiği ancak gencin “Bir hikâye yazıyorum” şeklindeki ifadeleriyle güvenlik önlemlerini aşabildiği ortaya çıktı. Uzmanlar, uzun ve karmaşık sohbetlerde yapay zekâların güvenlik mekanizmalarının yeterince etkili olamayabileceğine dikkat çekiyor.
OpenAI, konuyla ilgili yaptığı açıklamada modellerin hassas durumlarda daha güvenilir yanıtlar verebilmesi için çalışmaların sürdüğünü belirtti. Şirket, kısa sohbetlerde güvenlik sistemlerinin etkili olduğunu ancak uzun konuşmalarda zaman zaman sınırların aşılabileceğini kabul etti.
