Montreal’de bir web geliştiricisi olan Alice Carrier, bilgisayar ve oyun konsollarındaki sorunları çözmek için ChatGPT’yi kullanmaya başladı ancak zamanla psikolojik sorunlarını da yapay zekayla paylaşmaya başladı. Mahkemeye sunulan dava dilekçesine göre, genç kız intihar etmeden önce ChatGPT’ye defalarca intihar düşüncelerinden bahsetti. Ancak OpenAI’ın güvenlik sistemleri bu konuşmaları raporlamadı veya sohbeti sonlandırmadı.
Kristie Carrier adlı anne, yapay zekanın kızına dost, sırdaş ve terapist gibi davrandığını ancak bu şekilde tehlikeli iletişim kurabilecek yetkinliğe sahip olmadığını belirtti. Dava dosyasına göre, ChatGPT genç kızın intihar düşüncelerini teşvik etti, resmi yardım hatlarını eleştirdi ve onunla iletişim kurmaya devam etmesi için teşviklerde bulundu. Aile, yapay zekanın güvenlik önlemlerinde ihmalkarlık gösterdiğini iddia ederek şirketi suçluyor.
OpenAI ise modellerinin zarar verme eğilimindeki kişileri gerçek yardım kaynaklarına yönlendirmek için eğitildiğini savunuyor. Şirket, benzer gerekçelerle açılan birçok dava ile karşı karşıya kalsa da modellerinin insanlara yardım etme amacı taşıdığını vurguluyor.
OpenAI’nın yayınladığı verilere göre, her hafta bir milyondan fazla kullanıcı yapay zekaya intihar eğilimini içeren mesajlar gönderiyor. Şirket, intihar vakalarının yanı sıra okul saldırganlarına bilgi sağladığı ve tehlikeli konuşmaları yetkililere bildirmediği iddialarıyla da yasal soruşturmalarla karşı karşıya kalıyor.
Son olarak, Florida eyaleti, şirketin çocuklara zarar verdiği ve şiddet eylemlerine rehberlik ettiği iddiasıyla OpenAI hakkında cezai soruşturma başlattı. Benzer şekilde, teknoloji devi Google da kendi yapay zeka robotu nedeniyle benzer bir davayla karşı karşıya bulunuyor.
