Darren Zhounun ChatGPTye Bu ayın sonuna kadar onu öldüreceğim ve Benim olmuyorsa kimsenin olamaz şeklinde mesajlar yazdığı belirtiliyor. Tehdit edilen eski sevgili ise Zhounun dengesiz, kıskanç ve kontrolcü davranışları nedeniyle ilişkisini bitirdiğini söyledi. Ayrıca genç kadın, Zhounun gönderdiği mesajların ekran görüntülerini alıp sakladı ve bunları polisle paylaştı.OpenAI Hemen Müdahale EttiOpenAI, ChatGPTdeki tehdit içerikli konuşmaları tespit ettikten kısa süre sonra FBIı bilgilendirdi.
Goldman Sachs da olaydan haberdar olduktan sonra Zhouyu işten çıkardığını açıkladı. Zhou mayıs ayında tutuklandı ve 100 bin dolar kefaletle serbest bırakıldı. Hapis cezası ve ağır suç mahkumiyetinden kurtuldu.
Ancak 8 yıl denetimli serbestlik, 2 yıl elektronik kelepçe ve psikolojik değerlendirme şartları getirildi.Teknoloji Şirketlerinin Sorumluluğu ArtıyorBu durum yapay zeka araçlarının şiddet içeren düşüncelerle kesişebileceğine dair yeni bir örnek oldu. Sohbet robotlarıyla yapılan konuşmaların soruşturmalarda kullanılabilmesi de dikkat çekiyor. Yapay zeka artık işten eğitime, aramadan duygusal desteğe kadar geniş bir alanda kullanılıyor.
Bu nedenle kötüye kullanım, güvenlik açıkları ve kriz anlarının tespit edilmesi şirketlerin sorumluluğunu artırıyor.
