OpenAI'ın ChatGPT'yi geliştirmek amacıyla gerçek kullanıcıların sohbetlerini insan çalışanlara incelettiği ortaya çıktı. 404 Media tarafından yayımlanan bir iddiaya göre, şirket bünyesindeki "Project Lily" adlı çalışma kapsamında yüzlerce çalışan, ChatGPT kullanıcılarının gerçek konuşmalarını inceleyerek yapay zekanın verdiği yanıtları değerlendiriyor. Kişisel bilgiler de görülebiliyor İddiaya göre çalışanlar, ChatGPT'nin yanıtlarını doğruluk, üslup ve davranış açısından puanlıyor.
Raporda en dikkat çeken nokta ise incelenen sohbetlerin gerçek kullanıcılara ait olması ve çalışmanın özellikle yapay zekanın kullanıcıları gereğinden fazla onaylaması anlamına gelen "sycophancy" davranışını azaltmaya odaklanması. OpenAI'ın kullanıcı adlarını kaldırdığı ve kişisel bilgileri gizlemeye çalıştığı belirtilse de hassas verilerin her zaman tamamen temizlenemediği öne sürülüyor. Böylece bazı çalışanların yalnızca tek bir soruyu değil, kullanıcı ile ChatGPT arasındaki uzun konuşmaların tamamını görebildiği iddia ediliyor.
Raporda yer alan değerlendirmeye göre kullanıcıların çoğu, sohbetlerinin bir noktada bir taşeron çalışan tarafından incelenebileceğini düşünmeyebilir. Buradaki temel konu, yapay zekanın eğitilmesinde yalnızca internet üzerindeki büyük veri kümelerinin kullanılmaması. Keza insan değerlendirmesi de modern yapay zeka sistemlerinin geliştirilmesinde önemli bir aşama konumunda.
İnsanlar tarafından verilen puanlar ve geri bildirimler, modellerin nasıl yanıt vermesi gerektiğinin belirlenmesine yardımcı olabiliyor. Ancak gerçek kullanıcı konuşmalarının bu süreçte kullanılması, gizlilik ve kullanıcıların bilgilendirilmesi konularını yeniden gündeme getiriyor. Özellikle kişisel bilgiler içeren sohbetlerin insan çalışanlar tarafından görülebilmesi, yapay zeka hizmetlerinde veri gizliliğinin ne kadar önemli olduğunu bir kez daha kanıtlıyor.
Yeni iddia, şu an için 404 Media'nın OpenAI belgelerine ve görüştüğü kaynaklara dayanıyor. Dolayısıyla söz konusu uygulamanın kapsamı ve hangi sohbetlerin ne şekilde incelendiği konusunda OpenAI'ın açıklaması belirleyici olacak.
