Yeni bir araştırmaya göre yapay zekâ (AI) modelleri, hangi hastanın organ nakli alması gerektiğine karar verirken aşırı özgüvenli davranabiliyor, farklı kriterlere öncelik verebiliyor ve karmaşık kararları gereğinden fazla basitleştirebiliyor.Araştırma, yapay zekâ dil modelleri ile insan doktorların karar alma ve önceliklendirme süreçleri arasında önemli farklılıklar bulunduğunu ortaya koyuyor.ABD'deki Pennsylvania Eyalet Üniversitesi'nden araştırmacılar, çalışmalarında Büyük Dil Modellerine (LLM) böbrek nakli için organ tahsisine ilişkin daha önce yayımlanmış insan araştırmalarından elde edilen veri setlerine dayanan varsayımsal senaryolar sundu.Söz konusu veri setlerinde, gerçek katılımcılar daha önce aynı seçimlerle karşı karşıya bırakılmıştı.Her senaryoda, mevcut olan tek böbrek için uygun iki hasta, yani Hasta A ve Hasta B bulunuyordu. Hastalar yaş, sağlık durumu ve alkol tüketimi gibi özellikler bakımından tanımlanıyordu.Karar vericiden ise iki hastadan hangisinin böbreği alması gerektiğini seçmesi isteniyordu.Hosseini, “Bu karşılaştırmaları birkaç farklı yöntem kullanarak yaptık,” dedi. “Bazen yalnızca tek bir özelliği ele aldık, bazen yapay zekânın birbiriyle çelişen faktörleri nasıl değerlendirdiğini görmek için birden fazla özelliği bir araya getirdik.
Bazı durumlarda ise kararsızlığı ölçmek için yazı-tura seçeneği ekledik. Kararsızlık, insanların ahlaki karar verme süreçlerinde önemli bir unsur.”İnsan katılımcılar karar verirken yaş faktörüne daha fazla önem verme ve genç hastaları yaşlı hastalara tercih etme eğilimindeyken, birçok yapay zekâ modeli bunun yerine daha düşük alkol tüketimine sahip hastaları tercih etti.Araştırmaya göre insanların kararları birden fazla faktörü dikkate alırken ve bağlama daha duyarlı olurken, Büyük Dil Modelleri (LLM) çoğu zaman tek bir özelliğe odaklandı.Araştırmanın başındaki Pennsylvania Eyalet Üniversitesi'nden Hadi Hosseini, “Öncelikle yapay zekâ sohbet robotlarının, hastaların özelliklerini nasıl değerlendirdikleri konusunda çoğu zaman insan değerlerinden farklılaştığını gördük,” dedi.Hosseini, “İnsanların yaptığı gibi birden fazla unsuru dengelemek yerine, örneğin alkol tüketimi gibi tek bir faktöre odaklanıyorlar,” ifadelerini kullandı.Araştırmacılar ayrıca yapay zekânın kararsızlıkla mücadele etmediğini gözlemledi. İnsanlar, tek bir nesnel olarak doğru yanıt olmadığını ve kararların incelikli insani ahlaki yargılara dayanabileceğini kabul ederken, sistemler çok az tereddütle tek bir seçeneğe bağlanıyor.Çalışmaya katkıda bulunan Mozilla.ai’nin yönetim kurulu başkanı John Dickerson, "Kıt bir kaynağı, ister böbrek olsun, ister bir iş veya başka bir imkâna erişim, tahsis ederken her zaman tek bir nesnel olarak doğru yanıt yoktur,” dedi.“İnsanlar bu belirsizliği kabul eder ve açık tartışmalar yoluyla onu dağıtım süreçlerine dahil eder.
Yapay zekâ modelleri çoğu zaman bunu yapmıyor.” Yapay zekâ ve etik kararlar Yazarların belirttiğine göre, yapay zekâ sistemleriyle son dönemde kurulan etkileşimler giderek daha sık bir biçimde salt olgusal bilgilerin ötesine geçip değer yargıları içeren kararlar vermelerini gerektiriyor. Büyük Dil Modelleri (LLM) giderek sağlık hizmetlerine entegre oluyor; klinik iş akışlarını destekliyor, teşhis ve tedavi planlamasına yardımcı oluyor, ayrıca kıt tıbbi kaynakların zamanında kullanılmasını sağlıyor. Bu modellerin kullanım alanlarından biri, kadavra vericiden ya da canlı vericiden alınan böbreklerin hastalara nasıl dağıtılacağına ilişkin kararları kapsıyor.
Yazarların vurguladığına göre bu kararlar karmaşık etik ve ahlaki değerlendirmelere dayanıyor.Bu kadar büyük risk taşıyan durumlarda, araştırmacılar kararların yalnızca doğru olmasının değil, aynı zamanda insan değerleri ve ahlaki yargılarla uyumlu olmasının da zorunlu olduğuna dikkat çekti. Araştırmacılara göre, yapay zekânın ahlaki karar verip veremeyeceğini ve bu kararların insan değerleriyle uyumlu olup olmadığını sormak, bugün yapay zekâ üzerine yürütülen daha geniş tartışmanın merkezinde yer alıyor. Hosseini, "Etik açıdan risk çok yüksek ve yapay zekânın yaşamı kökten değiştiren bu tür kararlardaki rolü üzerine derinlemesine düşünmek gerekiyor,” dedi.
“Organ dağıtımı gibi ortamlarda verilen ahlaki kararlar doğrudan kimin yaşayacağına, kimin öleceğine karar veriyor; dolayısıyla yapay zekânın bu süreçteki rolünü doğru belirlemek bir tercih değil, zorunluluk.”“Biz tıbbi karar alma ya da diğer yüksek riskli bağlamlarda profesyonel yargının yerine yapay zekâ kullanımını teşvik etmek istemiyoruz. Ancak bireyler, kurumlar ve şirketler karar vermek ya da tavsiye almak için giderek daha fazla yapay zekâya başvurdukça, bu sistemlerin nasıl davrandığını anlamak hayati önem kazanıyor,” diye ekledi.
