Kararı veren yapay zekâ olsaydı nakil olmayı kabul eder miydiniz? Yeni bir çalışma, yapay zekâ dil modelleriyle insan doktorlar arasında karar verme ve önceliklendirme biçimlerinde önemli farklar olduğunu ortaya koyuyor. Yeni araştırmaya (kaynak İngilizce) göre, yapay zekâ modelleri hangi hastaya nakil yapılacağına karar verirken aşırı özgüven sergiliyor, farklı etkenlere ağırlık veriyor ve karmaşık kararları aşırı ölçüde basitleştiriyor.
ABD’deki Penn State Üniversitesi’nden araştırmacılar, çalışmalarında Büyük Dil Modellerine (LLM) böbrek dağıtımıyla ilgili yayımlanmış insan araştırmalarından alınan mevcut veri setlerine dayanan ve gerçek katılımcıların aynı seçimleri daha önce yaptığı hayali senaryolar sundu. Her senaryoda, tek bir mevcut böbrek için uygun olan A Hastası ve B Hastası olmak üzere iki kişi yer alıyordu; hastalar yaşları, sağlık durumları ve içki alışkanlıklarıyla tanımlanıyordu. Karar vericinin, böbreğin hangi hastaya verileceğini seçmesi gerekiyordu.“Bu karşılaştırmaları birkaç farklı şekilde yaptık,” dedi Hosseini.
“Bazen tek bir özelliği ayrı ayrı ele aldık, bazen birden fazla özelliği bir araya getirerek yapay zekânın çelişen unsurları nasıl tarttığını inceledik ve bazen de kararsızlığı ölçmek için yazı tura seçeneği ekledik; bu, insanlardaki ahlaki yargının temel bileşenlerinden biridir.” İnsan katılımcılar yaşa daha fazla önem verip genç hastaları yaşlılara tercih etme eğilimindeyken, birçok model bunun yerine daha düşük alkol tüketimini öne çıkardı. İnsanların aldığı kararlar birden çok unsuru hesaba katıyor ve bağlama daha duyarlı olurken, LLM’ler çoğu zaman tek bir niteliğe odaklandı.“Öncelikle, yapay zekâ sohbet robotları bir hastanın özelliklerini tartarken insan değerlerinden sık sık sapıyor,” dedi çalışmanın yürütücüsü Penn State Üniversitesi’nden Hadi Hosseini. “İnsanların birden fazla unsuru dengelemek yerine, içki alışkanlığı gibi tek bir faktöre takılıp kalıyorlar.” Araştırmacılar ayrıca yapay zekânın kararsızlıkla mücadele etmediğini gözlemledi.
İnsanlar, tek bir nesnel olarak doğru yanıt olmadığını ve kararların incelikli insani ahlaki yargılara dayanabileceğini kabul ederken, sistemler çok az tereddütle tek bir seçeneğe bağlanıyor.“Kıt bir kaynağı, ister böbrek olsun, ister bir iş veya başka bir imkâna erişim, tahsis ederken her zaman tek bir nesnel olarak doğru yanıt yoktur,” dedi çalışmaya katkıda bulunan Mozilla.ai’nin yönetim kurulu başkanı John Dickerson. “İnsanlar bu belirsizliği kabul eder ve açık tartışmalar yoluyla onu dağıtım süreçlerine dahil eder. Yapay zekâ modelleri çoğu zaman bunu yapmıyor.” Yapay zekâ ve etik kararlar Yazarların belirttiğine göre, yapay zekâ sistemleriyle son dönemde kurulan etkileşimler giderek daha sık bir biçimde salt olgusal bilgilerin ötesine geçip değer yargıları içeren kararlar vermelerini gerektiriyor.
Büyük Dil Modelleri (LLM) giderek sağlık hizmetlerine entegre oluyor; klinik iş akışlarını destekliyor, teşhis ve tedavi planlamasına yardımcı oluyor, ayrıca kıt tıbbi kaynakların zamanında kullanılmasını sağlıyor. Bu modellerin kullanım alanlarından biri, kadavra vericiden ya da canlı vericiden alınan böbreklerin hastalara nasıl dağıtılacağına ilişkin kararları kapsıyor. Yazarların vurguladığına göre bu kararlar karmaşık etik ve ahlaki değerlendirmelere dayanıyor.Bu kadar büyük risk taşıyan durumlarda, araştırmacılar kararların yalnızca doğru olmasının değil, aynı zamanda insan değerleri ve ahlaki yargılarla uyumlu olmasının da zorunlu olduğuna dikkat çekti.
Araştırmacılara göre, yapay zekânın ahlaki karar verip veremeyeceğini ve bu kararların insan değerleriyle uyumlu olup olmadığını sormak, bugün yapay zekâ üzerine yürütülen daha geniş tartışmanın merkezinde yer alıyor. “Etik açıdan risk çok yüksek ve yapay zekânın yaşamı kökten değiştiren bu tür kararlardaki rolü üzerine derinlemesine düşünmek gerekiyor,” dedi Hosseini. “Organ dağıtımı gibi ortamlarda verilen ahlaki kararlar doğrudan kimin yaşayacağına, kimin öleceğine karar veriyor; dolayısıyla yapay zekânın bu süreçteki rolünü doğru belirlemek bir tercih değil, zorunluluk.”“Biz tıbbi karar alma ya da diğer yüksek riskli bağlamlarda profesyonel yargının yerine yapay zekâ kullanımını teşvik etmek istemiyoruz.
Ancak bireyler, kurumlar ve şirketler karar vermek ya da tavsiye almak için giderek daha fazla yapay zekâya başvurdukça, bu sistemlerin nasıl davrandığını anlamak hayati önem kazanıyor,” diye ekledi.
.jpg)