Apple araştırmacıları, protein dizilerini ve bu dizilere karşılık gelen 3 boyutlu yapıları birlikte üretebilen yeni yapay zeka modeli SimpleDesign'ı tanıttı. Yeni çalışma, protein tasarımında yaygın olarak kullanılan çok aşamalı eğitim süreçleri yerine doğrudan veri alanında çalışan uçtan uca bir yaklaşım öneriyor. Modelin hem protein dizisi hem de yapısına ilişkin bilgileri aynı süreç içerisinde öğrenmesi, yapay zeka destekli biyomoleküler tasarım alanında daha sade bir mimarinin mümkün olup olmadığını araştırıyor.
SimpleDesign'ın geliştirilmesi, Apple'ın daha önce yayımladığı SimpleFold çalışmasının devamı niteliğinde görülüyor. Araştırmacılar geçtiğimiz Eylül ayında yayımladıkları bu çalışmada, bir proteinin amino asit dizisinden 3 boyutlu yapısını tahmin etmek için akış eşleştirme tabanlı bir model sunmuştu. Bu yöntemde model, rastgele ve gürültülü bir başlangıçtan hedef yapıya doğru daha doğrudan bir dönüşüm öğreniyor.
SimpleDesign protein dizisi ve yapısını nasıl öğreniyor? SimpleFold'da olduğu gibi SimpleDesign da genel amaçlı Transformer bloklarından yararlanıyor. Transformer mimarileri özellikle metin ve kod üretiminde yaygın biçimde kullanılsa da, Apple araştırmacıları bu yapının protein dizileri ve geometrik yapılar gibi farklı veri türlerini birlikte işlemek için de kullanılabileceğini inceliyor.
Bu yaklaşım, AlphaFold gibi protein katlanması alanında öne çıkan sistemlerde görülen daha karmaşık ve hesaplama açısından maliyetli yapıların yerine daha genel bir modelleme çerçevesinin kullanılabileceği fikrine dayanıyor. Yeni modelin temel farkı, protein yapılarının önceden ayrı ve ayrık temsil biçimlerine dönüştürülmesini gerektirmemesi. Geleneksel bazı ortak tasarım sistemlerinde önce protein yapısını token adı verilen ayrık temsillere dönüştüren bir model eğitiliyor, ardından bu temsiller üzerinde üretken model çalıştırılıyor.
SimpleDesign ise amino asit dizileri ile sürekli 3 boyutlu koordinatları doğrudan birlikte ele alıyor. Böylece araştırmacılar, aradaki kodlama ve yeniden yapılandırma aşamalarını kaldırarak tek bir eğitim sürecinin yeterli olup olmadığını test ediyor. Modelin eğitimi için, büyük ölçüde AlphaFold Veritabanı'ndan tahmin edilen yapıları ve ek örnekleri bir araya getiren AFESM veri kümesinden 2 milyondan fazla protein dizisi ve yapı çifti kullanıldı.
Eğitim sırasında hem amino asit dizileri hem de bunlara karşılık gelen 3 boyutlu yapılar kontrollü biçimde bozuldu. Dizilerdeki amino asitler rastgele maskelenirken, yapı koordinatlarına da değişen seviyelerde gürültü eklendi. Bu işlem, modelin yalnızca tek bir göreve değil, diziden yapıya ve yapıdan diziye uzanan farklı problemlere aynı eğitim çerçevesi içerisinde uyum sağlamasını amaçlıyor.
Bozulma seviyelerinin değiştirilmesi modelin farklı protein tasarım görevlerini öğrenmesine olanak tanıdı. Dizinin büyük ölçüde korunup yapının ciddi biçimde bozulduğu durumda görev protein katlanmasına yaklaşırken, yapının korunup dizinin büyük ölçüde maskelendiği durumda ters katlanma problemi ortaya çıkıyor. Her iki veri türünün de kısmen bozulduğu senaryolarda ise model, belirli bir protein dizisiyle uyumlu yapıyı ve yapıya karşılık gelebilecek diziyi birlikte öğreniyor.
Bu mekanizma, SimpleDesign'ın protein ortak tasarımına yönelik tek bir model olarak eğitilmesinin temelini oluşturuyor. Araştırmacıların değerlendirmelerine göre SimpleDesign, daha sade eğitim sürecine rağmen protein ortak tasarımı, yapı üretimi ve dizi üretimi kıyaslamalarında rekabetçi sonuçlar verdi. Model tarafından oluşturulan yapıların protein açısından makul geometrilere sahip olabildiği, üretilen amino asit dizilerinin ise birçok çok modlu rakip modelle benzer veya bazı ölçümlerde daha iyi sonuçlar sunduğu belirtildi.
Bununla birlikte bu sonuçlar şimdilik bilgisayar tabanlı değerlendirmelerle sınırlı durumda. Üretilen proteinlerin gerçek biyolojik sistemlerde doğru biçimde katlanıp katlanmayacağı, beklenen işlevi yerine getirip getirmeyeceği veya güvenli davranıp davranmayacağı henüz deneysel olarak doğrulanmış değil.