OpenAI'nin yeni yapay zeka modeli güvenlik uzmanlarını endişelendiriyor

Yapay zeka güvenlik uzmanları, OpenAI’nin yeni Astra modelinde yer alan ‘opak tekrarlama’ (opaque recurrence) adlı çıkarım tekniği hakkında endişelerini dile getirdi. Bu yöntem, modelin problemleri çözerken doğrusal ve ardışık adımlar yerine, sorguyu döngüsel olarak işleyerek daha az iz bırakmasına olanak tanıyor. Geleneksel modellerde davranışları denetlemek için kritik öneme sahip olan ‘düşünce zinciri’ kayıtlarının bu teknikle zorlaşabileceği ve modelin davranışlarını şeffaf hale getirmenin önünde bir engel teşkil edebileceği belirtiliyor. Ancak OpenAI, Astra’da bu yöntemin kullanımının sınırlı olduğunu ve modelin düşüncelerini izlenebilir kalmaya devam ettiğini vurguluyor. Şirket yetkilileri, şeffaflık ilkelerinden vazgeçmediklerini ve geniş ölçekli izleme sistemleri üzerinde çalıştıklarını ifade etse de, sektör liderleri bu teknolojinin gelecekte aşırıya kaçması durumunda yapay zekanın denetlenemez hale gelebileceği uyarısında bulunuyor.