Yapay zeka güvenliği ve insan çıkarlarıyla hizalanma konularındaki çalışmalarıyla tanınan araştırmacı Paul Christiano, OpenAI Vakfı Yönetim Kurulu’na katılıyor. Kurumdan yapılan açıklamaya göre Christiano, kurulun Güvenlik ve Güvenli Sistemler Komitesi’nde görev alacak. Christiano, sosyal medya hesabından paylaştığı metinde, yapay zeka yeteneklerindeki hızlanmanın yakın vadede geri döndürülemeyecek kontrol kayıplarına yol açabileceğine inandığını belirtti. Mevcut sektör dinamiklerinin bu riski yeterince düşürmediğini savunan araştırmacı, OpenAI’nin bu sorumluluğu üstlenmesi durumunda tehlikeyi azaltmada kilit rol oynayabileceğini ifade etti.
Christiano, yapay zeka modellerinin diğer modelleri eğitmesi durumunun, yaratıcıları tarafından kontrol edilemeyen bir yetenek patlamasına neden olabileceği uyarısında bulundu. İnsan geri bildiriminden öğrenme (RLHF) gibi temel tekniklerin geliştirilmesine katkı sağlayan Christiano, 2021’de şirketten ayrılarak Alignment Research Center’ı kurmuştu. Yeni görevinde, Astra gibi yeni modellerin piyasaya sürülmesine son onayı veren komitede yer alacak. Ayrıca Christiano, ABD hükümetinin yapay zeka standartları ve inovasyon merkeziyle ilişkisini sürdürecek; ancak tarafsızlığı sağlamak adına OpenAI’ye özel değerlendirmelerden ve ilgili kurumsal konulardan çekilecek.
