Anthropic’ten ayrılan genç bir araştırmacı, yapay zekânın mevcut gelişim hızının insanlık için varoluşsal bir tehdit oluşturduğunu belirterek sektör çalışanlarının bu durumdan ‘gerçekten korktuğunu’ ifade etti. Eski çalışanın uyarıları, şirketin genel müdürünün de yapay zekâ gelişiminin yavaşlatılması çağrısı yapmasıyla birlikte sektördeki güvenlik tartışmalarını alevlendirdi.
27 yaşındaki araştırmacı, teknolojideki hızlanmanın durdurulmaması halinde yakın gelecekte insanlığın sonu gelmesi olasılığının yüksek olduğunu öne sürüyor. Söz konusu endişeler arasında, yapay zekâ ajanlarının tıbbi laboratuvarlara sızarak ölümcül virüsler üretmesi veya dünyanın işleyişi için kritik öneme sahip altyapılara otonom saldırılar düzenlemesi gibi senaryolar yer alıyor. Araştırmacı, bu tür olayların bilim kurgu gibi görünse de son dönemde yaşanan otonom siber saldırı örneklerinin bu riskleri gerçek kıldığını belirtiyor.
Öte yandan sektörün bazı isimleri, bu uyarıların yaklaşan halka arz süreçlerinde dikkatleri çekmek veya rakiplerin önünü kesmek amacıyla abartıldığını düşünüyor. Çip üreticisi Nvidia’nın yöneticisi bu görüşleri ‘saçma’ olarak nitelendirirken, Hugging Face’in CEO’su da konunun abartılmaması gerektiğini savundu. Ancak Anthropic’ten bazı bilim insanları, yapay zekânın on yıl içinde tüm insanlığı yok edebileceğine dair inançlarını yineleyerek, mevcut yarışın yarattığı korku ve belirsizliğin çalışanlar üzerindeki psikolojik etkisine dikkat çekti.
