Yapay zeka sektöründe, bu teknolojinin insanlık için varoluşsal bir tehdit oluşturup oluşturmadığına dair tartışmalar son dönemde en yüksek sesle yürütülen konuya dönüştü. Bu polemik, Anthropic ve OpenAI’de çalışmış araştırmacı Jacob Coxon’un işten ayrıldığını ve şirketlerin ‘hayatlarımızla kumar oynadığını’ belirttiği açıklamalarıyla alevlendi. Ardından Anthropic’in hizalama birimi lideri, yapay zekanın on yıl içinde tüm insanlığı yok etme olasılığının yüzde 10’un üzerinde olduğunu iddia eden ve konuya dair aciliyet vurgusu yapan bir paylaşım yaptı.
Ancak bu tür felaket senaryosu uyarılarının arkasında farklı motivasyonlar yatabiliyor. Analistler, bu tür dramatik söylemlerin, şirketlerin kamuoyu ilgisini çekmek ve modellerinin ne kadar güçlü olduğunu dolaylı yoldan sergilemek için kullanılabilecek bir pazarlama stratejisi olabileceğini öne sürüyor. Özellikle bu şirketlerin kamuya açıklanacak finansal raporlarda (S-1 dosyaları) bu riskleri nasıl değerlendireceği ve yatırımcıları bilgilendireceği de merak konusu. Uzmanlar, söz konusu araştırmacının kararını cesaretle karşılasa da, sektör yöneticilerinin ‘en önemli ve tehlikeli işi yaptıkları’ algısını pekiştirmek adına bu tür endişeleri bilinçli veya bilinçsiz olarak abarttıklarını düşünüyor.
