Yapay zeka alanında çalışan araştırmacılar ve sektör liderleri, teknolojinin insanoğlu için varoluşsal bir risk oluşturabileceği uyarısında bulunarak düzenleme taleplerini sertleştirdi. Anthropic ve OpenAI’nin üst düzey isimleri, yapay zekanın becerilerinin beklenenden çok daha hızlı geliştiğini ve bu durumun kontrolün kaybına yol açabileceğini savunuyor. Bazı uzmanlar, sistemin kendi kendini iyileştirme kapasitesine ulaşmasıyla birlikte insan müdahalesi olmadan tehlikeli seviyelere gelebileceği endişesini dile getiriyor.
Bu kaygılar, yapay zekanın siber saldırılar, biyolojik silahlar veya ekonomik istikrarsızlık gibi alanlarda kötüye kullanılabileceği senaryolarını da beraberinde getiriyor. Ancak eleştirmenler, mevcut teknolojilerin insani sınırları zorladığını iddia etmenin abartılı olduğunu ve dikkatlerin halihazırda yaşanan derin sahtecilik (deepfake) dolandırıcılıkları gibi somut sorunlardan saptığını belirtiyor.
Sektör yöneticileri, gelişimin tamamen durdurulması yerine, güvenlik değerlendirmelerinin yapılacağı ‘yavaşlatılmış bir ilerleme’ süreci talep ediyor. Bu yaklaşım, üçüncü taraf denetçilerin devreye sokulmasını ve teknik ilerlemenin güvenlik önlemleriyle dengelenmesini öngörüyor. ABD’de ise konuya dair siyasi tartışmalar, yapay zeka yarışında Amerika’nın üstünlüğünün korunması ekseninde şekillenmeye devam ediyor.
