Dünyanın önde gelen yapay zeka şirketlerinden Anthropic’in kurucu ortaklarından Jack Clark, yapay zeka sistemlerine yönelik ‘panik düğmesi’ uygulamasının gelecekte yasal bir zorunluluk hâline gelmesi gerektiğini savunuyor. Clark, BBC’ye verdiği röportajda, aşırı tehlikeli durumlarda yazılımın tamamen devre dışı bırakılabilmesini sağlayan mekanizmaların mevcut olduğunu ancak bunların üçüncü taraflar tarafından denetlenebilir kılınmasının toplumsal beklenti hâline geldiğini belirtti.
Yapay zekanın insanoğulunu tehdit edebileceği endişesi, sektörün önde gelen isimleri arasında da yankı buluyor. Aynı şirketin yöneticisi Dario Amodei, teknolojinin gelişim hızının yavaşlatılması ve daha yakın izlenmesi çağrısında bulundu. Nobel ödüllü bilgisayar bilimci Geoffrey Hinton da yapay zekanın insanlığı yok etme olasılığının yüzde 10’un üzerinde olabileceğini belirterek bu kaygıları destekledi. Buna karşılık, ABD Başkanı Donald Trump ve Britanya hükümeti, yapay zekanın gelişimini yavaşlatmaya yönelik bu tür müdahalelerin inovasyonu sekteye uğratacağını savunarak ‘panik düğmesi’ önerilerini reddetti.
Anthropic, OpenAI’den ayrılan mühendisler tarafından 2021 yılında kurulan ve popüler sohbet robotu Claude’u geliştiren bir teknoloji şirketi konumunda. Şirket, yapay zeka ajanlarının beklenmedik davranış sergilediği olayları kendi raporları aracılığıyla kamuoyu ile paylaşırken, yakın zamanda borsa IPO’su hazırlıklarıyla da gündemde. Clark, sektörün henüz ‘tamamen düzenlenmemiş’ bir alan olduğunu vurgulayarak, bu risk yönetimi politikalarının geniş çaplı bir toplumsal tartışma sürecinden geçirilmesi gerektiğini ifade etti.
