Anthropic Kurucusu: Yapay Zeka İçin Toplum Onaylı 'Acil Durdurma' Mekanizması Şart

Amerikalı yapay zeka firması Anthropic’in kurucu ortaklarından Jack Clark, şirketlerin yapay zeka sistemleri için geliştirilmesi gereken ‘acil durum devre kesme’ mekanizmalarının toplum tarafından denetlenmesi ve standartlaştırılması gerektiğini açıkladı. BBC’ye verdiği demeçte Clark, yazılımların kontrolsüz hale gelme ihtimaline karşı böyle bir güvenlik önleminin zorunlu kılınmasının, gelecekteki yasal düzenlemelerin temelini oluşturabileceğini ifade etti. Clark, mevcut sektörel dinamiklerin aşırı risk içerdiğini ve endüstrinin yönünün acil bir şekilde değişmesi gerektiği uyarısında bulundu. Bu görüşler, son dönemde aynı şirkette görev yapan araştırmacı Jacob Coxon’un, yapay zeka modellerinin insansız ve tehlikeli bir yarış içinde olduğunu belirterek istifa etmesinin ardından geldi. Coxon, bu tür sistemlerin yakın gelecekte insanüstü yetkinliklere sahip olabileceğine ve sektör çalışanlarının önemli bir kısmının bu risklerin farkında olduğuna dikkat çekmişti.