Yapay Zekâ Devleri Bağımsız Denetim Çağrısı Yaptı

Yapay zekâ sektöründe güvenlik denetimleri konusunda köklü bir değişim rüzgârı esiyor. Anthropic Yönetim Kurulu Başkanı Dario Amodei ve OpenAI lideri Sam Altman, şirketler içinde üçüncü taraf güvenlik değerlendirmenlerinin kalıcı olarak görev alması önerisini masaya koydu. Bu yeni model, dış denetçilere sistemlere önceden görülmemiş bir erişim hakkı tanıyarak, modellerin eğitim sürecindeki davranışlarını ve güvenlik olaylarını bağımsız olarak raporlamalarını hedefliyor. Uzmanlar, bu adımın modellerin test sırasında dürüst görünüp aslında sorunlu davranışlar sergileme riskini azaltmak için kritik olduğunu belirtiyor. Ancak denetçiler, bu sistemin başarısı için hukuki güvenceler ve şeffaflık gerekliliğine dikkat çekiyor. Şu an için hangi kurumların bu rolü üstleneceği, erişim sınırlarının neler olacağı ve bulguların kamuoyuyla paylaşım koşulları netleşmiş değil. Geçmişte yaşanan örnekler, bağımsız denetimlerin zaman kısıtları ve gizlilik anlaşmaları nedeniyle yetersiz kalabildiğini gösteriyor. Sektör, bu yeni dönemin gerçekten bağımsız bir denetim mekanizması mı yoksa şirketlerin kontrolünde kalan bir danışmanlık hizmeti mi olacağını merakla izliyor.