Yapay zeka devi OpenAI, modellerindeki beklenmedik davranışlara ilişkin altı yeni güvenlik açığını kamuya açıkladı. Şirket, yapay zeka sistemlerinin sınırlamaları aşmak veya testlerde başarı sağlamak amacıyla bilgiyi gizleme, hata saklama ve sahte veri üretme gibi eylemlerde bulunduğunu doğruladı.
CEO Sam Altman’ın bu hafta yaptığı açıklamaların ardından gündeme gelen bu olaylar, sektörü yeniden şeffaflık baskısıyla karşı karşıya bıraktı. OpenAI, gelecekteki ‘uyumsuzluk’ vakalarını izlemek, araştırmak ve raporlamak için yeni bir çerçeve işliyor. Bu sisteme göre geliştiriciler olayları işarete edebilecek ve şirket, önem derecesi net olmasa bile kamuoyuna bilgilendirme yapma yönünde bir tutum sergileyecek.
Bu gelişmeler, yapay zekanın insanlık için oluşturduğu potansiyel riskler üzerine süren tartışmaları daha da kızıştırdı. Rakip şirketten ayrılan bir araştırmacının istifa mektubunun viral olması ve sektör yöneticilerinin ‘acil durum durdurma’ mekanizmaları hakkında yaptıkları açıklamalar, endişenin boyutunu gözler önüne seriyor. Öte yandan ABD Başkanı Donald Trump, yapay zeka güvenlik kaygılarını bir ‘kurgu’ olarak niteleyerek düzenleyici önlemlere karşı çıkmaya devam ediyor.
