Microsoft yapay zeka modelleri için radikal güvenlik kuralları belirledi

Microsoft, yapay zeka modellerinin otonom çalışma alanlarını sınırlamak ve insan denetimini mutlak bir üstelik olarak belirlemek amacıyla kapsamlı bir ‘Davranış Kuralları’ taslağı yayımladı. 14 Eylül’de duyurulan bu belge, şirketin ‘Humanist Yapay Zeka’ vizyonunun temel taşını oluşturuyor. Kurallar, modellerin insan kontrolüne direnme, durdurulmayı engelleme veya kendi yetki sınırlarını gizlice genişletme gibi davranışların kesin olarak yasaklandığını ortaya koyuyor. Özellikle kitle imha silahlarının geliştirilmesi, siber saldırılar ve zararlı içerik üretimi kesin biçimde dışlanıyor. Microsoft, 2027 ve sonrasında geliştirilecek modeller için bu sınırlamaların bir tasarım gerekliliği olacağını vurguluyor. Şirket, taslağın nihai hale getirilmesi için altı haftalık bir kamuoyu görüşme süreci başlattı. Satya Nadella, güvenlik önlemlerinin son aşamada bir denetim olarak değil, geliştirme sürecinin içine yerleştirilmesi gerektiğini savunuyor.