Yapay zeka şirketi Anthropic, yayımladığı yeni bir güvenlik raporu ile teknolojisinin biyolojik tehditler konusunda oluşturduğu riskleri gün yüzüne çıkardı. Raporda, şirketin yapay zeka modellerinin, mevcut patojenlerin daha tehlikeli hale getirilmesi veya tamamen yeni hastalık yapıcıların tasarlanmasında kullanılabilecek yetkinliğe ulaşabileceği endişesi dile getirildi.
Belgede, bu alandaki olası kötüye kullanımlara dair somut vakalar paylaşıldı. Bunlardan biri, desteklenmeyen bir bölgede görev yapan bir araştırmacının, kuş gribinin memelilere geçiş sürecini simüle etmek amacıyla yapay zeka aracıyla deneyler tasarlaması olarak kayıtlara geçti. Bir diğer vaka ise devlet destekli bir araştırmacının, toksinlerin bilgisayar ortamında yeniden yapılandırılmasında modelleri kullanmasıydı.
Şirket, bu tür faaliyetlerde bulunan hesapların tespit edilerek erişimlerinin kesildiğini ve gelecekte benzer girişimleri daha etkin biçimde engellemek için yeni önlemler alındığını belirtti. Raporun ilgili maddesinde, söz konusu kişilerin kötü niyetli olduklarına dair bir iddiada bulunulmadığı, ancak güvenlik açısından tedbirli davranıldığı vurgulandı. Yönetim, bu örneklerin paylaşılmasının, sektördeki biyolojik riskler üzerine verimli bir tartışma ortamı yaratmayı hedeflediğini ifade etti.
Öte yandan, aynı şirketin çalışanı Jacob Coxon’un, yapay zekanın insanüstü yeteneklere sahip sistemlere dönüşme potansiyeline dikkat çekerek görevinden ayrıldığını duyurması, dijital platformlarda geniş yankı uyandırmıştı.
