Satya Nadella’dan yapay zeka modelleri için acil durum freni çağrısı

Microsoft Yönetim Kurulu Başkanı ve CEO’su Satya Nadella, yapay zeka modelleri için acil durum freni mekanizması kurulması gerektiğini belirterek güvenlik mimarisinin yeniden ele alınmasını istedi. 10 Ekim’de sosyal medya üzerinden yaptığı paylaşımda Nadella, aynı girdiye her zaman aynı sonucu vermeyen yapay zeka sistemlerinin öngörülebilir bir tasarımla çevrelenmesi gerektiğini vurguladı.

Güvenlik kontrolleri ve acil durum freni

Nadella’nın önerdiği yaklaşım, hem kapalı hem de açık ağırlıklı gelişmiş modellerin kurum içinden kaynaklanabilecek bir risk olarak ele alınmasını temel alıyor. Bu çerçevede modelin, görevlerini yöneten yazılım katmanından ayrılması ve güvenlik kontrollerinin modelin dışında konumlandırılması gerekiyor. Öne çıkan unsurlardan biri olan acil durum freni, yetkili kişilerin bir modeli görevini yürütürken duraklatabilmesini veya tamamen kapatabilmesini sağlıyor. Sistemlerin faaliyetlerinin en başından sınırlandırılması ve güvenliğin ihlal edilmiş olabileceği varsayımıyla hareket edilmesi savunuluyor.

İzlenebilirlik ve yeni standartlar

Yapay zeka sistemlerinin izlenebilirlik ilkeleri etrafında tasarlanması gerektiğini belirten Nadella; model çeşitliliği, eylemlerin insanlar tarafından okunabilir kayıtlarla belgelenmesi, sürekli testler ve denetlenebilirlik gibi başlıkların altını çiziyor. Mevcut standartların yetersiz kaldığı alanlarda ise yeni sektör standartlarının oluşturulması öneriliyor.