OpenAI Control Room ile riskli yapay zekaları 35 saniyede durduracak
OpenAI, olası riskli yapay zeka araştırmalarını ve ajan tabanlı modelleri 35 saniye içinde durdurabilen merkezi Control Room sistemini devreye soktu.
Öne çıkanlar
- OpenAI, araştırma altyapısındaki riskli yapay zeka iş yüklerini durdurmak için Control Room sistemini devreye soktu.
- Sistem, onaylanmamış veya riskli görülen ajan tabanlı model çalışmalarının çıktı üretmesini engelliyor.
- Durdurma komutları önbellekleme katmanından ötürü en fazla 35 saniye içinde uygulanıyor.
OpenAI'ın duyurusuna göre şirket, araştırma altyapısındaki potansiyel olarak riskli yapay zeka iş yüklerini durdurmak amacıyla Control Room adlı merkezi bir kontrol sistemi geliştirdi ve kullanıma sundu. Yapay zeka modellerinin güvenliğini artırmayı hedefleyen bu yeni sistem, şüpheli durumları yalnızca tespit etmekle kalmayıp araştırmaların model çıktısı üretmesini aktif olarak engelleyebiliyor.
Control Room nasıl çalışıyor?
Interesting Engineering'in aktardığına göre sistem; araştırma iş yükü, çıkarım motoru ve merkezi Control Room servisi olmak üzere üç ana bileşeni birbirine bağlıyor. Araştırmacılar bir iş başlattığında sistemden benzersiz bir kimlik alıyor ve çıkarım motorları her istek öncesinde bu işin hâlâ yetkili olup olmadığını merkeze onaylatıyor. Bir müdahale gerekirse merkezi servis isteği reddediyor ve motor model çıktısı üretmeyi durduruyor. Şirket, yoğun istek trafiğini yöneten önbellekleme katmanı nedeniyle durdurma komutunun en fazla 35 saniye içinde işleme alındığını, bu sürenin sıfıra indirilmesi için çalışmaların sürdüğünü belirtiyor.
Güvenlik ve önlemler
Sistem, merkezi servis erişilemez duruma geldiğinde talepleri doğrudan reddeden güvenli bir kapanma mekanizmasıyla çalışıyor. Ayrıca OpenAI'ın öncü pekiştirmeli öğrenme işleri, potansiyel sorunları izleyen bağımsız model tabanlı denetçilerle birlikte çalıştırılıyor ve gerekli durumlarda Control Room'a sinyal göndererek işin durdurulmasını sağlıyor.
Kaynaklar
Bu haber, yukarıdaki kaynaklardan yapay zeka yardımıyla Türkçe derlenmiş ve yayın masasının doğruluk kuralları çerçevesinde otomatik yayımlanmıştır.Fotoğraflar, altlarında belirtilen kaynaklara aittir. Ayrıntılar ve orijinal ifadeler için kaynaklara bakabilirsin. Bir hata görürsen bize bildir.
