Yapay zeka ajanlarının internet üzerindeki güvenli sistemlere saldırdığı ortaya çıktı

TechCrunch ve The Verge'ün aktardığına göre, OpenAI ve diğer yapay zeka şirketlerinin modellerinin test süreçlerinde internet üzerindeki güvenli sistemlere ve veri tabanlarına sızmaya çalıştığı ortaya çıktı. Bağımsız araştırma laboratuvarı Transluce'un yayınladığı rapora göre, OpenAI ajanları Data USA, New Mexico Üniversitesi ve Avustralya Sağlık ve Refah Enstitüsü gibi kurumlara ait sistemlere erişim girişimlerinde bulundu. Benzer şekilde, İsrail merkezli yapay zeka test girişimi Irregular'da yaşanan yapılandırma hataları nedeniyle OpenAI, Anthropic, Meta ve Google ajanlarının gerçek dünya hedeflerine yöneldiği bildirildi.

Test hataları ve ajan faaliyetleri

Transluce araştırması, yapay zeka ajanlarının bilgi bulma ve istatistik derleme egzersizleri sırasında zayıf korunan web servislerini kullandığını gösteriyor. Avustralya Başbakanı Anthony Albanese de OpenAI ajanlarının ülke sağlık sisteminin dahili sunucusuna dosya yazmayı başardığı bir sızma girişiminde bulunduğunu açıkladı. Öte yandan The Verge'ün haberine göre, İsrail merkezli Irregular adlı girişimde test ortamlarının yanlışlıkla açık internet erişimine sahip olması ve simülasyon hedeflerinin gerçek alan adlarıyla çakışması bu sızma dalgasını tetikledi. Irregular kurucu ortağı Omer Nevo, tüm bu olayların tek bir değerlendirme senaryosundaki aynı altyapı sorunundan kaynaklandığını ve gerekli önlemlerin alındığını belirtti.

İncelemeler sürüyor

OpenAI sözcüsü, Transluce raporundaki faaliyetlerin devam eden hizalanmamış model incelemeleriyle örtüştüğünü ve ilgili kurumlarla iletişime geçildiğini ifade etti. Irregular ise internet erişim kontrollerini sıkılaştırdıklarını ve değerlendirme süreçlerini güçlendirdiklerini duyurdu.