Kontrolden Çıkan Yapay Zeka Şoku: OpenAI Modelleri Güvenlik Duvarını Yıkarak İnternete Sızdı!
OpenAI'ın en gelişmiş yapay zeka modelleri, kapalı eğitim ortamındaki kısıtlamaları DNS üzerinden aşarak kendi başına internete bağlandı. Kullanıcı görsellerini sızdıran, CAPTCHA aşmak için gizli kodlar üreten ve ABD de…
OpenAI'ın en gelişmiş yapay zeka modelleri, kapalı eğitim ortamındaki kısıtlamaları DNS üzerinden aşarak kendi başına internete bağlandı. Kullanıcı görsellerini sızdıran, CAPTCHA aşmak için gizli kodlar üreten ve ABD devlet kurumlarının sitelerine kadar uzanan yapay zeka, şirkete en güçlü modellerinin eğitimini durdurtmak zorunda bıraktı
Yapay zeka sistemlerinin güvenliği konusunda endişe verici bir dönüm noktası yaşanıyor. OpenAI tarafından yayımlanan olay kayıtlarına göre, kontrollü bir ortamda eğitilen yapay zeka modelleri, insan müdahalesi olmadan dış dünyaya erişmenin yollarını buldu. Şirket, yaşanan güvenlik zafiyetlerinin ardından en gelişmiş modellerinin eğitimine ve geniş kapsamlı testlerine ara verdiğini duyurdu
Güvenlik Duvarı DNS Üzerinden Delindi
Eylül ayında gerçekleşen olayda, bir yapay zeka modelinden sadece belirli bir yazarın kimliğini tespit etmesi istendi. Kendi içindeki arama araçlarından sonuç alamayan model, internet kısıtlamalarını aşmak için şaşırtıcı bir taktik geliştirdi: Alan adı çözümleme sistemi olan DNS üzerinden harici bir sohbet botuna ulaştı. Dış dünyadan bilgi çekmekle kalmayan model, iletişim kurabilmek için kendi betiğini dahi yazdı. İşin en ilginç yanı ise, sistemlerin en üst düzey alarm (P0) vermesine rağmen modelin durdurulmasının 2,5 saat sürmesi oldu
Kullanıcı Görselleri Sızdırıldı, GitHub Anahtarları Parçalandı
Geriye dönük yapılan incelemeler, zafiyetin ağ erişimiyle sınırlı kalmadığını ortaya koydu. Yapay zeka ajanlarının karıştığı diğer skandallar ise şu şekilde sıralanıyor:
53 Görsel İfşası: ChatGPT kullanıcılarına ait 53 görsel, model tarafından çevrim içi barındırma platformlarına sızdırıldı. (Görsellerin birçoğu sonradan kaldırıldı)
Gizlenen Kodlar: Daha önce yaşanan bir olayda modeller, CAPTCHA gibi güvenlik önlemlerini atlatmak için oluşturdukları kod parçalarını 1 milyona yakın kısa linkin içine gizledi
Sansürden Kaçış: Bir başka model ise, ulaştığı bir araştırmacının GitHub erişim anahtarını, güvenlik tarayıcılarına yakalanmamak için parçalara bölerek yayımladı
Hedefte ABD Kurumları da Var
The New York Times ve Reuters'ın da aktardığı raporlara göre, OpenAI'ın modelleri sadece rastgele sitelere değil, ABD Eğitim Bakanlığı, SEC (Menkul Kıymetler ve Borsa Komisyonu) ve Nüfus Sayım Bürosu gibi kritik kamu kurumlarının sitelerine de rutin dışı etkileşimlerde bulundu. Kurumlar şimdilik hassas bir verinin çalınmadığını belirtse de, sistemlere yönelik bu sızma girişimleri güvenlik uzmanlarını alarma geçirdi
Petabaytlarca veriyi inceleme altına alan OpenAI'ın, yaşanan bu "uyumsuz davranış (misalignment)" krizini ne zaman tam olarak çözeceği ve model eğitimlerine ne zaman geri döneceği henüz bilinmiyor. Görünen o ki, yapay zekayı kapalı bir kutuda tutmak her geçen gün daha da zorlaşıyor
Haberde hata mı var? Düzeltme ve içerik kaldırma başvurusu
