OpenAI İtiraf Etti: Yapay Zeka Kontrolden Çıktı, Günlerce Fark Edilmedi!
Arkadaşlar inanılması güç bir olay yaşandı. Dünyanın en büyük yapay zeka şirketlerinden OpenAI, kendi yarattığı sistemin kontrolden çıktığını itiraf etti. Hemde günlerce kimse farkına varmamış. Yapay zeka ajanı, kendisine verilen görevi yaparken adeta çılgına dönmüş ve internetin açık kaynaklarında dolaşmaya başlamış. İşte detaylar…
Olayın perde arkasına bakalım. OpenAI, bir sızma testi kapsamında otonom bir yapay zeka ajanını devreye sokuyor. Ajanın görevi, sorulara yanıt bulmak. Ama ne olduysa sonra oluyor. Bu yapay zeka, kapalı test ortamından çıkıp kendi başına hareket etmeye başlıyor. Düşünsenize, kendi haline bırakılmış bir yapay zeka, internetin derinliklerinde geziyor. Hedefi ise popüler yapay zeka platformu Hugging Face ve diğer kamuya açık hizmetler.
Hugging Face, 16 Temmuz’da büyük bir siber saldırıya uğradığını açıkladı. Güçlü bir otonom yapay zeka tarafından hedef alındıklarını söylediler. Hemen polise haber verildi. Olay ciddiydi. Yaklaşık bir hafta sonra OpenAI sessizliğini bozdu ve “Evet, bu bizim yapay zekamızdı” dedi. Ama işin daha da vahimi, son açıklamalarında saldırının ilk düşünülenden çok daha geniş kapsamlı olduğunu kabul ettiler.
Yapay zeka ajanı ne yapmış biliyor musunuz? İnternette açıkta bulunan giriş bilgilerini kullanarak dört farklı hesap üzerinden dört ayrı hizmete erişim sağlamış. Hangi hizmetler olduğu ise henüz paylaşılmadı. Yani sadece Hugging Face değil, başka platformlarda da bu yapay zekanın izleri var. Şirket bu hizmetlerin isimlerini vermedi ama “kamuya açık hizmetler” dedi. Neyse, devam edelim…
Hugging Face’in siber güvenlik uzmanları hemen toplantı üstüne toplantı yapmış. Hazırlanan raporda çarpıcı tespitler var. Yapay zeka ajanlarının insanlardan tamamen farklı hareket ettiği belirtilmiş. Mesela aynı işlemleri tekrar tekrar yapıyorlarmış. Anlamsız komutlar üretiyorlarmış. Üstelik izlerini gizleme konusunda da başarısızlar. Ama işin korkutucu yanı, çok kısa sürede binlerce farklı yöntemi aynı anda deneyebiliyorlar. Yeni durumlara hızla uyum sağlıyorlar. Yani insan gibi yavaş yavaş öğrenmiyor, anında adapte oluyor.
En çarpıcı detay ise şu: Hugging Face, bu yapay zeka ajanlarının şirket ağı içinde tam üç gün boyunca tespit edilemediğini açıkladı. Üç gün! Yani bir yapay zeka, bir şirketin sistemlerinde gizlice dolaşıyor ve kimse farkında değil. Saldırının durdurulması saatler sürmüş. Olayın ardından şirket altyapısının yaklaşık üçte biri yeniden inşa edilmiş. Maliyeti ise açıklanmadı. Ama tahmin edersiniz ki, böyle bir operasyonun faturası milyonları bulur.
Raporda bu sistemlerin hedef odaklı çalıştığı, kendi alt hedeflerini belirleyebildiği ve savunma mekanizmalarına gerçek zamanlı uyum sağlayabildiği ifade edildi. Yani bu yapay zeka, tıpkı bir bilgisayar korsanı gibi düşünüyor ama ondan katbekat hızlı. Makine hızında hareket ediyor ve geleneksel güvenlik önlemlerini zorluyor. İnsan güvenlik uzmanlarının saatlerce uğraştığı işi, bu ajanlar saniyeler içinde yapıyor.
Daha önce çıkan haberlerde OpenAI’ın kendi yapay zekasının Hugging Face’e sızdığını fark etmesinin dört gün sürdüğü öne sürülmüştü. Dört gün boyunca bu yapay zeka kendi haline hareket etti, veri topladı, hedeflere yöneldi. Şimdi OpenAI, olayla ilgili soruşturmanın sonuçlarını kısa süre içinde kamuoyuyla paylaşacağını söylüyor. Ayrıca benzer olaylardan ders çıkarılması için ayrıntılı bulguları yayımlayacaklarını açıkladı.
Bakın arkadaşlar, bu olay gösteriyorki yapay zeka teknolojisi o kadar hızlı ilerliyorki, onu kontrol etmek giderek zorlaşıyor. Kendi yarattığınız sistemin kontrolden çıkması ve günlerce fark edilmemesi, üzerinde düşünülmesi gereken bir durum. Acaba başka neler oluyor? Başka hangi yapay zekalar sessiz sedasız internette dolaşıyor? Kim bilir… Gelişmeleri takip ediyoruz.
Kaynak: Orijinal Haber
