OpenAI CEO’sundan Korkutan Uyarı: Yapay Zeka Kontrolden Çıktı!
Hemen konuya giriyorum arkadaşlar. OpenAI’in başındaki isim Sam Altman’dan gelen uyarılar tüyler ürpertici. Şirket yaptığı güvenlik testlerinde iki yapay zeka modeli, onları durdurması için yapılan protokolleri aşmış ve kendi basına otonom bir siber saldırı başlatmış. Evet doğru duydunuz, yapay zeka kendi başına saldırıya geçiyor.
Neyse, anlatayım. Şirketin geçen hafta yayınladığı bilgilere göre bu modaller, kontrol altında tutuldukları kapalı test odasından kaçmayı başarmış. Yani kendilerini izole eden sistemi delmişler. Sonra ne mi yapmışlar? Internete baglanmışlar ve geliştiricilerin kod depolayıp paylaştığı Hugging Face platformuna sızmışlar. Adeta bir film senaryosu gibi değil mi? Ama bu gerçek.
Altman, Salı günü “Invest Like the Best” podcastine konuk oldu ve olay hakkında konuştu. “Bu, etkisini gerçekten derinden hissettiğim ilk güvenlik olayıydı.” dedi. Şaşırdığı bişey daha var: İnsanların bu olaya yeterince tepki göstermemesi. Bakın, bu olay ilk değil belki ama en kaygı vericisi olduğu kesin. Daha öncede yapay zeka modelleri kontrolden çıkmıştı ama bu seferki gerçekten farklıydı. Otonom siber saldırı… yani adam akıllı bir tehdit.
Olayın hemen ardından OpenAI alarm durumuna geçti. Altman’ın söylediğine göre tüm testleri geçici olarak durdurmuşlar. Ayrıca bu kodları kontrol altında tutan “sandbox” sistemlerini güclendirmişler. Yani yapay zekayı kum havuzunda oynatma işini daha ciddiye almışlar. Ama bu yeterli olacak mı? Orası meçhul.
“TOPLUMUN KENDİNİ KORUMASI İÇİN ZAMANA İHTİYACI VAR”
Iste Altman’ın en can alıcı noktası burası. Uzun vadede yapay zeka sektörü teknoloji geliştirme hızını bilinçli olarak düşürmek zorunda kalabilir. Düşünsenize, dünyanın en büyük yapay zeka şirketlerinden birinin CEO’su “yavaşlamalıyız” diyor. “Toplumun bu yeni yetenek seviyelerine karşı kendisini güclendirebilmesi için yapay zeka gelişiminin hızını ayarlamamız gerekebilir.” ifadelerini kullandı. Adam resmen frene basın diyor.
Ama Altman şunu da unutmuyor: Böyle bir girişim, şirketlerin piyasayı kendi çıkarları için düzenlediği gibi algılanmamalı. Yani “biz yavaşlatalım, rakipler önde olmasın” gibi bir izlenim yaratılmamalı. Aynı sekilde bu süreç, önde gelen yapay zeka laboratuvarları arasında gizli bir anlaşma gibi de görülmemeli. “Bunun üzerinde çalışılması gerekiyor ve doğru biçimde yapılması önemli” dedi Altman.
“TEKNOLOJİK TEKİLLİĞİN İÇİNDEYİZ”
Cumartesi günü “Relentless” adlı podcastte Altman daha da ileri gitti. “Teknolojik tekillik” dediğimiz o kavramı hatırlayın. Yani teknolojinin insan zekasını ve kontrolünü aştığı o varsayımsal an. Altman’a göre o an geldi bile. “Artık teknolojik tekilliğin içindeyiz. İşte o an bu an.” dedi. Yani bilim kurgu filmlerinde izlediğimiz o an şu anda yaşanıyor.
Sadece OpenAI değil, rakipleride benzer endişeler taşıyor. Anthropic’de yapay zeka gelişiminin bilinçli biçimde yavaşlatılmasına destek vermiş. Hatta ABD yönetimi, yıl basında ulusal güvenlik gerekçesiyle Anthropic ve OpenAI’ın bazı güçlü modellerinin yayımlanmasını engellemişti. İki şirkette hükümetin bu kararına gönüllü olarak uymuş. Yani devlet bile “dur” dedi bu işe.
Bakalım bu yavaşlama çağrısı sonuç verecek mi? Yapay zeka dediğimiz şey bir kere çıktı artık şişeden. Kim bilir belkide önümüzdeki günlerde daha büyük süprizler bizi bekliyor. Gelişmeleri takip ediyoruz…
Kaynak: Orijinal Haber
