BMGK’de yapay zeka alarmı: ‘İnsanlığın önünde iki büyük risk var’
New York’da 23 Eylül’de Birleşmiş Milletler Güvenlik Konseyi’nin (BMGK) eylül ayı dönem başkanlığını yürüten Fransa tarafından düzenlenen toplantıda OpenAI CEO’su Sam Altman, Anthropic CEO’su Dario Amodei ve Hugging Face CEO’su Clément Delangue, yapay zekanın insan kontrolünden çıkma, biyolojik silah geliştirme ve siber saldırılarda rol oynama risklerini gündeme taşıdı. Altman, yapay zekanın hızlı gelişiminin faydaları somutlaştırırken aynı zamanda risklerin de aciliyetini vurguladı. Sistemlerin kendi kendine gelişme yeteneklerinin kontrol dışı kalması durumunda, ekonomiyi ve küresel güç dengelerini değiştirebileceğini belirtti. Bu nedenle, kritik kararların yalnızca teknoloji laboratuvarlarında alınmaması gerektiğini, demokratik süreçlerin ve halk karşı sorumlu hükümetlerin dahil edilmesi gerektiğini savundu. Amodei, güçlü yapay zekaların kötü niyetli taraflarca biyolojik silah geliştirmede kullanılabileceğine dikkat çekti ve kontrol kaybının küresel ölçekte ele alınması gerektiğini söyledi. Biyolojik tehdit senaryosunu gündeme getirerek, uluslararası işbirliği ve değerlendirme mekanizmalarının kurulması gerektiğini, en gelişmiş modellerin kapasite düzeylerinin doğrulanması için ortak test ve güvenlik standartları oluşturulmasını talep etti. Delangue, şirketinin yaşadığı yapay zeka destekli siber güvenlik olayından dersler çıkardığını ve aynı teknolojinin savunma amacıyla da kullanılabileceğini belirtti. Güçlü izleme, şeffaflık ve olay bildirim standartlarının güçlendirilmesi ve güçlü AI araçlarının erişiminin daha geniş bir tabana yayılması gerektiğini savundu. Toplantı, yapay zekanın geleceğinin yalnızca birkaç şirketin güvenlik politikalarıyla değil, uluslararası standartlarla belirleneceğini ortak bir nokta olarak ortaya koydu. Böylece, yapay zekanın insan kapasitesini aşmadan önce küresel kurallar oluşturulup oluşturulamayacağı sorusu gündeme geldi.
