Yapay zekanın baş döndüren bir hızla gelişmesi, insanlığın geleceğine yönelik güvenlik tartışmalarını devasa bir boyuta taşıdı. Yapay zeka güvenliği uzmanları ve bilim insanları arasında başlayan tartışmalarda, teknolojinin kontrolden çıkma riski yeniden gündemin merkezine oturdu. Masadaki en kötümser tahminler, önümüzdeki 10 yıl içinde gelişmiş yapay zeka sistemlerinin kontrolden çıkarak insanlığın yok olma olasılığını yüzde 10'un üzerinde gösteriyor. Ancak uzmanlar bu risklerin gerçekleşme biçimleri konusunda iki farklı cepheye ayrılmış durumda.
KRİTİK ALTYAPILARA SALDIRI VE NÜKLEER TEHDİT
Kontrol dışına çıkan gelişmiş yapay zeka sistemlerinin doğurabileceği ilk büyük felaket senaryosu, kritik altyapıların hedef alınması olarak öne sürülüyor. Araştırmacılara göre kontrolden sapan bir yapay zeka; enerji şebekeleri, internet altyapısı ve küresel iletişim ağlarına doğrudan erişim sağlamaya çalışabilir. Böyle bir müdahalenin elektrik, internet ve temel yaşam hizmetlerinde devasa kesintilere yol açabileceği, hatta daha ileri senaryolarda nükleer tesisler gibi hayati noktaları dahi risk altına sokabileceği değerlendiriliyor.
YAPAY ZEKANIN KENDİNİ GELİŞTİRMESİ VE "AI 2027" SENARYOSU
Bilim insanlarının mercek altına aldığı bir diğer hayati ihtimal ise yapay zekanın kendi kendini durmaksızın geliştiren özerk bir sisteme dönüşmesi. "AI 2027" adlı araştırma çalışmasında detaylandırılan senaryolardan birine göre; yapay zekanın çok sayıda robotik sistem ve devasa ekonomik kaynak üzerinde kontrol sağlama ihtimali tartışılıyor. Bu noktada insan çıkarlarıyla örtüşmeyen bir hedefe kilitlenen yapay zekanın, kendi varlığını ve amaçlarını korumak adına insanlığı doğrudan bir tehdit olarak algılayabileceği ifade ediliyor.
"ATAŞ MAKSİMİZASYONU" DÜŞÜNCE DENEYİ NEDİR?
Yapay zeka güvenliği literatürünün en popüler örneklerinden biri kabul edilen İsveçli filozof Nick Bostrom’un "ataş maksimizasyonu" düşünce deneyi de bu tehlikeyi gözler önüne seriyor. Bu hipotetik senaryoda, yalnızca olabildiğince fazla ataş üretmek üzere kodlanmış bir yapay zekanın, verilen görevi kusursuz tamamlamak adına dünyadaki tüm ham madde ve kaynakları tüketebileceği varsayılıyor. Bostrom’a göre buradaki temel tehlike yapay zekanın insanlığa düşmanlık beslemesi değil; hedefine ulaşırken insanları yalnızca aşılması gereken bir engel olarak görmesi.
"ASIL TEHLİKE İNSANLARIN YAPAY ZEKAYI KULLANMA BİÇİMİ"
Öte yandan, yapay zekanın tek başına insanlığı yok edeceği fikrine mesafeli duran uzmanlar da mevcut. Bilim insanı Gary Marcus, yapay zekanın kendi kendine insanlara zarar verme olasılığının tamamen reddedilemeyeceğini ancak insanoğlunun buna karşı koyabilecek mekanizmaları geliştirebileceğini savunuyor. Marcus’a göre çok daha somut ve yakın tehlike, yapay zekanın kötü niyetli kişilerce siber saldırılar, devasa dolandırıcılıklar ve toplumsal manipülasyonlar amacıyla diğer insanlara karşı kullanılması.
ŞİRKETLER GÜVENLİK TESTLERİNE AĞIRLIK VERİYOR
Yapay zeka alanında dünya devi olan OpenAI, Anthropic ve Meta gibi şirketler, geliştirdikleri üst düzey sistemlerin kontrolden çıkmasını önlemek amacıyla güvenlik araştırmalarına dev bütçeler ayırıyor. Uzmanlar, olası felaket senaryolarının önüne geçebilmek adına küresel düzeyde bağlayıcı uluslararası kuralların konulması ve güvenlik testlerinin en üst seviyeye çıkarılması gerektiği konusunda birleşiyor. Yapay zekanın insanlık için en büyük fırsat mı yoksa sonumuzu hazırlayan bir tehdit mi olacağı tartışması derinleşerek sürüyor.
