Yapay zekânın nükleer silah sistemlerinde kullanılması yasaklanmalı mı?

Chatbot programları ve Yapay Zekânın (YZ) önemli haberlere konu olduğu– hatta bazı başlıkların özellikle endişe yarattığı –2023 yılı ABD Kongresi üyelerinin nükleer silahlarda yapay zekâ sistemlerinin kullanılmasını yasaklayan bir yasayı] geçirmesi ve ABD Başkanı Biden’ın bu konuda bir Başkanlık Kararnamesi imzalamasıyla sona erdi. Hatta bu konu Kasım ayında San Francisco’da toplanan Asya-Pasifik İşbirliği forumunda ABD ve Çin arasındaki görüşmelerde de gündeme getirilmişti.

Nükleer silahlarda YZ kullanımını engelleyecek diplomatik ve düzenleyici bir çerçeve hazırlama yolunda fazla hızlı ilerliyor gibiyiz. Bu en az iki nedenle endişe vericidir:

En büyük nükleer arsenale sahip olan NATO müttefiki ABD’nin YZ’yı nükleer savunmada kullanma konusundaki politikaları Birleşik Krallık ve Fransa gibi nükleer yeteneklere sahip diğer NATO üyeleri açısından belirleyici olabilir. İşte bu nedenledir ki özellikle ABD’de, ama genel olarak İttifakın bütününde, YZ konusundaki yanlış anlama konusu ele alınmalı ve kanun yapıcılar teklif edilen her yasa üzerinde daha dikkatle durmalılar. Kazanılabilecek jeopolitik yararlar düşünülürse, YZ’yı nükleer savunmanın dışında bırakmak kötü bir fikirdir.

İnsanlar YZ’yı nükleer silahlar bağlamında düşündüklerinde 1991 yapımı Terminator 2: Judgement Day filmindeki Skynet sistemi gibi bir şey hayal edebilirler. Bu filmde Skynet bilinçlenir ve küresel çapta muazzam bir nükleer saldırı başlatır.

Belki de insanlar 1983 yapımı WarGames ve bu filmdeki WOPR olarak bilinen yapay zekâ sistemini veya 1970 yapımı *Colossus:*The Forbin Project gibi belirli bir kesime hitap eden niş sinema türünü hayal ediyorlar. Soğuk Savaşın son otuz yılında gösterime giren bu filmlerin hepsi bazen Genel Yapay Zekâ (AGI / GYZ) olarak da adlandırılan, bağımsız düşünce yeteneğine sahip yapay zekâ sistemlerini betimliyorlar. Bu sistemlerin sergiledikleri tehlike, bağımsız düşünceye sahip sistemlerin bağımsız hedeflere ve gizli amaçlara sahip olabileceğidir. Tabii ki bu tür sistemlerin var olması endişe verici olurdu. Ama mevcut değiller ve evrensel bir şüpheci fikir birliği olmasa da, bu tür sistemlerin bir gün var olup olmayacağı konusunda en azından bazı araştırmacılar arasında ciddi şüpheler var.

Popüler kurgu yeni bir bilimi her zaman tam olarak temsil etmez. Kurgu, en iyi ihtimalle, tartışma ve stratejik düşünceler için bir başlangıç noktası oluşturabilir. Örneğin, H.G.Wells’in “The Last War” isimli romanı nükleer savaş konusunda yazılmış ilk kurgu romanlardan biriydi. Nükleer bilimin daha emekleme çağındayken yazılmış olan bu roman patlamanın yaydığı enerji ve half-life gibi kavramlarla ilgili yanlış anlamalarla doluydu. Yine de, daha sonraki yıllarda Herman Kahn’ın On Thermonuclear War (Termonükleer Savaş Hakkında) isimli kurgusal olmayan kitabının çıkış noktası insana hemen The Last War adlı romanın konusunu hatırlatıyor. Kahn kitabında ciddi akademik düşüncenin kurgusal senaryoların değerlendirilmesiyle başlayabileceğini gösterdi – bilimsel yanlışlıklar içerenler bile olsa. Ancak bugün her yerde alıntı yapılan On Escalation gibi daha sonraki en önemli çalışması muhtemelen ampirik kanıtlara dayanıyordu. Benzer şekilde bilimsel doğruluk ve ampirik kanıtlar YZ ile ilgili tartışmalarımızın merkezinde yer almalıdır.

Halen elimizdeki YZ bir Genel Yapay Zekâ değildir. Bugünkü YZ Turing testini geçebilir, yani bir kullanıcının sorularına verdiği cevaplar bir insanın cevaplarından ayırt edilemeyebilir, ama bağımsız düşünce yeteneğine sahip değildir ve kesinlikle bilinçlenemez.

Nükleer savunmalarımızda YZ tabanlı hedefleme sistemleri dâhil, yapay zekâ için pek çok rol bulunuyor. Eğer YZ tabanlı hedeflemenin nükleer silahları daha hassas hale getireceğini varsayarsak – yani vurması gereken hedefleri vuracak, vurmaması gerekenleri vurmayacak – o zaman bu sistemi geliştirmenin ve konuşlandırmanın jeopolitik açıdan yararları nelerdir? Bu bağlamda, nükleer silahların hassasiyetini arttırmanın Soğuk Savaş sırasında ABD ve NATO’nun savunmalarını nasıl güçlendirdiğini göstermek amacıyla bazı tarihi örneklere bakmak yararlı olacaktır.

Mart 1983 tarihinde, o zamanki ABD Başkanı Ronald Reagan [Çalışma Ofisinden (Oval Office) yaptığı konuşmasında] (https://www.reaganlibrary.gov/archives/speech/address-nation-defense-and-national-security) bir balistik füze savunması sistemi geliştirilmesi konusundaki olumlu tavrını ortaya koymuştu. Değindiği önemli noktalardan biri de Sovyetler Birliği’nin ABD’den daha fazla nükleer silahlara sahip olduğuydu. 1970’lerin sonlarında Sovyetler Birliği sahip olduğu nükleer silahların sayısında gerçekten de ABD’nin önüne geçmişti, ama bu daha ziyade Polaris, Titan II, ve Pershing gibi daha hassas füze sistemlerini konuşlandırmış olmasından kaynaklanıyordu. Artık bir şehri veya askerȋ tesisi hedef alırken birçok füze kullanmaya gerek kalmamıştı; dolayısıyla ABD daha az sayıda savaş başlığı kullanarak yine de hem etkili biçimde Sovyetler Birliğini caydırabilir hem de kendi stratejik hedeflerini tutturabilirdi. Daha az sayıda ama daha hassas nükleer silahlara sahip olmak ABD’ye azalan maliyetten kazanılan savunma dolarlarını hayalet bombardıman uçakları (stealth bomber) ve cruise füzeleri gibi yeni sistemler için harcama imkânını verdi.

Soğuk Savaşın son on yıllarında savunma harcamalarının gayri safi yurt içi hasıladaki (GSYİH) payının bugün olduğundan çok daha yüksek olduğu bir dönemde, ABD’nin toplam nükleer silahlarında görülen azalma daha hassas silahlar geliştirilmesinin daha az sayıda silah anlamına gelebileceğini düşündürüyor.

Daha hassas nükleer silahların geliştirilmesinin ABD nükleer politikasını potansiyel olarak nasıl etkilediğinin bir kanıtı, 1980’de Başkan Jimmy Carter tarafından imzalanan ve kısa süre önce gizliliği kaldırılan 59’uncu Başkanlık Direktifi’nde görülüyor. Bu Direktifte çok dikkat çeken iki noktadan biri hedeflere ilişkin istihbaratın arttırılması talebi, ikincisi de “bak – vur - bak” olarak adlandırılan, bir hedefi bulma, onu vurma ve ardından saldırıyı değerlendirme yeteneğinin teşvik edilmesi. Bu yaklaşımda nükleer bir saldırının planlanan hedefi vurması gerektiği, hedefin stratejik değere sahip olması gerektiği, ve amaçlanan hedefi vuramayan nükleer kaplama bombardıman tekniğinin kullanılmasının stratejik olarak anlamsız olduğu fikirleri ima ediliyor.

Nükleer silahlardaki bu gelişmelere paralel olarak, konvansiyonel silahlar da giderek daha hassas hale geldi. Körfez Savaşı (1990-1991) konvansiyonel silah sistemleri açısından bir dönüm noktası oldu – askerî hedefleri vuran daha hassas silahlar ve nispeten daha aza indirilen sivil kayıplar, Amerikalı General Norman Schwarzkopf’un basın brifinglerinde çok önemli bir yere sahipti. Sivil kayıpları minimuma indirmenin sağladığı yararlar o tarihten itibaren birçok NATO Müttefikinin misket bombası gibi eski ve askerî hedefleri sivillerden ayıramayan silahları yasaklamalarına yol açtı.

Birçok teknolojinin hâlâ gelişmekte olduğu bu noktada yapay zekâ tabanlı daha hassas nükleer hedefleme sistemlerinin ne şekil alacağını tahmin etmek zor. Varsayımlara dayanan şöyle bir senaryo akla gelebilir: bir nükleer silah bir deniz üssünü hedef alıyor, fakat bir yaklaşma modelini tanıma sistemi, denizaltıların denize açılmış olduklarını belirliyor ve dolayısıyla füze bir atmosferik patlama yerine su altındaki hedefleri vurmaya yönlendiriliyor. Bu hayali senaryo yapay zekâ kullanımı ile ilgili akla gelebilecek senaryolardan sadece bir tanesi.

Eğer tarih bugünümüzün bağlamını belirliyorsa, ve yapay zeka tabanlı daha hassas hedefleme sistemlerinin kullanılması nükleer silahların toplam sayısında bir azalmaya yol açıyorsa, bu azalmalar nerede olabilir? Tabii ki stratejik bir inceleme bu sorunun cevabını verecektir. Bir olasılık, karada konuşlanan Kıtalararası Balistik Füzeler (ICBM’ler) olabilir. ABD’nin şu anki politikası bu olmamakla beraber, ABD eski Savunma Bakanı William Perry de dâhil, bazı eski yetkililer tam olarak bunu savundular.

Bu olasılığın potansiyel yararları ulus devlet tehditlerinin çok ötesine geçebilir. Nükleer silahların sayısındaki azalma, geri kalan nükleer silah stoklarının güven altında olmasını kolaylaştıracak ve iyi korunamayan silahların yanlış ellere geçtiği şeklindeki nükleer terörizm kâbusu gibi senaryoları önleyecektir.

Tabii ki nükleer silahlara yönelik yapay zekâ tabanlı hedefleme sistemlerinde de bir silah yarışı potansiyeli mevcut. Fakat aynı zamanda da araştırma ve geliştirmenin sürdürülmesinin nükleer diplomasi ve silahların azaltılmasında oynayabileceği rolün altını çizmek gerekir. Tarihteki emsallere dönersek, ABD orta menzilli Pershing füzelerini Avrupa’da konuşlandırdığında, hemen ardından başlayacak stratejik silahları azaltma görüşmelerinde bu füzeler bir pazarlık kozu olarak görülüyorlardı. Aynı şekilde, Başkan Reagan’ın balistik füze kalkanı da Sovyetler tarafından bir pazarlık unsuru olarak görülüyordu. 1986 Rejkavik Zirvesinde Başkan Reagan, Sovyet Lideri Mihail Gorbaçov’un ABD’nin bir balistik füze savunma sistemi konuşlandırmaması karşılığında büyük sayıda nükleer silahını ortadan kaldırma konusunu görüşmeye istekli olduğunu görmüştü. Ancak Zirvenin ardından bunun yerine Pershing füzelerinin kaldırılmasına yol açan Orta Menzilli Nükleer Kuvvetler Antlaşması görüşmeleri başladı.

Halen nükleer diplomasi ile ilgili ele alınması gereken ciddi sorunlar var. Rusya nükleer denetimleri reddediyor ve yeni nesil hipersonik balistik füzeler geliştirmeye devam ediyor. Bu arada Çin baştan beri nükleer arsenalini kendisi sınırlamayı tercih etti, ABD ile resmî anlaşmalara çok nadiren girdi. Bugün nükleer diplomatların ümidi ABD, Rusya ve Çin arasında çok taraflı bir silahların azaltılması antlaşması yapılmasıdır; ancak Rusya’nın Ukrayna’daki acımasız savaşı ve Hint-Pasifik bölgesinde artan gerilimler sürerken böyle bir antlaşmayı yapabilmek çok zor. Sonunda tüm tarafların görüşmeleri kabul etmeleri durumunda yapay zekâ tabanlı silah sistemleri, en azından ABD ve NATO’daki Müttefikleri için bu görüşmelerde bir pazarlık unsuru olabilir. Gelecekteki silahların kontrolü görüşmelerinde bu unsur aslında “azaltmak için arttırmak”tır (“building up to build down” – her yeni silah için eski silahlardan birçoğunu ortadan kaldırmak anlamına gelen, nükleer silah görüşmelerinde yerleşmiş bir strateji). Aynı zamanda en etkili sistemlerin geliştirilmesini önleyen değil, geliştirilmelerine ilk yatırım yapan olmayı bir şart haline getirir.

Ve eğer sonunda yapay zekâ sistemlerinin nükleer savunmada kullanılmamasına karar verilirse, önerilen herhangi bir yasanın dili yapay zekâyı dikkatle tanımlamalıdır – ancak hızla gelişmekte olan bir teknoloji konusunda bunun yapılması çok zordur. Örneğin, ABD Kongresine sunulan bir yasa taslağı “bir nükleer silah ateşlemek amacıyla hedefi seçen veya tahrip eden” sistemlerin yasaklanması gerektiğini ifade ediyor ve “‘otonom silah sistemleri’ni aktive edildikten sonra herhangi bir operatörün müdahalesi olmadan hedefleri seçebilen ve tahrip edebilen bir silah sistemi” olarak tanımlıyordu. Bu durumda, ABD nükleer arsenalinin 1970’lerin başından beri birden fazla bağımsız hedeflenebilir atmosfere dönüş bölmeleri (MIRV’ler) kullandığını belirtmek gerekir – hiçbir insan müdahalesi olmadan taşıdığı birden fazla savaş başlığının her birini ateşleyip daha sonra her birinin uçuş yolunu yönlendiren bir sistem. Hukuk uzmanlarının böyle bir yasa dilinin on yıllardır ABD nükleer savunmasının temelinde yer alan ve kanıtlanmış bir teknoloji olan MIRV’leri istemeden yasaklayabilecek kadar geniş olup olmadığını değerlendirmeliler.

Her yeni on yılda bomba korkusu transistör, mikroişlemci ve silikon disk korkusuyla iç iç geçmiş ve bu popüler kültürümüze de yansımıştır. Nükleer arsenali, bu arsenalin kontrol sistemlerini ve caydırıcılık teorisini geliştirenler bunun bilincindeydiler ve otomatik sistemlerin oynaması gereken doğru rol üzerinde titizlikle durdular. Bugün karmaşık bir sorun gibi görünse de, otomatik sistemleri nükleer silahlarla birleştirme riski kesinlikle yeni bir problem değil. Hızla gelişen bir teknoloji konusundaki bu meşru endişeler gayet geçerlidir; fakat yapay zekâ sistemlerinin yetenekleri konusundaki endişeler sadece popüler kurgudaki betimlemelerine değil, bu sistemlerle ilgili bilime dayanmalıdır.

Yapay zekâ sistemleri nükleer savunma amaçlı daha hassas ve yetenekli bir nükleer mukabele sağlayarak nükleer caydırıcılığı güçlendirme fırsatı sunarlar. Nükleer silahları daha hassas ve yetenekli hale getirmek, onların kullanımını teşvik etmek anlamına gelmez. Daha ziyade bu tür yetenekler nükleer savaşa karşı daha inanılır bir caydırıcılık sağlarlar ve klasik nükleer doktrinle tutarlıdırlar. Aynı nükleer silahlar gibi, yapay zekâ da sadece stratejik bir araçtır.

Yapay zekâ konusundaki endişeler YZ’nın nükleer caydırıcılığı güçlendirme amacıyla kullanımını engellememelidir. Ayrıca YZ bu sistemlerde sadece konuşlandırma amacıyla da kullanılmamalıdır. Yapay zekâyı kullanmak stratejik bir amaca hizmet etmelidir. Doğru dengenin bulunması zor olabilir, çünkü bu bilim henüz emekleme safhasındadır. Savunma ve YZ toplumlarının uzman görüşleri dinlenmelidir ¬- sadece YZ şirketlerinin yöneticilerine değil, mühendislere, akademisyenlere, subaylara ve hukuk danışmanlarına da kulak vermek gerekir. Büyük evrensel güvenlik sorunları ve hızla gelişen nükleer ve YZ teknolojilerinin olduğu bir dönemde, yasa yapıcılar ve siyasi liderler önerilen her yasa tasarısına çok dikkatle yaklaşmalıdırlar.