Teknolojinin gelişimiyle yapay zekâ, hayatımızın ayrılmaz bir parçası haline gelmiştir. Bu durum sadece günlük yaşamı değil, aynı zamanda devletlerin savunma sanayiini de kökten etkilemektedir. Devletler son yıllarda çoğunlukla otonom silah sistemleri geliştirerek yapay zekadan faydalanmaktadır. Hukukun, her alanı gibi yapay zekâ ve onun farklı tezahürlerini kapsaması kaçınılmazdır.
Ancak otonom silah sistemleri, devlet pratiğinin henüz emekleme aşamasında olduğu bir alandır. Bu nedenle, bu sistemlerin işleyişinden doğacak haksız fiillerin kime, hangi koşullar altında atfedilebileceği netleştirilememiştir. Örneğin, son yıllarda kullanılan silahlı dronlar (drone) birçok sivil hayatını kaybetmektedir. Bu durumda devlet, saldırıyı gerçekleştiren sistemin otonom doğasını öne sürerek sorumluluk mekanizmasından kurtulabilir mi? Cevap hayır ise, hangi şartlarda atfedilebilirlik ve hukuki sorumluluk ortaya çıkacaktır? Evvela bu sorulara yanıt verilmesi gerekmektedir.
Bu incelemede, otonom silah sistemlerinin doğası ele alınmakta; buna müteakiben gerçekleştirdiği eylemlerin uluslararası hukuk açısından bir haksız fiil teşkil etmesi durumunda, bu eylemlerin devlet sorumluluğunu ne ölçüde harekete geçireceği incelenmektedir. Bu süreçte doktrin, devlet pratiği ve uluslararası örgütlerin reaksiyonları dikkate alınmıştır.
1. Otonom Silah Sistemi Nedir?
Otonom silah sistemi, toplanan bilgilerden ve önceden programlanmış kısıtlar temelinde türetilmiş sonuçlara dayanarak, bağımsız olarak hedefini belirleyen ve taarruza geçen silah sistemleridir. Uluslararası Kızılhaç Komitesi (ICRC), bu sistemleri hedefi özerk olarak arayabilen ve kendi başına saldırıp tahrip edebilen sistemler olarak tanımlamaktadır. Buradaki “özerklik” kavramı, söz konusu öldürücü sistemin insan müdahalesi olmadan işlemesi anlamına gelmektedir.
Amerikan Savunma Bakanlığı’nın tanımına göre ise bu silah sistemleri, bir kere aktive edildikten sonra herhangi bir insan operatörün müdahalesi olmadan hedefleri seçip ateş edebilen sistemlerdir. Bu kapsama; insanların denetlediği, yani kullanıcıların sistemi durdurabildiği (override) ancak (böyle bir müdahale olmadığı sürece) aktive edildikten sonra hedefleri tespit edip bunlara ateş edebilen sistemler de dahildir.
Otonom silah sistemleri insandan bağımsız eyleme geçer. Eğer hedef seçme ve imhasında insanın tasdik edici bir eylemi varsa, bu sistem yarı otonom olarak adlandırılır. Örneğin kumandalı dronlar yarı otonom; tamamen otonom olanlar ise tam otonom silahtır. Özetle, tanımlar farklılık gösterse de özerk silah sistemleri (popüler adıyla killer robotlar), askeri bir görevi tamamen kendi başına veya sınırlı insan katkısıyla gerçekleştiren savaş araç ve gereçleridir.
Artık bilim kurgu filmlerinden ibaret olmayan bu teknolojiler, gelişmiş ülkeler tarafından üretilmektedir. Güney Kore’nin Kuzey Kore ile arasındaki silahsızlaştırılmış bölgeye kurduğu SGR-A1; İsrail’in radar emicilerine karşı geliştirdiği Harpy Loitering Weapon; Rusya ve Çin’in ürettiği PMK-2 kapsüllü torpido mayınları ve ABD’nin hava, deniz ve kara silah sistemleri örneklerindendir.
2. Killer Robotlara Uluslararası Kamuoyunun Tepkisi
a) Devletlerin Tutumu
Silah sanayisinin mevcut özerk silah altyapısından faydalanarak daha hızlı ve etkin sistemler geliştirmesi, askerlerin savaş durumundaki ölümcül riskleri en aza indirmektedir. Pek çok ülkenin ordusu da bu gelişimi desteklemektedir. Buna karşın, killer robotların kullanımına karşı yoğun kampanyalar da yaşanmaktadır.
Uluslararası kamuoyunun tutumu üç ana gruba ayrılmaktadır. Dünya genelinde 26 ülke otonom silahlara karşı çıkarken, Amerika, Rusya ve Çin gibi ülkeler bu kullanımı desteklemektedir. Son dönemde Gazze’deki protestoculara göz yaşartıcı gaz atmak için yarı otonom dronlar kullanan İsrail de bu sistemlerin destekçisi ülkeler arasında yer almaktadır.
Almanya ve Fransa gibi bazı ülkeler ise, kullanım ve sorumluluk şartları belirlenmesi durumunda üretimine ve kullanımına karşı çıkmayarak orta yolu tercih etmektedir.
b) Diğer Uluslararası Aktörlerin Tutumu
Yapay zekâ destekli otonom silah sistemlerinin kullanımına en büyük tepki uluslararası kuruluşlardan gelmektedir. Dünya genelinde birçok organizasyon, bu tür silahların kullanımına karşı çıkış göstermektedir.
Killer robotlara karşı etkin bir kampanya yürüten ABD merkezli Future of Life Enstitüsü, insan hayatına son verme kararının makineye bırakılmaması gerektiğini savunmaktadır. Bu sistemlerin insan müdahalesi olmadan hedef belirlemesi ve taarruza geçmesinin, devlet sorumluluğu açısından önüne geçilemeyecek bir tutarsızlık yaratacağını belirtmektedir.
Avrupa Parlamentosu, 18 Aralık 2018 tarihinde “Güvenilir Yapay Zekâ İçin Etik Kılavuz İlkeler Taslağı”nı yayımlamıştır. Buna ek olarak aynı Parlamento, öldürücü otonom silah sistemleri hakkındaki kararını (European Parliament Resolution of 12 September 2018 on Autonomous Weapon Systems) yayınlamıştır.
Bu kararda, killer robotlar; münferit hedeflerin seçilmesi ve bunlara taarruz aşamasında tatmin edici bir insan kontrolü bulunmayan silah sistemleri olarak tanımlanmıştır. Etik ve yasal sorunları ele alınarak, bu sistemlerin ölçülülük, ayırt etme ve tedbir alma gibi insana özgü kararları alacak seviyede olmadığı saptanmıştır. Parlamentonun otonom silahlara ilişkin benzer kararlarında da insan kontrolünün önemi sürekli vurgulanmaktadır.
Bu konuda dikkat çekici bir diğer belge ise Avrupa Birliği Komisyonu’na sunulmuş, robotların kendi haksız fiillerinden sorumlu tutulabilmeleri amacıyla elektronik kişilik yasal statüsünün verilmesini öneren “Robotlara İlişkin Medeni Hukuk Kuralları Tasarı Raporu”dur. Komisyon, robotların sebep oldukları zararlardan doğan sorumlulukta bir yasal statü belirlemenin yerinde olacağını ancak henüz üçüncü kişilerle bağımsız etkileşim kurmaları mümkün olmadığından ötürü bu statüyü atfetmenin şu an için mümkün olmadığını belirtmiştir.
3. Uluslararası Hukukta Otonom Silah Sistemlerinden Doğan Sorumluluk
Uluslararası arenada, yalnızca bir “araç” olarak değerlendirilen robotlara yasal bir statü atfedilmemesi, gerçekleşen haksız fiilden kimin ne oranda sorumlu tutulacağının belirlenememesine yol açmakta; bu durum otonom silah sistemleri meselesinin temel sorununu oluşturmaktadır.
a) Devlet Dışı Aktörlerin Sorumluluğu
Devlet dışı aktörlerin sorumluluğunun belirlenmesinde doktrinde farklı görüşler bulunmaktadır. Bazıları, üretim aşamasında etkin rol oynamış kişilerin haksız fiillerinden objektif sorumlu kabul edilmesini önermektedir. Öte yandan ise bu rejim uygulanırsa; robotların haksız fiillerinden tüm bireylerden (üretimdeki herkes, operasyondan sorumlu komutanlar, siyasi liderler vb.) sorumluluk talep etmenin bir vakum yaratacağı endişesi dile getirilmektedir.
Ayrıca doktrinde atfedilebilirlik açısından bir kıyas tartışması yapılmaktadır. Özerk otonom silah sisteminin haksız fiilinden sorumluluğun, askeri komutanın sorumluluğuna benzetilmesi gerektiği ileri sürülmektedir. Bu durumda komutan gibi, robotlardan da benzer ölçüde sorumlu olunacağı düşünülmektedir. Ancak silahın tam otonomisinden kaynaklanan eylemlerin öngörülemezliği, bireysel sorumluluğun atfedilmesini zorlaştırmaktadır.
b) Devlet Sorumluluğu
Uluslararası alanda devlet sorumluluğunun doğması için; 1) devlet tarafından gerçekleştirilmiş veya ona atfedilebilir bir fiilin olması, 2) bu fiilden bir zarar meydana gelmesi, 3) fiil ile zarar arasında illiyet bağı bulunması ve 4) nihayet fiili hukuka uygun hale getiren bir sebep olmaması gerekir. Bu şartlar kümülatif olarak gerçekleştiğinde haksız fiilden devletin sorumlu olduğu söylenebilir.
Otonom olsa dahi, devletin bu sistemlerin kullanımından doğan haksız fiillerden objektif olarak sorumlu olduğu kabul edilebilir; ancak bu sorumluluğun kapsamı, savaş hukukunun iki farklı boyutu olan jus ad bellum ve jus bello bakımından ayrı ayrı incelenmelidir.
Jus ad bellum, savaşın belirli durumlarda haklı olup olmadığını belirleyen ölçütleri ortaya koyar; basitçe savaştan önceki dönemi ifade eder. Bu dönemde otonom silah sisteminin kullanılması tek başına kuvvet kullanmayı haksız fiil haline getirmez. Kuvvet kullanımının meşru hale gelmesi için UNSC intikali, hedef devletin geçerli rızası yahut meşru müdafaa şartlarının gerçekleşmesi gerekir. Dolayısıyla otonom silah sistemi bu sorumluluk rejimini harekete geçirdiği ölçüde devlet sorumluluğunu doğurur.
Jus in bello ise savaş sırasında kuvvet kullanımının haklılığını sağlamayı amaçlar. En önemli koşulları sivil dokunulmazlık, oranlılık ve ayırt etmedir. Jus in bello döneminde uluslararası insancıl hukuk kuralları uygulanır.
Uluslararası İnsancıl Hukuk (IHL), silahların insancıl hukuka uygun kullanımlarının mümkün olması için taşıması gereken vasıfları düzenlemiştir. 1949 tarihli Cenevre Sözleşmeleri Ek I. Protokol’ünün 36. maddesine göre; bir silahın henüz üretimi aşamasında, ilgili devlet tarafından bu silahın insancıl hukuk ve diğer uluslararası hukuk hükümlerine uygunluğunun araştırılması gerekliliğini yükümlülük olarak atfetmiştir.
Aynı şekilde bir silahın hukuka uygun olması için savaşan (combatant) ve sivil ayrımı yapabilmesi gerekir. ICJ, Nükleer Silahlar İstişari Görüşü’nde bu ayrımın (distinction), insancıl hukukun en temel kurallarından biri (cardinal principles) olduğunu vurgulamıştır.
Mezkûr sözleşmenin Ek Protokol’ünün 51. Maddesinin 4. Fıkrasının (b) ve (c) bentleri ile doğası gereği ayrım yapmayı haiz olmayan silahlar yasaklanmıştır. Yine aynı maddede, bir silahın belli bir hedefe yönlendirilememesi ve sebep olduğu tahribatın kontrol edilememesi durumunda kullanımının hukuka aykırı olduğu düzenlenmiştir. Özerk silah sistemlerinin savaşan ve sivil ayırt edebilmesi hususu büyük kaygı yaratmaktadır; zira son yıllarda yaşanan dron saldırılarının sonucu olarak onlarca sivilin ölümü, bu endişelerin haklı çıktığının bir göstergesidir.
Sonuç olarak hem jus ad bellum hem de jus in bello açısından otonom silah sisteminin kuvvet kullanma teşkil eden haksız fiilinden sorumlu olduğu aşikârdır. Silahların bizatihi kullanımının hukuka aykırı olup olmadığı ise, ancak zamanla ve belirlenen kıstaslar ölçüsünde değerlendirilerek devlet pratiğinde ortaya çıkarılabilecek bir meseledir.
