Teknolojinin gelişimiyle birlikte yapay zeka hayatımızın bir parçası haline gelmiştir. Son yıllarda devletler, savunma sanayiinde otonom silah sistemleri geliştirerek yapay zekadan önemli ölçüde faydalanmıştır. Bu durum kaçınılmaz olarak hukukun da yapay zekayı ve farklı alanlardaki görünürlüğünü ele almasını gerektirmektedir. Ancak, otonom silah sistemleri devlet pratiğinde henüz başlangıç aşamasında olduğu için, bu sistemlerin işleyişinden kaynaklanabilecek hukuka aykırı eylemlerin kime ve hangi koşullar altında atfedileceği belirlenmemiştir. Örneğin, son yıllarda kullanılan silahlı dronların hava saldırıları sırasında birçok sivil hayatını kaybetmiştir. Bu durumda devlet, sistemi otonom olduğu gerekçesiyle sorumluluk mekanizmasından kaçabilir mi? Eğer cevap olumsuzsa, sorumluluğun hangi koşullar altında ve nasıl atfedileceği sorusu ortaya çıkmaktadır. Öncelikle bu sorulara yanıt verilmesi gerekmektedir.
Bu incelemede, otonom silah sistemlerinin doğası ele alınacak; ardından bu sistemlerin eylemlerinin uluslararası hukuk açısından hukuka aykırı bir eylem teşkil etmesi durumunda, devlet sorumluluğunun kapsamı doktrin, devlet uygulamaları ve uluslararası kuruluşların tepkileri ışığında belirlenecektir.
1. Otonom Silah Sistemi Nedir?
Otonom bir silah sistemi, önceden programlanmış kısıtlamalardan elde edilen bilgilere dayanarak hedef belirleyen ve saldırı gerçekleştiren bir silahtır. Kızıl Haç Uluslararası Komitesi (ICRC), otonom silah sistemlerini bağımsız olarak hedef arayan ve belirlediği hedefe saldıran ve yok eden sistemler olarak tanımlamaktadır. Buradaki “otonomi” terimi, ölümcül sistemin insan müdahalesi olmadan işlev görmesi anlamına gelir.
ABD Savunma Bakanlığı’nın tanımına göre ise bu silah sistemleri, aktive edildikten sonra herhangi bir insan operatörün müdahalesi olmaksızın hedef seçme ve yok etme yeteneğine sahiptir. Bu kategoriye, insanlar tarafından kontrol edilen ancak kullanıcıların sistemi devre dışı bırakabileceği veya tespit edip ateşleyebileceği (bu tür bir kesinti olmadıkça) sistemler de dahildir.
Yukarıda belirtildiği gibi otonom silah sistemleri, tamamen insandan bağımsız hareket eder. Bu sisteme yarı-otonom silah sistemi denir. Örneğin, uzaktan kumandalı dronlar yarı-otonom; silahlı dronlar ise tam otonom silah sistemleridir.
Özetlemek gerekirse, tanımlar bazı noktalarda çelişse de, “katil robot” olarak bilinen otonom silah sistemleri, askeri görevleri tamamen kendi başına veya sınırlı insan katkısıyla yerine getiren savaş araçları ve ekipmanlarıdır.
Artık bilim kurgu filmlerinde yer alan katil robotlar, gelişmiş ülkeler tarafından üretilmektedir. Örneğin; Güney Kore’nin Kuzey Kore ile demilitarize bölgede kurduğu SGR-A1, İsrail’in radar emici karşı geliştirdiği Harpy Loitering Weapon; Rusya ve Çin tarafından üretilen PMK-2 adlı kapsüllenmiş torpido mayınları ve ABD’nin hava, deniz ve kara silah sistemleri otonom silah sistemlerine örneklerdendir.
2. Katil Robotlara Uluslararası Kamuoyu Tepkisi
a. Devletlerin Tutumu
Silah sanayii ne kadar hızlı gelişir ve daha verimli sistemler üretirse, savaş alanındaki askerlerin karşılaştığı ölümcül riskler o kadar azalır. Birçok ülkenin ordusu bunun artmasını beklerken, katil robotlara karşı çıkan kampanyalar da artmaktadır.
Devlet görüşleri, katil robotların kullanımı konusunda üç farklı gruba ayrılmıştır. Dünya genelinde 26 ülke otonom silahlara karşı çıkarken; Amerika, Rusya ve Çin gibi ülkeler bu kullanımı yoğun bir şekilde desteklemektedir. Son zamanlarda Gazze’de protestolara yaş gazı ateşlemek için yarı-otonom dronlar kullanan İsrail de otonom silah sistemlerini savunan ülkelerden biridir.
Almanya ve Fransa gibi ülkeler ise orantılı bir yaklaşımı tercih etmektedir. Bu ülkeler, kullanım koşulları ve sorumlulukları belirlenmesi şartıyla katil robotların üretimine ve kullanımına karşı değildir.
b. Diğer Uluslararası Aktörlerin Tutumu
Yapay zeka destekli otonom silah sistemlerinin kullanımıyla ilgili en büyük tepki uluslararası kuruluşlardan gelmektedir. Dünya çapında 230 uluslararası kuruluş katil robotların kullanımına karşı çıkmaktadır.
Katil robotlara karşı etkili bir kampanya yürüten ABD merkezli Future of Life Institute, insan hayatını sonlandırma kararının bir makineye bırakılmaması gerektiğini savunmaktadır.
Avrupa Parlamentosu, 18 Aralık 2018’de birey ve toplum yararına yapay zeka sistemlerinin etik ilkelerini belirlemeyi amaçlayan Güvenilir Yapay Zekaya Etik İlkeler Belgesi yayımlamıştır. Ayrıca Parlamento, 12 Eylül 2018 tarihli Otonom Silah Sistemleri hakkındaki Avrupa Parlamentosu Kararını yayınlamıştır.
Bu kararda katil robotlar; bireysel hedeflerin seçimi ve yok edilmesi sırasında tatmin edici insan kontrolü olmayan silah sistemleri olarak tanımlanmıştır. Etik ve hukuki sorunlar göz önüne alınarak, bu sistemlerin orantılılık, ayrımcılık gibi insana özgü kararları verme nitelikte olmadığı belirtilmiştir. Parlamento’nun otonom silahlara dair benzer kararları, insan kontrolünün önemini vurgulamaktadır.
Dikkat çekici bir diğer belge ise Avrupa Komisyonu’na sunulan Civil Law Rules on Robotics belgesidir. Bu belge, robotların hukuka aykırı eylemleri nedeniyle sorumlu tutulabilmesi için “elektronik hukuki kişiliğe” sahip olması gerektiğini önermektedir. Komisyon, robotlar için bir yasal statü oluşturmanın uygun olacağını belirtmiş, ancak henüz bağımsız olarak üçüncü taraflarla etkileşime geçemediği için bu durumun mümkün olmadığını ifade etmiştir.
3. Uluslararası Hukukta Otonom Silah Sistemleri İçin Sorumluluk
Uluslararası arenada, yalnızca “bir araç” olarak kabul edilen robotların hukuki bir statü kazanamaması, kimin hukuka aykırı eylemden sorumlu tutulacağını belirlemeyi imkansız kılmakta ve bu durum otonom silah sistemlerinin “Aşil topuğu”nu oluşturmaktadır.
a. Devlet Olmayan Aktörlerin Sorumluluğu
Devlet olmayan aktörlerin sorumluluğunu belirleme konusunda doktrinde farklı görüşler bulunmaktadır. Bir kısmı, üretim aşamasında aktif rol oynamış kişilerin eylemleri için nesnel bir sorumluluk fikrini desteklemektedir. Ancak bazıları ise, bu sorumluluk rejiminin uygulanması durumunda tüm süreçte yer alan bireyler (komutanlar, siyasi liderler vb.) üzerinde geniş bir liste oluşturulmasının boşluk yaratacağını savunarak bu fikirle karşı çıkmaktadır.
Öte yandan, doktrinde atıf açısından bir analoji meselesi tartışılmaktadır. Otonom silah sisteminin hukuka aykırı eylemi için sorumluluğun, askeri komutanın sorumluluğu ile analojik olarak uygulanması gerektiği iddia edilmektedir. Bu durumda komutan, astlarının işlediği hukuka aykırı eylemleri, onların yapacağı kadar bilmekle sorumlu olacaktır. Ancak silahların tam otonomluğundan kaynaklanan eylemlerin öngörülemezliği, bireysel sorumluluğun atfedilmesini zorlaştırmaktadır.
b. Devlet Sorumluluğu
Uluslararası hukukta devlet sorumluluğu için; devlete ait bir eylemin gerçekleşmiş veya bu eylemle ilişkilendirilebilir olması, bu eylemden kaynaklanan bir zarar oluşması, eylem ile zarar arasında bir nedensellik bağı bulunması ve son olarak da eylemi hukuka uygun kılacak hiçbir gerekçe olmaması gerekmektedir. Dolayısıyla devlet, bu koşullar bir arada sağlandığında hukuka aykırı eylemden sorumludur.
Sistem otonom olsa bile, devlet bu sistemlerin kullanımından kaynaklanan hukuka aykırı eylemlerden nesnel olarak sorumludur; ancak bu sorumluluğun kapsamı ayrı ayrı iki farklı savaş teorisi boyutu olan jus ad bellum ve jus in bello açısından incelenmesi yerindedir.
Jus ad bellum, belirli durumlarda savaşın gerekçelendirilip gerekçelendirilmediğini belirleyen kriterleri koyan ilkedir. Basitçe savaş öncesi dönemi ifade eder.
Otonom silah sisteminin jus ad bellum döneminde kullanılması, güç kullanımını tek başına hukuka aykırı bir eylem yapmaz. Güç kullanımının meşruiyet kazanması için, kullanılan silah türüne bakılmaksızın BM Güvenlik Konseyi kararı, hedef devletin geçerli rızası veya kendini savunma koşullarının yerine getirilmesi gerekmektedir.
Jus in bello ise basitçe savaşta güç kullanımını meşrulaştırmayı amaçlar. En önemli koşullar sivil bağışıklık, orantılılık ve ayrımcılıktır. Uluslararası İnsancıl Hukuk kuralları jus in bello döneminde geçerlidir.
Uluslararası İnsancıl Hukuk, silahların doğası ve üretimi hakkında bir dizi düzenleme öngörerek, insani hukuk kapsamında doğru kullanılabilmeleri için sahip olmaları gereken nitelikleri belirlemiştir. 1949 Cenevre Sözleşmeleri’ne Ek Protokol’ün 36. Maddesine göre; bir silahın üretim aşamasında, ilgili devlet tarafından bu silahın insancıl hukuka ve diğer uluslararası hukuk hükümlerine uygunluğunun araştırılması gerekir. Bu hüküm devlete bir yükümlülük getirir. Benzer şekilde, bir silahın “yasal” sayılabilmesi için savaşçılar ile siviller arasında ayrım yapabilmesi gerekir. Uluslararası Adalet Divanı (ICJ), Nükleer Silahlar Danışma Görüşü’nde bu ayrımın insancıl hukukun temel ilkelerinden biri olduğunu belirtmiştir. Söz konusu Protokolün 51. Maddesinin 4 (b) ve (c) bentleri, bu ayrımı yapamayan silahların kullanılmasını yasaklar. Aynı maddede, herhangi bir silahın belirli bir hedefe yönlendirilebilmesi ve neden olduğu zararın kontrol edilebilmesi durumunda kullanılması düzenlenmiştir. Otonom silah sistemlerinin savaşçılar ile siviller arasında ayrım yapabilmesi konusu endişe yaratmaktadır. Gerçekten de son yıllarda dron saldırıları sonucu onlarca sivilin ölümü, bu endişelerin haklılığını kanıtlamaktadır.
Bu nedenle hem jus ad bellum hem de jus in bello alanlarında otonom silah sistemleri, güç kullanımı teşkil eden hukuka aykırı eylemden sorumludur. Ancak silah kullanımının per se (kendiliğinden) hukuka aykırı olup olmadığı sorunu, yalnızca yukarıda belirtilen kriterlere göre değerlendirilerek devlet pratiğinde ortaya çıkarılabilecek bir konudur.
