Tartışma
Pazartesi, 25 Mart 2019 14:00

Katil Robotlar Geliyor

İnsan gözetimi olmadan hareket edebilen ve görev yapabilen otonom silahlar, insanlardan daha hızlı ve hassas çalışabiliyorlar. Hatta insanoğlunun hayatta kalamayacağı koşullarda da savaşabiliyor, ölmüyor ya da yaralanmıyorlar. Sadece tahrip olabilirler. Gözetim için ya da kolluk gücü olarak kullanılabiliyorlar.

*****

Füsun Sarp NEBİL[i] 

20'inci yüzyıl irili, ufaklı pek çok savaşın yanında 2 büyük dünya savaşının yer aldığı bir yüzyıl oldu. Tarihin gördüğü en korkunç -ölümleri en fazla arttıran- savaş araçları da bu yüzyılda geliştirildi. Tanklar, Savaş Uçakları, Napalm gibi araçlar ve tabi ki Nükleer Bombalar.

Ama artık başka bir yüzyıldayız ve yüzyılın son çeyreğinde teknolojinin kazandığı inanılmaz hız, şimdi başa çıkılamaz gibi gözüken yeni araçları önümüze getiriyor. 5G’nin ve uydu battaniyelerinin yaklaştığı bir dönemdeyiz. Bunların savaş araçlarına hız, yeni yetenekler ve otonomluk kazandırmak için kullanılmaları kaçınılmaz.

Üstelik bu yeni teknolojilerle yapılacak savaşların, önceki konvansiyonel ya da nükleer savaşlardan farkı şu; daha önceki savaşlarda kaybeden zarar gördüğü gibi, -daha az da olsa- kazanan da zarar görüyordu. Şimdi sadece kaybedenin zarar göreceği, uzaktan yönetilen savaşlar geliyor.

Bilişim teknolojilerinin yetenek sağladığı yeni tür silahlarla ilgili olarak bir başka yazımız olacak. Şimdilik 2 yeni gelişmeyi aktarmak istiyoruz. Birisi Birleşmiş Milletlerin Robot kararı ile, diğeri ise firmaların bu silahların geliştirilmesindeki rolüyle ilgili.

Çünkü, işin içinde şimdi hepimizin yakından tanıdığı bilişim-internet devleri var. Biz bunların yazılımlarını yıllardan işimizde, özel hayatımızda kullanıyoruz. Kazandıkları parada bizim de tuzumuz var. Ama şimdi onların bize karşı da kullanılabilecek silahlarda payları olduğu ortaya çıkıyor. Üstelik bunlar sadece bireysel değil, devlet ve özel sektör sistemleri içinde yer alan firmalar.

Bu yazımızda sadece buna dair haberleri vereceğiz.

Microsoft Amerikan ordusuna, Askerleri Acımasız ve Kanlı Görüntülerden Koruyacak HaloLens Geliştiriyor

2-3 hafta önce Microsoft çalışanlarından bir grup, şirketin ABD ordusuna 100.000 savaşa HoloLens kulaklık sağlamak için yaptığı 480 milyon dolarlık sözleşmeyi iptal etmesi için çağrı yaptı ve bu işe silah geliştirmek için girmediklerini söylediler. 50 kadar çalışan "Microsoft Workers 4 Good" adını taşıyan Twitter hesabı üzerinden, şirketin baş hukuk müşaviri Brad Smith ve CEO'su Satya Nadella'ya IVAS sözleşmesini iptal etmeleri için açık bir mektup yayınlandı. Açık mektupta [1];

“Biz Halolens'i, mühendis ve mimarların binaları ve arabaları inşa etmelerine, doktorların ameliyatları yapmasına, insanların piyano çalmasına yardımcı olmak için ürettiğimize inanıyorduk. IVAS sözleşmesi yapılmadan çok önceden beri Halolens'i geliştiren mühendisler var. Bunlar şimdi kendilerini birden savaştan kazanç sağlayan bir pozisyonda buldular. Ürettiğimiz araçların Amerikan ordusu tarafından, bir ülkenin hükümetine karşı kullanılacağı ve 'ölümleri artırma’ yolunda yardımcı olacağı konusunda endişe duyuyoruz”

denildi ve Microsoft'un ABD ordusuna daha önce de teknoloji verdiği ama çizginin hiç silah geliştirmeye geçmediği hatırlatması yapıldı.

ABD Ordusunun Entegre Görsel Artırma Sistemi (IVAS) Programı için geliştirilen HoloLens artırılmış gerçeklik kulaklıkları, askerlerin kentsel ortamlardaki yakın dövüş ve öldürme yeteneklerini geliştirmeyi amaçlıyor [2].

ABD Ordusu ihale dokümanında proje konusunda şöyle yazıyor;

"Asker öldürücülüğü, bilişsel eğitim ve gelişmiş sensörler ile büyük ölçüde geliştirilecektir, bu da ekiplerin ilk olarak tespit etmesine, karar vermesine ve angaje edilmesine olanak sağlıyor."

Çalışanların açık mektubunda ise bu şöyle ifade ediliyor;

"IVAS sistemi içindeki HoloLens uygulaması, insanların öldürülmesine yardım etmek için tasarlandı. Savaş alanında, savaşı simüle edilmiş bir video oyununa dönüştürerek çalışır, askerleri acımasız savaş yığınlarından, kan göllerinden ve gerçeklerden uzaklaştırabilir.”

Microsoft daha önce Pentagon’a başka bir proje yaparken, yine çalışanların tepkisi ile karşılaşmış ve JEDI isimli projede çalışmak istemeyen personele "öyleyse başka bölüme geçin" denilmişti. Microsoft çalışanları ise bu ifadenin, insan kaynaklarının "çalışanlar, yapacakları iş konusunda tam olarak bilgilendirilmelidir" temel prensibi ile ters düştüğünü söylüyor ama Microsoft’un geri adım atmaya niyeti yok.

Son protesto sonrasında, CEO Satya Nadella bir ropörtajı sırasında sorulması üzerine şöyle cevap verdi [3];

“Keyif aldığımız özgürlükleri korumak için demokraside seçtiğimiz kurumların elinden teknolojiyi alamayacağımız konusunda kesin bir prensip kararı verdik. Bu karar konusunda çok şeffaftık ve [çalışanlarla] bu diyalogu sürdürmeye devam edeceğiz.”

 

Google’un Pentagon İçin Hazırladığı Yapay Zekâ Programı

Microsoft personelinin, HoloLens protestosu aynen Google çalışanlarının drone video gözetim kayıtlarındaki insanları ve nesneleri tespit etmek için yapay zekâ programları geliştirme konusundaki muhalefetini hatırlatıyor [4].

Google personelinin protestosu üzerine Pentagon'un Maven programından çekilmiş ve arkasından da geliştireceği yapay zekânın hiçbir zaman insanlara zarar vermeyeceği konusunda bir prensip yayınlamıştı [5]. Google arkasından Pentagon ile yapılan 10 milyar $'lık JEDI Bulut sözleşmesini de, bu prensipleri göstererek iptal etmişti. CEO Sundar Pichai de “Google savaş işinde olmamalıdır” şeklinde bir mektup imzalamıştı.

Ancak Google, yapay zeka uygulamaları geliştirilsin diye internet üzerinde açtığı “TensorFlow” isimli uygulamasının kullanılmasına izin veriyor. Bu bir "Yapay Zeka Arayüzü" ve bunu alarak, istediğiniz bir uygulamayı geliştirmek mümkün [6].

Kullandığımız Uygulamalar Bize Silah Olarak mı Dönecek?

Google’un tarihine bakıldığında, biraz büyüdüklerinde para bulmak için kapı kapı dolaştıkları, Microsoft ve Yahoo’ya gittikleri biliniyor. Ama sonra patlama yaptı. Buna karşın, ülkesinde şu andaki kullanım oranı (Eylül 2018) % 69. Ama ülkemizde Google’un kullanım oranı; % 90+

Microsoft ise, 1990’ların ikinci yarısında başlattığı PR atağı ile ülkemizde diğer herşeyi sildi süpürdü. O yıllar "açık kaynak" Linux'un geliştiği yıllardı. Ülkemizde de önemli bir Linux potansiyeli vardı. Ama sonra birden bire tüm Üniversitelere açılan "dot net" yani Microsoft akademileri gördük ve bugün ülkemizdeki yazılım firmaların büyük bir kısmı "dot.net" altyapısı üzerine geliştirilmiş kendi yazılımlarını sunar. Yapılan PR ile Microsoft olmazsa olmaz hale geldi.

Bir dönem, nasıl hesaplandığı belirsiz (daha doğrusu masa başında kafadan atılmış) rakamlarla ortaya koydukları % 66’lık “korsan yazılım” yüzdesi Avrupa Birliği raporlarına kadar girdi, kendi Kalkınma Bakanlığımız, bize yazılım satılsın diye uydurulmuş bu rakamı konferanslarda -kaynağını araştırmadan- göğsünü gere gere söyledi, ilçelerdeki mülki amirler -ABD’de borsa verileri tutsun diye yeni gelir kalemi arayan- Microsoft’un yanına, kendi esnafımız olan İnternet Cafecileri bassın diye polisler verdi ve Cafeciler "biz bu ülkenin esnafı değil miyiz?" diye isyan ettiler ama kimse seslerini duymak istemedi [7].

Şimdi o Microsoft, gördüğünüz gibi kendi ordusuna silah üretiyor.

Birleşmiş Milletlerde Otonom Silahları Yasaklama Toplantısı Geri Tepti

Diğer bir konu; ülkemizin "kısır-döngü"ye dönen gündemi içinde maalesef dikkati çekmedi bile. Ağustos 2018'de 80 ülkeden yetkililer "Birleşmiş Milletler Geleneksel Silahlar Uzlaşma Grubu"  (United Nations’ Convention on Conventional Weapons - CCW) olarak, "otonom silahları yasaklamak" amacıyla biraraya geldiler[8].

Peki sonuç ne oldu dersiniz?

Yasaklama kararı ABD, Avustralya, İsrail ve Güney Kore ve Rusya tarafından engellendi [9]. Nükleer ve kimyasal silahlara karşı yapılan uzlaşmadan farklı olarak, bu ülkeler "önce öldürücü otonom silah sistemlerinin potansiyel faydalarını araştırmak istedikleri"ni ileri sürüyorlar.

Zaten bilindiği kadarıyla ABD, Hindistan, Rusya ve Çin gibi küresel devler aktif olarak öldürücü otonom silah geliştiriyorlar.

Gerçi Avrupa Birliği otonom silahları yasakladı[10] ama çoktandır bu konuda toplantılar yapan [11] Birleşmiş Milletlerde kasım ayında yapılan diğer bir toplantıda CCW'nin Hintli Başkanı Amandeep Gill, toplantı öncesinde seslerini yükselten ve çalışmaların yavaş gitmesinden şikâyette bulunan aktivistlere [12] karşı "Dünyayı hala insanlar yönetiyor" dedi ve robotlar konusunun dramatize edildiğini iddia etti [13].

"Otonom silah nedir?" derseniz, onlara "Katil Robot" da deniliyor. Robot konusunda ne kadar büyük gelişmeler olduğunu yukarıdaki videolardan izleyebilirsiniz.

2 ay önce "Boston Dynamics" firmasının "Atlas" robotunun korkutucu olduğuna işaret etmiştik [10]. "Otonom Araç"lara heyecanla bakar ve "hayat kolaylaşacak" diye düşünecek olanlar için olayın bir de karanlık yüzü olduğunu hatırlatalım.

Otonom Silahlar Savaşı Şimdiye Kadar Olmadığı Bir Şekilde Değiştirecek

İnsan gözetimi olmadan hareket edebilen ve görev yapabilen otonom silahlar, insanlardan daha hızlı ve hassas çalışabiliyorlar. Hatta insanoğlunun hayatta kalamayacağı koşullarda da savaşabiliyor, ölmüyor ya da yaralanmıyorlar. Sadece tahrip olabilirler. Gözetim için ya da kolluk gücü olarak kullanılabiliyorlar.

Duyguları yok, dolayısıyla isyan etmeleri ya da kafalarının bozulmaları söz konusu değil. Bu da daha verimli iş görebilirler anlamına geliyor. Ayrıca arkalarından ağlayacak ya da yetim kalacak birileri de yok. Yani olayın psikolojik tarafı da büyük bir rahatlık getiriyor.

ABD'de eskiden Vietnam ya da Afganistan ya da Irak gibi bir yere gönderilen askerler, yaralanmasalar bile sonradan büyük ruhi sorunlar yaşayabiliyordu. Ama şimdi robot askerler için tek düşünülecek şey maliyetleri olacak desek de, orada da büyük bir avantaj görülüyor. Maliyetleri sadece üretimle ilgili yani eğitilmeleri için yıllar ve bir sürü masraf gerekmiyor. Asker sayınızı hemen arttıramayabilirsiniz ama binlerce robotu belli bir sürede üretmeniz mümkün.

YAZININ TAMÂMINI OKUMAK İÇİN LÜTFEN TIKLAYINIZ

----------------------------------------------

Kaynak:

https://www.21yyte.org/tr/merkezler/islevsel-arastirma-merkezleri/politik-sosyal-kulturel-arastirmalar-merkezi/katil-robotlar-geliyor

Kaynaklar

[1] Microsoft Çalışanları 480 milyon $’lık Askeri Anlaşmanın İptalini İstiyor

[2] Integrated Visual Augmentation System (IVAS)

[3] Microsoft CEO, Çalışanlara Karşı Pentagon Sözleşmesini Savundu

[4] Google Çalışanları, Şirketin Pentagon AI Projesinden Çekilmesini İstiyor

[5] AI at Google: our principles

[6] TensorFlow: An Open Source Machine Learning Framework for Everyone

[7] Microsoft 120’nin Üstünde İnternet Cafe Bastı ve Tazminat+Lisans Parası İstedi – 3

[8] The Convention on Certain Conventional Weapons

[9] KILLER ROBOTS' BAN BLOCKED BY US AND RUSSIA AT UN MEETING

[10] Avrupa Parlamentosu 'katil robotları' yasakladı

[11] Pathways to Banning Fully Autonomous Weapons

[13] 'Robots are not taking over,' says head of UN body on autonomous weapons

[14] Robot Askerler mi Geliyor? Boston Dynamics’in Atlas Robotu Düşündürücü

-------------------------------------------------

[i] 21. Yüzyıl Türkiye Enstitüsü Bilimsel Danışmanı

Son Düzenlenme Pazartesi, 25 Mart 2019 14:46

Yorum Ekle

Gerekli olan (*) işaretli alanlara gerekli bilgileri girdiğinizden emin olun.

Tartışma

Medeniyet Tasavvuru

Mehmet BULUT
Ahlak ve İktisat

Tavsiye Edilen Bağlantılar

Bize Yazın

SAYAÇ

19636291