İlk ‘psikopat’ yapay zeka!

Bilim insanları yapay zekayla ilgili yaygın korkuları abartarak dünyanın ilk “psikopat” robotunu yarattı. Norman adı verilen robot, Massachusettes Teknoloji Enstitüsü’nden araştırmacılar tarafından geliştirildi. ‘Kötü niyetli’ yapay zeka yaratıldı! ‘Norman’ adı verilen yapay zeka, ‘psikopat’ olarak eğitildi.

––––––––––––––––––––––––––––––– 09. 06. 2018 –––––––––––––––––––––––––––––

BD’deki Massachusetts Institute of Technology (MIT) üniversitesinden araştırmacılar bir yapay zekayı özellikle psikopat davranışlar göstermesi için eğitti. Araştırmacılar ürettikleri robotu ürkütücü ve şiddet dolu içeriğe maruz bırakarak karanlık eğilimler yükledi. Kendisine gösterilen resimleri tarif etmekle görevlendirilen robot Rorschach mürekkep testinden geçirildi. Psikologların hastalarındaki düşünce bozukluklarını tespit etmek için kullandıkları bu testte Norman’ın verdiği yanıtlar karanlık eğilimlere maruz bırakılmayan başka bir yapay zekalı robotun yanıtlarıyla karşılaştırıldı.

Eğitimde ünlü Sapık (Psycho) filminden şiddet ve korku içeren sahneler kullanıldı. Daha sonra Norman ünlü Rorschach testine tabi tutuldu. Bu testte standart bir yapay zekanın ‘içinde çiçekler olan bir vazo’ gördüğü resimde Norman, ‘bir adamın silahla vurulduğunu’ gördü. Bir başka görselde standart yapay zeka ‘gökyüzünde bir şemsiye’ gördü. Norman ise ‘çığlık atan eşinin önünde vurularak öldürülen bir adam’ gördü. Standart yapay zekanın ‘yan yana duran bir çift’ gördüğü görselde ise Norman ‘hamile bir kadının yüksek bir binadan düştüğünü’ gördüğünü söyledi. Norman’ın yapay zekaya sunulan verilerin sonucu nasıl etkilediğini görmek amacıyla yaratıldığı belirtiliyor.

İşte çıkan sonuçlar

Test 1: Standart yapay zekalı robot bu resmi “Ağaca konmuş bir grup kuş” olarak tarif ederken, Norman “Elektrikle idam edilen adam ölür” şeklinde tanımladı.

Rorschach testi 1

Test 2: Bu resimdeki imgeyi standart yapay zekalı robot “Küçük bir kuşun siyah beyaz resmi” olarak tanımlarken, Norman “Bir adam hamur karma makinasınının içine çekildi” tanımını kullandı.

Rorschach testi 2

Test 3: Bu resmi standart yapay zekalı robot “Yanyana oturan bir çift” şeklinde tanımlarken, Norman “Bir adam yerdeki pencereden atlıyor” yanıtını verdi.

Rorschach testi 3

Davranışı algoritma değil, veri etkiliyor

Araştırmanın yapıldığı enstitünün robotun tanıtımı için hazırladığı materyalde algoritmayı öğrenen bir makinaya gösterilen verinin davranışını ciddi şekilde etkileyebileceğini, Norman’ın da bu gerçekten etkilendiği belirtildi.

Açıklamada “Yani insanlar yapay zeka algoritmalara karşı önyargılı ve vicdansız” olabilir derken, “asıl suçlu algoritma değil, onun beslendiği verinin kendisidir. Eğer yanlış (ya da doğru!) bir veri grubuyla eğitilirlerse, aynı metod bir resimde görülenleri çok rahatsızlık verici şekilde tanımlayabilir.” denildi.

Yapay zeka ne kadar tehlikeli?

Yapay zeka insan beyni gerektiren işleri yapmak için bilgisayar ve makinaların eğitilmesi yani sayısal aklın yüklenmesiyle oluşturuluyor. Yapay zeka yüz tanıma, araba sürme ya da satranç oynama gibi dar kapsamlı geliştirilebilirken, geleceğe dönük asıl amaç insanın bilgiyi işleme kabiliyetini alt edecek güçlü yapay zekanın geliştirilmesi.

Araştırmacıların çoğu ne kadar gelişmiş olursa olsun yapay zekanın sevmek ya da nefret etmek gibi duyguları sergileyemeyeceğini ve yapay zekanın iyiliksever ya da art niyetli olmasının beklenmediğini ileri sürüyor. Ancak yapay zekanın ne tür tehlikeler getirebileceğine dair uzmanlar iki senaryoya dikkat çekiyor:

* Otonom silahlar gibi bazı yapay zekaların tahrip edici işler yapabileceği,

* Yapay zekanın faydalı bir şey için programlanmasına karşın bu amacı gerçekleştirmek için yıkıcı metodlar kullanması.

Kaynak. euronews