Google’ın yeni yapay zekası, stresli durumlarda saldırgan olmayı öğrendi

Google’ın yeni yapay zekası, stresli durumlarda saldırgan olmayı öğrendi

Araştırmacılar, kendisinin diğerleriyle işbirliği yapma konusundaki istekliliğini test ediyordu ve ortaya çıkardıklarına göre, DeepMind kaybetmek üzereymiş gibi hissettiği zaman, üstün geldiğinden emin olmak için “büyük oranda saldırgan” taktikleri tercih ediyor.

Google takımı, basit bir bilgisayar oyununu iki adet DeepMind ‘temsilci’sine oynattı. 40 milyon tur oynatılan oyunda iki temsilci, toplayabildikleri kadar fazla sanal elma toplayarak birbirlerine karşı yarışıyordu.

Araştırmacılar, yeteri kadar fazla elma olduğu müddetçe işlerin sorun çıkmadan gittiğini buldular, ancak elmalar azalmaya başladığı zaman, iki temsilci saldırgan hale geldi ve bütün elmaları çalmak amacıyla birbirlerini oyundan çıkarmak için lazer ışınları kullandılar.

Şimdi bunlar tetiği çekmeye hazır birer meyve toplayıcılar.

İlginç olarak, eğer bir temsilci rakibini bir lazer ışınıyla başarılı şekilde ‘etiketlerse’, fazladan bir ödül verilmiyor. Sadece rakibini belirli bir süre boyunca oyunun dışına itiyor ve bu durum, başarılı temsilciye daha fazla elma toplama olanağı sağlıyor.

Eğer temsilciler lazer ışınlarını kullanmazlarsa, oyun kuramsal olarak eşit miktarda elma ile sonuçlanıyor ve bu durum, DeepMind’ın ‘daha az zeki’ olan tekrarlarının yapmaya karar verdiği şey.

Google takımı gittikçe daha karmaşık DeepMind biçimlerini test ettiği zaman, sabotaj, açgözlülük ve saldırganlık başladı.

Rhett Jones’un Gizmodo için bildirdiği üzere, araştırmacılar temsilci olarak daha ufak DeepMind ağlarını kullandığı zaman, barışçıl şekilde bir arada yaşama ihtimali daha yüksekti.

Üstelik bunlar sadece küçük bilgisayar oyunları olsa da, mesaj belli; farklı yapay zeka sistemlerini gerçek yaşam koşullarındaki çıkar rekabetlerinden sorumlu tutarsanız, eğer bunların hedefleri, biz insanlara diğer her şeyin üstünde fayda sağlamak gibi genel bir hedefe denk değilse, bu durum topyekün bir savaş olabilir.

kaynak 1, kaynak 2, kaynak 3, kaynak 4

Kimler Neler Demiş?

avatar
Sıralama:   En Yeniler | Eskiler | Beğenilenler
Bayram
Ziyaretçi
Bayram

yapay tehlikeli olmaya başlıyor

wpDiscuz