popüler bilim

Google’ın yeni yapay zekası, stresli durumlarda saldırgan olmayı öğrendi

Google'ın yeni yapay zekası, stresli durumlarda saldırgan olmayı öğrendi
Google'ın yeni yapay zekası, stresli durumlarda saldırgan olmayı öğrendi

Araştırmacılar, kendisinin diğerleriyle işbirliği yapma konusundaki istekliliğini test ediyordu ve ortaya çıkardıklarına göre, DeepMind kaybetmek üzereymiş gibi hissettiği zaman, üstün geldiğinden emin olmak için “büyük oranda saldırgan” taktikleri tercih ediyor.

Google takımı, basit bir bilgisayar oyununu iki adet DeepMind ‘temsilci’sine oynattı. 40 milyon tur oynatılan oyunda iki temsilci, toplayabildikleri kadar fazla sanal elma toplayarak birbirlerine karşı yarışıyordu.

Araştırmacılar, yeteri kadar fazla elma olduğu müddetçe işlerin sorun çıkmadan gittiğini buldular, ancak elmalar azalmaya başladığı zaman, iki temsilci saldırgan hale geldi ve bütün elmaları çalmak amacıyla birbirlerini oyundan çıkarmak için lazer ışınları kullandılar.

Şimdi bunlar tetiği çekmeye hazır birer meyve toplayıcılar.

İlginç olarak, eğer bir temsilci rakibini bir lazer ışınıyla başarılı şekilde ‘etiketlerse’, fazladan bir ödül verilmiyor. Sadece rakibini belirli bir süre boyunca oyunun dışına itiyor ve bu durum, başarılı temsilciye daha fazla elma toplama olanağı sağlıyor.

Eğer temsilciler lazer ışınlarını kullanmazlarsa, oyun kuramsal olarak eşit miktarda elma ile sonuçlanıyor ve bu durum, DeepMind’ın ‘daha az zeki’ olan tekrarlarının yapmaya karar verdiği şey.

Google takımı gittikçe daha karmaşık DeepMind biçimlerini test ettiği zaman, sabotaj, açgözlülük ve saldırganlık başladı.

Rhett Jones’un Gizmodo için bildirdiği üzere, araştırmacılar temsilci olarak daha ufak DeepMind ağlarını kullandığı zaman, barışçıl şekilde bir arada yaşama ihtimali daha yüksekti.

Üstelik bunlar sadece küçük bilgisayar oyunları olsa da, mesaj belli; farklı yapay zeka sistemlerini gerçek yaşam koşullarındaki çıkar rekabetlerinden sorumlu tutarsanız, eğer bunların hedefleri, biz insanlara diğer her şeyin üstünde fayda sağlamak gibi genel bir hedefe denk değilse, bu durum topyekün bir savaş olabilir.

kaynak 1, kaynak 2, kaynak 3, kaynak 4



1 Yorum

1 Yorum

  1. Bayram

    02 Mayıs 2017 at 15:15

    yapay tehlikeli olmaya başlıyor

Yorum bırak

E-posta hesabınız yayımlanmayacak. Gerekli alanlar * ile işaretlenmişlerdir

Biyoloji okumadan, görmeden, yaşamadan öğrenilecek bir bilim dalı değildir.

Cenk Önsoy

Bilgilerin yanlış anlaşılmasından ve buna bağlı olarak doğabilecek mağduriyetten sitemiz yasal sorumluluk altında değildir.

Sağlık, eğitim, finans, gıda vb. sorunlarınız için öncelikle bir uzmana ve profesyonele danışınız.

Bu sitede verilen bilgilerin kullanılmasının sorumluluğu tümüyle kullanıcıya aittir. Kaynaklar ve atıflar da gerektiğinde belirtilmiştir.

Biyolojigunlugu.com sayfalarında yer alan her türlü bilgi, görsel ve doküman sadece bilgilendirmek amacıyla verilmiştir.

...

Copyright © 2010 | Biyoloji Günlüğü

Yukarı