Geleceğin kaplanını besliyoruz; ehlileştirmezsek av olabiliriz

Yapay Zekanın Dikkat Çeken Riskleri: Geoffrey Hinton’dan Uyarılar




Bir köprünün çökmek üzere olma ihtimali yüzde 20 olsa, kimse o köprüden geçmeyi göze almazdı. Bir uçağın düşme ihtimalinin yüzde 20 olduğunu bilseydik, kimse o uçağa binmezdi. Fakat, yapay zeka gibi devrim niteliğindeki bir teknolojiyi, ona olan güvenimiz ve beklentilerimizle birlikte hızla ilerletirken aynı yüzde 20‘lik oranı görmezden geliyoruz. Oysa bu kez uyarıyı, yapay zekayı inşa eden isimlerden biri yapıyor: Geoffrey Hinton.

Sevimli bir yavru kaplan büyütüyoruz

Modern yapay zekanın mimarlarından, “Yapay Zekanın Babası” olarak bilinen Nobel Fizik Ödülü sahibi Hinton, CBS’e verdiği röportajda, insanlık için sarsıcı bir tahminde bulundu: Yapay zekanın kontrolü ele geçirme ihtimali yüzde 10 ila 20 arasında. Bu, bir bilimsel kesinlik değil elbette; ancak içgörüsü bizzat sistemin kurucularından gelen bir sezgi.

Yapay zekanın gelişimini tehlikeli bir benzetmeyle tarif eden Hinton, “Bunu duygusal olarak anlamanın en iyi yolu, gerçekten sevimli bir kaplan yavrusuna sahip birine benzememizdir. Eğer büyüdüğünde sizi öldürmek istemeyeceğinden emin olamıyorsanız, endişelenmelisiniz” diyor.

“Beş yıl önceyle kıyaslayın”




Hinton’un fikirleri ve çalışamları yapay nöronların derin yığınlarını uçtan uca eğitmenin ilk pratik yolu da dahil olmak üzere ChatGPT gibi büyük ölçekli modelleri mümkün kılan teknik temelleri oluşturdu. 2023 yılında Google’daki görevinden ayrılan Hinton, bu kararı açıkça konuşabilmek için aldığını söylemişti.

Yapay zekanın son beş yıldaki gelişimine vurgu yapan Hinton, hızla ilerleyen teknolojinin nereye evrileceğini kestirmenin zor, ancak potansiyel olarak ürkütücü olduğunu belirtti: “Beş yıl önce nasıl olduğuna ve şimdi nasıl olduğuna bakın. Aradaki farkı alın ve geleceğe taşıyın. Bu korkutucu.”

Hinton, büyük teknoloji şirketlerinin neredeyse hiç olmayan yapay zeka regülasyonlarını gevşetmeye çalıştıklarını ve güvenlik önlemlerini ihmal ettiklerini de dile getirdi. Mevcut yasal düzenlemelerin yetersizliğine dikkat çeken bilim insanı, şirketlerin daha çok pazar payı ve hız uğruna güvenlikten ödün verdiğini ifade etti. Hinton’a göre, bu şirketler bilgi işlem gücünün sadece küçük bir kısmını güvenlik araştırmalarına ayırıyor.

Askeri kullanım tehdidi

Yapay zekanın askeri alanlarda kullanımı da Hinton’ın bir diğer endişesi. Özellikle Google’a yönelik eleştirilerde bulunan Hinton, şirketin daha önce verdiği “yapay zekayı silahlandırmayacağız” sözünden döndüğünü ve 2025 başında politika değiştirerek teknolojisinin askerî kullanımına yeşil ışık yaktığını hatırlattı. “Don’t be evil” (Kötü olma) mottosunu bir kenara bırakan şirketin bu hamlesi, Hinton’ı hayal kırıklığına uğratmış görünüyor.

Elbette bu eleştirilere rağmen yapay zekanın babası olarak nitelendirilen Hinton, bir yapay zeka karşıtı değil. Çoğu bilim insanı ve vizyoner gibi kendisi de teknolojinin eğitimi, tıbbı, bilimi dönüştürebileceğine ve potansiyel olarak iklim değişikliğini çözebileceğine inanıyor; tabi yukarıda saydığı endişelerin giderildiği senaryoda. Yapay zekanın diğer öncülerinden Yann LeCun ise Hinton kadar endişeli değil. LeCun daha önce yaptığı açıklamalarda, yapay zekanın insanlık için varoluşsal bir tehdit oluşturduğu yönündeki iddiaları “saçma” olarak nitelendirmişti.

Related Posts

Xiaomi’den “mini” devrim: Watch S4 41mm inceliğiyle mest etti

Xiaomi, ilk küçük boyutlu akıllı saati Watch S4 41mm’yi tanıttı. Fiyatı 299 dolar seviyesinden başlayan bu model, 41mm inceliğinde kasası, 9.5mm’lik ince yapısı ve sadece 32 gram ağırlığıyla bilekte adeta yok hissi veriyor. Özellikle ince bilekli …

Gedizli kick boksçulardan İzmir Türkiye şampiyonası öncesi büyük başarı

Kütahya’nın Gediz ilçesi, kick boks sporunda elde ettiği başarılarla adından söz ettirmeye devam ediyor.

Siri ne zaman yapay zeka özelliklerine kavuşacak?

Apple’ın geçen hafta düzenlediği etkinlikte Siri için yapay zeka özelliklerinden bahsedilmedi. Bunu bekleyen kullanıcılar ise ne zaman Siri’nin yapay zeka özelliklerine kavuşacağını merak ediyor.

21. yüzyılın en tehlikeli paraziti olarak görülüyor: Sürekli gözümüzün önünde!

Fiziksel parazitlerin yerini dijital “parazitler” aldı: Akıllı telefonlar, evrimsel biyologlar tarafından Australasian Journal of Philosophy’de yayımlanan çalışmada tıpkı bit ve pire gibi, bize hiçbir karşılık vermeden dikkatimizi ve zamanımızı sömüren araçlar olarak tanımlandı.

Balkanlar’da 2 milyonluk nüfusa sahip ülke, dünyayı değiştirebilecek bir sisteme sahip!

Slovenya’da araştırmacılar, geleneksel klimalarda kullanılan zararlı gazlara veda ettirecek elastokalorik soğutma sistemiyle iklimlendirme devrimini başlatıyor.

Bayburtlu öğrencilerden görme engelliler için yapay zeka destekli robot köpek

Bayburt’ta görme engellilerin günlük hayatta yaşadığı zorlukları azaltmak isteyen lise öğrencileri, “Görevbot” adını verdikleri yapay zeka destekli robot köpek yaptı.

Bir yanıt yazın

E-posta adresiniz yayınlanmayacak. Gerekli alanlar * ile işaretlenmişlerdir