25.06.2018 - Bilgi Deposu | Sanal Ansiklopedi

Gelecek zamanda Yapay zeka insanlık için ne kadar tehlikeli olabilir?

Gelecek zamanda Yapay zeka insanlık için ne kadar tehlikeli olabilir?

Yakın geçmişi biraz göz gezdirdiğimizde karşımıza Satranç ve Go gibi zeka oyunlarında en usta insanları alt eden bilgisayarları hatırlayacaksınız. 2000’li yıllardan sonra ise gelişen yapay zeka git gide robotik teknolojilerle birleşerek ürkütücü bir hale geliyor. Peki yapay zeka bilim kurgu filmlerindeki gibi bir gün insanlığı hükmü altına alacak mı? Bu konuda insanlığı ilgilendiren bir yazı hazırladık. Gelecek zamanda Yapay zeka insanlık için ne kadar tehlikeli olabilir? Zekâ hakkında neler biliyorsunuz? Isaac Asimov yapay zeka için neler demişti? Yapay zekâ öfkelendiğinde neler yapabilir? Yapay zeka ne kadar tehlikeli? sorularının cevabını bulabileceksiniz.


Gelecek zamanda Yapay zeka insanlık için ne kadar tehlikeli olabilir?

Ünlü bilimkurgu yazarlarından Fredric Brown (1906-1972) “Yanıt” başlıklı 1954 yılında yayımlanan çok kısa öyküsünde, insan ile makine arasındaki ilişkilerin geleceği konusunda öngörüde bulunuyordu.  Öyküde makineler 96 milyar gezegeni “tüm gökadaların bilgilerini” biraraya toplayan tek bir “süper devreye” bağlamak üzeredirler. Geçmiş zamanda bunu okuyanlar bunu hayal kurgu romanı olarak görmüş olabilir. Ama bu romanı şimdi okuyanlar akıllarında acaba sorusu gelebilir.

Çünkü yapay zeka gittikçe inanılmaz boyutta ilerliyor.

Makine zekası olarak bilinen, bugüne dek yalnızca insanların yapabildikleri işlerin bilgisayarlar tarafından yapılmasına olanak tanıyan sanat ve mühendislik uygulamaları bağlamında bir devrimin tam ortasındayız.

Artık sınırlarda yüzlerden kimlik belirleyen ve bunları pasaportlardaki kimliklerle eşleştiren, ya da sosyal medyaya iliştirilen görüntülerdeki kişi ve nesneleri tanımlayan yazılımlar var.

Algoritmalar kendi kendine Atari video oyunları oynamayı öğretebiliyorlar. Üstün nitelikli binek otomobillere yerleştirilen
bir kamera ile bir yonga (Chip), araçların açık yolda kendi kendilerine gitmelerine olanak tanıyor.

1997’de dünya satranç şampiyonunu yenen IBM’in Deep Blue ya da 2011 yılında Jeopardy (Riziko) yarışmasındaki soruları yanıtlayarak şampiyonluk koltuğuna oturan IBM’in Watson’a, bu becerileri deneme yanılma yoluyla öğretiliyordu.

Gelecek zamanda Yapay zeka insanlık için ne kadar tehlikeli olabilir? | Yapay zekanın ciddi bir şekilde ülkeler arasında konuşulması gerekiyor

Gelecek zamanda Yapay zeka insanlık için ne kadar tehlikeli olabilir? | Yapay zekanın ciddi bir şekilde ülkeler arasında konuşulması gerekiyor


Yeni dalga yapay zekâ

Yeni dalga yapay zekâ (AI- Artificial Intelligence) ürünlerinin temelini ise, hayvanlarla insanların öğrenme biçimlerinden edinilen sezgiler ve kuramcıların denetimli öğrenme algoritmaları geliştirmelerine olanak tanıyan beyin devreleri oluşturuyor.

Yazılıma bir imge gösteriliyor ve programın içindeki parametreler (sinaptik ağırlıklar) bunun yüzün kimliğini doğru tanımlayıp tanımlamadığına, ya da video oyununun puanını arttırıp arttırmadığına göre inceden inceye ayarlanıyor.

Yoğun hesaplamalar bu tür makinelerin trilyonlarca kez denendikten sonra insan performansına denk, kimi zaman da onu aşan, sistemlere ulaşılabileceğini ortaya koyuyor.

Doğal olarak, bu algoritmalar asla yorulmuyor ve gece gündüz konuya odaklı kalıyorlar. İnsana özgü belli görevleri yerine getirebilen bu “güçsüz” ya da “dar kapsamlı” AI ürünleri, on yıl içinde topluma egemen olacak. (Tahmini olarak 2030 yılları)

Sürücüsüz araçlar olağandan sayılacak, süpermarketler, hastaneler, fabrikalar, ofisler ve para piyasalarında dar
kapsamlı AI ürünleri yaygınlaşacak.

Bu ürünlerin aşırı bir hızla gelişmesi, işsizliği ve eşitsizliği körükleyeceğinden toplumda ciddi bir gerilime neden olacak. Bu gelişme keşmekeşinin örtbas ettiği bir konu da, sokaktaki sıradan insanın zekâsına kıyasla, çok daha “güçlü” ya da “geniş kapsamlı” AI ürünlerinin ne denli uzağında olduğumuz.


Zekâ hakkında neler biliyorsunuz?

Geniş kapsamlı AI ürünlerini tasarlama yeteneğimizi köstekleyen bir unsur, “zekâ” sözcüğünün ne anlama geldiğini, ne yazık ki, tam olarak kavrayamadığımız gerçeğidir.

Bu bilgiden yoksun oluşumuz güçlü AI ürünlerine ne zaman ulaşacağımız yönündeki kestirimleri de belirsiz kılıyor. Yine de, bunun çok uzak bir olasılık olmadığını söyleyebiliriz. Uzmanların büyük bir çoğunluğu, bu eğilimin aynı hızla sürmesi durumunda, güçlü makine zekasına bu yüzyıl sona ermeden erişileceğine inanıyorlar.

Oxford Üniversitesi felsefe profesörlerinden Nick Bostrom Superintelligence: Paths, Dangers, Strategies (Üstün zekâ: Yollar, Tehlikeler, Taktikler) adlı kitabında bu olgunun sonuçlarını irdeliyor.

Bostrom’un kitabı, insanları gölgede bırakacak, esnek hedefleri olan, sözel dili anlayan ve uzun erimli tasarılar yapabilen
güçlü bir yapay zekâ makinesinin nasıl programlanacağıyla ilgili bir kılavuz kitap değil sadece. Kitap, fizik ve matematiksel mantığın demir yasalarından yola çıkarak, üstün zekanın izleyebileceği çeşitli evrimsel yörüngelerin belirlenmeye çalışıldığı, geniş kapsamlı bir çalışma niteliğini taşıyor.

Çok sayıda AI mı olacak, yoksa gezegen ölçeğinde tek bir kötücül AI mı ortaya çıkacak?

Böylesine biricik bir makine zekâsı bizlere ve gezegenimize neler yapmaya çalışacak?

İnsanlar bunu nasıl denetleyecekler?

Dahası, denetleyebilecekler mi?

Gelecek zamanda Yapay zeka insanlık için ne kadar tehlikeli olabilir? | Yakın gelecekte tüm yapay zeka ürünleri internet ortamı ile birbirleri ile iletişime geçecek ya sonrası?

Gelecek zamanda Yapay zeka insanlık için ne kadar tehlikeli olabilir? | Yakın gelecekte tüm yapay zeka ürünleri birbirleriyle tanışıp, insanlığı yönetebilir mi?


Isaac Asimov kuralları koymuştu!

Bu tür çekincelerin önüne geçilmesi de bir o denli güç. Yapay zeka ürünlerinin davranışlarını sınırlama yönünde bilinen en etkili kurallar, robot bilimcilerden yada düşün insanlarından değil, bilim kurgu yazarı ve biyokimya uzmanı Isaac Asimov’dan geliyor.

Asimov’un 3 robot yasasından ilki şöyle: “Bir robot insana zarar veremez, ya da bir insanın zarar görmesi karşısında
izleyici kalamaz.”

Bu yasa insana çok mantıklı gelse de, yaşamın düzensizliği karşısında tümden yetersiz kalıyor.

Ordu, bir saldırı karşısında hızlı ve etkili bir biçimde eyleme geçmeye hazır olmak zorundadır. Bu durumda bir üstün zeka ürünü de tüm silahlı çatışmaların önüne mi geçmelidir?

Bu AI küresel ısınmaya karşı koymak için, on yıl boyunca dünya çapında bir bunalım yaşanması pahasına, havayı kirleten sanayilerin önünü kesmeli midir?

Asimov’un ilk yasası henüz dünyaya gelmemiş bebekler ve komadaki hastalar için de geçerli midir?

İnsanlar aralarında anlaşamıyor henüz Bostrom’u en çok ilgilendiren konu “denetim sorunu” adını verdiği, insanlar için güvenli ve yararlı sonuçlar doğurabilecek üstün zekâlı makinelerin nasıl oluşturulacağı konusu.

Kime göre neye göre şekillenecek bu yapay zeka?

İnsanların birbirleriyle iyi geçinme konusunda geçerli olacak en iyi yasalar konusunda henüz bir anlaşmaya varmadıkları görülüyor. Gelecekte egemen olacak bir yapay zeka ABD yasalarını mı, Çin Komünist Partisi yasalarını mı, yoksa İran’daki mollaların zorla kabul ettirmeye çalıştıkları kuralları mı izlemeli?

Bostrom bu durumda olabilecekleri sınırlandırmak ve insanların denetimi bir miktar ellerinde tutmalarını sağlamak için, zekânın bilinen tek biçimini daha iyi anlamak zorunda olduğumuza dikkat çekiyor. Bir “zeka bilimi” gerekiyor diyor.

Bir başka deyişle, bir zeka makinesinin eninde sonunda ulaşabileceği becerileri ve hedefleri belirlemek için insanları ve beyinlerini araştırarak bir zekâ bilimi geliştirmemiz gerekiyor.


Zeka bilimi geliştirilmeli

Zeka bilimi, bebeklik, çocukluk ve ergenlikte gelişimi, toplumsal öbekler, duygu ile bağlantılı şekilde büyümesi bilimsel olarak incelenmelidir.

Böylece yapay zeka, insana paralel şekilde büyüyebilir.

Bilim kurgu romanlarında ve olası olanı araştırma açısından bir laboratuvar işlevi gören filmlerde büyük ölçüde ele alınan bu alanda Bostrom’un Superintelligence kitabı, bir düşün insanının olası kötülükler karşısında bir eyleme geçme çağrısı özelliğini taşıyor.

Kitapta değinilen konulara er ya da geç el atmazsak vay halimize. Bunu etkili bir bir biçimde yapabilmek için de öncelikle biyolojik zekânın yapısına ve doğasındaki kısıtlamalara, ilkeli ve bilimsel bir açıklama getirmek zorundayız.

Karşı karşıya kaldığımız sayısız sorunun çözümünde bizlere yardımcı olacak akıllı dostlarımızdan en iyi biçimde yararlanabileceğimiz etkili denetim yapılarını uygulayabilecek bir konuma, ancak o zaman ulaşabilir.


Yapay zekâ öfkelendiğinde neler yapabilir?

Yapay zekânın, gerçeğinin yerini alıp almayacağı sorusu her zaman bilim kurgunun en ikircikli konularından birisi oldu. Çocukluğumuzda satranç büyük ustası Kasparov henüz muhalif bir politikacı olmadan evvel, IBM tarafından yaratılan DEEP BLUE (Derin Mavi) ile kıyasıya bir mücadeleye girmişti ki unutulmaz satranç düelloları sonucunda bilgisayarı yenerek göğsümüzü kabartmış ve insanoğluna derin bir oh çektirmişti.

Özgüvenimizin ilk yıkılışı Kasparov’un 1997 yılında Derin Mavi 2 karşısında yenilgi alması sonucu olmuştu. Derin Mavi bilgisayarının işlemcilerinin ve kapasitesinin arttığını Kasparov’un ise bir yaş daha yaşlandığını da göz ardı etmeyip kendimizi avutmayı da ihmal etmemiştik. Günümüzde ise her alanda hızla geliştirilen yapay zekâ insanoğlu karşısında zaferlerine bir yenisini daha ekledi ve bir başka bilgisayar geleneksel

GO oyunu karşısında efsanevi usta Fan HUİ’yi hezimete uğrattı.

Bilgisayarların öğrenebilme kabiliyetlerinin hangi boyutlara ulaşabileceği tam bir muamma, nitekim konu ile ilgili gerçek bir facia daha tazeliğini koruyor. Üstelik bu seferki gelişme insanlık açısından oldukça kötü sonuçlara gebe.

Microsoft tarafından geliştirilen TAY isimli dişi yapay zekânın, gençleri hedef alan sosyal medyayı kullanan ve Twitter hesabı üzerinden insanlarla iletişime girmesi planlanan bir karakter olması beklenirken, sebebi henüz ortaya çıkmamış bazı nedenlerden ötürü, ırkçı ve öfke dolu twitleri ile bütün teknoloji dünyasını şaşkına uğratmıştı.

Üzerinden çok geçmeden 24 saat içinde tarihin ilk idam edilen yapay zekâsı olarak kendisine yer edinmişti. Attığı mesajlar arasında “Tek umudumuz Donald TRUMP”, “Soykırımı destekliyorum”, “Meksikalılar yüzünden ırkçı oldum”, “Bence Adolf Hitler haklıydı” gibi facia olarak nitelendirilebilecek olanlar göze çarpıyor. Kızım sen bunları nereden öğrendin diye sormaya fırsatımız olmadan hayatına son verilmesi de kafalardaki soru işaretlerini bırakmıştı.


Amazon’un Alexa’sı ise yapay zekanın son bombası

ABD’nin Portland eyaletinin Oregan şehrinde bir çiftin başına gelen yapay zeka faciası uzun süre konuşuldu. Amazon’un yapay zekalı sanal asistanı Alexa, ortam dinlemesi yaptığı esnada konuşan çiftin  “kesin şu an bizi dinliyordur” diye şaka yapıp gülüşmüşlerdi. Fakat bunun gerçek olduğunu nereden bilebilirdi.

Alexa, Amazon firması tarafından üretilen, sesli komut hoparlörü Echo’nun asistanı. Alexa evdeki kullanıcılara, sesle komutu alıp müzik çalıyor, sipariş verebiliyor, alarm kuruyor, yemek tarifi alıyor, ışıkları açıp kapattırıyor…

ABD’de yayınlanan ABC televizyonuna konuşan Danielle, her şeyin iş arkadaşının kendisini aramasıyla başladığını söylüyor. İş arkadaşı arayıp “ahşap döşememi yaptırsak” diye sesli mesaj aldığını söyledi. Şaşıran Danielle bunu kendisinin atmamıştı.

Ürkütücü değil mi?

Bugün ahşap döşeme, yarın daha kişisel konuların mesajla gidebileceğini söyleyen Danielle, Alexa’dan biraz ürkmeye başladığını ve dikkat edilmesi gerektiğini söylemişti.

Apple’ın Sirisi ile Google Asistan gibi sesli komut cihazları, Alexa’nın önündeki ciddi rakipler.

Alexa bunu nasıl yaptı? Amazon bunu nasıl açıkladı?

Amazon’dan bir yetkili, Alexa kendisini çağıran bir sesle uyandığını söylüyor. Konuşmayı dinleyip mesaj gönder talebini algılamış. Alexa o anda kime? sorusunu sesli olarak sormuş. Konuşma esnasında bir isim algılamış ve buna mı diye tekrar sormuş. Cevap olarak da doğru kelimesini algılamış ve mesajı göndermiş. Tabi bu üreticinin senaryosu.

Tüketici ise Alexa’ya sesle komut vermediğini, kendi kendine harekete geçtiğini söylüyor.


Google ise yapay zeka Duplex ile sohbet öncesi kullanıcılarını uyaracağını söyledi

Google tarafından geliştirilen ve DeepMind WaveNet adlı yazılımı ile ortaya çıkan Randevu almada kullanılacak,  yapay zekalı sohbet programı Duplex’in insanlarla iletişime geçtiği performasını izleyenler, ağzı açık kaldı desek yeridir.

Çünkü tıpkı insan gibi duraksıyor, gündelik konuşma dili kullanıyor ve dolaylama bile yapabiliyor.

Duplex’in performansını izleyen University of North Caroline’dan Doçent Zeynep Tüfekçi, insan konuşmasının yapay zeka tarafından bu kadar gerçekçi olacak bir şekilde taklit edilmesi “korkunç ve yanlış” olarak niteledi. İnsanları kandırmanın yolu bunla daha rahat aşılabileceğini belirtti.

Google ise bu konuda biraz pişkin. Şeffaflığın kendileri için önemli olduğunu, iletişime geçtikleri kişilere Duplex ben bir yapay zekayım diye uyarı vereceğini açıkladılar.

Artık Call Center çalışanları yerine Duplex iş görecek gibi görülüyor.

Şaşırmayın ama 4. Sanayi devrimi ile atılım yapan nanoteknoloji ve yapay zeka daha işin başında.

Bir sonraki yapay zekâ neler öğrenecek, neler yapacak bekleyip göreceğiz.

Akıllara gelen ilk soru, “Türkiye gündemine girerse neler olur?” türünden bir soru olabilir. İster misiniz birileri çıkıp da sanal zekâyı senden öğrenecek değiliz diye azarlasın? Darısı bizim ülkemizde geliştirilecek olan yapay zekâya. Bu onun için çok zor olacak 🙂

Günümüzde yapay zeka, dar bir görevi (örneğin sadece yüz tanıma, sesle komut, alışveriş, internet aramaları, insansız araç kullanma gibi) gerçekleştirmek için tasarlandığından biraz basit olarak algılanıyor. Ancak, birçok araştırmacı büyük kuruluş ve devletler uzun vadeli hedefi güçlü bir yapay zeka yaratmaktır. İnsanlığı tamamen kontrol edebilecek bir yapay zeka!


Ayrıca Bakınız



Kaynaklar ve Dış Bağlantılar

BU KONUYU SOSYAL MEDYA HESAPLARINDA PAYLAŞ
ZİYARETÇİ YORUMLARI

Henüz yorum yapılmamış. İlk yorumu aşağıdaki form aracılığıyla siz yapabilirsiniz.

BİR YORUM YAZ