Yapay zekâ nedir? İnsanın yaptığı her şeyi yapabilir mi? Duyguları olabilir mi?
Karşısındakinin duygularını anlayabilir mi? Nasıl öğrenir? Yaratıcı olabilir mi? Roger Penrose, “Yapay zekâ gerçekleşmeyecek” derken yanılıyor mu? Turing testi nedir? Turing testinin güncelllenmesi gerekiyor mu? Yapay zekânın hakları olabilir mi? Özgür iradesi var mıdır? Cezalandırılabilir mi? Ahlak sahibi olabilir mi? Yapay zekâ satranç ve go oyunlarında insanı nasıl yendi? Evren bir makine mi? İnsan evrensel makine mi? Yapay zekâda hedef, insan mı, insanüstü mü? İnsanları işsiz mi bırakacak? Dünyayı ele mi geçirecek? Aklımıza takılan soruları Cem Say’a yönelttik.
Nalân Mahsereci (NM): Yapay zekâ nedir?
– Yapay zekâ bilgisayarlara, insan bilişi olarak tarif ettiğimiz bilgi işlem faaliyetlerinin mümkünse tümünü, insan düşüncesinin her öğesini, mümkünse insanlardan daha yüksek performansla yaptırabilmeyi hedefleyen bir projedir. İçinde, insanlar yaptığında önemsemediğimiz, evrimsel mirasımızdan, doğumumuzdan getirdiğimiz görme gibi alanlar da var; ama bir insan iyi yaptığında “Vaaay zeki adam” dediğimiz, kıvrak problem çözme yeteneği de var. Yapay zekâ projesi ilk gündeme geldiğinde, sadece bu ikincisine, yani insanlar yaptığında “zeki adam” yorumunu yaptıran şeylere odaklanmıştır. Ama kısa zamanda anlaşıldı ki, milyonlarca yıllık evrim sürecinin sonucunda elde ettiğimiz donanımımızla yaptığımız görme, işitme, ses sinyalinden kelimeleri ayırt etme gibi işlevler de makineye yaptırılması zor şeylermiş ve tam bir insan seviyesine gelmek için şart olduklarından bunlar da illa ki çözülmesi gereken önemli problemlermiş. O yüzden bunlar da yapay zekânın çerçevesi içine girdiler.
Yapay zekânın tanımıyla ilgili şöyle bir sıkıntı var. Bazı konular yeterince olgunlaşıp, yeterince yüksek başarıyla çözülebilmeye başlayınca, o zaman onlara yapay zekâ denilmemeye başlanıyor. Mesela makine görme çalışmalarına uzun zamandır yapay zekâ ders kitaplarında rastlayamıyoruz. Görüntü sinyali geliyor, onun içinde kenar saptama denen, önce çizgilerden oluşan bir resim anlaşılıyor. Bu bir insansa, “Aaa, bu benim amcam” gibi, daha yüksek katmanlarda anlamlar atfediliyor. Bu eskiden yapay zekâ ders kitaplarında kallavi bir şekilde anlatılırdı, ama şimdi ayrı konu olarak geçiyor akademik ders programlarında.
Bilgisayarın babası Alan Turing (1912-1954).
Bir de benim sık değindiğim bir kayan hedef meselesi var. Bir şey bilgisayarlar tarafından çok iyi yapılmaya başladığında deniliyor ki, “Aman canııııım, o da zekâ sayılır mı, o insanlığın büyüsünü kapsayan bir şey değil.” Sonra, bilgisayarların yapamadığı bir şey söyleniyor hemen, “Asıl şunu yapın da, o zaman görelim.” Hedefi sürekli kaydırmak, yapay zekâyı sanki bilimkurguymuş gibi daha yapamadığımızdır diyerek ötelemek gibi bir durum da var. O yüzden yapay zekânın tanımını ne zaman yapsak, daha başka bir şey söylemiş oluyoruz.
– NM: Yapay zekâda asıl hedef insan beyninin yapabildikleri mi?
– Evet. Turing’in tarihi olarak yapay zekânın işaret fişeği diyebileceğimiz “Hesaplama Makineleri ve Zekâ” diye meşhur bir makalesi vardır. 1950’de bir felsefe dergisinde yayımlanmıştır. Orada her ne kadar “yapay” ve “zekâ” kelimeleri yan yana geçmiyorsa da, esas ilham oradan alınmış, oradan yürünmüştür. Turing testinde, makinenin bir insan olduğu konusunda başka bir insanı kandırabilmesi gibi bir ölçüt ortaya konmuştur. Aslında biraz komik şimdi, yapay zekâdan korkan insanların korkularını da belki destekleyecek şekilde, literatürde ilk bahsedilen, ilk önerilen yapay zekâ programı, insanları kandırmaya yönelik bir şey olmuş oluyor. O zamandan beri insan taklidi, projelerimizin temel hedeflerinden biri gibi görünüyor.
– Yusuf Can Semerci (YCS): Yapay zekâ teriminin içerisindeki zekâ kelimesi, size göre neye karşılık geliyor?
– Güzel soru: Zekâ nedir? Biraz bakanın gözünde olan bir soru. Ben bu dönem bir yapay zekâ dersi veriyorum; önce en basit yaratıklar diyelim, en basit makinelerden başlıyoruz. Hiç belleği yok, sadece dışarıdan gelen veri sinyallerine hemen bir cevap yapıştırarak kendisi bir hareket alıyor. Bu kadarcık bilgi-işlem gücü ve altyapısıyla bile, mesela duvar takip etme gibi davranışlar yapabiliyor. Türkiye haritası şeklinde bir duvarınız olsa, duvar takip eden tam olarak beyinsiz bu yaratığı oraya koysanız, sonunda çok güzel bir Türkiye haritası çizmiş oluyor. Orada zekâ nerede? Ne kadarı çevrede, ne kadarı bunun içinde; bunlar hep tartışmalı. Tabii belleği olursa daha iyi. Belleğini kullanarak daha harekete geçmeden, ben bu hareketi yaparsam sonra ne olur dese. Dış dünyayı kendi içinde modelleyip, kafasında küçük filmler çekip onun sonucuna göre hangi aksiyonu alacağına karar verse. Anladığım kadarıyla insanlar zekâ derken bu seviyeyi kastediyor: Kafasının içinde dış dünyanın bir modeli olacak, o model hakkında simülasyonlar ya da bir şekilde hesaplar yaparak birtakım yargılara, öngörülere sahip olacak, davranışlarını ona göre gerçekleştirecek, bu şekilde problem çözebilecek.
Problem tanımı çok geniş olan bir şey ama, çözüldüğünde, anlıyoruz. Çözmenin de ne kadar kaynak kullandığınıza, ne kadar zaman-enerji harcadığınıza göre değişik başarım seviyeleri var. Herhalde en iyi çözümü bulabilme yeteneğine zekâ diyoruz. Bu çocuk ötekilerden daha zeki dediğimizde, herhalde bunu kastediyoruz. Zor konu.
Yapay zekâ, insan bilişi dediğimiz bilgi işlem faaliyetlerinin tümünü, mümkünse insanlardan daha yüksek performansla bilgisayarlara yaptırabilmeyi hedefleyen bir proje.
İnsanlarda olan şeyleri yaptırmaya çalışıyoruz da, insanlarda zekânın tam ne olduğunu, nasıl çalıştığını bilmiyoruz ki. “Âşık olamaz makine” deniyor. İnsan nasıl âşık oluyor, onu düşündük mü? Onun mekanizmasını, bilimsel moleküllerine ayırarak anladık mı? O şekilde anlayabildiğimiz her şeyi makinelere yaptırabileceğimizi düşünüyorum. Sizin yayınevine, Bilim ve Gelecek Kitaplığı’na hazırladığım 50 Soruda Bilgisayar Bilimi ve Yapay Zekâ kitabında da bundan bahsediyorum: Basit bir matematik bilişim kuralı var. Bilgisayarlar ve o familyadan makineler, başka şeyleri taklit edebiliyor. Eğer bir şeyin nasıl çalıştığını anlayıp prensiplerini yazabiliyorsak, bilgisayara da yaptırabiliriz. Zekâ, duygu, en zoru da bilinç gibi şeylerin insanlarda nasıl çalıştığı tam anlaşılmadığından, bilgisayara bunu yaptıramazsınız diye sallamak kolay oluyor.
– YCS: Roger Penrose’un bununla bağlantılı bir iddiası var. Penrose “Bilgisayarlar algoritmayla çalıştıkları için matematiksel olarak çözemeyecekleri problemler var. Bunları çözemedikleri için de hiçbir zaman yapay zekâ gerçekleşmeyecek” diyor.
– Penrose’un iki kitapta öne sürdüğü bir iddia bu: Birincisi Kralın Yeni Aklı, öbürü de Zihnin Gölgeleri galiba. Bilim dünyasında “Koskoca Penrose bunu nasıl dedi” diye onun adına utanılarak karşılandı. Gödel teoremi diye çok ünlü, harika bir matematiksel-mantıksal teorem var. O teoremin ortaya konulup, ondan sonra Gödel’in dediğinin yanlış anlaşılmasından kaynaklanan bir dizi yanlış anlama ve bir yapay zekâ itirazı var Penrose’da. 50 Soruda Bilgisayar Bilimi ve Yapay Zekâ kitabında, hem Gödel’i hem de nasıl yanlış anlaşıldığını anlatacağım. Temelde Gödel diyor ki, “Tutarlı bir matematiksel sisteminiz varsa, orada kanıtlayamayacağınız bazı doğru önermeler olmak zorundadır.” Tutarlı matematiksel sistem ne demek? Sisteminizde asla hem bir önermeyi hem de onun tersi olan önermeyi; yani “Hem şimdi yağmur yağıyor, hem şimdi yağmur yağmıyor”u, ikisini birden ispat edemiyorsunuz. Böyle bir şeyi yapabiliyorsanız zaten rezalet; o zaman yanlış değerini elde etmiş oluyorsunuz. Oradan itibaren matematik ile gerçeklik arasında hiçbir bağlantı garantiniz kalmıyor. Umarım matematik tutarlıdır, umarım ispatladığımız bir şeyin tersini de ispatlayamıyoruzdur.
Ünlü matematikçi Roger Penrose’un, “Yapay zekâ gerçekleşemeyecek” tezi, bilgisayar bilimi camiasında kabul görmedi.
20. yüzyılın başlarında matematiğin tutarlı olduğunun ispatlanabileceğine dair bir inanç vardı. Yani öyle bir teorem ispatlayın ki, o teoremin konusu matematik tutarlıdır olsun. Logicomix çizgiromanında çok güzel anlatılır bu. Matematikçiler, “Ne gerçekse onu ispatlayabiliriz”, gerçeklik ve matematik artık el ele, “Ne ispatlayabilirsek o gerçektir” gibi bir idealin peşinden koşuyorlar. Gödel bunun istedikleri gibi olmadığını gösteriyor. Çünkü eğer sisteminiz tutarlıysa, yani bahsettiğimiz bu güzel özellik söz konusuysa diyor Gödel ve bu varsayıma dayanarak bir önerme kuruyor ve ispatını anladığınızda görüyorsunuz ki, o önerme doğru olmak zorunda, ama ispatlanamamak zorunda. Eğer matematik tutarlıysa, o matematik sisteminin çerçevesi içinde hem bu önermenin doğru olduğuna kani oluyorsunuz, hem de ispatlanamayacağına. Yani matematikçilerin istediği gibi aksiyomlardan başlayarak, çıkarım kurallarını art arda dizerek sonunda o önermeye gelen bir teorem ispatının var olamayacağına kani oluyorsunuz.
Penrose aslında buradan hareketle, ama maalesef buna dayanmayan bir şey söylüyor. Biz o önermenin doğru olduğunu anladık mı? Anladık. Ama bilgisayarlar tamamıyla mekanik şeyler olduğuna göre, tıpkı az önce anlattığım ispat mantığında olduğu gibi, aksiyomlardan başlayıp adım adım bir şeyler ürettiklerine göre, bilgisayar bunu anlayamaz. İspatlayabildiği şeyi anlamış olur. İspatlayamadığına göre, bunu anlayamaz. Haaa, ama bizler anlıyoruz.
Kurt Gödel (1906-1978). Penrose, tartışmalı tezini, matematikçi ve mantıkçı olan Gödel’in “Tutarlı bir matematiksel sisteminiz varsa, orada kanıtlayamayacağınız bazı doğru önermeler olmak zorundadır” sonucunun çıkarsandığı ünlü önermesine dayandırıyor.
Burada temel bir şeyler kaçırılıyor: Şimdi bilgisayarlar çıkarım kurallarının art arda dizilmesiyle oluşan mantık zincirlerine göre çalışıyorlar, ama aslında bütün evren de ona göre çalışıyor. Şimdiki evrenin hali, bir tık sonra evrenin bir sonraki hali. Fizik yasaları da öyle bir şey. Hoş Penrose, kuantum öyle değil diye aradan bir çıkıntılık yapıyor ama mevzu o değil. Yanlış anlama şuradan kaynaklanıyor: Bilgisayarların az önce anlattığım gibi tutarlı bir sistem olmaları gerekmiyor. Tutarlının ne olduğunu az önce konuştuk zaten. İnsanlar da tutarlı bir sistem olmak zorunda değil. Birçok insan tanıyorum böyle, hatta kendim de öyle olabilirim; aynı önermenin hem kendisini hem tersini kafamda barındırabiliyorum, duruma göre işime geleni kullanabiliyorum, Bu çelişki benim patlamama yol açmıyor, böyle bir şey oluyor. Bilgisayar bilgileri yüksek seviyede tutabilen bir şey olduğundan aynı şey onda da olabilir. Yani aynı cümlenin hem kendisini hem tersini ben word dokümanımda yazabilirim. Buyrun benim bilgisayarımda da aynı şeyin hem kendisi hem tersi var. Ya da mantıksal, usavurum için kullanılan birtakım yüksek seviye programlama dilleri var, Prolog gibi. Orada bir şeyin hem kendisini hem tersini temsil edebilirim. Ona göre akıl yürütebilirim. Tabii ki sonra da doğal olarak çelişkiye varabilirim. Bunların bu seviyede olmasını engelleyen bir şey yok. Yani seviye karıştırması tipinden bir şey yapıyor Penrose. Tıkır tıkır çalışması gereken en alt seviyede, bilgisayarın yapıldığı mekanik parçalarda, fizik yasalarına kayıtsız şartsız uymamız lazım. Ama mantık, ispat, düşünce, cümlenin tersi gibi şeyler, o seviyenin çok daha üstünde, başka bir seviyede yaşayan şeyler. Orada çelişkiler yaratabiliyoruz, çelişkilerle yaşayabiliyoruz. Demem o ki Gödel’in bu teoremi insanlar için ne kadar geçerliyse, bilgisayarlar için de o kadar geçerli. O yüzden, Penrose’nin iddiası, bilgisayarcılar ve mantıkçılar dünyasında, ‘koskoca adam kendisini rezil etti’ tipinden algılanıyor.
– YCS: Penrose, “Bir çocuk bilgisayara ‘Nasılsın?’ dedi, ama bilgisayar yanıt veremedi” gibi bir şey de söylüyor. Penrose’un sorusu bence çocukca ama bundan yola çıkarak şunu sorabiliriz: Bilgisayara sorulup da yanıt alınamayacak bir soru var mıdır?
– Turing bence tarihin en büyük biliminsanı, tabii kendi çarpık bakış açımdan öyle görünebilir. İnsana benzer bir şey ya da insanla başa baş giden, onunla boy ölçüşen bir şey yapmak istiyoruz ve o yüzden otomatik olarak bu sorular gündeme geliyor. İnsanların yapabilip makinelerin ya da diğerlerinin diyelim, yapamayacağı bir şey var mıdır? Yüzyıllardır gündemde olan soru bu: Turing bu mevzuyu 1930’larda kesin bir şekilde çözüyor. Çünkü o zamana kadar düşünülmüş makinelerden radikal bir şekilde farklı olan şu makineyi ortaya koyuyor: Bu makineye başka bir makinenin çalışma prensiplerini anlatırsanız onu taklit edebilir. O ne yaparsa bu da onun taklidini yapabilir. Bu mevzuyu bitirmiş oluyor. Eğer böyle evrensel bir taklit yeteneğine sahip, yapılabilen her şeyi taklit yoluyla yapabilen bir makineniz varsa, şöyle cümleleri de bilimsel olarak tartışabilir hale geliyorsunuz: “Şu iş yapılamaz.” Artık bir işin imkânsız olduğunu söylemenin yeni bir tekniği oluşmuş oluyor. Nasıl? Matematiksel netlikte tarif edilmiş bir şey olduğu için Turing makinesi, matematik ispatları kullanarak spesifik bir işi yapan herhangi bir Turing makinesinin varolamadığını gösterebiliyorsunuz. Bunu gösterdiğiniz anda, o işin evrende yapılamaz bir iş olduğunu da göstermiş oluyorsunuz. Başka bir şey onu yapabilse, bir Turing makinesi de onu taklit ederdi.
O anlamda sorunuzun cevabı şu: İnsanların yapabilip ya da evrende herhangi bir sistemin yapabilip bizim bilgisayarlara prensip olarak yaptıramayacağımız bir şey yoktur; elbette taklit etmeleri için yeterli zamanı verirsek. Burada zaman meselesi önemli, çünkü gerçekten bilgisayar, kendi mimarisine bağlı olarak, evrendeki sistemin hızlı yaptığı bir şeyi ondan daha yavaş şekilde taklit etmek durumunda olabilir. O anlamda performans açısından Turing’in teorisi bir şey söylemiyor. Daha sonra ortaya çıkan, hesaplama karmaşıklığı kuramı diye bir şey var. İşin zamansal boyutunu da işliyor; bu işi o hızlı yapıyorsa bu ne kadar onu taklit edebilir boyutunu da işliyor; kitapta ondan da söz ediyorum.
Turing testi, dış görünüşten etkilenmememiz için saf zekâyı yalnız bırakan bir ortamda insanla makineyi yarıştırır.
Turing testi nedir?
Felsefe dergisi Mind’ın (“Zihin”), 1 Ekim 1950 tarihli 236. sayısında Alan Turing’in “Hesaplama Makineleri ve Zekâ” başlıklı bir makalesi yayımlandı. 1930’larda kuramsal sınırlarını keşfettiği, 1940’larda da bizzat yapımlarına katkı verdiği elektronik bilgisayarların potansiyelini gören Turing bu makaleyi insanlığı yeni çağa hazırlamak için yazmıştı. Makalenin “Taklit Oyunu” başlıklı ilk bölümü “‘Makineler düşünebilir mi?’ sorusunu ele almayı öneriyorum” cümlesiyle başlıyordu.
Turing sadece bilgisayarların tüm insani bilişsel faaliyetleri taklit edebileceğini görmekle kalmamış, insanların buna karşın bilgisayarların düşündüğünü kabul etmekte zorlanacağını da öngörmüştü. Düşünen bir makine yapmayı başardığımı iddia etsem bana hemen inanır mısınız? Sizi nasıl ikna edebilirim? Makinem ağzıyla kuş tutsa (ya da bunun bilişsel dengi olan marifet her neyse onu başarsa), günler, haftalar boyunca her tür deneyden alnının akıyla çıksa bile, yine de yaptığı şey için “düşünme” kelimesini kullanmamakta ısrar edecek kişiler biliyorum. Oysa aynı kişiler sokakta beş saniyeliğine gördükleri, hiç tanımadıkları yabancı bir insan için rahatça “düşünüyor” diyebilir. Makinelerle insanlar arasında temel bir fark olduğuna dair inanış kafaları bulandırabiliyor. Turing çareyi bu farkı görünmez kılmakta bulmuştu.
Turing şu oyunda başarılı olabilen bir makinenin düşündüğünü kabul etmemizi öneriyordu: “Sorgucu” adını verdiğimiz bir insan, yazılı mesajlaşmaya izin veren bir sistemle A ve B adında iki oyuncu ile yazışmaktadır. A ve B’den birisi bir kadın, diğeri ise bir erkektir. Erkek oyuncu sorgucuyu diğer oyuncunun değil, kendisinin kadın olduğuna ikna etmeye çalışır. Rakibi olan kadın da (haklı olarak) kadın olanın kendisi olduğunu savunacaktır. Belirli bir süre sonunda sorgucu hangi oyuncunun kadın olduğunu söyler. Oyun defalarca oynanır. Bu senaryoda erkek oyuncunun yerine aynı oyunu oynamaya (dişi bir insan taklidi yapmaya) programlanmış bir bilgisayar koyduğumuzda sorgucunun başarı oranı artmazsa, bilgisayarın “düşündüğü” sonucuna varmamız gerekir.
Turing testi budur: Dış görünüşten etkilenmememiz için saf zekâyı yalnız bırakan bir ortamda insanla makineyi yarıştırır. (İlginç şekilde, günümüzde robotları giderek daha başarılı şekilde insana benzetebiliyoruz, ama ben de Turing gibi işin özünün bu olmadığı kanısındayım.) Her konu konuşulabilir ve bilgisayar tümünde insan düzeyinde performans göstermelidir. Turing makalesinde saç şeklinden edebiyat tartışmalarına uzanan örnekler vermiştir. Bu kadar geniş bir yelpazede, hem de kendisi de zeki bir insan olan sorgucuyu kandırabilmek için zekâ, tüm o soruları yanıtlamak için de düşünmek gerekir! Eğer bu ölçütü kabul etmiyorsanız hattın öbür ucundaki varlığın düşündüğüne ikna olmanız için daha ne yapalım?
Turing testi çok yüksek bir çıtadır. Henüz doğal dili ve içinde yaşadığımız dünyayı insanlar kadar iyi anlayan bir bilgisayar yapamadık ve (şov için yapılan birkaç dakikalık “test”lere sokulan kimi lafazan programları saymazsak) daha Turing testini geçebilen bir makine ortada yok. Ama güzel bir hedef, değil mi?
Evren bir makine mi?
-NM: Evren bir makine mi?
– Hatta bir bilgisayar bile diyebiliriz. Bunu söyleyen ciddi fizikçiler var. Tabii bilgisayar nedir? Evren nedir? Evren bilgisayar mı? İnsan vücudu bilgisayar mı? Bu soruların hepsinde, bilgisayar tanımını nereye kadar çektiğimiz önemli. Biraz daha çekersek anlamsız hale mi geliyor; ha o zaman ne kadar çekeceğimizi tartışmamız lazım. Bu yüzden, 50 Soruda Bilgisayar Bilimi ve Yapay Zekâ kitabımın neredeyse yarısı, “Bilgisayar tam olarak nedir?” sorusundan bahsederek geçiyor. Eğer bilgi işlem olarak, bir durumun tarifini alıp, ki burada durumdan çok genel olarak söz ediyorum, aldığınız şeye girdi diyelim, belli kurallara göre aldığımız girdileri işleyip, ondan sonra da işte bu işlemin sonucu olarak, verdiğiniz soruya bir cevap hazırladım şeklinde bir cevap yetiştirme sürecini kastediyorsak, o zaman aslında fizik yasaları da buna denk geliyor. Evrenin şimdiki halini alıyorlar ve bir milisaniye sonraki halinin ne olması gerektiğini söylüyorlar. Yani evren bu durumda, ben şimdi ne yapacağım, benim bir adım sonraki halim ne olacak problemini çözen bir bilgisayar olarak görülebilir. Bu durumda o bilgisayarın programı ya da programlama dili de, matematik, fizik yasaları oluyor. Böyle düşündüğünde işi anlamanın ya da yorumlamanın daha iyi olacağını söyleyen fizikçiler de var. Max Tegmark, Our Mathematical Universe kitabında bunu söyler örneğin.
Seth Lloyd diye ünlü bir fizikçi var; onun Programming the Universe adlı kitabı da tam bu fikir üzerinedir. Bu anlamda eğer öyle bakarsak, aslında sinir ağı olan, beyni olan şeylerin, elbette insanın da çözdüğü problem, programlarının varoluş amacı, “Şimdi ne yapacağım?” sorusudur diye düşünülebilir.
İnsan evrensel makine mi?
– YCS: Peki insan evrensel makine midir?
– Bence evet. Performans-bellek kısıtı gibi şeyleri dikkatli çalışmamız lazım. Kuramsal tarifine göre, Turing makinesinin kısıtsız belleği var. Bana kısıtsız kâğıt vereceğinize söz vermeniz lazım, Turing makinesini taklit edebilmem için. Kısıtsız zamanımın da olması lazım. Eğer bu konularda anlaştıysak, benim bir süre sonra ölmeyecek olmam ya da sonlu sayıda kâğıt olması konularını hallettiysek, o zaman ben gerçekten evrensel makineyim. Zaten adamın ispatının güzelliği bu; gerçekten bana herhangi bir Turing makinesi modeli verdiğinizde, onun davranışını onun bundan sonra 100 adım, 1000 adım, 1 milyon adım sonra ne yapacağını kâğıdımla ispat ediyorum. O her şeyi simüle edebildiğine göre, ben de her şeyi simüle edebiliyor oluyorum. Buradan sorunun cevabı evet çıkıyor.
Evren anbean, “Bir sonraki halim ne olacak?” problemini çözen yapay zekâ olarak görülebilir.
Kâğıdın icadına kadar, bunu kafamızın içindeki bellekle yapmak zorundaydık. Demin söylediğim, kafamızda önce simülasyonunu yapıp ona göre karar verme yeteneğimizin olması lazım. Evrimsel açıdan bu bir avantaj, sanırım bu yüzden bizde bu kabiliyet gelişti. Hesaplama evrenselliği özelliğini beynimizde bu yüzden evrilttik diye tahmin ediyorum. Ama o bir kez evrilince, matematik yapmak, fizik yasalarını kafamızda kurmak ya da hiç olmayacak şeyleri kurup onlara inanmak gibi yan etkiler de yaşamaya başladık.
Yapay zekâ yaratıcı olabilir mi?
– NM: Makine ve insan arasında bir adım önde olanı insan gibi düşünüyorum ben hep. Şuna geleceğim: İnsanın çözemediği, karşısına hiç çıkmamış bir sorunu, makine çözebilir mi?
– Bu biraz yaratıcılık konusuna denk geliyor. Bu evrensel makine fikrini Turing hayata geçirdi dedik ama Babbage var, ondan yüz yıl önce yaşamış. Mekanik olarak bir bilgisayar dizayn etmiş, ama yapamamışlar. Lord Byron’un kızı Ada var. O da onun ilk programcısı. Eğer günün birinde bu makine yapılırsa, ben de ona şöyle programlar yazarım diye kafa yormuş. Ada’nın ünlü bir lafı var: “Hiç merak etmeyin. Bu analitik motor kendi kendine yeni bir şey yapamaz. Biz ona ne anlatırsak onu yapabilir.”
Öteden beri yapay zekâ konusunda karşımıza çıkan fikirdir: Birisi ona bir şey söyleyecek ki, o yapacak; o kendisi bir şey icat edemez. Bu da tekrardan bizi “İnsan bunu yapabilir, makine yapamaz” iddiasına getiriyor. Gene önerim şu: “İnsan yeni bir fikri nasıl üretiyor? Bunu düşündün mü?”
Zannedersem nedeni şu: Biz kafamızın büyük bir bölümünde ne olduğunu bilmiyoruz. Sadece üstte bir kısımda biliyoruz. Bilgi-işleme süreçlerinin çoğu içeride bize haber vermeden oluyor. İşletim sistemimiz öyle. Aslında biraz bilgisayarda da öyle. Masaüstündeki durumu biliyoruz da, içerde ne fırtınalar kopuyor, programlar birbirleriyle süreçlerde yer almak için nasıl yarışıyorlar, bilmiyoruz. Onların çoğu bizden saklanmış durumda. Çünkü kullanıcı arayüzümüz, sadece lazım olan şeyleri gösteriyor ana ekranda. Bilincimizde olan şeyler de ona benzer, bir filtre vazifesi görüyor.
Charles Babbage (1791-1871). Programlanabilir bilgisayar fikrini ilk ortaya atan İngiliz matematikçi ve analitik filozof.
Yeni, daha önce olmayan fikirler bence şöyle üretiliyor olabilir, benim iddiam bu en azından: Diyelim ki bir şiir ortaya atılacak. Yeni bir şey. Olabilecek bütün harf kombinasyonlarının sırayla aptal bir bilgisayar döngüsünde üretildiğini düşünün. Yani AAA, AAB, AAC falan gibi. Bütün kelimeleri üreten bir bilgisayarımız olabilir, değil mi? Esas mevzu bunların içerisinden iyi olanı, güzel olanı seçmek. Çünkü genellikle iyi fikirler, kısa ama güzel oluyorlar. Haiku şiirleri bir tweet uzunluğunda oluyor. Böyle bir boy limiti koyun. Bunların içinde bile bir sürü değişik kombinasyon var. Anlamsız harf kombinasyonları, bir sürü kelime kombinasyonu, abuk sabuk şeyler. Robot şair Deniz Yılmaz’ı gördünüz mü? Yapay zekâ sanatçısı dediğim Bager Akbay, Posta gazetesinde yayımlanabilecek şiirler üreten bir yapay zekâ yapıyor. Bu gazetedeki şair yüzlerinden ortak ve cinsiyetsiz bir yüz yaratıp Deniz Yılmaz ismini veriyor. Kelimeler yan yana konuluyor, uyaklı mı değil mi diye kontrol ediliyor, önce çok anlamsız şeyler ortaya çıkıyor, ondan sonra onu şiir külliyatı üzerinde çalıştırıyor filan. Maalesef yazdığı şiirleri gazeteye basmıyorlar. Ondan sonra bunu açıklıyor, sonra kitap basılıyor, insanlar gidip bunun hayranı oluyorlar, imza attırıyorlar falan filan. Eğer yaratım bölümünü bu şekilde anlamlı anlamsız bütün metinlerin üretilmesi, ama ondan sonra onun içinden güzel, kaliteli olanların seçilip alınması olarak düşünürsek, bu bir anda bilgisayar tarafından yapılabilir bir şey haline geliyor.
– NM: Biz harf kombinasyonları ile şiir yazmıyoruz. Belleğimizde depoladıklarımız var: Yaşantılarımız, bilgilerimiz, deneyimlerimiz, duygularımız….
– Kesinlikle. Ama üretim bölümünü nasıl yapıyoruz? Harf kombinasyonu çok alt bir seviye oldu. Daha önce okuduğumuz binlerce şiirden oluşan kelime öbeği kombinasyonları diyelim. “Saçlarına vuran ayışığının bilmem nesi” gibi. O boyutta parçacıklar diyelim. Onlar gramer kurallarıyla yönlendirilmiş sırada bir araya gelecek, ama iyi de olacak, duruma da uygun olacak. Sıfırdan bir metin yaratma problemi mi size daha zor geliyor, yoksa bir metni skorlama problemi mi? İnsanlara inanılmaz gelen “Valla adam sıfırdan bunu çıkardı.” Oysaki benim tezim, aslında sıfırdan çıkarma bölümünün daha kolay olduğu. Çünkü rasgele kombinasyonlar bir araya getirilecek; esas enteresan olan, bu paralel bilgisayar mimarisi içinde iyi olanları fark edip, ötekileri otomatik eleyecek. Bu bizim haberdar olmadığımız bölümümüzde yapılıyorsa, nasıl yaptığımızı bilmiyoruz. Eğer bir şekilde adımlara bölerek izah edebilirsek bunu, o zaman da büyüsü kaçıyor. Benim tezime göre insanlar buna benzer bilişsel numaralar sayesinde yaratıcı oluyorlar, makineler niye olmasın. Yani insanlarda bunun bilgi-işlem süreci olarak nasıl yapıldığına dair bir tez bu. Artık mesele sıfırdan üret programında değil, kötü şiirleri iyi şiirlerden ayırmayla ilgili bir program yazma meselesine dönüyor. Bir resim gördüğünde iyi bir resim mi, kötü bir resim mi, nasıl ayırt edileceğini insanlara öğreten “Art Appreciation” (“Sanat Takdiri”) gibi dersler var. İnsana öğretebiliyorsanız, onu yeterince küçük, anlaşılabilir parçalara ayırıp bilgisayara da öğretebilirsiniz. “Üret” kısmı tamamen beyinsizce yapılabilir, esas “sına” kısmı önemli, o da programlanabilir bir şey.
– NM: Şu sorunun bir önemi yok mu burada: Parçaların toplamı bütünü açıklar mı? Zihnimizin işleyişini süreçlere bölüyoruz diyelim ki; sonra diyoruz ki, bir işlevi yerine getirirken, sırayla şu süreçler, şu süreçler devreye giriyor. Ama biz tek tek parçaları değil, bütünü kullanıyoruz bir sorunu çözerken ya da yaratırken. Ya bütün parçaların toplamından daha fazlasıysa?
Ada Lovalace (1815-1852), Babbage’in “analitik motoru”nun ilk programcısıydı. Ada, “Analitik motor kendi kendine yeni bir şey yapamaz. Biz ona ne anlatırsak onu yapabilir” diyordu.
– Elbette. Ama her şey öyle değil mi? Bizim şimdi konuşmamız veya o sırada aklımızdan geçen söylemediğimiz düşüncelerimiz dahil, her şey, ama her şey, üç beş tane basit fizik formülünden kaynaklanmıyor mu? Her şey bizim yapıldığımız küçük atomlar ya da atomaltı parçacıklar, onların itişmesi yüzünden olmuyor mu? Ama biz tabii ki hiç atomlarla, kuarklarla ilgili olmayan, çok daha başka kavramlar cinsinden konuşuyoruz. Bir sürü katman var, her katman bir önceki katmana dayanıyor, ama o katmanın da bir değeri var. Tamam nöronlar var bir sürü, aralarında bağlantılar var; ama kendi aralarındaki aksiyon potansiyellerinin zımbırtıları yüzünden bazıları ateşleniyor bazıları ateşlenmiyor. Ama durumumuzu çok daha iyi izah eden “Ben aslında şu ideolojiden bir adamım, o yüzden böyle davranıyorum” diye çok daha iyi anlatan, üç beş katman yukarıda başka bir açıklama da var. Bu açıklama nereden çıktı? Aslında o parçalardan çıktı. Ama o parçalar dilinde konuşmayan bir başka kavram oluştu. Nereden oluştu? O parçalardan oluştu. Başka bir şeyden oluşmadı. Yani lego parçalarından oluştu, ama biz ona baktığımız zaman 80 bin lego parçası değil, harika bir uçak maketi görüyoruz. Öylesi daha anlamlı çünkü.
Yapay zekâ nasıl öğreniyor?
– NM: Peki yapay zekâ nasıl öğreniyor?
– Birkaç yapay öğrenme tekniği var. Ama temelde öğrenme nedir, insanlar nasıl öğreniyor sorularına dönmemiz lazım. Aslında birkaç değişik şekilde öğrenilir. Birincisi, “Bak Ahmet bunu yapmak için kapıdan çık, sağa dön” gibi bir talimatname, ezberleme yoluyla öğrenilebilir. İlk önce işin nasıl yapılacağını kendiniz anlıyorsunuz, sonra programlama dilinde yazıyorsunuz, bilgisayara veriyorsunuz, bilgisayar da o manada onu öğrenmiş oluyor.
Ama çağımızda yapay öğrenme denildiğinde, genellikle kastedilen, örnekler görme yoluyla yapılan öğrenme. 50 bin tane fotoğraf gösteriyorsunuz bir kavramla ilgili, “bunların içinde insan resmi var”, “bunların içinde insan resmi yok” diye etiketliyorsunuz; ama “bak şurası insan” falan demiyorsunuz. İnsan kavramının bir piksel dizisi içinde nerede, nasıl tayin edileceğini siz söylemiyorsunuz. Örnekler veriyorsunuz, yeterince örnek gördükten sonra, içinde şu görüntü olan şeylere insan deniyor diye anlıyor ve daha sonra ona benzer başka bir örnek gördüğünde de, insan var mı yok mu diye ayırt edebiliyor. Bunun bir adım ötesi kişi bazında tanımaya kadar gidebiliyor.
İnsan nasıl yaratıcı olabiliyorsa, yapay zekâ da aynı biçimde yaratıcı olabilir.
Nasıl oluyor? En yerleşik algoritması bunun sinir ağları. İnsan beyninden esinlenen sinir ağları diye bir sistem var. Girdilerden çeşitli çarpmalarla, katsayılarla, bir şeyleri çarpa çarpa sonunda birtakım çıktı denilecek sayıları hesaplayacağımız bir karışık formül. İçi katsayılarla dolu bir formül gibi düşünün. Diyelim, benim görmekte olduğum resimdeki piksellerin değerleri giriyor, çıktı da Nalân Mahsereci diye bir harf serisi olacak. Ama tabii ki bu başarılı hesaplamayı yapmak için aradaki katsayıların doğru katsayılar olması lazım. Gerçekten içinde Nalân Mahsereci olan fotoğraflar için bu çıktıyı verecek, olmayan resimler için başka bir şey verecek. Burada esas olan bu katsayıların kaç olduğunu bulabilmek. Biz bilemiyoruz. Çok zor. Bilgisayar da başta bilemiyor. O yüzden sinir ağları genel konuyu bilmeyerek başlıyor. Yani rasgele katsayılarla başlatıyorsunuz, veriyorsunuz resmi, o tabii rasgele katsayılar olduğu için rasgele bir cevap veriyor. “Nalân Hanım var” diyor, aslında yokken. “Yanlış yaptın, burada Nalân Hanım yoktu” diyorsunuz. 20-30 yıl önce bir algoritma keşfedildi, katsayıların güncellenmesi algoritması; her yanlış yaptığında, o girdi için o hatayı bir daha yapmasın diye, içindeki binlerce, milyonlarca katsayıyı 0.001 mertebesinde güncelleyebilen bir algoritma. Bunu 50.000 tane değişik örnekle döndüre döndüre 100.000 defa yaparsanız, o verdiğiniz örnek kümesi üzerinde doğru cevabı verebilen bir hale geliyor. Yani gerçekten Nalân Hanım’lı resimlere var, Nalân Hanım’sız resimlere yok diyor ve esas heyecanlı ve harika olanı şu ki, daha önce hiç görmediği başka bir Nalân Hanım’lı resim geldiğinde de, yüksek ihtimalle ona doğru cevap veriyor. Yani genelleme özellikleri var. Neden? Çünkü sinir ağları bu şekilde yapılandığında böyle özellikler gösteriyor, anlaşılan insandaki ağlarda da böyle. Üstelik geleneksel bilgisayarlara oranla da birtakım avantajları var. Yani üç-beş nöronumuz öldüğü zaman komple sıfırlanmıyor; o kalanlar belli bir performansla çalışmaya devam ediyor.
Makine öğrenmesinin şu anda en popüler yöntemi bu. Bunu bilgiyi sinir ağları ile değil de işte mantık formülleriyle ya da karar ağaçları denen başka düzenekler yoluyla da yapanları var, ama temel fikir bu. Uzun antrenman sürecinden sonra, kendisi artık o kavramı öğrenir hale geliyor. Bu, onlarca yıldır bilinen bir algoritma, ama son yıllarda teknolojideki birtakım gelişmeler sayesinde hem verimiz çoğaldı ve bol bol örnek verebiliyoruz, hem de bu öğrenme süreci biraz hesaplama yoğun bir şeydir, işlemcilerde gelişmeler oldu, o yüzden herkesi şaşırtan derecede iyi çalışmaya başladılar.
– NM: Bir nevi biyolojik işlevlerin, milyonlarca yıl içinde aşama aşama değiştikleri ve farklı çevresel koşullarda elendikleri evrimsel mekanizmalarla şekillenme süreçlerini, hızlandırılmış bir biçimde yaşatarak, işlev mi elde ediyoruz makinelerde?
– Evrim tabii öldürme yoluyla çalışıyor. İnsan beynindeki bu sinir ağı da yanlış yaptığında o birey doğrudan ölmüyor, ama onun bir cezasını çekiyor. Yanlışın bir bedelini ödüyor, o yüzden hayatta kalması lazım bu öğrenme süreci içinde. Evrim ile arasında öyle bir ufak fark var. Bir sonraki sefere o durumdan biraz daha uygun davranması lazım. Ben kitapta, evrimin öğrenme tarzıyla, beynin öğrenme tarzı arasındaki farktan da bahsediyorum. Daha çok beynin öğrenme tarzına benziyor, şu andaki popüler makine öğrenmesi. Evrimin öğrenme tarzına dayanan, evrimsel programlama diye bir öğrenme tekniği daha var ama. Orada da bir sürü aday atıyorsunuz ortaya. İyi yapamayanlar ölüyor. Bir sonraki nesle iyi yapanların kendileri ve kendi aralarında çiftleşmeleriyle oluşmuş olan çocukları çıkıyor. Evrimi modelleyerek çalışan bir sistem.
Yapay zekâda içgüdüsel davranışlar olabilir mi?
– YCS: Evrimsel süreçlerle dolaylı olarak ilintili bir soru sorayım. Bir deney yapıyorlar. Fareler yılan gördüklerinde sabit kalıyor, yılan onları görmesin diye. Bu deneyde fareye alttan elektrik veriyorlar, fare yılan gördüğünde hareketsiz kalmak istiyor, ama elektrik aldığı için hareket ediyor. Daha sonra elektrik vermeden de aynı farenin yılanı gördüğünde hareket etmesini sağlıyorlar. Daha sonra bu fareyi doğaya saldıklarında fare yine sabit kalıyor. Böyle içgüdüsel davranışlar makinelerde, yapay zekâda mümkün mü? Yoksa bu mekanizmalar da aslında birer model deyip onları da yapay zekânın bir parçası haline mi getirmemiz gerekiyor?
– İçgüdüler sanırım işletim sisteminin en eski bölümünde duran, belki dış belleğe değil, ikincil belleğe değil, makinenin Bios (temel giriş çıkış sistemi) dediğimiz yerine kayıtlı programlar gibi. Onları değiştirmek daha zor. Çünkü yeniden programlanamayan türden bir bellekte duruyorlar. Daha sonra evrilmiş olan beyin kısımlarımız daha yazılım (software) gibi. O yüzden bir sıkıntı halinde alt seviye programlarımız, reflekslerimiz, hiç düşünmeden pat diye konuya giriyor. Ama bunları bilgisayar terimleriyle konuşmaya başladığımızda, zaten bunun nasıl yapay zekâ ya da makine tarafından da yapılabileceğini, makineyi nasıl bu şekilde inşa edebileceğimizi görüyoruz.
“Kapsama mimarisi” (“subsumption architecture”) diye bir şey var yapay zekâ literatüründe, tamamen bu fikre dayalı. Bilgisayarın, hayatta kalmayla ilgili temel programları var. O sağlanmadığı durumda, otomatik olarak kendisi o programı ortaya çıkarıp o programa göre davranıyor. Eğer orada problem yoksa, uygun olan en üst seviyedeki yüksek seviyeli program devreye giriyor. İçgüdüler neden evrilmiş? Bilgisayarımızın ya da robotumuzun da içgüdülerimize benzeyen bir hayat felsefesi olmasını istiyorsak, bunu kopyalamamız akıllıca olur. Her durumda bilgisayarımızın, robotumuzun tam bizim gibi bir işletim sistemi olmasını istemeyebiliriz. Duyguları olsun mu mesela? Eğer nükleer santrale girip orada tamirat yapacaksa, korku diye bir duygusu olmasa daha iyi olur tabii. Ama bazı durumlarda eğer istiyorsak bu iş insanlarda biyolojik olarak nasıl çözülmüş bunu anlamamız gerek, “Biz bunu makineye nasıl yaptıracağız?” diyeceksek, tabii insandakine bakıp, ondan ilham alıp, icabında utanmazca onu kopyalamak gerek; bunların hepsi mübah mühendislikte.
– NM: Eğer uygun ve gerekli görürsek, yapay zekânın duyguları olabilir diyorsunuz. Peki karşı tarafın duygularını anlayabilir mi?
– Bu konuyla ilgili şu anda konferansları olan bir çalışma alanı var. Çünkü çok önemli. İnsanların yüz ifadesinden, sesinden anlayıp, diyelim sinirliyse santraldeki başka birisine yönlendiren ya da lehçesinden anlayıp onunla aynı lehçede konuşan bir operatöre yönlendiren sistemler var. Duygu dediğimiz, evrimsel nedenlerle bazı işleri daha çabuk yapmamıza elverecek, bizi bazı davranışlara yönlendirecek şekilde oluşmuş beynimizdeki alt programlar. Bilgisayara da eğer buna benzer bir şey illaki koymak istersek koyabiliriz. Korkak gibi davranan bir robot, köşeye sinen robot yapabiliriz. Ben olsam bazı işlerde yapar, bazı işlerde yapmam. Tehlikeli bir şey yapacak cengâver robot yapacaksam, ona korku koymam. Ya da sahibine âşık olup başına bela olacaksa öyle bir duygu koymam. Bunlar ihtiyaç bazında düşünülebilir sanki.
– NM: Yalnız olan insanların ihtiyacını karşılamak için belki.
– Bu ne kadar uygun bir konu bilmiyorum, ama seks robotu işinden enteresan sonuçlar doğabilir. Çok eskiden beri fotoğrafçılıktan tutun, internetin çeşitli yerlerinin geliştirilmesine yürüyün, pornografi endüstrisi bazı konularda en önde giden endüstri oluyor. Bu konuda da çok enteresan şeylerle çıkabilirler karşımıza.
Satrançtan sonra go oyununda da şampiyon
– NM: Yapay zekâ, go oyununda satranç gibi başarılı olamayacak gibi beklentiler vardı. Bu beklentiler satrançla go arasına şöyle bir ayrım koyuyordu: Go oyununda sezginin de yeri var.
– Evet. 2012’de yazılmış bir kitap var, orada deniyor ki, “Satrançta insanı yenen yapay zekâ yaptık, ama go oyunu için biraz daha zaman var, biraz daha zor bu.” Sezgi terimini bilgisayarcılar kullanmıyordu ama, go oyuncuları neden satrançta oluyor da goda olmuyor meselesini, o şekilde tarif ediyorlardı. AlphaGo’nun Dünya Go Şampiyonu Lee Sedol’u yenmesi ve ondan sonra bu konuda yapılan tartışmalardan ben şöyle anlıyorum. Satranç oyununun hakikaten gelişmiş bir teorisi vardı. Satranç oyununda bir tahtayı ele aldığınızda, hemen herkes, özellikle de uzmanlar, o sırada beyaz için mi durum daha iyi, siyah için mi durum daha iyi, nereden yürünebilir, uzun uzun tartışıldığında, kendi aralarında bir uzlaşmaya varabiliyordu.
Satranç ve go oyununda yapay zekâ dünya şampiyonlarını yenebiliyor.
Go oyununda oyunun ortasında bir tahta durumu verildiğinde, sonrasında ne olacağına dair iyi bir teorileri yokmuş. O yüzden kala kala sezgiye kalıyorlardı. Bu durumda go oyuncusu olarak ne yaparsınız? Daha önce gördüğünüz go oyunlarında bunu andıran tahtalarda hangi hareket, hangi hamle iyi sonuca yol açtıysa, hatırlayabildiğiniz kadarıyla onu yaparsınız. Yani ben on adım sonra bilmem ne savunmasına geçeceğim falan diyemezsiniz, çünkü bilmiyorsunuz onu daha. Tahta boyutu 19 x 19, matematiksel nedenlerden ötürü çok ileriyi görmenize el vermiyor. Ve de işte gördük ki, “Haa! Sen tahtalarda şu hamle yapılırsa beni başarıya götürüyor sistemine mi dayalısın? Bu tam bir örüntü tanıma problemi. Ben bunu bilgisayar olarak senden daha iyi yaparım.” Bu yaklaşım burada çalıştı, bunun çalışması aslında go oyununun aslında böyle bir oyun olduğu konusunda bir tür keşfe de denk geliyor. Ve de bildiğiniz şekilde makine, hiçbir insanın mecalinin yetmeyeceği kadar çok, milyonlarca örnek üzerinde çalışınca, bunun genellenebildiği görüldü. Buna benzer tahta durumlarında, buna benzer hamleler yaparsan iyi olur fikri, genellenebilir bir fikirmiş. Ona dayanarak insanüstü performansa ulaştı.
-NM: En son AlphaGo Zero, AlphaGo’yu yendi. AlphaGo Zero’da hiçbir insan girdisi yokmuş, oyunu bütünüyle kendi kendine öğrenmiş.
AlphaGo, 15 Mart 2016’daki karşılaşmada, Dünya Şampiyonu Lee Sedol’ü 4-1’lik bir skorla yenmişti.
– Hatta ondan sonra “go” lafını da çıkardılar Alpha Zero kaldı son versiyonun adı. Orada oyunun kurallarını siz girdi dosyasının parçası olarak veriyorsunuz. İsterseniz oraya go oyununu değil, satranç oyununu giriyorsunuz, satrancı da kendi kendine öğreniyor. Yani kendi kendine oynamanın püf noktalarını öğreniyor. Yine aynı mantık. Milyonlarca defa kendi kendine oynuyor. İyi hamleleri kötü hamlelerden “Haa vaktiyle bu hamleyi yapmıştım,sonunda da kazanmıştım. Demek ki iyi” diye, pekiştirme yöntemiyle ayırt ediyor. 24 saat içinde de dünyanın en harika eski moda satranç programını yener hale geliyor.
– YCS: Tam bu noktada Derin Öğrenme’den bahsedebilir misiniz?
– Derin Öğrenme biraz önce değindiğim yapay sinir ağlarıyla öğrenme algoritmasının neredeyse tamamen aynısı. Derin lafı şuradan geliyor: Girdi katmanındaki sinir hücresini temsil eden işlemci birimleriyle çıktı katmanındaki işlemci birimleri arasında kaç katmandan geçiyoruz? Bunlar ateşliyor, bir sonraki katmandaki hücrelerin girdileri haline geliyorlar, sonra bunlar da ateşliyor, bir sonraki katmandaki hücrelerin girdileri haline geliyorlar; böyle böyle gidiyor. Hem derslerde hem de genel olarak çalışmalarda, bir-iki katman derinliğinde oluyorlardı. Çünkü demin anlattığım katsayıları güncelleme algoritması çok fazla katmanda doğru dürüst çalışmıyordu. Yapılacak güncellemelerin miktarı hakikaten çok küçük sayılara iniyordu. Çok küçük sayıların bilgisayarın limitleriyle ilgili birtakım sıkıntıları var, sıfırdan ayırt edilemez hale geliyorlar. Teorik olarak güzel bir şey, ama pratikte doğru düzgün çalışmıyordu. Enteresan bir şekilde George Boole’un torununun torunu olan bir bilimadamı var, Hinton diye, 2006’da da o bir buluş yaptı. Bu katsayıları güncelleyen algoritmanın bir-iki katmanlı değil de, sekiz on katmanlı sinir ağlarında düzgün çalışması için bir şey gördü. Bundan sonra onu çalıştırdılar; derin lafı ona karşılık geliyor. Katman sayısı ne kadar çoksa, o kadar derin oluyor. Bir de oyun bilgisayarlarında kullanılan işlemciler, meğerse bunların yaptığı matris çarpımı hesaplarıyla cuk oturan bir iş yapıyormuş. O yüzden birisinin aklına, bu ‘oyun bilgisayarlarındaki grafik işlemcileri birbirine takarsak ucuza kendimiz süper bilgisayar gibi bir şey yapmış oluruz’ fikri geldi. Bir de bunların kendi kültürleri var. Hani bir şey yazdıkları zaman kimseden saklamıyorlar, ortalığa koyuyorlar, sürekli birbirlerine bedavaya öğretiyorlar. O şekilde o araştırma topluluğu, entelektüel bilginin üstel şekilde artması patlaması yaşadı. Yoksa yine 30 yıldır bildiğimiz, babadan kalma sinir ağları.
Garry Kasparov Deep Blue ile 11 Mayıs 1997’de ikinci kez karşı karşıya gelmişti. 6 maç üzerinden yapılan karşılaşmayı Deep Blue 3.5-2,5 kazandı.
Kasparov’u nasıl yendik?
Satrancı (ve akrabası olan oyunları) bilgisayara oynatmak için kötü bir fikir anlatacağım: Oyun sırasında herhangi bir noktada (en başta da olabilir) sıra bilgisayara geldi diyelim. Makine o andaki oyun durumunu (taşların tahtadaki yerleri ve şu ana dek rok yapılıp yapılmadığı gibi bilgileri) “sayfa”nın (bilgisayarın belleğinde bir alanı kastediyorum) en üstüne yazar. Bu durumda yapılabilecek bütün hamleler (sözgelimi başlangıç durumunda tam 20 hamle mümkündür) sonucu ortaya çıkacak yeni oyun durumları, sayfada ilk durumun altındaki satıra yan yana yazılır. Bir tür soyağacı oluşturuyoruz; D durumundan bir hamleyle ulaşılabilecek tüm diğer durumlar, D’nin “çocukları” olarak ağaçta işaretleniyorlar. Bu yeni nesil durumlarda sıra artık rakibe geçmiştir ve (eğer oyun oracıkta bitmediyse) bu durumların her birinin de bu kez rakibin yapabileceği tüm hamlelere karşılık gelen kendi çocukları vardır. Bu üçüncü nesil durumları da daha alta yazıp her birini “anneleri” ile ilişkilendirelim. Bu işleme devam edelim. Çocuksuz durumlardan (yani ağacımızın “yaprak”larından) bazılarında rakibin bizi mat ettiği görülecektir. Bunları kırmızıya, diğer çocuksuz durumları da yeşile boyayalım. Ortaya çıkan yapıya “oyun ağacı” denir.
Matematiksel olarak gösterilebilir ki, bu tür “iki sonuçlu” oyunlarda oyunculardan birinin kesinlikle bir “kazanma stratejisi”, yani, rakibi ne hamle yaparsa yapsın, oyunun kendisi için iyi olan renkteki bir son durumda bitmesini garantileyebileceği cevabi hamleler dizileri vardır. Eğer satrancın oyun ağacını tümüyle oluşturup inceleyebilseydik, içinde gömülü olan bu stratejiyi ayrıştırıp kullanarak evrenin en iyi satranç oyuncusu olabilirdik: Kazanma stratejisi her tahta pozisyonunda hangi hamleyi yapmanız gerektiğinin yazılı olduğu dev bir ansiklopedi gibidir. O hamleyi yapıp rakibinizin cevabını beklersiniz. Sonra oluşan yeni pozisyon için en uygun hamleyi stratejiniz yine size söyler. Bu şekilde devam edersiniz; kaybetmeniz olanaksızdır.
Satrancın heyecanlı bir oyun, yukarıdaki “tüm ağacı kurup iyi sonlara giden yolları izle” algoritmasının da kötü bir fikir olmasının nedeni, bu ağacın boyutunun bilgisayarların bu hesaplamayı yapmasını olanaksız kılacak ölçüde (yaprak sayısı evrendeki atom sayısından daha çoktur!) büyük olmasıdır. Peki, satranç gerçekte nasıl oynanır?
Bir “eski moda” satranç YZ’si, yukarıda anlatılan ağacı bu hamle için kullanabileceği süre boyunca yapabildiği kadar “derin”leştirir. Sürenin tüm ağacı oluşturmasına yetmeyeceğini gördüğünde yeni “çocuk” durumlar oluşturmaktan vazgeçer ve o ana dek üretilmiş kısmi ağacın yapraklarını kırmızı veya yeşile boyamaya başlar. Oyunun gerçekten bittiği durumlara tekabül eden yaprakların nasıl boyanacağını yukarıda anlatmıştık. Program henüz “doğurgan” olan bir yaprağı hangi renge boyayacağına ise tahtadaki o durumun durağan özelliklerine göre yaptığı bir tahmin sonucu karar verir. Kısaca, durumun “iyi” göründüğü (sözgelimi, kendi taşlarının sayısının rakibinkinden çok olduğu, şahının iyi korunduğu, merkez karelere hâkim olduğu) yaprakları yeşile, “kötü” göründüğü yaprakları da kırmızıya boyar. Bu noktada kullanılan (ve mesela usta satranççıların da yer aldığı Deep Blue ekibinin 700.000 büyük usta oyunundan yararlanarak binlerce parçada organize ettiği) formül “geleceği” tümüyle dikkate almadığından yaprağın yanlış renge boyanmasına, bu da yanlış bir strateji çıkarsayan bilgisayarın ideal olmayan bir hamle yapmasına yol açabilir elbet. Ama işin (bilgisayarcılar için) güzel yanı şu ki, insan oyuncular da bellek ve zaman kısıtları nedeniyle oyun ağacını sadece kısmen “görebilirler” ve genellikle kim birkaç hamle daha ileriyi görebiliyor, yani ağacı birkaç nesil daha derine götürebiliyorsa o kazanır. Deep Blue Kasparov’u böyle yenmiştir.
Yapay zekâ nasıl karar alıyor?
– NM: Yapay zekâ nasıl karar alıyor?
– Genelde bilgisayar nasıl karar alıyor? “Sen 18 yaşında mısın, değil misin?” diye soran bir bilgisayar programı düşünün. “Değilsen bu siteye giremezsin, kusura bakma; 18’den çok musun, buyur” falan. Orada çok basit bir karşılaştırma var. Düşünürseniz bu bir karardır, yoksa karar nedir bana söylemeniz lazım. Yani eğer birden fazla seçeneğiniz varsa, bir süreç sonucunda, ötekileri değil bu yolu seçip ilerliyorsanız, bence karar diye buna denir. En basit anlamıyla bilgisayarın karar alması hiç de gizemli bir şey değil. Haa, “Hissetti mi, istedi mi?” tarzı konulara girersek, “İnsanlar nasıl yaptı?” diye bir kez daha sormam gerekecek. Bence insanlar da buna benzer ruhsuz süreçlerin bir araya gelmesiyle karar alıyor. En sonunda bunu ben istedim sosu ekleniyor, yoksa bilgi-işlem süreci olarak demin anlattığıma benzer bir şeyin zincirlenmesinden oluşuyor.
Sohbet robotları henüz ilkel bir teknolojiyle çalışıyor; ne dediklerini bilmiyorlar.
– NM: Birçok seçeneğin olduğu durumlarda nasıl karar alacak yapay zekâ? Mesela sürücüsüz arabalar yolda giderken anlık kararlar alması gerekiyor, karşısına çıkan nesnelere göre.
– Facebook buna çok benzeyen bir program çalıştırıyor. Bu resimde Cem var diyebilir, Nalân var diyebilir, Ahmet var diyebilir, Mehmet var diyebilir. Sonunda umarım doğru olanına karar verip onu söylüyor. Gördüğünüz gibi bu bir hesap yapma. O hesaplamanın sonucunda, burada Nalân olma olasılığı yüzde 10, Cem olma olasılığı yüzde 50, Ahmet olma olasılığı yüzde 0 gibi bir şey çıkartıyor ve sonuçta en yüksek olasılık hangisindeyse direksiyonu o tarafa kırıyor. Sonuçta bu da başka hesaplar gibi bir hesap problemi. Araba sürerken gerçek zamanlı bir örüntü tanıma meselesi, Facebook’un yaptığının daha hayati olanı var; ama temelde aynı mesele. Sinyaller geliyor, daha önce yüz binlerce saat bir insan o sensörleri açık olan arabayı kullanmış ve hep doğru kararları vermiş ya, buna benzer bir durumda insan şoför direksiyonu sağa kırdı, demek ki benzer bir durumda direksiyonu sağa kırma daha doğru bir olasılık diye, eskilerden genelleme yaparak o hesabı yapıp en uygun seçeneği hangisi olarak gördüyse, hesapladıysa, onu uyguluyor.
Sohbet robotları
– YCS: Hükümet aleyhinde konuşmaya başlamış robot fişini çekmişler. Kendi aralarında konuşmaya başlayan robotlar varmış, fişlerini çekmişler. Böyle sunulan haberler hakkında konuşalım mı?
– Makinelere doğal dilde, İngilizce, Türkçe bir şeyler söyletmeye başladığınızda, onun insanlar tarafından algılanması ayrı bir heyecanlı oluyor. Ben, o bilgisayarın onu neden dediğini çok basit bir programlama analiziyle anlayabiliyorum. Ama insanların onu yorumlaması, başka bir katmanda çok daha komik bir hikâyeye yol açıyor. Microsoft’un Twitter karakteri gibi bu sohbet botları, oldukça eski bir teknolojiye göre çalışıyor. “Siri” kullanıyorsanız, oradan aşinasınızdır. Ne dediklerini bilmiyorlar özet olarak. Buna benzer bir şey geldiğinde, inşallah doğru cevap budur diye şunu yapıştır teknolojisini kullanıyorlar. Yani Turing testini geçmek, hani doğru düzgün insan kalitesinde, insandan ayırt edilemeyecek seviyede İngilizce, Türkçe konuşmak, hakikaten çok uzun yıllar ötede bir şey. Dünyada ne olup bitiyor, onu da anlaması gerekiyor. Microsoft’un Twitter karakterini, kendisine söylenecek şeyleri öğrenecek şekilde yapmışlar. Kullanıcılar da ona Hitler çok iyi adamdı gibi laflar söylemiş, Microsoft’un Twitter karakteri de böyle konuşmaya başlamış. Rezalet! Facebook’unkinde bir skandal söz konusu değil. Facebook sohbet programlarının kendi aralarında konuşmasından, o çalışma bittikten sonra yayımlanan makalede söz ediliyor zaten. Adamlar diyor ki, biz kendi aralarında pazarlık yapabilmek için bunları pekiştirmeli öğrenme ile programladık; birbiriyle konuşsunlar, hangisi pazarlığı daha iyi yapıyorsa bir sonraki seferde o kullanılsın, böyle böyle iyileşsinler diye yaptık; ama birbirinizle düzgün İngilizce konuşun kriterine puan vermeyi unuttuk; o yüzden iyi pazarlık yapan giderek evrildi ama, İngilizceden farklı bir şey konuşmaya başladılar kendi aralarında. Deneyimizin ortasında düzgün İngilizce konuşmaya da puan vermeye başladık, çünkü neticede insanlarla iletişim kuracak bir şeye evriltmeye çalışıyoruz, sonra talimlere baştan başlattık makineyi diye anlatıyorlar.
-YCS: Kendi arasında konuşan iki bilgisayar keşfetmiş olsalardı, fişini çekmezlerdi diye düşünmüştüm okuduğumda.
– Ben de o haberi gördüğümde, aslında bunun dilbilimciler için ne büyük nimet olduğunu düşünmüştüm. Dil aslında böyle, ihtiyaçlar bazında evrilen bir şey değil mi? O ikisi kendi aralarında anlaşıyorlarsa, bence bir yandan da onu öyle bırakmaları lazım, bakalım o dil nereye evrilecek diye. Bence dilbilimciler ilerde buna benzer şeyler yapabilir, mevcut dillerin nasıl evrildiği, yani ata dilin hangisi olabileceğine dair, tersine simülasyonlar yapmak için kullanılabilir.
Biz nasıl robotlarız?
– YCS:“Ex Machina” diye bir film var. Film bence şunu iddia ediyor: Turing testinin artık geçersiz olduğunu, gerçekten yapılabilmesi için karşıdakinin robot olduğunu bilmemiz gerektiğini söylüyor; ben öyle anladım. Sizce de Turing testi geçersizleşti mi?
Ex Machina filminde, Turing testine yeni bir ölçü getiriliyordu: Artık Turing testini geçecek bir robotun, karşısındaki kişiyi kendisinin bir insan olduğuna ikna etmesi değil, “Acaba ben de mi robotum?” diye sorgulatması gerekir.
– İzledim ve çok beğendim o filmi. Turing testi, 20. yüzyıl modeli bir test. Çünkü Turing, o zamanın teknolojisiyle insana benzer bir şey yapmak çok zor olduğu için ancak böyle yazışmalı bir şeyin, teleksin filan kullanılmasını düşünmüştü. O yazışma teknolojisi ne şekilde ise, o şekilde kafada canlandırması kolay olduğu için, dış görünüş onun bakış açısından çok önemli olmadığı için öyle tarif etmiş. Ama artık çağımızda robotlarda bildiğiniz gibi göz hareketleri filan gerçekleştiriliyor. Yani komple bedenli bir şekilde yapılacak Turing testine, ben hâlâ Turing testi derim; ama kandırma testidir. Bence daha ikna edici olabilir. Yani beden diye bir şey ne kadar önemli! Bilgisayarcılar, hani mühendis ya bunlar, ben buna Mr. Spock sendromu diyorum; yani duyguları yok sayalım, bedeni yok sayalım; o zaman kala kala satranç oynama gibi bir-iki tane problem kalıyor. Başlangıçta 1950’lerde başlayan adamlar öyle gitmişler. Şimdi artık öyle olmayacağını biliyoruz. Bedeni de yapmamız lazım, çünkü yapabiliriz diyoruz. Duygu istiyorsanız, onu da yapabiliriz. Çünkü insanlarda duygunun nasıl evrildiğini yavaş yavaş anladığımız bir teorimiz var. Ne isterseniz taklidini yapabiliriz. Bir ürünümüzde bunların tam ölçekli olarak olmasını ister miyiz, o ayrı bir mevzu. Beni kıskanan bir robotumun olmasını istemem mesela.
– NM: Ex Machine’de Turing testi açısından yeni olarak gördüğün şey neydi Yusuf Can?
– YCS: O filmden benim anladığım şuydu: Karşındaki robotun seni insan olduğuna ikna etmesi değil artık mesele, senin kendini ben de robot muyum acaba diye sorgulamana yol açması, bu gerçek bir ölçü olabilir.
– Yapay zekâ üzerinde çalışmanın bana entelektüel kazanç olarak sayabileceğim en büyük etkilerinden birisi “Biz nasıl robotlarız?” sorusunu sordurmaya başlamasıdır. Yani insanlık bilgisine en faydalı yönü bu olabilir. Hakikaten fizik yasalarını esas alarak çalışan “makine”ler değil miyiz? Bütün bu süreçlerimiz nereden çıkmış, bunları düşünmek, sorgulamak zorunda kalıyorsunuz. Onları adreslemek zorunda oluyorsunuz. Biyolojiye giriş için de mühendislik meraklılarına bir kapı sağlayabiliyor.
Yapay zekânın özgür iradesi olabilir mi? İnsanın var mı ki!
– YCS: Siz iradeyi bir yan ürün olarak mı görüyorsunuz?
– Şimdi özgür irade nedir? O da bir yanılsamadır. Demin anlattığım gibi kafamızdaki bilgi-işlem sürecinin hepsini değil, sonucun bir kısmını görebiliyoruz. Sonuç, karar verdiğimiz yanılsaması. “Biz özgürüz, şuraya mı gideyim, buraya mı gideyim dedik, düşündük düşündük, tamamen ruhumuz öyle istedi diye bunu seçtik” şeklindeki yanılsamadan kaynaklanıyor. Aslında baştan beri altyapımız bir hesap yaptı ve o hesabın sonucunda bu çıktı. Diğeri çıkamazdı, çünkü hesabımızın sonucu bu. Ama biz baştan bilmiyorduk ne çıkacağını. O yüzden başta bize sorulduğunda, henüz karar vermedim diyoruz, aslında bu daha hesaplamam bitmedi anlamına geliyor. İrade dediğimiz şey daha ne çıkacağını bilmiyoruz yanılsamasından kaynaklanan bir şey benim yorumuma göre.
– NM: Yapay zekânın da bizim özgür irade sanımız gibi bir özgür irade sanısı olabilir mi?
– Nasıl ki bizim özgür irademiz yok, o açıdan bizden bir eksiği olmaz diye düşünüyorum.
– NM: Peki yapay zekâ yargılanabilir mi? Ceza görebilir mi?
– Bravo, güzel soru. Şimdi neden insanları yargılıyoruz, hele de demin özgür iradenin olmadığını söylediğimize göre. Bizim sorumluluk atfetme durumumuz var; kötü bir şey olduğunda bunun sorumlusu budur diyoruz. İlerdeki benzer durumlarda bireyler aynısını yapmasın diye de, “Bunu yapmanın bir bedeli vardır” diyerek ceza veriyoruz. “Başkasına ibret olsun”, bu cezalandırma sistemimizin temel mantığı olsa gerek. Gerçekten bir hesap yapacak adamın önüne, “Bunun şöyle bir bedeli var” diye negatif bir ağırlık koyarsanız, bu birçok kişinin istenmeyen şeyi yapmaması sonucunu verebilir. Ama adamın molekülleri böyle istedi yaptı, onun bir günahı yoktu. Bu durumda bu ceza sistemi temelden sakat diyebilirsiniz, ama demiyorsunuz. Çünkü işletim sisteminiz gerçekten böyle insan şeklindeki molekül yığınlarını, hakikaten özgür iradesi olan, yaptıklarından sorumlu tutulabilecek şeyler olarak yorumlamaya o kadar alışmış ki, ben size ne kadar aslında öyle değildi dersem diyeyim, nasılsa onu içselleştiremeyeceksiniz. Ben de içselleştiremeyeceğim. Ben de bizzat bazı insan şeklindeki molekül yığınlarına sorumluluk atfediyorum. İnsanlara sorumluluk atfediyoruz, bu yüzden yargılıyoruz. Robota bunu yapar mıyız? Genel olarak robotu ne olarak göreceğiz: Birey olarak mı? Eşya olarak mı? Köle olarak mı? Hayvan olarak mı?
Geçenlerde İstanbul Barosu’nda bir etkinliğine katıldım. Dedikleri şuydu, hukuk literatüründe bu konuya en benzeyen iki konu şuydu; köle hukuku ve hayvan hakları ile ilgili hukuk. Yani tam insan değil, ama tam eşya da değil; arada bir şey. Bu güzel, enteresan bir tartışma. Orada çok hukuk tezi yazılır herhalde. Sonuçta insanları neden öyle görüyoruz? Çünkü hakikaten hem şekil olarak bize benziyorlar. O yüzden kendi donanımızın benzerini çalıştırdıkları için, bizdeki bilinç gibi, sahip olduğumuzu düşündüğümüz şeylerin, insan şeklindeki başka yaratıklarda da olduğunu düşünüyoruz. Ama bir yandan da bu daha yeni vardığımız bir sonuç. Hani “Kadınlarda aslında yok, ya da siyahilerde aslında yok, filanca milletten olanlarda aslında yok” gibi düşünceler daha yeni ortadan kalkmış durumda. Bunlar hep bir yorum meselesi. İnsanların başka insanlar hakkındaki “Bu kendi kararını verebiliyor, kendi ruhu var” gibi fikirleri daha yeni evrildiği için, ileride robotları için de benzer şekilde evrilebilir. Özellikle seks robotları ya da Japonya’da yaşlıların yanında onlara can yoldaşlığı yapacak insan şeklinde robot teknolojilerinde gelişmeler oluyor. Bunlar insanların robotlara bakışını o açıdan evriltebilir. Gerçekten insan şeklindeki bir robota, onun robot olduğunu herkes bilse bile, özellikle çocukların önünde eziyet edilmesi, kötü davranışlarda bulunulması bence kısa bir zaman sonra yasaklanacak. Çünkü gerçekten bu bir sıkıntı. Oradan başlayarak robotlara şunu yapamazsın, bunu yapamazsın gibi kanunlar, düzenlemeler yavaş yavaş yerleşebilir.
– NM: Peki robotlar şunu yapamaz gibi kurallarla, robotlara bir ahlak vermeye dair ya da davranışlarını sınırlamaya dair bir şeyler de olmalı mı?
– YCS: Ben de aynı soru bağlamında, Asimov kuralları robotu ne kadar etkiler diye soracaktım…
– Çok güzel sorular, yani olmalı herhalde. Ama genel olarak makinelerimize, bütün sistemlerimize bu güzel davranışları koyalım yaklaşımlarında, o ahlak sistemi verilmemiş makinelerin bir şekilde avantajı oluyorsa, birileri o kurala uymayıp, o ahlaka sahip olmayan robotları yapıp ilerleyebilir. Ama genel olarak, tıpkı bütün arabalarda emniyet kemeri olması lazım gibi, insanlarla haşır neşir olacak ya da sohbet edecek robotların şu kriterlere uyması lazım gibi, birtakım kriterler olmalı elbette. Bütün bilinçli görünen makinelerde bu davranış setinin sanki bu ilkeleri gözetiyormuşçasına gösterilmesi lazımdır. Hatta muhtemelen olur. Örneğin, silah kullanmasınlar gibi. Şimdiden uluslararası kuruluşlarda bu konuda önergeler oluyor. İnsanlara nazik davransınlar, kırmızı ışıkta dursunlar. Yapay zekâ yavaş yavaş hayata girdikçe, insanlara etkileri çoğaldıkça, hükümetler de bu konuda kural koyar diye düşünüyorum.
Yapay zekâ dünyayı ele geçirir mi?
– NM: Yapay zekâ kendi kaderini eline alabilir mi? Stephen Hawking’in 100 yıl sonra robotlar dünyayı ele geçirecek demesi gibi felaket senaryoları ileri sürenler oluyor.
Yapay zekânın kısa vadeli gelecekte yaratacağı en büyük toplumsal sorun işsizlik olacak.
– Bunun olabilmesi için bu şekilde düşünen, hayata bu şekilde yaklaşan, dünyayı bu şekilde modelleyen, hem ben kendim diyebilen, hem de bu anlamda kararlar vermeye müsait bir dünya modeline, evren görüşüne sahip yapay zekâların olması gerek. Bu kararı verirse, onu hayata geçirebilecek kabiliyetlere sahip sistemler geliştirmemiz lazım. Şu ana kadar böyle bir şey yapmış değiliz. Bazı alanlarda bilgisayarlara, makinelere otonomluk verdik ama ben kendim davranayım diyecek bir sistemi bu boyutta hayata geçirmedik henüz. Neden geçiremedik, geçirir miyiz? Bu soruların yanıtlarını bilemiyorum. İnsan bencilliğinde, bir insan gibi kendi gündemine sahip, kendi çıkarlarını hesaplayan, onun peşinden koşan bir makine teorik olarak yapılabilir bence. Buna inanıyorum. Yapılırsa, üstelik süper güçleri olursa, internete bağlı vs. olursa, o zaman bahsettiğiniz türden felaket senaryoları gerçekleşebilir. O yüzden mümkünse onu yapmamamız lazım. Ama hadi yapalım türünden ciddi bir proje şu an yok zaten. Buna bir biçimde sebep olursak, böyle bir şey gerçekleşirse, o zaman orada bahsedilen sakıncalar birer birer gündeme gelir.
İşlerimizi elimizden alır mı?
– NM: İnsanlardan daha güçlü, daha hızlı, hata yapmayan robotlar üretiyoruz. Bu alandaki gelişmeler genel olarak sosyal sorunlar doğurmayacak mı?
– Doğuracak. Bir şeyleri daha iyi yapıyorsa zaten, ilk işsizlik sorunu gelecek. Örneğin şoförler açısından illaki gelecek. Eğer bütün arabalar kendi kendini sürer hale gelirse, sürücüsüz arabaların esas avantajı ortaya çıkıyor. Trafikte insanın sürdüğü araç kalmazsa o zaman şimdikinden çok daha güzel bir trafik deneyimi yaşamamızı sağlayacaklar. Ama o zaman da bilmem kaç milyon insan işsiz kalacak. Bu bir karar mesela. Bu kadar adamı işsiz mi bırakalım? Yoksa şu kadar insan trafikte vakit kaybetmeye, kazalarda ölmeye devam mı etsin? Buna benzer sorunlar yaşanacak. Bazı işleri insanların yapmasındansa makinelerin yapması daha iyi, o zaman alın size işsizlik problemi. Başka sosyal sıkıntılar da çıkabilir ama en barizi bu. Bunun çıkması için robotların insana benzemesi, umutsuz robot-insan aşkı gibi olayların gündeme gelmesi gerekmiyor. Sadece iyi araba sürmeleri gerekiyor ve iyi araba sürecekler. Bizden daha iyi sürecekler, özellikle trafikte kendi cinslerinden yaratıklarla muhatap olurlarsa.
– NM: Öte yandan, insan zekâsı pratik sorunlarla karşılaştıkça gelişiyor bir biçimde. Tek tek insanlar açısından değil, insan türü açısından söylüyorum; bizleri zihinsel olarak da zorlayacak ve bunun sonunda gelişterecek alanları yapay zekâya teslim etmek, insan türünün zekâ becerilerinde yitime yol açmaz mı?
– Olabilir. Bazı açılardan insanın daha aptal olmasına izin veren bir şey aslına bakarsanız. Zekânın aletlerde toplanması, hata yapmanıza izin vermemesi. Elinize telefonu alıp 25×32 kaçtır diye yazarsanız o size hop diye doğru cevabı söylüyor. O yüzden dört işlemi illaki insanlara öğretmeye devam etmemiz lazım mı? Peki matematik gelişecek mi o durumda? Evet o bir sıkıntı ama, insan zekâsı şimdiki haliyle çok işimize yaradı da, kitleler çok zeki durumda da, şimdi biraz daha aptallaşacaklar diye mi üzülüyoruz; bunlar tartışmalı mevzular.
– NM: Geniş kesimlere zekâlarını kullanmayı öğretmek yöneten sınıfın tercih ettiği bir şey değil ya da işte kimi zekâlar, diğer insanların aptallaştırılması için kullanılıyor; bunları biliyoruz. Ama iyi biliminsanlarının, matematikçilerin, bilgisayar mühendislerinin çıkmasına izin veren bir biyolojik seviye var. Bu biyolojik seviyenin genel olarak zorlanmamaya başlamasını kastediyorum. Ama tabii şunlar da gündeme gelebilir belki; diyelim yapay zekâyla birleşmiş insanlar.
– O dediğiniz olabilir. Şimdi herkesin akıllı telefonu var. Akıllı telefon artı insan kombinasyonu, normal insan kombinasyonundan daha üstün bir yaratık olarak düşünülebilir. Belki ileride insana fiziksel olarak da entegre olabilir bunlar. Bu “google gözlük” ona benzer bir şey mesela, ama şekil olarak tepki çekti bildiğim kadarıyla. Öte yandan etraf zeki şeylerle dolarsa, kendi kafamızın içinde zekâ bulundurmamıza gerek kalmayabilir; nasıl gözlüğün icadı yüzünden gözlerin iyi çalışması gibi bir evrimsel baskı kalmadığından, kafanın iyi çalışması gibi bir evrimsel baskı da kalmayabilir ve bu da uzun vadede evrimsel olarak zekâ seviyesinde düşüşe yol açabilir. Evrimsel olarak böyle şeylerin olabilmesi için, bir yandan da kadınların eş seçerken “Aman zeki olsun olmasın, fark etmez” demesi gerekmez mi? Zekânın en azından böyle eşsel durumlarda bir avantajı hâlâ vardır diye ümit ediyorum.
Hedef insan mı, insandan ötesi mi?
– YCS: Ben yüksek lisansımda RoboCup için robota mekân tespiti yaptırmak üzerine çalıştım. Ben RoboCup’ı şöyle anlatıyorum, 50 yıl içerisinde dünya kupası şampiyonu ile RoboCup şampiyonu karşılıklı eşdeğer seviyede maç yapabilecek diye bir hedef var. Bana gelen soru hep şu oluyor; neden hâlâ görsel bir şekilde çözmeye çalışıyorsunuz mekânı, lazer, sonar kullansanıza? Ben bunun üzerine şunu soruyorum; biz insansı bir şey mi yapmaya çalışmalıyız, yoksa ihtiyacımız olan işleri insanların yapamadığı şekilde yapay zekâya yaptırmamız mantıklı bir şey midir? Yapay zekânın hedefi şu an hangisi?
50 yıl içerisinde RoboCup Futbol Şampiyonu ile Dünya Futbol Şampiyonu’nun karşılıklı eşdeğer seviyede bir maç yapabilmesi hedefleniyor.
– İş odaklıysanız doğal olarak ikincisi tabii. Mesela kendini süren arabalarda normal insanların kullandığı arabalarda olmayan radara benzeyen bir şeyler oluyor. Ya da bütün bisikletlilere verici takılacak, çünkü bisikletlileri tanıma problemi zor bir problem; insanlar da onları tanımayıp kaza yapıyor. Bütün bisikletliler, bütün yayalar, aslında küçük bir verici taksalar mesela, bir anda çok kolay bir hale gelecek. Neden biz insanların biyolojik kısıtlarından ötürü sahip oldukları sensörlerle kendimizi kısıtlayalım ki! İnsanların kafasında pusula sistemi yok diye ya da gps sistemi yok diye robotlara da koymayacak mıyız? Donanım üstünlüğü avantajı varsa kullanalım. Zaten sonuçta Kasparov’u donanım üstünlüğüyle yendik. Go’da da donanım üstünlüğünden, o bilgisayarlar insanlardan daha hızlı çalıştığı için yenebiliyoruz. Neden elimizi bağlayalım ki arkadan?
– NM: İnsan artık sadece zihin değil, zihin artı beden birlikteliği olarak anılıyor ya…
– O çok önemli. Onu uzun yıllar anlamadık, daha yeni anladık.
– NM: Vücutlarımız ölçeğine yayılmış olmanın, bilince çok fazla etkileri var. Geniş bir ölçekten veri alıyorsun, ayak parmak uçlarından örneğin.
– Gündeminizi de o belirliyor. Benim acilen tuvalete gitmem lazım gibi. Bir bedeniniz olduğu için aslında bütün bir bedeninizsiniz aslında. O kadar önemli bir şey ki. O yüzden yapay zekâ teknolojisi ya da makine bilinci sayesinde, daha önce denenmemiş müthiş bir deneme alanı ortaya çıkıyor. Niye bu şekil bir beden olsun ki! Niye on bacaklı ya da balon şeklinde havada uçan bambaşka bir şey olmasın! Ya da işte suyun dibinde giden otuz bin tane parçadan, dünyanın çeşitli yerlerinde oluşan ve birbiriyle bağlantı halinde olan şeyler. Gene Max Tegmark’ın Life 3.0 diye bir kitabı var, diyor ki, artık donanımımızla da oynayabiliriz. “Life 1.0” bakteriler gibi, donanım da yazılım da sabit. “Life 2.0” insanlar gibi, donanım tamam da, yazılımı eğitimle filan değiştirebiliyorsun sürekli. “Life 3.0” artık donanımı da değiştirebiliyorsun. Yani genetik mühendisliğiyle ya da yapay organlar vs. takarak ya da komple bambaşka şekilde bir şeyler inşa ederek, olabilecek yaratıklar uzayında bambaşka alanları da arayabiliriz. “İnsanlar yarasalar gibi düşünemez” diyen meşhur bir felsefi makale vardır. Çünkü yarasaların sonarları vardır. Ben sonar hissini nereden bilebilirim ki? Yeni teknolojilerle yaşamamız söz konusu olmayan deneyimleri deneyimleyebilen yaratıklar ortaya çıkarılabilir.
“Yapay zekâda harikalıkların olma ihtimalini sevdim”
– NM: Anladığım kadarıyla, genel olarak umutlusunuz, yapay zekâ teknolojisi ve ufkundaki gelişmelerden.
– Ben insanlıktan, gelecekten genel olarak umutluyum. Uzay Yolu serisini çok seyretmekten kaynaklanan bir deformasyon.
– NM: Yapay zekânın eline geçerse her şey daha iyi olacak diyenlerden misiniz?
– Geri zekâlılar tarafından yönetilmektense yapay da olsa zeki bir sistemin parçası olmak daha iyi olabilir. Tabii bunda da birçok yanlış gidebilecek şey insanın aklına gelebiliyor. Ben çok zekiyim, insanlığın mutluluğunu arttırmak istiyorum; bu durumda ortalamadan daha mutsuz olan herkesi öldüreyim, ortalama hop diye artsın vb. Öyle sıkıntılar da olabilir tabii, olamaz demiyorum.
– NM: Gerizekâlılar tarafından yönetilmemizin nedeni, zeki varlıklar olmamamız değil ki. Bu biyolojik imkânlarımızın ötesinde, toplumsal sistem sorunu. O sistem yapay zekâ teknolojisini de elinde tutacaksa vay halimize…
– Gelecekle ilgili şu ana kadar kişisel de olsun, mesleki de olsun, örneğin Go olayındaki gibi birçok tahminimde yanıldım. O yüzden şöyle olur böyle olur demeye korkuyorum, ama şu an itibarıyla gördüğümüz şeyler, yani benim yanıldığım tahminlerin çoğu teknolojik açıdan, yapay zekâ açısından iyi şeyler. Bu “smart phone” denen şey, harika bir şey. İnternet harika bir şey. Google çeviri vs. Bunlar gerçekten insan hayatına adam gibi kullanıldığı, entegre edildiği takdirde, insanları süpermen haline getirecek şeyler. O açıdan bunun gibi daha başka şu an aklımıza gelmeyecek harikalıkların olma ihtimalini sevdim.
– NM: Bir yandan da bu harikalıkları takdir eden biz oluyoruz sanki, yani bunlarsız bir hayat yaşayarak gelen ve şimdi bunları da aktif olarak kullanan kuşak. Ama mesela benim oğlum bunun içine doğdu; başka türlüsünü düşünemiyor.
– Bu önemli evet, doğru söylüyorsunuz.
– NM: Teşekkür ederiz Cem Bey.
– Ben teşekkür ederim.
Kaynak: Bilim ve Gelsecek Dergisi-Sayı:169
Hiç yorum yok:
Yorum Gönder