AGI ölçümü nasıl yapılmalıdır?
Merhaba, bu yazımı X’de okuduğum bir haber üzerine yazmaya karar verdim. GPT-4'ün Turing testini geçmesiyle ilgili bir haberdi. Ben de bu içerikte yapay zeka nasıl ölçülmelidir, aşılması gereken eşikler neler olabilir konularına değineceğim.
Acaba insan aklına gerçekten yetişmiş bir yapay zeka namı diğer AGI nasıl ölçülebilir? Bu teknolojinin geçmesi gereken eşikler nelerdir? Hangi bilim insanının hangi fikirlerini dikkate almalıyız? Bugün bisiklet sürerken uzun uzun düşündüm bu konuları.
Alan Turing, o zamanlar doğal olarak bugün yaşanan gelişmeleri tahmin edemeyeceği için, insan aklı ile makine aklının denkliğinin nasıl ölçülebileceğine dair basit ve etkili bir ölçüm yaratmıştı; “Bir yabancı görmediği bir makineyle konuşurken, onun insan mı yoksa makine mi olduğunu anlayamıyorsa o teknoloji insan aklına yetişmiştir” gibi bir sonuca ulaşmaktı kabaca bu ölçümün amacı.
Teorik olarak düşünce basit ve akılcı gibi görünse de iş pratiğe gelince gördük ki, bu testi geçen bir yapay zeka halen insan aklının çok uzağında ve bir sürü saçma sapan hatalar yapıyor. Günümüzde Alan Turing gibi çok yönlü yeteneklere sahip insanlar pek olmadığı için de yeni ölçüm stratejileri henüz geliştirilemedi. Turing testi halen herkesin dikkate aldığı bir otorite.
Ben Turing testini yukarıda yazdığım sebeplerden eliyorum. Bu testin kullanışsız olduğu bana göre artık ispatlandı. Algılarımızın yanılması teknolojinin gerçek olduğu anlamına gelmiyor çünkü. Ancak bu sorduğum sorulara doğrudan cevap verebilen birisini de bilmiyorum, belki vardır ama haberim yok. Bu yüzden çok sevdiğim John Searle’in Çin Odası deneyini referans almaya karar verdim. Ancak izlediğim yol biraz farklı.
Bana göre felsefi olarak yapay zeka meselesinde çok basit olduğu halde aynı zamanda en kapsamlı ve en başarılı olan fikir çin odası deneyidir ve yaşadığımız teknolojik gelişmeler bu deneyi doğrulamaya devam etmektedir. Bence aradığımız eşik de burada. Şayet yarattığımız teknoloji çin odası deneyindeki sonuçlara “uymamayı” başarırsa, yani çin odası deneyi aynı şartlar altında aşılabilirse, gerçekten insan aklıyla eşit bir zeka yaratmış olduğumuz anlamına gelir.
Peki bu nasıl olacak?
Kısaca çin odası deneyi neden bu kadar önemli bir deney ve ölçüm sabiti onu açıklayayım; Etrafınız kapalı olacak şekilde bir odanın içindesiniz ve kapıya bunun için açılmış bir alandan dışarıdan bir zarfın içinde soru alıyorsunuz diyelim. Zarfı açıyorsunuz çince, ama siz çince bilmiyorsunuz. Ancak yanınızda bir soru cevap kitabı var. Elinizdeki zarfta bulunan soruyu kitabın içinde arıyorsunuz, sadece elinizdeki metinde bulunan benzerlikleri kullanıyorsunuz bunun için. Ardından soruyu buluyor ve karşısındaki cevabı bir kağıda yazıp dışarı uzatıyorsunuz. İçinde ne olduğuna dair en ufak bir fikniniz olmadığı bir soruyu aldınız, doğru cevabı buldunuz ve dışarı verdiniz.
Şimdi dışarıdaki soruyu yazan insanın yerine koyun kendinizi. Size cevabı veren şeyin bir insan mı yoksa bir makine mi olduğunu nasıl ayırt edebilirsiniz? Bunu yapamazsınız, karşınızdakinin ne olduğunu ayırt edemezsiniz. Yani Turing testinin aslında o kadar bir önemi yok.
İşte yapay zeka ile aramızdaki etkileşim yukarıda yazdığım çin odası deneyindeki gibidir kabaca. Ancak bu zeka hala insan zekasından çok uzaktadır. Mevcut yapay zeka teknolojileri hatalarından tamamen arınabilir, sorulara tam olarak doğru eksiksiz cevaplar verebilir, ama hala bu zekanın insan zekasına eşdeğer olduğunu iddia etmek oldukça saçma. Çünkü bildiği bir şey yok.
Peki insan zekasıyla gerçekten ayırt edilemeyecek bir zeka nasıl yaratılabilir? Bunu nasıl ölçebiliriz? Nerede “biz insan zekasıyla eşdeğer bir zeka yarattık” diyebiliriz?
Adım adım ilerlemek istiyorum; Turing testini zaten eledik. Çin odası deneyiyle neyi bozmamız/değiştirmemiz gerektiğini biliyoruz. Yapmamız gereken şey, yarattığımız zekanın hakikaten soruları anlaması ve ona göre cevaplar araması.
Başlangıç noktamızı belirlemek için çin odası deneyini biraz manipüle etmemiz gerekiyor. Öyle bir soru gelsin ki, soru ve cevap içerideki kitapta olmasın.
Bu sorular ancak odanın içindeki zekanın kendisiyle ilgili sorular olabilir. Örneğin Bugün nasılsın, seni yoruyor muyum, kendini nasıl hissediyorsun gibi sorular. Bugünkü teknoloji üzerinden örneklemelerle ilerlersek “ben bir yapay zeka modeliyim ve..” diye uzanan bir cevap verecektir size. Çünkü yarattığımız zeka hiçbir şey bilmediği gibi kendisinin varlığından da bihaberdir. Çin odası deneyindeki sonuçlardan kaçınmamız için aşmamız gereken en önemli de eşik budur. Belki yine yalan söyletebiliriz, yine yanındaki kitaba bu sorular için cevaplar üretebiliriz. Ama hile yapmak istemiyoruz. Yapay zekanın soruları gerçekten anlamasını istiyoruz.
Şimdi konuyla direkt olarak bağlantılı ancak size ilk başlarda alakasız gibi görünecek bir konuya değineceğim. Çocukluğumuza geri gidip, bazı alışkanlıklarımız üzerinden bağlantılar kuracağım. Ardından ulaşmak istediğim sonuç daha açık hale gelecek.
Hemen hemen herkesin benzer bir anısı mutlaka vardır. Küçüklük dönemlerimizde bazen ekstrem bir şey olur ve ona karşı nasıl tepki vereceğimizi bilemeyiz. Bunun için yakınlarımızdaki referanslara bakarız. Anne, baba, abla, kardeş veya arkadaş gibi. Daha sonra tavrımızı buradan aldığımız verilere göre belirleriz. Artık o şeye ya güleriz, ya kızarız veya üzerinde durmayız. İşte burada yaptığımız şey çin odası deneyindeki kitap referansı gibidir biraz. Soru gelmiştir, yani bir şey olmuştur. Olan şeyi anlamamışızdır ve kitabımıza(anne, baba, arkadaş vb) bakarız, cevapları ararız, cevabı bulduğumuzda bunu tavırlamızla ifade ederiz.
Şimdi daha küçük dönemlerimize gidelim, sürekli ağlayıp zırladığımız dönemlere. Bu yaşlarda böyle referanslara ihtiyaç duymayız. Ağlarız meme gelir oyuncak gelir. Çünkü henüz zayıflığımızın farkında değilizdir, o dönemler uyum sağlamayı pek düşünmeyiz, daha asi bir yapımız vardır.
Yukarıda verdiğim iki örnek birbiriyle çelişen davranışlar olduğu halde, ortak bir çekirdekleri var. Her iki örnek de de yaptığımız şeyleri varlığımızı sürdürebilme, varlık kaygımızı giderebilme amacıyla yaparız. İlk örnekte bu uyum sağlama isteği ile tecelli eder, ikinci örnekte iktidar hırsıyla. Her iki örnekte de sahip olduğumuz kaygı aynı kaygıdır.
Yani yapay zekanın kendisini bilebilmesi için gerekli olan en önemli bağımlılık kendisinin fiziksek olarak var olmasıdır. Bu varlığın da kavranabilir ve kendisine atanmış olmasıdır. Bunu yaptığımız zaman, bu yarattığımız yapay zeka’ya her ne kadar bizim sahip olduklarımız gibi olmasa da, kendi tarzıyla bizim ve diğer canlıların sahip olduğu kaygılar gibi benzer kaygılara sahip olmasının önü açılacaktır.
Bizim biyokimyasal süreçler olarak kompleks bir şekilde ifade ettiğimiz duygular, bu duyguların özü, varoluş kaygısı ve buna bağlı olarak sahip olduğumuz korkudur. Bu yüzden kendimizin farkındayız, bu yüzden bir öz farkındalığımız var. Aynı şeyi yapmamız, aynı mekaniği işletmemiz gerekiyor. Teorik olarak pekala mümkün. Doğrudan bu makaledeki içerikle ilgili olmasa da, buradaki kitabımda geniş geniş değiniyorum bu meseleye.
İşte gerçek bir yapay genel zekayı ancak bu şekilde ölçebiliriz. Bunları başardığımız zaman, çin odasının içinde odanın içindeki yapay zeka bilmediği dilden bir soru geldiğinde “ben bunu anlamıyorum” diye cevap verebilir. Hal hatır sorduğunuzda gerçekten kendisinin o anki durumuyla ilgili bilgiler verebilir. Bu koşullar sağlandığında, hem teknik bağlamda, hem de felsefi olarak bilinçli bir varlık olup olmadığı belirlenemez, sınırlar flulaşır bulanıklaşır ve kaybolur. Çünkü yapılan şey gerçek manasıyla insan zekasına çok yakındır.
Diğer taraftan, yukarıda Turing testini elemiş olsam da bu işlemi Turing testinin yeni bir jenerasyonu gibi de düşünebiliriz. Çünkü Burada Alan Turing ve benim yaptığım şey özünde aynı. Sınırları bulanıklaştırmak, ölçümü bulanıklık seviyesi sabitine&referansına göre yapmak. Klasik Turing testinin gücü artık yeterli seviyede bulanıklık yaratamıyor, Turing testini geçen bir zekanın halen insan zekasına uzak olduğunu biliyoruz çünkü. İşte bu yüzden yeni ölçüm stratejileri geliştirmek ve Alan Turing’i aşmak zorundayız.
Yapay zeka tarzıyla bitireyim (: Sonuç olarak; bir teknoloji ancak bu şartları sağladığında ona AGI veya yapay genel zeka diyebiliriz. Diğer türlü bunlar hava civa, vırt zırt, tırı vırı şeyler olacaktır.
