Chatbotlar insanlar kadar bilinçli olabilir mi?
Miscellanea / / October 31, 2023
İki karşıt teori bu soruyu cevaplamaya çalışıyor.
Christoph Koch
Amerikalı sinir bilimci, Allen Beyin Araştırmaları Enstitüsü müdürü.
Öznel deneyimin ne olduğu, bu deneyime kimin sahip olduğu ve etrafımızdaki fiziksel dünyayla nasıl bir ilişki kurduğuna dair sorular, insanlık tarihinin büyük bir kısmı boyunca filozofların aklını kurcalamıştır. Ancak ölçülebilir ve ampirik olarak test edilebilir bilimsel bilinç teorileri ancak son birkaç on yılda ortaya çıktı.
Pek çok modern bilinç teorisi, bilincin doğduğu beyindeki ince hücresel ağların bıraktığı izlere odaklanır. Günümüzde bunlardan ikisi hakimdir: entegre bilgi teorisi ve nöral küresel çalışma alanı teorisi.
Yirmi beş yıl önce Avustralyalı filozof David Chalmers'la tartıştık. Teknik olarak bilincin sinirsel bağıntıları olarak adlandırılan bu sinirsel izlerin Haziran 2023'e kadar keşfedilmesi ve açıkça tanımlanması durumunda ona bir kasa iyi şarap sözü verdim.
Ancak entegre bilgi teorisi ile nöral küresel çalışma alanı teorisi arasındaki çelişki hala çözülmedi. Bunun nedeni, beynin hangi alanlarının görsel deneyimden sorumlu olduğuna dair kısmen karışık kanıtlardan kaynaklanmaktadır. Yüzlerin veya nesnelerin subjektif algısı, her ne kadar prefrontal korteksin bilinçli deneyim için önemi yalanlandı. Ben de iddiayı kaybettim ve şarabı Chalmers'a gönderdim.
Her iki baskın teori de insanlarda ve maymunlar ve fareler gibi ilgili hayvanlarda bilinç ve sinirsel aktivite arasındaki bağlantıyı açıklamak için oluşturuldu. Ve her iki teori de öznel deneyim hakkında temelde farklı varsayımlarda bulunuyor ve yapay eserlerdeki bilinç hakkında zıt sonuçlara varıyor. Kökenleri bilinçle ilişkili olarak bu teorilerin ampirik olarak onaylanma veya çürütülme derecesi beyin, zamanımızın çözülmemiş sorusunu yanıtlamak için önemli çıkarımlara sahiptir: makineler kazanabilir mi? bilinç?
Yeni nesil chatbotlar nelerdir?
Bunu tartışmadan önce, sizi bağlam içine alayım ve bilinçli bir tekniği, yalnızca akıllı davranış sergileyen bir teknikle karşılaştırayım. Bilgisayar mühendisleri, makinelere bir zamanlar izin verilen son derece esnek zekayı kazandırmak için çabalıyorlar. kişi Afrika'yı terk edin ve tüm gezegeni doldurun. Buna yapay genel zeka (AGI) adı veriliyor.
Birçoğu YGZ'nin uzak bir ihtimal olduğunu savunuyor. Yapay zeka alanında son bir yılda kaydedilen inanılmaz ilerleme, uzmanlar dahil tüm dünyayı şaşkına çevirdi. Ezoterik bir konudan halk dilinde chatbotlar olarak adlandırılan anlamlı konuşma yazılım uygulamalarının ortaya çıkışıyla, Bilimkurgu hayranları ve Silikon Vadisi'ndeki BT endüstrisi elitleri tarafından tartışılan AGI hakkındaki tartışmalar, bir tartışmaya dönüştü. Bu, yaşam tarzımızın ve yaşamımızın varoluşsal riskine ilişkin yaygın toplumsal hoşnutsuzluğu yansıtıyor. tür.
Chatbot'lar devasa dil modellerine dayanmaktadır. Bunlardan en ünlüsü, üretken önceden eğitilmiş transformatörler veya GPT'ler adı verilen bir dizi bottur. OpenAI tarafından San Francisco'da yaratıldılar. En son sürüm olan GPT-4'ün esnekliği, okuryazarlığı ve yeterliliği göz önüne alındığında, onun zeka ve kişiliğe sahip olduğuna inanmak kolaydır. "Halüsinasyonlar" olarak bilinen garip aksaklıkları bile bu teoriye uyuyor.
GPT-4 ve onun LaMDA ve Google'ın Bard'ı gibi rakipleri, dijitalleştirilmiş kitaplardan oluşan kütüphaneler ve halka açık milyarlarca web sayfası konusunda eğitilmektedir. Dil modelinin dehası, denetlenmeden öğrenmesi, kelime kelime işlemesi ve eksik ifadeyi tahmin etmeye çalışmasıdır. Bunu dışarıdan müdahale olmaksızın milyarlarca kez tekrar tekrar yapıyor.
Model, insanlığın dijitalleştirilmiş kayıtlarını alarak bilgi edindiğinde, kullanıcı alışılmadık bir cümleyi (bir veya daha fazla) görüntüler. Model, en muhtemel ilk kelimeyi, ardından bir sonraki kelimeyi vb. tahmin eder. Bu basit prensip İngilizce, Almanca, Çince, Hintçe, Korece ve çeşitli programlama dilleri de dahil olmak üzere diğer dillerde inanılmaz sonuçlar vermiştir.
Akıl ve bilinç arasındaki fark nedir
Yapay zeka üzerine ufuk açıcı makale olan “Computing and Intelligence”ın, tarafından yazılması anlamlıdır. Alan Turing 1950 yılında "Makineler düşünebilir mi?" sorusundan, yani onların sahip olup olmadığı sorusundan kaçındı. bilinç. Turing "taklit oyunu"nu önerdi: Her ikisinin de kimlikleri gizliyse, bir gözlemci, bir insan tarafından basılan çıktıyı bir makine tarafından basılan çıktıdan objektif olarak ayırt edebilir mi?
Bugün bu, Turing testi olarak biliniyor ve chatbotlar bu konuda çok iyiler, ancak onlara doğrudan sorarsanız akıllıca inkar ediyorlar. Turing'in stratejisi, GPT'nin yaratılmasına yol açan onlarca yıllık amansız ilerlemeyi başlattı, ancak sorunu görmezden geldi.
Chatbot tartışmasında örtülü olan varsayım, yapay zekanın yapay bilinçle aynı olduğu, akıllı olmanın bilinçli olmakla aynı olduğu varsayımıdır. İnsanlarda ve diğer gelişmiş organizmalarda zeka ve bilinç birbiriyle bağlantılı olmasına rağmen her zaman birbirlerine eşlik etmeyebilirler.
Zeka, geleceği daha doğru bir şekilde tahmin etmek ve ona daha iyi hazırlanmak için düşünmek ve hareket etmeyi öğrenmek ve kendisinin ve başkalarının eylemlerinden yola çıkmakla ilgilidir. Bunun önümüzdeki birkaç saniye ("Ah, o araba bana doğru hızla geliyor") ya da önümüzdeki birkaç yıl ("Kodlamayı öğrenmem gerekiyor") anlamına gelip gelmediği önemli değil. İstihbarat sonuçta eylemle ilgilidir.
Öte yandan bilinç, mavi gökyüzünü görmek, kuşların şarkısını duymak, acıyı hissetmek, varoluş durumlarıyla ilişkilidir. aşıklar. Kontrolden çıkmış bir yapay zekanın bir şeyleri algılayıp algılamamasının zerre kadar önemi yok. Önemli olan tek şey, insanlığın uzun vadeli refahıyla ilgisi olmayan bir amacının olmasıdır. Ve insanların öz-farkındalık dediği, ne yapmaya çalıştığını bilip bilmemesinin bir önemi yok. Hedefine “akılsızca” ulaşacaktır. Yani, en azından kavramsal olarak, bir YGZ kursak bile, bize bir şey hissedip hissetmediği konusunda pek bir şey söylemeyecektir.
Bütün bunları bilerek teknolojinin nasıl bilinçlenebileceği asıl sorusuna dönelim. İki teoriden ilkiyle başlayalım.
Bütünleşik bilgi teorisi nasıl bir açıklama sunuyor?
Akla gelebilecek her öznel deneyimin beş aksiyomatik özelliğini ifade ederek başlıyor. Daha sonra, bir sinir devresinin bu beş özelliği (bazı nöronları açıp bazılarını kapatarak) uygulamak için neye ihtiyacı olduğu sorusunu sorar. Veya başka bir deyişle, bir bilgisayar çipinin bazı transistörleri açıp bazılarını kapatmak için neye ihtiyacı var?
Belirli bir durumdaki bir devre içindeki sebep-sonuç etkileşimleri veya iki aktif nöron Koşullara bağlı olarak başka bir nöronu açıp kapatabilir, çok boyutlu bir nedensel yapıya yerleştirilebilir. Deneyimin kalitesiyle aynıdır; nasıl deneyimlendiği, örneğin zaman ve mekanın nasıl deneyimlendiği veya renklerin nasıl algılandığı gibi.
Deneyimin aynı zamanda kendisiyle ilişkilendirilen bir niceliği de vardır: onun bütünleşik bilgisi. Yalnızca maksimum sıfırdan farklı entegre bilgiye sahip bir devre bir bütün olarak var olur ve bilince sahiptir. Ne kadar çok bilgi entegre edilirse, devre o kadar fazla azaltılamaz ve bağımsız alt devrelerin basit bir üst üste binmesi olarak kabul edilmesi o kadar az olur.
Bütünleşik bilgi teorisi insan deneyiminin zengin doğasını vurgular. Sadece etrafınıza bakın ve sayısız farklılıkları ve bağlantıları ile göz kamaştırıcı görünen dünya karşınıza çıkacak. Ya da 16. yüzyıldan kalma Flaman ressam Yaşlı Pieter Bruegel'in dini konuları ve köylü yaşamından sahneleri tasvir eden bir tablosuna bakın.
İnsan beyniyle aynı iç bağlantılara ve nedensel güçlere sahip olan herhangi bir sistem, prensipte insan zihni kadar bilinçli olacaktır. Ancak böyle bir sistem modellenemez. Beynin görüntüsüne göre tasarlanmalı veya inşa edilmelidir. Modern dijital bilgisayarlar son derece gevşek bağlantıya (bir transistörün çıkışının birkaç transistörün girişine bağlanması) dayanmaktadır. merkezi sinir sistemiyle karşılaştırma (kortikal sütun nöronu, on binlerce kişiye girdi verilerini alır ve çıktı verileri üretir) nöronlar).
Böylece bulut bilgisayarlar da dahil olmak üzere modern bilgisayarlar hiçbir şeyin farkında olmayacak, ancak zamanla insanların yapabildiği her şeyi yapabilecek hale gelecekler. Bu açıdan bakıldığında ChatGPT hiçbir zaman özel hissetmeyecektir. Bu ifadenin, nöronlar veya transistörler olsun, bileşenlerin toplam sayısıyla hiçbir ilgisi olmadığını, daha ziyade bunların nasıl bağlandığını unutmayın. Devrenin genel karmaşıklığını ve olası konfigürasyonlarının sayısını belirleyen, birbirine bağlılıktır.
Nöral küresel çalışma alanı teorisi nasıl bir açıklama sunuyor?
Psikolojik anlayıştan geliyor istihbarat oyuncuların küçük, ışıklı bir sahnede, yani bilinçte performans sergiledikleri bir tiyatro gibi. Oyuncuların hareketleri, sahnenin arkasında karanlıkta oturan işlemcilerden oluşan bir seyirci tarafından izleniyor.
Sahne, tek bir algıyı, düşünceyi veya hafızayı temsil etmek için küçük bir hafıza kapasitesine sahip olan zihnin merkezi çalışma alanıdır. Çeşitli işleme modülleri (görme, işitme, göz ve uzuv motor becerileri, planlama, muhakeme, dil anlama ve konuşma) bu merkezi çalışma alanına erişim için rekabet eder. Kazanan, bilinçsiz hale gelen eski içeriğin yerini alır.
Nöral küresel çalışma alanı teorisine göre metaforik sahne, işleme modülleriyle birlikte neokorteksin mimarisine haritalanır. Çalışma alanı, beynin ön kısmında yer alan ve uzun menzilli projeksiyonlara sahip kortikal nöronlardan oluşan bir ağdır. benzer nöronlar neokorteks boyunca prefrontal, parietotemporal ve singulat bölgelerde dağılmıştır. ilişki korteksi.
Duyusal korteksteki aktivite belirli bir eşiği aştığında kortikal alanlarda küresel bir olay tetiklenir ve bunun sonucunda bilgi tüm çalışma alanına iletilir. Bilginin küresel yayılımı onu bilinçli hale getirir. Gözlerin kesin konumu veya anlaşılır cümleler kurmaya yönelik sözdizimsel kurallar gibi bu şekilde aktarılmayan veriler davranışı etkileyebilir, ancak bilinçli olarak değil.
Nöral küresel çalışma alanı teorisi açısından bakıldığında, düşünce ve deneyime benzer şekilde deneyim çok sınırlıdır. özet - bir müzede bir Bruegel tablosunun altında bulunabilecek yetersiz açıklamaya benzer: “Sahne içeride. Rönesans kıyafetleri giyen köylüler bir düğünde içip yemek yerler."
Bilinci bütünleşik bilgi teorisi perspektifinden anlayan sanatçı, kendisini çevreleyen dünyanın fenomenolojisini iki boyutlu bir tuval üzerinde zekice aktarıyor. Nöral küresel çalışma alanı teorisinin anlayışında bu görünürdeki zenginlik bir yanılsamadır, bir hayalettir. Ve bu konuda objektif olarak söylenebilecek her şey kısa açıklamada belirtilmiştir.
Nöral küresel çalışma alanı teorisi, bilgisayar çağımızın her şeyin hesaplamalara indirgenebileceği mitlerini tamamen hesaba katıyor. Beynin uygun şekilde programlanmış bilgisayar simülasyonları, muazzam geri bildirimler ve merkezi bir çalışma alanı gibi bir şeyle dünyayı bilinçli olarak algılayacaktır. Belki şimdi değil ama çok yakında.
Teoriler arasındaki uzlaşmaz fark nedir?
Genel anlamda tartışma şu şekildedir. Sinirsel küresel çalışma alanı teorisine ve diğer hesaplamalı işlevselcilik teorilerine göre (bunlar bilinci bir hesaplama biçimi olarak görür), bilinç bir makinede çalışan bir dizi akıllı algoritmadan başka bir şey değildir Turing. İşlevler bilinç için önemlidir beyinve onun nedensel özellikleri değil. GPT'nin gelişmiş bir sürümü insanlarla aynı girdi ve çıktı modellerini kabul edip üretirse, o zaman tüm doğal özelliklerimiz teknolojiye aktarılacaktır. Değerli hazinemiz de dahil - öznel deneyim.
Tersine, bütünleşik bilgi teorisi için bilincin kalbi hesaplama değil, içsel nedensel güçtür. Bu eterik veya soyut bir şey değil. Sistemin geçmişinin bugününü belirleme derecesine (sebebin gücü) ve şimdinin geleceğini belirleme derecesine (sonucun gücü) göre spesifik ve işlevsel olarak belirlenir. Sorun da şu: Sebep-sonuç ilişkisinin kendisi, bir sistemi belirli bir eylemi gerçekleştirmeye zorlama yeteneği ve pek çok alternatif eylem modellenemez. Şimdi değil, gelecekte değil. Bu sistemin içine yerleştirilmelidir.
Kütleyi uzay-zamanın eğriliğiyle ilişkilendiren, Einstein'ın genel görelilik teorisinin alan denklemlerini modelleyen bir bilgisayar kodunu düşünün. Yazılım süper kütleli kütleyi doğru bir şekilde modelliyor Kara delikgalaksimizin merkezinde yer alır. Bu delik, çevresine o kadar güçlü bir çekim etkisi uygular ki hiçbir şey, hatta ışık bile onun çekiminden kaçamaz.
Ancak kara delik simüle eden bir astrofizikçi, simüle edilen yerçekimi alanı tarafından bir dizüstü bilgisayarın içine çekilmeyecektir. Görünüşte saçma olan bu gözlem, model ile gerçeklik arasındaki farkı vurguluyor: Eğer model tamamen Gerçeğe karşılık geldiğinde, dizüstü bilgisayarın etrafında uzay ve zaman bozularak her şeyi emen bir kara delik oluşturulmalıdır. etrafında.
Elbette yerçekimi bir hesaplama değildir. Uzay-zamanın dokusunu deforme etmesine ve kütlesi olan her şeyi çekmesine olanak tanıyan nedensel bir güce sahiptir. Bir kara deliğin nedensel kuvvetlerini simüle etmek, yalnızca bilgisayar kodunu değil, gerçek bir süper ağır nesneyi gerektirir. Nedensel güç modellenemez, yaratılmalıdır. Gerçeklik ile model arasındaki fark nedensel güçlerinde yatmaktadır.
Bu nedenle yağmur fırtınasını simüle eden bir bilgisayarın içine yağmur yağmaz. Yazılım işlevsel olarak hava durumuyla aynıdır ancak buharı serbest bırakıp onu su damlacıklarına dönüştürecek nedensel güce sahip değildir. Nedensel güç, yani kişinin kendi başına değişim yaratma veya kabul etme yeteneği sistemin içine yerleştirilmelidir. Mümkün.
Nöromorfik veya biyonik olarak adlandırılan bir bilgisayar, bir insan kadar bilinçli olabilir. Ancak tüm modern bilgisayarların temelini oluşturan standart von Neumann mimarisinde durum böyle değil. Laboratuvarlarda Intel'in ikinci nesil Loihi 2 nöromorfik çipi gibi küçük nöromorfik bilgisayar prototipleri oluşturuldu. Ancak insan bilincine ya da en azından meyve sineğinin bilincine benzeyen bir şey üretecek kadar gelişmiş bir makine, uzak gelecek için hâlâ iddialı bir hayal.
İşlevselci ve nedensel teoriler arasındaki bu uzlaşmaz farkın ne doğal ne de yapay zekayla hiçbir ilgisi olmadığını unutmayın. Daha önce de söylediğim gibi zeka davranıştır. Octavia Butler'ın Ekici Hikayesi gibi harika romanlar dahil, insan yaratıcılığının üretebileceği her şey ve Leo Tolstoy'un Savaş ve Barış'ı, yeterince materyal verildiği takdirde algoritmik zekayı yeniden üretebilir. eğitim. YGZ'nin ortaya çıkışı çok da uzak olmayan bir gelecekte ulaşılabilir bir hedeftir.
Tartışma yapay zekayla ilgili değil, yapay bilinçle ilgili. Ve bu tartışma daha büyük dil modelleri ya da daha gelişmiş sinir ağı algoritmaları yaratılarak çözülemez. Bu soruyu yanıtlamak için, kesinlikle emin olduğumuz tek öznelliği anlamalıyız: kendi öznelliğimizi. İnsan hakkında net bir açıklama elde ettiğimizde bilinç ve onun sinirsel temellerini inceleyerek, anlayışımızı akıllı teknolojilere yönelik tutarlı, bilime dayalı bir şekilde genişletebileceğiz.
Bu tartışmanın chatbotların toplum tarafından nasıl algılanacağıyla pek alakası yok. Dil becerileri, bilgi birikimi ve sosyal cazibeleri yakında kusursuz hale gelecektir. Onlara mükemmel bir hafıza, yeterlilik, denge, muhakeme ve zeka bahşedilecek. Hatta bazıları bu büyük teknoloji yaratımlarının evrimin bir sonraki adımı, Nietzsche'nin "süpermen"i olacağını iddia ediyor. Ben daha karanlık bir bakış açısına sahibim ve bu tür insanların türümüzün gerilemesini şafak vakti sandığına inanıyorum.
Giderek atomize olan bir toplumdaki pek çok insan ve belki de çoğu insan için, doğadan kopmuş ve Sosyal ağlar etrafında örgütlenen teknolojilere direnmek duygusal açıdan zor olacak. telefonlar. Sıradan ve daha ciddi farklı durumlarda, insanlar sanki chatbotların bilinci varmış gibi davranacaklardır. aşık olmak, acı çekmek, umut etmek ve korkmak, karmaşık arama tablolarından başka bir şey olmasalar bile. Bizim için vazgeçilmez hale gelecekler, hatta belki de gerçekten zeki varlıklardan daha önemli hale gelecekler. Her ne kadar sohbet robotları bir TV ya da ekmek kızartma makinesi kadar duyarlı olsa da hiçbir şey ifade etmez.
Konuyla ilgili başka ne okunmalı?🤖
- Yapay zekaya körü körüne güvenmemeniz için 6 neden
- Yeni teknolojilerin işimizi elimizden almasından neden korkmamalıyız?
- Teknolojik tekillik: Teknolojinin yakında kontrolümüzden çıkacağı doğru mu?
- Yapay zeka hakkında programcıların bile inandığı 8 efsane