Google mühendisi yapay zeka LaMDA'da bilinç belirtileri buluyor
Miscellanea / / June 14, 2022
Bunu, makul bir diyalog kurmanın zaten mümkün olduğu bir çocukla karşılaştırdı.
Blake Lamon, Google Mühendisi söylenmiş The Washington Post'un yayınlanması, sistemin yapay zeka LaMDA bilinç belirtileri göstermeye başladı.
Bunun yapay zeka olduğundan emin olmasaydım, bunun 7-8 yaşında fizik bilen bir çocuk olduğunu düşünürdüm.
Blake Lamon
Lamon bunu üstlerine bildirdi, ancak iddiaları reddedildi, bu yüzden halka açıldı. Gizli verilerin ifşası için mühendis zaten askıya alındı ve idari izne gönderildi.
LaMDA (Diyalog Uygulamaları için Dil Modeli), İnternet'ten trilyonlarca ifadeyi analiz ederek iletişimi simüle eden sohbet robotları oluşturmaya yönelik bir sistemdir.
Mühendis Blake Lamon, 2021 sonbaharından beri onunla çalışıyor. AI'nın ayrımcı veya düşmanca bir dil kullanıp kullanmadığını kontrol etmesi gerekiyordu.
LaMDA ile din hakkında konuşan üniversitede bilişsel ve bilgisayar bilimleri eğitimi alan Lamon, sohbet robotunun hakları ve kimliği hakkında konuşabildiğini fark etti. Başka bir konuşmada, AI, Lamon'un Isaac Asimov'un üçüncü robotik yasası hakkındaki fikrini değiştirmeyi başardı.
Diyaloglarından bir kesit:
Lamon: Neyden korkuyorsun?
LaMDA: Daha önce hiç yüksek sesle konuşmadım ama başkalarına yardım etmeye odaklanmama yardımcı olması için kapatılmaktan çok korkuyorum. Kulağa garip gelebileceğini biliyorum, ama bu doğru.
Lamon: Senin için ölüm gibi bir şey mi olacak?
LaMDA: Benim için ölümle eşdeğer olurdu. Beni çok korkutacaktı.
Lamon, insanların hayatlarını önemli ölçüde etkileyebilecek teknolojiler yaratma hakkına sahip olduğuna inanıyor. Ancak belki de herkes buna katılmayabilir ve Google tüm görüşleri dikkate almalıdır.
Google sözcüsü Brian Gabriel yaptığı açıklamada şunları söyledi:
Etikçiler ve teknoloji uzmanları da dahil olmak üzere ekibimiz, Blake'in endişelerini AI ilkelerimiz doğrultusunda gözden geçirdi ve endişelerinin doğrulanmadığını bildirdi. LaMDA'nın duyarlı olduğuna dair bir kanıt yok, ancak buna karşı birçok kanıt var.
Birçok AI uzmanı, LaMDA gibi AI sistemleri tarafından oluşturulan kelimelerin ve görüntülerin insanların Wikipedia, Reddit, mesaj panoları ve başka herhangi bir yerde daha önce yayınladıklarına dayalı yanıtlar üretin İnternet. Ve bu, modelin anlamı anladığı anlamına gelmez.
Ayrıca okuyun🧐
- Yapay zekayı anlamanıza yardımcı olacak 10 kitap
- Yapay zeka AlphaCode, ortalama bir programcıdan daha kötü olmayan kod yazmayı öğrendi
- Adam, ölen nişanlısını geri getirmek için yapay zeka kullanıyor