OpenAI, insanlığı tehdit edebilecek yapay zekanın keşfi konusunda uyardı

Önceki gün sürgün OpenAI CEO'su Sam Altman, şirketin personel araştırmacılarından birkaçının yönetim kuruluna yazdığı mektupta şunları söyledi: "tehdit edebileceğini" söyledikleri güçlü yapay zekanın keşfine ilişkin mektup uyarısı insanlığa." Bu konuda kendi kaynaklarımıza referansla yazıyor Reuters.

Yönetim kurulunun uzun şikayet listesinde Altman'ın görevden alınmasına yol açan faktörlerden biri olarak gösterilen bu mektuptu. Reuters yazarlarla şahsen konuşamadı veya OpenAI'den yorum alamadı. Ancak böyle bir talebin ardından şirket, çalışanlarına gönderdiği dahili mesajda Q* (Q-Star olarak telaffuz edilir) adlı belirli bir projenin varlığını duyurdu.

Bazı OpenAI çalışanları Q*'nun sözde alanda bir atılım olabileceğine inanıyor genel yapay zeka (AGI). OpenAI, onu ekonomik açıdan en değerli görevlerde insanlardan daha iyi performans gösteren özerk bir sistem olarak nitelendiriyor.

Bir kaynağa göre Q* şu ana kadar yalnızca başlangıç ​​düzeyindeki matematik problemlerini çözebiliyor. ancak bu tür testlerin başarıyla tamamlanması araştırmacılara okulların geleceği konusunda büyük bir iyimserlik veriyor. gelişim.

Bu tür yapay zekalar arasındaki temel fark, hedefler belirleyebilmesi, karmaşık sorunları küçüklere ayırabilmesi, geniş bir yelpazedeki sorunlar üzerinde çalışabilmesi ve farklı alanlardaki bağlamı dikkate alarak çözümler bulabilmesidir. Basitçe söylemek gerekirse, bu tür bir zeka, teoride, yüksek nitelikli bir uzmanın yerini bilgi, beceri ve kapsamlı deneyimle değiştirebilir.

Araştırmacılar matematiğin üretken yapay zekanın en ileri noktası olduğuna inanıyor. Günümüzde yazma ve tercüme etme konusunda oldukça başarılı, bir sonraki kelimeyi istatistiksel olarak tahmin edebiliyor ve aynı sorunun yanıtları büyük ölçüde farklılık gösterebiliyor. Ancak matematiğin (sadece tek bir doğru cevabın olduğu) fethedilmesi, yapay zekanın insan zekasına benzeyen daha geniş muhakeme yeteneklerine sahip olacağı anlamına geliyor. Uzmanlar bunun örneğin yeni bilimsel araştırmalara uygulanabileceğini söylüyor.

Araştırmacılar, yönetim kuruluna yazdıkları mektupta yapay zekanın gücüne ve potansiyel tehlikelerine dikkat çekti. Ayrıca, varlığı çok sayıda kaynak tarafından doğrulanan özel bir "yapay zeka bilim adamları" grubunun çalışmalarına da dikkat çektiler. Kaynaklardan biri, ekibin, akıl yürütmelerini geliştirmek ve sonuçta onlarla bilimsel çalışma gerçekleştirmek için mevcut yapay zeka modellerini nasıl optimize edecekleri üzerinde çalıştığını söyledi.

Altman, ChatGPT'yi dünyanın en hızlı büyüyen yazılım uygulamalarından biri haline getirme çabasına öncülük etti. geçmişi ve bunu sağlamak için Microsoft'tan gerekli yatırım ve bilgi işlem kaynaklarını çekti AGI. Ve görevden alınmasından kısa bir süre önce, San Francisco'daki dünya liderleri zirvesinde, bazı "ciddi başarıların hemen yaklaştığını" duyurdu.

Bir gün sonra kurul Altman'ı kovdu.

Belki bir gün tüm bu kararlar ve olaylar bir kitabın, bir filmin, hatta bir tarih ders kitabının temelini oluşturacaktır.