Silikon Vadisi tekillikle yüzleşiyor

Leila

Global Mod
Global Mod
Katılım
8 Eki 2020
Mesajlar
4,370
Puanları
36
Silikon Vadisi onlarca yıldır yeni bir teknolojinin ortaya çıkıp her şeyi değiştireceği anı bekliyordu. İnsanla makineyi muhtemelen iyi yönde ama muhtemelen kötü yönde birleştirir ve hikayeyi ikiye bölerdi. Önce Ve sonrasında.

Bu kilometre taşının adı: tekillik.

Farklı şekillerde olabilir. Bir olasılık, insanların bir bilgisayarın işlem gücünü kendi doğuştan gelen zekalarına ekleyerek kendilerinin süper güçlü versiyonları haline gelmeleridir. Ya da belki bilgisayarlar küresel bir beyin yaratarak gerçekten düşünebilecekleri kadar karmaşık hale gelebilirdi.

Her iki durumda da, ortaya çıkan değişiklikler sert, üstel ve geri döndürülemez olacaktır. Kendini tanıyan bir insanüstü makine, kendi iyileştirmelerini herhangi bir grup bilim adamından daha hızlı geliştirebilir ve böylece bir zeka patlaması başlatabilir. Yüzyıllar süren ilerleme yıllar hatta aylar içinde gerçekleşebilir. Tekillik geleceğe atılan bir sapandır.

Yapay zeka, yakın geçmişte hiç olmadığı kadar teknolojiyi, ticareti ve siyaseti sarsıyor. Silikon Vadisi’nden gelen abartılı iddiaları ve vahşi iddiaları duyun ve uzun zamandır vaat edilen sanal cennet nihayet yakın gibi görünüyor.


Google’ın normalde suskun olan CEO’su Sundar Pichai, yapay zekayı “ateşten, elektrikten veya geçmişte yaptığımız her şeyden daha derin” olarak nitelendiriyor. Milyarder bir yatırımcı olan Reid Hoffman şöyle diyor: “Dünyada olumlu değişim yaratma yeteneği, şimdiye kadarki en büyük artışı elde etmek üzere.” Ve Microsoft’un kurucu ortağı Bill Gates, yapay zekanın “insanların çalışma şeklini değiştireceğini, öğrenin, seyahat edin, tıbbi bakım alın ve birbirinizle iletişim kurun.”

AI, Silikon Vadisi’ndeki nihai yeni ürün lansmanıdır: talep üzerine aşkınlık.

Ama karanlık bir dönüş var. Sanki teknoloji şirketleri, siz Walmart’a ulaşmadan önce patlayabilecekleri uyarısıyla sürücüsüz arabaları piyasaya sürdüler.

Twitter ve Tesla’yı yöneten Elon Musk geçen ay CNBC’ye verdiği demeçte, “Yapay genel zekanın ortaya çıkışına tekillik deniyor çünkü bundan sonra ne olacağını tahmin etmek çok zor.” “Bolluk çağının” ortaya çıkmasını beklediğini, ancak bunun “insanlığı yok etmesi” için “biraz şans” olduğunu söyledi.

Yapay zekanın teknoloji camiasındaki en büyük savunucusu, ChatGPT sohbet botu ile mevcut heyecana neden olan OpenAI’nin CEO’su Sam Altman’dır. Yapay zekanın “ekonomik güçlenme için en büyük güç olacağını” söylüyor. Birçok insan zengin oluyor bunu daha önce gördük.”

Ancak aynı zamanda beyin-bilgisayar arayüzleri geliştiren bir şirket kuran yapay zeka eleştirmeni Bay Musk’ın haklı olabileceğini de söylüyor.


Kıyamet, Silikon Vadisi için tanıdık ve hatta sevilen bir alandır. Birkaç yıl önce, her teknoloji yöneticisinin uzak ama erişilebilir bir yerde tamamen dolu bir kıyamet sığınağı varmış gibi görünüyordu. 2016 yılında Bay Altman, “silahlar, altın, potasyum iyodür, antibiyotikler, piller, su, İsrail Savunma Kuvvetleri gaz maskeleri ve Big Sur’da uçabileceğim büyük bir arazi parçası” biriktirdiğini söyledi. Koronavirüs pandemisi, teknoloji hazırlayıcılarını bir süreliğine onaylanmış hissettirdi.

Şimdi tekilliğe hazırlanıyorlar.

Yapay zeka üzerine eleştirel bir çalışma olan The Intelligence Illusion’ın yazarı Baldur Bjarnason, “Akıllı yorumlar yapan aklı başında insanlar olduklarını düşünmeyi seviyorlar, ancak daha çok 1000 yılında kendinden geçme hakkında konuşan keşişler gibi konuşuyorlar” dedi. “Biraz korkutucu” dedi.

Aşkınlığın kökleri


Tekilliğin entelektüel kökleri, 1950’lerde “teknolojinin hızlanan ilerlemesinin” “ırk tarihinde büyük bir tekillik” yaratacağını söyleyen bir bilgisayar bilimi öncüsü olan John von Neumann’a kadar uzanır.


İkinci Dünya Savaşı sırasında Bletchley Park’ta Alman Enigma cihazının deşifre edilmesine yardımcı olan İngiliz matematikçi Irving John Good da etkili bir savunucuydu. 1964’te “İnsanın hayatta kalması, ultra zeki bir makinenin erken inşasına bağlıdır” diye yazmıştı. 2001: A Space Odyssey’de yönetmen Stanley Kubrick, Bay Good’a o zamanlar zararsız olan HAL hakkında tavsiyelerde bulundu. bilgisayar bilimi ve bilim kurgu arasındaki gözenekli sınırlar.

Carnegie Mellon Üniversitesi Robotik Enstitüsü’nde doçent olan Hans Moravec, yapay zekanın yalnızca yaşayanlar için bir nimet olmayacağına, ölülerin de tekillikte geri alınacağına inanıyordu. Mind Children: The Future of Robot and Human Intelligence’da “Geçmişi yeniden yaratma ve onunla gerçek ve doğrudan bir şekilde etkileşim kurma fırsatımız olurdu” diye yazmıştı.

Son yıllarda girişimci ve mucit Ray Kurzweil, tekilliğin en büyük savunucusu olmuştur. Bay Kurzweil, The Age of Intelligent Machines’i 1990’da ve The Singularity Is Near’ı 2005’te yazdı ve şimdi The Singularity Is Nearer’ı yazıyor.

On yılın sonunda, bilgisayarların Turing testini geçmesini ve insanlardan ayırt edilemez hale gelmesini bekliyor. On beş yıl sonra, gerçek aşkınlığın geleceğini hesaplıyor: “Hesaplamanın bizim bir parçamız olacağı ve zekamızı milyonlarca kat artıracağımız” an.


O zamana kadar, Bay Kurzweil 97 yaşında olacak. Vitaminler ve besin takviyeleri yardımıyla bunu deneyimlemek istiyor.


Tekilliğin bazı eleştirmenleri için, organize dinin inanç sistemini yazılım alanında kopyalamak entelektüel olarak şüpheli bir girişimdir.

Massachusetts Institute of Technology’de Bilgisayar Bilimi ve Yapay Zeka Laboratuvarı eski yöneticisi Rodney Brooks, “Hepsi, Tanrı’ya inanmanın zorluğu olmadan sonsuz yaşam istiyor” dedi.

Günümüzün tekillik tartışmasını yönlendiren yenilik, büyük dil modeli, sohbet botlarına güç veren bir tür yapay zeka sistemidir. Bu LLM’lerden herhangi biriyle bir konuşma başlatın ve yanıtları hızlı, kesin ve genellikle makul bir aydınlanma düzeyiyle geri verebilirler.


Bir soru sorduğunuzda, bu modeller bunun ne anlama geldiğini yorumlar, cevabınızın ne anlama gelmesi gerektiğini belirler ve sonra bunu tekrar kelimelere çevirir – eğer bu genel zekanın tanımı değilse, o zaman nedir? uzun süredir yapay zeka girişimcisi ve Yapay Zeka: Herkesin Bilmesi Gerekenler kitabının yazarı.

Bay Kaplan, sürücüsüz arabalar ve kripto para birimi gibi lanse edilen mucizelere şüpheyle baktığını söyledi. Son AI patlamasına aynı şüphelerle yaklaştı, ancak ikna olduğunu söyledi.

“Eğer bu ‘tekillik’ değilse, o zaman kesinlikle bir tekilliktir: geniş bir sanat, bilim ve insan bilgisi yelpazesini hızlandıracak ve bazı problemler yaratacak dönüştürücü bir teknolojik hareket” dedi.

Eleştirmenler, LLM’lerin etkileyici sonuçlarının bile, tekilliğin uzun süredir vaat ettiği engin, küresel zekadan çok uzak olduğunu söyleyerek karşı çıkıyor. Aldatmacayı gerçeklikten doğru bir şekilde ayırmadaki sorunun bir kısmı, bu teknolojiye güç veren motorların giderek daha fazla gizli kalmasıdır. Açık kaynak kodlu kar amacı gütmeyen bir kuruluş olarak başlayan OpenAI, şimdi eleştirmenlerin etkili bir şekilde kara kutu olduğunu söylediği kar amacı gütmeyen bir şirket. Google ve Microsoft ayrıca sınırlı görünürlük sunar.

AI araştırmalarının çoğu, sonuçlardan çokça yararlanabilen şirketler tarafından yapılır. OpenAI’ye 13 milyar dolar yatırım yapan Microsoft’tan araştırmacılar, Nisan ayında bir makale yayınladılar ve en son OpenAI modelinin geçici bir sürümünün “soyutlama, Anlama, vizyon, kodlama” ve “İnsan güdülerini anlama” dahil olmak üzere “zekanın birçok özelliğini sergilediğini” sonucuna vardılar. ve duygular.”


Stanford’da bilgisayar bilimleri alanında yüksek lisans öğrencisi olan Rylan Schaeffer, bazı yapay zeka araştırmacılarının bu büyük dil modellerinin nasıl “acil yetenekler” sergilediklerine dair yanlış bir tablo çizdiklerini söyledi – daha küçük sürümlerde belirgin olmayan açıklanamayan yetenekler.

Stanford’daki iki meslektaşı Brando Miranda ve Sanmi Koyejo ile birlikte Bay Schaeffer, geçen ay yayınlanan bir araştırma makalesinde soruyu inceledi ve gelişmekte olan gayrimenkulün ölçüm hatasından kaynaklanan “bir serap” olduğu sonucuna vardı. Aslında, araştırmacılar görmek istediklerini görürler.

Ebedi Hayat, Ebedi Kazançlar


Washington, Londra ve Brüksel’de milletvekilleri yapay zekanın sunduğu fırsatlara ve sorunlara uyanıyor ve düzenleme hakkında konuşmaya başlıyor. Bay Altman, ilk eleştirileri saptırmak ve OpenAI’yi tekilliğin çobanı olarak tanıtmak için bir yol gösterisinde.

Buna düzenlemelere açık olmak da dahildir, ancak tam olarak neye benzeyeceği belirsizdir. Silikon Vadisi genellikle hükümetin hızlı teknolojik gelişmeleri izlemek için çok yavaş ve çok aptal olduğuna inanır.

Google’ın eski CEO’su Eric Schmidt, “Devlette bunu doğru anlayacak kimse yok” dedi. isminde Geçen ay Meet the Press ile yaptığı bir röportajda, yapay zekanın kendi kendini düzenlemesini savundu. “Ancak endüstri bunu bir dereceye kadar yönetebilir.”


Tekillik gibi, AI zaten geri döndürülemez olarak tanımlanıyor. Bay Altman ve bazı meslektaşları geçen ay “Bunu durdurmak, küresel bir gözetleme rejimi gibi bir şey gerektirecek ve bunun bile işe yaramayacağı garanti ediliyor” diye yazmıştı. Silikon Vadisi başaramazsa, başkaları başaracak, diye eklediler.

Daha az tartışılan, dünyayı yükleyerek elde edilebilecek büyük kazançlardır. Yapay zekanın sınırsız zenginlik yaratan bir makine olduğu konusundaki tüm konuşmalara rağmen, zengin olan insanlar aslında zaten zengin olan insanlardır.

Microsoft’un piyasa değeri bu yıl yarım trilyon dolar arttı. AI sistemlerine güç sağlayan bir çip üreticisi olan Nvidia, son zamanlarda bu çiplere olan talebin hızla artmasıyla ABD’nin en değerli kamu şirketlerinden biri haline geldi.

Bay Altman, “AI, dünyanın her zaman istediği teknolojidir” diye tweet attı.

Kesinlikle teknoloji dünyasının her zaman istediği teknoloji ve kesinlikle mümkün olan en iyi zamanda. Geçen yıl, Silikon Vadisi işten çıkarmalar ve yükselen faiz oranlarından zarar gördü. Önceki patlama olan kripto, dolandırıcılık ve hayal kırıklığıydı.

Parayı takip et, dedi Charles Stross, tekilliği komik bir şekilde ele alan The Rapture of the Nerds adlı romanın ortak yazarı ve aynı zamanda hayatın yakında nasıl olabileceğini anlatan daha ciddi bir girişim olan Accelerando’nun yazarı.


“Gerçek vaat, şirketlerin kusurlu, pahalı, yavaş, insan bilgi işleme alt birimlerinin çoğunu yazılım parçalarıyla değiştirebilecek, operasyonları hızlandırabilecek ve genel giderlerini azaltabilecek” dedi.

Tekillik uzun zamandır kelimenin tam anlamıyla ezici bir kozmik olay olarak tasavvur ediliyor. Ve belki de hala öyledir.

Ancak, kısmen bugünün Silikon Vadisi’nin kâr saplantısı sayesinde, kendisini öncelikle Amerikan şirketlerini küçültmek için bir araç olarak gösterebilir. Piyasa değerinizi trilyonlarca artırmaya çalışıyorsanız, cennet bekleyebilir.
 
Üst