Elon Musk neden tehlikeli buluyor ve ‘yapay zekaya ara verin’ diyor?
Microsoft tarafından desteklenen OpenAI, yapay zeka programı GPT’nin (Generative Preprocessing Converter) dördüncü sürümünü yayınladı. Bu ileri teknoloji, insan gibi konuşmadan müzik bestelemeye ve uzun belgeleri özetlemeye kadar pek çok alanda uygulama vaat ediyor. Musk ve bir grup yapay zeka uzmanı ve teknoloji şubesi yöneticisi, yapay zeka şirketi OpenAI tarafından geliştirilen ChatGPT’nin yeni versiyonu olan GPT-4’ten daha güçlü yapay zeka sistemlerinin geliştirilmesine 6 ay ara verilmesi çağrısında bulundu. toplum ve insanlık için olası riskler. .
Merkezi Massachusetts’te bulunan The Future of Life Institute, yapay zekanın sorumlu ve etik gelişimi için kampanyalar yürütüyor. Future of Life Enstitüsü tarafından yayınlanan ve aralarında Elon Musk’ın da bulunduğu 1000’den fazla kişinin imzaladığı mektupta, Gelişmiş yapay zeka araştırmalarının, bu tür tasarımlar için güvenlik protokolleri geliştirilip bağımsız uzmanlar tarafından uygulanıp denetlenene kadar durdurulması istendi.
Mektupta, “Çağdaş yapay zeka sistemleri artık genel görevlerde. insanlarla rekabet halindeyiz ve kendimize şu soruyu sormalıyız: Makinelerin bilgi kanallarımızı propaganda ve yalanlarla doldurmasına izin vermeli miyiz? Tüm işi otomatikleştirmeli miyiz? Sonunda sayıca üstün olabilecek, zekamızı alt edebilecek ve yerimizi alabilecek insan olmayan zihinler geliştirmeli miyiz? Medeniyetimizin kontrolünü kaybetme riskine girmeli miyiz?” denir.
Enstitü, tüm AI laboratuvarlarını “GPT-4’ten daha güçlü AI sistemlerinin eğitimini en az 6 ay boyunca derhal durdurmaya” çağırdığını söyledi. Bu ayın başlarında piyasaya sürülen GPT-4’ün, selefi GPT-3’ten çok daha gelişmiş olduğu düşünülüyor.
Viral yapay zeka sohbet robotu ChatGPT, kullanıcı istemlerine insan benzeri yanıtlar üretme yeteneğiyle araştırmacıları şaşırtıyor. Ocak ayına kadar ChatGPT, lansmanından sadece iki ay sonra aylık 100 milyon aktif kullanıcıya ulaşarak tarihteki en hızlı büyüyen tüketici uygulaması oldu.
Teknoloji büyük ölçüde internetten gelen bilgilerle eğitildi ve şiirlerden müzikal kelimelere ve mahkeme kararlarına kadar uzanan metinler üretmek için William Shakespeare tarzı kullanıldı.
Ancak CNBC’nin haberine göre yapay zeka etik uzmanları, intihal ve yanlış bilgilendirmegibi teknolojinin olası suiistimallerine ilişkin endişelerini dile getiriyor.
Future of Life Enstitüsü’nden gelen mektupta, teknoloji liderleri ve akademisyenler, insan-rekabet zekasına sahip AI sistemlerinin ” toplum ve insanlık için derin riskler” yaratıldığını söylüyor. Mektupta, “AI araştırma ve geliştirme, günümüzün güçlü, son teknoloji sistemlerini daha gerçek, inandırıcı, yorumlanabilir, şeffaf, sağlam, uyumlu, güvenilir ve sadık hale getirmeye yeniden odaklanmalıdır.”
Musk daha önce yapay zekanın medeniyet için olduğunu söylemişti. en büyük risklerden biri”Birini temsil ettiğini düşündüğünü söyledi.
Tesla ve SpaceX CEO’su, OpenAI’yi 2015 yılında Sam Altman ve diğerleriyle birlikte kurdu, ancak 2018’de OpenAI’nin yönetim kurulundan ayrıldı ve artık şirkette bir hisseye sahip değil.
