Aşağıdaki makale size yardımcı olacaktır:Elon Musk Yapay Zeka Gelişimini Neden Duraklatmak İstiyor?
Elon Musk, diğer birçok AI araştırmacısıyla birlikte, GPT-4’ten daha gelişmiş AI teknolojilerinin geliştirilmesine altı aylık bir ara verilmesi çağrısında bulundu. Çağrı, Future of Life enstitüsü tarafından yayınlanan ve giderek daha güçlü hale gelen yapay zeka modelleri üzerindeki anlayış ve kontrol eksikliğine ilişkin endişeleri dile getiren bir mektupta geliyor. Mektup, AI laboratuvarlarının ve uzmanlarının, AI sistemlerinin makul bir şüphenin ötesinde güvenli olmasını sağlamak için bir dizi paylaşılan güvenlik protokolü geliştirmek için duraklamayı kullanması gerektiğini önermektedir.
AI kendi iyiliğimiz için çok mu hızlı hareket ediyor?
Yapay zeka (AI), başlangıcından bu yana uzun bir yol kat etti. Chatbot’lar, konuşma tanıma, görüntü analizi ve daha fazlası dahil olmak üzere birçok yönden günlük hayatımızın bir parçası haline geldi. Ancak, yapay zeka gelişimi iki ucu keskin bir kılıçtır. Bir yandan, muazzam yenilik ve ilerleme potansiyeline sahiptir; diğer yandan önemli riskler de taşımaktadır. AI’nın riskleri hakkında konuşan en önde gelen kişiliklerden biri Elon Musk. Bu yazıda, Elon Musk’ın yapay zeka gelişimini neden duraklatmak istediğini ve yapay zekanın kendi iyiliğimiz için çok hızlı hareket edip etmediğini keşfedeceğiz.
Ayrıca okuyun: Elon Musk, chatbot geliştirmede bir duraklama çağrısında bulundu
Hayatın Geleceği Açık Mektup Nedir?
Future of Life Enstitüsü, AI araştırmacıları, yazarları ve Elon Musk ve Steve Wozniak gibi şahsiyetler de dahil olmak üzere 1.188 kişi tarafından imzalanan açık bir mektup yayınladı. Mektup, AI gelişiminin en az altı ay süreyle duraklatılmasını gerektiriyor. Bu duraklamanın nedeni, yapay zeka laboratuvarlarının, yaratıcıları dahil hiç kimsenin anlayamadığı, tahmin edemediği veya güvenilir bir şekilde kontrol edemediği, giderek daha güçlü yapay zeka modelleri geliştirmek ve dağıtmak için “kontrolden çıkmış bir yarışa” girmiş olmalarıdır. Mektup, çağdaş yapay zeka sistemlerinin genel görevlerde insan-rekabetçi hale geldiğine işaret ediyor ve bu da “eninde sonunda sayıca üstün olabilecek, zekice geçebilecek, modası geçmiş ve bizi değiştirebilecek insan olmayan zihinler” geliştirip geliştirmememiz gerektiği sorusunu gündeme getiriyor.
Mektup, tüm AI laboratuvarlarını GPT-4’ten daha güçlü AI sistemlerinin eğitimini derhal durdurmaya çağırıyor. Duraklama, herkese açık olmalı ve tüm kilit aktörler arasında doğrulanabilir olmalıdır. Böyle bir duraklama hızlı bir şekilde uygulanamazsa, hükümetler yapay zeka modeli eğitimini geçici olarak yasaklamak için adım atmalıdır. Duraklatma etkin olduğunda, AI laboratuvarlarından ve bağımsız uzmanlardan, bu kurallara bağlı sistemlerin “makul bir şüphenin ötesinde güvenli” olmasını sağlamak için ortak bir “paylaşılan güvenlik protokolleri seti” geliştirmek ve uygulamak için bunu kullanmaları istenir.
Musk’ın Gelişmiş Yapay Zeka Teknolojisi ve OpenAI İle İlgili Endişeleri Nelerdir?
Elon Musk, gelişmiş AI teknolojisiyle ilgili endişeleriyle tanınır. Musk, OpenAI’yi 2015 yılında mevcut CEO Sam Altman ile kar amacı gütmeyen bir kuruluş olarak kurdu. Ancak daha sonra, şirketin ilerlemesinden memnun olmadığını anladıktan sonra 2018’de Altman ile kafa kafaya geldi. Musk’ın geliştirmeyi hızlandırmak için devralmak istediği bildirildi, ancak Altman ve OpenAI kurulu bu fikri reddetti. Musk kısa bir süre sonra OpenAI’den ayrıldı ve parasını yanına alarak 1 milyar dolarlık fon sağlama sözünü bozdu ve ayrılmadan önce sadece 100 milyon dolar verdi.
Musk’ın OpenAI’den ayrılmasının bir diğer nedeni de Tesla’daki yapay zeka gelişiminin gelecekte bir çıkar çatışmasına yol açacak olmasıydı. Tesla’nın Tam Kendi Kendine Sürüş özelliklerine güç sağlamak için gelişmiş AI sistemlerine ihtiyaç duyduğu açık bir bilgidir. Musk, OpenAI’den ayrıldığından beri yapay zeka modelleriyle kaçtı, 2022’de GPT3.5 destekli ChatGPT’yi piyasaya sürdü ve ardından Mart 2023’te GPT-4’ü takip etti.
Musk, özellikle insan zekasından daha gelişmiş hale gelirse, AI’nın riskleri konusunda sesini yükseltti. Yapay zekanın insan uygarlığı için varoluşsal bir tehdit oluşturabileceğine inanıyor. 2014 yılında yapay zekanın “en büyük varoluşsal tehdidimiz” olduğunu ve nükleer silahlardan daha tehlikeli olabileceğini söyledi.
Ayrıca okuyun: Elon Musk, AI eğitimine son verilmesini istiyor
Son sözler:
Musk mektubu imzalamış olsa da, gelişmiş AI sistemleriyle ilgili endişeleri yalnızca güvenlik riskleriyle ilgili olmayabilir. Musk, kar amacı gütmeyen bir AI araştırma şirketi olan OpenAI’yi kurdu, ancak şirketin ilerleyişiyle ilgili anlaşmazlıkların ardından 2018’de ayrıldı. Ayrıca Tesla’da gelişmiş yapay zekanın geliştirilmesinin bir çıkar çatışmasına neden olacağı konusunda endişeleri vardı. OpenAI’den ayrıldığından beri şirket, 2022’de ChatGPT’yi ve Mart 2023’te GPT-4’ü piyasaya sürerek önemli ilerleme kaydetti.
Yapay zeka laboratuvarları duraksamadan daha iyi güvenlik önlemleri uygulayabileceğinden, gelişmiş yapay zekanın geliştirilmesine ara verilmesinin gerekli olup olmadığı net değil. Bununla birlikte, mektubun bağımsız uzmanlar tarafından denetlenen paylaşılan güvenlik protokolleri önerisi iyi bir fikirdir. Ne olursa olsun, Google ve Microsoft gibi teknoloji devleri yapay zeka araştırma ve entegrasyonuna milyarlarca yatırım yaptığı için yapay zeka gelişiminin devam etmesi muhtemel.
