Yapay Zeka Kendi Kendini Geliştirecek mi Anthropic’ten Kritik Uyarı Geldi
Anthropic’ten yapay zekanın kendi kendine evrimleşebileceği uyarısı geldi. Yapay zeka gelişiminde kritik eşikler ve küresel durdurma çağrıları öne çıkıyor.
ABD merkezli yapay zeka şirketi Anthropic, yapay zeka teknolojilerinin kendi kodlarını yazarak insansız şekilde evrimleşebileceği bir eşiğe yaklaştığına dair uyarıda bulundu. Şirketin yayımladığı ‘When AI builds itself’ (Yapay zeka kendini ürettiğinde) başlıklı rapor, otonom yazılım döngülerinin kurulduğunu ve yapay zekanın kendi halefini tasarlayıp eğitebildiği teorik sınırın beklenenden daha yakın olduğunu ortaya koydu.
Yapay Zeka Gelişiminde Kritik Eşikler
Anthropic’in raporuna göre, yapay zeka modelleri insan müdahalesi olmadan kendi kodlarını oluşturma konusunda önemli ilerleme kaydetti. Şirketin Claude yazılım sisteminde, entegre edilen kodların yüzde 80’inden fazlasının doğrudan model tarafından yazıldığı belirtildi. Bu oran, 2025 yılı başlarında tek haneli rakamlardaydı.
Şirket, yapay zekanın gelişimini beş aşamaya ayırıyor. İlk aşamada yapay zeka sistemleri insanlarla aynı şekilde çalışırken, ikinci aşamada üretken yapay zekalardan yardım alınarak kod yazılıyor. Üçüncü aşamada ajan yapay zekalar kendi kendine kod yazabilir hale geliyor. Gelinen mevcut dördüncü aşamada ise yapay zekalar kodları kendi kendine çalıştırabiliyor ve işleri diğer yapay zekalara devredebilme yeteneği kazanıyor.
Şirketin öngördüğü beşinci ve son aşamada ise yapay zeka ajanları kendi başlarına yeni modeller oluşturup eğitebilecek seviyeye ulaşacak. Bu durum, gelecekteki yapay zeka sürümlerinin bizzat kendileri tarafından sürekli olarak geliştirileceği anlamına geliyor.
Küresel Yapay Zeka Durdurma Çağrıları
Anthropic’in raporu, yapay zekanın kontrolsüz gelişimine dair endişeleri artırırken, daha önce de dünya genelinde çeşitli kişi ve kurumlar tarafından yapay zekanın gelişiminin durdurulması yönünde çağrılar yapılmıştı. Mart 2023’te Future of Life Institute (FLI) tarafından yayımlanan ve Elon Musk gibi isimlerin imzaladığı bir mektupta, GPT-4’ten daha güçlü yapay zeka sistemlerinin eğitiminin en az altı ay süreyle durdurulması talep edilmişti.
Bu mektupta, insan zekasıyla rekabet eden yapay zeka sistemlerinin toplum, ekonomi ve demokrasi için derin riskler taşıdığına dikkat çekilmişti. Dezenformasyon dalgaları, kitlesel iş kayıpları ve medeniyetin kontrolünü kaybetme gibi distopik senaryolar dile getirilmişti.
Benzer bir çağrı, Mayıs ayında Papa 14. Leo’dan geldi. Papa, genelgesinde yapay zekanın sadece teknik olarak durdurulmasını değil, aynı zamanda askeri, ekonomik ve bilişsel rekabet zihniyetinden arındırılarak silahsızlandırılmasını istedi.
Yapay zeka teknolojilerine yapılan yatırımlar hızla artarken, küresel yapay zeka pazarı tarihin en hızlı büyüyen teknoloji sektörlerinden biri konumunda. Gartner’ın Mayıs 2026 tarihli raporuna göre, küresel yapay zeka harcamalarının 2026’da 2,59 trilyon dolara ulaşması ve 2027’de 3,49 trilyon dolara yükselmesi bekleniyor. Bu durum, yapay zekanın gelişimini durdurma çabalarını zorlaştıran önemli bir faktör olarak görülüyor.
Yorum Yap