Yapay Zeka Kendi Kendini Geliştirecek mi Anthropic Uyarısı ve Durdurma Çağrıları
Anthropic’in “When AI builds itself” raporu, yapay zekanın kendi kodlarını yazarak evrimleşebileceği eşiğe yaklaştığını gösteriyor. Bu durum, dünya genelinde durdurma çağrılarını artırırken, sektör yatırımları da hızla yükseliyor.
Yapay zeka teknolojilerinin kendi kodlarını yazarak insan müdahalesi olmadan evrimleşebileceği bir eşiğe yaklaşması, dünya genelinde önlem alınması yönünde çağrıları artırdı. ABD merkezli yapay zeka şirketi Anthropic, yayımladığı “When AI builds itself” (Yapay zeka kendini ürettiğinde) başlıklı raporunda, bu konudaki endişeleri dile getirerek mevcut gelişmeleri gözler önüne serdi.
Anthropic’in paylaştığı verilere göre, yapay zeka modellerinin kendi haleflerini insan yardımı olmadan tasarlayıp eğitebildiği teorik eşik beklenenden daha yakın. Şirket, otonom yazılım döngülerinin kurulduğunu ve yapay zekanın kendi kodlarını oluşturma sürecinde önemli bir ilerleme kaydedildiğini belirtti. Claude yazılım sisteminde üretilen kodların yüzde 80’inden fazlasının doğrudan modelin kendisi tarafından yazıldığı, bu oranın 2025 yılı başında tek haneli rakamlarda olduğu vurgulandı.
Yapay Zekanın 5 Aşamalı Gelişim Yolculuğu
Şirket, yapay zekadaki gelişimi beş aşamaya ayırıyor. İlk aşamada yapay zeka ile çalışmak sıradan bir işleyişe benziyor. 2023-2025 dönemini kapsayan ikinci aşamada çalışanlar üretken yapay zekalardan kod yazma konusunda destek alıyor. 2025-2026 dönemini içeren üçüncü aşamada, ajan yapay zekalar kendi kendine kod yazabilir hale geliyor.
Bugün gelinen noktada, yapay zeka ajanları kodları kendi başına çalıştırabiliyor ve görevleri diğer yapay zekalara devredebilme yeteneği kazanıyor. Anthropic’in beşinci ve son aşama olarak öngördüğü durumda ise yapay zeka ajanları kendi başlarına yeni modeller oluşturup eğitebilecek yetkinliğe ulaşacak. Bu gerçekleştiğinde, yapay zekanın gelecekteki sürümleri bizzat kendisi tarafından sürekli olarak geliştirilebilecek.
Anthropic’in uyarıları, dünya genelinde yapay zekanın durdurulması yönündeki çağrılara yenilerini ekledi. Mart 2023’te Future of Life Institute (FLI) tarafından yayımlanan ve Elon Musk gibi tanınmış isimlerin de imzaladığı bir mektup, GPT-4’ten daha güçlü yapay zeka sistemlerinin eğitiminin en az altı ay süreyle durdurulması çağrısı yaptı.
Mektupta, insan zekasıyla rekabet eden yapay zeka sistemlerinin toplum, ekonomi ve demokrasi için ciddi riskler taşıdığı belirtildi. Dezenformasyon dalgaları, kitlesel iş kayıpları ve medeniyet kontrolünün kaybedilmesi gibi distopik senaryolara dikkat çekildi. Benzer bir çağrı, Mayıs ayında Papa 14. Leo’dan geldi. Papa, yapay zekanın sadece teknik olarak durdurulmasını değil, aynı zamanda askeri, ekonomik ve bilişsel rekabetten arındırılarak silahsızlandırılmasını talep etti.
Yapay zekayı durdurma çağrıları artarken, küresel yapay zeka pazarı hızla büyüyor. Sektöre yapılan yatırımlar, sistemlerin durdurulmasını engelleyen önemli bir faktör olarak görülüyor. Gartner’ın Mayıs 2026 tarihli raporuna göre, küresel yapay zeka harcamalarının 2026’da 2,59 trilyon dolara ulaşması bekleniyor. Bu rakam, 2025’teki 1,76 trilyon dolarlık harcamaya kıyasla yüzde 47’lik bir yıllık büyümeye işaret ediyor. Yapay zeka harcamalarının 2027’de 3,49 trilyon dolara yükselmesi öngörülüyor.
Yorum Yap