Amodei'nin uyarısı uzak bir geleceği de kapsamıyor. Önümüzdeki 6 ila 12 aya işaret eden Anthropic CEO'su, bu dönemde birden fazla yapay zekâ ajanının birlikte çalışabildiği ve bugünkünden çok daha karmaşık görevleri yerine getirebildiği sistemlerin ortaya çıkabileceğini öngörüyor.
Yapay zekâ yarışında yavaşlama çağrısı
Amodei, yapay zekâ çalışmalarının tamamen durdurulmasını istemiyor. AP'nin aktardığına göre sektörün bir süre hız kesmesini, böylece güvenlik çalışmalarına daha fazla zaman ayrılmasını savunuyor.
Bu sürede yeni modellerin piyasaya çıkmadan önce daha kapsamlı testlerden geçirilmesi ve olası risklerin önceden belirlenmesi amaçlanıyor. Şirketlerin kendi denetimlerinin yanı sıra bağımsız uzmanların da sürece katılması gündemde.
Fakat burada başka bir sorun ortaya çıkıyor: rekabet. Teknoloji şirketleri daha güçlü modelleri rakiplerinden önce geliştirmek için yarışıyor. Bu nedenle herhangi bir şirketin tek başına yavaşlama kararı alması kolay görünmüyor.
Anthropic'ten bir uyarı daha
Sektördeki gidişattan kaygı duyan tek isim Amodei değil. AP'nin konuya ilişkin bir başka haberine göre daha önce OpenAI'da da çalışan Anthropic araştırmacısı Jacob Coxon, yapay zekânın geliştiği yön konusunda duyduğu endişeleri dile getirerek şirketten ayrıldı.
Coxon özellikle şirketler arasındaki rekabete dikkat çekti. Daha gelişmiş modelleri rakiplerinden önce çıkarma çabasının güvenlik çalışmalarını geri plana itebileceğini savundu.
Bu kaygıların temelinde yapay zekânın son birkaç yılda geçirdiği hızlı değişim var. İlk dönemlerde daha çok soru yanıtlayan ve metin üreten modeller, bugün çok daha karmaşık işleri yapabiliyor. Kod yazıyor, dijital araçları kullanıyor ve bazı görevleri daha az insan müdahalesiyle yerine getirebiliyor.
Altman ve Musk da tartışmaya katıldı
Anthropic'ten gelen uyarılar teknoloji dünyasında geniş yankı buldu. OpenAI CEO'su Sam Altman ile xAI'ın kurucusu Elon Musk da gelişmiş yapay zekânın doğurabileceği riskler ve bu teknolojinin nasıl kontrol altında tutulacağı konusunda benzer kaygıları gündeme taşıdı.
Yapay zekâ alanında birbirleriyle rekabet eden isimlerin güvenlik konusunda aynı tartışmada buluşması, sektörün önündeki sorunu da ortaya koyuyor. Şirketler bir yandan daha güçlü modeller geliştirmeye çalışırken diğer yandan bu teknolojinin kontrolden çıkmasını önleyecek yöntemler üzerinde çalışıyor.
Tartışmanın bundan sonra yalnızca teknoloji şirketleri arasında kalması beklenmiyor. Modeller daha fazla işi kendi başına yapabilir hale geldikçe hükümetlerin nasıl kurallar getireceği ve şirketlerin nasıl denetleneceği de daha fazla gündeme gelecek.
