Araştırmada Meta'nın Llama31-70B-Instruct modeli, Alibaba'nın da Qwen2.5-72B-Instruct modeli kullanıldı.
Fudan Üniversitesi'nden araştırmacılar, hakem onayından geçmeyi bekleyen makalelerin yer aldığı ArXiv sitesinde yayınladıkları makalede, "İnsan yardımı olmadan başarılı bir şekilde kendi kendini çoğaltma, yapay zekanın insanları alt etmesi için gerekli bir adımdır ve aynı zamanda 'haydut' yapay zekalar için erken bir sinyaldir," ifadelerini kullandı.
DENEMELERİN 9'UNDA BAŞARI
Çalışmada Meta ve Alibaba'nın büyük dil modelleri üzerinde kopyalama deneyleri yapıldı. Meta'nın modeli, 10 denemenin 5'inde kendisinin ayrı ve işlevsel bir kopyasını oluşturabildi. Alibaba modelinde ise denemelerin 9'unda bunun başarıldığı görüldü.
Livescience'ın aktardığına göre, araştırmada Meta'nın Llama31-70B-Instruct modeli, Alibaba'nın da Qwen2.5-72B-Instruct modeli kullanıldı.
Makalede, "Bulgularımızın, insan toplumunun yapay zeka sistemlerinin potansiyel risklerini anlamak ve değerlendirmek için daha fazla çaba sarf etmesi amacıyla uyarı görevi görmesini umuyoruz," ifadelerine yer verildi.
"HAYATTA KALMA OLASILIĞINI DAHA DA ARTIRMAK İÇİN KULLANILABİLECEK"
"Bulgularımız, mevcut yapay zeka sistemlerinin halihazırda kendini kopyalama yeteneğine sahip olduğunu ve bu yeteneği hayatta kalma olasılığını daha da artırmak için kullanabileceğini gösteriyor."
Öte yandan makale henüz hakemli bir bilimsel dergide yayınlanmadı. Araştırma makalelerinin deneylerde yer almayan bağımsız uzmanlar tarafından tekrarlanıp doğrulanmasına "hakem onayı" adı veriliyor.
Sonuçların kesinleşmesi için söz konusu makalenin de hakem onayına ihtiyacı var.
Öte yandan araştırma ekibi, yapay zekanın kontrolsüz bir şekilde kendini kopyalamasını önleyecek kurallar oluşturmak için uluslararası iş birliğine gidilmesi çağrısında bulunuyor.