Yapay zeka şirketi Anthropic, daha önce halka açılmasının ciddi riskler doğurabilecek kadar güçlü olduğunu açıkladığı yapay zeka modelinin yeni sürümünü genel erişime sunduğunu duyurdu.
“Claude Fable 5” adı verilen modelin, teknoloji, finans ve kamu kurumlarında kaygılara yol açan “Claude Mythos” sisteminin altyapısını temel aldığı belirtildi.
BBC’nin aktardığına göre Anthropic’in yeni modeli, şirketin nisan ayında yalnızca sınırlı bir çevre için ön izleme ve test süreçlerine açtığı “Claude Mythos” modelinin geliştirilmiş sürümü olarak piyasaya sunuldu.
Şirket, yeni sistemin şimdiye kadar kamuya açılan yapay zeka modellerinden çok daha gelişmiş bir kapasiteye sahip olduğunu belirtirken, uzmanlar arasında modelin potansiyel risklerine ilişkin tartışmalar da büyüyor.
“Claude Fable 5” genel erişime açıldı
Anthropic tarafından salı günü yapılan açıklamada, “Claude Fable 5” modelinin belirli güvenlik önlemleri ve kullanıcı sınırlamalarıyla birlikte kullanıma sunulduğu bildirildi.
Şirket, buna rağmen bu ölçekte gelişmiş bir yapay zeka modelinin piyasaya sürülmesinin “kaçınılmaz riskler” taşıdığını kabul etti.
Açıklamada, Fable 5’in bugüne kadar şirket tarafından kamu kullanımına açılmış tüm sistemlerin ötesinde bir kapasiteye sahip olduğu ifade edildi.
Anthropic, daha önce yalnızca sınırlı test kullanıcılarına sunulan “Claude Mythos” modelinin bilgisayar ağlarındaki açıkları tespit etme, siber sızma yöntemlerini analiz etme ve hackleme süreçlerinde olağanüstü seviyede beceri gösterdiğini açıklamıştı.
Bu durum, özellikle kritik dijital altyapılar ve finansal sistem güvenliği açısından ciddi tartışmaları beraberinde getirmişti.
Uzmanlar arasında görüş ayrılığı
Yeni modelin kamuya açılması teknoloji çevrelerinde farklı değerlendirmelere neden oldu.
Bazı uzmanlar, modelin sahip olduğu ileri düzey kabiliyetlerin özellikle finans sistemleri ve dijital altyapılar için güvenlik tehdidi oluşturabilecek seviyeye ulaştığını belirtiyor.
Diğer bazı uzmanlar ise kamuoyunda oluşan kaygının bir bölümünün şirketin pazarlama stratejisinin parçası olup olmadığını tartışmaya açıyor.
Anthropic’in özellikle son dönemde yüksek değerleme üzerinden halka arz hazırlığı yaptığına işaret edilirken, yapay zeka alanındaki rekabetin şirketleri daha güçlü sistemleri hızla piyasaya sürmeye yönelttiği belirtiliyor.
“Ne ile karşılaşacağımızı bilmiyoruz”
“Claude Mythos” modeline ilişkin tartışmalar yalnızca teknoloji sektöründe değil, hükümet çevrelerinde de yankı bulmuştu.
Kanada Maliye Bakanı François-Philippe Champagne, nisan ayında BBC’ye yaptığı açıklamada Mythos modeline yönelik küresel kaygıların haklı olduğunu söylemişti.
Champagne, “Bizi korkutan şey, neyle karşılaşacağımızı hiç bilmediğimiz bir bilinmeyen olması” ifadelerini kullanmıştı.
Anthropic’in özel piyasalardaki değerinin 1 trilyon dolara yaklaştığı ve şirketin yakın dönemde halka arz edilmesinin beklendiği aktarılıyor. Bu durumun yatırımcılara daha gelişmiş ve daha kapsamlı yapay zeka yetenekleri sunma yönündeki baskıyı artırdığı değerlendiriliyor.
150 kuruluşa tam erişim verildi
Anthropic tarafından salı günü yayımlanan yeni bildiride, daha önce kapalı test süreçlerine katılan yaklaşık 150 kuruluşa “Claude Mythos 5” sürümünün tam yetkili versiyonunun açıldığı duyuruldu.
Şirket, tam sürümde kullanıcıların ihtiyaçlarına göre siber güvenlik ve biyoloji alanlarında herhangi bir yapay sınırlamayla karşılaşmayacağını açıkladı.
Ön izleme döneminde Mythos modelini kullanan şirketlerin, kendi dijital altyapılarında 10 binden fazla kritik güvenlik açığını tespit ederek Anthropic’e raporladığı belirtildi.
Yetkililer, kısıtlamasız sürüme erişimin şimdilik yalnızca sınırlı sayıdaki siber savunma uzmanı ve kritik altyapı sağlayıcılarıyla paylaşıldığını ancak bu çevrenin ilerleyen dönemde genişletileceğini duyurdu.
