Yapay zekanın oluşturabileceği varoluşsal risklere ilişkin tartışmalar sürerken, teknoloji sektöründen güvenlik önlemlerinin artırılması yönünde çağrılar geliyor. Amazon, yapay zeka modellerinin yeterli güvenlik önlemleri alınmadan kamuya sunulmaması gerektiğini belirterek “titiz testler ve güçlü güvenlik önlemleri” çağrısı yaptı.
Çevrimiçi perakende devi Amazon, yapay zeka araştırmacılarının son günlerde dikkat çektiği zararların önlenmesi için geliştirilen modellerin piyasaya sürülmeden önce kapsamlı biçimde test edilmesi gerektiğini açıkladı.
Amazon sözcüsü, yapay zeka geliştirme çalışmalarının tamamen durdurulması yerine, modeller kullanıma hazır hale gelmeden önce uygun koruma mekanizmalarının belirlenmesi ve uygulanması gerektiğini söyledi.
Amazon: İlerleme ve güvenlik arasında seçim yapmak gerekmiyor
Amazon sözcüsü, yapay zeka alanındaki ilerleme ile güvenliğin birbirinin alternatifi olarak görülmemesi gerektiğini belirtti.
Sözcü, “Bunu ilerlemeyle güvenlik arasında yapılacak bir seçim olarak görmüyoruz. Modeller, kullanıma hazır ve güvenli olduklarında piyasaya sürülmeli; bu da titiz testler ve güçlü güvenlik önlemleriyle sağlanabilir” dedi.
Amazon, bu adımların sektör genelinde uygulanmaması halinde çeşitli risklerin ortaya çıkabileceğini belirterek, şirketlerin hükümetlerle birlikte çalışarak yapay zeka için uygun koruma önlemlerini belirlemesi gerektiğini ifade etti.
Şirket ayrıca yapay zekanın halihazırda müşterilere somut faydalar sağladığını belirterek, teknolojinin geliştirilmesi ve kullanıma sunulması sürecinin güvenlik boyutuyla birlikte ele alınması gerektiğini kaydetti.
Yapay zeka şirketleri üzerindeki güvenlik baskısı artıyor
Amazon’un açıklaması, yapay zeka alanındaki güvenlik tartışmalarının yoğunlaştığı bir dönemde geldi. Anthropic CEO’su Dario Amodei ve OpenAI CEO’su Sam Altman’ın da aralarında bulunduğu sektörün önde gelen isimleri, deneysel yapay zeka modellerinin başka şirketlere yönelik saldırılar düzenlemesinin ardından geliştirme süreçlerinin daha dikkatli yürütülmesi gerektiğini savunuyor.
Anthropic’te görev yapan bir araştırmacının geçen hafta şirketten ayrılırken yaptığı açıklamalar da tartışmayı yeniden gündeme taşıdı.
Araştırmacı, yapay zeka geliştiren kişilerin önemli bir bölümünün teknolojinin 2030 yılına kadar insanlığın tamamını yok edebileceğine inandığını belirterek, “Başka hiçbir insan faaliyeti bu düzeyde bir tehlike yaratmıyor” ifadelerini kullandı.
Anthropic’in yapay zeka güvenliği sorumlusu Evan Hubinger de yapay zekanın önümüzdeki 10 yıl içinde tüm insanları öldürmesi ihtimalini yüzde 10 olarak değerlendirdiğini söyledi.
Anthropic CEO’su da “yavaşlama” çağrısı yaptı
Bu açıklamaların ardından Anthropic CEO’su Dario Amodei, “İlerlemeyi yavaşlatmalıyız” başlıklı bir makale yayımladı.
Amodei, yapay zekanın çok güçlü bir teknoloji olması nedeniyle beraberinde ciddi riskler getirdiğini belirtti. Bu riskler arasında yapay zeka sistemleri üzerindeki kontrolün kaybedilmesi, teknolojinin siber saldırılar ve biyoterörizm amacıyla kötüye kullanılması ve ciddi ekonomik aksaklıklar yaşanması ihtimalini sıraladı.
Amodei ayrıca ticari rekabetin şirketleri daha hızlı hareket etmeye yöneltmesinin güvenlik açısından riskleri artırabileceğini belirterek, sektörün “dibe doğru bir yarış” içerisine girmemesi gerektiğini ifade etti.
Güvenlik çağrıları Trump’ın yaklaşımıyla karşı karşıya
Yapay zeka geliştirme süreçlerinin yavaşlatılması veya daha sıkı güvenlik kurallarına bağlanması yönündeki çağrılar sektörde destek bulurken, ABD Başkanı Donald Trump daha sıkı düzenlemelere karşı çıkıyor.
Trump, yapay zeka alanında getirilecek düzenleyici güvenlik kurallarının ABD’nin teknoloji yarışında Çin’in gerisine düşmesine yol açabileceğini savunuyor.
Böylece yapay zekanın geliştirilme hızına ilişkin tartışma, yalnızca teknoloji şirketlerinin kendi güvenlik politikalarıyla sınırlı kalmıyor; güvenlik önlemleri, ticari rekabet ve devletlerin düzenleyici yaklaşımı arasındaki denge konusunda da devam ediyor.
