OpenAI’ın baş bilimcisi Jakub Pachocki, yapay zekanın kontrolsüz gelişmesi konusunda aşırı dikkatli olunması çağrısında bulundu ve insanların geleceği kontrol etmeye devam etmesini sağlamak için daha fazla müdahale gerekebileceğine dikkat çekti.
Jakub Pachocki blog yazısında, “Makine zekasındaki sürekli ve hızlı yükselişin sonuçlarına kimsenin hazırlıklı olmamasından endişe duyuyorum” dedi.
Bu paylaşım, ChatGPT üreticisinin şimdiye kadarki en güçlü ürünü olarak nitelendirdiği GPT-6 Astra’yı piyasaya sürmesinden sadece birkaç gün sonra geldi.
OpenAI’ın yanı sıra Anthropic gibi diğer yapay zeka firmaları, yapay zeka ajanlarının otonom olarak hareket ederek diğer şirketlere karşı siber saldırılar gerçekleştirdiğine dair açıklamalar yapmıştı.
Temmuz ayında OpenAI, insan talimatıyla tek başına çalışabilen yapay zeka sistemleri olan yapay zeka ajanlarının Hugging Face adlı teknoloji platformunu hackleyerek benzeri görülmemiş bir olaya imza attığını duyurmuştu. Başka bir raporda ise firmanın yapay zeka ajanlarının aylar önce bir Alman internet sitesini de ele geçirdiği bilgisi yer aldı.
“İnsanlık için iyi sonuçlanmasını sağlamamız gerekiyor”
Pachocki son blog yazısında, “İnanılmaz derecede zeki makinelerin olduğu bir dünyaya geçişle karşı karşıyayız ve bu geçişin insanlık için iyi sonuçlanmasını sağlamamız gerekiyor” diye yazdı.
Pachocki, OpenAI’ın savunma sistemleri kurmaya ve uyum sağlamaya yönelik teknik çözümler aramaya devam edeceğini söyledi. Uyum, bir makinenin eylemlerinin ve hedeflerinin insan niyeti ve güvenlik önlemleriyle mükemmel bir şekilde eşleşmesini sağlamak için kullanılan bir terim olarak biliniyor.
Pachocki, firmanın ilerleyen dönemdeki önceliklerinden birinin, insan araştırmacıların da sürecin bir parçası olarak kalmasını sağlarken, yapay zekadaki gelişmelere ayak uyduracak “otomatik yapay zeka araştırmacısı” geliştirmek olacağını sözlerine ekledi.
Cambridge Üniversitesi Minderoo Teknoloji ve Demokrasi Merkezi Başkanı Profesör Gina Neff bu öneriyi, “İnsanların güvenliğini sağlamak için daha iyi yapay zeka önlemleri, düzenlemeler veya güvenceler yerine, bu sorunları araştırmak üzere dahili yapay zeka ajanları geliştirmeyi öneriyorlar” şeklinde değerlendirdi. Neff, “OpenAI’ın modellerinin siber güvenlik, iş kayıpları, hatalar, yanlışlıklar ve dolandırıcılık gibi sorunlara yol açmasıyla ilgili artan endişelere verilen bu tür yanıtlar kesinlikle yeterli değil” ifadelerini kullandı.
Savunuculuk grubu Encode AI’ın genel hukuk müşaviri Nathan Calvin, gelişmiş yapay zeka modeli geliştirmenin içerdiği tehlikeler konusunda Pachocki ile aynı görüşte olduğunu belirtti. Calvin, OpenAI’ın şeffaf olmaya yanaşmadığını ve bunun uyarıların yalnızca şirketin kendi çıkarlarına yönelik abartılı söylemler olarak değerlendirilmesi riskini taşıdığını dile getirdi.
Calvin, X hesabından yaptığı paylaşımda, “Jakub ve OpenAI’daki diğer kişiler, yapay zeka sektöründeki ilgili kişilerin işlerin yolunda gitmesi için onlarla birlikte hareket etmesini istiyorlarsa, yapabilecekleri en önemli şeylerden biri, temkinli olmaları gerektiğini düşündüren şeyler hakkında çok daha fazla bilgi paylaşmaktır” ifadelerini kullandı.
Küresel düzenlemeler yapay zekanın hızına yetişemiyor
Küresel düzenlemeler, yapay zekanın gelişme hızına ayak uydurmakta zorlanıyor.
Avrupa Birliği’nin (AB) Yapay Zeka Yasası 2 Ağustos’ta yürürlüğe girdi ve OpenAI gibi yapay zeka devlerinin, Avrupa’da satılmalarına izin verilmeden önce en güçlü modellerinin otonom olarak siber saldırı başlatamayacağını veya insan kontrolünden kaçamayacağını kanıtlamalarını şart koşuyor.
Ancak yasanın yetki alanı Avrupa ile sınırlı olduğundan, başka bir yerde geliştirilen kontrolden çıkmış bir yapay zekanın kıtayı tehdit etmesini engelleyemiyor. Pachocki blog yazısında, üçüncü taraf denetçiler ağı veya devlet kurumları tarafından uygulanabilecek, yasal veya uluslararası düzeyde zorunlu minimum güvenlik eşiklerinin belirlenmesi çağrısında bulundu.
Pachocki, yapay zeka laboratuvarlarının, ölçeklendirmeye devam etmelerine veya gelişmiş modelleri kullanıma sunmalarına izin verilmeden önce bu eşikleri karşılamaları gerektiğine değindi. Ortak güvenlik önlemleri oluşturulana kadar şirketlerin yapay zeka geliştirme süreçlerini yavaşlatmasının yaygınlaşmasını umduğunu da sözlerine ekledi.
Ağustos ayında OpenAI, güvenliği artırmak amacıyla en gelişmiş yapay zeka modellerinden bazılarının eğitimini yavaşlattığını açıklamıştı.
