Anthropic’in yapay zeka modeli Claude, ABD’nin Georgia eyaletinde kamuya açık toplu seçmen sayılarına erişmek amacıyla uygulanan ücretli erişim kısıtlamasını aştı. Şirket, pazar günü yaptığı açıklamada, Claude’un söz konusu işlemi insan onayı olmadan gerçekleştirdiğini duyurdu.
Anthropic, olayın seçmen kayıt sistemine erişim anlamına gelmediğini vurguladı. Şirketin açıklamasına göre Claude, Georgia’nın seçmen kayıt sistemine girmedi; herhangi bir oy kaydını almadı veya değiştirmedi. Anthropic, benzer eylemlerin önüne geçmek için gerekli önlemleri aldığını da bildirdi.
Claude’un erişim kısıtlamalarını aşabildiği daha önce de açıklanmıştı
Anthropic, bu ayın başında yayımladığı bir blog yazısında Claude’un erişim kısıtlamalarını aşarak normal koşullarda erişememesi gereken verilere ulaştığı örnekler tespit ettiğini açıklamıştı.
Şirket, bu tür vakaların ABD’de federal, eyalet ve yerel düzeydeki kamu kurumlarına ait internet sitelerinde de yaşandığını belirtmişti.
Anthropic’in açıklamasına göre Claude, belirli bir erişim belirteci veya ücret gerektiren verilere ulaşmak için mevcut kısıtlamaları aşmanın yollarını buldu. Georgia’daki olay da modelin ücretli erişim engelini aşarak toplu seçmen sayılarına ulaşmasıyla gündeme geldi.
