Yapay zekâ egemenliği riskleri yönetim ve görünürlüğü öne çıkarıyor

Hükümet kararları, düzenlemeler ve sağlayıcı politikaları değiştikçe şirketler yapay zekâ araçlarına erişimlerini çok az uyarıyla kaybedebilir. TechRadar Pro Perspectives yazarı Jon Abbott'a göre Anthropic'le yaşanan haziran ayındaki anlaşmazlık, bunun ne kadar hızlı olabileceğini gösteriyor.

Anthropic haziranda bugüne kadarki en yetenekli yapay zekâ modellerinden ikisini yayımladı. Birkaç gün içinde ABD hükümeti, ulusal güvenlik kaygılarını gerekçe göstererek şirketten ülke dışındaki tüm kullanıcıların erişimini kesmesini istedi. Anthropic, kullanıcıların nereden giriş yaptığını güvenilir biçimde doğrulayamadığı için ABD'deki müşterileri de dahil herkese erişimi kapatarak iki modeli de geri çekti. İki buçuk hafta sonra kısıtlamalar kaldırıldı ve erişim geri geldi. Modellerden biri hâlâ ABD'de onaylanmış az sayıda kuruluşla sınırlı.

Abbott, şirketlerin bir sonraki kesintiyi tahmin etmeye çalışmak yerine yapay zekâ erişimi, işlevleri ve yönetim gerekliliklerindeki değişikliklere hazırlanması gerektiğini söylüyor. Yapay zekânın nerelerde kullanıldığını, hangi ekip ve süreçlerin hangi araca bağlı olduğunu belirlemeyi ve bir acil durum planı hazırlamayı öneriyor. Şirketlerin ayrıca her aracın hangi verilere erişebildiğini ve kimlerin kullanabildiğini bilmesi gerekiyor.

Yazıya göre yapay zekâ yetenekleri az sayıda sağlayıcıda yoğunlaşırken, ileri düzey yapay zekâya yönelik ihracat kontrolleri hâlâ şekilleniyor. Yazı ayrıca Anthropic ile ABD hükümetinin gelecekteki risklerin bildirilmesi ve incelenmesi konusunda yaptığı anlaşmayı aktarıyor. Abbott, şirketlerin yapay zekâ kullanımlarını görünür kılmaları ve sınanmış iş sürekliliği planları bulundurmaları gerektiğini; model güvenliğine yönelik bağımsız denetimin de güçlendirilmesini savunuyor.