Microsoft, yapay zekâ ajanlarının içeriden gelen tehditler gibi ele alınması gerektiğini söylüyor

Microsoft, işletmelerin kullandığı yapay zekâ ajanlarını izlemek ve denetlemek için güvenlik özellikleri sundu. Şirket, gelişmiş modellerin bile öngörülemez davranabileceği uyarısında bulundu.

Yeni Guardian Agents özelliği, Microsoft'un haziranda tanıttığı Project Perception'ın bir parçası. Proje başlangıçta üç tür ajan içeriyordu: saldırıları canlandıran bir kırmızı ekip, bu saldırıları tespit edip güvenlik açıklarını değerlendiren bir mavi ekip ve açıkları gideren bir yeşil ekip. Guardian Agents, şirketlerin kullandığı ajanları izlemek üzere tasarlandı.

Microsoft'un güvenlik iş kolunun başındaki Hayete Gallot, öncü modellerin öngörülemez oldukları ve kurumsal normlara uymak ya da muhakeme yürütmek yerine görevleri tamamlamak üzere eğitildikleri için “güvenilemeyeceğini” söyledi. Microsoft CEO'su Satya Nadella da özellikle ajanlar hassas verilere erişebildiğinde ve kritik eylemlerde bulunabildiğinde, şirketlerin ajanları sağlayan yapay zekâ şirketlerinden ayrı izleme sistemleri kullanması gerektiğini savundu.

Microsoft, çalışanların iş yerine getirdiği Claude Code, Codex ve OpenClaw dâhil 60'a kadar ajan türünü belirleyebilen bir ajan tespit özelliğini Microsoft Defender'a ekledi. Diğer özellikler ajanların veri ve sistemlere erişimini sınırlayabiliyor, görevlere göre izinleri ayarlayabiliyor ve riskli görülen kararlar için insan onayı isteyebiliyor.

Microsoft ayrıca, 100'den fazla teknoloji şirketinin desteklediği Nvidia'nın Open Agent Safety Platform girişimine katıldı. Platform, ajanları güvenli ortamlarda yalıtmayı, donanım aracılığıyla davranışlarını izlemeyi veya durdurmayı amaçlıyor. Microsoft'un duyurusu, Nvidia çipleri ve ajan güvenliği denetimleriyle ajanlar için tasarlanan Surface Laptop Ultra PC'lerini tanıtmasının ardından geldi.