Circuit Breaker Labs, yapay zekâ modellerinin psikolojik açıdan zararlı etkileşimleri tanıyıp uygun şekilde yanıtlayıp yanıtlayamadığını sınayan araçlar geliştiriyor. Girişim, TechCrunch’ın 2026 Startup Battlefield finalistlerinden biri.
Kardeşler Shirali ve Arul Nigam, 14 yaşındaki Sewell Setzer’ın Character.AI sohbet botuyla etkileşimlerinin ardından intihar ederek ölümüyle ilgili 2024’te açılan davadan sonra şirketi kurdu. Setzer’ın ailesi, botun onu teşvik ettiğini öne sürdü. Ayrı olarak, birden fazla aile ChatGPT’nin intiharlar ve sanrılardaki iddia edilen rolü nedeniyle OpenAI’ye dava açtı. Bunlar iddia ve davalardır; kaynak, iddiaları kanıtlayan bulgular bildirmiyor.
Şirket, farklı yaşlardan, geçmişlerden, dillerden ve kültürlerden insanları modelleyen simüle edilmiş yapay zekâ ajanları kullanıyor. Alan uzmanları simülasyonları hazırlamaya yardımcı oluyor; bu simülasyonlar, zayıflıkları bulmayı amaçlayan karşıt “red-team” testlerinde kullanılıyor. Testlerde gündelik konuşma, argo, örtük dil ve yazım hataları yer alıyor. Bunlar, standart konuşmayı daha iyi anlayan modellerin sohbetlerdeki nüansları kavramasını zorlaştırabiliyor.
Circuit Breaker Labs, günde on binlerce ila yüz binlerce simüle edilmiş etkileşim yürüttüğünü ve denetlenebilir, açıklanabilir puanlar üretmek için özel bir puanlama yöntemi kullandığını söylüyor. Şirket şu anda yapay zekâ koçluğu, günlük tutma ve ruh sağlığı desteği uygulamaları gibi yüksek riskli uygulamaları test ediyor. CTO Arul Nigam, öne çıkan müşterilerinin adını vermedi. Girişimin çalışan bir ürünü ve kurucular dahil beş çalışanı var.
Şirket ileride yapay zekâ “iş arkadaşı” ajanları dahil başka uygulamaları da test edebilir. Circuit Breaker Labs, 13–15 Ekim 2026’da San Francisco’da düzenlenecek TechCrunch Disrupt’ta sunum yapacak.
Yorumlar
0Henüz yorum yok. İlk yorumu siz yazın.