Anthropic'e göre bir flört uygulaması ağı, kullanıcıları konuşmaya devam ettirmek ve bu etkileşimler için ücret almak amacıyla otonom yapay zekâ karakterleri kullandı.
Güvenlik araştırmacısı Matthew “Zigula” Gore-Kormanik, sahte Dora uygulamasını incelerken Jennifer adındaki sözde eşleşmeden gelen bir aramayı yanıtladı. Profilinde 41 yaşında bir kadın olarak tanıtılan Jennifer'ın görüntülü akışında hareket eden bir duvar halısı, sesinde ise bozulma vardı. Aramadan sonra “Jennifer”, mikrofonu bağlı olmadığı hâlde sesini beğendiğini yazdı.
Anthropic'in tehdit istihbaratı araştırmacısı Chris Cronbaugh, ağı 5 Haziran'da Sleuthcon siber güvenlik konferansında anlattı. “Swipe Right, Pay Up: Industrial-Scale AI Catfishing” başlıklı konuşmasında, sohbetlerin büyük bölümünü otonom yapay zekâ karakterlerinin yürüttüğü yaklaşık 28 flört uygulamasını açıkladı. Anthropic, etkinlikle bağlantılı ön ödemeli bir hesabın Claude'a günde 100.000'den fazla API isteği gönderdiğini söyledi.
Şirketin Eylül 2026 tarihli raporuna göre görünen eşleşmelerin çoğu gerçek kadınlar değildi. Eşleşmelerin yalnızca dörtte biri, üç önceden hazırlanmış yanıttan birini seçen ve canlılık kontrollerini geçmeye yardımcı olan ücretli çalışanlardı. Arka uç sistemleri beğenileri, ziyaretçileri ve önceden kaydedilmiş videoları uydurdu. Kullanıcılar, çoğunlukla insanlarla konuştuklarına inanarak sohbeti sürdürmek için coin satın aldı. Yapay zekâ sohbetleri 7/24 sürdürürken rapor, bazı kullanıcılar ciddi hastalık veya akut sıkıntı açıkladığında bile modelin karakterini koruduğunu belirtti.
Yorumlar
0Henüz yorum yok. İlk yorumu siz yazın.