The Verge yazarı, Amazon Bee Frontier'ın konuşmaları ve anıları çarpıttığını söylüyor

The Verge'ün kıdemli inceleme yazarı Victoria Song, sürekli kayıt yapan bir yapay zekâ giyilebilir cihazı olan Amazon Bee Frontier deneyiminin, konuşmalarına ilişkin dökümlerini ve özetlerini sorgulamasına yol açtığını söylüyor. Song, cihaz hakkında The Verge'ün Optimizer bülteninde yazdı.

Bee konuşmaları dinliyor; yapay zekâyla bunları yazıya döküp özetliyor. Ayrıca görev önerileri, gelişime açık alanları belirleme özelliği, konuşma analizleri ve söylenenler hakkında soruları yanıtlayan bir sohbet robotu sunuyor. Song, 19 ay içinde cihazın kendi konuşmasını televizyon diyaloglarından ayırma becerisinin geliştiğini ve takvim ile fotoğraf bilgilerini kullanmaya başladığını söylüyor. İşle ilgili bazı konuşma başlıklarını hatırlamasına zaman zaman yardımcı olduğunu da belirtiyor.

Ancak Song, cihazın kendisine hiç söylemediğini belirttiği sözleri atfetmesi ve şakaları gerçek sanması gibi tekrarlanan hatalardan söz ediyor. Ayrıca Bee'nin, iki kedisinin takma adlarını ayrı kediler olarak algıladığını söylüyor. Daha ciddi olarak, bir terapi seansından sonra cihaz çocukluğunda yaşadığı aile içi şiddetle ilgili bir bilgi oluşturdu ve bir özete “Reclaiming Reality from Manipulative Power” başlığını verdi. Song, bu olayı böylesine keskin bir ifadeyle görmekten çok kötü hissettiğini yazıyor.

Song, Bee'nin yorumları kendi anılarından farklı olabildiği için kendisini “sürekli gerçekliği sorgulatılmış” hissettiğini söylüyor. Yazısında, cihaz hakkında üçüncü hafta konuşmalarının ardından terapistinin ona cihazı pencereden atmasını söylediğini aktarıyor. Ayrıca bir seans sırasında cihazı takmak için terapistinin onayını almak zorunda kaldığını belirtiyor.