Una periodista de The Verge afirma que Amazon Bee Frontier distorsionó conversaciones y recuerdos

Victoria Song, redactora sénior de reseñas de The Verge, afirma que su experiencia con Amazon Bee Frontier, un dispositivo ponible con IA que graba continuamente, la llevó a cuestionar las transcripciones y los resúmenes de sus conversaciones. Song escribió sobre el dispositivo en el boletín Optimizer de The Verge.

Bee escucha conversaciones y utiliza IA para transcribirlas y resumirlas. También ofrece funciones que sugieren tareas, señalan aspectos que se pueden mejorar y analizan conversaciones, además de un chatbot que responde preguntas sobre lo que se dijo. Song afirma que, en 19 meses, el dispositivo mejoró al distinguir su voz de los diálogos de televisión y empezó a usar información del calendario y la aplicación de fotos. Añade que a veces le ayudó a recordar puntos de conversaciones relacionados con el trabajo.

Sin embargo, Song describe errores repetidos, como atribuirle afirmaciones que dice no haber hecho e interpretar bromas como hechos. También cuenta que Bee confundió los apodos de sus dos gatos con gatos distintos. Más grave aún, después de una sesión de terapia, el dispositivo generó un hecho sobre la violencia doméstica que sufrió en la infancia y tituló un resumen «Reclaiming Reality from Manipulative Power». Song escribe que le resultó horrible ver el suceso resumido de forma tan tajante.

Song dice que la experiencia la ha hecho sentirse «constantemente manipulada», porque las interpretaciones de Bee pueden diferir de sus propios recuerdos. En el artículo, cuenta que su terapeuta le pidió que tirara el dispositivo por la ventana después de la tercera semana hablando de él. También señala que tuvo que pedir permiso a su terapeuta para llevarlo puesto durante una sesión.