Las empresas deben ajustar la supervisión a la forma en que usan la IA, según Josefin Rosén, especialista en IA fiable y ética de SAS Institute. Afirma que un exceso de revisión puede ralentizar el trabajo, mientras que una supervisión insuficiente puede dejar pasar errores graves.
Rosén recomienda llevar un registro de cada uso de la IA, incluidos su propósito, coste, responsable y seguimiento. Aprobar un modelo una vez no determina cómo debe utilizarse en toda la organización. Un modelo de lenguaje que resume reuniones internas puede requerir controles más sencillos que uno que responde a una solicitud de oferta. Esa respuesta debe revisarse conforme a los requisitos y compromisos de la empresa.
También pide un seguimiento continuo, responsabilidades claras para actuar ante errores y que los requisitos sobre almacenamiento y tratamiento de datos se tengan en cuenta al diseñar los sistemas. Una revisión antes del lanzamiento puede no bastar si cambia el uso o varían los resultados del modelo. La explicabilidad puede ayudar al personal a decidir cuándo se puede utilizar una respuesta y cuándo requiere una revisión más detenida, pero no sustituye el criterio humano.
Rosén citó el informe de SAS Data and AI Impact Report: The New Economics of Trust, basado en datos de una encuesta de IDC. El estudio abarca a 2.699 responsables de la toma de decisiones en 28 países y cuatro sectores: banca, seguros, ciencias de la vida y sector público. El Trustworthiness Index del informe combina cinco áreas: calidad y gobernanza de datos, gobernanza y supervisión de modelos, explicabilidad e imparcialidad, políticas de IA responsable, y auditoría y rendición de cuentas. Las organizaciones con las puntuaciones más altas declararon con mayor frecuencia rendimientos fuertes o altos de sus inversiones en IA que las que obtuvieron las puntuaciones más bajas. Los resultados muestran una asociación; no demuestran que la gobernanza por sí sola causara mayores rendimientos.
Comentarios
0Aún no hay comentarios. Escribe el primero.