Innovación

La confianza será la clave en la colaboración entre humanos e inteligencias artificiales autónomas

Imagen: Capgemini.

La inteligencia artificial está ingresando en una nueva fase evolutiva: la era de la IA agéntica, caracterizada por sistemas capaces de actuar de forma autónoma, tomar decisiones complejas y ejecutar tareas con un nivel mínimo de supervisión humana. Así lo revela el último informe del Capgemini Research Institute, el instituto de investigación de la consultora tecnológica, titulado “Rise of agentic AI: how trust is the key to human-AI collaboration”.

Este tipo de IA, también conocida como “IA con agencia”, representa un cambio de paradigma respecto de las herramientas tradicionales basadas en IA generativa. Según Capgemini, estas nuevas soluciones tienen el potencial de transformar múltiples industrias, incluida la del seguro, pero indica que el éxito de su adopción dependerá en gran medida de la confianza de los usuarios humanos.

“Los agentes de IA ya no son solo asistentes, sino actores autónomos capaces de tomar la iniciativa, aprender y adaptarse de forma continua. Esto plantea enormes oportunidades, pero también nuevos desafíos”, señala el informe.

¿Qué es la IA agéntica?

A diferencia de los sistemas de IA generativa actuales (como los chatbots o los modelos que producen contenido bajo demanda), los agentes de IA agéntica pueden definir objetivos, ejecutar acciones en distintos entornos digitales, aprender de la experiencia e interactuar de manera más sofisticada con los humanos y con otros sistemas autónomos.

Capgemini estima que esta tecnología permitirá un salto cualitativo en eficiencia y personalización, con casos de uso como:

  • Gestión automatizada de procesos complejos, como la tramitación de siniestros o la configuración de pólizas adaptativas.

  • Atención proactiva al cliente, anticipando necesidades y resolviendo problemas sin intervención humana.

  • Optimización dinámica de carteras de productos, mediante análisis autónomos del comportamiento del mercado y de los asegurados.

 

La confianza: el factor decisivo

Sin embargo, el estudio subraya que la clave para el éxito de la IA agéntica no es solo tecnológica, sino relacional. La capacidad de los usuarios (empleados, clientes, partners) de confiar en los agentes de IA será fundamental para que se integren de forma efectiva en los entornos laborales y operativos.

“La autonomía de los agentes de IA puede generar ansiedad o resistencia si los usuarios no entienden sus límites ni confían en sus intenciones”, advierte Capgemini.

Entre los hallazgos más relevantes del informe se encuentra que:

  • Solo el 37% de los consumidores encuestados estaría cómodo interactuando con un agente de IA autónomo sin intervención humana.

  • El 68% de los ejecutivos cree que la falta de comprensión sobre el funcionamiento de estos agentes podría frenar su adopción.

  • La transparencia, la explicabilidad y la percepción de control son las dimensiones más importantes para construir confianza.

 

Implicancias para el sector asegurador

El informe plantea que las aseguradoras pueden ser grandes beneficiarias de la IA agéntica, siempre que diseñen sistemas donde el humano siga en el circuito y se respeten principios de responsabilidad, ética y supervisión.

Las compañías que prioricen la construcción de relaciones de confianza entre humanos y agentes de IA podrán mejorar su eficiencia, acelerar la innovación en productos y ofrecer experiencias más fluidas y personalizadas a sus clientes.

Capgemini concluye con una advertencia: sin confianza, la revolución de la IA autónoma podría estancarse antes de empezar.

“El futuro no será una competencia entre humanos y máquinas, sino una colaboración profunda. Y como en toda relación duradera, la confianza será la base”, remata el informe.