La automatización: ¿una promesa de eficiencia o un espejismo tecnológico?

Desde hace varios años, la automatización forma parte de las prioridades estratégicas de las direcciones generales. Las aseguradoras, los corredores y los actores del sector de la ciberseguridad no son una excepción. La promesa es tentadora. Reducir las tareas repetitivas, acelerar los flujos de trabajo, disminuir los errores humanos y reasignar equipos enteros a tareas de mayor valor añadido. Todo parece indicar que la empresa del futuro estará orquestada por una sinfonía de robots de software y agentes inteligentes.

Sin embargo, el tema merece ser abordado con matices. La automatización no sustituye al ser humano. Simplemente desplaza la frontera entre lo que las máquinas hacen bien, lo que hacen mejor y lo que probablemente nunca podrán hacer. En los sectores relacionados con el riesgo, esta frontera es especialmente delicada.

McKinsey estimaba ya en 2017 que en el 60 % de las profesiones se podrían automatizar al menos el 30 % de las tareas, pero que menos del 5 % de las profesiones eran totalmente automatizables (McKinsey Global Institute, «A Future That Works: Automation, Employment, and Productivity»). Una tendencia confirmada por la OCDE, que habla de un desplazamiento progresivo de las competencias hacia el análisis, el criterio y las relaciones humanas.

En otras palabras, la esencia de la profesión sigue siendo profundamente humana. La automatización es una herramienta, no una estrategia.

Lo que se puede automatizar: la mecánica invisible pero indispensable

Las tareas de ejecución, aquellas que mantienen la empresa en marcha en el día a día, son las candidatas naturales a la automatización. Se basan en reglas conocidas, con pocos matices y un alto grado de repetitividad. Es el ámbito en el que las máquinas destacan y en el que el ser humano solo aporta un valor marginal. Un sistema puede realizar un seguimiento del avance de un expediente, generar automáticamente un informe de intervención a partir de eventos con marca de tiempo, recordar a un cliente que se ha retrasado en el pago o activar la facturación una vez finalizado un servicio. En estos casos, la automatización mejora la fluidez, reduce los olvidos y aumenta la calidad del servicio sin alterar la esencia de la profesión.

Las empresas que operan en los sectores de la ciberseguridad, los seguros o la consultoría tecnológica encuentran en ello una ventaja evidente: una gestión operativa más fiable, más regular y menos dependiente del factor humano, con una capacidad de ampliación facilitada. La máquina no puede improvisarse como analista, pero resulta imbatible a la hora de llevar a cabo un seguimiento riguroso y conforme a la normativa.

Lo que no se puede automatizar: el valor humano en el centro del riesgo

Por el contrario, las tareas de «construcción» requieren reflexión, criterio y experiencia. No se prestan a la automatización, ya que suponen una comprensión global del contexto, un análisis detallado de lo que está en juego y la capacidad de tomar decisiones en situaciones de incertidumbre. Ningún sistema es capaz, a día de hoy, de desentrañar un documento estratégico complejo, identificar las señales débiles de un contrato mal redactado, negociar objetivos contradictorios o decidir la orientación adecuada de un comité directivo.

Definir una estrategia, analizar un informe de incidente, comprender las sutilezas de una arquitectura delicada o sintetizar un conjunto de información ambigua siguen siendo tareas fundamentalmente humanas. Son precisamente estas tareas las que constituyen el valor de la profesión, ya que movilizan lo que la máquina no posee: la comprensión tácita, la experiencia vivida y la interpretación emocional de las situaciones.

La automatización alivia la carga de trabajo allí donde el ser humano no era indispensable. Nunca sustituye a la responsabilidad allí donde el ser humano es esencial.

«La automatización no es un sustituto de la experiencia. Es un amplificador del discernimiento, siempre y cuando el ser humano siga al mando».

Los riesgos: cuando la automatización crea puntos ciegos

Toda automatización introduce un nuevo grado de fragilidad. Esta paradoja está bien documentada: cuanto más eficaz se vuelve un sistema, más dependiente se vuelve de sus propios automatismos. La historia del Boeing 737 MAX y del MCAS es el ejemplo más ilustrativo, aunque no se trate de una empresa clásica, sino de un sistema crítico en el que una automatización mal entendida provocó consecuencias dramáticas (Informe de la Junta Nacional de Seguridad en el Transporte, 2019).

Las empresas no están a salvo de este mismo fenómeno, aunque a una escala diferente. Una automatización mal configurada, mal supervisada o mal entendida puede provocar cadenas de errores, reforzar sesgos en los datos, aplicar reglas fuera de contexto o pasar por alto señales débiles pero cruciales. Los sistemas automatizados son rápidos, pero rara vez toleran la ambigüedad.

En los ámbitos relacionados con la gestión de riesgos, el error automático no es un simple error. Es exponencial.

Responsabilidades: ¿quién responde cuando la máquina se equivoca?

La cuestión jurídica cobra un papel central. Las empresas se enfrentan a una paradoja: automatizan para reducir el riesgo humano, pero se ven confrontadas a un riesgo algorítmico que aún deben aprender a controlar.

La CNIL recuerda en varios informes que las organizaciones siguen siendo plenamente responsables de las decisiones generadas por sus sistemas automatizados, especialmente cuando intervienen en procesos sensibles o que afectan a la vida de las personas (CNIL, «La IA: ¿cómo permitir que el ser humano mantenga el control?», 2017).

En el ámbito de los seguros o de la ciberseguridad, esto implica una exigencia mayor: auditoría periódica de los flujos de trabajo automatizados, documentación detallada de los modelos utilizados, vigilancia continua de las desviaciones, trazabilidad de las decisiones y capacidad para interrumpir un proceso defectuoso. La automatización exige una higiene técnica irreprochable.

La responsabilidad no se delega en un algoritmo.

Hacia una automatización responsable: el futuro pertenece a las empresas que saben tomar decisiones

La automatización no es una revolución tecnológica. Es una revolución del discernimiento. La verdadera competencia estratégica consiste en decidir qué debe automatizarse, qué debe contar con asistencia y qué debe permanecer, sin lugar a dudas, en manos humanas.

Las empresas que tendrán éxito no serán las que más automaticen, sino las que mejor lo hagan.

Las que utilizan la tecnología para reforzar la actividad, no para socavarla.
Las que dedican a las personas las decisiones críticas y a las máquinas el resto.
Las que comprenden que la automatización no es una huida hacia adelante, sino un instrumento de precisión.

Y, sobre todo, aquellas que aceptan que la responsabilidad no se puede programar.