Fallas y errores
Hay un dicho famoso que dice que errar es humano.
Ahora que hemos comenzado a replicar partes del razonamiento humano en componentes electrónicos, tal vez sea hora de actualizar ese dicho.
Errar es humano. Y también es IA.
La inteligencia artificial comete errores. Y seguirás cometiendo errores.
Así como las personas cometen errores, los agentes de IA también cometen errores. Esto no es un detalle. Esto es parte de la naturaleza del sistema.
El punto importante aquí es que el gerente maduro no trabaja basándose en la fantasía de que encontrará a alguien que nunca cometa errores.
Ningún gerente experimentado crea un equipo esperando perfección absoluta de cada empleado. Esto nunca fue obra de la dirección.
El trabajo de la gestión es tratar con lo imperfecto. Está extrayendo resultados de sistemas imperfectos. Es reducir la posibilidad de error, reducir el impacto del error y crear mecanismos para que ciertos errores no pasen.
Con la gente hacemos esto todo el tiempo.
Creamos procesos. Creamos reseñas. Creamos listas de verificación. Creamos despidos. Creamos aprobaciones duales. Creamos validaciones para tareas más críticas.
En actividades de bajo riesgo, aceptamos un mayor margen de error. En actividades de alto riesgo, aumentamos el control, la supervisión y las conferencias.
Así tratamos con pasantes, analistas, coordinadores, gerentes y directores. No porque sean incapaces, sino porque todo trabajo humano conlleva un potencial fracaso.
Con la IA, la lógica es la misma.
No necesitas una IA que nunca cometa errores. Debes comprender cómo comete errores, dónde comete errores, con qué frecuencia los comete y cuál es el coste de ese error.
A partir de ahí, ensamblas el sistema a su alrededor.
En algunos casos, esto significa dejar que la IA trabaje sola. En otros, significa colocar una validación automática después de la respuesta. En otros, significa tener una persona revisando. En otros, simplemente significa no usar IA en esa etapa.
Este es el punto central.
El problema no es que la IA cometa errores. El problema es que configuras un sistema que no sabe cómo lidiar con los errores de la IA.
De la misma manera que un gerente revisa el trabajo de un pasante en tareas más delicadas, también puedes crear capas de revisión para los agentes.
Esta revisión podría ser:
- Una automatización
- Otro agente
- Un sistema regla
- O un humano
Todo depende del riesgo involucrado.
Cuanto más crítico sea el error, menos confiarás en una sola capa. Cuanto más barato y reversible sea el error, más autonomía podrás darle.
Gestionar personas significa gestionar lo imperfecto. Administre la IA también.
La lógica no cambia. Lo que cambia es la naturaleza de la imperfección.
En los humanos, el error puede provenir de la distracción, el cansancio, el ego, las prisas, el miedo, la desorganización o la falta de conocimiento. En la IA, el error puede provenir de la falta de contexto, un patrón sesgado, una mala interpretación, una limitación del modelo o simplemente una generación incorrecta.
Pero en ambos casos la respuesta de los directivos es similar.
No se lucha contra el error con esperanza. Combates el error con proceso.