Atención, contexto y profundidad de pensamiento
En la película La Red Social, hay una escena en la que un abogado le pregunta al personaje de Mark Zuckerberg si estaba prestando atención a la conversación.
Él responde algo como: “Sí, estaba prestando atención, pero no al 100%. Lo suficiente para esta conversación”.
Esta escena ilustra algo que todos experimentamos a diario: no todas las tareas requieren el máximo de nuestra capacidad mental.
Hay tareas simples, que podemos resolver con parte de nuestra atención, y tareas complejas, que requieren total concentración.
Aquí comienza una diferencia, ya que la IA siempre presta atención, pero hay un parámetro diferente.
En el caso de los humanos, hay un factor adicional: nos distraemos.
Cambiamos de tarea, interrumpimos lo que estamos haciendo y este cambio de contexto tiene un coste.
La IA no se distrae, no cambia de tarea por sí sola.
Y el cambio de tareas para la IA no tiene el mismo costo de cambio de atención que para los humanos.
Se estima que a un ser humano le puede llevar varios minutos recuperar la concentración total después de una interrupción.
No es sólo una cuestión de atención, es una cuestión de continuidad de pensamiento.
Cuando le asignas una tarea a la IA, en ese momento está utilizando toda la capacidad disponible.
Pero eso no significa que todo el “pensamiento” de la IA tenga la misma profundidad.
Podemos pensar en dos tipos de pensamiento de IA:
- Pensamientos superficiales: respuestas rápidas, poca elaboración, análisis superficial.
- Pensamientos profundos: respuestas detalladas, bien estructuradas y con mayor desarrollo.
Lo que determina esta profundidad no es sólo la inteligencia del modelo de IA, sino también dos factores: cuánta información la IA puede considerar y cuánto espacio tiene para desarrollar el razonamiento.
Aquí es donde entran en juego dos conceptos importantes: contexto y tokens.
La IA funciona con una “ventana de contexto”, que es todo lo que cabe en la “cabeza” de la IA en ese momento: la pregunta que hiciste, las instrucciones que diste, el historial de conversaciones, los documentos que proporcionaste.
Todo esto ocupa espacio y ese espacio es limitado.
Este límite se mide en tokens, que son los fragmentos de texto que utiliza la IA para procesar la información.
En otras palabras, los tokens representan el espacio disponible, mientras que el contexto es cómo se utiliza este espacio.
Ahora, el punto más importante para usted como gerente: cuando usa IA, no solo está eligiendo inteligencia.
En la práctica, también estás decidiendo cuánto espacio tendrá la IA para “pensar” y cuánto desarrollará la respuesta.
Es como si estuvieras comprando “pensamientos”.
Puedes realizar muchas tareas sencillas, con respuestas rápidas, o invertir en respuestas más profundas y elaboradas.
Pensemos en dos ejemplos:
- Una tarea sencilla: clasificar si los comentarios de los clientes son positivos o negativos.
Esta es una tarea de baja complejidad.
En este caso no necesitas un modelo extremadamente inteligente, ni mucho contexto, ni respuestas largas.
- Una tarea compleja: analizar una estrategia legal, financiera u operativa.
Aquí se necesita más contexto, más elaboración, más espacio para el razonamiento.
La profundidad debe coincidir con la complejidad del problema.
Sin embargo, incluso para tareas complejas, la mejor solución no siempre es utilizar un único agente muy inteligente y que preste mucha atención.
En muchos casos, puede ser más eficiente dividir la tarea entre varios agentes, formando equipos multidisciplinarios de IA, como veremos más adelante en este libro.
Es esa idea de que dos cabezas (o varias) piensan mejor que una.
Aquí viene un punto estratégico importante.
Así como no se contratan médicos para todas las funciones de su empresa, tampoco siempre es necesario utilizar la inteligencia más costosa para todas las tareas.
A menudo se pueden utilizar inteligencias más simples con menos contexto para tareas específicas y reservar inteligencias más avanzadas con más contexto y más elaboración para tareas críticas.
Este es un juego de optimización.
Está equilibrando costo, calidad y velocidad, y esto varía mucho según el proceso.
En tareas recurrentes, puedes probar, medir y optimizar.
Puede determinar qué nivel de inteligencia utilizar, cuánto contexto proporcionar, cuánto desarrollo de respuesta se necesita y ajustarlo con el tiempo.
No existe una regla única.
Es práctica, prueba y ajuste.
Otro punto importante: incluso las IA más caras, en muchas situaciones, siguen siendo extremadamente baratas en comparación con el coste humano.
Pero también hay tareas en las que la IA aún no reemplaza a los humanos.
Por tanto, más importante que intentar encontrar una regla fija es comprender el modelo mental.
Está trabajando con inteligencia, contexto y profundidad de pensamiento, y su función como gerente es orquestar estos elementos de la manera más eficiente posible.
Piense en ello como gestionar el flujo de agua.
Tienes diferentes calidades de agua (niveles de inteligencia) y diferentes cantidades de agua (fichas, espacio para pensar).
Tu misión es dirigir el agua adecuada, en la cantidad adecuada, para cada tarea.
A veces necesitarás una gran cantidad de agua de calidad media (muchas fichas de una IA media).
Otras veces, necesitarás poca agua, pero mucha pureza (pocas fichas de una IA avanzada).
Y en algunos casos, necesitarás mucha agua de alta calidad (muchas fichas de una IA avanzada).
El secreto está en comprender las necesidades de cada tarea y asignar los recursos estratégicamente.