¿La IA comete errores?
Un viejo refrán dice: cometer errores es humano.
Bueno, si es humano cometer errores, y estamos fabricando “cerebros” que imitarán al cerebro humano, no hay nada más natural que estos “cerebros” también cometan errores, ¿no?
De hecho, tendremos que actualizar el dicho a “los errores son humanos y de IA”.
Pero en serio, lo que pasa es esto:
Una automatización no comete errores.
Cuando una automatización comete errores es porque verdaderamente falló en su propósito.
Ocurrió algún error, sucedió algo muy malo.
Es como si una calculadora cometiera un error.
Que la automatización pierda una cuenta es algo que no debería pasar, y si está pasando es porque hay un defecto muy grave.
Una IA comete errores, y los comete de una forma mucho más común.
En cierto modo, incluso podemos esperar que eso suceda eventualmente.
Porque cuando haces el ejercicio de pensar, implica pensar en cosas que no sabes.
Es un ejercicio de inexactitud.
¿Recuerdas el ejemplo que mencioné sobre el ajedrez?
Cuando quedan pocas piezas en el tablero, ya contamos con automatizaciones que pueden mapear todos los movimientos posibles y nunca serán derrotadas.
Ya en las primeras etapas del juego, las posibilidades son tantas que no podemos mapear y construir automatizaciones que nunca cometan errores.
De esta manera, tenemos que usar el cerebro humano, o construir IA que piensen como humanos y que no exploren todas las posibilidades, que eventualmente cometan algún tipo de error, pero que aun así jueguen de manera creativa.
Y eso es suficiente para generar un buen resultado.
En el tres en raya la historia es diferente.
Tic-tac-toe es un juego más sencillo.
En él, logramos crear una automatización que nunca podrá ser derrotada, ya que barre todas las posibilidades posibles.
Estas son computadoras tradicionales, son exactas.
Problemas complejos, como jugar al ajedrez o dibujar un perro, no pueden resolverse con esta exactitud, ya que las posibilidades son gigantescas e imposibles de mapear.
Pero cuando se construye inteligencia artificial, es decir, cuando se construye una máquina que replica el pensamiento humano, sucede algo interesante.
Puede resolver estos problemas que las máquinas tradicionales no resolverían, porque está pensando de la manera que piensan los seres humanos.
Pero al igual que el cerebro humano, la IA dispone de tácticas para corregir y evitar errores.
Por ejemplo, cuando le pedimos a un piloto de línea aérea que revise una lista de verificación de procesos en un portapapeles antes de despegar, reconocemos que los seres humanos pueden cometer errores.
El portapapeles, en este caso, funciona como un mecanismo de automatización analógico, que ayuda al piloto a seguir todos los pasos necesarios, reduciendo la posibilidad de errores por olvidos o distracciones.
Entonces, en lugar de simplemente esperar que el piloto no cometa un error, creamos un sistema que supera las limitaciones de la cognición humana.
Lo mismo debe hacerse con la IA.
No se puede esperar que la IA no cometa errores.
Lo que hay que hacer es adoptar formas de mitigar los errores de la IA y tácticas para sortearlos, anticipando que sucederán.
Ya sea usando redundancia, revisión por pares, mecanismos de automatización, capacitación, sistemas más organizados, entornos menos propensos a errores, elecciones correctas de IA, entre varias otras técnicas y tácticas de las que hablaremos en detalle en el capítulo 3.