La IA tiene un problema de caja negra, aquí se explica cómo evitarlo

Es difícil expresar con palabras cuánto ha cambiado ChatGPT nuestro enfoque hacia la IA en un período de tiempo tan corto: un programa que ni siquiera estaba en nuestro radar en diciembre pasado ya está a punto de cambiar la forma en que millones de nosotros hacemos nuestro trabajo. Parece como si cada día hubiera un nuevo caso de uso para la herramienta.

Pero cada nueva tecnología conlleva razones para que seamos cautelosos, y para los minoristas, ChatGPT ofrece una gran razón: no proporciona visibilidad de cómo alcanza su producción. Es esencialmente una caja negra que ofrece soluciones empresariales en segundos sin mostrar su funcionamiento.

Sí, el tiempo es oro en la cadena de suministro y esta nueva tecnología promete una eficiencia incalculable. Sin embargo, antes de sumergirse en las soluciones de IA para mantener sus estantes reabastecidos, es importante considerar las ramificaciones y si un enfoque más lento de la IA puede generar mejores resultados a largo plazo.

Los inconvenientes de la caja negra

Digamos que soy dueño de una pequeña tienda de comestibles, centrada principalmente en alimentos frescos. Tengo 100 naranjas y, al cierre del negocio, debo enviar un pedido a mi proveedor para asegurarme de tener suficientes naranjas para las próximas dos semanas. Le pregunto a un programa similar a ChatGPT cuánto pedir y, utilizando su algoritmo, la herramienta me dice instantáneamente que necesito pedir 200 naranjas adicionales. Luego veo cómo se venden 300 naranjas en tres días, dejando mis estantes vacíos, los clientes molestos y yo luchando por pedir naranjas adicionales.

¿Por qué el programa falló tan espectacularmente en su predicción? No hay forma de saberlo y, por lo tanto, no hay forma de ajustar su algoritmo específicamente para mi tienda, porque el conjunto de datos es un cuadro negro. Es posible que no haya considerado las tendencias de ventas a lo largo del tiempo para mi ciudad ni haya tenido en cuenta los impactos estacionales. De cualquier manera, no puedo corregirlo y, por lo tanto, mi confianza en el programa queda irreparablemente dañada.

El mismo problema puede manifestarse en todas las operaciones de la tienda: predecir el éxito/fracaso y los posibles márgenes de beneficio de una promoción, crear planogramas que permitan a los clientes moverse eficientemente por la tienda o incluso responder preguntas de los clientes en línea a través de un chatbot. La IA avanzada puede ofrecer soluciones rápidamente, pero el problema está en los detalles.

Mejorar la transparencia y la confianza mediante la colaboración entre humanos y máquinas

Para mejorar la transparencia y generar confianza en las soluciones minoristas impulsadas por la IA, se pueden utilizar interfaces de colaboración hombre-máquina. Estas interfaces permiten a los usuarios interactuar con el sistema de inteligencia artificial en tiempo real y proporcionar retroalimentación continua, lo que ayuda a comprender el proceso de toma de decisiones. El empleo de métodos de IA explicables como SHAP o LIME puede mostrar las entradas de datos del sistema y presentar puntuaciones de importancia para los minoristas, aumentando así su comprensión de las recomendaciones del sistema.

Un ejemplo hipotético de una interfaz de este tipo es un panel que muestra datos de ventas en tiempo real y sugerencias de nivel de existencias generadas por IA junto con visualizaciones de puntuación de importancia de características utilizando SHAP o LIME. Al proporcionar información adicional, los minoristas pueden ajustar o corregir las decisiones del sistema, lo que a su vez mejora su confianza en el sistema a largo plazo.

Automatizar en pequeñas dosis

ChatGPT y programas de caja negra similares que manejan el pensamiento por usted pueden estar dominando los titulares, pero emplear IA en su tienda no es una propuesta de todo o nada; de hecho, encontrar el equilibrio adecuado entre la capacidad intelectual humana y la de IA es la clave. para construir las experiencias minoristas automatizadas del futuro.

Para muchos minoristas, especialmente aquellos que recién comienzan su viaje en IA, una solución basada en reglas puede ser la opción correcta para evitar las complejidades de las cajas negras. En lugar de confiar completamente en el conjunto de datos de la IA, las soluciones basadas en reglas permiten a los minoristas introducir sus propios datos en la herramienta y descubrir soluciones rápidas basadas en sus propias tendencias de ventas y condiciones regionales. Y en caso de que el programa ofrezca proyecciones que resulten en escasez o exceso de existencias, o en una promoción fallida, el minorista puede examinar el conjunto de datos para descubrir qué salió mal y cómo solucionarlo: no hay ningún «hombre detrás de la cortina» misterioso. .”

Deja que la IA sea tu guía, pero dale un buen mapa

Los datos, cuando se utilizan de manera efectiva, ofrecen beneficios incalculables a los minoristas: saber cuándo recortar artículos impopulares, cómo mantener en los estantes los artículos que se venden rápidamente y estrategias para optimizar las tareas que requieren mucha mano de obra en toda la tienda. Las herramientas impulsadas por IA nos ayudan a aprovechar los beneficios de los datos, pero solo si entendemos los datos que utilizan y cómo los utilizan. Saltar de cabeza a la IA sin esta comprensión firme sólo conducirá a la frustración.

En su lugar, considere implementar herramientas que combinen el control sobre los datos con algoritmos avanzados que realmente lo ayuden a aprovechar la información comercial y arrojar luz sobre la caja negra.

En conclusión, si bien los sistemas de IA ofrecen oportunidades interesantes para que los minoristas mejoren sus operaciones, es importante abordarlos con precaución. El problema de la caja negra, en el que el proceso de toma de decisiones de la IA no es transparente, puede provocar un daño irreparable a la confianza cuando se producen errores. El empleo de interfaces de colaboración hombre-máquina y métodos de IA explicables como SHAP o LIME puede ayudar a mejorar la transparencia y generar confianza en las soluciones minoristas impulsadas por la IA.

Además, los minoristas pueden considerar una solución basada en reglas que les permita introducir sus propios datos en la herramienta y mantener el control sobre la toma de decisiones.

En última instancia, la clave para una implementación exitosa de la IA es encontrar el equilibrio adecuado entre la capacidad intelectual humana y la de la IA y comprender los datos que se utilizan para guiar la toma de decisiones. Con un enfoque reflexivo, los minoristas pueden aprovechar los beneficios de la IA para optimizar sus operaciones y mantenerse a la vanguardia en el competitivo panorama minorista.