Hace unas semanas, mientras acompañaba al director financiero de una compañía regiomontana a revisar su nuevo tablero de analítica, soltó una frase que todavía resuena en mi mente: «El algoritmo nunca se cansa; yo sí». Esa confesión, tan espontánea como reveladora, resume la paradoja actual: la inteligencia artificial dejó de ser promesa futurista para convertirse en un engranaje silencioso que gobierna precios, inventario, recomendaciones y reclutamiento con la calma implacable de la estadística.
Según el Foro Económico Mundial, más del 75 % de las empresas globales usa IA en decisiones críticas. El dato impresiona, pero apenas asoma el debate subterráneo. Cuando uno conversa con los equipos detrás de esos tableros surgen preguntas que los reportes callan: «¿No estaremos despersonalizando el servicio?», «¿Cómo evitamos que el sistema deseche talento valioso?» o «¿Seguimos formando pensadores o solo operadores de modelo?».
Las respuestas oscilan. Algunas firmas convocan un comité ético antes de activar cualquier algoritmo; otras se refugian en el mantra de que la tecnología es neutral. La realidad desmiente esa comodidad. Shoshana Zuboff advierte que el negocio de las plataformas no es predecir comportamientos, sino moldearlos.
Cada clic refuerza una lógica que convierte al usuario en insumo y al dato en divisa. Sin freno ético, la deliberación humana termina desplazada. Ese circuito de monetización de la atención, tan rentable como opaco, erosiona de forma gradual la capacidad de las personas para decidir con autonomía.
El caso Amazon de 2018 lo ilustra: su herramienta de reclutamiento, entrenada con historiales sesgados, penalizaba a mujeres aspirantes a puestos tecnológicos. No hubo mala fe, hubo datos contaminados. La compañía desactivó el sistema y aprendió que la automatización puede amplificar viejos prejuicios a la velocidad del rayo.
Daniel Kahneman nos recuerda que gran parte de nuestras decisiones son rápidas e intuitivas (System 1). Cuando un modelo replica esos atajos en nanosegundos, el margen para la injusticia crece silenciosamente.
Ahora bien, liderazgo consciente no significa frenar la innovación. Al contrario, he visto organizaciones que, al cuestionar sus supuestos, encontraron oportunidades insospechadas.
Un hospital privado implementó un sistema de clasificación de pacientes en urgencias asistido por IA; una auditoría mostró que subestimaba a personas mayores con comorbilidades. Tras rediseñar el algoritmo e instaurar un comité bioético permanente, el centro redujo 18 % el tiempo de admisión y reforzó su reputación.
Los primeros balances sugieren que la inversión comenzará a recuperarse dentro del primer año de operación, impulsada por una mejor asignación de recursos clínicos. El costo inicial fue alto, pero la lección quedó clara: cada línea de código exige una línea de responsabilidad compartida por médicos, ingenieros y directivos.
¿Qué hace falta para que más empresas sigan esa ruta? Cultura. Y la cultura se cultiva, no se compra. Capacitaciones en la última interfaz de programación de aplicaciones (API) ayudan, pero valen poco sin diálogo interdisciplinario, sin tiempo para la reflexión crítica, sin líderes que, aun bajo presión trimestral, pregunten primero por el impacto humano.
Un estudio global de PwC revela que apenas una de cada cinco compañías con IA operativa tiene mecanismos formales de evaluación ética. Ese es el tamaño de la oportunidad y, también, de la urgencia. Un vacío regulatorio que, en la práctica, delega la ética a la buena voluntad corporativa.
Al terminar aquella reunión con el director financiero, mientras ajustábamos los filtros del panel, me confesó: «Temo que algún día dejemos de hacernos preguntas». Le respondí: «El algoritmo no descansa, pero tampoco piensa por nosotros». Sellamos un acuerdo humilde: cada mes, responsables de datos, operaciones y talento revisarán un caso real de IA para contrastar métricas con historias de clientes y colaboradores. Esa práctica, sencilla pero constante, forja la conciencia que no nace de un manual, sino del ejercicio cotidiano de cuestionar la comodidad automática.
La ética, bien entendida, no compite con la eficiencia; la potencia. Equipos comprometidos, clientes que confían y marcas resilientes emergen cuando el propósito comparte mesa con el código. La pregunta crucial, entonces, no es «¿podemos adoptar IA?», sino «¿merece nuestra cultura este nivel de automatización?». Quien responda con honestidad descubrirá que la innovación tecnológica y la lucidez moral no son polos opuestos, sino dos caras de la misma apuesta por un futuro con dignidad. De esa respuesta depende no solo la reputación empresarial, sino el tejido social que aspiramos a sostener en la próxima década.
El autor es Profesor investigador del Tecnológico de Monterrey y especialista en innovación educativa, inteligencia artificial y liderazgo consciente. Ha desarrollado proyectos premiados a nivel internacional sobre tecnología con propósito en entornos de aprendizaje y transformación empresarial.
Contacto: roberto.gt@tec.mx
