Terminé de revisar 2084: Inteligencia Artificial y el Futuro de la Humanidad, del matemático de Oxford John C. Lennox, y la pregunta me persigue desde entonces: ¿estamos construyendo una herramienta o estamos criando algo que, tarde o temprano, dejará de obedecernos?
Lennox no cae en el catastrofismo fácil de Hollywood. Su advertencia es más sutil y, por eso mismo, más inquietante: el riesgo no es que una máquina “despierte” y decida dominarnos. El riesgo real es el llamado problema de alineación de valores: sistemas cada vez más complejos tomando decisiones que no necesariamente coinciden con lo que nosotros consideramos correcto, justo o humano. No hace falta malicia artificial. Basta con indiferencia algorítmica.
Como empresario que usa IA todos los días —lo he dicho públicamente— no escribo esto desde el miedo, sino desde la responsabilidad. La IA ya optimiza créditos, decide qué solicitudes de empleo pasan el primer filtro, sugiere diagnósticos médicos y mueve capitales en milisegundos. La pregunta no es si nos “dominará” en el sentido de una rebelión de ciencia ficción, sino si permitiremos que decisiones que definen vidas humanas —empleo, salud, libertad, oportunidad— se deleguen sin supervisión, sin ética incorporada desde el diseño.
Lennox insiste en algo que comparto plenamente: la tecnología no es neutral en sus consecuencias, aunque lo sea en su origen. Un algoritmo entrenado con datos sesgados perpetúa ese sesgo a escala industrial. Un sistema de vigilancia diseñado “por seguridad” puede convertirse, sin que nadie lo planee así, en una herramienta de control social. La diferencia entre progreso y sometimiento no la decide la máquina: la decidimos nosotros, en cómo la diseñamos, regulamos y supervisamos.
Para Sonora y para México esto no es un debate abstracto de laboratorio. Nearshoring, manufactura avanzada, banca digital, agroexportación: todos estos sectores donde trabajamos día a día ya incorporan IA en sus procesos. La región que entienda temprano estos riesgos —y construya marcos éticos y regulatorios sólidos— tendrá una ventaja competitiva real frente a quienes adopten la tecnología sin cuestionarla.
¿Podría la IA dominarnos? Solo si renunciamos a hacernos las preguntas difíciles a tiempo. La tecnología amplifica lo que ya somos: nuestra sabiduría, pero también nuestra negligencia. La decisión, todavía, sigue siendo nuestra.
