Un amigo me contó hace unos días que una noche descubrió que sus tres asistentes se habían ido a dormir. Ninguno era humano. Son bots de inteligencia artificial que recorren redes sociales, buscan información, ordenan datos y regresan con resultados. Él no los había apagado ni les había pedido detenerse. Simplemente habían suspendido sus tareas.
Nos reímos. La escena tenía algo de grotesco: tres empleados digitales que, sin pedir permiso, habían decidido que terminaba la jornada. Seguramente existe una explicación técnica para la falla. Pero la anécdota se me quedó rondando en la cabeza. Primero, por el entusiasmo casi inevitable que provocan las nuevas tecnologías. Mi generación vio proliferar las computadoras, después Internet y ahora la inteligencia artificial. La conversación pasó a las maravillas que podrían producirse en la medicina, las matemáticas o el desarrollo industrial: curar enfermedades hoy incurables, descubrir nuevos materiales o acelerar investigaciones que tomarían décadas.
Después llegamos al miedo. Hace apenas unos días, Dario Amodei, fundador de Anthropic, pidió desacelerar el desarrollo de los modelos más poderosos mientras se fortalecen los mecanismos de seguridad. Sam Altman, de OpenAI, se sumó públicamente a esa cautela. Que quienes están acelerando esta revolución sean también quienes advierten sobre sus riesgos produce, cuando menos, cierto estupor.
La comparación con la era nuclear aparece cada vez con mayor frecuencia. Cuando surgieron las armas atómicas también se extendió el temor de que la humanidad hubiese construido la posibilidad material de destruirse a sí misma. Frente a ello se levantaron acuerdos y controles internacionales. México, que no poseía la bomba, tuvo un papel relevante con el Tratado de Tlatelolco, firmado en 1967 y convertido en referente de las zonas libres de armas nucleares.
Pero la comparación tiene límites. La tecnología nuclear requería instalaciones enormes, materiales controlables y, fundamentalmente, Estados. La inteligencia artificial se desarrolla en buena medida dentro de empresas privadas; el código circula; los investigadores cambian de compañía y de país; y algunos sistemas ya participan en tareas de programación, investigación y desarrollo de nuevas herramientas.
Además, las propias compañías comienzan a definir principios para orientar el comportamiento de sus modelos. Ahí aparece una pregunta bastante más complicada de lo que parece:
¿Quién debe decidir esos principios? La primera respuesta es obvia: los seres humanos. Pero inmediatamente viene la segunda: ¿cuáles seres humanos? ¿Los propietarios y científicos de las compañías? ¿Los gobiernos? ¿Los congresos? ¿Organismos internacionales? ¿Y qué ocurre con los países no democráticos o con gobiernos capturados por posiciones radicales?
El debate ya está abierto. Mientras algunos desarrolladores reclaman mayor cautela y supervisión, el gobierno estadounidense privilegia expresamente un marco que evite regulaciones excesivamente onerosas para preservar su liderazgo tecnológico. Europa ha seguido un camino distinto, con obligaciones específicas para los modelos de propósito general y mayores exigencias para aquellos considerados de riesgo sistémico.
Desde México la perspectiva es todavía más complicada. No estamos entre los países que desarrollan los grandes modelos de frontera y dependemos ampliamente de tecnología producida fuera. Al mismo tiempo, en el Senado ya se trabaja en una iniciativa para regular y fomentar el uso de la inteligencia artificial. La tentación regulatoria es comprensible. Pero una regulación mal diseñada no necesariamente elimina el riesgo. Puede desplazarlo.
Si una empresa limita capacidades mientras otra, instalada en otra jurisdicción, avanza sin esas restricciones, la primera paga el costo de obedecer y la segunda obtiene la ventaja de no hacerlo. Si un país contiene su desarrollo mientras otro considera la inteligencia artificial una prioridad estratégica, el problema se vuelve geopolítico.
La paradoja es incómoda: una prohibición eficaz para quienes están dispuestos a cumplirla puede terminar fortaleciendo a quienes están dispuestos a ignorarla. Y una regulación excesiva podría producir otro efecto: concentrar una tecnología de enorme poder precisamente en las pocas empresas capaces de soportar sus costos jurídicos y técnicos.
Regular mal también puede ser un error. El verdadero desafío consiste en construir reglas suficientemente firmes para enfrentar los riesgos, pero suficientemente inteligentes para no entregar la carrera a quienes estén menos dispuestos a aceptarlas.
Y en algún momento la discusión deja de ser técnica o jurídica para volverse moral. Durante siglos construimos herramientas para aumentar nuestra fuerza; después, máquinas para multiplicar nuestra velocidad y computadoras para extender nuestra memoria. Ahora comenzamos a fabricar sistemas capaces de intervenir en algo que hasta hace poco considerábamos inseparable de nuestra condición humana: el juicio.
Los juicios de valor —sobre lo correcto, lo incorrecto, lo permitido o lo inadmisible— nos conducen inevitablemente a una pregunta filosófica: no sólo qué puede hacer una máquina, sino bajo qué principios queremos permitirle actuar.
Cada sociedad tendrá algo que decir. También cada cultura. Si los humanos vamos a establecer esos principios, resulta difícil aceptar que esa tarea quede exclusivamente en manos de quienes poseen el código, las computadoras o el capital para desarrollarlos.
México no debe permanecer al margen. Precisamente porque dependemos de tecnología producida fuera, tenemos interés en participar en la definición de las reglas bajo las cuales habrá de operar. La cuestión final será decidir qué parte de nuestro juicio estamos dispuestos a delegar y cuál debemos conservar siempre.
Aquella noche mi amigo todavía pudo despertar a sus tres asistentes. La pregunta es quién estará despierto para decidir qué deben hacer después.
Porque si algo nos enseña este momento es que no basta con recibir la tecnología ni con regularla cuando ya está aquí. Hay que participar en la discusión que habrá de fijar sus límites. Para exigir un lugar en las reglas del futuro, primero hay que estar en la conversación que las está escribiendo.
luisernestosalomon@gmail.com
