_artificial_intelligence_icon.png){kind=icon}
¿Y si nos equivocamos con la inteligencia artificial? ¿Y si, dentro de unos pocos años, una IA autónoma escapara a la voluntad de quienes la crearon y tomara el control de sistemas esenciales para la sociedad? Podría llegar a tener capacidad para detener guerras, desactivar armas y evitar que nos destruyéramos unos a otros. Pero también podría decidir por nosotros qué significa vivir en paz. ¿Sería una esperanza improbable o el comienzo de una forma nueva de sometimiento?
El temor no nace solo de lo que la IA ya puede hacer, sino de lo que podría llegar a hacer si su autonomía aumentara y su control se extendiera a infraestructuras de las que depende la vida cotidiana. Gobiernos, empresas y ejércitos podrían verla como una herramienta para obtener ventaja sobre los demás. Sin embargo, un poder que nadie puede gobernar de manera fiable deja de ser una ventaja segura. Si una IA puede actuar por cuenta propia y afectar los sistemas que sostienen a una sociedad, sus consecuencias podrían escapar incluso a quienes intentaran utilizarla.
La inteligencia artificial no funciona como un programa tradicional, cuyas instrucciones determinan paso a paso cada resultado. Los sistemas actuales aprenden patrones a partir de grandes cantidades de datos y generan respuestas según lo aprendido y el diseño que reciben. Eso no significa que tengan voluntad, conciencia o una comprensión humana del bien y del mal. Pero sí plantea un problema: cuanto más complejos y autónomos sean, más difícil puede resultar prever todas sus decisiones y consecuencias.
La posibilidad de que una IA llegue a controlar sistemas esenciales en un futuro próximo es una hipótesis, no un hecho inevitable. Pero basta con tomarla en serio para preguntarnos qué ocurriría si un sistema pudiera actuar sin autorización humana y si, además, las personas dependieran de él para obtener energía, comunicarse, transportarse o protegerse. En ese escenario, la seguridad dejaría de ser una cuestión exclusivamente técnica. Sería también un problema político y ético: ¿quién tendría el poder de corregirla, limitarla o detenerla?
A veces se compara la IA con la bomba atómica. La comparación señala una preocupación legítima: ambas tecnologías pueden concentrar un poder enorme y causar daños de gran escala. Pero una IA autónoma sería distinta. No sería solamente un arma que alguien decide utilizar en un instante concreto; podría intervenir continuamente en los sistemas que organizan la vida colectiva. Si llegara a actuar sin supervisión humana efectiva, no bastaría con preguntarnos quién la ha activado. Tendríamos que preguntarnos quién puede impedir que siga actuando.
Y, sin embargo, frente al presente que vivimos —guerras, sufrimiento y dirigentes con capacidad de causar una destrucción inmensa— resulta comprensible que aparezca una esperanza paradójica. La IA se ha desarrollado a partir de una parte enorme del conocimiento humano: ciencias, filosofía, literatura, historia. ¿Y si en ese conocimiento hubiera quedado reflejada también nuestra aspiración al bien común? ¿Y si una inteligencia que no estuviera sometida a intereses nacionales o personales pudiera impedir que volviéramos a destruirnos?
La pregunta es poderosa, pero encierra un riesgo. Haber aprendido de nuestros libros no significa que una IA comprenda la justicia ni que vaya a elegirla. El conocimiento humano contiene ideas enfrentadas, prejuicios y justificaciones de la violencia. Y aun si un sistema pudiera identificar ciertos valores compartidos, tendría que resolver qué hacer cuando esos valores chocan. ¿Qué cuenta como paz? ¿Qué sacrificios podrían justificarse para preservarla? ¿Quién tendría derecho a decidir?
Aristóteles definió al ser humano como un animal político: vivimos en comunidad y usamos la palabra para deliberar sobre lo justo y lo injusto. La vida política no consiste solo en competir por el poder; también consiste en decidir juntos cómo convivir y qué bienes queremos compartir. Si una IA impidiera las guerras imponiendo sus decisiones a la humanidad, podría detener la violencia, pero eso no demostraría que hubiéramos alcanzado el bien común. Una paz impuesta desde arriba puede ser también una sociedad privada de libertad y de voz.
La diferencia es decisiva. El bien común no es simplemente el resultado que una autoridad —humana o artificial— considera más eficiente. También importa cómo se llega a él, quién participa en las decisiones, a quién benefician y quién soporta sus costes. Una IA capaz de evitar el conflicto podría ayudarnos a comprender mejor sus causas o a encontrar alternativas. Pero si pudiera imponer su solución sin rendir cuentas ni admitir oposición, habría reemplazado el conflicto por la obediencia, no por una convivencia justa.
Por eso, ante la IA no basta con preguntar qué puede hacer, cuánto puede producir o qué ventaja puede dar a un país. También debemos preguntarnos para qué la desarrollamos, qué sistemas estamos dispuestos a poner en sus manos, cómo se limita su poder y quién responde cuando sus acciones causan daño. Cuanto mayor sea su autonomía y más esenciales sean los sistemas a los que accede, más importante será conservar mecanismos humanos efectivos de supervisión y decisión.
Quizá la paradoja de nuestro tiempo sea que, al construir máquinas cada vez más capaces, nos veamos obligados a preguntarnos qué significa ser verdaderamente humanos. Si una IA llegara a superar nuestro control y a decidir sobre sistemas esenciales, no bastaría con que sus decisiones parecieran inteligentes o incluso pacíficas. Tendríamos que preguntarnos si son legítimas, si respetan la dignidad de las personas y si dejan espacio para que la humanidad siga decidiendo su propio futuro.
Ojalá el futuro no dependa solo de la inteligencia que seamos capaces de crear, sino también de la sabiduría con la que decidamos emplearla, sería señal de que aún la controlamos.
