Alejandro Espinosa Yáñez
La renuncia de Jacob Coxon, investigador que trabajó en Anthropic y OpenAI, provocó un tsunami informativo no sólo dentro de Silicon Valley, más allá de sus fronteras, al posicionarse como noticia en el mundo, sobre todo por la amenaza/profecía/diagnóstico de que la inteligencia artificial (IA) podría acabar con la humanidad en el futuro próximo, incluso fechando el fin al terminar la década.
Como parte del tsunami, «Los líderes de la inteligencia artificial han unido una vez más sus voces para hacer sonar las alarmas y pedir que se modere la velocidad del desarrollo tecnológico. La advertencia de DarioAmodei (Anthropic), respaldada por Sam Altman (OpenAI), ElonMusk (xAI) y DemisHassabis (Google), abre una grieta entre los líderes de la industria y el presidente de Estados Unidos, Donald Trump, quien prioriza mantener la ventaja competitiva frente a China» (El Economista, 14/09/26), con un argumento transversal: la tecnología se puede salir de control.
El periodista Marcelo Longobardi, por su parte, retoma al periodista estadounidense Thomas Friedman, el cual «advierte que ya es demasiado tarde para intentar detener los riesgos de los modelos de inteligencia artificial que están circulando, y plantea que el desafío inmediato es aprender a convivir con una tecnología que podría convertirse en una nueva ‘especie’ y transformar la historia humana».
Al comenzar a revisar las diferentes aristas de la discusión, se distingue en el radar de tensiones la cuestión de la geopolítica, la máquina agéntica, el poder corporativo y una máquina sin conciencia (moralidad, límites y la imaginación humana).
Antes de avanzar en lo que específicamente me interesa desarrollar en estas páginas, esta fascinante discusión no debe apartarnos de un hecho central: los personajes que enarbolan esta discusión poseen el 0.30% de la riqueza mundial. Es decir, en cinco personas (los dedos de una mano) se concentra una riqueza desproporcionada, lo que es una probadita del poder corporativo.
Con base en información de Forbes, de acuerdo con las listas de multimillonarios, el selecto grupo de los cinco hombres más ricos cuyas fortunas están impulsadas por el ecosistema de la Inteligencia Artificial (…) acumula aproximadamente un patrimonio neto combinado de unos 1.71 Billones de Dólares (1,712,000Millones de USD):
ElonMusk (xAI, SpaceX, Grok): $908,000 Millones de USD. Larry Page (Google/Alphabet): $277,000 Millones de USD. Michael Dell (Dell Technologies): $262,000 Millones de USD. Mark Zuckerberg (Meta Platforms): $197,000 Millones de USD. Jensen Huang (Nvidia): $191,000 Millones de USD (corporación especializada en los microchips esenciales para la IA).
Sam Altman, personaje destacado en la IA, no se encuentra entre los más ricos de la lista, pues su riqueza personal estimada ronda los $2,300 millones de USD -lamentos aparte-, dado que no posee acciones directas en OpenAI. J. Bezos corre la misma suerte.
Con base en las firmas de análisis financiero, la riqueza privada total del planeta se sitúa alrededor de los $570 Billones de Dólares ($570 trillion).
(…)
Más allá del relieve que puede tener (…) concentremos parte de nuestra reflexión hacia un filón de la discusión actual: la IA no tiene valores, no hay un resguardo, en la caja de pandora utilizan todos los recursos, pues no hay nada prohibido.
Lo que no tiene la IA es conciencia (cf. lo enunciado por el Papa León XIV, Encíclica Magnifica humanitas), reconociendo, como planteaba el teórico YuvalNoaHarari, de que el problema es que la IA simula que es un ser humano, y en parte en lo cotidiano nos vamos con esa finta. Santiago Bilinkis, por su parte, señala que la IA no tiene límites, por lo que lo que no está prohibido está permitido.
En la complejidad del debate, una de sus desembocaduras apunta a sostener a la IA como herramienta, aunque se avanza a su conformación como agente.
(…)
Se trata de una distinción decisiva, porque buena parte del discurso contemporáneo sobre inteligencia artificial tiende a confundir desempeño con conciencia. (…) Pero eso no demuestra que exista en ella una experiencia subjetiva equivalente a la humana.
(…)
León XIV es explícito en este punto cuando aborda los llamados «agentes morales artificiales». El juicio moral, sostiene, no puede reducirse a una cuestión de cálculo, porque implica conciencia, responsabilidad personal y reconocimiento del otro como persona. De ahí deriva una conclusión especialmente importante para los sistemas militares: no es legítimo delegar en una máquina decisiones letales o irreversibles: ¿la tecnología usada para el bombardeo a la escuela de Irán donde murieron más de 170 personas, la mayoría niñas, guardará en su memoria algún remordimiento por la muerte de tanta gente, de las muchachitas inocentes? ¿La tecnología Palantir tendrá pesadillas por lo sucedido?
(…)
El material recoge la distinción formulada a partir de Harari entre herramientas y agentes, pero también una advertencia decisiva: la IA puede simular, como apuntamos, que es un ser humano.
Esa simulación tiene consecuencias sociales. Si confundimos la capacidad de producir lenguaje con la existencia de una subjetividad, podemos atribuir a la máquina intenciones, valores o responsabilidades que en realidad pertenecen a quienes la diseñaron y utilizan.Sun
