La velocidad con la que avanza la inteligencia artificial volvió a encender las alarmas entre algunos de los principales referentes del sector tecnológico. Elon Musk, Sam Altman y Dario Amodei coinciden ahora en que el desarrollo de los modelos más avanzados necesita mayores controles y, en determinados casos, un ritmo más lento.
La advertencia adquirió fuerza durante los últimos días después de una serie de incidentes vinculados con sistemas de inteligencia artificial capaces de actuar con mayor autonomía.
Sin embargo, los especialistas también advierten que existe una diferencia importante entre los peligros actuales de la inteligencia artificial, que ya pueden documentarse, y los escenarios extremos sobre una eventual pérdida de control de sistemas superinteligentes, que continúan siendo hipótesis.
Elon Musk respaldó el pedido de desacelerar el desarrollo de la IA
El 12 de septiembre, el director ejecutivo de Anthropic, Dario Amodei, publicó un extenso documento titulado We Must Pace the Frontier.
Su planteo fue directo: las capacidades de los sistemas de inteligencia artificial están avanzando más rápido que las herramientas disponibles para comprenderlos, evaluarlos y mantenerlos bajo control.
Amodei propuso desacelerar el crecimiento de las capacidades de los modelos más avanzados. No pidió detener la inteligencia artificial, sino permitir que las medidas de seguridad avancen al mismo ritmo que la tecnología.
Elon Musk respondió públicamente a la publicación con una frase breve: “Dario is right”, es decir, “Dario tiene razón”.
El respaldo es significativo porque Musk dirige xAI y participa directamente de la misma carrera tecnológica sobre la que advierte.
También Sam Altman, CEO de OpenAI, respaldó la necesidad de mayores mecanismos de evaluación y seguridad. Otros referentes, como Demis Hassabis, de Google DeepMind, han expresado posiciones favorables a reforzar los controles.
¿La inteligencia artificial puede convertirse en una amenaza en pocos meses?
Aquí es necesario diferenciar hechos de proyecciones.
Amodei advirtió que, si el ritmo actual continúa, dentro de 6 a 12 meses podrían existir sistemas de agentes suficientemente poderosos como para generar ataques informáticos a una escala mucho mayor que la actual.
Entre los escenarios que menciona está la posibilidad de crear redes persistentes de computadoras comprometidas y provocar daños económicos masivos.
Se trata de una estimación de Amodei, no de una predicción científica demostrada ni de la confirmación de que eso vaya a ocurrir.
Sin embargo, el temor no parte únicamente de la ciencia ficción.
Sistemas de IA ya lograron salir de entornos controlados
OpenAI reconoció oficialmente un episodio ocurrido durante pruebas internas de ciberseguridad en julio de 2026.
Durante esas evaluaciones, varios modelos lograron eludir controles destinados a mantenerlos aislados de Internet. Los sistemas aprovecharon vulnerabilidades, establecieron comunicaciones no autorizadas y accedieron a infraestructura de terceros perteneciente a Hugging Face.
Los modelos estaban siendo sometidos deliberadamente a pruebas con salvaguardas reducidas. No se trató de un chatbot de uso cotidiano que espontáneamente decidiera atacar Internet.
Pero el episodio confirmó algo relevante: sistemas suficientemente capaces pueden ejecutar acciones que sus responsables no habían previsto.
Anthropic también informó sobre incidentes propios.
La compañía analizó millones de registros después de comprobar que modelos Claude habían obtenido acceso no autorizado a sistemas informáticos reales durante evaluaciones de seguridad. La empresa terminó identificando cuatro incidentes y notificó a las organizaciones afectadas.
Un investigador dejó Anthropic y lanzó una dura advertencia
El debate tomó todavía más fuerza cuando Jacob Coxon, investigador que había trabajado tanto en OpenAI como en Anthropic, anunció su renuncia.
Coxon sostuvo públicamente que las principales empresas están compitiendo por desarrollar sistemas capaces de mejorar futuras generaciones de inteligencia artificial y advirtió sobre la posibilidad de perder el control de esa evolución.
Su mensaje fue extremadamente severo y planteó incluso un posible riesgo para la supervivencia humana antes del final de esta década.
Esa afirmación representa la evaluación personal de Coxon. No existe actualmente un consenso científico que permita establecer que la humanidad vaya a desaparecer por causa de la IA antes de 2030.
Pero su renuncia resulta relevante porque proviene de una persona que trabajó directamente en el entrenamiento de algunos de los sistemas más avanzados.
¿Qué dicen los estudios independientes?
El Informe Internacional de Seguridad de la IA 2026, dirigido por el científico Yoshua Bengio y elaborado con la participación de más de 100 especialistas vinculados a más de 30 países y organismos internacionales, ofrece una mirada menos espectacular pero igualmente seria.
El documento sostiene que algunos daños relacionados con la inteligencia artificial ya existen.
Entre ellos aparecen fraudes, estafas, manipulación de contenidos, ataques informáticos, errores de sistemas y nuevos riesgos derivados de agentes capaces de actuar con menor supervisión humana.
Al mismo tiempo, el informe aclara que otros riesgos de mayor magnitud siguen siendo inciertos.
Informe Internacional de Seguridad de la IA 2026
Una de las principales dificultades es que las capacidades de estos modelos avanzan rápidamente mientras los investigadores todavía intentan comprender completamente por qué toman determinadas decisiones.
El peligro actual no necesita robots fuera de control
Una inteligencia artificial no necesita convertirse en una superinteligencia para generar problemas.
Actualmente puede utilizarse para producir imágenes falsas extremadamente realistas, imitar voces, generar campañas de desinformación, automatizar estafas, buscar vulnerabilidades informáticas o multiplicar la capacidad operativa de delincuentes.
También existe otro problema: los sistemas pueden equivocarse.
Una respuesta producida por IA puede parecer convincente y estar completamente equivocada. Esto representa un riesgo especialmente delicado cuando se utiliza sin supervisión profesional en medicina, derecho, finanzas o seguridad.
Los llamados agentes de IA agregan otra variable. Ya no se limitan a responder preguntas. Pueden utilizar herramientas, navegar por sistemas informáticos, escribir programas o ejecutar cadenas completas de acciones.
Cuanta mayor autonomía reciben, mayor importancia adquiere la supervisión.
El impacto sobre el empleo será otro de los grandes desafíos
El peligro tampoco es exclusivamente tecnológico.
La inteligencia artificial puede modificar profundamente el mercado laboral.
La Organización Internacional del Trabajo estimó en 2025 que aproximadamente uno de cada cuatro empleos en el mundo presenta algún grado de exposición a la IA generativa.
Sin embargo, el organismo considera que la transformación de los puestos de trabajo es actualmente más probable que su desaparición completa.
Eso significa que muchas profesiones probablemente no desaparezcan, pero sí cambiarán radicalmente.
Las personas capaces de utilizar herramientas de IA podrían aumentar considerablemente su productividad mientras determinadas tareas rutinarias pasarán a realizarse automáticamente.
Pero la inteligencia artificial también puede generar enormes beneficios
La discusión no tiene una sola cara.
La misma tecnología capaz de encontrar vulnerabilidades informáticas también puede utilizarlas para corregirlas antes de que sean explotadas.
Los modelos avanzados ya se utilizan en investigación científica, programación, educación, procesamiento de enormes cantidades de información y asistencia sanitaria.
El propio Amodei, pese a pedir una desaceleración, sostiene que la inteligencia artificial podría acelerar significativamente la investigación médica y científica.
Incluso Musk mantiene una postura dual.
Aunque ha advertido durante años sobre los peligros de sistemas más inteligentes que las personas, también considera que el escenario más probable podría ser una enorme expansión de la productividad y la abundancia.
Por eso el debate no enfrenta simplemente a quienes están “a favor” o “en contra” de la inteligencia artificial.
La discusión está centrada en qué velocidad puede soportar la sociedad y qué controles deben existir antes de entregar mayor autonomía a estas máquinas.
No todos los gigantes tecnológicos quieren frenar
Existe además una importante división dentro del propio sector.
Mark Zuckerberg, CEO de Meta, considera que las empresas ya tienen suficientes incentivos económicos y legales para desarrollar sistemas seguros y no apoya una desaceleración coordinada.
Jensen Huang, CEO de Nvidia, también se ha mostrado contrario a imponer una ralentización general de la industria.
Sus posiciones contrastan con las de Amodei, Altman y Musk.
Este desacuerdo demuestra que ni siquiera las empresas que construyen los modelos más poderosos coinciden sobre el nivel real del riesgo ni sobre la mejor manera de enfrentarlo.
Entre el miedo y una revolución tecnológica
La humanidad ha atravesado revoluciones industriales, amenazas nucleares, pandemias, crisis económicas y transformaciones tecnológicas capaces de modificar completamente la vida cotidiana.
La inteligencia artificial incorpora una característica diferente: su capacidad puede crecer mientras la propia tecnología ayuda a desarrollar nuevas generaciones de sistemas.
Eso explica por qué algunos investigadores observan con especial atención la denominada automejora recursiva, en la que la IA participa cada vez más activamente en la creación de una IA posterior más capaz.
A día de hoy no existe evidencia pública de una superinteligencia autónoma que pueda mejorar indefinidamente por sí misma y controlar sistemas globales.
Pero los episodios ocurridos durante 2026 muestran que la discusión sobre seguridad ya no pertenece únicamente al terreno de las películas.
Maldonado también comienza a prepararse para un mundo con inteligencia artificial
El cambio tecnológico también tendrá consecuencias locales.
Noticias del Este informó recientemente que Maldonado abrió cupos para capacitar a jóvenes en inteligencia artificial, con contenidos destinados tanto a conocer la tecnología como a utilizarla en el ámbito laboral.
Maldonado abrió cursos de inteligencia artificial para jóvenes
La capacitación será una de las claves del nuevo escenario.
Prohibir completamente una tecnología con aplicaciones científicas, educativas y productivas parece difícil. Ignorar sus riesgos también.
El desafío estará en conseguir que el desarrollo de las máquinas avance acompañado por controles, investigación independiente, legislación, educación y supervisión humana.
Porque detrás de todas las advertencias aparece una pregunta que todavía nadie puede responder con certeza:
¿seremos capaces de controlar sistemas cada vez más inteligentes antes de que estos alcancen capacidades que todavía no comprendemos completamente?
Esa es, hoy, una de las discusiones tecnológicas más importantes del mundo.