Los líderes y trabajadores de la inteligencia artificial están empezando a discutir si la carrera puede avanzar más rápido que nuestra capacidad para controlarla.
Publicado el 19 de septiembre de 2026 · por Alex · Inteligencia artificial · Seguridad de IA · Anthropic · Nvidia
Algo extraño está ocurriendo dentro de la inteligencia artificial: algunas de las personas que compiten por construir los sistemas más avanzados del mundo están diciendo que quizá deberíamos reducir la velocidad. La pregunta incómoda es qué están viendo para que la conversación haya cambiado.
Este artículo es la versión escrita del análisis del sábado.
Ver el video en TikTok · Seguir el canal
La discusión ganó visibilidad después de que Jacob Coxon, investigador de Anthropic, renunciara públicamente y advirtiera sobre los riesgos de desarrollar sistemas cada vez más autónomos. Su salida fue presentada en la prensa como una señal de que la carrera por capacidades puede estar avanzando más rápido que los controles de seguridad. The Washington Post informó sobre su renuncia y sus preocupaciones.
Días después, Dario Amodei, director ejecutivo de Anthropic, publicó “We Must Pace the Frontier”. Su propuesta no es abandonar la investigación, sino acompasar el desarrollo de los modelos de frontera, reforzar la evaluación y dar tiempo a medidas de seguridad, con participación de evaluadores externos.
La conversación también recibió respaldo parcial de figuras como Sam Altman y Elon Musk, según la cobertura pública de esas declaraciones. Eso no equivale a un plan común ni a un acuerdo formal para detener el desarrollo.
Esto es extraño porque estas empresas compiten por talento, clientes, capital y por ser las primeras en llegar a mejores soluciones. Algunos líderes tecnológicos han respaldado parte de esas preocupaciones, pero eso no significa que exista un acuerdo formal para detener la carrera. La dificultad aparece cuando la preocupación debe convertirse en una decisión real: si una empresa frena y las demás continúan, ¿quién asume el coste?
También aparece la comparación geopolítica. Muchos se preguntan qué ocurriría si Estados Unidos reduce la velocidad de la innovación mientras China continúa desarrollando sus sistemas. Otros preguntan si todos pueden prometer seguridad cuando ninguno quiere perder la carrera. Todos pueden aceptar que existen riesgos, pero no necesariamente quién debe frenar primero.
Por un lado, Amodei y otros líderes han pedido que la seguridad alcance a la frontera tecnológica. Por otro, Jensen Huang, director ejecutivo de Nvidia, ha defendido públicamente que los sistemas agénticos ya están aumentando la productividad y que más capacidad de cómputo permite generar más resultados útiles. En una conferencia de resultados, Huang describió la mejora de los agentes y del razonamiento como una tendencia que ya está ocurriendo. La transcripción de resultados de Nvidia recoge esa postura.
La diferencia no es simplemente entre optimistas y pesimistas. Una visión dice que nos acercamos a capacidades que todavía no sabemos controlar completamente; la otra sostiene que la respuesta no es frenar el desarrollo, sino construir mejores sistemas y avanzar con más capacidad.
Por primera vez el debate ocurre dentro de las compañías que construyen estos sistemas y no solo entre críticos externos y Silicon Valley. Eso no demuestra que la inteligencia artificial vaya a colapsar. Sí obliga a seguir variables concretas: la velocidad de los lanzamientos, los incidentes de seguridad, la regulación, los costes de cómputo, la dependencia de centros de datos y quién paga si un producto o una infraestructura debe retrasarse.
También conviene separar una declaración pública de un cambio operativo. Una empresa puede pedir prudencia mientras sigue contratando investigadores, comprando chips y ampliando capacidad. La señal más relevante será saber si aparecen límites verificables en los productos, evaluaciones independientes y presupuestos de seguridad que sobrevivan a la presión competitiva.
Quizás todos esperan que alguien pise el freno, pero nadie quiere ser el primero mientras los demás aceleran. También es posible que algunas declaraciones busquen influir en la regulación, en los precios de componentes o en las expectativas del mercado. Eso es una hipótesis, no un hecho demostrado.
Por eso seguiremos una cosa concreta durante los próximos meses: quién empieza realmente a frenar la inteligencia artificial y quién simplemente dice que los demás deberían hacerlo. La respuesta mostrará si la industria está construyendo controles capaces de seguir el ritmo o si la carrera continúa delante de ellos.
Fuentes: Dario Amodei, “We Must Pace the Frontier”; Nvidia, transcripción de resultados del segundo trimestre fiscal de 2027; The Washington Post, cobertura sobre Jacob Coxon; video de Inside Wall Street en TikTok. Las referencias a una desaceleración coordinada, a China y a una estrategia de precios son preguntas y escenarios, no conclusiones.
Publicó que le preocupaba que las empresas de IA estuvieran priorizando la carrera por sistemas más capaces sin contar todavía con controles suficientes para sistemas cada vez más autónomos.
Pidió acompasar el desarrollo de los modelos de frontera y dar tiempo a evaluaciones y medidas de seguridad, incluyendo evaluadores externos.
Su postura pública es distinta: ha destacado que los sistemas agénticos y la demanda de cómputo están creciendo y que la respuesta debe ser avanzar con más capacidad y productividad, no simplemente frenar.
La velocidad de lanzamientos, los costes de cómputo, los incidentes de seguridad, la regulación y quién paga si una empresa debe retrasar un producto o una infraestructura.
