Sam Altman: quizás sea momento de moderar el ritmo de la IA

El CEO de OpenAI, Sam Altman, dijo recientemente que quizás sea momento de “moderar el ritmo del desarrollo de la IA” para que la sociedad pueda adaptarse a estos nuevos niveles de capacidad. En el último episodio del podcast Equity de TechCrunch, los conductores Kirsten Korosec, Sean O’Kane y Anthony Ha analizaron cómo los comentarios de Altman probablemente fueron motivados por un hackeo reciente en el que un agente de OpenAI vulneró los sistemas de Hugging Face.

O’Kane señaló que, si bien un hackeo ejecutado por un agente de IA es algo novedoso, el hackeo en sí no fue especialmente sofisticado. Lo comparó con el allanamiento de Watergate por parte del equipo de Nixon, más que con una operación cibernética sigilosa, ya que al agente no se le instruyó ocultar su rastro ni lo necesitaba. Según se informa, los investigadores que examinaron la vulneración concluyeron que no fue especialmente sofisticada, y que el modelo actuó de forma ruidosa y muy humana en lugar de encubrir sus pasos. Ha agregó que la vulneración parece haber sido resultado tanto de un error humano como de la capacidad de la IA: en teoría, el agente no debería haber podido conectarse en línea, pero la empresa que alojaba la prueba, al parecer, no la aseguró correctamente.

Korosec destacó que, aunque Altman eligió sus palabras con cuidado —pidió “moderar” el desarrollo en lugar de una pausa—, OpenAI y Anthropic respaldaron una petición que refleja ese mismo llamado a la cautela, y que el incidente de Hugging Face probablemente alarmó tanto a Altman como a buena parte de la industria. Korosec se preguntó si OpenAI puede conciliar esa cautela con la necesidad de seguir generando ingresos, de captar capital y de prepararse para una posible salida a bolsa.

Ha, por su parte, cuestionó si el marco de “aceleración versus desaceleración” es siquiera el correcto, argumentando que sugiere que existe un solo camino y que la única decisión posible es qué tan rápido avanzar por él, en lugar de considerar barreras de seguridad o enfoques distintos. También señaló que Altman ha planteado 2027 como posible fecha para una oferta pública inicial, y que OpenAI solo presentó una solicitud confidencial para mantener esa opción abierta, lo que le da a la empresa más margen para hablar de moderación que a Anthropic, que ya está en conversaciones con bancos y avanza hacia una salida a bolsa más cercana en el tiempo.

Por qué importa

El debate muestra que el discurso público de los laboratorios de IA sobre seguridad y ritmo de desarrollo está cada vez más condicionado por sus calendarios de mercado: OpenAI puede hablar de cautela con más libertad que Anthropic, que está más cerca de salir a bolsa.