¿Por qué huyen los líderes de la IA?

Normalmente, cuando talentos de renombre abandonan los gigantes de Silicon Valley, el lenguaje de relaciones públicas es sencillo: se dirigen a un “nuevo capítulo” o “agradecidos por el viaje”, o tal vez hay algunos indicios vagos sobre una startup sigilosa. Sin embargo, en el mundo de la IA, las salidas recientes se parecen más a advertencias de denunciantes.

Durante las últimas semanas, una serie de investigadores senior y líderes de seguridad de OpenAI, Anthropic, xAI y otros han renunciado en público, y no hay nada silencioso o vainilla en ello.

Tomemos, por ejemplo, la investigadora de OpenAI Zoë Hitzig. Ella optó por no cambiar silenciosamente su perfil de LinkedIn sino anunciar su renuncia en un New York Times ensayo invitado titulado “OpenAI está cometiendo los errores que cometió Facebook. Lo dejo.»

¿Quién dimite de esa manera? Veces?

Lo que la molestó fue la decisión de OpenAI de comenzar a probar anuncios dentro de ChatGPT. Irónicamente, en 2024 Sam Altman, director ejecutivo de OpenAI, había dicho: «Odio los anuncios«, argumentando que «los anuncios más la IA»… son «excepcionalmente inquietantes» porque las personas se ven obligadas a descubrir quién paga para influir en ellas con las respuestas. Pero, bueno, cuando incluso los contadores internos de OpenAI esperan que la empresa perder 14 mil millones de dólares en 2026 Solo, Altman logró superar sus escrúpulos.

No es así, Hitzig. Ella escribió: «La gente le cuenta a los chatbots sus temores médicos, sus problemas de relación, sus creencias sobre Dios y el más allá. La publicidad basada en ese archivo crea un potencial para manipular a los usuarios de maneras que no tenemos las herramientas para comprender, y mucho menos prevenir». (Tiene razón, por supuesto).

Pero lo siento, eso es ingenuo. Facebook no se equivocó. Ganó miles de millones de dólares explotando a personas que compartían cosas en línea con familiares y amigos. Ha sido una perogrullada en los modelos de negocio de Internet desde finales de la década de 2000 que “si no estás pagando por el servicio, tú son el producto”.

Claro, las revelaciones íntimas unidas a una empresa publicitaria a través de IA son una construcción espeluznante. También lo es la capacidad de Facebook y X de sacar provecho de hacer que la gente caiga en la madriguera del compromiso, la indignación y la elaboración de perfiles de comportamiento. Pero nadie los detiene. Diablos, en 2016, Facebook compartió sus datos con Cambridge Analytica, lo que permitió a la campaña de Trump personalizar los anuncios a un nivel casi individual, lo que ayudó a Donald Trump a ganar las elecciones de 2016.

Eso finalmente le costó a Facebook alrededor de $6 mil millones de dólares en multas y demandas. Eso suena como mucho dinero hasta que se considera que la empresa matriz de Facebook, Meta, tuvo ingresos GAAP en 2025 de más de 200 mil millones de dólares, casi todos provenientes de publicidad.

Tengo la sensación de que Altman superará su malestar por ese tipo de ingresos.

Mientras tanto, en Anthropic, el jefe saliente del equipo de investigación de Salvaguardias, Mrinank Sharma, fue aún más directo. En una carta de renuncia compartida con el mundo en X, escribió que “el mundo está en peligro.» Describió, en el tipo de lenguaje cortés pero directo que molesta a los abogados, lo difícil que es en la práctica para una empresa «dejar que nuestros valores gobiernen nuestras acciones» cuando el dinero, el mercado y el prestigio interno apuntan hacia el envío de modelos más capaces y más rápido. Aquí, nuevamente, vemos que la ética pasa a un segundo plano frente a las ganancias.

Eso sí, Anthropic es la empresa de inteligencia artificial que se autodenominó “IA constitucional” y un despliegue cuidadoso. Si los altos directivos de seguridad sienten que ya no pueden anteponer la moralidad al dinero, eso es una señal de alerta.

Si se tratara simplemente de dos investigadores idealistas que adoptan una postura, se podría descartar como personalidad y política. No lo es. OpenAI disolvió recientemente su equipo de “alineación de misiones”que debía trabajar para hacer que la IA fuera segura. (No olvide que OpenAI comenzó como una organización sin fines de lucro financiada con donaciones y promesas en lugar de inversiones de capital y dedicada a garantizar que la inteligencia artificial general (AGI) beneficiara a «toda la humanidad»).

Hoy en día, OpenAI y Anthropic se están posicionando para que las IPO generen miles de millones para sus propietarios y eventuales accionistas. Como sabe cualquiera que preste atención al mercado de valores desde que ChatGPT 3.5 irrumpió en escena en 2023, el mercado está dominado por los Siete Magníficos impulsados ​​por IA con su capitalización de mercado de 20,2 billones de dólares. ¿Y te preguntas por qué la gente está preocupada por el estallido de una burbuja de IA?

Hay otros líderes de IA que se dirigen hacia la puerta. En xAI de Elon Musk, ahora recién incorporado a SpaceX a través de un acuerdo de acciones, Los cofundadores de xAI, Tony Wu y Jimmy Ba, se dirigieron a los botes salvavidas mientras que Musk habló de «reorganizaciones» y de cómo «algunas personas son más adecuadas para las primeras etapas de una empresa y menos adecuadas para las etapas posteriores». Claro, Elon, claro.

Mientras tanto, Los fundadores y el director ejecutivo de VERSES AI están fuera a medida que la junta instala un líder interino e impulsa un giro comercial más pronunciado. Incluso Apple está sufriendo una “fuga de cerebros en IA”. Allí, el vicepresidente senior John Giannandrea y el líder de Siri, Robby Walker, se fueron a Meta.

Cada historia individual es diferente, pero veo un hilo aquí. La gente de IA que estaba preocupada por «¿qué deberíamos construir y cómo hacerlo de forma segura?» se van. Serán reemplazados por personas cuya primera, si no única, prioridad es «¿qué tan rápido podemos convertir esto en un negocio rentable?» Ah, y no sólo rentable; Ni siquiera un unicornio valorado en mil millones de dólares es suficiente para estas personas. Si el negocio no es un “decacornio”, una nueva empresa privada valorada en más de 10 mil millones de dólares, no quieren oír hablar de ello.

Creo que es muy revelador que Peter Steinberger, el creador del increíblemente popular (en todos los sentidos de la palabra) bot OpenClaw AI, ya haya sido contratado por OpenAI. Altman lo llama «genio» y dice que sus ideas «rápidamente se convertirán en el núcleo de nuestra oferta de productos».

En realidad, OpenClaw es un desastre de seguridad a punto de suceder. Algún día, pronto, algunas personas o empresas imprudentes perderán sus camisas porque confiaron en ellas información valiosa. ¿¡Y su inventor es quién Altman quiere en el corazón de OpenAI!?

Gartner necesita rehacer su ciclo de publicidad. Con la IA, hemos superado el “pico de las expectativas infladas” y avanzamos hacia el “pináculo de las fantasías financieras histéricas”.

¿Que la gente se vaya antes de que todo se vaya al infierno? Ellos son los sabios.