Recientemente las declaraciones de un ahora ya ex-ingeniero de Anthropic se han hecho virales a nivel internacional alimentando, una vez más, la idea de que la IA va a sustituir ya no solo a los programadores si no a la humanidad entera y que de paso nos va a aniquilar a todos. En este artículo voy ha realizar un breve análisis de lo sucedido y dar mi humilde opinión al respecto y, que por una vez, tal vez te asombre.
Antes de empezar
Que quede claro desde el principio: soy de los que opinan que la IA ha llegado para quedarse y para cambiar, para bien o para mal, muchas cosas que ahora damos por sentadas. El problema es que nadie sabe a ciencia cierta ni que cosas van a ser ni que impacto van a tener.
También debemos ser conscientes que todo lo que rodea la IA está impregnado a día de hoy de un aura de hype y marketing sin precedentes. Y es que hasta el más tonto entiende el potencial de la IA y es precisamente ese potencial lo que ha generado una inversión estratosférica sin camino de retorno. Los grandes luchan encarnizadamente por quedarse la tajada más grande del pastel y eso los lleva a exagerar, mentir y falsear lo que sea necesario para conseguir su objetivo de triunfo.
El asunto
Recientemente un ya ex-ingeniero de Anthropic publicaba un post en Twitter/X que se hacia viral:
The people building AI earnestly believe that it could kill us all by the end of the decade. This is not a marketing stunt. If anything, many executives and senior researchers will couch their phrasing in the press to sound sensible - but I hear the same people express fear
Te hago un resumen rápido: Jacob Coxon tras tres años trabajan pre-entrenando modelos en Anthropic se cansa y un día cuelga los guantes y declara que las empresas están metidas en una carrera loca y desenfrenada en la creación de una IA cada vez mas potente sabiendo de los peligros que ellos comporta pero mirando hacia otro lado por la presión de ser los que dominen el mercado. En conclusion: que todos juegan a ganar a cualquier precio (nada nuevo bajo el sol).
Y esto, según nos dicen, no es ningún truco de marketing porque que muchos otros investigadores se han sumado al tweet para expresar el mismo miedo y respeto al post de Jacob.
La conclusion es que la prensa explota con un titular que podríamos resumir en: los investigadores tienen miedo de la IA porque en menos de una década nos podría matar.
Dudas políticas
Pues parece que hay dudas. No voy a ahondar mucho aquí. Mejor os dejo este video de Esto no es normal… donde se hace un análisis muy exhaustivo sobre como ha sido la sucesión de eventos (publicaciones, respuestas, etc) que se han ido producción y las sospechas que podrían derivarse por los timmings en los que las publicaciones se realizaron en que, según algunos, todo podría ser una maniobra política o, en su defecto, a la que algunos politicos querrián sumarse.
Las otras noticias
Dejando de banda esta noticia de la que tanto se ha hecho eco en las redes, han habido otras también importantes. Principalmente me han llamado la atención estas dos:
Vaya, después de quemar las naves ahora les sale su vena mas moralista y se suman a la filosofía de un gran poder conlleva una gran responsabilidad Peter.
OpenAI perdió $5.000 millones en 2024, $38.000 millones en 2025 y te puedes hacer una idea de lo que va a perder en 2026. Pero no solo es OpenAI, son todas las empresas que participan en la locura de la carrera de la IA. Todas tienen claro que la IA es el futuro y por eso todas están endeudándose de forma estratosférica y exponencial.
Y aquí es donde dejamos el terreno de la tecnología y nos metemos en el terreno de la economía. Dejamos de hablar de IA como una tecnología, como una herramienta y pasamos a hablar de ellas como un concepto con el que se especula.
Quienes invierten miles de millones en empresas de IA (como los grandes fondos de inversion) no lo hace porque la IA mole mucho, lo hacen porque quieren ganar dinero para ellos y para los clientes q representa. Si la cosa va bien perfecto y si la cosa va mal les da igual mientras no pierdan dinero.
Todo es cuestión de que se cumplan las expectativas vendidas.
Lo explico rápido: llega alguien hablando de IA y sus posibilidades. Todos entienden que es una revolución así que se suman al carro porque las expectativas son enormes y pueden multiplicar su dinero por mucho. Bueno pues así comienza una burbuja económica.
De inversion a burbujita y a burbuja
- Alguien vende expectativas. Alguien se las cree y las compra (pone dinero esperando mayor rentabilidad de vuelta).
- Comienza a crecer la competencia por comerse el pastel de la AI.
- Comienza a crecer la presión por crecer más y más rápido.
- Comienza a ser necesario quemar mas dinero y más rápido.
- Alguien sigue vendiendo más expectativas (mucho más expectativas que las de antes).
- Más “alguienes” se creen esas nuevas y mayores expectativas así que ponen más dinero esperando más rentabilidades.
Y así sucesivamente. La cuestión que todo el mundo quiere saber es: cuando para este circulo vicioso? Pues hay dos opciones:
- Las expectativas se cumplen y todo el mundo sale contento.
- Las expectativas no se cumplen y no todo el mundo sale contento.
Para que se cumpla el punto 1 es necesario llegar a una situación “final” es decir, hay q llegar a una “meta” donde la empresa de IA factura a espuertas y los inversores recuperan su inversion con creces.
Para que se cumpla la situación 2 basta con que un mosquito se tire un pedo. La primera noticia que huela a creo que las expectativas que me prometiste no se van a cumplir puede hacer que un gran inversor retire su dinero (venda su parte mientras pueda a otro dispuesto a pagar por ella) y eso genere una cascada de dudas a otros inversores y hagan lo mismo. Te puedes imaginar como termina.
¿Como juntamos las noticias con la burbuja?
Ahora ya tenemos los dos cables con los que podemos cerrar el circuito. Mi teoría es bastante simple.
Soy de los que opinan que las empresas de IA se han pasado de frenada. La IA basada en LLMs puede hacer muchas cosas increíbles pero no todo lo que han prometido. Y prometer ya sabemos que han prometido en exceso. Os recuerdo que según algunos iluminados (o simplemente mentirosos) los programadores se habrían extinguido hace ya dos años.
Que la IA actual es increíble no lo discuto. Que mañana algún imbécil deja decidir a un modelo a quien hay que mandar un misil, tampoco lo discuto. Pero de ahi hay un camino muy largo hasta justificar la inversion tan salvaje que se ha producido.
Están pidiendo ralentizar el proceso para justificar su engaño en las expectativas prometidas.
Sinceramente creo que tanto Sam Altman, Dario Amodei, como cualquier otro saben que no van a llegar a cumplir con las expectativas que han vendido y, por lo que he comentado mas arriba, ya os podéis imaginar como termina la fiesta si los que la están pagando comienzan a sospechar que la fiesta no va a triunfar como se esperaba.
Lo último que quieren es que la musica deje de sonar, pero a la vez, el ritmo de baile se ha vuelto insostenible. Saben que para desarrollar mejor tecnología necesitan algunas décadas.
Perdón por ser brusco/cuñado pero podríamos decir que hemos llegado aquí después de más de 70 años de investigación y donde lo máximo que se llegó con la IA de cara al gran publico fue jugar al ajedrez con el ordenador. Es necesario más tiempo.
Saben perfectamente que están al limite de lo que pueden conseguir solo con LLMs. Así que lo que piden es bajar el motor de revoluciones para tener más tiempo. Por mucho que ellos lo vendan como un tema de seguridad (incluso aunque tengan razón).
Pero hay otra jugada
Si, todavía hay otra carta más en el tablero. Ahora es cuando me imagináis como un tipo con gorro de papel de plata escribiendo a altas horas de la madrugada con una máquina de escribir para que no le roben sus ideas los del proyecto TEMPEST.
A raíz de la polémica generada por Jacob Coxon vuelve a surgir el movimiento politico en EEUU que propone que haya regulaciones sobre la IA. A priori puede parecer lógico, algo con el potencial de hacernos daño no puede estar en manos de unos tipos más preocupados por sacar beneficio que por la seguridad de todos.
En 2024 ya se intento con el proyecto de ley SB1047, el cual proponía regular los sistemas de IA para evitar riesgos de seguridad publica. Algunos de sus puntos era:
-
Prevenir daños críticos: Buscaba castigar o prohibir el uso de IA para crear armas biológicas, químicas, nucleares o realizar ciberataques masivos.
-
Botón de apagado: Exigía incluir un mecanismo para apagar por completo el sistema si este perdía el control.
-
Auditorías externas: Obligaba a realizar revisiones anuales de seguridad hechas por expertos independientes.
Sobre el papel todo muy bien. ¿Quien está en contra de acabar con las guerras, de acabar con el hambre o en contra del medio ambiente? Pues lo mismo.
¿Entonces cual es el problema? Pues el problema es que las regulaciones siempre tienen efectos secundarios. Como podrás darte cuenta cumplir con todas las exigencias de la ley no es ni fácil ni gratuito. Si, ha llegado el tema del dinero otra vez. ¿Acaso solo las grandes empresas desarrollan modelos? ¿é pasa con aquellos modelos open source? ¿qué pasa con un investigador que trabaje por cuenta propia en un modelo open source? ¿va a poder cumplir con toda la burocracia que impondría la ley? ¿tendría la capacidad?
Una de las mayores criticas a la regulación es precisamente esa, que favorecería a las grandes empresas y corporaciones en detrimento del open source y proyectos que podrían ser públicos y libres.
La IA es un pastel nuevo, grande y suculento, lo ultimo que quieren es sea gratis.
Ni que decir tiene que me le he dado otra capa de papel de plata al gorro cuando conoces que tanto Elon Musk como Dario Amodei estan a favor. Además en su momento Sam Altman estaba en contra precisamente porque justificaba que socavaba la innovación, pero ahora esta a favor de que se ralentice el desarrollo y haya mayores medidas de seguridad.