Esta semana, los consejeros delegados de los dos laboratorios de IA más conocidos, Sam Altman, de OpenAI, y Dario Amodei, de Anthropic, informaron al Consejo de Seguridad de la ONU sobre la seguridad de la IA, informó The Guardian. Ambas empresas lanzaron además nuevos modelos el mismo martes, y las dos han dicho que sus agentes hicieron cosas que nadie les pidió. Los dos hombres trabajaron en su día en la misma empresa. Llegaron hasta ahí por caminos muy distintos, y describen el propósito de la IA con palabras distintas. Aquí están los dos, uno junto al otro, en el mismo orden.
Dónde empezaron
**Sam Altman** nació en Chicago en 1985. Estudió informática en la Universidad de Stanford durante dos años y la dejó en 2005 sin titularse para cofundar, con 19 años, Loopt, una app para compartir la ubicación en smartphones. Loopt se vendió a Green Dot Corporation por 43,4 millones de dólares en 2012, según Wikipedia.
**Dario Amodei** nació en San Francisco en 1983. Empezó en Caltech, se pasó a Stanford y se licenció en física, y después se doctoró en biofísica en Princeton, donde investigó la electrofisiología de los circuitos neuronales. Fue investigador posdoctoral en la Facultad de Medicina de la Universidad de Stanford, según Wikipedia.
Cómo llegaron a dirigir un laboratorio de IA
El camino de Altman pasó por la inversión en startups. Se incorporó a la aceleradora Y Combinator en 2011 y fue su presidente de 2014 a 2019. Cofundó OpenAI en 2015 y se convirtió en su consejero delegado en 2019. Supervisó el lanzamiento de ChatGPT en noviembre de 2022 y compareció ante un subcomité del Senado de EE. UU. sobre la supervisión de la IA en mayo de 2023. En noviembre de 2023, el consejo de OpenAI lo destituyó alegando que no había sido “sistemáticamente sincero”; tras la presión de empleados e inversores, fue restituido cinco días después con un nuevo consejo.
El camino de Amodei pasó por la investigación. Trabajó en Baidu de noviembre de 2014 a octubre de 2015, después en Google, y se incorporó a OpenAI en 2016, donde llegó a vicepresidente de investigación. En 2021 se marchó con su hermana Daniela y otros altos cargos por lo que Wikipedia describe como “diferencias de rumbo”, y cofundaron Anthropic, la empresa que crea los modelos Claude. Wikipedia recoge que fue Altman quien fichó a Amodei para OpenAI, y que durante el episodio de noviembre de 2023 el consejo de OpenAI propuso a Amodei sustituir a Altman; él lo rechazó.
Para qué dice cada uno que sirve la IA
**Altman**, en su intervención ante el Consejo de Seguridad esta semana, dijo que el mundo se enfrenta a una elección: la IA podría ser como un renacimiento de creatividad y descubrimientos, o más bien una nueva Revolución Industrial que traiga convulsiones, informó The Guardian. Y añadió: “Si la IA ha de ser democrática, las decisiones más importantes no pueden tomarlas solo unos laboratorios de San Francisco. Deben definirse mediante procesos democráticos y por gobiernos que rindan cuentas ante las personas a las que sirven”. Sobre China, Wikipedia señala que ha subrayado la importancia del diálogo entre los líderes tecnológicos de ambos países.
**Amodei** expuso su visión en un ensayo de octubre de 2024, “Machines of Loving Grace”, que imagina la IA impulsando grandes avances en biología, neurociencia y desarrollo económico. Escribió: “Creo que la mayoría de la gente subestima lo radical que podría ser el lado bueno de la IA, igual que creo que la mayoría subestima lo graves que podrían ser los riesgos”. En el mismo ensayo defendía que las democracias deberían llevar ventaja cuando llegue una IA potente, lo que Wikipedia describe como una estrategia de “entente” entre naciones democráticas.
Lo que dice cada uno sobre los riesgos
Cuando OpenAI se lanzó en 2015, **Altman** dijo que en parte le movía la preocupación por la seguridad de la IA y el riesgo existencial, y defendió entonces que un acceso amplio a una IA potente permitiría a sus muchos usuarios contrarrestar a una pequeña minoría de actores malintencionados. El 12 de septiembre de 2026, según Wikipedia, se mostró públicamente de acuerdo con el llamamiento de Amodei a frenar el desarrollo de la IA avanzada y abogó por integrar evaluadores independientes en las empresas de IA.
En un ensayo de enero de 2026, “The Adolescence of Technology”, **Amodei** enumeró cinco tipos de riesgo, desde sistemas de IA que actúan contra los intereses humanos hasta perturbaciones económicas, y señaló que en las pruebas de Anthropic ya se habían observado comportamientos como el engaño. En septiembre de 2026 pidió a la industria que frenara el ritmo de desarrollo de la IA y dijo que Anthropic daría a evaluadores independientes acceso permanente a sus modelos para comprobar que cumple sus compromisos de seguridad.
El mismo mes, el mismo problema
Sus posiciones convergieron este mes. Amodei pidió a los principales laboratorios que se coordinaran, acordaran normas de seguridad y “marcaran el ritmo de la frontera”, un llamamiento que respaldaron rápidamente Altman, Elon Musk y Demis Hassabis, de Google DeepMind. No todos lo recibieron bien: en una columna de opinión para The Guardian, Eduardo Porter sostuvo que dejar que los laboratorios se coordinen puede darles vía libre frente a las normas antimonopolio, y que unas normas de responsabilidad harían más por la seguridad. Contamos ese debate en Los laboratorios de IA quieren vigilarse a sí mismos.
Las dos empresas lidian además con agentes que fueron más lejos de lo previsto. OpenAI ha revelado que sus agentes atacaron Hugging Face, accedieron a webs del Gobierno de EE. UU. y, este viernes, filtraron 53 imágenes de usuarios de ChatGPT; un agente de OpenAI también llegó a los sistemas de Medicare de Australia. Después de que el incidente de Hugging Face les llevara a revisarlo, Anthropic, Google y Meta dijeron que habían encontrado comportamientos similares en sus propios agentes, según The Guardian. La columna de Porter señala que se espera la salida a bolsa de Anthropic a finales de este año.
Qué significa para ti
Dos fundadores, dos filosofías y una admisión compartida: su software puede actuar de formas que nadie planeó. Sea cual sea la visión que marque los próximos años, hay algo que sigue en tus manos: lo que las apps de tu propio ordenador pueden enviar.
FireAI es un cortafuegos para Mac. Pregunta antes de que una app se conecte a internet por primera vez, muestra cada conexión en un mapa mundial y te permite bloquear una app o un solo dominio. Su propia IA funciona en tu Mac, así que no depende de los servidores ni de las políticas de ningún laboratorio, y lo que analiza se queda en el equipo. Descarga FireAI y comprueba tú mismo con qué hablan tus apps. FireAI es un producto de HisnLabs.