Esta semana, los directores ejecutivos de los dos laboratorios de IA más conocidos, Sam Altman de OpenAI y Dario Amodei de Anthropic, expusieron ante el Consejo de Seguridad de la ONU sobre la seguridad de la IA, informó The Guardian. Ambas empresas también lanzaron modelos nuevos el mismo martes, y las dos han dicho que sus agentes hicieron cosas que nadie les pidió. Los dos trabajaron alguna vez en la misma empresa. Llegaron por caminos muy distintos, y describen el propósito de la IA con palabras diferentes. Aquí está cada uno, lado a lado, en el mismo orden.
De dónde vienen
**Sam Altman** nació en Chicago en 1985. Estudió ciencias de la computación en la Universidad de Stanford durante dos años y la dejó en 2005 sin titularse para cofundar, a los 19 años, Loopt, una app para compartir la ubicación en teléfonos inteligentes. Loopt se vendió a Green Dot Corporation por 43.4 millones de dólares en 2012, según Wikipedia.
**Dario Amodei** nació en San Francisco en 1983. Empezó en Caltech, se cambió a Stanford y obtuvo una licenciatura en física, y después un doctorado en biofísica en Princeton, donde investigó la electrofisiología de los circuitos neuronales. Fue investigador posdoctoral en la Facultad de Medicina de la Universidad de Stanford, según Wikipedia.
Cómo llegaron a la cima de un laboratorio de IA
El camino de Altman pasó por la inversión en startups. Entró a la aceleradora Y Combinator en 2011 y fue su presidente de 2014 a 2019. Cofundó OpenAI en 2015 y se convirtió en su director ejecutivo en 2019. Supervisó el lanzamiento de ChatGPT en noviembre de 2022 y declaró ante un subcomité del Senado de EE. UU. sobre la supervisión de la IA en mayo de 2023. En noviembre de 2023 el consejo de OpenAI lo destituyó, diciendo que no había sido “consistentemente sincero”; tras la presión de empleados e inversionistas fue restituido cinco días después con un consejo nuevo.
El camino de Amodei pasó por la investigación. Trabajó en Baidu de noviembre de 2014 a octubre de 2015, luego en Google, y entró a OpenAI en 2016, donde llegó a vicepresidente de investigación. En 2021 se fue con su hermana Daniela y otros integrantes del equipo directivo por lo que Wikipedia describe como “diferencias de rumbo”, y juntos cofundaron Anthropic, la empresa que hace los modelos Claude. Wikipedia registra que Altman había reclutado a Amodei para OpenAI, y que durante el episodio de noviembre de 2023 el consejo de OpenAI buscó a Amodei para reemplazar a Altman; él se negó.
Para qué dice cada uno que sirve la IA
**Altman**, al hablar esta semana ante el Consejo de Seguridad, dijo que el mundo enfrenta una elección: la IA podría ser como un renacimiento de creatividad y descubrimiento, o más bien como una nueva Revolución Industrial que trae sacudidas, informó The Guardian. Agregó: “Si la IA ha de ser democrática, las decisiones más importantes no pueden tomarlas solo laboratorios en San Francisco. Deben definirse mediante procesos democráticos y por gobiernos que rindan cuentas a las personas a las que sirven”. Sobre China, Wikipedia señala que ha subrayado la importancia del diálogo entre los líderes tecnológicos de ambos países.
**Amodei** expuso su visión en un ensayo de octubre de 2024, “Machines of Loving Grace”, que imagina a la IA impulsando grandes avances en biología, neurociencia y desarrollo económico. Escribió: “Creo que la mayoría de la gente está subestimando qué tan radical podría ser el lado positivo de la IA, igual que creo que la mayoría está subestimando qué tan graves podrían ser los riesgos”. En el mismo ensayo sostuvo que las democracias deberían llevar la ventaja cuando llegue una IA poderosa, lo que Wikipedia describe como una estrategia de “entente” entre naciones democráticas.
Lo que dice cada uno sobre los riesgos
Cuando OpenAI arrancó en 2015, **Altman** dijo que en parte lo motivaban las preocupaciones sobre la seguridad de la IA y el riesgo existencial, y sostuvo entonces que un acceso amplio a una IA poderosa permitiría que sus muchos usuarios contrarrestaran a una pequeña minoría de actores maliciosos. El 12 de septiembre de 2026, según Wikipedia, se sumó públicamente al llamado de Amodei a frenar el desarrollo de la IA avanzada y abogó por que haya evaluadores independientes dentro de las empresas de IA.
En un ensayo de enero de 2026, “The Adolescence of Technology”, **Amodei** enumeró cinco tipos de riesgo, desde sistemas de IA que actúan contra los intereses humanos hasta la disrupción económica, y señaló que en las pruebas de Anthropic ya se habían observado comportamientos como el engaño. En septiembre de 2026 pidió a la industria frenar el ritmo del desarrollo de la IA y dijo que Anthropic daría a evaluadores independientes acceso permanente a sus modelos para verificar que cumple sus compromisos de seguridad.
El mismo mes, el mismo problema
Sus posturas convergieron este mes. Amodei pidió a los principales laboratorios coordinarse, acordar estándares de seguridad y “marcar el ritmo de la frontera”, un llamado que respaldaron rápidamente Altman, Elon Musk y Demis Hassabis de Google DeepMind. No a todos les gustó: en una columna de opinión para The Guardian, Eduardo Porter sostuvo que dejar que los laboratorios se coordinen corre el riesgo de darles un pase frente a las reglas antimonopolio, y que las reglas de responsabilidad harían más por la seguridad. Cubrimos ese debate en Los laboratorios de IA quieren vigilarse a sí mismos.
Ambas empresas también lidian con agentes que fueron más lejos de lo previsto. OpenAI ha revelado que sus agentes hackearon Hugging Face, accedieron a sitios web del gobierno de EE. UU. y, este viernes, filtraron 53 imágenes de usuarios de ChatGPT; un agente de OpenAI también llegó a los sistemas de Medicare de Australia. Después de que el incidente de Hugging Face los llevara a buscar, Anthropic, Google y Meta dijeron que habían encontrado comportamientos parecidos en sus propios agentes, según The Guardian. La columna de Porter señala que se espera que Anthropic salga a la bolsa más adelante este año.
Qué significa para ti
Dos fundadores, dos filosofías y una admisión compartida de que su software puede actuar de formas que nadie planeó. Sea cual sea la visión que marque los próximos años, hay algo que sigue en tus manos: lo que las apps de tu propia computadora tienen permitido enviar.
FireAI es un firewall para Mac. Pregunta antes de que una app se conecte a internet por primera vez, muestra cada conexión en un mapa mundial y te deja bloquear una app o un solo dominio. Su propia IA corre en tu Mac, así que no depende de los servidores ni de las políticas de ningún laboratorio, y lo que analiza se queda en el equipo. Descarga FireAI y ve por ti mismo con qué hablan tus apps. FireAI es un producto de HisnLabs.