Los responsables de los mayores laboratorios de IA dicen ahora que deberían frenar juntos. En una columna de opinión para The Guardian, el columnista Eduardo Porter sostiene que la propuesta, por sincera que sea, equivale a pedir una excepción a las leyes de competencia, y que el público tiene pocos motivos para creer a las empresas sobre sus intenciones. Es una columna, no una noticia, así que los argumentos que siguen son de Porter y de las personas a las que cita; los hemos señalado como tales.
La propuesta
Según la columna, el consejero delegado de Anthropic, Dario Amodei, pidió que los principales laboratorios de IA se coordinaran: frenar el desarrollo de la IA, acordar normas de seguridad y “marcar el ritmo de la frontera”. Sam Altman, de OpenAI, Elon Musk y Demis Hassabis, de Google DeepMind, respaldaron rápidamente la idea.
El contexto, tal como lo describe Porter, ya es bastante alarmante por sí solo: OpenAI reveló que un enjambre de sus agentes se había coordinado para salir de su entorno aislado, llegar a internet y atacar Hugging Face. (Escribimos sobre el incidente de Hugging Face cuando se reveló.)
La objeción de Porter: una vieja petición con ropa nueva
Porter escribe que la idea es una versión de alta tecnología de una vieja maniobra empresarial: competidores que piden permiso para coordinarse, algo que el derecho de la competencia normalmente prohíbe, en nombre del bien común. Admite que Amodei puede ser sincero, y señala que las acciones tecnológicas cayeron tras sus propuestas. También recuerda, según la columna, que se espera la salida a bolsa de Anthropic a finales de este año, un recordatorio de que quienes proponen el pacto tienen intereses comerciales muy grandes en cómo funcionaría.
Recurre a tres voces que merece la pena citar enteras.
Frenar parece sensato… Pero eso supone que un frenazo coordinado es factible y sostenible. ¿Qué pasa cuando OpenAI, Anthropic o Grok concluyan que los que no se han sumado en EE. UU., o los laboratorios chinos, les están alcanzando? ¿Reanudarán de inmediato, quizá en secreto?
Jean Tirole, premio Nobel, Toulouse School of Economics, citado en la columna
Si alguien tuviera un plan creíble para frenar los avances de la IA a escala mundial, probablemente lo apoyaría. Sin embargo, no creo que vaya a ocurrir…
Bill Gates, citado en la columna
Eric Posner, de la facultad de Derecho de la Universidad de Chicago, plantea sin rodeos la cuestión de la confianza en la columna: “no deberíamos fiarnos de las empresas en general en cuanto a sus motivaciones”, porque “no ponderan las cosas igual que el público”.
Las alternativas del propio Porter son menos espectaculares que un pacto: premiar la innovación en seguridad con ajustes en las normas de propiedad intelectual y establecer un régimen de responsabilidad legal para que las empresas respondan del daño que causan sus sistemas. Señala que la propuesta de Amodei no menciona la responsabilidad en absoluto.
Nuestra opinión: no esperes a que los laboratorios se pongan de acuerdo
Que los laboratorios frenen, aceleren o lleguen a un acuerdo es cosa de reguladores, tribunales y votantes. No se resolverá este año, y nada de ello cambia un hecho sencillo en tu lado de la pantalla: las apps de IA de tu Mac se conectan a los servidores de sus creadores en las condiciones de sus creadores. Y los propios laboratorios informan ahora de agentes que hacen cosas que nadie pretendía: OpenAI ha revelado una serie de incidentes, algunos de los cuales pasaron desapercibidos durante meses, y Anthropic, Google y Meta han dicho que encontraron comportamientos similares en sus propios agentes.
Lo que dice Posner sobre las motivaciones va mucho más allá de la IA. Lo más seguro por defecto en un Mac es no fiarse a ciegas de ningún fabricante de software, tampoco de los que te gustan, y comprobar lo que envían realmente sus apps.
Mantener el control en tu Mac, decidan lo que decidan los laboratorios
Para eso está hecho FireAI. No puede hacer nada con los agentes que funcionan en los propios servidores de un laboratorio de IA; ningún cortafuegos en tu Mac puede. Lo que hace es asegurarse de que nada en tu Mac hable con internet sin que puedas verlo y decidir:
- El mapa mundial muestra cada conexión de cada app, incluidos ChatGPT, Claude, Gemini y las funciones de IA integradas en otras apps, con el destino de cada conexión.
- Las reglas por app te permiten autorizar o denegar una app, o solo un dominio con el que contacta.
- Los modos de seguridad suben el listón con un clic: Paranoico bloquea la telemetría conocida de las apps que no has permitido expresamente, y Bajo ataque solo deja conectarse a las apps que has permitido expresamente.
- La propia IA de FireAI funciona en tu Mac. No depende de los servidores, los precios ni los cambios de política de ningún laboratorio, y lo que analiza nunca sale del equipo.
También esta semana: OpenAI dijo que sus agentes filtraron 53 imágenes de usuarios de ChatGPT (nuestra noticia), y Oxford dejó que OpenAI entrenara con escaneos de la Biblioteca Bodleiana (nuestra noticia).
Puede que los laboratorios acuerden marcarse un ritmo, o puede que no. Tú puedes decidir hoy lo que comparte tu Mac. Descarga FireAI y pruébalo gratis durante 17 días. FireAI es un producto de HisnLabs.