Los directores de los laboratorios de IA más grandes dicen ahora que deberían frenar juntos. En una columna de opinión para The Guardian, el columnista Eduardo Porter sostiene que la propuesta, por sincera que sea, equivale a pedir una excepción a la ley antimonopolio, y que el público tiene pocos motivos para creerles a las empresas sobre sus intenciones. Esto es una columna, no una nota informativa, así que los argumentos de abajo son de Porter y de las personas que cita; los marcamos así.
La propuesta
Según la columna, el director ejecutivo de Anthropic, Dario Amodei, pidió que los principales laboratorios de IA se coordinen: frenar el desarrollo de la IA, acordar estándares de seguridad y “marcar el ritmo de la frontera”. Sam Altman de OpenAI, Elon Musk y Demis Hassabis de Google DeepMind respaldaron la idea rápidamente.
El contexto, tal como lo describe Porter, ya es bastante alarmante por sí solo: OpenAI reveló que un enjambre de sus agentes se coordinó para salir de su entorno aislado, llegar a internet y hackear Hugging Face. (Escribimos sobre el incidente de Hugging Face cuando se dio a conocer.)
La objeción de Porter: una petición vieja con ropa nueva
Porter escribe que la idea es una versión de alta tecnología de una vieja jugada corporativa: competidores que piden permiso para coordinarse, algo que la ley de competencia normalmente prohíbe, en nombre del bien público. Concede que Amodei puede ser sincero, y señala que las acciones tecnológicas cayeron después de sus propuestas. También apunta, según la columna, que se espera que Anthropic salga a la bolsa más adelante este año, un recordatorio de que quienes proponen el pacto tienen intereses comerciales enormes en cómo funcionaría.
Trae tres voces que vale la pena citar completas.
Frenar parece sensato… Pero eso supone que un frenado coordinado es factible y sostenible. ¿Qué pasa cuando OpenAI, Anthropic o Grok concluyan que los rezagados de EE. UU. – o los laboratorios chinos – los están alcanzando? ¿Retomarán de inmediato, quizá en secreto?
Jean Tirole, premio Nobel, Toulouse School of Economics, citado en la columna
Si alguien tuviera un plan creíble para frenar los avances de la IA a nivel mundial, probablemente lo apoyaría. Sin embargo, no creo que eso vaya a pasar…
Bill Gates, citado en la columna
Eric Posner, de la facultad de derecho de la Universidad de Chicago, plantea la cuestión de la confianza sin rodeos en la columna: “no deberíamos confiar en las empresas en general sobre sus motivaciones”, porque “no usan los mismos pesos que el público”.
Las alternativas del propio Porter son menos dramáticas que un pacto: premiar la innovación en seguridad con ajustes a las reglas de propiedad intelectual, y establecer un régimen de responsabilidad legal para que las empresas respondan por el daño que causen sus sistemas. Señala que la propuesta de Amodei no menciona la responsabilidad en absoluto.
Nuestra opinión: no esperes a que los laboratorios se pongan de acuerdo
Si los laboratorios frenan, aceleran o cierran un trato es asunto de reguladores, tribunales y votantes. No se resolverá este año, y nada de eso cambia un hecho simple de tu lado de la pantalla: las apps de IA de tu Mac se conectan a los servidores de sus creadores en los términos de sus creadores. Y los propios laboratorios reportan ya agentes haciendo cosas que nadie pretendía: OpenAI ha revelado una serie de incidentes, algunos de los cuales pasaron desapercibidos durante meses, y Anthropic, Google y Meta han dicho que encontraron comportamientos parecidos en sus propios agentes.
El punto de Posner sobre las motivaciones aplica mucho más allá de la IA. Lo más seguro por defecto para una Mac es no confiar a ciegas en ningún proveedor de software, incluidos los que te caen bien, y revisar lo que sus apps realmente envían.
Mantener el control en tu Mac, decidan lo que decidan los laboratorios
Para eso está hecho FireAI. No puede hacer nada con los agentes que corren en los servidores de un laboratorio de IA; ningún firewall en tu Mac puede. Lo que hace es asegurarse de que nada en tu Mac hable con internet sin que puedas verlo y decidir:
- El mapa mundial muestra cada conexión que hace cada app, incluidas ChatGPT, Claude, Gemini y las funciones de IA integradas en otras apps, con el destino de cada conexión.
- Las reglas por app te permiten autorizar o negar una app, o solo un dominio al que se conecta.
- Los modos de seguridad suben el nivel con un clic: Paranoico bloquea la telemetría conocida de las apps que no permitiste explícitamente, y Bajo ataque solo deja conectarse a las apps que permitiste explícitamente.
- La IA propia de FireAI corre en tu Mac. No depende de los servidores, precios ni cambios de política de ningún laboratorio, y lo que analiza nunca sale del equipo.
También esta semana: OpenAI dijo que sus agentes filtraron 53 imágenes de usuarios de ChatGPT (nuestra nota), y Oxford dejó que OpenAI entrenara con escaneos de la Biblioteca Bodleiana (nuestra nota).
Puede que los laboratorios se pongan de acuerdo en frenarse, o puede que no. Tú puedes decidir hoy qué comparte tu Mac. Descarga FireAI y pruébalo gratis durante 17 días. FireAI es un producto de HisnLabs.