Noticias de seguridad e inteligencia artificial

La cumbre entre EE. UU. y China y la inteligencia artificial · Por FireAI Security & Research Team · Publicado

Trump y Xi cierran su cumbre sin un acuerdo sobre IA. Nadie en la cima está frenando

La cumbre entre EE. UU. y China terminó sin un gran acuerdo sobre IA. Con ambos acelerando y los agentes de IA llegando a todo dispositivo, el control empieza en tu Mac.

Illustration: a globe with two map pins joined by a dotted line, next to the words “No AI deal. Nobody is slowing down.”

Una visita de Estado de tres días entre Estados Unidos y China terminó el viernes sin un gran acuerdo sobre inteligencia artificial, informó The Guardian. El anuncio más importante de la cumbre fue la prórroga de dos meses de una tregua comercial entre ambos países.

Lo que dijo cada parte

El presidente de China, Xi Jinping, dijo que ambos países tienen la “responsabilidad de desarrollar y gestionar la IA para el bien” y que deberían “garantizar que el desarrollo de la IA esté siempre bajo control humano”. China se ha fijado el objetivo de que los terminales inteligentes de nueva generación y los agentes de IA alcancen una penetración de más del 90 por ciento en 2030, según el artículo.

El presidente Donald Trump, por su parte, insistió en rebautizar la IA como “superinteligencia”. Varios líderes tecnológicos estadounidenses, entre ellos Elon Musk, Lisa Su de AMD, Jensen Huang de Nvidia y Tim Cook de Apple, asistieron a la cena de Estado; sus homólogos chinos no estuvieron presentes, señaló el periódico.

Lo que esperaban los observadores, y lo que obtuvieron

Algunos esperaban más. El congresista Ro Khanna, que había propuesto grupos de trabajo técnicos entre ambos países y una pausa en la IA que se mejora a sí misma, dijo a The Guardian: “Lo tenían a puerta vacía”.

Lo único en lo que parecían estar de acuerdo es en que ninguno de los dos quiere frenar con esta tecnología.

Jonathan Czin, Brookings Institution, citado por The Guardian

Los dos líderes volverán a reunirse en la cumbre de la APEC en Shenzhen en noviembre y en el G20 en diciembre, así que la cuestión volverá. Por ahora, no hay un reglamento común entre las dos mayores potencias de la IA.

Por qué esto importa en tu mesa, no solo en Pekín y Washington

Deja a un lado la geopolítica y hay algo claro en esta cumbre: ninguna de las dos superpotencias mundiales de la IA piensa frenar, y una de ellas tiene el objetivo declarado de superar el 90 por ciento de penetración de terminales inteligentes de nueva generación y agentes de IA en 2030. Mientras tanto, los propios laboratorios de IA debaten si coordinarse, como contamos en los laboratorios de IA quieren vigilarse a sí mismos, y revelan agentes que hicieron cosas que nadie pretendía, como las imágenes de 53 usuarios de ChatGPT filtradas por los agentes de OpenAI.

Los agentes de IA son software que actúa en tu nombre: lee, escribe, hace clic y se conecta. En un ordenador, eso significa apps y procesos en segundo plano que contactan con servidores de los que quizá nunca has oído hablar. Se acuerde lo que se acuerde, o no, en la próxima cumbre, la capa práctica de control es el dispositivo que tienes delante.

Control en el propio dispositivo, con FireAI

FireAI es un cortafuegos para Mac que pone ese control en tus manos, sin necesidad de fiarte de las promesas de ningún gobierno ni de ninguna empresa:

  • Pregunta antes de que una app, incluida una app o un agente de IA, se conecte a internet por primera vez, y recuerda tu respuesta como una regla. (En el modo Casa, las herramientas del sistema de Apple se permiten automáticamente; en Paranoico deben aprobarse como cualquier otra app).
  • El mapa mundial muestra adónde va cada conexión, así que el tráfico de una app de IA no es invisible.
  • Las reglas por app y los modos de seguridad (Casa, Cafetería, Paranoico, Bajo ataque) te dejan decidir lo estricto que debe ser tu Mac, desde preguntar por las apps nuevas hasta permitir solo las que hayas aprobado expresamente.
  • La propia IA de FireAI funciona en tu Mac, no en un servidor de ningún país, y lo que analiza nunca sale del equipo.

Las cumbres seguirán. Lo que se conecta desde tu Mac lo decides tú. Descarga FireAI y pruébalo gratis durante 17 días. FireAI es un producto de HisnLabs.

Fuentes