Notícias sobre segurança e IA

A cimeira EUA–China e a inteligência artificial · Por FireAI Security & Research Team · Publicado

Trump e Xi terminam a cimeira sem um acordo sobre IA. Ninguém no topo está a abrandar

A cimeira EUA–China terminou sem um grande acordo sobre IA. Com os dois lados a acelerar e agentes de IA a chegar a todos os aparelhos, o controlo começa no seu próprio Mac.

Illustration: a globe with two map pins joined by a dotted line, next to the words “No AI deal. Nobody is slowing down.”

Uma visita de Estado de três dias entre os Estados Unidos e a China terminou na sexta-feira sem um grande acordo sobre inteligência artificial, noticiou o The Guardian. O maior anúncio da cimeira foi o prolongamento por dois meses de uma trégua comercial entre os dois países.

O que disse cada lado

O presidente da China, Xi Jinping, disse que os dois países têm a “responsabilidade de desenvolver e gerir a IA para o bem”, e que devem “garantir que o desenvolvimento da IA está sempre sob controlo humano”. A China fixou-se o objetivo de os terminais inteligentes de nova geração e os agentes de IA atingirem uma taxa de penetração superior a 90 por cento até 2030, segundo o artigo.

O presidente Donald Trump, por seu lado, insistiu em rebatizar a IA como “superinteligência”. Vários líderes tecnológicos norte-americanos, entre eles Elon Musk, Lisa Su, da AMD, Jensen Huang, da Nvidia, e Tim Cook, da Apple, estiveram no jantar de Estado; os seus homólogos chineses não estavam presentes, notou o jornal.

O que os observadores esperavam, e o que tiveram

Alguns esperavam mais. O congressista Ro Khanna, que tinha proposto grupos de trabalho técnicos entre os dois países e uma pausa na IA que se aperfeiçoa a si própria, disse ao The Guardian: “Era um lance tão fácil.”

A única coisa em que pareciam estar de acordo é que nenhum dos dois quer abrandar com esta tecnologia.

Jonathan Czin, Brookings Institution, citado pelo The Guardian

Os dois líderes voltam a encontrar-se na cimeira da APEC em Shenzhen, em novembro, e no G20, em dezembro, por isso a questão vai regressar. Por agora, não há um livro de regras comum entre as duas maiores potências da IA.

Porque é que isto importa na sua secretária, e não só em Pequim e Washington

Deixando a geopolítica de lado, há uma coisa clara nesta cimeira: nenhuma das duas superpotências mundiais da IA tenciona abrandar, e uma delas tem como meta declarada uma penetração superior a 90 por cento dos terminais inteligentes de nova geração e dos agentes de IA até 2030. Entretanto, os próprios laboratórios de IA discutem se se devem coordenar, como contámos em os laboratórios de IA querem regular-se a si próprios, e relatam agentes que fizeram coisas que ninguém pretendia, como as imagens de 53 utilizadores do ChatGPT divulgadas pelos agentes da OpenAI.

Os agentes de IA são software que age em seu nome: lê, escreve, clica e liga-se. Num computador, isso significa apps e processos em segundo plano a contactar servidores de que talvez nunca tenha ouvido falar. Seja o que for que se acorde, ou não, na próxima cimeira, a camada prática de controlo é o aparelho que tem à sua frente.

Controlo ao nível do dispositivo, com o FireAI

O FireAI é uma firewall para Mac que põe esse controlo nas suas mãos, sem precisar de confiar nas promessas de nenhum governo ou empresa:

  • Pergunta antes de uma app, incluindo uma app ou um agente de IA, se ligar à internet pela primeira vez, e guarda a sua resposta como regra. (No modo Casa, as ferramentas de sistema da própria Apple são autorizadas automaticamente; no Paranoico têm de ser aprovadas como qualquer outra app.)
  • O mapa-múndi mostra para onde vai cada ligação, por isso o tráfego de uma app de IA não é invisível.
  • As regras por app e os modos de segurança (Casa, Café, Paranoico, Sob ataque) permitem decidir quão rigoroso deve ser o seu Mac, desde perguntar sobre apps novas até permitir apenas as que aprovou explicitamente.
  • A IA do próprio FireAI corre no seu Mac, e não num servidor em qualquer país, e o que analisa nunca sai da máquina.

As cimeiras vão continuar. O que se liga a partir do seu Mac é decisão sua. Descarregue o FireAI e experimente-o gratuitamente durante 17 dias. O FireAI é feito pela HisnLabs.

Fontes