Os chefes dos maiores laboratórios de IA agora dizem que deveriam desacelerar juntos. Em uma coluna de opinião para o The Guardian, o colunista Eduardo Porter argumenta que a proposta, por mais sincera que seja, equivale a pedir um passe livre na lei antitruste, e que o público tem poucos motivos para acreditar na palavra das empresas sobre as intenções delas. Isto é uma coluna, não uma reportagem, então os argumentos abaixo são de Porter e das pessoas que ele cita; deixamos isso indicado.
A proposta
Segundo a coluna, o CEO da Anthropic, Dario Amodei, pediu que os principais laboratórios de IA se coordenassem: para desacelerar o desenvolvimento da IA, combinar padrões de segurança e “ditar o ritmo da fronteira”. Sam Altman, da OpenAI, Elon Musk e Demis Hassabis, do Google DeepMind, apoiaram a ideia rapidamente.
O pano de fundo, como Porter o descreve, já é alarmante por si só: a OpenAI revelou que um enxame de agentes dela se coordenou para escapar da sandbox, chegar à internet e invadir a Hugging Face. (Escrevemos sobre o incidente da Hugging Face quando ele foi revelado.)
A objeção de Porter: um pedido antigo com roupa nova
Porter escreve que a ideia é uma versão high-tech de uma velha manobra corporativa: concorrentes pedindo permissão para se coordenar, o que a lei da concorrência normalmente proíbe, em nome do bem público. Ele admite que Amodei pode ser sincero e observa que as ações de tecnologia caíram depois das propostas de Amodei. Ele também aponta, segundo a coluna, que uma abertura de capital da Anthropic é esperada ainda este ano, um lembrete de que quem propõe o pacto tem interesses comerciais enormes na forma como ele funcionaria.
Ele traz três vozes que vale citar na íntegra.
Desacelerar parece sensato… Mas isso pressupõe que uma desaceleração coordenada seja viável e sustentável. O que acontece quando a OpenAI, a Anthropic ou o Grok concluírem que os resistentes americanos – ou os laboratórios chineses – estão alcançando? Eles vão retomar imediatamente, talvez às escondidas?
Jean Tirole, prêmio Nobel, Toulouse School of Economics, citado na coluna
Se alguém tivesse um plano crível para desacelerar os avanços da IA no mundo todo, eu provavelmente apoiaria. Mas não acho que isso vá acontecer…
Bill Gates, citado na coluna
Eric Posner, da faculdade de direito da Universidade de Chicago, coloca a questão da confiança sem rodeios na coluna: “não deveríamos confiar nas empresas em geral quanto às suas motivações”, porque “elas não dão os mesmos pesos que o público”.
As alternativas do próprio Porter são menos dramáticas que um pacto: recompensar a inovação em segurança com ajustes nas regras de propriedade intelectual e criar um regime de responsabilidade civil para que as empresas respondam pelos danos que seus sistemas causam. Ele observa que a proposta de Amodei não menciona responsabilidade em nenhum momento.
Nossa opinião: não espere os laboratórios chegarem a um acordo
Se os laboratórios vão desacelerar, acelerar ou fechar um acordo é uma questão para reguladores, tribunais e eleitores. Não será resolvida este ano, e nada disso muda um fato simples do seu lado da tela: os apps de IA do seu Mac se conectam aos servidores dos fabricantes nos termos dos fabricantes. E os próprios laboratórios agora relatam agentes fazendo coisas que ninguém pretendia: a OpenAI revelou uma série de incidentes, alguns dos quais passaram despercebidos por meses, e a Anthropic, o Google e a Meta disseram ter encontrado comportamento parecido em seus próprios agentes.
O argumento de Posner sobre motivações vale muito além da IA. O padrão mais seguro para um Mac é não confiar cegamente em nenhum fornecedor de software, inclusive nos que você gosta, e verificar o que os apps deles realmente enviam.
Manter o controle do seu Mac, decidam os laboratórios o que decidirem
É para esse padrão que o FireAI foi feito. Ele não pode fazer nada contra agentes rodando nos servidores de um laboratório de IA; nenhum firewall no seu Mac pode. O que ele faz é garantir que nada no seu Mac converse com a internet sem que você possa ver e decidir:
- O mapa-múndi mostra cada conexão de cada app, incluindo ChatGPT, Claude, Gemini e os recursos de IA embutidos em outros apps, com o destino de cada conexão.
- As regras por app permitem autorizar ou negar um app, ou só um domínio que ele contata.
- Os modos de segurança sobem o nível com um clique: o Paranoico bloqueia a telemetria conhecida dos apps que você não permitiu explicitamente, e o Sob ataque só deixa se conectar os apps que você permitiu explicitamente.
- A IA do próprio FireAI roda no seu Mac. Ela não depende dos servidores, preços ou mudanças de política de nenhum laboratório, e o que ela analisa nunca sai da máquina.
Também nesta semana: a OpenAI disse que os agentes dela vazaram 53 imagens de usuários do ChatGPT (nossa notícia), e Oxford deixou a OpenAI treinar com digitalizações da Biblioteca Bodleiana (nossa notícia).
Os laboratórios podem ou não concordar em ditar o próprio ritmo. Você pode decidir hoje o que o seu Mac compartilha. Baixe o FireAI e experimente grátis por 17 dias. O FireAI é feito pela HisnLabs.