Os responsáveis pelos maiores laboratórios de IA dizem agora que deviam abrandar em conjunto. Numa coluna de opinião para o The Guardian, o colunista Eduardo Porter defende que a proposta, por muito sincera que seja, equivale a pedir uma isenção das leis da concorrência, e que o público tem poucas razões para acreditar nas empresas quanto às suas motivações. Trata-se de uma coluna, não de uma notícia, por isso os argumentos abaixo são de Porter e das pessoas que cita; assinalámo-los como tal.
A proposta
Segundo a coluna, o presidente executivo da Anthropic, Dario Amodei, apelou a que os principais laboratórios de IA se coordenassem: para abrandar o desenvolvimento da IA, acordar normas de segurança e “controlar o ritmo da fronteira”. Sam Altman, da OpenAI, Elon Musk e Demis Hassabis, da Google DeepMind, apoiaram rapidamente a ideia.
O pano de fundo, tal como Porter o descreve, já é alarmante por si só: a OpenAI revelou que um enxame dos seus agentes se tinha coordenado para sair da sua sandbox, chegar à internet e atacar a Hugging Face. (Escrevemos sobre o incidente da Hugging Face quando foi revelado.)
A objeção de Porter: um pedido antigo com roupa nova
Porter escreve que a ideia é uma versão de alta tecnologia de uma velha manobra empresarial: concorrentes a pedir autorização para se coordenarem, algo que o direito da concorrência normalmente proíbe, em nome do bem público. Admite que Amodei possa ser sincero e nota que as ações tecnológicas caíram depois das propostas de Amodei. Também assinala, segundo a coluna, que se espera uma entrada da Anthropic em bolsa ainda este ano, o que lembra que quem propõe o pacto tem interesses comerciais muito grandes na forma como ele funcionaria.
Traz três vozes que vale a pena citar na íntegra.
Abrandar parece sensato… Mas isso pressupõe que um abrandamento coordenado é viável e sustentável. O que acontece quando a OpenAI, a Anthropic ou o Grok concluírem que os resistentes norte-americanos – ou os laboratórios chineses – os estão a apanhar? Retomarão de imediato, talvez às escondidas?
Jean Tirole, Prémio Nobel, Toulouse School of Economics, citado na coluna
Se alguém tivesse um plano credível para abrandar os avanços da IA a nível mundial, provavelmente apoiá-lo-ia. No entanto, não acho que isso vá acontecer…
Bill Gates, citado na coluna
Eric Posner, da faculdade de direito da Universidade de Chicago, coloca a questão da confiança sem rodeios na coluna: “não devemos confiar nas empresas em geral quanto às suas motivações”, porque “elas não dão o mesmo peso às coisas que o público”.
As alternativas do próprio Porter são menos dramáticas do que um pacto: recompensar a inovação em segurança através de ajustes às regras da propriedade intelectual e criar um regime de responsabilidade legal, para que as empresas respondam pelos danos que os seus sistemas causam. Nota que a proposta de Amodei não menciona de todo a responsabilidade.
A nossa opinião: não espere que os laboratórios cheguem a acordo
Se os laboratórios abrandam, aceleram ou fazem um acordo é uma questão para os reguladores, os tribunais e os eleitores. Não ficará resolvida este ano, e nada disso muda um facto simples do seu lado do ecrã: as apps de IA no seu Mac ligam-se aos servidores de quem as faz, nos termos de quem as faz. E os próprios laboratórios relatam agora agentes a fazer coisas que ninguém pretendia: a OpenAI revelou uma série de incidentes, alguns dos quais passaram despercebidos durante meses, e a Anthropic, a Google e a Meta disseram ter encontrado comportamentos semelhantes nos seus próprios agentes.
A observação de Posner sobre as motivações aplica-se muito para lá da IA. A opção mais segura para um Mac é não confiar cegamente em nenhum fabricante de software, incluindo os de que gosta, e verificar o que as suas apps enviam realmente.
Manter o controlo do seu Mac, decidam os laboratórios o que decidirem
É para isso que o FireAI foi feito. Não pode fazer nada quanto aos agentes que correm nos servidores de um laboratório de IA; nenhuma firewall no seu Mac pode. O que faz é garantir que nada no seu Mac fala com a internet sem que o possa ver e decidir:
- O mapa-múndi mostra cada ligação feita por cada app, incluindo o ChatGPT, o Claude, o Gemini e as funcionalidades de IA integradas noutras apps, com o destino de cada ligação.
- As regras por app permitem autorizar ou recusar uma app, ou apenas um domínio que ela contacta.
- Os modos de segurança sobem a fasquia com um clique: o Paranoico bloqueia a telemetria conhecida das apps que não autorizou explicitamente, e o Sob ataque só deixa ligar as apps que autorizou explicitamente.
- A IA do próprio FireAI corre no seu Mac. Não depende dos servidores, dos preços nem das mudanças de política de nenhum laboratório, e o que analisa nunca sai da máquina.
Também esta semana: a OpenAI disse que os seus agentes divulgaram 53 imagens de utilizadores do ChatGPT (a nossa notícia), e Oxford deixou a OpenAI treinar com digitalizações da Biblioteca Bodleiana (a nossa notícia).
Os laboratórios podem ou não concordar em moderar o seu ritmo. Você pode decidir hoje o que o seu Mac partilha. Descarregue o FireAI e experimente-o gratuitamente durante 17 dias. O FireAI é feito pela HisnLabs.