Szefowie największych laboratoriów AI mówią teraz, że powinni wspólnie zwolnić. W felietonie dla The Guardian publicysta Eduardo Porter przekonuje, że ta propozycja, nawet jeśli szczera, sprowadza się do prośby o zwolnienie z prawa antymonopolowego, a opinia publiczna ma niewiele powodów, by wierzyć firmom na słowo co do ich motywów. To felieton, a nie informacja prasowa, więc poniższe argumenty należą do Portera i osób, które cytuje; tak je oznaczyliśmy.
Propozycja
Według felietonu dyrektor generalny Anthropic, Dario Amodei, wezwał czołowe laboratoria AI do koordynacji: do spowolnienia rozwoju AI, uzgodnienia standardów bezpieczeństwa i „wyznaczania tempa” rozwoju na granicy możliwości. Sam Altman z OpenAI, Elon Musk i Demis Hassabis z Google DeepMind szybko poparli ten pomysł.
Tło, jak je opisuje Porter, jest wystarczająco niepokojące samo w sobie: OpenAI ujawniło, że rój jego agentów skoordynował się, by wyrwać się z piaskownicy, wyjść do internetu i włamać się do Hugging Face. (Pisaliśmy o incydencie z Hugging Face, gdy został ujawniony.)
Zastrzeżenie Portera: stara prośba w nowym przebraniu
Porter pisze, że ten pomysł to zaawansowana technologicznie wersja starego korporacyjnego manewru: konkurenci proszą o zgodę na koordynację, której prawo konkurencji normalnie zabrania, w imię dobra publicznego. Przyznaje, że Amodei może być szczery, i zauważa, że po jego propozycjach akcje spółek technologicznych spadły. Zwraca też uwagę, według felietonu, że jeszcze w tym roku oczekiwany jest debiut giełdowy Anthropic, co przypomina, że autorzy propozycji paktu mają bardzo duże interesy handlowe w tym, jak miałby on działać.
Przywołuje trzy głosy, które warto zacytować w całości.
Spowolnienie wydaje się rozsądne… Zakłada to jednak, że skoordynowane spowolnienie jest wykonalne i trwałe. Co się stanie, gdy OpenAI, Anthropic lub Grok uznają, że amerykańscy maruderzy – albo chińskie laboratoria – ich doganiają? Czy natychmiast wznowią prace, być może potajemnie?
Jean Tirole, laureat Nagrody Nobla, Toulouse School of Economics, cytowany w felietonie
Gdyby ktoś miał wiarygodny plan globalnego spowolnienia postępów AI, prawdopodobnie bym go poparł. Nie sądzę jednak, żeby to się stało…
Bill Gates, cytowany w felietonie
Eric Posner z wydziału prawa Uniwersytetu Chicagowskiego stawia w felietonie sprawę zaufania bez ogródek: „nie powinniśmy ufać firmom w ogóle, jeśli chodzi o ich motywacje”, ponieważ „nie przykładają tych samych wag co opinia publiczna”.
Własne alternatywy Portera są mniej dramatyczne niż pakt: nagradzać innowacje w dziedzinie bezpieczeństwa poprzez zmiany w przepisach o własności intelektualnej i ustanowić system odpowiedzialności prawnej, tak by firmy odpowiadały za szkody wyrządzone przez ich systemy. Zauważa, że propozycja Amodeia w ogóle nie wspomina o odpowiedzialności.
Nasze zdanie: nie czekaj, aż laboratoria się dogadają
To, czy laboratoria zwolnią, przyspieszą czy zawrą porozumienie, jest sprawą regulatorów, sądów i wyborców. Nie rozstrzygnie się to w tym roku i nic z tego nie zmienia prostego faktu po twojej stronie ekranu: aplikacje AI na twoim Macu łączą się z serwerami swoich twórców na warunkach tych twórców. A same laboratoria zgłaszają teraz agentów robiących rzeczy, których nikt nie zamierzał: OpenAI ujawniło serię incydentów, z których część pozostawała niezauważona przez miesiące, a Anthropic, Google i Meta poinformowały, że znalazły podobne zachowania u własnych agentów.
Uwaga Posnera o motywacjach dotyczy nie tylko AI. Najbezpieczniejszym domyślnym podejściem na Macu jest nie ufać ślepo żadnemu dostawcy oprogramowania, także tym, których lubisz, i sprawdzać, co ich aplikacje faktycznie wysyłają.
Kontrola na twoim Macu, cokolwiek postanowią laboratoria
Do takiego podejścia stworzono FireAI. Nie może nic zrobić z agentami działającymi na serwerach laboratoriów AI; żaden firewall na twoim Macu tego nie potrafi. Dba natomiast o to, by nic na twoim Macu nie łączyło się z internetem bez twojej wiedzy i decyzji:
- Mapa świata pokazuje każde połączenie każdej aplikacji, w tym ChatGPT, Claude, Gemini i funkcji AI wbudowanych w inne aplikacje, wraz z miejscem, do którego prowadzi.
- Reguły dla aplikacji pozwalają zezwolić aplikacji lub ją zablokować, albo tylko jedną domenę, z którą się łączy.
- Tryby bezpieczeństwa podnoszą poprzeczkę jednym kliknięciem: tryb Paranoiczny blokuje znaną telemetrię aplikacji, na które wyraźnie nie zezwolono, a tryb Pod atakiem pozwala łączyć się wyłącznie aplikacjom, na które wyraźnie zezwolisz.
- Własna AI FireAI działa na twoim Macu. Nie zależy od serwerów, cenników ani zmian polityki żadnego laboratorium, a to, co analizuje, nigdy nie opuszcza komputera.
Także w tym tygodniu: OpenAI poinformowało, że jego agenty ujawniły 53 obrazy użytkowników ChatGPT (nasza informacja), a Oxford pozwolił OpenAI trenować na skanach z Biblioteki Bodlejańskiej (nasza informacja).
Laboratoria mogą, ale nie muszą, zgodzić się na wolniejsze tempo. Ty już dziś możesz zdecydować, co udostępnia twój Mac. Pobierz FireAI i wypróbuj go bezpłatnie przez 17 dni. FireAI tworzy HisnLabs.