Blog o bezpieczeństwie FireAI

Autor FireAI Security & Research Team · Opublikowano

FireAI Pilot uczy się teraz każdej sieci: dom, kawiarnia i plac budowy dostają własne odpowiedzi

FireAI Pilot uczy się teraz każdej sieci: dom, kawiarnia i plac budowy dostają własne odpowiedzi

Pytanie, na które odpowiada to wydanie, zadał czytelnik, który obejrzał demo FireAI na Reddicie. Spodziewał się, że będzie pracować głównie w trybie Paranoid, „biorąc pod uwagę, ile przypadkowych urządzeń pojawia się w Wi-Fi na placu budowy”, i chciał wiedzieć, czy FireAI Pilot uczy się osobno dla każdej sieci, czy buduje jeden profil dla wszystkiego.

Czy autopilot naprawdę uczy się osobno dla każdej sieci, czy to jeden globalny profil, który buduje z czasem?

Komentarz na Reddicie pod demem FireAI

Do FireAI 0.1.8 uczciwa odpowiedź brzmiała: jeden profil dla całego Maca. Od 0.1.8 jest jedno i drugie. FireAI Pilot zachowuje wnioski, które obowiązują wszędzie, i dodaje wnioski przypisane do jednej sieci, do otwartego Wi-Fi w ogóle oraz do każdego trybu bezpieczeństwa.

Dlaczego jeden profil był złym modelem dla laptopa

Laptop zmienia sieć kilka razy dziennie, a właściwa odpowiedź dla tego samego połączenia zmienia się razem z nią. Klient synchronizacji zdjęć jest w domu w porządku. W hotspocie kawiarni albo we wspólnej sieci na placu budowy ten sam ruch mówi każdemu w tej sieci, z jakiej usługi korzystasz i kiedy, więc możesz woleć, żeby poczekał. Federalna Komisja Handlu USA (FTC) zauważa, że publiczne hotspoty są bezpieczniejsze niż kiedyś, ponieważ większość stron szyfruje dziś ruch; szyfrowanie chroni jednak to, co jest wysyłane, a nie sam fakt, że aplikacja komunikuje się z danym serwerem.

Przy jednym globalnym profilu FireAI Pilot traktował te wybory jako sprzeczności: zablokowane w poniedziałek, dozwolone we wtorek. Albo pytał za każdym razem, albo przyjmował ostatnią odpowiedź. Żadne z tych zachowań nie odpowiada temu, czego chce osoba przemieszczająca się między miejscami.

Jak rozdzielane są wnioski

FireAI Pilot to niewielki model decyzyjny działający na Macu. Jest to regresja logistyczna na nazwanych sygnałach, takich jak aplikacja, jej podpis, firma stojąca za miejscem docelowym, rodzaj ruchu oraz to, czy aplikacja korzystała już z tego miejsca docelowego, a każda Twoja odpowiedź nieznacznie przesuwa wagi zaangażowanych sygnałów. Wydanie 0.1.8 dodaje sygnały łączące sieć lub tryb bezpieczeństwa z tymi faktami:

Każda odpowiedź trenuje jednocześnie sygnały globalne oraz sygnały sieci i trybu.
SygnałCo obejmujePrzenosi się na
Ta siećTwoje odpowiedzi w tym Wi-Fi, według aplikacji, miejsca docelowego i rodzaju ruchuTo Wi-Fi albo każde Wi-Fi zapisanego miejsca
Otwarte Wi-FiTwoje odpowiedzi w sieciach bez hasła lub ze słabymi zabezpieczeniamiNastępną otwartą sieć, nawet nigdy wcześniej niewidzianą
Tryb bezpieczeństwaTwoje odpowiedzi, gdy włączony jest tryb Home, Coffee shop, Paranoid lub Under attackKażdą sieć, w której ten tryb jest włączony
WszędzieSygnały, z których FireAI Pilot korzystał już wcześniejWszystkie sieci

Ponieważ sygnały się sumują, wniosek obowiązujący wszędzie („ten użytkownik blokuje telemetrię”) nadal działa w sieci, której FireAI nigdy nie widział, a wniosek prawdziwy tylko w jednym miejscu („dozwolone w domu, zablokowane na placu budowy”) jest wyuczony przez sygnały sieci i tam pozostaje.

Cztery miejsca, cztery odpowiedzi

  • Wi-Fi na placu budowy w trybie Paranoid: w sieci są nieznane urządzenia, więc raz blokujesz klienta synchronizacji i podglądy plików w komunikatorze. Od tej pory FireAI Pilot blokuje je w tym miejscu i pyta ponownie tylko o coś nowego.
  • Otwarta sieć w kawiarni: Coffee Shop Armor przełącza się na tryb Coffee shop w chwili połączenia. To, co zablokowałeś w poprzedniej otwartej kawiarni, liczy się także tutaj, zanim na cokolwiek odpowiesz.
  • Hotel lub lotnisko, w którym nigdy nie byłeś: o sieci nie wiadomo nic konkretnego, więc pracę wykonują wnioski dotyczące otwartego Wi-Fi i trybu bezpieczeństwa, razem z wnioskami obowiązującymi wszędzie.
  • Dom: te same aplikacje łączą się swobodnie, ponieważ Twoje odpowiedzi w domu wytrenowały sygnały sieci domowej. Blokady wybrane gdzie indziej są tu wskazówką, nigdy głosem rozstrzygającym.

Twoje wcześniejsze decyzje są ważone według sieci

Zanim zadziała model, FireAI Pilot sprawdza Twoje własne podobne decyzje z przeszłości. W 0.1.8 decyzja podjęta w innej sieci waży około jednej trzeciej decyzji podjętej w tej sieci. Dwie blokady w Wi-Fi na placu budowy wystarczą więc, by działać na placu budowy, ale nie w domu. Gdy Twoje wybory w różnych sieciach są sprzeczne, FireAI Pilot pyta Cię zamiast zgadywać i uczy się z tej odpowiedzi.

Co pozostaje na Macu

Aby odróżniać sieci, FireAI odczytuje nazwę bieżącego Wi-Fi za pomocą frameworka CoreWLAN firmy Apple. macOS ujawnia tę nazwę tylko aplikacjom z uprawnieniem do lokalizacji, o które FireAI już prosi, aby przełączać profile według Wi-Fi. FireAI przechowuje krótki odcisk nazwy lub zapisanego miejsca, do którego należy, nigdy samą nazwę, i wyłącznie na Twoim Macu. „Forget What FireAI Learned” usuwa go razem z resztą tego, czego nauczył się FireAI Pilot.

Ograniczenia

  • Bez uprawnienia do lokalizacji lub przy połączeniu przewodowym FireAI nie odróżnia sieci, a FireAI Pilot uczy się, jak dotąd, jednego profilu dla całego Maca.
  • Dwie różne sieci o tej samej nazwie są dla FireAI Pilot jedną siecią. Ostrzeżenie, gdy znana nazwa pojawia się z innym punktem dostępowym lub słabszymi zabezpieczeniami, zapewnia osobny Trusted Wi-Fi check.
  • Zmiana nazwy zapisanego miejsca rozpoczyna naukę jego sieci od nowa; wnioski obowiązujące wszędzie są zachowywane.
  • Wnioski sieciowe zmieniają to, co FireAI Pilot decyduje i sugeruje. Nigdy nie mają pierwszeństwa przed Twoimi regułami, blokadami trybu bezpieczeństwa ani wyłącznikiem awaryjnym.

Również w FireAI 0.1.8, kompilacja 3

Ta kompilacja zmniejsza także zużycie procesora przez sam FireAI. Ekran Home odświeża teraz tylko zmienioną część, globus na mapie świata rysowany jest z prędkością 24 klatek na sekundę i wstrzymuje się, gdy FireAI działa w tle, a maskotka 3D przestaje być rysowana po zakończeniu animacji wejścia. Pełna lista znajduje się na stronie wydania. FireAI aktualizuje się sam z poziomu Ustawień, możesz też go pobrać i wypróbować bezpłatnie przez 17 dni.

Jaką rolę odgrywają FireAI i HisnLabs

Decydujesz raz dla każdego miejsca. FireAI Pilot pamięta resztę, na Twoim Macu.

FireAI to własny produkt HisnLabs: zapora sieciowa z AI działająca bezpośrednio na Macu. Pokazuje prostym językiem każde połączenie nawiązywane przez twoje aplikacje i pozwala ci decydować, co opuszcza twojego Maca — jej AI działa lokalnie, więc twój ruch nigdy nie jest wysyłany do nas ani do nikogo innego. Zespół badań nad bezpieczeństwem HisnLabs dba o to, by te decyzje pozostały trafne: kataloguje, które domeny to zwykła telemetria, a które prawdziwa usługa, śledzi kraj i sieć stojące za połączeniem oraz trenuje lokalny model (funkcję FireAI Pilot) na rzeczywistych wzorcach ruchu — a nic z tego nie opuszcza twojego Maca.

Możesz przeczytać o decyzjach technicznych, które za tym stoją, albo wypróbować FireAI przez 17 dni na FireAI od HisnLabs.

Źródła