Блог з безпеки FireAI

Автор FireAI Security & Research Team · Опубліковано

Досьє з дипфейків: як ШІ відтворює ваше життя з цифрових крихт

Досьє з дипфейків: як ШІ відтворює ваше життя з цифрових крихт

Колись «витік» означав одну гучну подію: базу даних компанії, викрадену за одну ніч. Таке досі трапляється, але це вже не головний спосіб, яким ШІ-система складає ваш портрет. Поширеніший шлях тихіший: сотні дрібних, окремо нічим не примітних фрагментів — фото з геоміткою, голосова нотатка, зміна роботи в LinkedIn, пароль, що витік із зовсім не пов’язаного сервісу, — які самі по собі майже нічого не значать.

Чому фрагментів тепер достатньо

Великі моделі добре вміють саме це: знаходити закономірності в розрізнених, безладних даних і заповнювати прогалини. Дайте здібній моделі достатньо публічних фото — і вона визначить ваш район за тлом; достатньо коротких аудіозаписів — і вона відтворить голос так, що обдурить по телефону стривоженого родича. Саме про таку схему FTC попереджала в березні 2023 року: злочинці клонували голос члена сім’ї із записів, про існування яких жертва навіть не знала.

Обліковий запис, який ніхто не «зламував»

Саме тому загрозу так важко побачити: щоб десь існував детальний профіль, жоден застосунок на вашому Mac не мусить бути шкідливим і жоден логін не мусить бути викрадений. Кожен застосунок бачить лише той єдиний фрагмент, який сам зібрав, — місцезнаходження, назву файлу, синхронізацію контактів — і гадки не має, що долучається до чогось більшого. Об’єднання відбувається після того, як дані залишили ваш пристрій, на серверах, яким ви ніколи не вирішували довіряти.

Що справді допомагає

  • Видаляйте дані про місцезнаходження (метадані EXIF) з фото, перш ніж публікувати їх, — у більшості застосунків для фото це робиться одним дотиком.
  • Ставтеся до несподіваного термінового дзвінка — навіть якщо голос звучить цілком правильно — як до приводу покласти слухавку й передзвонити на відомий номер, а не як до приводу діяти негайно.
  • Найважливіші фрагменти — ті, чий відтік ви ніколи не бачите: знати, які застосунки тихо надсилають дані й кому, — єдиний спосіб закрити цю прогалину, перш ніж вона перетвориться на досьє.

Яке місце тут посідають FireAI та HisnLabs

Для цього не потрібен один великий витік — потрібна сотня маленьких, тих, що тихо стаються щоразу, коли застосунок надсилає «додому» місцезнаходження фото, часову мітку входу або відбиток пристрою.

FireAI — це власний продукт HisnLabs: ШІ-фаєрвол, який працює безпосередньо на вашому Mac. Він показує простою мовою кожне з’єднання, яке встановлюють ваші застосунки, і дає вам вирішувати, що покидає ваш Mac, — його ШІ працює локально, тож ваш трафік ніколи не надсилається ні нам, ні будь-кому іншому. Команда дослідників безпеки HisnLabs — саме вона підтримує точність цих рішень: каталогізує, які домени є звичайною телеметрією, а які — справжнім сервісом, відстежує країну та мережу за з’єднанням і навчає локальну модель (функцію Autopilot) на реальних шаблонах трафіку — і нічого з цього не покидає ваш Mac.

Ви можете почитати про технічні рішення, що лежать в його основі, або спробувати FireAI протягом 17 днів на сторінці FireAI від HisnLabs.

Джерела