Neuigkeiten zu Sicherheit und KI

Datenschutz bei persönlichen KI-Agenten · Von FireAI Security & Research Team · Veröffentlicht

KI-Agenten-Startup Instinct sammelt 1 Milliarde US-Dollar bei einer Bewertung von 10 Milliarden ein, gestützt auf weitreichenden Kontozugriff

Instinct, ein KI-Agent, der per Textnachricht Reisen plant und Rechnungen bezahlt, sammelte 1 Milliarde US-Dollar ein. Welchen Kontozugriff er verlangt und was zu fragen ist.

An AI agent icon connected to icons for email, calendar and payment accounts, illustrating the broad account access Instinct’s personal AI agent requests.

Instinct, ein Startup, dessen KI-Agent per Textnachricht Besorgungen erledigt, hat in einer Series-C-Runde 1 Milliarde US-Dollar eingesammelt, die das Unternehmen mit 10 Milliarden US-Dollar bewertet, wie TechCrunch am 28. September berichtete, etwa einen Monat nach einer Bewertung von 2,5 Milliarden US-Dollar. Angeführt wurde die Runde von Sequoia Capital, Benchmark and Coatue. Instinct startete im August 2026.

Hintergrund

Instinct arbeitet über Messaging-Apps wie WhatsApp und iMessage statt über eine eigene App; Pete Syme von Business Insider testete es auf diese Weise für zwei Reisen. Ein Nutzer beschreibt, was er möchte, etwa eine Dienstreise planen, einen Restauranttisch buchen, Lebensmittel bestellen, ein Abonnement kündigen oder eine Rechnung klären, und Instinct arbeitet sich wie ein menschlicher Assistent durch Websites und Apps, einschließlich einer telefonischen „Concierge“-Funktion, die im Namen des Nutzers bei einem Unternehmen anrufen kann, berichtet SiliconANGLE. In Symes Test buchte Instinct selbst nichts: Es lieferte Flug- und Hoteloptionen sowie ein Budget zur Prüfung, und er prüfte und buchte die Reise weiterhin selbst. „Doppelte Kontrolle ist unerlässlich“, schrieb er.

Ergebnisse

Dafür erteilen Nutzer Instinct laut PYMNTS eine „weitreichende Befugnis, Datenkopien zu lesen und zu speichern“, aus den verbundenen Konten, sowie in ihrem Namen Käufe zu tätigen und Vereinbarungen zu akzeptieren. Der Agent kann auf E-Mail-, Messaging-, Bildschirm-, Audio- und Standortdaten zugreifen und verbindet sich direkt mit den Apps und Geräten eines Nutzers. TechCrunch ergänzt, dass die ursprüngliche Datenschutzrichtlinie von Instinct „Bedenken wegen übermäßiger Reichweite“ weckte, bevor das Unternehmen sie aktualisierte; TechCrunch berichtet nicht, was sich änderte, und keine der vier Quellen veröffentlicht den Text der aktuellen Richtlinie.

Folgen für Mac-Nutzer

Nur wenige Leser werden heute ein Instinct-Konto haben: TechCrunch beschreibt es als weiterhin nur auf Einladung zugängliche Beta, auch wenn PYMNTS von einer für ein kaum zwei Monate altes Produkt beachtlichen Nutzerbasis spricht. Die Geschichte reicht über ein Unternehmen hinaus. Instinct zeigt, wohin sich KI für Verbraucher entwickelt: ein Agent mit dauerhaftem Zugriff auf Posteingang, Kalender, Zahlungsmittel und Konten eines Nutzers, gebaut, um ohne Klick bei jedem Schritt zu handeln. Metas Muse und andere Assistenten verfolgen dasselbe Design. Wer einen Agenten nutzt oder erwägt, der in seinem Namen plant, bucht oder bezahlt, steht vor denselben Fragen, die Instinct aufwirft.

Empfehlungen

  1. Vor dem Verbinden eines Kontos fragen, was der Agent speichert und wie lange. Einen Posteingang einmal zu lesen, um eine Frage zu beantworten, ist etwas anderes, als eine dauerhafte Kopie davon zu behalten.
  2. Fragen, ob der Agent dauerhaften Zugriff braucht, also ständig, ob er genutzt wird oder nicht, oder ob er Anfrage für Anfrage arbeiten und den Zugriff danach verlieren kann.
  3. Fragen, wer die Daten sehen kann, sobald sie die Server des Unternehmens erreichen: Mitarbeiter, andere intern betriebene KI-Modelle oder, gemäß den Bedingungen, andere Unternehmen.
  4. Fragen, ob bereits gesammelte Daten gelöscht werden können und ob die Schließung eines Kontos die Kopien löscht und nicht nur den Login.
  5. Abwägen, was man einem menschlichen Reisebüro anvertrauen würde, gegenüber dem, was man einer Software ohne Ansprechpartner im Fehlerfall übergibt: Kartennummern, Passdaten, einen Familienkalender.
  6. Auf einem Mac sich nicht allein auf eine Datenschutzrichtlinie verlassen, sondern prüfen, womit sich die App des Agenten nach der Installation tatsächlich verbindet.

Bezug zu FireAI

Wird ein solcher Agent als Mac-App installiert, zeigt FireAI über Verbindungsabfragen den Moment, in dem er erstmals das Internet erreichen will, nennt das Ziel und überlässt dem Nutzer die Entscheidung. Die Weltkarte zeigt, an welches Unternehmen und in welches Land sein Datenverkehr geht, Regeln pro App können ihn auf die benötigten Ziele beschränken, und Verbindung untersuchen deckt jede einzelne Verbindung im Nachhinein ab. Kann die App Kamera oder Mikrofon nutzen, ist auch das sichtbar.

Die eigene KI von FireAI erfüllt eine engere, andere Aufgabe. Das On-Device-Modell von Ask FireAI, etwa 1,5 GB groß und auf der eigenen GPU des Macs ausgeführt, erklärt eine Verbindung, die FireAI bereits protokolliert hat, in einfacher Sprache und ohne etwas in die Cloud zu senden. Es plant keine Reisen, bucht nichts und ist kein allgemeiner Assistent; ein direkter Vergleich mit Instinct ist daher nicht möglich. Es veranschaulicht jedoch eine reale Designentscheidung: Manche KI bleibt auf dem Gerät und braucht nie Daten, die es verlassen, während ein Agent wie Instinct Daten an einen entfernten Dienst senden muss, weil dort die Arbeit stattfindet.

FireAI kann nicht in die Server von Instinct blicken, nicht berichten, was mit Daten geschieht, sobald sie die Cloud von Instinct erreichen, und ersetzt nicht das Lesen der Datenschutzrichtlinie und Berechtigungen eines Agenten vor dem Verbinden. Es kontrolliert, was einen Mac verlässt und wohin; es ist kein Virenschutz, scannt keine Dateien und bürgt nicht dafür, was ein Unternehmen mit Daten tut, die ein Nutzer ihm bewusst übergeben hat.

Einschränkungen

Keine der vier Quellen veröffentlicht die aktuelle Datenschutzrichtlinie von Instinct oder beschreibt, was sich gegenüber der Version geändert hat, die laut TechCrunch Bedenken wegen übermäßiger Reichweite weckte. Die Angaben von PYMNTS zum Nutzerwachstum sind nicht unabhängig belegt, und keiner der Berichte gibt an, wie Einladungen zur Beta derzeit vergeben werden oder wie breit die telefonische Concierge-Funktion bereits verfügbar ist.

FireAI von HisnLabs 17 Tage kostenlos testen.

Quellen

  1. TechCrunch (Sarah Perez), 28 September 2026: Viral AI agent Instinct raises $1B Series C at a $10B valuation
  2. PYMNTS, 28 September 2026: Personal AI agent Instinct quadruples valuation to $10 billion in one month
  3. SiliconANGLE (Kyt Dotson), 28 September 2026: Everyday personal AI assistant startup Instinct raises $1B at $10B valuation
  4. Business Insider (Pete Syme), 28 September 2026: I asked Instinct to plan 2 trips for me