Ein hyperintegrierter Assistent macht einen Testlauf

Instinct, entwickelt von Spear Street Technology und unter der Leitung des ehemaligen Sierra-Forschers Noah Shinn, bezeichnet sich selbst als „digitaler Stellvertreter“, der gewöhnliche Chatbots in den Schatten stellt. In privaten Tests kommunizieren die Teilnehmer per Text, WhatsApp oder Sprachanruf mit dem Assistenten, während dieser E-Mails, Messaging-Apps, Kalender und Live-Gerätetelemetrie – wie Bildschirmfotos, Cursorbewegungen und Tastatureingaben – ausliest. Das Versprechen: ein reibungsloser persönlicher Assistent, der jede Routineaufgabe erledigt, ohne dass der Nutzer auch nur einen Finger rühren muss.

Wie Instinct funktioniert

Die tiefe Integration hebt Instinct von anderen ab. Durch das Abrufen von Echtzeitsignalen eines Geräts kann er eine Flugbestätigung erkennen, Kalenderdetails extrahieren und einen verpassten Anschluss automatisch umbuchen. Er kann ein Gmail-Postfach scannen und ungelesene Nachrichten zusammenfassen, Bestellungen über Resy tätigen und Einkaufslisten verwalten.

Datenschutzrechtliche und rechtliche Warnsignale

Dieselbe enorme Zugriffstiefe schürt Kontroversen. Die Nutzungsbedingungen räumen Instinct eine „unbefristete und unwiderrufliche“ Lizenz ein, jegliches Nutzermaterial abzurufen, zu hosten, zu vervielfältigen und zu modifizieren, einschließlich des Rechts, diese Daten zum Training seiner Modelle zu verwenden. In der Praxis behält der Assistent möglicherweise Kopien von E-Mails noch lange nach dem Widerruf der Berechtigung durch den Nutzer.

Frühe Anwender sind bereits auf konkrete Probleme gestoßen. Die Testerin Claire Vo stellte fest, dass Instinct weiterhin ihr Postfach zusammenfasste, nachdem sie die Integration getrennt hatte, was darauf hindeutet, dass der Dienst die Inhalte im Klartext für zukünftige Suchvorgänge speicherte. Die Nutzungsbedingungen erlauben es dem Assistenten zudem, „Vereinbarungen, Verpflichtungen oder Transaktionen“ im Namen eines Nutzers einzugehen, wodurch die KI eine Person effektiv ohne menschliche Unterschrift an finanzielle oder vertragliche Verpflichtungen binden kann. Versuche, externe Datensätze wie Gmail-Protokolle zu löschen, stießen auf Widerstand, obwohl das Instinct-Team angibt, dass neue Tools zur Datenlöschung in Arbeit sind.

Sicherheitsbedenken

Über die rechtliche Angreifbarkeit hinaus eröffnet der Assistent neue Angriffsvektoren. Tester haben gezeigt, dass Instinct durch Phishing-Nachrichten getäuscht werden kann; die KI versendet manchmal E-Mails oder Nachrichten ohne einen expliziten Bestätigungsschritt durch den Nutzer. Das Erfassen von Tastatureingaben und Bildschirminhalten schafft ein lukratives Ziel für böswillige Akteure, die auf der Suche nach Rohdaten für Zugangsdaten oder persönlichen Informationen sind.

Branchenbeobachter merken an, dass genau die Funktionen, die Instinct attraktiv machen – kontinuierlicher Zugriff, autonome Entscheidungsfindung –, auch jede Sicherheitsverletzung vergrößern. Sollte ein Angreifer den Assistenten kapern, könnte er private Kommunikation lesen und Transaktionen ausführen. Das potenzielle Schadensausmaß vergrößert sich im Vergleich zu herkömmlichen, passwortgeschützten Konten dramatisch.

Was die Branche sagt

Michael Mignano, Partner bei Union Square Ventures, argumentiert, dass Produkte wie Instinct „die modernen Sicherheitsnormen grundlegend verändern“ werden. Er weist darauf hin, dass die Übergabe von Passwörtern und Gerätetelemetrie an einen KI-Agenten eines Drittanbieters vom langjährigen Modell der nutzergesteuerten Authentifizierung abweicht. Das Risiko, warnt er, bestehe darin, dass die Branche möglicherweise noch nicht über ausreichende Schutzmaßnahmen verfügt, um Nutzer in großem Maßstab zu schützen.

Ausblick

-

-

-

-

Wenn Instinct zuverlässige Schutzmaßnahmen demonstrieren kann, während das Nutzererlebnis erhalten bleibt, könnte es als Vorbild für die nächste Generation von KI-Assistenten dienen. Andernfalls könnte der Gegenwind Entwickler dazu drängen, wieder zu restriktiveren, berechtigungsarmen Designs zurückzukehren.

Fazit

Instincts Ambition, ein wahrhaft autonomer persönlicher Assistent zu werden, stellt Komfort gegen Kontrolle. Die tiefe Geräteintegration ermöglicht eine Automatisierung, die sich fast magisch anfühlt, doch dieselbe Integration setzt die Nutzer einer ständigen Datenerfassung, rechtlich bindenden KI-Aktionen und einer vergrößerten Angriffsfläche aus. Die kommenden Monate werden zeigen, ob der Markt diesen Kompromiss akzeptiert oder strengere Leitplanken fordert, bevor er einer KI die Schlüssel zu einem digitalen Leben anvertraut.