KI-gestützte Beratung per Chat ist beim Onlineshopping bereits relativ häufig anzutreffen. Die Anbieter bauen ihre Agenten aber immer weiter aus, bis hin zum Recherchieren, Vergleichen und Bestellen – alles nach Vorgaben der Kunden, aber letztlich autonom. Amazon ist beispielsweise mit Alexa for Shopping (vormals Rufus) auf dem Weg dorthin. Und Google hat gerade auf seiner Entwicklerkonferenz I/0 einen KI-Agenten angekündigt, der Produkte nicht nur plattformübergreifend in einem Einkaufskorb parken, sondern im Auftrag des Nutzers auch selbst bezahlen können soll.

Wenn KI-gesteuerte Softwareagenten aber eigenständig im Namen von Menschen oder Unternehmen handeln, Entscheidungen treffen und sogar Käufe und Zahlungen abwickeln, wirft das eine Menge Fragen auf. Zum Beispiel: Ist das überhaupt erlaubt?

Auch wenn sich die ersten Pilotversuche zum vollständigen autonomen KI-Shoppen bis hin zur Bezahlung derzeit noch auf die USA beschränken: Rechtlich möglich sei sogenanntes Agentic Commerce in Deutschland wohl jetzt schon, trotz vieler noch offener und juristisch teils kniffliger Fragen rund um Haftung, Vertrags- und Verbraucherrecht oder Zahlungen, berichtet das IT-Fachmagazin „c't“ (Heft 11/26).

Fest stehe aber: Je mehr Rechte und Autonomie KI-Assistenten beim Einkaufen erhalten, desto problematischer werde die Nutzung. Deshalb forderten Kritiker, dass Entscheidungen immer beim Menschen verbleiben müssen.

Folgende drei Gefahrenfelder identifizieren die „c't“-Experten rund um KI-Shopping-Agenten:

1. Ungeklärte Rechtsfragen
Wer haftet, wenn die KI das falsche Produkt bestellt oder auf betrügerische Shops hereinfällt?

2. Manipulationsanfällige Technologie
Besonders problematisch sind die weitreichenden Berechtigungen, die Agenten benötigen, etwa den Zugriff auf E-Mails, Zahlungssysteme, Kalender oder Onlinespeicher. Sind die Berechtigungen zu weit gefasst, kann ein manipulierter Agent etwa durch ungewollte Einkäufe großen Schaden anrichten oder versteckten Kaufanweisungen auf präparierten Webseiten, etwa von Fake-Shops, folgen.

3. Datenschutzrechtliche Probleme
Um sinnvoll arbeiten zu können, benötigen KI-Agenten umfangreiche Informationen über Präferenzen, Kontext und Kaufhistorie. Damit lassen sich aber DSGVO-Prinzipien wie Datensparsamkeit, Transparenz und Zweckbindung schwer vereinbaren. Außerdem könnten Händler aus den Daten psychologische Nutzerprofile erstellen und diese zur Preisdiskriminierung nutzen.

Verbraucher sollten bei KI-Shopping-Assistenten kritisch bleiben und folgende Grundsätze befolgen, rät die „c't“:

• Käufe stets manuell bestätigen.
• Niemals Vollzugriff auf Bankkonten gewähren.
• Ausgabenlimits festlegen.

_{Foto: Sebastian Gollnow/dpa/dpa-tmn}