KI kauft für Sie ein: Diese Risiken sollten Sie kennen | FLZ.de | Stage

KI-gestützte Beratung per Chat ist beim Onlineshopping schon relativ häufig anzutreffen. Die Anbieter bauen ihre Agenten aber immer weiter aus, bis hin zum Recherchieren, Vergleichen und Bestellen - alles nach Vorgaben der Kunden, aber letztlich autonom.

Amazon ist beispielsweise mit Alexa for Shopping (vormals Rufus) auf dem Weg dorthin. Und Google hat gerade auf seiner Entwicklerkonferenz I/0 einen KI-Agenten angekündigt, der Produkte nicht nur plattformübergreifend in einem Einkaufskorb parken, sondern im Auftrag des Nutzers auch selbst bezahlen können soll.

Wenn KI-gesteuerte Softwareagenten aber eigenständig im Namen von Menschen oder Unternehmen handeln, Entscheidungen treffenund sogar Käufe und Zahlungen abwickeln, wirft das eine Menge Fragen auf. Zum Beispiel: Ist das überhaupt erlaubt?

Auch wenn sich die ersten Pilotversuche zum vollständigen autonomen KI-Shoppen bis hin zur Bezahlung derzeit noch auf die USA beschränken: Rechtlich möglich sei sogenanntes Agentic Commerce in Deutschland wohl jetzt schon, trotz vieler noch offener und juristisch teils kniffliger Fragen rund um Haftung, Vertrags- und Verbraucherrecht oder Zahlungen, berichtet das IT-Fachmagazin „c't“ (Heft 11/26).

Fest stehe aber: Je mehr Rechte und Autonomie KI-Assistenten beim Einkaufen erhalten, desto problematischer werde die Nutzung. Deshalb forderten Kritiker, dass Entscheidungen immer beim Menschen verbleiben müssen.

Folgende 3 Gefahrenfelder identifizieren die „c't“-Experten rund um KI-Shopping-Agenten:

Wer haftet, wenn die KI das falsche Produkt bestellt oder auf betrügerische Shops hereinfällt?

Besonders problematisch sind die weitreichenden Berechtigungen, die Agenten benötigen, etwa den Zugriff auf E-Mails, Zahlungssysteme, Kalender oder Onlinespeicher. Sind die Berechtigungen zu weit gefasst, kann ein manipulierter Agent etwa durch ungewollte Einkäufe großen Schaden anrichten oder versteckten Kaufanweisungen auf präparierten Webseiten, etwa von Fake-Shops, folgen.

Um sinnvoll arbeiten zu können, benötigen KI-Agenten umfangreiche Informationen über Präferenzen, Kontext und Kaufhistorie. Damit lassen sich aber DSGVO-Prinzipien wie Datensparsamkeit, Transparenz und Zweckbindung schwer vereinbaren. Außerdem könnten Händler aus den Daten psychologische Nutzerprofile erstellen und diese zur Preisdiskriminierung nutzen.

Verbraucher sollten bei KI-Shopping-Assistenten kritisch bleiben und folgende Grundsätze befolgen, rät die „c't“:

© dpa-infocom, dpa:260520-930-107389/1