Voraussetzung für die Entwicklung und den Einsatz von KI-Systemen im Bereich des Einzelhandels ist das Vorhandensein von Daten sowie die Erlaubnis diese Daten nutzen zu dürfen.
Gerade wenn es um die Verarbeitung von personenbezogenen Daten geht, also Daten die unmittelbar oder mittelbar Rückschlüsse auf eine bestimmte oder bestimmbare Person zu lassen, setzt das Datenschutzrecht enge Grenzen. Neben den datenschutzrechtlichen Grundsätzen der Zweckbindung und Datensparsamkeit ergeben sich auch hohe Hürden durch die Sicherstellung von geeigneten technischen und organisatorischen Maßnahmen zum Schutz der Kundendaten.
Der Einsatz von sog. Smart Cams, etwa zur Analyse des Alters und Geschlechts von Kunden, bietet für den Einzelhandel erhebliche Potenziale, da hierdurch zielgruppenspezifische Produkte adressiert werden können. Auch wenn derartige Systeme datenschutzkonform ausgestaltet werden können, ist die Akzeptanz innerhalb der Bevölkerung tendenziell ablehnend, so dass erste Tests aufgrund der negativen Resonanz nicht fortgeführt wurden.
Zwar kann durch eine Anonymisierung und die damit einhergehende Entfernung des Personenbezugs die Anwendung des Datenschutzrechts umgangen werden. Jedoch wird es gerade im Bereich des Einzelhandels auf eine Individualisierung des einzelnen Kunden ankommen, etwa um Kundenverhalten auszuwerten, Nutzerprofile zu erstellen und kundenindividuelle Werbung zu schalten.
Als zusätzliche Herausforderung für die Entwicklung von intelligenten Systemen im Einzelhandel erweist sich die Tatsache, dass eine eigentumsrechtliche Zuordnung von Daten nach derzeitigem Recht nicht existiert und damit für eine nicht unerhebliche Rechtsunsicherheit sorgt. Die Bereitschaft eigene Daten zu teilen und für KI-Anwendungen bereitzustellen ist daher begrenzt. Des Weiteren besteht nach derzeitiger Rechtslage kein gesetzlich begründeter Anspruch auf Daten, die von KI-Systemen generiert wurden. Bei der kooperativen Entwicklung von KI-Systemen wird sich daher immer die Frage stellen, wem die Daten „gehören“.
Auch wird die Frage der Haftung von KI-Systemen zu diskutieren sein. Denn gerade wenn intelligente Systeme in der Lage sind sich neues Wissen anzueignen und auf dieser Grundlage autonome Entscheidungen zu treffen (z.B. die Begründung eines Vertragsverhältnisses) kann es zu unerwarteten nicht gewollten Ereignissen kommen. Der Einsatz von KI-Systemen kann daher durch die fehlende Intervention einer menschlichen Instanz erhebliche wirtschaftliche Folgen haben.