KI-Systeme in der Logistik rechtskonform einsetzen

Verbotene KI-Systeme

Grundsätzlich sieht die KI-Verordnung direkt Verbote in Bezug auf den Einsatz bestimmter KI-Systeme vor. So dürfen u. a. folgende KI-Systeme nicht verwendet werden:  

• Manipulative KI-Systeme: KI-Systeme, die einer unterschwelligen Beeinflussung des Unterbewusstseins dienen sollen oder absichtlich manipulative oder täuschende Techniken einsetzen, sofern diese geeignet sind, das Verhalten von Personen wesentlich zu verändern und sie dadurch zu beeinträchtigen, eine fundierte Entscheidung zu treffen, die andernfalls nicht getroffen worden wäre und die zu einem erheblichen Schaden für die betroffenen Personen führt oder mit hinreichender Wahrscheinlichkeit führen kann.
• Die Vulnerabilität ausnutzende KI-Systeme: KI-Systeme, die die Vulnerabilität oder Schutzbedürftigkeit von Personen z. B. auf Grund ihres Alters, einer Behinderung oder bestimmten sozialen oder wirtschaftlichen Situationen mit dem Ziel ausnutzen, das Verhalten dieser Personen so zu ändern, sodass ihnen erhebliche Schäden hieraus entstehen oder mit hinreichender Wahrscheinlichkeit entstehen können.  
• KI-Systeme zur Bewertung von Personen: KI-Systeme, die zur Bewertung oder Einstufung von Personen über einen bestimmten Zeitraum auf der Grundlage ihres sozialen Verhaltens oder bekannter, abgeleiteter oder vorhergesagter persönlicher Eigenschaften oder Persönlichkeitsmerkmale führen, wenn dies bspw. dazu führt, dass diese Personen schlechter gestellt oder benachteiligt werden und diese Folge in keinem Zusammenhang zu den Umständen stehen, unter dem die Daten ursprünglich erhoben wurden oder im Hinblick auf ihr soziales Verhalten oder dessen Tragweite ungerechtfertigt oder unverhältnismäßig ist.
• Gesichtserkennung: KI-Systeme, die Datenbanken zur Gesichtserkennung durch das ungezielte Auslesen von Gesichtsbildern aus dem Internet oder von Überwachungsaufnahmen erstellen oder erweitern.
• Ableitung von Emotionen: KI-Systeme zur Ableitung von Emotionen von Personen am Arbeitsplatz, es sei denn, die Verwendung des KI-Systems soll aus medizinischen Gründen oder Sicherheitsgründen eingeführt werden.