Chancen und Risiken der Künstlichen Intelligenz aus Sicht des Verbraucherschutzes
Definition und Funktionsweise von KI
Schon die Definition des Begriffes der Künstliche Intelligenz (KI) ist nicht einheitlich und wirkt vielleicht auch deshalb auf viele Menschen in Teilen befremdlich. Es ist interessant zu lesen, wie sich die KI gemäß ChatGPT selbst definiert: „KI bezieht sich auf Systeme oder Maschinen, die menschliche Intelligenz nachahmen, um Aufgaben zu erfüllen und aus Erfahrungen zu lernen. Diese Systeme verwenden Algorithmen und Datenverarbeitungstechniken, um Muster zu erkennen, Probleme zu lösen und Entscheidungen zu treffen.“ Auf der Homepage des Europäischen Parlaments ist dazu folgender prägnanter Satz formuliert: „Künstliche Intelligenz ist die Fähigkeit einer Maschine, menschliche Fähigkeiten wie logisches Denken, Lernen, Planen und Kreativität zu imitieren.“ Die große Frage in den nächsten Jahren wird sein, ob es beim Imitieren bleibt und welche Rolle der Mensch oder gar der Schutz von Verbraucherinnen und Verbraucher dabei spielt.
Doch wie funktioniert eigentlich die KI?
KI-Systeme arbeiten auf der Grundlage von Algorithmen, die in großen Datensätzen Muster erkennen. Diese Algorithmen werden häufig in neuronalen Netzwerken strukturiert, die den menschlichen Gehirnstrukturen nachempfunden sind. KI lernt durch "Training" mit großen Datenmengen, die es dem System ermöglichen, Vorhersagen oder Entscheidungen zu treffen. Ein zentrales Problem bei KI-Systemen ist die Qualität, die Herkunft und die Auswahl der Datensätze, die zur Schulung verwendet werden. So können Datensätze unbewusste Vorurteile enthalten, die zu diskriminierenden Ergebnissen führen können. Im Personalwesen ist es beispielsweise vorgekommen, dass bei einem Online-Händler der Algorithmus einseitig das Geschlecht für ein positives Einstellungskriterium aufgrund von bisher eingestellten Mitarbeitern hielt. Das führte dazu, dass überwiegend Bewerber eines Geschelchts eingestellt wurden.
Gesetzliche Regulierung durch die Europäische Union
Als Teil ihrer Digitalstrategie hat die EU im Frühjahr 2024 ein weltweit bisher einmaliges KI-Gesetz erlassen, das erstmals Regulierungen auf den Weg gebracht hat, um bessere Bedingungen für die Entwicklung und Nutzung dieser innovativen Technologie zu schaffen. Das Gesetz („AI-Act“ oder „KI-Verordnung“, Verordnung (EU) 2024/1689) ist ein rechtliches Rahmenwerk, das KI-Anwendungen in vier Risikogruppen kategorisiert:
- KI Anwendungen, die ein unannehmbares Risiko darstellen sind verboten.
Dazu gehören z. B. das Soziale Scoring oder die biometrische Identifizierung und Kategorisierung natürlicher Personen. Weiter sind auch Anwendungen zur Erkennung von Emotionen am Arbeitsplatz oder in der Schule verboten. Ausnahmen können für Strafverfolgungszwecke zugelassen werden.
- KI Anwendungen mit hohem Risiko müssen in einer EU-Datenbank registriert werden.
Dazu gehören KI Systeme, die ein hohes Risiko für die Gesundheit und Sicherheit oder für die Grundrechte natürlicher Personen darstellen. So fallen darunter KI-Systeme, die in Produkten verwendet werden, die unter die Produktsicherheitsvorschriften der EU fallen, KI-Technologien in kritische Infrastrukturen (z. B. autonomes Fahren im Verkehr), KI-basierte medizinische Software (z.B. in der robotergestützten Chirurgie) und KI-Systeme für die Personaleinstellung.
- KI Anwendungen mit begrenztem Risiko unterliegen definierten Transparenzanforderungen und dem EU-Urheberrecht.
Dazu gehören Chatbots oder ChatGPT und auch KI-generierte Bilder und Videos. Transparenzanforderungen beinhalten die Offenlegung, dass der Inhalt entweder durch KI erzeugt oder mit Hilfe von KI verändert wurde. Bilder, Audio- oder Videodateien (z. B. Deepfakes) müssen eindeutig als KI-generiert gekennzeichnet werden, damit die Nutzer wissen, wenn sie auf solche Inhalte stoßen.
- KI Anwendungen mit minimalem Risiko bleiben unreguliert.
Die große Mehrheit der KI-Systeme fällt nach Einschätzung der EU-Kommission in diesen Bereich z.B. Spamfilter und KI-gestützte Videospiele.
Das Gesetz ist zum 1. August 2024 in Kraft getreten und wird 24 Monate später in vollem Umfang anwendbar sein. Einige Teile, wie z. B. das Verbot von KI-Systemen, die unannehmbare Risiken darstellen, werden sechs Monate nach Inkrafttreten gelten. In der Übergangszeit gilt der sog. KI-Pakt, der KI-Entwickler dazu auffordert, die wichtigsten Verpflichtungen der KI-Verordnung schon vor Ablauf der gesetzlichen Fristen freiwillig einzuhalten.
In Deutschland wird im Rahmen der Umsetzung in nationales Recht insbesondere zu entscheiden sein, welche Aufsichtsbehörde auf Bundesebene benannt wird. Die Aufgaben der nationalen KI-Aufsicht umfassen im Wesentlichen drei Punkte: Kontrolle von Hochrisiko-KI-Systemen, Marktüberwachung und Anlaufstelle für KI-Anbieter. Neben den nationalen Aufsichtsbehörden gibt es in der Europäischen Kommission ein zentrales europäisches KI-Büro („AI Office“) mit Experten aus allen EU-Staaten, die Verstöße sanktionieren können. Das KI-Büro ist in der Generaldirektion für Kommunikationsnetze, Inhalte und Technologie (GD CNECT) der Europäischen Kommission angesiedelt.
Verbraucherrelevante Anwendungsbereiche
Wie wirkt sich KI schon jetzt im Alltag aus? Viele Verbraucherinnen und Verbraucher nutzen KI-Elemente, ohne dass es ihnen bewusst ist. So kommt KI beispielsweise bereits bei Reiseanbietern, Social Media, Finanzdienstleistern, Versicherungen, Gesundheitsanwendungen (Fitnessarmbändern etc.), Smartwaches und vielem mehr zum Einsatz. KI-Anwendungen können auch den Arbeitsalltag effizienter gestalten, indem sie wiederholende Aufgaben automatisieren. So können Assistenzsysteme bei der täglichen Arbeit, wie etwa bei der Texterstellung entlasten und unterstützen.
Ziel aus Sicht von Verbraucherinnen und Verbraucher muss es jedoch sein, dass KI-Systeme vertrauenswürdig gestaltet werden, indem sie transparente Algorithmen, faire Datensätze und klare Haftungsregelungen umfassen. Verbraucherinnen und Verbraucher sollten wissen, wie ihre Daten verwendet werden und welche Rechte sie haben. Verbraucherinnen und Verbraucher sollten die Kontrolle über ihre Daten behalten und sicherstellen können, dass ihre Privatsphäre geschützt wird. Dies erfordert klare gesetzliche Regelungen und die Einhaltung strenger Datenschutzstandards.
Zusammenfassend bietet die KI sowohl Chancen als auch Risiken. Ein ausgewogener Ansatz, der Innovation fördert und gleichzeitig Verbraucherrechte schützt, ist entscheidend für die nachhaltige Entwicklung dieser Technologie. Damit verbunden sind neben rechtlichen auch ethische Fragestellungen (z. B. die Verwendung von KI in militärischen Auseinandersetzungen), die über den Verbraucherschutz hinaus in Politik und Gesellschaft diskutiert und demokratisch legitimierten Regelungen zugeführt werden müssen.
Weitere Infos zum Thema KI
VERBRAUCHERTAG BADEN-WÜRTTEMBERG 2024
am 23. Oktober 2024 von 15:30 – 19:30 Uhr
in der Staatsgalerie Stuttgart
Alle Informationen unter www.verbraucherportal-bw.de
Bitte merken Sie sich den Termin vor!
