Algorithmen

#seiunberechenbar ... im Dialog mit Assistenten

Sprachassistenten

Digitale Sprachassistenten wie Amazons Alexa, Googles Assistant oder Siri von Apple werden von Jahr zu Jahr beliebter und immer mehr Verbraucher nutzen den Komfort von Sprachassistenten. Wie Umfragen des Bundesverbands Digitale Wirtschaft zeigen, haben bereits über die Hälfte der Deutschen schon mal einen Sprachassistenten benutzt. Sprachassistenten sind heutzutage in den meisten Smartphones nutzbar und werden mit einem Lautsprecher zusammen auch als Smart Speaker angeboten. Spricht man mit diesen Sprachassistenten, die auch als mobile oder digitale Assistenten bezeichnet werden, beantworten die Geräte verbal Fragen oder vereinfachen die Bedienung vernetzter Smart Home Geräte.

Digitale Assistenten immer beliebter

Smart Speaker können mit Sprachbefehlen über das Internet Musik abspielen, das Wetter vorhersagen, Waren bestellen, die Heizung regeln oder das Licht anschalten. Digitale Assistenten können so in einem Smart Home beim Energiesparen helfen oder für mehr Komfort und Sicherheit in der Wohnung sorgen. Auch einige Banken bieten ihren Kunden an, Geld per Sprachbefehl zu überweisen. Für ältere Menschen oder Menschen mit Behinderungen können Sprachassistenten Arbeiten übernehmen, die sie selbst nur schwer oder nicht mehr ausführen können.

Grundprinzip von digitalen Assistenten

Die meisten digitalen Assistenten stehen in der Wohnung und sind über WLAN mit dem Internet-Router verbunden. Wenn ein festgelegtes Signalwort ausgesprochen wird, legen die Assistenten los: Die über eingebaute Mikrofone aufgenommenen Sprachdaten werden an die Server des Anbieters gesendet. Dort wandelt eine komplexe Spracherkennungs-Software des jeweiligen Anbieters das Gesprochene in Text um, ordnet sie in einen Zusammenhang ein und leitet daraus die vermutete Absicht des Menschen ab, der gesprochen hat. Nach der Verarbeitung der Anfrage wird innerhalb von Sekundenbruchteilen in Echtzeit eine Antwort an den Assistenten zurückübermittelt. In der Wohnung erfolgt eine Sprachausgabe oder es wird ein Vorgang ausgelöst (Musik abspielen, Geräte steuern oder ähnliches). Im Dialog mit dem Nutzer greifen digitale Assistenten über das Internet auf die verschiedensten Quellen zurück, um geeignete Lösungen für die Fragestellungen und Probleme zu finden. Zu diesen Datenquellen zählen die großen Suchmaschinen, Daten aus Wikipedia und Dienste von Drittanbietern (sogenannte „Skills“ oder „Actions“).

Risiken beim Einsatz kennen

Verbraucher müssen sich darüber im Klaren sein, dass die meisten digitalen Sprachassistenten rund um die Uhr mit dem Internet verbunden sind, damit sie das Aktivierungswort erkennen und sofort mit dem Server des Anbieters kommunizieren können. Die Geräte sind schnell einsatzbereit und der Nutzungskomfort beeindruckt immer wieder. Oft bleibt jedoch die Funktionsweise der Systeme im Detail unklar, beispielsweise welche Daten gesammelt werden, wo und wie diese gespeichert und gesichert werden. Die Sprachbefehle unterscheiden sich dabei im Allgemeinen nicht vom Eintippen von Begriffen, ausgewertet wird alles unabhängig von der Übermittlung: Die Musikwünsche, die Bestellung bei einer Online-Plattform oder die Abfrage nach einem Restaurant. Die Verknüpfung der Daten miteinander und die Weiterverarbeitung für andere Zwecke bleibt dem Nutzer in der Regel verborgen, weil sie in den umfangreichen und oft nur schwer lesbaren AGBs nicht explizit aufgeführt sind.

Verbraucherinteressen schützen

Ohne die Preisgabe privater Daten können die sprachgesteuerten Assistenten nicht genutzt werden. Digitale Assistenten beziehungsweise Smart Speaker ermöglichen den Anbietern tiefe Einblicke in das Privatleben der Nutzer, insbesondere, wenn sie zu Hause aufgestellt werden und bei Gesprächen im privaten Umfeld anwesend sind. Die gespeicherten Daten können mit dem Nutzerkonto verknüpft werden und mit algorithmischen Auswertungen unter anderem die Konsumentscheidungen von Verbrauchern beeinflussen.

Die Verarbeitung dieser personenbezogenen Daten sollte nur erfolgen, wenn der Verbraucher dieser Verarbeitung zustimmt, sie nachvollziehen, kontrollieren und steuern kann. Digitale Assistenten sollten daher so eingestellt werden, dass sie datensparsam arbeiten und die Daten anonym verarbeiten. Da sie meistens standardmäßig aktiv sind um auf mögliche Sprachbefehle reagieren zu können, sollten die Persönlichkeitsrechte von Besuchern respektiert werden und diese über einen eingeschalteten Sprachassistenten in der Wohnung informiert werden.

Digitale Assistenten noch am Anfang der Entwicklung

Digitale Assistenten bedienen sich Algorithmen, um die Befehle zu verstehen und umzusetzen. Die eingesetzte Software wird laufend weiterentwickelt. Derzeit müssen die Sprachbefehle oft noch eine bestimmte Form haben und bestimmte Begriffe nutzen, damit sie vom System im Sinne des Nutzers umgesetzt werden können. Da den Sprachassistenten bei komplizierten Anfragen oft noch das Verständnis für Zusammenhänge fehlt, kann es zu Missverständnissen in der Kommunikation zwischen Mensch und Maschine kommen. Bisweilen reagieren Sprachassistenten nicht nur auf das festgelegte Signalwort, sondern auch auf ähnlich klingende Begriffe aus einem Gespräch. Dadurch können ungewollt Ausschnitte aus Unterhaltungen aufgezeichnet und an den Server des Anbieters übertragen werden. Insbesondere bei der Steuerung von Smart Home-Geräten wurde auch schon davon berichtet, dass durch missverständliche Anweisungen und von den Assistenten falsch verstandene Befehle unbeabsichtigte Aktionen mit teilweise erheblichem Schadenspotential ausgelöst worden sind.

Digitale Assistenten bewusst einsetzen

Verbraucher, die einen digitalen Assistenten einsetzen möchten, sollten sich mit den Einstellungen des Geräts vertraut machen und sich überlegen, für was sie das Gerät nutzen wollen. Die Optionen für datensparsame Einstellungen sollten im Konfigurationsmenü benutzerfreundlich zugänglich sein und einfach aktiviert werden können.

Um das unbeabsichtigte Aufzeichnen von Gesprächen zu verhindern, können die Mikrofone von Sprachassistenten von Hand ausgeschaltet werden. Oder das Gerät wird so konfiguriert, dass immer ein Ton erklingt, wenn der Sprachservice eine Aufzeichnung beginnt und wenn er diese beendet. Damit Anbieter persönliche Daten nicht zur Weiterentwicklung der Spracherkennung verwenden können, müssen Nutzer in den Einstellungen der Verwendung ihrer Aufnahmen zur Optimierung des Dienstes widersprechen können. Das ist besonders dann wichtig, wenn auch Gespräche aufgezeichnet wurden, obwohl kein offizielles Wort zur Aktivierung ausgesprochen worden ist. Alle Sprachaufzeichnungen verbleiben nicht lokal auf den Geräten, sondern werden zur Auswertung auf den Servern der Anbieter archiviert und können so zum Beispiel auch für Werbezwecke verwendet werden.

Werden die Sprachassistenten über Apps gesteuert, sollte der Verlauf aller vergangenen Server-Anfragen einsehbar sein und Einträge sollten einzeln oder vollständig von den Servern zu löschen sein. Verbraucher haben ein Auskunftsrecht nach Artikel 15 DSGVO und können beim jeweiligen Anbieter verlangen über gespeicherte Daten informiert zu werden.

Auch beim Einsatz von Sprachassistenten werden Entscheidungen von Algorithmen getroffen. Für Anbieter sollte es Pflicht werden, das kenntlich zu machen und über die Verwendung von Algorithmen aufzuklären.

Das Bundesamt für Sicherheit in der Informationstechnik (BSI) weist darauf hin, dass bei der Verwendung digitaler Assistenten folgende Maßnahmen beachtet werden sollten, um die Sicherheitsrisiken zu reduzieren:

  • Zur Vermeidung von unberechtigten Zugriffen sollte der digitale Assistent bei Abwesenheit deaktiviert oder ausgeschaltet werden. Falls möglich, sollten Sprachprofile für verschiedene Personen zur Interaktion mit dem Gerät eingerichtet werden.
  • Der digitale Assistent sollte an einem Ort platziert werden, an dem ihn nur Berechtigte nutzen können. Eine Position am offenen Fenster ist beispielsweise ungeeignet, wenn er ein smartes Türschloss steuern kann.
  • Kritische Sprachbefehle und Bestellungen sollten immer erst nach Eingabe eines PIN-Codes oder Passwortes ausgeführt werden dürfen.
  • Durch regelmäßige Einsicht der gespeicherten Daten kann eine missbräuchliche Verwendung des digitalen Assistenten erkannt werden. Nach Bedarf können Daten gelöscht werden.
  • Datenschutzeinstellungen sollten kontrolliert und gemäß persönlicher Bedürfnisse verändert werden.
  • Anwendungen zur Funktionserweiterung sollten nur aus vertrauenswürdigen Quellen bezogen werden.
  • Der digitale Assistent sollte nur mit Geräten und Accounts verbunden werden, die für das Funktionieren des Systems unabdingbar sind. Manchmal ist das Anlegen eines neuen Accounts sinnvoll, um persönliche Daten abzusichern.
  • Auch die Persönlichkeitsrechte von Besuchern sollten respektiert werden, indem diese über einen eingeschalteten Sprachassistenten in der Wohnung informiert werden.
  • Es sollten keine Aufnahmen von Nutzern abgehört werden um die Qualität der Spracherkennung zu verbessern.
  • Die Funktion sollte abgeschaltet werden, dass beim Entwickeln neuer Funktionen mitgeholfen wird.
// //