Mel
Sprachassistenten wie Siri, Google Assistant oder auch Amazon Alexa sind in immer mehr Haushalten zuhause. Vor allem Alexa von Amazon ist auch in bundesdeutschen Eigenheimen sehr beliebt, was vor allem an günstigen Einstiegspreisen, der Integration in vielen Dritt-Geräten und den zahlreichen Möglichkeiten zur Erweiterung liegen dürfte. Mittlerweile setzen Millionen von Menschen auf der ganzen Welt auf sprachgesteuerte Assistenten zur Erledigung von Wetteranfragen, dem Vorlesen von Nachrichten oder der Steuerung von Musik und Smart Home-Geräten.
Dass Sprachbefehle und Fragen der Nutzer an die jeweiligen Server gesendet werden, um entsprechende Antworten durch die Sprachassistenten zu generieren, ist auch nichts Neues und soweit bekannt. Ein Team von Bloomberg jedoch hat nun mit Hilfe der Aussagen einiger Amazon-Mitarbeiter herausgefunden, dass tausende Mitarbeiter in Teams auf der ganzen Welt Zugriff auf die Audio-Anfragen haben, um Alexas Antworten auf die Sprachbefehle im eigenen Produkt Amazon Echo zu verbessern.
So sollen sieben Mitarbeiter berichtet haben, dass es mehrere Einrichtungen von Amazon weltweit gibt, darunter in Rumänien, Indien, Costa Rica und in Boston in den USA, in denen Sprachaufnahmen der Amazon Echo-Nutzer angehört, transkribiert, kommentiert und zurück in die Software geleitet werden – alles, um Alexas Antworten auf die Befehle zu optimieren.
Auch wenn die Mitarbeiter die meiste Arbeit an den Audioinhalten als „belanglos“ bezeichneten, gab es trotzdem einige private Aufnahmen, denen sie begegneten – darunter eine Frau, die unter der Dusche sang, oder auch ein Kind, das nach Hilfe schrie. Amazon-Mitarbeiter haben außerdem interne Chaträume, in denen sie Inhalte teilen, wenn sie Hilfe mit einem Wort benötigen, oder auch – was deutlich beunruhigender ist – eine „amüsante Aufnahme“ zu teilen.
Mitarbeiter stoßen auf verstörende Alexa-Aufnahmen
Im Zuge des Anhörens und Bewertung von Alexa-Anfragen seien zwei der betreffenden Mitarbeiter auf verstörende oder potentiell kriminelle Aufnahmen gestoßen. Während Amazon selbst erklärt, dass es für derartige Fälle entsprechende Maßnahmen gibt, wurden einigen Mitarbeitern erzählt, dass es nicht Aufgabe des Unternehmens sei, bei diesen Vorfällen zu intervenieren. Dazu heißt es im Artikel von Bloomberg:
„Zwei der Arbeiter sagten, sie hätten etwas gefunden, von dem sie glauben, dass es sich um einen sexuellen Übergriff handelt. Wenn so etwas passiert, können sie das Erlebnis im internen Chatroom mitteilen, um Stress abzubauen. Amazon gibt an, dass es Verfahren gibt, nach denen die Beschäftigten nachgehen müssen, wenn sie etwas Bedrückendes hören. Zwei in Rumänien ansässige Mitarbeiter sagten jedoch, dass ihnen gesagt wurde, nachdem sie um Rat in solchen Fällen gebeten hatten, es sei nicht die Aufgabe von Amazon, sich einzumischen.“
Zwar können Alexa-Nutzer eine Option auswählen, dass ihre Aufnahmen nicht zur Produktverbesserung beitragen, aber wohl nicht alle Besitzer von entsprechenden Geräten werden um diese Möglichkeit wissen. Ebenfalls nicht von Amazon kommuniziert wird die Tatsache, dass sich echte Menschen die Aufnahmen anhören. Die beteiligten Mitarbeiter bekommen zwar keinen ganzen Namen und eine Adresse mitgeteilt, aber eine Account-Nummer, den Vornamen und die Seriennummer des zugehörigen Geräts.
Auch Apple und Google lassen Mitarbeiter mithören
Amazon äußert sich zu diesem Thema gegenüber Bloomberg mit der Beschwichtigung, dass nur eine „sehr geringe Anzahl“ an Alexa-Sprachaufnahmen angehört und bearbeitet wird, und es Maßnahmen gibt, um die Identität der Nutzer zu schützen.
„Wir verfügen über strenge technische und betriebliche Garantien und haben eine Null-Toleranz-Richtlinie für den Missbrauch unseres Systems. Mitarbeiter haben während ihres Workflows keinen direkten Zugriff auf Informationen, die die Person oder das Konto identifizieren können. Alle Informationen werden mit hoher Vertraulichkeit behandelt. Wir verwenden eine Multi-Faktor-Authentifizierung, um den Zugriff, die Dienstverschlüsselung und die Überwachung unserer Kontrollumgebung einzuschränken.“
Auch Apple und Google mit ihren Assistenten Siri und Google Assistant nutzen Sprachbefehle ihrer Nutzer, um die eigenen Produkte zu verbessern. Bei Apple hören sich Mitarbeiter Siri-Anfragen an, um die gestellte Frage mit dem gelieferten Antwort abzugleichen. Die Aufnahmen enthalten dabei jedoch keinerlei persönliche Informationen und werden nach sechs Monaten der anonymisierten Speicherung gelöscht. Auch Google lässt Mitarbeiter mithören, entfernt aber ebenso wie Apple persönliche Informationen und verzerrt die Audioaufnahmen.
Amazon bekräftigt immer wieder, dass die eigenen Produkte erst dann „mithören“, wenn die entsprechende Sprachaufforderung „Alexa, …“ erfolgt ist. Die bei Bloomberg zur Sprache gekommenen Mitarbeiter hatten aber bereits häufiger mit Sprachinhalten zu tun, bei denen die Aufnahme offensichtlich auch ohne das Wort „Alexa, …“ gestartet worden ist. Wer ein Amazon Alexa-Produkt besitzt und keine zusätzlichen Mithörer im eigenen Zuhause haben will, sollte demnach alle verfügbaren Privatsphäre-Optionen sowie das Verbieten der Speicherung von Audio-Anfragen in den Einstellungen aktivieren.
Irgendwie für mich ein Grund, den ganzen Kram zu Amazon zurück zu schicken!
Irgendwie der Grund weshalb niemals infrage kam, so ein Kram bei uns in die Wohnung zustellen… by the way: kennt eigentlich irgendjemand noch Georg Orwells 1984?
Aber das ist doch klar, wer kann so naiv sein und nicht so etwas vermuten? Ist uns war mein Hauptgrund es nicht zu kaufen.
Auch wenn es immer wieder dementiert wird aber seien wir mal ehrlich. Jeder Konzern spioniert uns aus, ob wir es wollen oder nicht
Ich empfinde die Verbesserung der Spracherkennung nicht als Spionage. Als ITler bin ich davon ausgegangen, dass eine Promille-Wert manuell geprüft wird.
So sehe ich das auch.
Wie sonst will man die Systeme verbessern?
Ja, jetzt ist es kein Promillebereich, aber solang es anonymisiert oder nicht gegen einen verwendet wird … ??♂️
Wir können auch zurück in die Steinzeit gehen.
Und als Nicht-ITler sage ich dir, dass eine solche Vorgehensweise ohne ausdrückliche Einwilligung zumindest in Europa und spätestens nach der DSGVO illegal ist.
Immer diese Histerie um die DSGVO. Diese ganzen Sachen, um die jetzt so ein Zirkus gemacht wird, waren vorher auch schon nicht erlaubt
Wo habe ich Hysterie verbreitet? Ich habe sogar wohlweislich „spätestens seit“ geschrieben, insbesondere auch deswegen, weil durch die DSGVO noch strengere Regeln z. B. für die Einwilligung gelten.
Im Übrigen halte ich von der DSGVO wenig, weil sie „handwerklich“ schlecht gemacht ist, wie übrigens viele Gesetze etc. in den letzten Jahrzehnten.
Als ITler sage ich, das geht garnicht. Die Privatsphäre muss stets geschützt sein. Zur Produktverbesserung, die auch meiner Meinung nach nötig und sinnvoll ist, können Kunden eingeladen werden – gerne gegen Bezahlung, bei voller Transparenz. Aber niemals ohne klare und ausdrückliche Information. Solche Aktionen missbrauchen das Vertrauen der Kunden und können die Entwicklung weit zurückwerfen.
Ehrlich gesagt habe ich auch mit etwas ähnlichem gerechnet. Von allein verbessert sich die Leistung der Sprachassistenten nicht. Dass es Amazon nicht schafft das ganze zu anonymisieren ist natürlich schwach aber vielleicht wird da ja noch nachgebessert. Amazon sollte auch darum bemüht sein, den Nutzern von Anfang an klar zu machen welche Möglichkeiten es beim Datenschutz gibt. Gerade was das Thema neue Technik angeht ist Vertrauen für den Kunden ein ganz wichtiger Punkt.
Bestimmt steht iwo, dass durch die direkte Ansprache des Gerätes ein „OK“ gegeben ist … Mich stört es nicht … Und sonst handhabt es wie Löwenzahn – Abschalten ^^
Das ist zwar nicht gänzlich überraschend aber dennoch vollkommen gruselig.
Zwischen nicht undenkbar und strafrechtlich relevant liegt immer noch ein immenser Unterschied, der nicht zu verharmlosen ist. Ich habe als i Mensch aus gutem Grund keine solche Kiste im Haus und möchte dennoch, dass solche Verletzungen der Persönlichkeitsrechte mit So empfindlichen Bußen belangt werden, dass es quietscht.
up,s da ging beim i ein technikaffin flöten. Also als techikaffiner Mensch
Brauchen Behörden immer solange bis sie aktiv werden.
und Apple und Google tun genau das selbe. Fernseher, Handys, Uhren. Aber vielleicht einfacher schlauer als Amazon weil es da noch nicht an die Öffentlichkeit kam. Wer das nicht will sollte keine smarten Geräte, nein am besten gar keine Geräte mit einem Mikro besitzen.
Viele die jetzt jammern wie man sich auf sowas einlassen kann mit Echo denken, gar nicht an ihr IPhone oder Samsung Handy.
Ich wusste es und ganz ehrlich mir ist das wumpe da ich kein Planungsbüro für Atomkraftwerke betreibe wo ich Angst um betriebsspionage haben müsste. Sollen sie doch wissen was wir morgen essen or whatever. Vielleicht sollten die Hersteller es einfach offener kommunizieren.
Wenn dir alles „wumpe“ ist, kannst du ja auch hier deine ganzen Hosen runterlassen. Also los, erzähl uns alles über dich, familiäre Verhältnisse, Einkaufsverhalten, Urlaube, wie oft hast du mit wem/dir Sex, zeig uns deine Nacktfotos und, und. Auf geht’s!
Sex sells ? Ich denke das wäre eher langweilig und zu kurz beim runterlassen ? und verstößt hier bestimmt gegen Nutzungsbedingungen. verheiratet 1 Kind angestellt Familien Einkommen über 50 Tausend , Urlaube eher wenig keine Zeit ansonsten Durchschnittsleben, keine Straftaten bla bla langweilig ansonsten. Und nun ? Bekomme ich jetzt noch angepasstere Werbung ? auf die ich eh nie klicke.
Es bleibt ja jedem selbst überlassen sich unwohl zu fühlen und auch sein gutes Recht. Es ist nur übertrieben nur auf Amazon rumzuhacken wenn es alle anderen großen sicher gleichtun. Nur wie gesagt wohl schlauer sind.
Hallo Lareluna
Es scheint als ob du mehr weißt als alle investigativ arbeitenden Journalisten dieser Welt!
Ich würde daher gerne erfahren, woher du diese Informationen hast? Du postulierst, dass alle großen Firmen mit Sprachassistenten die Privatsphäre verletzen – woher stammt dein Wissen?
Und um auch dies hier nochmals klar zu formulieren: es besteht ein erheblicher Unterschied zwischen einer Unterstellung, einer Vermutung, einem begründetem Verdacht (hier der Fall) und justiziablen Beweisen.
Ich teile darüber hinaus die Auffassung, dass die Privatsphäre geschützt werden muss. Sie ist im Übrigen auch ein Menschenrecht. Die Bundesrepublik hat alle entsprechenden Erklärungen ratifiziert. Es ist also rechtlich unerheblich, ob es dir egal ist, der politische Meinungsbildungsprozess ist soweit abgeschlossen.
Im Übrigen: auch in meine Wohnung kommt kein Amazon Gerät und ich würde mir eine kritischere Distanz des Redaktionsteams wünschen.
@Henning1965: Geh doch mal bitte zum Bürgeramt und frage dort nach, warum wir vor Jahren ein Dokument unterschreiben mussten, wo man Vater Staat erlaubt seine Daten weiterzugeben und warum das heute nicht mehr gemacht wird. Ich nehme mal die Antwort vorweg: Weil unser feiner Staat unsere Daten jetzt ohne unsere Zustimmung verkauft.