Meinung
Warum du sofort aufhören solltest, soziale Medien zu nutzen
von Oliver Herren
Alexa wird Schweizerin: Startet jetzt der grosse Lauschangriff?
29.4.2021
Amazon Alexa ist da. Der Voice Assistant ist offiziell in der Schweiz lanciert. Aber: Hört sie dir immer und überall zu? Oder anders: Wie sehr überwacht dich Alexa?
Amazon lanciert Alexa in der Schweiz. Der smarte Sprachassistent wohnt in deinen Lautsprechern, deinem Smartphone und hört zu, wenn du etwas sagst. Datenschutzbesorgten läuft es eiskalt den Rücken runter: Jeff Bezos hört uns zu. Er wird wissen, was du zu deiner Katze sagst und was beim Znacht diskutiert wird. Und beim Sex hört er auch zu. Katastrophe!
Die Ammenmärchen und modernen Mythen werden nicht aufhören, und jedes Smart Device wird wieder neue Diskussionen entfachen.
Gut so.
Denn der Datenschutz und die Privatsphäre sind Dinge, die praktisch jede Woche mal wieder von etwas Neuem bedroht werden. Hier will eine App mehr Daten, dort musst du wieder etwas über dich verraten. Vor allem bei Gratisdiensten wie Amazons Alexa bist du in der Falle, denn eine Faustregel des Internets besagt: Wenn es gratis ist, dann bist du nicht der Kunde, sondern das Produkt, das verkauft wird.
Bei Amazon Alexa bist du in der Mitte zwischen «zahlender Kunde» und «verkauftes Produkt». Alexa, der Voice Assistant, ist gratis. Du kannst dir die App im App Store Apples oder im Google Play Store gratis herunterladen, aber du bezahlst für ein Gerät, den Amazon Echo oder den Echo Dot zum Beispiel. Du zahlst also dafür, dass du als Produkt gehandelt werden kannst.
Hört Alexa immer zu?
Einen ersten Hinweis darauf, was Alexa genau hört, liefert die Alexa App. Dort kannst du jeden Sprachbefehl, den Alexa interpretiert hat, noch einmal anhören. Der Grund: Wenn Alexa dir eine falsche Antwort gibt, dann kannst du via App sagen «Nein, Alexa hat das in den Sand gesetzt» und so Amazon helfen, Alexa zu verbessern. Du hilfst also mit, dass du noch besser als Produkt verkauft werden kannst. Das bedeutet auch, dass Alexa die Aufnahmen deiner Stimme nach Übersee zu Analysezwecken schickt.
Auf technologischer Ebene hört Alexa nur dann zu, wenn sie den Namen «Alexa» nach einer kurzen Zeit des Schweigens hört. Wenn du also ihren Namen im Gespräch erwähnst, dann reagiert sie nicht.
Dies liegt daran, dass in jedem Gerät mit Sprachassistent zwei separate «Hearing Circuits» verbaut sind, also zwei Systeme, die dir zuhören. Sie werden wie folgt genannt.
- Passiv
- Aktiv
Das passive System ist nur dazu da, zu reagieren, wenn «Schweigen, Alexa» passiert. Es werden keine Daten übertragen. Das passive System ist lokal und auf Sonos One, soweit ich feststellen kann, nur Read Only. Auf den Echo-Geräten kannst du laut mehreren Quellen das Trigger Word ändern. Also, wenn du eine Katze namens Alexa hast, dann musst du entweder die Katze oder Amazons Assistant umbenennen. Das geht auf Sonos One nicht.
Wenn das passive System reagiert, dann löst es das aktive System aus. Das ist der Part, der deine Stimme aufnimmt und in der Cloud analysiert. Du erkennst das visuell an den Geräten selbst. Bei den Echo Devices leuchtet der blaue Ring auf, der bedeutet «Achtung: Aufnahme läuft». Da Alexa aber auf alle Stimmen reagiert, die «Schweigen Alexa $kommando» sagen, kann das recht einfach ausgehebelt werden.
Meine Sonos One hat etwa bei Sekunde 47 des obigen Videos Alexa aktiviert. Dann bei 1:04 noch einmal. Denn Alexa hört extrem gut. Sie steht bei mir im Wohnzimmer, einige Meter und Ecken von meinem Bett entfernt. Aber ich kann in normaler Gesprächslautstärke Kommandos geben, und Alexa reagiert korrekt. Wie gut Alexa hört, hängt davon ab, wie gut die Mikrofone sind, die als ihre Ohren dienen. Es ist gut möglich, dass Sonos bessere Mikros verbaut hat als Amazon in seinen Echo Dots.
Wenn ich also eine Aufzeichnung meiner Stimme mit dem Kommando «Alexa, kauf eine Breguet» aufnehme und bei dir zu Hause laufen lasse, dann reagiert Alexa, vorausgesetzt, du hast alle Kauf- und Lieferdaten korrekt bei Amazon hinterlegt.
Alexa hört nicht immer zu.
Aber sie hört auf ihren Namen. Wenn du also eine Katze hast, die Alexa heisst, dann hast du ein Problem. Oder, wenn du selbst Alexandra heisst und dein Spitzname Alexa ist.
Die Datenmenge des Überwachungssystems
Weltweit sind laut Marketingland 100 Millionen, also 100 000 000, Geräte mit Alexa in freier Wildbahn anzutreffen. Wenn jetzt diese Geräte 24 Stunden am Tag zuhören würden, dann würde das eine enorme Datenmenge produzieren.
- Eine Minute MP3 Audio in 128kb entspricht genau 1MB
- Ein Tag hat 24 Stunden x 60 Minuten, ergibt also 1440 Minuten
- Ein User würde 1440 MB Daten produzieren – täglich
Alle Alexa-Geräte würden demnach 144 000 000 000 MB Daten produzieren. Jeden Tag. Das wären 144000 Terabyte oder 144 Petabyte. Zum Vergleich: Dein Laptop hat statistisch gesehen wahrscheinlich etwa ein halbes Terabyte Speicher.
Diese unwahrscheinlich grosse Datenmenge müsste Amazon dann, so geht der Mythos, dann auch noch durchhören. In einigen Horrorvorstellungen machen das sogar Menschen. Das dystopische Bild eines riesigen Büros mit Menschen darin, alle mit Headset, die nur zuhören, was User sagen, und das Gehörte dann sogar mitschreiben. Nur für den Fall, dass da irgendetwas Spannendes gesagt werden könnte.
Dieser Überwachungsapparat, unabhängig der Datenmenge in Petabyte, kann nicht existieren. Denn, wenn Menschen Menschen zuhören, dann braucht ein Mensch einen Zuhörer. Sprich: Pro User müsste Amazon einen Menschen eingestellt haben, der im Höllengrossraumbüro zuhört. Das würde auf 100 Millionen User 100 Millionen Angestellte bedeuten. Amazon aber hat laut eigenen Angaben weltweit 1 298;000 Angestellte. Sollten alle diese Menschen nichts anderes tun, als Usern zuhören, dann würden sie bei drei Schichten à acht Stunden lediglich 43 267 Nutzer Dauerüberwachen schaffen.
Mehr würden sie schaffen, wenn Amazon per künstlicher Intelligenz Stille herausfiltert.
Ein Mensch hört dir zu… vielleicht
Trotzdem besteht die Möglichkeit, dass irgendwo ein Amazon-Angestellter deine Alexa-Aufnahmen abhört. Das Time Magazine hat anno 2019 enthüllt, dass weltweit tausende Amazon-Angestellte ausgewählte Alexa-Clips abhören. Dies, damit Alexas künstliche Intelligenz lernen kann. Denn sie versteht nicht automatisch jeden Dialekt, kann nicht automatisch zwischen allem Hintergrundgemurmel und Kommando unterscheiden. Das muss ihr exemplarisch beigebracht werden. Wie geht das einfacher als mit Beispielen aus der echten Welt?
Wenn ein Amazon-Angestellter zuhört, dann geht das laut den Quellen des Time Magazines so: In Schichten à neun Stunden transkribieren Angestellte auf der ganzen Welt Aufnahmen und füttern sie zurück an Alexa. Dazu bekommt die Software Annotationen der Transkribierer, damit sie besser versteht, was genau passiert ist.
Das Heer der Zuhörenden ist nicht nur bei Amazon direkt angestellt, sondern kann von Vertragspartnern gestellt werden. Diese Angestellten und Vertragspartner arbeiten in den USA, Costa Rica, Indien und Rumänien. Pro Schicht hört ein Mensch etwa 1000 Aufnahmen, die alle nach dem Kommando «Alexa» aufgenommen wurden.
Ein Angestellter berichtet davon, dass er sich stundenlang mit den Wörtern «Taylor» und «Swift» auseinandergesetzt hat. Er hat Alexas Software beigebracht, wann der User «Taylor» – ein Name oder ein Homonym für «tailor», «Schneider» – oder «Swift» – übersetzt «schnell» oder «hurtig» – in einem anderen Kontext verwendet hat, oder ob der User tatsächlich die Sängerin Taylor Swift gemeint hat.
Andere Angestellte berichten von einem internen Chat, in dem lustige oder schreckliche Aufnahmen geteilt werden. Mal geht es um «eine Frau, die schrecklich schlecht unter der Dusche singt», ein anderes Mal um «ein Kind, das um Hilfe schreit». Amazon hat konkrete Vorgaben, wie Angestellte damit umgehen sollen, wenn sie etwas wie einen Hilfeschrei oder die Planung einer Straftat hören. Zwei Angestellte aus Rumänien sagen: «Es ist nicht die Aufgabe der Amazon-Angestellten, sich in die Leben der Nutzer einzumischen».
Damit wehrt Amazon präventiv den Abhörskandal ab. Der Konzern darf dir zwar zuhören – wenn du eine Alexa hast, dann bist du laut AGB damit einverstanden –, reagiert ausserhalb eines konkreten Befehls aber nicht. Wenn du von deiner Partnerin verprügelt wirst und Alexa hört zufällig zu, wird kein Angestellter aus Costa Rica die Stadtpolizei Bern informieren, dass du Hilfe brauchst. Aber «Alexa, call the Police» setzt einen Notruf ab.
Könnte Amazon mit einem Notrufüberwachungsapparat nicht viel Gutes bewirken? Freilich. Aber es darf nicht die Aufgabe eines Grosskonzerns sein, ausserhalb expliziter Befehle mit deinem Leben zu interagieren.
Amazon selbst hat dem Time Magazine 2019 gegenüber Stellung bezogen. Zwar hören Menschen zu, aber der Konzern habe keine Informationen darüber, wer die Menschen in den Aufnahmen sind. Die Daten werden anonymisiert.
In den Einstellungen der App kannst du die Datenweitergabe zu Analyse- und Entwicklungszwecken ausschalten. Das empfehle ich dir. Das ist übrigens mehr Mitspracherecht als «Dieser Anruf kann zu Qualitätszwecken aufgezeichnet werden» eines jeden Call Centers. Dort hast du nur die Wahl zwischen «Kundenservice mit Überwachung» oder «Mach deinen Seich alleine».
Warum du trotzdem Werbung zu Geräuschen bekommst
Das grosse Aber: Es kommt immer wieder vor, dass du Werbung zu Dingen bekommst, die du im Gespräch mit deiner Mutter erwähnt hast. Oder zum neuen Spielzeug für deine Katze, über das du mit dem Büsi beim Znacht geredet hast. Die Antwort der Katze war «Miau», die Antwort des Internets ist «Kauf das günstig». Das liegt aber nicht an deinem Smart Speaker, sei das Alexa, HomePod oder Google Mini, sondern an einem ganz anderen Mechanismus.
Denn Alexa ist nicht das einzige Ding, das dich ausspioniert. Das Internet als Ganzes spioniert dir seit Jahren nach. Third Party Cookies und deren Nachfolger analysieren dein Surf-Verhalten. Apple will dem seit neuestem einen Riegel vorschieben, Google auch.
Es ist ziemlich wahrscheinlich, dass du mit deiner Katze über dasselbe redest, das du dir im Internet ansiehst. Das neueste T-Shirt auf Zalando, das dir sicher gut stehen dürfte. Das neue iPhone in Lila. Das neueste Katzenspielzeug, weil dein Fellknäuel das alte schon wieder zerstört hat. All das merken sich die Browser, abstrahieren es und bilden ein vermeintliches Nutzerprofil. Wenn du Katzenfutter bestellst, dann hast du ziemlich sicher Interesse an Katzenspielzeug. Denn die Statistik und damit auch die Werbeindustrie wissen: Katzen zerstören Spielzeug. Daher ist der Sprung von Katzenfutterbestellung zu Katzenspielzeug nicht weit.
Dazu kommt noch dein eigener Kopf und das Konzept des Confimation Bias. Damit ist gemeint, dass du dir – bewusst oder unbewusst – Informationen so zusammensuchst oder zurechtlegst, damit sie deine Meinung bestätigen. Im Falle Amazon Alexa suchst du nach der Bestätigung, dass sie dir zuhört. Du achtest also auf deine Gespräche. Du weisst, dass Amazon dich abhört, aber vergisst, wo du vorher überall rumgeklickt hast.. Du erinnerst dich also, dass du der Katze gesagt hast, dass sie das «doofste Fellknäuel ever» ist, weil sie «schon wieder die Plüschmaus zerstört» hat. Wenn du jetzt also Werbung für Plüschmäuse siehst, dann ist klar: Amazon überwacht dich! Aber die Werbung für NordVPN oder Raycon-Kopfhörer oder «Raid Shadow Legends», die du zwar auch angezeigt bekommen, aber einfach ignoriert hast, blendet dein Gehirn aus.
Aber trotzdem: Vielleicht ist es dann einmal nicht der Confirmation Bias. Amazon kann seine AGB ändern. Amazon kann die Software anpassen und Alexa immer zuhören lassen und sich das Recht einräumen, immer zuzuhören. Obwohl das im Moment unwahrscheinlich ist, so ist die Möglichkeit trotzdem gegeben. Alles, was es für die Dauerüberwachung braucht, ist der Entscheid der Chefetage Amazons. Sei es, weil der Profit nicht mehr stimmt oder sie meinen, dass sie doch zu schnauzzwirbelnden Schurken werden müssen.
Genau darum sollten die Fragen nach der Privatsphäre nie aufhören. Genau darum sollten du und ich und unsere Eltern und alle anderen potenziellen Nutzerinnen und Nutzer uns immer wieder fragen, an welche Daten das neueste Produkt auf dem Markt will. Denn selbst wenn da ein Hype um Alexa ist – am Ende hört sie dir zu und schickt deine Stimme auf riesige Datenspeicher überall in der Welt. Sie hört vielleicht nicht ganz so oft zu, wie manche glauben, aber irgendwo in Rumänien kann es sein, dass irgendwer zuhört, wie du mit dem Büsi über «Feini Guetzli» und deinen Chef redest.
Das Titelbild oben stammt übrigens von srlabs.de.
Journalist. Autor. Hacker. Ich bin Geschichtenerzähler und suche Grenzen, Geheimnisse und Tabus. Ich dokumentiere die Welt, schwarz auf weiss. Nicht, weil ich kann, sondern weil ich nicht anders kann.
Smarthome
Folge Themen und erhalte Updates zu deinen Interessen
Security
Folge Themen und erhalte Updates zu deinen Interessen
73 Kommentare
later