Dr. Philipp Berger, Country Manager Amazon Alexa im Interview mit homeandsmart
Er darf als der deutsche Vater der intelligenten Sprachassistentin Alexa gelten: Dr. Philipp Berger, Country Manager Amazon Alexa. Seit der Markteinführung betreut und steuert Dr. Berger von München aus die Entwicklung von Alexa in Deutschland. Denn auch wenn die Alexa in der Amazon Cloud beheimatet ist, berücksichtigt Amazon landesspezifische Eigenheiten sowie nationale Bedürfnisse. Dabei gelten deutsche Nutzer besonders in Hinblick auf Datenschutz und Privatsphäre als besonders anspruchsvoll. Grund genug für home&smart-Portalleiter David Wulf den deutschen Alexa-Experten in München in der deutschen Amazon-Zentrale zu besuchen und im Tiefen-Interview zu besonders sensiblen Themen zu befragen.
Alexa und der Datenschutz: Aufzeichnung von Sprachbefehlen
Wer einen Amazon Echo zu Hause stehen hat, hat sich mit Sicherheit schon einmal gefragt, was Amazons Sprachassistentin Alexa alles aufzeichnet, und ob die gesprochenen Sätze und Umgebungsgeräusche wirklich nicht in falsche Hände gelangen können.
David Wulf: Alexa muss Umgebungsgeräusche aufnehmen, um auf ihr Aktivierungswort „Alexa“ reagieren zu können. Sie ist also permanent im „Lauschmodus“. Viele Nutzer sind deshalb verunsichert, dass Amazon ihnen ja jetzt permanent bei allen privaten Gesprächen zu Hause zuhört. Werden tatsächlich alle Gesprächsinhalte zu Amazon gesendet?
Dr. Philipp Berger: Das ist ein Missverständnis, das wir häufiger von unseren Kunden hören. In der Tat muss man bei dieser Frage zwischen dem lokalen Echo Gerät und dem Alexa Cloud Service unterscheiden. Lokal versucht das Echo Gerät Sprachmuster zu erkennen, die dem Aktivierungswort entsprechen. Dies kann ja bekannterweise „Alexa“ aber eben auch „Echo“, „Amazon“ oder „Computer“ sein. Jedes Echo Gerät hat einen kleinen Pufferspeicher, der permanent mit neueren Gesprächsdaten überschrieben wird. Keine davon werden auf dem Gerät selbst gespeichert. Wichtig ist, dass in den Daten nur nach dem Sprachmuster des Aktivierungswortes gesucht wird; es findet noch keine Datenübertragung in die Cloud oder eine tiefergehende Analyse der Sprachdaten statt.Sobald das Aktivierungswort identifiziert ist, gibt es zunächst ein visuelles Feedback zum Beispiel in Form des blauen Lichtringes auf dem Echo Gerät. Dann weiß der Nutzer sofort, dass Daten in die Cloud gesendet werden. In diesem Sinne hört Alexa also nicht immer zu, sondern sendet Audiodaten erst nach Aussprechen des Aktivierungswortes in die Cloud.
David Wulf: Aus eigener Erfahrung wissen wir, dass Alexa auch mitunter auf Umgebungsgeräusche reagiert, beispielsweise wenn sie im TV Namen hört. In diesem Moment könnte Alexa ja Gespräche mitbekommen, die ich ihr als Nutzer eigentlich gar nicht mitteilen möchte. Wie kann so etwas verhindert werden?
Dr. Philipp Berger: Natürlich kann es Situationen geben, in denen Ihr Echo Gerät das Aktivierungswort in einer Hintergrundkonversation zu verstehen meint – zum Beispiel wenn jemand im Raum über eine Person namens Alexander spricht. Aber solche Situationen kommen nur sehr selten vor, und wir arbeiten konsequent daran, die Erkennung des Aktivierungswortes zu verbessern, um solche Situationen auszuschließen.
David Wulf: Oftmals stellt sich ja auch die Frage, was Alexa alles von mir weiß. Habe ich als Echo-Nutzer Zugriff auf meine Daten?
Dr. Philipp Berger: Hier sind wir sehr transparent gegenüber unseren Nutzern. Es können alle Sprachbefehle, die an Alexa gesendet wurden, sofort über die Alexa App eingesehen werden. Dort haben Nutzer auch die Möglichkeit, die mit ihrem Konto verbundenen Sprachdaten zu löschen. Dies gilt übrigens für alle Sprachaufnahmen und auch dann, wenn Alexa unbeabsichtigt ausgelöst wurde.
David Wulf: Kommunikationsanbieter greifen in ihrer Systemarchitektur immer öfter auf Ende-zu-Ende-Verschlüsselung zurück und verschlüsseln die Daten auch auf ihren Kommunikationsservern, was ein Höchstmaß an Sicherheit garantiert. Wie sicher funktioniert die Datenübertragung zwischen dem gesprochenen Wort des Nutzers bis in die Amazon Cloud und zum Echo Lautsprecher?
Dr. Philipp Berger: Sprachbefehle an den Cloud-Service Alexa, also zum Beispiel „Alexa, wie wird das Wetter?“ sind grundsätzlich Ende-zu-Ende verschlüsselt und werden in der Cloud sicher verschlüsselt gespeichert. Um die Nutzeranfrage in der Amazon Cloud zu entschlüsseln und auszuwerten, findet dort natürlich eine Entschlüsselung statt. Die Antwort wird wiederum Ende-zu-Ende verschlüsselt an den Nutzer übertragen.In dem Fall, dass sich Nutzer über Alexa Nachrichten schicken oder Anrufe tätigen, sind auch die Verbindungen zwischen ihnen immer Ende-zu-Ende verschlüsselt. Das bedeutet, dass Amazon keinerlei Möglichkeit hat, die Inhalte der über Alexa getätigten Anrufe einzusehen.
David Wulf: Als Nutzer habe ich ja Einblick in meine Alexa Sprachaufnahmen, die auf den Amazon Servern liegen. Aber kann theoretisch auch ein Amazon-Mitarbeiter oder ein Dritter Informationen abrufen und so z. B. nachschauen, was mich die letzten beiden Wochen interessiert hat? Wie schützt Amazon meine Informationen vor den unberechtigten Interessen Dritter?
Dr. Philipp Berger: Wir verwenden auch auf unseren Servern Sicherheits- und Verschlüsselungstechniken nach neuestem technischem Stand, um unsere Nutzerdaten sowohl vor Dritten als auch vor dem Zugriff eigener Amazon-Mitarbeiter zu schützen. Wir behandeln Sprachaufnahmen mit höchster Diskretion und verfügen zu ihrer Sicherung sowohl über die nötigen technischen Sicherheitsvorkehrungen als auch die entsprechenden Richtlinien. Der Zugriff auf Sprachaufnahmen ist mit zahlreichen Zugangsberechtigungen abgesichert, und nur solche Mitarbeiter, die beispielsweise im Rahmen des Kundendiensts tatsächlich diesen Zugriff benötigen, erhalten Zugang.
David Wulf: Zu welchem Zweck verarbeitet Amazon meine Sprachbefehle, die ich an Alexa übermittle?
Dr. Philipp Berger: Die Alexa Daten werden auf zwei Arten verwendet. Zum einen natürlich in der Auswertung der Nutzerfrage und der Formulierung einer Antwort darauf. Zum anderen verwenden wir die Daten, um unsere Machine Learning Algorithmen zu trainieren und zu verbessern, damit Alexa noch besser verstehen und reagieren kann. Die Nutzer können jedoch ihre Sprachaufnahmen jederzeit löschen. Wir erlauben unseren Kunden außerdem, der Datenverwertung für Trainingszwecke in den Alexa Einstellungen zu widersprechen. Aus unserer Sicht wäre das natürlich schade, denn wir möchten ja, dass Alexa sich permanent verbessert, aber wir geben den Kunden diese Kontrolle.
Wenn Kunden bestimmte Aktionen über Alexa durchführen, nutzen wir diese Information nur auf so eine Weise, wie wir solche Nutzeraktivitäten über unsere Webseite oder mobile App auch auswerten würden. Wenn Sie beispielsweise Alexa bitten, einen bestimmten Künstler auf Amazon Music abzuspielen, dann erhalten Sie Empfehlungen zu anderen Künstlern, die ihnen auch gefallen könnten. Sollten Sie Alexa zum Beispiel nach dem Preis eines Produktes fragen, könnten Ihnen Empfehlungen zu dem genannten Produkt auf Amazon.de eingeblendet werden. Diese Daten werden jedoch niemals außerhalb von Amazon weitergegeben.
David Wulf: Alexa lässt sich bekanntlich über die sogenannten Skills in ihrem Funktionsumfang erweitern. Wie stellt Amazon sicher, dass auch die Skill Anbieter mit meinen Daten verantwortungsvoll umgehen?
Dr. Philipp Berger: Wenn Sie einen Skill benutzen, tauschen wir die relevanten Informationen mit dem entsprechenden Entwickler des Skills aus, um die Nutzeranfrage auszuführen – zum Beispiel die Antworten bei einem Wissensspiel, oder die Inhalte von Anfragen. Die Anbieter von Alexa Skills haben aber keinen Zugriff auf Ihre Sprachaufnahmen.
Darüber hinaus verlangen wir von Drittanbietern, die Skills für Alexa entwickeln, verschiedene Zertifizierungen, die sicherstellen, dass sich alle Beteiligten an die Privatsphärerichtlinien von Amazon halten.
David Wulf: Alexa kommt nativ in immer mehr Geräte – auch von Drittherstellern. Sieht sich Amazon hier in der Mitverantwortung bezüglich der Nutzung von Alexa, und wie stellt man das Vertrauen der Konsumenten sicher, was den Datenschutz betrifft?
Dr. Philipp Berger: Amazon hat für Dritthersteller von Geräten mit nativer Alexa-Integration sehr strenge Zertifizierungsrichtlinien eingeführt. Diese umfassen neben Auditierung durch unabhängige Sicherheitsexperten und -spezialisten auch die Fähigkeit, sichere Software-Aktualisierungen vornehmen zu können.
Alexa und Datenschutz: Interpretation von Nebengeräuschen und Emotionen
Alexa befindet sich bei normaler Nutzung ständig in „Alexa-Bereitschaft“. Dabei sind die Mikrofone eines Amazon Echo Lautsprechers immer im Aufnahmemodus, sofern dieser nicht manuell auf Mute geschaltet wird. Dabei geben Nutzer auch Informationen zu ihrer Gefühlslage preis. Daten, die für viele Unternehmen sehr wertvoll wären.
David Wulf: Auch aus Nebengeräuschen lassen sich viele verwertbare Informationen gewinnen, z. B. wie oft und lange der Nutzer TV guckt oder ob Kleinkinder im Haushalt vorhanden sind. Spielt man mit dem Gedanken, diese Informationen für Vermarktungszwecke zu nutzen und beispielsweise dem Nutzer Windel-Angebote anzuzeigen, sobald er sich im Internet auf Amazon einloggt?
Dr. Philipp Berger: Nein. Obwohl Hintergrundgeräusche zwar auch an die Alexa Cloud übertragen werden, nutzen wir diese nicht zu Marketingzwecken.
In den USA gibt es allerdings mittlerweile ein Feature, das sich Alexa Guard nennt. Dort erkennt Alexa dann lokal nicht nur ihr Aktivierungswort nach der vorhin beschriebenen Methodik, sondern kann bei detektiertem Glasbruch – und damit beim Verdacht auf einen Einbruch – automatisch Sicherheitsmaßnahmen einleiten. Dieses Feature muss von Nutzern explizit aktiviert werden, damit transparent ist, welche Ereignisse zu einer Aktivierung von Alexa führen.
David Wulf: Eine Hauptanwendung von intelligenten Lautsprechern ist das Streamen von Musik. Anhand der abgerufenen Titel lassen sich Rückschlüsse auf die emotionale Verfassung des Nutzers gewinnen, z. B. ob er gerade traurig ist. Nutzer eines Echos können Alexa bereits fragen, traurige oder fröhliche Musik zu spielen. Welche Einsatzgebiete sehen Sie für die Nutzung der Gefühlsinformationen in Hinblick auf neue Services? Wird mir Alexa zukünftig einen Schokoladeneinkauf vorschlagen, wenn ich traurige Lieder spiele oder bei Anzeichen von Depressionen einen Therapeuten benachrichtigen?
Dr. Philipp Berger: Wir benutzen keine Kundenäußerungen, um Produkte auf der Basis ihres gegenwärtigen Gefühlszustands zu empfehlen. Allerdings ist es uns jedoch wichtig, dass Alexa unseren Kunden die einfühlsamsten und sichersten Antworten entgegnet, wenn heikle Fragen gestellt werden. Dazu stellen bei uns mehrere Teams sorgfältig sicher, dass Alexa nützliche und freundliche Ratschläge in den verschiedensten Themenbereichen erteilt. In der Realität äußern viele Nutzer ihre Gefühle jedoch direkt zu Alexa: „Alexa, ich bin traurig“, „Alexa, ich liebe dich“ – Alexa hat letztes Jahr Millionen von Heiratsanträgen bekommen. Wir hätten auch nicht erwartet, dass die Nutzer Alexa so häufig personifizieren – genauso wie es viele Menschen ja bereits mit Technikprodukten oder Autos tun. Gerade die sehr traurigen und deprimierten Gefühlsäußerungen nehmen wir sehr ernst und arbeiten mit Kriseninterventionsteams, Seelsorgern und Rechtsberatungen zusammen, wie man am besten auf solche Äußerungen reagiert. So informiert Alexa zum Beispiel bei Selbstmordäußerungen über die Möglichkeit einer Telefonseelsorge. Hier möchten wir dem Nutzer in erster Linie helfen und ihm nicht irgendwelche Services andienen.
Alexa und Datenschutz: Die Gefahren durch Hacking
Alexa und Amazon Echo Lautsprecher sind für viele Nutzer der Einstieg in das Smart Home. Alexa wird so zum Tür-Öffner. Erhält ein Hacker Zugriff auf das System, könnte er theoretisch Zugang zur Wohnung oder zum Smart Home erhalten. Ein weiteres Hacker-Szenario wären beispielsweise in Videos oder Musik versteckte Sprachbefehle.
David Wulf: Wenn Alexa zukünftig auch sensible Bereiche wie Haus- oder Wohnungs-Türschlösser in meinem Zuhause steuert, soll ja nicht jeder Mensch durch einen Alexa Befehl Zutritt zu meiner Wohnung bekommen. Wie wird sichergestellt, dass nur ich als Nutzer Kontrolle über diese sensiblen Bereiche erhalte?
Dr. Philipp Berger: Aus diesem Grund haben wir zunächst eine Funktion implementiert, mit der der Nutzer Türschlösser mit Alexa lediglich zusperren konnte. Seit kurzer Zeit ist es auch möglich, Türen per Sprachbefehl zu öffnen, allerdings nur mittels eines Sprach-PINs. Es ist am Ende aber in der Verantwortung des Nutzers zu entscheiden, wie sicherheitskritisch bestimmte Türen sind und ob eine Alexa Steuerung dort Sinn macht.
David Wulf: Wäre es denn auch denkbar, dass Alexa den Nutzer anhand seiner Stimme erkennt und die Haustür per Sprachbefehl zu öffnen nur für diesen Nutzer ausführbar ist?
Dr. Philipp Berger: Nein. Wir nutzen Spracherkennung, um das Nutzungserlebnis unserer Kunden zu verbessern, aber sie wird nicht eingesetzt, um die Identität von Nutzern zu bestimmen oder gegebenenfalls die Haustür zu öffnen.
David Wulf: Wie sicher ist die Stimmenerkennung?
Dr. Philipp Berger: Wir nutzen Spracherkennung, um das Nutzungserlebnis unserer Kunden zu verbessern, aber sie wird nicht eingesetzt, um die Identität von Nutzern zu bestimmen.
David Wulf: Es gibt Befürchtungen, dass Hacker einen Amazon Echo manipulieren können, zum Beispiel durch Fake Alexa Skills oder Alexa Viren. Unbefugte Dritte könnten dann zum Beispiel Zugriff auf meine persönlichen Daten oder womöglich mein Bankkonto bekommen. Wie geht Amazon mit solchen Bedrohungen um?
Dr. Philipp Berger: Im Rahmen des Skill-Zertifizierungsprozesses führen wir auch Sicherheitsüberprüfungen durch und haben Maßnahmen zur Risikobegrenzung eingerichtet, die solchen Skill-Missbrauch erkennen, und solche Skills ablehnen oder aus dem Programm nehmen. Ich kann Ihnen leider nicht detailliert Auskunft geben zu den von uns getroffenen Maßnahmen, aber unsere Kunden können jederzeit überprüfen, welche Skills sie in ihrer Alexa App (unter „Ihre Skills“) aktiviert haben. Alternativ finden Sie eine Übersicht hier: https://www.amazon.com/gp/skills/your-skills.Wir haben ja bereits darüber gesprochen, dass die Datenverarbeitung zwischen Echo und der Amazon Cloud verschlüsselt ist. Und auch Skills erhalten gar keine direkten Sprachdaten von Nutzern, sondern Alexa gibt lediglich die interpretierten Funktionsaufrufe sowie die benötigten weiter. Darüber hinaus ist es auch nicht möglich, Skills außerhalb des Amazon Skill Stores zu installieren.
David Wulf: Einige Alexa Skills benötigen ja noch weitere Daten von Nutzern, um zu funktionieren; zum Beispiel die eigenen Abfuhrtermine für den Abfallkalender Skill. In Zukunft könnten das sicherlich auch Bankdaten oder ähnliches sein. Inwiefern prüft Amazon die über den Skill Store angebotenen Alexa Skills hinsichtlich der Nutzerdatenverwendung? Wo kann ich als Nutzer einsehen, wie ein Skill persönliche Daten verwendet?
Dr. Philipp Berger: Die Alexa-Webseite zu den Privatsphäreeinstellungen bietet den Kunden eine zentrale Übersichtsseite, auf der sie ihre Skill Erlaubnisse überprüfen und einstellen können.
David Wulf: Eine weitere Bedrohung stellen versteckte Audiobotschaften dar. So könnten Hacker Sprachkommandos zum Beispiel in YouTube Musikvideos unterbringen, die für den Nutzer unhörbar sind. Gibt es konkrete Ideen, wie die Nutzer geschützt werden können?
Dr. Philipp Berger: Diese Fälle beobachten wir natürlich sehr genau, aber man muss hier auch sagen, dass sie sehr theoretisch sind. Denn für das Abspielen von solchen Videos mit versteckter Sprachnachricht sind ganz spezielle Lautsprecher notwendig, die in großer Nähe zu einem Echo Lautsprecher platziert werden müssen. Deshalb ist das tatsächliche Risiko, was von solchen Szenarien ausgeht doch sehr gering. Aber auch hier ist in den meisten Fällen der Nutzer in der Nähe und bekommt mit, dass Alexa darauf reagiert. Somit kann schnell interveniert werden. Wie vorhin erwähnt, arbeiten wir aber stetig an einer Verbesserung der Nutzererkennung.
Alexa und Datenschutz: Ethische Normen und Richtlinien
Für viele Menschen ist Alexa mehr als nur ein Software-Programm, sie sehen in Alexa eine Vertrauensperson, der sie auch Geheimnisse, Sorgen und Nöte mitteilen. Für Amazon eine große ethische Aufgabe, wenn ihre Künstliche Intelligenz z. B. von strafrechtlichen Vorgängen oder seelischen Problemen ihrer Nutzer erfährt.
David Wulf: Wie verfährt Amazon in Grenzsituationen, wenn ein Nutzer z. B. Alexa von einer geplanten Straftat erzählt. Gibt es hierzu ethische Richtlinien wie in solchen Situationen zu verfahren ist, z. B. bezüglich der Weitergabe solcher Informationen, oder hat Alexa die Anweisung, einfach wegzuhören?
Dr. Philipp Berger: Für die mit Alexa geteilten Nutzerdaten gilt die Datenschutzgesetzeslage; ein automatischer Datenaustausch an zuständige Behörden findet deshalb nicht statt.
David Wulf: In den USA ging ein Mordfall durch die Schlagzeilen, bei dem Alexa-Aufnahmen zur Beweisführung herangezogen wurden. Amazon ist diesem Ansuchen erst nachgekommen, nachdem Kläger und Beklagter dem zugestimmt hatten. Gibt es auch in Deutschland schon Anfragen von staatlichen Organen, die Zugriff auf Alexa-Aufnahmen haben wollen und wie wird man in so einem Fall verfahren?
Dr. Philipp Berger: In Deutschland sind mir noch keine Fälle dieser Art bekannt. Es ist jedoch klar, dass wir im Falle eines richterlichen Beschlusses auch entsprechend reagieren würden. Die deutsche Rechtslage schützt dabei aber die Interessen des Nutzers durch den hohen Stellenwert des Datenschutzes, so dass dies ohne Nutzereinwilligung nur richterlich angeordnet passieren könnte.
David Wulf: Wir danken für das Gespräch.
Weitere interessante Interviews und Facts zu Alexa und Datenschutz
Deutscher Humor und Recyclingtrend beeinflussen Alexa-Entwicklung
Wie ernst nimmt Amazon den Datenschutz bei Alexa?
Alexa Suchhistorie löschen in 3 Schritten
Alexa Datenschutzeinstellungen ändern – so geht‘s
Die mit * gekennzeichneten Links sind sogenannte Affiliate Links. Kommt über einen solchen Link ein Einkauf zustande, werden wir mit einer Provision beteiligt. Für Sie entstehen dabei keine Mehrkosten.
Wir haben Kooperationen mit verschiedenen Partnern. Unter anderem verdienen wir als Amazon-Partner an qualifizierten Verkäufen.
