Austrian Roadmap 2050: Xayn ist die erste Suchmaschine, die personalisierte Suchergebnisse mit Privatsphärenschutz kombiniert. Wie kann man sich die Funktionsweise der Technologie von Xayn vorstellen?  

Dr. Leif-Nissen Lundbæk: Xayn vereint in sich eine Suchmaschine, einen Discovery Feed und einen mobilen Browser mit Personalisierung, Datenschutz und intuitivem Design. Der sichere Discovery Browser mit integrierter Suchmaschine basiert dazu auf aktueller KI-Forschung aus Europa. Die technische Grundlage ist das sogenannte Masked Federated Learning. Dabei bleiben alle persönlichen Daten auf den Endgeräten der User – und damit eben auch jederzeit geschützt. Statt die Daten zu den Algorithmen zu schicken, schicken wir einfach die Algorithmen zu den Daten. Die KI-Modelle trainieren dort vor Ort und werden anschließend verschlüsselt gebündelt. 

Dadurch kann sich die KI kontinuierlich verbessern, während gleichzeitig die Privatsphäre der User gewahrt bleibt. Zusätzlich nutzen wir noch weitere Ebenen, um den Datenschutz noch zu vertiefen – wie zum Beispiel einen Proxy, über den die Suchanfragen laufen, und automatisierte Blocker von personalisierter Werbung, Trackern und Cookies. 

ARM2050: Privatsphäre und Datenschutz in der digitalen Welt ist schon sehr lange ein Thema, was die Gesellschaft beschäftigt. Warum ist es aus ihrer Sicht so schwierig, dieses Problem zu lösen? 

LNL: Aus meiner Sicht ist das Hauptproblem nicht die technische Machbarkeit, sondern vielmehr die Mär, dass Datenschutz mit leistungsfähiger Technologie unvereinbar wäre. Wie so häufig dauert es wahrscheinlich länger in den Köpfen der Menschen umzuparken als neue Technologien zu entwickeln.  

Deshalb wollen wir mit Xayn auch nicht einfach nur eine neue Suchmaschine oder einen mobilen Browser anbieten. Sondern wir wollen zeigen, dass es eben technische Lösungen für dieses Privatsphärendilemma gibt. Wir Nutzer*innen müssen keine faulen Kompromisse mehr eingehen. Und wir hoffen, dass wir dadurch auch dazu animieren können, neue Wege zu gehen. 

ARM2050: Meine Daten bleiben mit Ihrer Technologie auf meinem Smartphone. Kann ich trotzdem noch alle Apps und Webseiten problemfrei nutzen oder muss ich in diesem Fall auf einige verzichten, die meine Daten für sich beanspruchen wollen? 

LNL: Xayn speichert alle Daten auf den jeweiligen Endgeräten innerhalb der App ab. Es haben also keine weiteren Apps oder Dritte Zugriff auf diese persönlichen Daten und die Xayn-App greift auch nicht in andere Apps ein. 

Davon unabhängig ist es aber für alle User sinnvoll, generell zu überprüfen, wie es die verschiedenen Apps auf dem eigenen Smartphone mit dem Datenschutz halten; und gegebenenfalls auch Apps zu löschen, die es mit dem Schutz der digitalen Privatsphäre eben nicht so genau nehmen. 

ARM2050: Ist die Masked Federated Learning Technologie auch für Unternehmen geeignet? Was können Unternehmen generell tun, um ihre Privatsphäre zu schützen?  

LNL: Das Masked Federated Learning ist auch für Unternehmen geeignet. Wir haben unser Framework XayNet dazu zum Beispiel auch open source zur Verfügung gestellt – das heißt, dass andere Unternehmen, Institutionen etc. sich den Quellcode ziehen und darauf eigene Anwendungen bauen können.  

Unser Discovery Browser mit integrierter Suchmaschine ist auch auf dieser Basis erstellt – auch um zu zeigen, wie man aus dieser grundlegenden Technologie neue, konkrete Anwendungen bauen kann. Die Einsatzmöglichkeiten dazu sind aber eigentlich unbegrenzt.  

Außerdem arbeiten wir auch daran, Xayn für Unternehmen nutzbar zu machen und für ihre speziellen Bedürfnisse abzustimmen. Dazu bauen wir auch intern unseren Bereich für Partnerschaften aus. Denn für Unternehmen ist Datenschutz oftmals nicht nur ein “Nice to have”, sondern stattdessen vielmehr ein “Must have”. Gleichzeitig gibt es bislang wenige zufriedenstellende Lösungen für Unternehmen, die leistungsfähige Technologien mit Datenschutz vereinen. Deshalb sehen wir hier einen großen Bedarf und einen großen Markt. 

ARM2050: PrivacyTech ist teilweise noch ein sehr undurchsichtiges Thema, bei welchem man das Gefühl hat, nur Expert*innen wissen, was im Hintergrund geschieht. Wie kann das nötige Know-How der Gesellschaft vermittelt werden? 

LNL: Bei Privacy Tech gibt es aus meiner Sicht zwei Ebenen: Zum einen ist das die fachliche Entwicklerebene. Hier ist in der Tat tiefgründiges Expertenwissen gefragt, denn die Technologie ist hochkomplex. Nicht umsonst haben wir zum Beispiel in unserem Team eine so hohe Dichte an hoch qualifizierten PhDs/Doktortiteln. 

Zum anderen gibt es die Ebene der User – also der Menschen, die diese Technologien jeden Tag nutzen. Und da muss man ganz ehrlich sagen: Nicht jeder hat die Zeit und den Willen, sich intensiv mit der Technologie auseinanderzusetzen. Schließlich sollte uns Technologie ja den Alltag erleichtern und nicht verkomplizieren. Deshalb gilt hier aus meiner Sicht die grundlegende Devise: Je leichter datenschutzfreundliche Technologie zu nutzen ist, desto mehr Menschen werden dies tun. Mit anderen Worten: Wenn Privacy Tech “massentauglich” werden soll, muss die Technologie einfach und leicht zu bedienen sein.

ARM2050: Xayn bietet eine Technologie, die eine besondere Notwendigkeit in Zeiten der Digitalisierung darstellt. Wie sieht ihrer Meinung nach die Zukunft des Datenschutzes aus? 

LNL: Tim Cook, der CEO von Apple, hat es vor Kurzem so treffend ausgedrückt als er meinte, dass Datenschutz neben der Klimakrise mit die größte Herausforderung unserer Zeit sei. Das Thema gewinnt gerade an Fahrt und wird immer wichtiger werden. Wir merken es ja jetzt schon, dass sich viel mehr Menschen damit beschäftigen – und interessanterweise passiert dies nicht nur in Europa, was man traditionell eher als Vorreiter in Sachen Datenschutz versteht. Wenn wir auf unsere eigenen Downloadzahlen schauen, stellen wir zum Beispiel fest, dass wir mit den größten Zuwachs an Usern aus den USA haben.  

Neben dem Problembewusstsein zum Datenschutz brauchen wir auch technische Lösungen, die die Menschen gerne und einfach verwenden können. Das schließt auch wieder an dem an, was ich zuvor sagte: Wenn datenschutzfreundliche Technologien in die Breite gehen sollen, müssen sie vor allem nutzerfreundlich sein. 

(c )Xayn

ARM2050: Viele Unternehmen profitieren alleine aus dem Verkauf der Daten ihrer Nutzer*innen. Werden diese Unternehmen dauerhaft dieses Geschäftsmodell besitzen oder müssen sich diese langfristig umorientieren? 

LNL: Mit dieser Frage nach den Geschäftsmodellen legen Sie den Finger in die Wunde. So lange es sich für Unternehmen rechnet, die Daten ihrer User für ihren eigenen Profit auszuschlachten, so lange werden sie es wohl tun. Deshalb muss hier aktiv entgegengesteuert werden. 

Zum einen kann dies der Gesetzgeber tun, indem schützende Rahmenbedingungen aufgestellt werden, die User vor der Datensammelwut übermächtiger Konzerne bewahren. Zum anderen können und sollten aber auch eben jene User aktiv werden – denn diese Riesenkonzerne haben nur die Macht, die sie haben, weil wir sie ihnen einräumen. Wenn wir ihnen keine Daten mehr geben, können sie auch keinen Profit machen. Und dann müssen sie sich so oder so umorientieren. 

ARM2050: Wie kann KI im öffentlichen Raum sinnvoll eingesetzt werden?

LNL: Ich freue mich, dass Sie so direkt danach fragen, wie KI im öffentlichen Raum sinnvoll eingesetzt werden kann. Denn wir haben uns auch schon dazu Gedanken gemacht. Vor Kurzem haben wir gemeinsam mit dem Digital Society Institute der European School of Management and Technology genau dazu ein Positionspapier geschrieben und anhand von möglichen Anwendungsfällen konkret durchdekliniert, wie datenschutzfreundliche KI im öffentlichen Sektor eingesetzt werden kann. So kann das föderierte Lernen zum Beispiel im Gesundheitssektor unterstützen – in künftigen Pandemien könnten damit individuelle und kollektive Risiken schneller erkannt und eingedämmt werden. Diese Technologie hat das Potenzial, die Effizienz zu steigern und gleichzeitig auch das Vertrauen der Menschen in die Verwaltung zu steigern, da die persönlichen Daten gut geschützt sind.  

Mit anderen Worten: Neue KI-Ansätze wie z.B. das verschlüsselte föderierte Lernen können zu einem neuen EU-Modell zur verantwortungsvollen KI-Nutzung werden – und sie können auch aufzeigen, dass es technische Lösungen gibt, die nur noch darauf warten, angewandt zu werden. 

(bes)