Interview mit Peter Bihr

„Technologie darf Menschen nicht diskriminieren“

Peter Bihr darüber, wie vertrauenswürdige Technologie aussehen könnte und warum er einfachen Lösungen nicht traut.

Dirk Kirchberg

IoT-Experte Peter Bihr sorgt sich im Gespräch mit kompakt-Autor Dirk Kirchberg um die Privatsphäre im Digitalen: „Verbraucher haben nicht die geringste Chance, das zu durchschauen“

Sie tragen keine Smartwatch, sondern eine analoge Uhr. Haben Sie zu Hause Smart Devices im Einsatz?

Nein, meine Frau und ich wollten keine zusätzlichen Mikrofone neben all den Smartphones und Laptops. Sie beschäftigt sich beruflich auch mit Privacy und wir glauben nicht, dass die Geräte richtig gesichert sind. Es gibt keinen Grund, das zu glauben.

Zumal jüngst rauskam, dass Spracheingaben der Nutzer nicht nur von einer künstlichen Intelligenz (KI), sondern auch von Menschen gelesen werden.

Für jeden in der Industrie ist es völlig klar, dass man diese Sprachmodelle anders nicht trainieren kann, wenn nicht Menschen draufschauen und verbessern. Es gibt diesen wunderschönen Begriff der Artificial Artificial Intelligence, der künstlichen künstlichen Intelligenz. Viele Sachen versuchen so zu wirken, als würden sie durch KI betrieben, weil das innovativ und auch unpersönlich wirkt und damit erst mal ein bisschen stabiler und ordentlicher, vertrauenswürdiger. Aber das stimmt nicht. Da sitzen ganz häufig Menschen hintendran, die höchstens mit Mindestlohn, wenn nicht darunter bezahlt werden, oft in irgendwelchen Sub-Sub-Subunternehmerstrukturen. Das sieht man nicht, wenn man sich so einen vernetzten Lautsprecher vorstellt. Das ist kein freistehendes Produkt mehr, wie wir es früher kannten. Es ist nicht so, als ob man einen Toaster kauft, der seine Aufgabe erfüllt und nur in sich abgeschlossen existiert. Es ist, als wäre es eine Blüte und untendrunter gibt es ein weit verzweigtes Wurzelsystem. Da hängen Serverfarmen dran und weitere Subunternehmer, die Daten auswerten für Drittunternehmen, die diese für Werbezwecke nutzen. Es ist ein extrem unübersichtliches Feld und der Verbraucher hat derzeit nicht die geringste Chance, das zu durchschauen. Und das ist nicht in Ordnung.

KI ist mittlerweile in vielen Unternehmen angekommen.

Ja, aber auch da gilt: Was zählt als KI, was nicht? Bei all diesen Sachen ist es so, dass die Unternehmen in manchen Bereichen ganz weit vorneweg gehen, vor allem da, wo viel Geld drin steckt. In anderen Bereichen – wie etwa beim Datenschutz – ist es oft schwieriger, wenn es etwa um Verbraucheroder Mitarbeiterrechte geht. Da brauchen Unternehmen wie auch Verwaltungen eine Weile, um aufzuholen. Das ist ein Prozess, bei dem wir in Bezug auf das Internet of Things (IoT) wie auch bei KI fragen: Was ist denn mit der Vertrauenswürdigkeit? Was passiert, wenn was schiefgeht? Wie schafft man es, Verantwortlichkeit mit einzubauen, dass man weiß, bei wem man sich beschweren kann? Und welche Formen von Korrekturmaßnahmen und Sicherheitsmaßnahmen gibt es?

Wie sah Ihre Zusammenarbeit mit der Bundesregierung aus?

Ich habe an einem Gutachten mitgeschrieben für den wissenschaftlichen Beirat der Bundesregierung. Ein Ethikprofessor, mit dem ich früher schon mal zusammen gearbeitet habe, wurde angefragt, und er meinte, er könne die ethische Perspektive reinbringen, aber nicht die technologische. So komme ich dazu. Die sagen dann etwa: „Wir wissen, wir müssen uns mit Smart Cities beschäftigen, das ist ein großes Thema und ein riesiger Markt. Die Vorhersagen gehen von Milliardenmärkten aus. Wie können wir sicherstellen, dass wir das einerseits wirtschaftlich gut entwickeln können und andererseits dafür sorgen, dass die Bürgerperspektive berücksichtigt wird?“ Wir als Externe fassen beispielsweise den Forschungsstand zusammen, sodass diese Informationen in den Prozess integriert werden können.

Wie steht es denn um die Digitalkompetenz unserer Volksvertreter?

Es gibt einige echte Experten und es gibt Menschen, die aus einem anderen Themenfeld kommen und das Digitale als Thema mitschleppen. Ganz häufig ist die Hauptaufgabe nicht, ein Technikversteher zu sein, sondern Rahmenbedingungen zu schaffen. Das klappt mal besser, mal schlechter. Schaut man sich die DSGVO an, gab es eine kleine Gruppe von extrem fitten Experten, die sehr ambitioniert dieses Gesetzespaket geschnürt hat. Das Gesetz hat einen globalen Einfluss. Das ist beeindruckend, so was gab‘s vorher noch nie, dass Regulierung auch wirklich vorgreift und ein direktes Feld mit vorbereitet. Normalerweise läuft’s nach dem Motto „Hier sind bestimmte Rechte, die gewahrt werden müssen. Die Implementierung überlassen wir der Industrie.“ Und da sehe ich vor allem viel Marktversagen.

Haben Sie ein konkretes Beispiel?

Alles rund um Datenschutz. Studie nach Studie zeigt, dass die Menschen ihre Daten aufgeben, aber das nicht leichtfertig tun, sondern sehr bewusste Entscheidungen treffen. Sie sagen zwar: „Klar finde ich das alles blöd, aber wenn ich sonst diese wichtige Infrastruktur gar nicht nutzen kann, dann habe ich ja keine Wahl.“ Wenn es wirklich Optionen gäbe, dann kann man fest davon ausgehen, dass diese auch genutzt würden. Der Markt bietet es aber nicht an. Wenn man derzeit versucht, digital mit wirklichem Datenschutz zu kommunizieren, dann muss man sich im Prinzip aus fast allem raushalten. Das heißt, dass man nicht am gesellschaftlichen Leben teilnehmen kann.

Und da setzen Sie mit einem Vertrauenssiegel an. Was soll dieses Siegel leisten?

Wir haben das „Trustable Technology Mark“ (Siegel für vertrauenswürdige Technologie) begründet. Und es ist nicht so, dass wir viele Produkte gefunden hätten, die diesen Ansprüchen gerecht würden. Aber die, die es schaffen, haben teilweise eine ganz neue Denkweise entwickelt. Effizienz und Kostenersparnis dürfen nicht die einzigen Parameter sein. Man muss auch fragen, wie steht es um die Lebensqualität, Menschenrechte, Bürgerrechte, Vielfalt? Es muss Sicherheitsmaßnahmen geben, die dafür sorgen, dass man als Bürger nicht aus Versehen diskriminiert wird.

Es gibt in der Bundesregierung an etlichen Stellen Zuständigkeiten für Digitalisierung. Würden Sie das ändern?

Schwierige Frage, weil ich weiß, dass häufig Sachen nicht aus Dummheit oder Faulheit so sind wie sie sind, sondern meist aus guten Gründen. Wäre es besser, ein einziges Digitalministerium zu haben? Oder würde das nur dafür sorgen, dass alle anderen sagen: „Bestens, dann brauchen wir uns ja nicht mehr darum zu kümmern.“ Wenn ich mir etwas ausdächte, würde es wahrscheinlich ein Problem lösen und zehn neue schaffen. Wenn es von außen aussieht, als wäre alles leicht zu lösen, ist es meist viel komplizierter.

Zur Person
Peter Bihr (39) hat in Berlin, Potsdam und Sydney Politik- und Kommunikationswissenschaften studiert. Er untersucht die Auswirkungen neuer Technologien und wie man sie verantwortungsbewusst und im öffentlichen Interesse einsetzt. Zusammen mit Kollegen hat er das „Trustable Technology Mark“ ins Leben gerufen, ein Siegel für vertrauenswürdige Technologie. Als Berater hilft er Unternehmen, NGOs und Regierungen, sich in einem Umfeld zu behaupten, das von Digitalisierung, Vernetzung und schnellem Wandel geprägt ist.

Nach oben