Suche
  • Digital Humanists

“Vieles von dem, was als unethisch bezeichnet wird, ist schlichtweg rechtswidrig."

Aktualisiert: Sept 3

Ethische Appelle sind wichtig, ersetzen rechtliche und politische Verantwortung aber nicht.


Interview von Jolanda Rose und Cassandra Askin


Besonders von staatlicher Seite erfordern Krisenzeiten schnelles, bedachtes Handeln, sowie neue, digitale Vorgehensweisen. Welche Stärken und Schwächen die Entwicklung der Corona-Tracing-App in der öffentlichen Verwaltung gezeigt hat und wie es um die ethische Verantwortung in Krisenzeiten in Bezug auf IT-Systeme steht, hat Prof. Dirk Heckmann im Gespräch mit Digital Humanists erörtert. Er hat an der Technischen Universität München den Lehrstuhl für Recht und Sicherheit der Digitalisierung inne und ist Direktor der bidt.digital.


Jolanda Rose: Vielen Dank für das Interview. Du bist wirklich eine Koryphäe im Bereich Ethik, Digitalisierung und Recht und damit prädestiniert, Partner von Digital Humanists zu sein. Wir haben das große Glück, dass du uns tatkräftig unterstützt. Ich bin sehr gespannt darauf, jetzt mit dir über aktuelle Themen, v.a. über die Corona-Tracing-Apps und Ethik in der Krise zu sprechen. Erstmal kurz zu dir: Wie ist denn dein Werdegang bisher gewesen?

Dirk Heckmann: Vielen Dank liebe Jolanda. Sehr gerne unterstütze ich Digital Humanists, auch mit meiner Expertise, die tatsächlich demnächst ein Vierteljahrhundert alt sein wird. Ich habe Mitte der 90er Jahre, als ich meinen ersten Ruf an die Universität Passau bekommen habe, bereits begonnen, das Internet als Gegenstand meiner juristischen Forschung zu entdecken - was von meinen Kolleginnen und Kollegen lange Zeit als “Orchideenfach” belächelt wurde. Meinen Lehrstuhl für Öffentliches Recht, Sicherheitsrecht und Internetrecht hatte ich 23 Jahre inne, bevor ich letztes Jahr einen Ruf an die Technische Universität München (TUM) bekommen habe, wo ich jetzt seit Oktober 2019 mit dem Lehrstuhl für Recht und Sicherheit der Digitalisierung tätig bin. Diesem angeschlossen ist das TUM Center for Digital Public Services, wo wir mit Unterstützung des Bayerischen Digitalministeriums von Staatsminsterin Judith Gerlach gemeinwohlorientierte Forschung in den Themenschwerpunkten Digitale Verwaltung, Digitale Bildung und Digitalisierung des Gesundheitswesens betreiben. In den ganzen Jahren habe ich Forschung nie als Tätigkeit im Elfenbeinturm betrachtet. Vielmehr ging es mir um den gesellschaftlichen Impact und die Bedeutung für die Praxis, Wirtschaft und Politik. Aus diesem Grund war und bin ich auch in sehr vielen Gremien tätig, u.a. in der Datenethikkommission der Bundesregierung oder der Ethikkommission für autonomes Fahren des Bundesverkehrsministeriums und auch in der AG Ethik der Initiative D21 und als Geschäftsführer des Ethik-Beirats der AOK Nordost. Meine Forschungsprojekte befassen sich vielfach mit der Schnittstelle zwischen Recht, Technik und Ethik.


Jolanda Rose: Das ist ein beeindruckender Lebenslauf. Ich finde es immer sehr spannend, wenn jemand ein neues Forschungsgebiet entdeckt, bevor es ein Hype oder gerade Trend ist, und sich dann auch wirklich traut, auf diesem Gebiet neue Wege zu gehen. In letzter Zeit hast du auch einen neuen Weg von staatlicher Seite unterstützt. Du hast die Bundesregierung in einem Forscherteam der TUM bei der Entwicklung der Corona-Tracing-App unterstützt. Diese App ist dafür da, dass man während der COVID-19 Pandemie zurückverfolgen kann, wer wo war und wer sich womöglich infiziert haben könnte. Die Nutzung der App ist freiwillig. Dieses Vorhaben ist als derartig großes Entwicklungs- und Digitalisierungsprojekt in der Bundesrepublik Deutschland bisher einzigartig. Es wurde schon viel abstrakt dazu geschrieben, aber es wäre toll, wenn du beschreiben könntest, wie die Entwicklung intern ablief. Besonders würde mich interessieren, welches die größten Hürden waren und welche rechtlichen, gesellschaftlichen sowie ethischen Diskussionen es gab.

Dirk Heckmann: Wir haben ja nun seit mehr als einem halben Jahr diese Situation der Pandemie, auch wenn die WHO das erst im März offiziell so bestätigt hat. Schon Ende letzten Jahres tauchten Spuren dieses neuartigen Virus in China auf. Damit stehen wir vor einer ganz besonders großen, weltweiten Herausforderung für die jeweiligen Staaten und Gesellschaften. Eine solche Pandemie fordert uns alle heraus. Es gibt ein großes Gesundheitsrisiko durch unkontrollierte Infektionen, die bei manchen Menschen tödliche Folgen haben können. Daraus ergibt sich die Herausforderung, dieses Infektionsgeschehen so in den Griff zu bekommen, damit es einigermaßen kontrolliert werden kann. Das geht nur durch die Nachverfolgung von sog. Infektionsketten. Schon sehr früh war klar, dass es dafür auch digitale Möglichkeiten gibt. In anderen Ländern gab es Apps, die diese problematischen Kontakte registrieren und dann wiederum den Warnmechanismus digital initiieren konnten. Das ist natürlich viel einfacher, als wenn die Gesundheitsämter das im Einzelfall händisch machen müssen. Südkorea und Singapur nutzten schon sehr früh solche Apps zur Kontaktnachverfolgung und Warnung. Die Diskussion in Deutschland hat dann erst etwas später, etwa im März 2020, eingesetzt. Lange Zeit hat man hierzulande über das richtige Konzept einer solchen App gestritten.


Jolanda Rose: Welche Konzepte standen denn für die deutsche App zur Diskussion?

Dirk Heckmann: Je nach Speicherung der sensiblen Daten, der Möglichkeit Rückschlüsse auf den Gesundheitszustand und Bewegungsprofile der jeweiligen Nutzer zu ziehen, unterscheidet man die zentrale und dezentrale Lösung. In Deutschland wurde zunächst eine zentrale Lösung bevorzugt. Eine entsprechend gestaltete Lösung speichert die App-Daten zentral und verschickt entsprechend die Warnungen an die einzelnen Zielgeräte von Personen, die dann möglicherweise oder tatsächlich infiziert sind.


Jolanda Rose: Interessant. Wie wurde dieser Prozess durch die Expertise von Dir und anderen Expert*innen begleitet? Welche Argumente sprachen für die jeweiligen Konzepte?

Dirk Heckmann: Die TUM hat in dieser Situation ad-hoc eine Forschergruppe mit Wissenschaftler*innen aus unterschiedlichen Disziplinen ins Leben gerufen. Darin waren Expert*innen u.a. aus der Informatik, aber auch der Teilchenphysik vertreten, die viel mit Simulationsmodellen zu tun haben. Die juristische Seite durfte ich dort mit meinem Assistenten Dr. Max Lorenz vertreten. In diesem Gremium haben wir sehr schnell auch erkannt, dass eine zentrale Lösung, zumal wenn die Nutzung verpflichtend sein sollte, auf wenig Akzeptanz bei den Menschen stoßen würde. So wäre man vor dem Problem gestanden, die App-Nutzung zwangsweise von staatlicher Seite durchsetzen zu müssen. Dadurch hätte man eine riesengroße Überwachungsmaschine entwickelt. Wenn man allerdings auf Akzeptanz und freiwillige Nutzung der App in der Bevölkerung setzt, braucht man eine andere Lösung. Diese konnte am Ende nur die App mit dezentraler Speicherung von Daten sein. Dezentral bedeutet, dass der Abgleich, ob man einen problematischen Kontakt hatte oder nicht, auf dem eigenen Smartphone stattfindet. Dementsprechend haben Dritte gar keine Kenntnis davon. Die Entscheidung, wie man mit der Information umgeht, liegt allein bei einem selbst. Die Ergebnisse unserer Forschungsarbeit haben wir auf der Open-Content-Plattform GitHub publiziert, um den Prozess der Entwicklung und auch die technischen Lösungen möglichst transparent zu machen.


Jolanda Rose: Gab es noch andere, erwähnenswerte Projekte aus Wissenschaft und Praxis zu dem Thema? Was hat letztendlich den Ausschlag für die dezentrale Lösung gegeben?

Dirk Heckmann: Parallel zu unserer Forschungsgruppe gab es andere Konsortien u.a. die Beteiligung des Helmholtz-Zentrums für Informationssicherheit in Saarbrücken, die ebenfalls an einer solchen Lösung gearbeitet haben. Nach entsprechenden gesellschaftlichen Diskussionen hat sich die Bundesregierung entschlossen, das Ganze dezentral zu organisieren. Für die technische Umsetzung wurden dann zwei ganz große Player, nämlich SAP und die Telekom, beauftragt. Unser Projekt ContacTUM hatte zwar keine unmittelbare Berücksichtigung in diesem Konsortium mit SAP und Telekom. Mittelbar hatten wir jedoch Einfluss, da unsere Forschungsergebnisse, quasi als Grundlagenforschung in diesem Bereich, zur Steuerung der Entwicklung beigetragen haben.


Jolanda Rose: Welche rechtlichen und ethischen Probleme gibt es in Bezug auf die App-Nutzung? Was spricht ethisch für die dezentrale Lösung?

Dirk Heckmann: Wir haben natürlich bei dieser dezentralen Lösung, wie sie jetzt auf dem Markt ist, das Problem, dass der Einzelne selbst entscheidet und möglicherweise sich dem Gesamtsystem ein bisschen entzieht. Bereits jetzt gibt es erste empirische Erhebungen dahingehend, dass nur ein geringerer Teil derer, die eine Warnmeldung bekommen, darauf adäquat reagiert. Das, was die App bewirken soll - dass man die eigenen Testergebnisse in die App einträgt und damit die eigenen Kontakte warnt - wird aktuell nicht vollständig von den Nutzern umgesetzt. Das ist das Risiko der dezentralen Lösung, das man in Kauf nehmen musste, weil man eine komplette Überwachung vermeiden wollte. Es hätte schwerwiegende ethische Dimensionen, eine Bevölkerung von über 80 Millionen Einwohnern unter Generalverdacht zu stellen. Das Verhalten einer solchen Masse von Menschen komplett zu überwachen ist außerordentlich problematisch. So schien es mir und vielen anderen unter ethischen Aspekten und aus einem Freiheitsverständnis heraus, das vom Menschen als autonomes Wesen ausgeht, der bessere Weg zu sein, für solidarisches Verhalten zu werben. Auch im Ethikbeirat der AOK Nordost, dem ich angehöre, haben wir dazu Positionspapiere verfasst. Meiner Meinung nach ist es das richtige Konzept und auch der ethisch bessere Weg von Menschen Solidarität einzufordern. Diese Solidarität bedeutet hier die App zu nutzen, Ergebnisse einzutragen und sich dennoch sicher sein zu können, dass die Informationen anonym bleiben.


Jolanda Rose: Damit wurde ja auf jeden Fall auf die große Kritik, die am Anfang des Projektes gesamtgesellschaftlich laut wurde, dass Deutschland jetzt ein Überwachungsstaat würde, reagiert. Dennoch ist eine große Skepsis der App gegenüber geblieben. Zwar haben viele Menschen die App installiert, aber nutzen sie, wie du beschrieben hast, nicht adäquat. Bisher war es nicht üblich, dass staatliche Stellen flächendeckend digitale Mittel einsetzen. Du hast schon die gesunde Skepsis der Menschen demgegenüber erwähnt. Wie kann man aus deiner Sicht die Gesellschaft in diesem Prozess mitnehmen? Welche Anreize können für ethisches, verantwortungsvolles Verhalten in einer solchen besonderen Situation geschaffen werden? Ist es überhaupt möglich, bei einer großen Gesellschaft - von 80 Millionen Menschen - einen ethischen bzw. moralischen Konsens zu finden?

Dirk Heckmann: Wir haben hier wirklich ein großartiges Projekt, das sich trotz Anfangsschwierigkeiten hervorragend entwickelt hat. Vor allem, dass alles offen und transparent durch open-source und open-content gestaltet ist. So ist das ganze Projekt komplett datenschutzkonform. Für mich als Experte ist es in diesem Kontext dann einfach traurig, dass es immer noch sehr viele gibt, die dann auch über Falschmeldungen eine solche Aktion konterkarieren. Ich gebe ja Recht, dass der Staat sich in den letzten Jahren nicht immer vorbildlich verhalten hat. Deshalb ist ein gewisses Misstrauen hier und da berechtigt. Aber ausgerechnet bei der Corona-Warn-App ist dieses Misstrauen nicht berechtigt und es ist absolut notwendig, dass der Einzelne dieses Angebot, das gemacht wird, annimmt. Bei geringer Teilnahme läuft man nämlich Gefahr, dass die Verantwortlichen auf politischer Seite den Eindruck gewinnen, auf freiwillige Mitwirkung könne man nicht zählen. Dann würde vielleicht doch wieder ein Zwangssystem zur Diskussion stehen. Es wäre außerordentlich schade, wenn der Staat hier vorbildlich vorgeht und die Gesellschaft goutiert das nicht.

Auch unter dem Aspekt der Solidarität und des Gesundheitsschutzes ist es hier notwendig, dass man ein solches System unterstützt. Wenn man aber bedenkt, dass Menschen bei Großdemonstrationen ohne Maske herumlaufen und ihre Freiheit über das Wohl anderer stellen, wird deutlich, dass man nicht von einem flächendeckend einheitlichen ethischen Kompass ausgehen kann. Auch in Zukunft werden wir immer wieder solche Fälle haben - egal ob Pandemien oder andere Situationen, in denen digitale Lösungen eingesetzt werden. Gerade deshalb lohnt es sich jetzt, gesamtgesellschaftlich die auf Freiwilligkeit basierenden Maßnahmen zu unterstützen und damit staatliche Akteure zu motivieren, der Corona-Warn-App ähnliche, am Gemeinwohl orientierte Technologien, einzusetzen. Und was man nicht übersehen darf: Manche gerade in den sozialen Medien verbreitete, unsachliche und auf Mythen basierende Kritik kommt von vergleichsweise wenigen, aber “lauten” Menschen, die man nicht mit den großen Teilen der “stillen” Bevölkerung verwechseln darf, die solche Maßnahmen gutheißen und demokratisch legitimieren. Konstruktive Kritik, auch Sorgen etwa vor einem “Überwachungsstaat” muss man natürlich ernst nehmen und an akzeptanz stiftenden Maßnahmen arbeiten.


Jolanda Rose: Du hast schon angesprochen, dass die Bevölkerung der Datenauswertung von staatlicher Seite mit außerordentlicher Skepsis gegenüber tritt. Viele Menschen scheinen mit der unternehmerischen Datennutzung hingegen ein geringeres oder gar kein Problem zu haben. Machst du da einen Unterschied? Sollte Software unterschiedlich reguliert werden, je nachdem, ob sie und die generierten Daten in staatlicher oder unternehmerischer Hand sind?

Dirk Heckmann: Zum Verhältnis von staatlich gesteuerter oder entwickelter IT zu technischen Lösungen von unternehmerischer Seite wird oftmals gesagt, dass die problematischere Seite diejenige des Staates sei. Es wird angeführt, dass das Hoheitsverhältnis des Staates gegenüber dem Bürger problematisch werden könnte, wenn dieser sehr viele Daten sammelt. Diese Machtbefugnisse gäbe es von Unternehmen gegenüber ihren Nutzern nicht. So nach dem Motto: “Wenn der Staat schon unsere Daten erhebt, müsste man eher aufpassen, als wenn das Facebook tut, das sei ja letztendlich nur ein privates freiwilliges Verhältnis”.

Ich sehe das anders und zwar deshalb, weil der Staat automatisch immer rechtsstaatlichen Mechanismen unterliegt, die in vielen Fällen eine stärkere Grundrechtsbindung mit sich bringen und den Staat ein Stück weit reglementieren. Im Gegensatz dazu haben Unternehmen, die stark profitorientiert sind, mehr Freiheiten, gerade wenn es internationale Online-Konzerne sind. Dennoch erzeugen diese eine große Marktmacht. Die Mitwirkung in sozialen Netzwerken ist schon heute nicht mehr wirklich freiwillig. Man kann sich der Nutzung in vielen Kontexten nicht mehr entziehen, weil sie Teil des gesellschaftlichen Lebens geworden ist und somit für viele Menschen unausweichlich erscheint. Um daran teilzuhaben muss man jedoch in die Erhebung und Verarbeitung von personenbezogenen Daten einwilligen.

Deswegen sollte man eben nicht einseitig nur dem Staat gegenüber kritisch sein, sondern insgesamt darauf achten, wer in welchem Kontext und mit welcher Rechtfertigung Daten über einen erhebt. Da sollten insgesamt strenge Maßstäbe angelegt werden - sowohl bei staatlichen Projekten als auch Ermächtigungen zur Datenerhebung privater Unternehmen. Die DSGVO adressiert ja sowieso beide Seiten. Da gibt es ja keinen Unterschied zwischen öffentlichen und nicht-öffentlichen Stellen. Die Bindung an bestimmte Datenschutzgrundsätze gilt für alle und das ist auch sehr berechtigt.


Jolanda Rose: Welche Rolle spielt die Ethik in diesem Kontext?

Dirk Heckmann: In der Tat haben wir derzeit einen regelrechten Hype um die ethische Dimension der Digitalisierung und sehr viele Projekte und Publikationen, die sich damit befassen. Dabei geht es um verschiedenste Aspekte, sei es das autonome Fahren, die Medienmacht von Social Media oder Tracking- und Tracing-Apps. Überall dort ist auch immer die Rede von einer ethischen Dimension. Diese Entwicklung finde ich teilweise problematisch. Zwar begrüße ich die breite, öffentliche Debatte um das Thema. Problematisch ist jedoch, dass hier oft Dinge vermischt werden. Man muss nämlich bedenken, dass vieles von dem, was hier als unethisch bezeichnet wird, schlichtweg rechtswidrig ist.


Jolanda Rose: Kannst du Beispiele für diese Beobachtung nennen?

Dirk Heckmann: Wenn z.B. aus ethischer Sicht kritisiert wird, dass zu viele sensible Daten erhoben und verarbeitet werden, kann ich dem entgegenhalten, dass das erstmal datenschutzwidrig ist, wenn Einwilligungen in diese Datenverarbeitung nicht wirksam eingeholt worden sind oder die Zweckbindung nicht eingehalten wird. Jetzt könnte man sich fragen, was problematisch daran ist, diese Praktiken als unethisch zu bezeichnen. Das große Problem dabei ist, dass Unternehmen durchaus davon profitieren, wenn solche Diskussionen alleine auf der ethischen Ebene stattfinden. Denn das was dort inhaltlich als Ethik begriffen wird, ist regelmäßig einfach Gegenstand von Recht, wie Verfassungsrecht oder Datenschutzrecht. Wenn etwas als unethisch bezeichnet wird, kann man im Zweifel sagen, dass es zwar ein moralisches Unwerturteil gegen dieses Verhalten gibt, man aber im Notfall damit leben kann und einfach weitermacht wie bisher.

Ganz anders sieht es aber aus, wenn man aber dann Dinge beim Namen nennt und aufzeigt, welche Unternehmenspraktiken rechtswidrig sind. Dann kann es bei Verstoß gegen die DSGVO auch Bußgelder bis zu vier Prozent des weltweiten Jahresumsatzes geben. Bei großen Unternehmen können das dann hohe Millionenbeträge an Strafe sein. Das sind ganz probate Rechtsmittel und ich lege großen Wert darauf, dass wir diese Seite nicht vernachlässigen. Es ist daher wichtig, die Unternehmen hier an ihre Rechtspflicht zu erinnern und nicht nur an eine ethische Perspektive.


Jolanda Rose: Welche Rolle spielt in diesem Zusammenhang die viel diskutierte Corporate Digital Responsibility?

Dirk Heckmann: Die Corporate Digital Responsibility ist ja gerade ganz groß geworden. Dabei geht es darum, die Unternehmen an ihre Verantwortung für die Folgen der Digitalisierung zu erinnern. Ich finde dieses sog. CDR-Konzept grundsätzlich gut und richtig. Im Rahmen verschiedener Projekte habe ich mich mehrfach damit befasst. Aber auch dort muss man unterscheiden, wo rechtliche Missstände vorliegen, die mit den Mitteln des Rechts beantwortet werden müssen und wo eine ethische Dimension gegeben ist.


Jolanda Rose: Wo bleibt bei den ganzen Vorschriften und Gesetzen, die es gibt, dann noch Raum für ethische Abwägungen?

Dirk Heckmann: Es ist bereits sehr viel reguliert und es finden sich viele unserer Grundwerte schon in den Rechtsvorschriften wieder. Raum für ethische Abwägungen ist überall dort, wo es um fernere Folgen von Handlungen geht, die das Recht aktuell noch nicht abbilden kann. Es geht dabei um die Einschätzung mittel- und langfristiger Konsequenzen aus technischen Entwicklungen, die aktuell z.B. noch datenschutzkonform ist, später aber sehr problematisch werden können.

In diesem Zusammenhang ist das von meinem Kollegen Roßnagel entwickelte Konzept der Überwachungsgesamtrechnung erwähnenswert. Das beleuchtet die rechtlichen Aspekte davon, dass zwar einzelne Datenerhebungen datenschutzkonfrom sein können, wenn man jedoch alle einzeln so erhobenen Daten zusammennimmt, sich ein Gesamtsystem von Daten ergibt, deren Umlauf nicht mehr kontrollierbar ist. Da müssen wir uns als Gesellschaft fragen: Wollen wir das? Wollen wir eine komplette Automatisierung? Wollen wir komplett automatisierte Rechtsdurchsetzung? Durch komplette Automatisierung gesellschaftlich relevanter Bereiche, die von einzelnen Unternehmen gesteuert werden, könnten wir die Hoheit darüber verlieren. Das halte ich für ethisch problematisch. Rechtlich können wir das Problem jetzt noch gar nicht angehen, weil wir noch keine Gesetze haben, die eine Art Gesamtfolgenabschätzung fordern. Genau diese Gesamtfolgen müssen jedoch berücksichtigt werden und es ist eine gesellschaftliche Aufgabe, sich damit zu befassen. Es wird noch viel zu wenig darüber diskutiert, wie unser Staat oder unsere Gesellschaft 2030 aussehen sollte. Es ist mein ethischer Appell, dass es überaus wichtig ist, dass wir uns jetzt damit befassen.

Einen guten Ansatz hierfür bietet der wissenschaftliche Vorschlag von Dr. Anne Paschke, im Anschluss an das Konzept von Roßnagel von einer “Determinierungsgesamtrechnung” zu sprechen und Grenzen einer automatisierten Rechtsdurchsetzung (auch in Abgrenzung zum Social Credit System in China) auszuloten. Anne Paschke war viele Jahre meine Assistentin an der Universität Passau und ist heute im Bundeskanzleramt und als Gastwissenschaftlerin an der TU München tätig. So schließt sich der Kreis und erfüllt sich mein Wunsch, meine Ideen der letzten 25 Jahre an die nächste Generation weiterzugeben.


Jolanda Rose: Vielen Dank für das aufschlussreiche Gespräch!

72 Ansichten