Algorithmen steuern die Welt. Sie versprechen, das Leben sicherer und effizienter zu machen. Längst ist klar, dass digitale Technologien nicht nur ein Segen sind, sondern auch Gefahren mit sich bringen. Doch wie steht es um die Moral der Berufsspezies? Mathematiker, Informatiker und Computeringenieure sollten einen hippokratischen Eid ablegen, um die Öffentlichkeit vor den neuen Technologien zu schützen, die derzeit in Laboren und Technologiefirmen entwickelt werden. Das zumindest fordert Dr. Hannah Fry, Professorin für Mathematik am University College London. Ich bin ihrer These nachgegangen.
Mathematiker und Computeringenieure bauen Technologien, die die Zukunft der Gesellschaft gestalten. Besonders der Umgang sensibler Daten kann dabei weitreichende Auswirkungen haben. Konzepte zur Datenökonomik müssen daher wohlüberlegt implementiert werden. Doch wie steht es um die Moral in den IT-Berufen? Ist das Bewusstsein der sogenannten „Nerds“ dafür geschärft, welche Auswirkungen ihre Arbeit sowohl im positiven als auch negativen Sinne auf die Gesellschaft haben könnten? Sind sie sich ihrer Verantwortung überhaupt bewusst?
Hippokratischer Eid in Medizin und Forschung
Der Ruf nach einem hippokratischen Eid in der Forschung ist nicht neu. Nach dem Vorbild der Mediziner sollen auch andere Wissenschaftler durch eine solche öffentliche Selbstverpflichtung an moralisches Handeln gebunden werden. Unterstützt wird diese Idee seit Jahrzehnten unter anderem von der Unesco, von zahlreichen Vertretern von Forschungsinstituten, Wissenschaftsverbänden und Ethikkomitees. Mediziner halten sich seit mehr als 2500 Jahren an den hippokratischen Eid, der als ethischer Kodex für ärztliches Handeln zwar nicht verbindlich ist, aber einen hohen Stellenwert genießt.
Durchgesetzt hat sich bis dato in der Forschung in dieser Richtung nichts. Kritiker zweifeln den Nutzen einer solchen weder kontrollierten noch durch irgendwelche Sanktionen untermauerten Selbstverpflichtung an. Zudem argumentieren sie, es sei schwer für Wissenschaftler zu schwören, nur für das Wohl der Menschheit zu arbeiten, wenn sie die Ergebnisse nicht vorhersagen könnten. Noch viel weniger könnten sie im Vorhinein wissen, was jemand anderer aus ihren Forschungsergebnissen macht.
Debatte neu entbrannt
Im Zuge der rasanten technologischen Entwicklungen im Bereich Machine Learning und Künstlicher Intelligenz nimmt die Diskussion um eine ethische Selbstverpflichtung in technischen Berufen erneut Fahrt auf. Mit Bots und gefälschten Nachrichten, die Wahlen beeinflussen sowie Algorithmen, die z.B. männliche, weiße Bewerber im Auswahlprozess eines Bewerbungsverfahrens vorziehen, erkennen wir mehr und mehr, dass datengestützte automatisierte Entscheidungssysteme für einige ungewollte gesellschaftliche Entwicklungen mitverantwortlich sind.
Geschlossene Systeme sind nicht die Realität
Allerdings ist es etwas anderes, Probleme in der realen Welt zu bedenken als in geschlossenen Systemen. Das weiß auch die 35-jährige Professorin: „Mathematiker, Computeringenieure und Physiker sind so an abstrakte Probleme gewöhnt, dass sie selten darüber nachdenken, ob die Anwendung ihrer Arbeit in der Praxis ethische Regeln verletzten könnte. Ein ethisches Versprechen dagegen, würde die Wissenschaftler verpflichten, gründlich über die mögliche Nutzung ihrer Arbeit nachzudenken und sie dazu zwingen, nur solche Ansätze zu verfolgen, die der Gesellschaft zumindest keinen Schaden zufügen, sagt Fry gegenüber The Guardian.
Hannah Fry ist Professorin für Mathematik am University College London und erforscht mithilfe mathematischer Modelle Muster menschlichen Verhaltens im städtischen Raum. Sie hat mit Verwaltungen, Polizei, Gesundheitsexperten und Supermarktketten zusammengearbeitet und an wissenschaftlichen Fernsehdokumentationen und Podcasts mitgewirkt. Die Zahl der Aufrufe ihrer TED-Talks geht in die Millionen.
So mahnt Fry, dass Forscher heute Systeme bauen, die persönliche Daten sammeln und verkaufen, menschliche Schwächen ausnutzen und Entscheidungen über Leben oder Tod treffen: „In den Technologieunternehmen dieser Welt finden wir heute meist sehr junge, sehr unerfahrene und oft weiße Männer. Sie wurden nie gebeten, darüber nachzudenken, wie sich die Lebensperspektiven anderer Menschen von ihren unterscheiden, und letztendlich sind dies die Menschen, die die Zukunft für uns alle gestalten.”
Soziale und gesellschaftliche Anerkennung
Lisa Herzog, Philosophieprofessorin an der TU München und freie Autorin schreibt in ihrer ZEIT-Kolumne, dass sich derzeit gerade die IT-Berufe in den Dienst einer Logik stellen, die eher dem Kapital dient als der Gesellschaft als Ganzes. Sie sieht hier noch viel Entwicklungspotenzial: „Der erste, und wichtigste Schritt wäre, die professionelle Verantwortung von Informatikern und Softwareingenieuren anzuerkennen. Dies müsste im Selbstverständnis und vor allem auch in der Ausbildung entsprechenden Niederschlag finden, zum Beispiel durch verpflichtende Kurse über Ethik und gesellschaftliche Verantwortung in den entsprechenden Studiengängen.“ Die Sozialwissenschaftlerin kann sich die Einführung einer Art hippokratischen Eid für diese Berufe durchaus vorstellen. Sie plädiert dafür, diesen durch entsprechende Strukturen sozialer Anerkennung zu ergänzen, zum Beispiel durch Auszeichnungen für gemeinwohlorientierte IT-Lösungen.
Dieser Ansicht ist auch Thomas Matzner. Der Münchner Diplom-Informatiker und Berater für Systemanalyse beschäftigt sich seit langem mit ethischen Fragestellungen in der Informatik und hat dazu an der TU München eine Ringvorlesung gehalten. „Wir müssen die Ambivalenz digitaler Technologien anerkennen und mehr Verantwortung übernehmen“, sagt Matzner gegenüber der Frankfurter Allgemeinen Zeitung. Aber nicht nur Informatiker seien in der Pflicht, sondern auch ihre Auftraggeber und die Nutzer. „Wir brauchen einen grundlegenden gesellschaftlichen Wandel“, sagt er und kann der Forderung nach einem Eid für technische Berufe etwas abgewinnen. „Wenn ein Elektriker einen Kunden hat, der die Isolierung nicht zahlen will, dann lehnt er den Auftrag eben ab. Genauso müssten es Informatiker machen, wenn zum Beispiel Sicherheitslücken in einer Software absehbar sind.“
Wissenschaftsjournalist Ranga Yogeshwar geht sogar noch einen Schritt weiter. Gegenüber der Wissenschaftsorganisation Helmoltz äußert er den Vorschlag, den hippokratischen Eid auch auf andere Disziplinen auszuweiten. „Ich glaube, man muss zum Beispiel dem Ingenieur, der bei einer Automobilfirma sitzt, ein Argument geben, das ihn stärkt, wenn er in eine zweifelhafte Situation gerät. Dann kann er sagen, ich habe während meines Studiums einen Eid abgelegt, deshalb stelle ich mein Know-how nicht für fragliche Entwicklungen, wie die Abgasmanipulation, zur Verfügung.“
Symbolik und öffentliche Aufmerksamkeit
Inwieweit sich tatsächlich ein hippokratischer Eid für technische Berufe einführen und umsetzen lässt, muss die Zukunft zeigen. Als Signal mit symbolischem Charakter kann ein solches Gelöbnisses aber sicher Denkweisen verändern.
Hannah Fry verleiht dem eine Stimme. Sie ist in erster Linie Wissenschaftlerin, die aber den öffentlichen Diskurs sucht. Mit ihren TED-Talks erreicht sie Millionen von Menschen. In ihrem aktuellen Buch „Hello World“ sorgt sie für Aufklärung und nimmt uns gleichzeitig die Ängste: „Noch nie waren Menschen so wichtig wie im Zeitalter der Algorithmen”, so der Schlusssatz im Buch. Mit ihrem Engagement bringt sie die Debatte weiter. Sie schafft öffentliche Aufmerksamkeit, erweitert den Horizont und das Bewusstsein dafür, die Auswirkungen digitaler Technologien auf unsere Gesellschaft kritisch zu hinterfragen. Hier stehen wir alle in der Pflicht, nicht nur der Berufsstand der Computeringenieure und der „Nerds“.
Quellen: FAZ.de, ZEIT Online, The Guardian, Helmholtz.de
Weiterführende Links
Hannah Fry im Februar 2020 auf der OOP in München
Aktueller Hippokratischer Eid für Mediziner in Worten
Ähnliche Beiträge auf unserem Blog
Miriam Meckel: Wenn Künstliche Intelligenz auf das Gehirn trifft, schützt kein Helm
Ethische Innovation im digitalen Zeitalter: Werte sind das neue “Bio”
KI und Ethik: Wissen sie was sie tun?
Ähnliche Beiträge
Im Modellprojekt „elektronische Visite“ kommunizieren seit Mai 2016 neun Pflegeheime und elf Arztpraxen mit der gleichnamigen Videosprechstunde. Im …
Zalando möchte, dass weniger Kunden ihre Kleidung wegen Passformproblemen zurückschicken. Denn obwohl Auswahlkäufe im Fashion-Onlinehandel zum Geschäftsmodell dazu gehören, verursachen sie hohe Kosten – und auch der Kunde ist enttäuscht, wenn der bestellte Sneaker wider Erwarten nicht passt. Retouren senken steht daher weit oben auf der Wunsch-Liste eines jeden Online-Händlers. Bei Zalando erfolgen etwa ein Drittel aller Retouren aufgrund von zu klein oder zu groß bestellten Artikeln. Um die Retouren zu senken, hat der IT-Konzern viele innovative Ideen – die meisten davon sind aber noch Zukunftsmusik. Bis sie einsatzfähig sind, behilft sich Zalando erstaunlich klassischer Methoden. Ich habe mit Stacia Carr, Director of Engineering/Sizing bei Zalando, über ihre Pläne gesprochen.
Die Amerikanerin Dr. Anita Sengupta, die als Luft- und Raumfahrtingenieurin viele Jahre bei der NASA tätig war, hat sich als Chefentwicklerin von Elon Musks sogenanntem Hyperloop einen Namen gemacht. Im Jahr 2019 wurde sie Mitbegründerin und Chief Product Officer von Airspace Experience Technologies (ASX) - ein Start-Up, das ein hybridelektrisches, vertikal startendes und landendes städtischen Luftmobilitätssystems entwickelt. Die Pilotin wird im Februar 2020 auf der OOP-Konferenz in München zeigen, wie Raumfahrt-Technologie in Verbindung mit Venture Capital einen umweltfreundlichen Verkehr ermöglicht. Ich durfte in einem Telefoninterview mit ihr darüber sprechen, wie sie Mobilität revolutionieren und den CO2-Fußabdruck des Flugverkehrs reduzieren will.
