Ethische Bewertung von Technologien (Teil 2) – die MEESTAR-Methode

Im letzten Blogartikel habe ich den Aufsatz von Reijers u.a. (2018) vorgestellt. Die Autoren besprechen 35 Methoden, mit denen ein ethisches Assessment von Technologien durchgeführt werden kann. An den Methoden kritisieren die  Autoren, dass sie zu wenig partizipativ seien.

Unter den Verfassern des oben verlinkten Aufsatzes ist auch Karsten Weber, der 2019 auf der Jahrestagung der Gesellschaft für Informatik praxisorientierte „Methoden der  ethischen Evaluation von IT“ vorstellte. In seinem Papier im Tagungsband der INFORMATIK 2019, S. 431-444, stellt er u.a. die MEESTAR-Methode als ein „Modell zur ethischen Evaluation sozio-technischer Arrangements“ vor. Die Methode, an deren Entwicklung er mitwirkte, ermöglicht ein partizipatives und diskursethisches Evaluations-Verfahren. Stakeholder, die eine Technik entwickeln, einsetzen und nutzen treten mit ihren ganz unterschiedlichen Interessen und Perspektiven in einen inhaltlichen Austausch untereinander.  Die Vielfalt der Perspektiven ist gewollt. Sie ist eine Bereicherung, weil sie alle möglichen Probleme und Aspekte  eines Technikeinsatzes auf die Agenda bringt.

Ziel des Verfahrens ist eine Kompromissfindung unter den Stakeholdern. Die Ergebnisse aus dem Verfahren sollen dann in die Forschung und Entwicklung zurückfliessen, – im Idealfall nicht erst am Ende, sondern schon während der Technikentwicklung. MEESTAR kann und soll mehrmals während eines Technikprojektes eingesetzt werden („iterativ“), und kann übrigens auch in technikfernen Situationen, in denen moralische Konflikte vorliegen, sehr gute Dienste leisten.

MEESTAR wurde als Instrument der angewandten Ethik für konkrete Technikeinsätze in der Praxis entwickelt, nicht zur allgemeinen Reflexion moralischer Aspekte von Technologien. Entstanden ist die Evaluations-Methode im Rahmen eines Technikprojektes in der Pflege. Sie wird zwischenzeitlich öfters bei öffentlichen Forschungs- und Entwicklungsvorhaben eingesetzt.

MEESTAR funktioniert wie folgt:

Für die Bewertung der Technik braucht man moralische Dimensionen wie: Selbstbestimmung, Sicherheit, Gerechtigkeit, Privatheit usw.  Diese Dimensionen sind nicht fest vorgegeben. Man erhält sie durch

  1. eine Literaturrecherche in Bezug auf die konkrete Technologie und ihre möglichen Folgen
  2. Action Sheets: hier setzen sich die Beteiligten mit den Anwendungsszenarien der einzusetzenden Technik im Detail auseinander. Welche Gefahren und Probleme könnten auftreten? Alternativ kann auch ein Ethics Canvas genutzt werden. Dazu mehr im nächsten Blogartikel.

Betrachtet werden die moralischen Dimensionen aus drei Perspektiven: der individuellen, organisationalen und gesellschaftlichen. Je nach Perspektive werden manche moralische Dimensionen  ganz unterschiedlich bewertet. Weber führt das Beispiel der „Privatheit“ an: während Nutzer darunter z.B. eine Wohnung ohne Beobachtungstechnologie verstehen, können kommerzielle Dienstleister Privatheit mit Sensoren in Smart Homes in Einklang bringen, sofern deren Einsatz den Vorgaben der DSGVO entspricht. Hier muss man einen Kompromiss unter den Beteiligten finden.

Zur ethischen Risikoabschätzung dienen dann die folgenden vier Stufen (siehe Weber 2019, S. 434):

  • Stufe 1: Anwendung ist aus ethischer Sicht völlig unbedenklich
  • Stufe 2: Anwendung weist ethische Sensibilität auf
  • Stufe 3: Anwendung ist ethisch äußerst sensibel
  • Stufe 4: Anwendung ist aus ethischer Sicht abzulehnen

Wobei es auch hier um Kompromissfindung geht, denn bei einer Anwendung können Werte wie Selbstbestimmung und Privatheit berücksichtigt, aber Gerechtigkeit und Teilhabe verletzt sein. Man muss – um Stufe 1 zu erreichen – dann bei den beiden letzten Punkten nachbessern. Wenn das nicht möglich ist, dann wird auch eine Anwendung nicht klar in eine Stufe eingeordnet werden können, sondern in sich Wertekonflikte bzw. – kompromisse tragen, – so zumindest mein Eindruck.

Laut Weber ist ein partizipatives ethisches Evaluationsverfahren von Technik wichtig, nicht nur aus Gründen der Ethik selbst, sondern um eine hohe Gebrauchstauglichkeit bzw. usability von Technologien zu erzielen. Ihm zufolge ist aber die Bereitschaft, möglichst viele und vielfältige Stakeholder in ethische Bewertungsprozesse einzubeziehen in der Praxis „oftmals nicht gegeben“ (Weber 2019, 442).

Sozialorganisationen, die zunehmend in ihrem Alltag mit Technik konfrontiert sind und diese im Umgang mit ihren Klienten anwenden, sollten unbedingt ein ethisches Assessment von Technologien vornehmen, um die richtige Auswahl an Tools treffen zu können. Gerade wo Anwendungen in Auftrag gegeben oder eingekauft werden, hat man die Wahl oder muss sich eine Wahlsituation schaffen. Ethische Aspekte sollten in Ausschreibungen ihren Platz finden. Einrichtungen und ihre Verbände brauchen ethische Leitlinien für den Umgang mit Technik, Daten und Algorithmen.

Wer noch weitere Informationen zu MEESTAR sucht, wird bei der Fachstelle für Ethik und Anthropologie im Gesundheitswesen fündig.

Share

Ethische Bewertung von Technologien – welche Methoden gibt es? (Teil I)

Welche Methoden gibt es, um in der Alltagspraxis Technologien aus ethischer Perspektive zu bewerten?

Im letzten Beitrag wurden ethische Grundprinzipien aufgelistet, die im Umgang mit Daten und Algorithmen von Bedeutung sind: die Würde des Menschen, Selbstbestimmung, Privatheit, Sicherheit, Demokratie, Gerechtigkeit und Solidarität, Nachhaltigkeit. Aber wie kann man in der Praxis das ethische Assessment von Technologien durchführen? Wie können Nonprofits ihre IKT-Auswahl, -Nutzung, – Evaluation in ethischer Hinsicht reflektieren oder sich im Hinblick auf Zukunftstechnologien positionieren, am besten gemeinsam mit ihren Stakeholdern?

Wessel Reijers hat dazu gemeinsam mit sechs Kolleg*innen 2018 einen Beitrag in Science and Engineering Ethics  veröffentlicht, der auf der Auswertung von 136 wissenschaftlichen Aufsätzen basiert. Diese stammen aus einem breiten Spektrum, von Medizin über IKT, Nanotechnologie, Agrarwissenschaft, bis hin zu Texten, die sich ganz allgemein mit  Technologien und ihren Folgen befassen. Die Autoren haben in diesen 136 Aufsätzen 35 Methoden gefunden, mit deren Hilfe man ein ethisches Assessment von Technologien durchführen kann. Die Methoden ordnen sie drei Kategorien zu (S. 1448):

  • Ex ante (8 Methoden): diese Methoden befassen sich mit Technologien und Anwendungen, die gerade neu aufkommen bzw. sich am Horizont abzeichnen
  • Intra (14 Methoden): diese Methoden konzentrieren sich auf Technologien und Anwendungen, die im Moment konkret entwickelt werden
  • Ex post (13): diese Methoden befassen sich mit Technologien und Anwendungen, die schon vorliegen und in Organisationen bzw. im Alltag genutzt werden

Bei den Ex ante-Methoden sind Szenario- und Foresight-Ansätze stark vertreten. Sie visualisieren Zukünfte oder verdeutlichen diese durch Geschichten. Diese Methoden richten sich in erster Linie an Experten wie Ethiker. Die Einbeziehung unterschiedlicher Stakeholder ist hier eher selten. Kritisiert wird an Ex ante-Methoden, dass eine Schau in die Zukunft spekulativ ist und Zukunftsanalysen durch unvorhergesehene Ereignisse konterkariert werden.

Bei den Intra-Methoden, die die Technologieentwicklung begleiten, setzt man z.B. auf „value sensitive design“ und „human driven design“. Auch diese Methoden wenden sich eher an Experten (Ethiker, Forscher, Designer). Ihre Schwachstelle liegt laut Reijers u.a. darin, dass sie in den Arbeitsalltag von Forschern nur schwer zu integrieren sind und der Zusammenhang zwischen Werten und Design in theoretischer Hinsicht nicht klar ausgearbeitet ist.

Ex post-Methoden, die sich mit vorhandenen Technologien befassen, arbeiten oft mit Checklisten oder einer ethischen Matrix, um die ethischen Fragen zu identifizieren, die von den Technologien aufgeworfen werden.  Auch diese Methoden wenden sich eher an Experten, zum Teil aber auch an größere Stakeholder-Kreise. Speziell bei einer „ethischen Matrix“ wird nach den ethischen Auswirkungen einer Technologie auf unterschiedliche Gruppen gefragt. Kritisiert wird von Reijers und Kolleg*innen an Ex post-Methoden, dass Konflikte zwischen Normen (z.B. Sicherheit versus Autonomie) im Rahmen dieser Methoden nicht gelöst werden können, weil sie keine Wertehierarchie zur Verfügung stellen. Und auch die Wertkonflikte zwischen Stakeholdern finden keine Auflösung.

An allen Methoden kritisiert die Forschergruppe, dass sie zu wenig partizipativ seien. Die Methoden könnten die Fragen: „Wie kann man Partizipation organisieren? Wer sind die Stakeholder?“ nicht beantworten, weil sie zumeist top down konzipiert sind. Deshalb plädieren die Autor*innen dafür,  auch beim ethischen Technologie-Assessment stärker auf Co-Design und „power sharing“ zu setzen (S. 1459).

Als Fazit kann man festhalten, dass es im Moment noch nicht die optimale Methode gibt, um die ethische Wirkung von Technologien zu klären, seien die Technologien „Zukunftsmusik“, in der Entwicklung oder schon in der Anwendung. Dennoch wäre es wichtig, dass sich die soziale Profession, die Wohlfahrtsverbände und ihre Einrichtungen und die ganze Zivilgesellschaft, mit ethischen Fragen bezüglich neuer Technologien auseinandersetzten (siehe dazu meinen Vorschlag der Digitalwerkstätten).

Im nächsten Beitrag stelle ich diskursethische Methoden für die Evaluation von Technologien vor, die in der hiesigen Forschungspraxis erfolgreich erprobt wurden und vielleicht eine Alternative für Nonprofits darstellen.

Share

Datennutzung und Algorithmen human und werteorientiert gestalten

Die Datenethikkommission der Bundesregierung hat Ende Oktober 2019 ihren Abschlussbericht vorgelegt, der in einer Lang- und Kurzfassung zum freien Download zur Verfügung steht. Die Ergebnisse sind auch für Nonprofits von Bedeutung, da sie

  • als Sozialunternehmen selbst Daten generieren, verarbeiten und nutzen, u.a. von pflege- und schutzbedürftigen Menschen und Mitarbeiter*innen
  • unter Umständen selbst an automatisierten Assistenzsystemen beteiligen sind, die Algorithmen einsetzen, oder als Kooperationspartner der Leistungsverwaltung mit den Auswirkungen von Algorithmen bzw. automatisierten Entscheidungen befasst sind
  • als gesellschaftliche Akteure auf die humane Ausgestaltung der Digitalisierung Einfluss nehmen wollen
  • als lokale Akteure mit der Digitalisierung von Sozialräumen und Infrastrukturen konfrontiert sind.

Die Datenethikkommission (DEK) legt ihrem Gutachten die folgenden Leitgedanken zugrunde:

  • menschenzentrierte und werteorientierte Gestaltung von Technologie
  • Förderung digitaler Kompetenzen und kritischer Reflexion in der digitalen Welt
  • Stärkung des Schutzes von persönlicher Freiheit, Selbstbestimmung und Integrität
  • Förderung verantwortungsvoller und gemeinwohlverträglicher Datennutzungen
  • Risikoadaptierte Regulierung und wirksame Kontrolle algorithmischer Systeme
  • Wahrung und Förderung von Demokratie und gesellschaftlichem Zusammenhalt
  • Ausrichtung digitaler Strategien an Zielen der Nachhaltigkeit
  • Stärkung der digitalen Souveränität Deutschlands und Europas

(DEK Kurzfassung, S. 5). Handlungsmaßstäbe für die Ausgestaltung digitaler Technologien sollen Werte und Rechte sein, die in unserer Verfassung und der europäischen Charta der Grundrechte festgelegt sind: die Würde des Menschen, Selbstbestimmung, Privatheit, Sicherheit, Demokratie, Gerechtigkeit und Solidarität sowie Nachhaltigkeit.

Weil viele unterschiedliche Akteure an der Datengenerierung beteiligt sind, soll es kein Eigentumsrecht an Daten, sondern Mitsprache- und Teilhaberechte geben. Um die Datenrechte des einzelnen zu klären, sind Umfang und Art seines Beitrags an der Datengenerierung zu untersuchen, sein Individualinteresse zu gewichten und mit konfligierenden Interessen abzuwägen, die Interessen der Allgemeinheit zu beachten und die Machtverteilung zwischen den Akteuren in den Blick zu nehmen (Kurzfassung, S. 9).

Die DEK empfiehlt u.a. Maßnahmen gegen eine ethisch nicht-vertretbare Datennutzung, Leitlinien für den Umgang mit den Daten pflege- und schutzbedürftiger Menschen, datenschutzfreundliche Produkte und Designs, sowie eine Förderung des Beschäftigtendatenschutzes. Personalisierte Tarife bei Versicherungen soll es nur in engen Grenzen geben.

Algorithmen können menschliche Entscheidungen unterstützen. Sie können aber auch menschliche Entscheidungen so prägen, dass die Selbstbestimmung von Menschen eingeschränkt wird. Und schließlich können sie Entscheidung ganz übernehmen, so dass Menschen im Entscheidungsprozess  keine Rolle mehr spielen (= automated decision making, ADM)

Bei algorithmischen Systemen empfiehlt die Kommission eine fünfstufige Bewertungsskala, die das Schädigungspotenzial dieser Systeme und Regulierungsmöglichkeiten auflistet: in einer niedrigen Gefährdungsstufe sollen z.B. eine Risikofolgenabschätzung des algorithmischen Systems durchgeführt und Transparenzpflichten, Kontrollen und Auditverfahren etabliert werden. In einer höheren Gefährdungsstufe empfiehlt die Kommission ex-ante-Zulassungsverfahren für Algorithmen, Live-Schnittstellen für Aufsichtsinstitutionen oder sogar vollständige und teilweise Verbote von algorithmischen Systemen (DEK-Kurzfassung, S. 19). Wichtig ist hier, dass nicht nur die Algorithmen als solche im Fokus stehen, sondern das ganze „sozio-technische System“, d.h. auch die beteiligten Menschen und die unterschiedlichen Phasen der Entwicklung, Implementierung und Evaluation algorithmischer Systeme.

Die DEK empfiehlt der Bundesregierung, die bestehenden  Aufsichtsinstitutionen zu stärken und ein neues Kompetenzzentrum für algorithmische Systeme auf Bundesebene zu schaffen. Aber auch die Ko- und Selbstregulierung wird empfohlen, wie DIN Normen und  Gütesiegel, sowie Kennzeichnungspflichten und ein bindender Codex für die Betreiber von algorithmischen Systemen. Sowohl bei der Ausarbeitung des bindenden Codex als auch in den Aufsichtsbehörden solle es Beiräte geben, in denen die Zivilgesellschaft vertreten ist.

Das Gutachten der DEK ist ein beeindruckender Beitrag zur Ethik der Digitalisierung. Die DEK unterstützt mit ihrem Gutachten den „europäischen Weg“, d.h. die europäische Strategie, Technologieentwicklung und Technologieeinsatz mit europäischen Werten und Grundrechten in Verbindung zu bringen. Was im Bericht meines Erachtens noch etwas zu kurz kommt, ist die kollektive Dimension: Datenrechte werden aus individueller Perspektive betrachtet. Es wird nicht klar, inwieweit die Gesellschaft an der Entwicklung digitaler Infrastrukturen und Tools mitwirken kann, welche Möglichkeiten also bspw. lokale Communities haben, ein smartes Quartier und eine smarte Stadt mitzugestalten. Über die Grenzen der Partizipation in eben diesen Smart Cities wurde hier im Blog schon an anderer Stelle geschrieben.

 

Share