Workshop Digitalisierung

Ende Januar startete der Wokshop mit seinem ersten Modul im KFG. Hier stand die Frage nach den sog. Algorithmen im Vordergrund. Algorithmen sind Anwendungen, die zum Beispiel im Internet dem Sammeln und Auswerten von Daten dienen. Ein Ziel ist es, personalisierte Inhalte präsentieren zu können. Dazu müssen das Klick-, Such- oder Kaufverhalten der Nutzenden analysiert werden. Die Suche erfolgt mit Hilfe von komplexen Algorithmen. Google oder Sozialen Netzwerke merken sich, was der jeweilige Nutzer auf einer Internetseite getan hat. Die Erhebung dieser Daten dient als Basis für ein Geschäftsmodell, denn die Daten können kommerziell verkauft werden. So kommt es, dass automatisiert personalisierte Werbung geschaltet wird, und dass Suchanfragen nach den persönlichen Präferenzen sortiert werden. Algorithmen kommen aber auch in Navigationssystemen zum Einsatz, um die richtige Route für jede gewünschte Fahrt zu ermitteln.

Im zweiten Modul in der Hochschule Fresenius lernten die Schüler_innen ein Konzept zur digitalen Selbstbestimmung kennen, das anhand von sieben Aspekten (Kompetenz, Informiertheit, Werte, Wahlmöglichkeit, Freiwilligkeit, Willensbildung und Handlung) dazu beitragen kann, digital selbstbestimmt zu sein, so dass man der Informations- und Debattenkultur in der digitalen Welt gewachsen sein kann.

Zur Kompetenz gehört es beispielsweise, dass man in der Lage ist, eine App auf dem Smartphone zu installieren oder dass man dazu fähig ist, Information für den Schutz des eigenen PCs vor Trojanern zu suchen, zu finden und nach ihrer Relevanz und Qualität bewerten zu können.

Unter Informiertheit versteht man, dass man die Kontrolle über seine digitalen Fußspuren haben sollte. Man sollte also z.B. wissen, welche Daten über den Nutzer bei den unterschiedlichen Verwendungsmöglichkeiten seines Smartphones wann, wo, wie und von wem gespeichert werden. Unsere Schüler_innen erfuhren z.B., dass sie scheinbare Gratisangebote (z.B. bei sozialen Netzwerken) mit ihren persönlichen Daten „bezahlen“, die dann von den Anbietern kommerziell genutzt werden können.

Bei digitaler Selbstbestimmung sind v.a. die Werte von Bedeutung, die einen Zusammenhang mit Privatheit oder Kontrolle über persönliche bzw. personenbezogene Daten aufweisen. Beispiele hierfür sind Werte, die im Zusammenhang stehen mit Lebenszielen, sozialen Kontakten, Hobbys oder politischem Engagement. Online kann es einem nämlich passieren, dass man nur mit der eigenen Meinung konfrontiert wird, und einem im Extremfall nie die Gegenseite dargestellt bekommt. Wenn man immer nur bestätigt wird und die kontroverse Diskussion eines Themas verpasst, lebt man in einer von Algorithmen erzeugten Filterblase. Dies kann passieren, wenn man ausschließlich in Freundesgruppen mit ähnlichen Interessen verkehrt und beispielsweise immer die gleiche Informationsquelle heranzieht.

Unter dem Aspekt der Wahlmöglichkeit versteht man u.a. die technischen Aspekte, die es der Person ermöglichen, die Anwendungen, die sie nutzen möchte, auch tatsächlich zu nutzen. Hat man also z.B. die Möglichkeit zwischen analogen und digitalen Angeboten zu wählen, z. B. entweder einen klassischen Fahrkartenautomaten zu nutzen oder ein Online-Ticket zu buchen? Ein anderes Beispiel ist, ob man seine Fitnessdaten ausschließlich auf dem eigenen Gerät speichern kann und nicht z.B. in einer Cloud.

Ebenfalls spielt der Aspekt der Freiwilligkeit eine große Rolle: Es stellt sich die Frage, ob man z.B. in sozialen Netzwerken frei von Gruppendruck oder beim Online-Shopping frei von Bewertungen anderer Nutzer handeln und entscheiden kann. Zum Aspekt der Freiwilligkeit gehört aber auch der Erwartungsdruck, auf Postings oder E-Mails von Kollegen oder Freunden zeitnah etc. zu reagieren.

Bei der Willensbildung im Rahmen digitaler Selbstbestimmung kann es bereits um die Grundsatzfrage gehen, ob und inwieweit eine Person überhaupt am „digitalen Leben“ teilhaben möchte, d.h. welche und in welchem Ausmaß sie digitale Medien nutzen möchte. Die bewusste Entscheidung für einen Messenger, wie z.B. WhatsApp, oder das bewusste „Offline‟-Sein wäre im Bereich der Willensbildung anzusiedeln.

Im Workshop wurden in einer eigenen Einheit auch die Anwendungsgebiete von Algorithmen in der Gesundheitsvorsorge, z.B. bei Wearables und beim Self-Tracking deutlich gemacht. Als Beispiele für aktuelle Anwendungen wurden u.a.  genannt:

Das MedAware Alerting System (MedAS): Dieses soll Verschreibungsfehler von Ärzten identifizieren und dem Arzt einen Warnhinweis geben. Dazu verwendet das Unternehmen maschinelle Lernalgorithmen, mit deren Hilfe große Datenmengen aus Millionen von elektronischen Patientenakten verarbeitet werden.

• Der Supercomputer Watson von IBM: Er soll als KI-Assistenzsystem, das auf umfangreiche Leitlinien, die genetischen Merkmale z.B. eines Tumors sowie weltweite Patientendaten zurückgreift, den Erfolg unterschiedlicher Therapie-Alternativen vorhersagen.
• Der Zebra‘s Radiology Assistent:  Damit werden z.B. Computertomographie-Scans automatisch auf verschiedene Befunde hin analysiert und so Patienten mit hohem Risiko für Herz-Kreislauf-, Lungen- oder Knochenkrankheiten identifiziert.
• Medtronic und IBM: Mit der Sugar.IQ-App werden mit Hilfe eines Lernalgorithmus spezifische Signale über einen Sensor unter der Haut analysiert und per Bluetooth auf ein Smartphone gesendet, um einen Diabetiker zu warnen, sobald der Blutzuckerwert einen idividuell festgelegten Höchst- oder Tiefstwert überschreitet.

Abschließend wurde die inzwischen erworbene Expertise unserer Schüler_innen eingeholt, um eine in Entwicklung begriffene Homepage des Bundesministerium der Justiz und für Verbraucherschutz zur Stärkung der Verbraucherkompetenz beim Umgang mit digitalen Gesundheitsinformationen (OriGes) zu verbessern.

Am Abend dann konnten unsere Schüler_innen an einer öffentlichen Podiumsdiskussion mit dem Titel „Künstliche Intelligenz und menschliche Dummheit – Steuern Algorithmen unser Leben besser als wir selbst?‟ teilnehmen. Auf dem Podium wurden vom Moderator Ingo Dachwitz, Autor, Journalist und Redakteur netzpolitik.org vier Experten befragt (vgl. Bild von links nach rechts):

• Prof. Dr. Rolf Schwartmann, Forschungsstelle für Medienrecht, Fakultät für Wirtschafts- und Rechtswissenschaften, TH Köln und Mitglied der Datenethikkommission
• Prof. Dr. Christiane Woopen, ceres – Cologne Center for Ethics, Rights, Economics, and Social Sciences of Health, Universität zu Köln und Co-Sprecherin der Datenethikkommission
• Moderator Ingo Dachwitz
• Prof. Dr. Axel Ockenfels, Wirtschafts- und Sozialwissenschaftliche Fakultät, Staatswissenschaftliches Seminar, Universität zu Köln
• Christin Schäfer, Gründerin von acs plus und Mitglied der Datenethikkommission

Noch zwei Gedanken zum Abschluss:

1) Frau Prof. Woopen führte zu Beginn der Podiumsdiskussion aus, warum es überhaupt im letzten Jahr eine Datenethikkommission des Bundes gab. Sie merkte an, dass es in der Gegenwart erneut einen Paradigmenwechsel im Sinne eines Machtwechsels gebe. In einer ersten Phase hatte derjenige Macht, der Land besaß (Feudalsystem). Danach hatte der Macht, der über die Produktion bestimmte. Nun aber habe derjenige Macht, der über die Daten verfüge. Daher bestehe nun ein Regelungsbedarf.

2) Die wünschenswerte digitale Selbstbestimmung erinnert mich an die Prüfung (hier einer digitalen Quelle) durch die drei Siebe des Sokrates. Zuerst siebe man mit dem Sieb der Wahrheit: Ist das wahr, was du mir erzählen willst? Dann siebe mit dem Sieb der Güte: Wenn Du nicht sicher bist, ob es wahr ist, ist es wenigstens gut? Und zuletzt siebe mit dem Sieb der Notwendigkeit: Ist es wirklich wichtig und notwendig, es weiterzuerzählen?

Hinweis: Dieser Bericht wäre nicht möglich gewesen ohne eigene Notizen und das Nachlesen der Zusammenhänge in folgender Quelle:

Mertz M., Jannes M., Schlomann A., Manderscheid E., Rietz C., Woopen C. (2016): Digitale Selbstbestimmung. Cologne Center for Ethics, Rights, Economics, and Social Sciences of Health (ceres), Köln

Markus Möhring