Künstliche Intelligenz – Werden meine Kinder sich in Roboter verlieben?

„Können wir unseren Augen angesichts von Deep Fakes in Zukunft noch trauen?“, „Vereinsamen wir durch Social Media?“, „Erlaubt mir Genome Editing die Kreation meines Wunschkindes?“, „Ist künstliche Intelligenz gut?“
Wir leben in einer Gesellschaft, die hungrig nach Innovationen ist – gleichzeitig fürchten wir negative Konsequenzen. Innovationen und neue Technologien werfen in der Gesellschaft viele Fragen auf.

Eine Studie des UK-Think-Tanks doteveryone zeigte, dass auch die Mitarbeitenden in Technologieunternehmen vermehrt nach Mitteln rufen, die Dilemmas zu navigieren, welche der Fortschritt mit sich bringt. Sie möchten verantwortungsvoll handeln und dazu klare Regularien erhalten.¹ 79 Prozent der befragten Personen halten es für wichtig, bei der Entwicklung neuer Technologien denkbare Folgen für Mensch und Gesellschaft zu berücksichtigen.
Demgegenüber geben 59 Prozent derjenigen Befragten, die im Bereich künstliche Intelligenz arbeiten, an, bereits unternehmerische Entscheidungen erlebt zu haben, die zu negativen Folgen in der Gesellschaft führen könnten. „Technology is neither good, nor bad; nor is it neutral“, stellte einst Melvin Kranzberg, ein US-amerikanischer Technikhistoriker fest. Innovationen sind nicht per se gut oder schlecht – aber immer mit einer Absicht verbunden. Sie entstehen in bestimmten Situationen, aufgrund spezifischer Bedürfnisse und auch vor dem Hintergrund der beteiligten Personen.

Dies ist nicht erst seit heute klar. Schon in den 1960er-Jahren entstand die sogenannte „Technologiefolgenabschätzung“ als Teilforschungsgebiet der Technikphilosophie und -soziologie, um die (ökonomischen, ökologischen und sozialen) Nebenwirkungen von Technologien auf ihre Umwelt abzuschätzen. Das Grundproblem hierbei ist (Fachleute sprechen vom „Collingridge-Dilemma“): Solange eine Technologie nicht ausreichend entwickelt
ist, können ihre Wirkungen nur schwer erfasst werden. Andererseits wird es mit zunehmendem Entwicklungsgrad schwieriger, Folgen zu steuern. Mit dem rapide zunehmenden Einfluss von Technologieunternehmen wächst der Ruf nach verantwortungsbewusster Innovation (sog. Responsible Research Innovation „RRI“). Mehr denn je muss nicht nur die Brauchbarkeit von Entwicklungen, sondern es müssen auch Negativfolgen wie Missbrauch, ein unbeabsichtigter Gebrauch oder unvorhergesehene Konsequenzen in die Planung einbezogen und gegenüber Stakeholdern gerechtfertigt werden. Neben klassischen Governance-Massnahmen wie Regulierung und Standardisierung haben Unternehmen selbst vor allem zwei Mittel, um Innovationen verantwortungsvoller zu machen:

1. Die Bereitstellung neuer (primär wissenschaftlicher) Erkenntnisse, Einsichten und Bewertungen: Das Methodenspektrum zur Folgenabschätzung ist breit und reicht von sogenannten „Impact Assessments“, Potenzialanalysen, Modellierungen, empirischen Erhebungen und Analysen bis hin zur Szenario-Entwicklung.²

2. Die Installation partizipativer Ansätze, um Stakeholder und ihr alternatives Wissen in jeden Entwicklungsschritt, zum Beispiel in sogenannte „Communities of Practice“ oder Workshops, zu integrieren. Die folgenden wiederkehrenden Schritte können Unternehmen als Leitlinie dienen³:
„Anticipate“: Beschreibe und analysiere mögliche Einflüsse (beabsichtigte und unbeabsichtigte), die sich aus der Innovation ergeben können. Hier geht es nicht um Vorhersagen, sondern um die Exploration verschiedener Perspektiven
(ökonomisch, sozial, umweltbezogen). „Reflect“: Stelle Überlegungen an hinsichtlich der Beweggründe, der Motivation und der möglichen Folgen verschiedener Unsicherheiten im Projekt, wie Unwissenheit, Framings, Fragen, Dilemmas und mögliche soziale Veränderungen. „Engage“: Mache Visionen, Folgen, Fragen einem weiteren Publikum im Dialog zugänglich. „Act“: Nutze deine Erkenntnisse, um die Richtung der Innovation zu beeinflussen. Neben innovationsspezifischen Bewertungsaspekten wird im Guide4 der British Standards Institution für „Verantwortungsvolle Innovation“ als zentral genannt, verantwortliche Personen für die einzelnen Schritte zu definieren.

Die Frage ist: Wer ist dafür verantwortlich, verantwortlich zu sein? Zu oft wird angenommen, die Pflicht finde sich „oben“ im Unternehmen wieder. Es wird erwartet, dass Manager gewissenhaft handeln. Die Manager wiederum bauen auf das Risikomanagement oder die Geschäftsleitung. Es ist jedoch unbedingt eine umfassendere Verpflichtung angezeigt. Je nachdem macht es Sinn, verschiedene Gruppen einzubinden: Co-Entwickler der Innovation (etwa andere Unternehmen, Geschäftspartner innerhalb der Wertschöpfungskette, Technologielieferanten sowie Interessensgruppen), Marktvertreter, Konsumenten und Endnutzer, Regulatoren und Standardisierungsbehörden, NGOs, die spezifische Gruppen repräsentieren (etwa Patienten-, Umweltschutzorganisationen ), sowie individuelle Bürger, die durch eine Innovation möglicherweise beeinflusst werden.

Es ist ratsam, mit der Folgenabschätzung zu beginnen, bevor die Innovation an einen „point of no return“ kommt. Der gesamte Prozess muss ferner agil und im Sinne einer interaktiven Konsensbildung verstanden werden. Dazu dient das „Consequence Scanning“⁵, welches drei Fragen wiederkehrend aufgreift, um Veränderungen und deren Ursachen festzuhalten:

• Was sind die beabsichtigten und unbeabsichtigten Folgen eines Produkts
oder einer Funktion?

• Welche sind die positiven Folgen, auf die wir uns konzentrieren wollen?

• Welche Folgen wollen wir abmildern?

Wie man sieht, lassen sich die Auswirkungen einer Technologie/Innovation und deren zukünftige Entwicklungen in einem strukturierten Rahmen thematisieren und steuern. Die Herausforderung für alle Beteiligten bleibt, Innovation kritisch, kreativ und systematisch durchzudenken, Verantwortung zu übernehmen und sich einem breiten und offenen Meinungsaustausch zu stellen.