Welche technischen Fortschritte inzwischen möglich sind, lässt sich aktuell gut an generativer Künstlicher Intelligenz beobachten, wie sie von ChatGPT verwendet wird. Der Sprachassistent erstellt Texte, Konzepte für Kampagnen, Skripts für Filme oder Website-Codes. Auf einfachen Sprachbefehl, ohne Gebühr und inzwischen millionenfach in Anspruch genommen. Ganze Berufsgruppen sehen ihre Urheberrechte missachtet und müssen sich zugleich fragen: Werden wir noch gebraucht? Solche Folgen von Technologien sind es, zu denen Arne Berger lehrt und forscht. Zugleich fragt der Professor für Mensch-Computer-Interaktion: Wie können wir Informationstechnologien so gestalten, dass sie Mensch, Gesellschaft und Natur mehr nutzen und als schaden.
Professor Berger, Sie haben vor kurzem gleich zwei Forschungsprojekte an die Hochschule geholt: "bitplush" und "Simplications". Worum geht es dabei?
Beide betrachten die Chancen und Risiken sogenannter einfacher Sensordaten, wie sie etwa durch Türöffnungs- oder Temperatursensoren am Kühlschrank oder der Wohnungstür erfasst werden. Bei "Simplications" entwickeln wir als Verbundpartner gemeinsam mit der Technischen Universität Chemnitz, der Agentur KF Education und der Verbraucherzentrale Sachsen Lehr- und Lernmaterialien dazu, wie gefährlich solche Sensoren im Sinne einer Überwachung und eines Eingriffs in die Privatsphäre sein können. Bei "bitplush" fragen wir andersherum: Was kann ich Tolles damit machen? Kann ich solche einfachen Sensordaten auf eine privatsphärenfreundliche Art und Weise nutzen, um mit anderen Menschen zu kommunizieren?
Wie sind Sie auf die Ideen für die Projekte gekommen?
Die Ideen und letztlich auch der Kontakt zu den Kooperationspartnern reichen im Grunde bis zu meinem Postdoc-Projekt "Miteinander" in den Jahren 2014 bis 2022 zurück. Gemeinsam mit Informatikern, Designern, Soziologinnen und Soziologen der Technischen Universität Chemnitz und gefördert vom Bundesministerium für Bildung und Forschung (BMBF) haben wir damals untersucht, wie kann man partizipativ, also gemeinsam mit zukünftigen Anwenderinnen und Anwendern, Chancen und Risiken des Smart Homes freilegen. Eine der entwickelten Methoden wenden wir jetzt in "Simplications" an. Und in einem der Workshops ist im Austausch mit blinden Schülerinnen der "Whether Bird" entstanden, der dabei helfen sollte einzuschätzen, ob es geregnet hat und die Straße noch nass ist. Die Idee für diesen Assistenten in Form eines kleinen Vogels wurde zwar nicht umgesetzt, war aber letztlich die Basis für "bitplush". Wir fokussieren jetzt auf die Entwicklung smarter Plüschtiere, die im Austausch mit potenziellen Anwenderinnen und Anwendern entwickelt werden. Aus diesem Ansatz erhoffen sich auch unsere Industriepartner, die Kösener Spielzeug Manufaktur mit ihrer langen Tradition und hohen Qualitätsansprüchen, sowie das Textilforschungsinstitut Thüringen-Vogtland, mit seiner Expertise zu smarten Textilien, neue Impulse.
Welche Impulse erhoffen Sie sich für die Lehre?
Grundsätzlich natürlich neue, praktische Erfahrungen aus partizipativen Ansätzen für die Mensch-Computer-Interaktion. Wir reden immer noch zu viel über technische Fortschritte und zu wenig über die Bedürfnisse der Menschen auf der einen und Auswirkungen von Technologien auf der anderen Seite. Über das Mitspracherecht derer, die von Zukunftstechnologien betroffen sind. Das sage ich auch als Sprecher der Fachgruppe Partizipation in der Gesellschaft für Informatik. Egal, ob es sich um Sensordaten oder Künstliche Intelligenz handelt: Unsere Studierenden sollen erst mit den Menschen reden und dann Technologien gestalten und in die Anwendung bringen. Das kann für angehende Informatikerinnen und Informatiker durchaus herausfordernd sein.
Wird Ihr Ansatz ausreichend gehört? Angebote auf der Basis von generativer Künstlicher Intelligenz sind innerhalb weniger Monate in unser Alltags- und Arbeitsleben eingezogen.
Tatsächlich propagieren Teile der Informatik fragwürdige Zukunftsnarrative, ohne die gegenwärtigen Probleme dieser Technologien ausreichend zu beachten. Das sehe ich auch jetzt wieder in der Diskussion um Künstliche Intelligenz. Allgemein wird zu wenig darüber gesprochen, wie die Systeme trainiert werden: mit Texten und Bildern, die anderen gehören. Oder wie Trainingsdaten klassifiziert werden: oft von Menschen, die zum Teil schweren Belastungen ausgesetzt sind, weil sie entscheiden müssen, ob man eine brutale Gewalttat sieht oder ein Katzenvideo. Auch welche Auswirkungen der algorithmische Bias – also eine verzerrte Darstellung – bereits jetzt jeden Tag auf das Leben ohnehin schon marginalisierter Bevölkerungsgruppen hat, wird zu wenig diskutiert.
Wie kann man es besser machen?
Ich denke, dass gerade im europäischen Raum auch andere Stimmen gehört werden. Ich bin in dem vom BMBF-geförderten Netzwerk Integrierte Forschung aktiv, in dem ich mit Kolleginnen und Kollegen aus Ethik, Soziologie oder Jura Technikentwicklungsprojekte dazu berate, wie man ethische Diskussionen parallel zur technologischen Entwicklung fördern kann. Und so entstehen wiederum Förderungen wie das Projekt "bitplush", in dem smarte Technik über Werte wie Nachhaltigkeit oder Privatsphäre entwickelt werden soll. Es gibt auch gute Beispiele dafür, wie Forschende von der Industrie zum Thema Ethik im Internet of Things mit dem Fokus auf das Smart Home gehört wurden. Etwa über die globale Initiative "ThingsCon", in der ich ebenfalls aktiv bin.
Im Oktober gehen Sie in ein Forschungssemester. Woran werden Sie in dieser Zeit arbeiten?
Ich werde an einem Thema arbeiten, das "More than human design" heißt. Darüber wird endlich mehr diskutiert. Bislang stand bei allem, was wir gemacht haben, egal ob Informatik oder Design, der Mensch im Mittelpunkt. Damit einher ging leider auch die Ausbeutung der Natur und anderer Spezies. In meinem Forschungssemester möchte ich internationale Beispiele sammeln, wie "More than human design" in der angewandten Lehre aussehen kann. Die Ergebnisse will ich auf Konferenzen präsentieren, aber auch in die Lehre in Form eines neuen interdisziplinären Lehrmoduls einbringen.
Professor Berger, vielen Dank für das Gespräch.