Dr. Jessica Heesen: Diversität ist ein elementares Thema in der KI-Forschung

Quelle: Lernende Systeme

Sei es für medizinischen Diagnosen, in Bewerbungsverfahren oder für Entscheidungen über die Kreditwürdigkeit von Personen – -basierte Systeme gründen auf Algorithmen, die der Mensch ersinnt – und auf Daten, die er ihnen zur Verfügung stellt. Der Mensch, das ist in den meisten Fällen ein Mann. Diversität ist daher auch in der KI- und -Entwicklung eine wichtige Voraussetzung für Geschlechtergerechtigkeit. Im Interview mit mobile zeitgeist erklärt Dr. Jessica Heesen, Leiterin des Forschungsschwerpunkts Medienethik und Informationstechnik am Internationalen Zentrum für Ethik in den Wissenschaften (IZEW) der Universität Tübingen, wie sich die aktuelle Verteilung der Geschlechterrollen verhält und welche Maßnahmen zur Gleichberechtigung ergriffen werden müssen.

mz: Wie ist der aktuelle Stand der KI-Forschung und -Entwicklung in Bezug auf die Diversität?

Dr. Jessica Heesen: Diversität ist in der KI-Forschung auf mehreren Ebenen Thema. Es geht um Fragen der Diskriminierung, generell um Fragen der Beschäftigung von Frauen in Forschung und Entwicklung im Bereich KI und auch um die Systemanforderungen zur Erfassung von diversen, vielfältigen Kategorien. Also ganz unterschiedliche Kategorien, in denen es auch ganz unterschiedliche Anforderungen für die Berücksichtigung und Umsetzung von Diversität gibt. Auf alle Fälle steigt in Forschung und Entwicklung das Bewusstsein dafür, dass Diversität ein elementares Thema.

„Nur knapp 20 Prozent der Studierenden in Deutschland im Bereich Informatik sind Frauen“

mz: Inwieweit ist die Rolle der Frau in der Geschichte der Informatik ausschlaggebend dafür, dass KI-Forschung hauptsächlich eine Männerdomäne ist?

Dr. Jessica Heesen: Die KI-Forschung ist nicht vom Himmel gefallen, sondern baut auf den vorhandenen nationalen und internationalen Strukturen auf. Nur knapp 20 Prozent der Studierenden in Deutschland im Bereich der Informatik allgemein sind Frauen. In anderen Gegenden der Welt sieht es besser aus, so z. B. in arabischen Ländern, wo Frauen teils die Mehrheit der Studierenden in technischen Fächern bilden. Frauen haben als „Computers“ in der Entwicklung der Informatik eine bedeutende Rolle gespielt. Ihnen wurde diese Rolle jedoch nicht öffentlich zugeschrieben und sie gerieten in Vergessenheit.

In Deutschland steht „der Computer“ generell für eine männliche Domäne und auch die steht symbolisch überhöht für „Rationalität“ und „Effizienz“ und entspricht damit den klischeehaften Zuschreibungen für männliche Attribute. Beides ist jedoch falsch bzw. kritisch zu betrachten: weder ist „Rationalität“ eine bestimmende Charaktereigenschaft von Männern, noch kann man in Bezug auf KI von eigenständigem und begründeten Urteilen sprechen. Der belgische KI-Forscher Luc Steels spricht deshalb von einer „Fake Intelligence“. Vielmehr handelt es sich bei KI um ein Instrument zur Mustererkennung, das für vielfältige Zwecke eingesetzt wird. Diese Zwecke (z. B. Gesundheit, Mobilität) sind jedoch weder „männlich“ noch „weiblich“. 

Die Vielfalt der Gesellschaft muss sich in den Anwendungen widerspiegeln

mz: KI-Forschung ist zugleich auch Gesellschaftsentwicklung. Welche Probleme können sich ergeben, wenn Mann und Frau nicht zu gleichen Teilen an der Entwicklung beteiligt sind?

Dr. Jessica Heesen: Die Entwicklung und Anwendung von KI ist eines der großen Zukunftsthemen und damit ein bedeutender Bereich der Gesellschaftsgestaltung. Selbstverständlich müssen bei der Festlegung der Gestaltungsziele alle gesellschaftlichen Gruppen beteiligt werden. Das betrifft nicht nur Genderaspekte, sondern auch Aspekte von Ethnie, Kultur, Alter usw.  Spiegelt sich die Vielfalt der Gesellschaft nicht wider in Anwendungen, die in der Gesellschaft genutzt werden, kann es zu handfesten Fehlern, Wissenslücken und Diskriminierungen kommen. Z. B. dann, wenn Bilderkennungssysteme sexistische Muster fortschreiben und etablieren. Die Informatik ist deshalb dazu aufgefordert, im Dialog und unter Beteiligung aller gesellschaftlichen Gruppen zu Lösungen für eine sozialverträgliche und gemeinwohlorientierte Technikgestaltung zu kommen.

mz: Um einer Verzerrung der gesellschaftlichen Wahrnehmung zu entgehen, ist es also erforderlich, die Prognosesysteme mit “fairen Daten” zu speisen. Doch wie lassen sich solche “fairen Daten” definieren?

Dr. Jessica Heesen: Es wird oft verkannt, dass sowohl die Erhebung von Daten, ihre Interpretation als auch Repräsentation keinesfalls neutral sind, sondern selbst bestimmten Rahmungen durch Normen und Technik unterliegen. Um zu einem fairen Umgang mit Daten zu kommen, müssen wir also fragen: Wie wird mit Daten argumentiert? Was gilt überhaupt als Datum? Was sagen Daten über die Wirklichkeit? Denn Daten sagen uns häufig, dass gerade die Wirklichkeit nicht fair oder gerecht ist. Deshalb geht es auch nicht darum, „faire“ Daten zu erheben, sondern Datenerhebungen kritisch an gesellschaftlichen Wertvorstellungen zu spiegeln. Dazu ist es unerlässlich, Anwendungen im Bereich der KI mit Daten von hoher Integrität lernen zu lassen, Verzerrungen entgegenzusteuern und genau die Daten zu erheben, die für eine Anwendung wichtig sind – und eben nicht bei der Erhebung der Daten für Herzinfarktrisiken Frauen „zu vergessen“.

mz: Kann der längerfristige Weg demnach nur darin erfolgen, eine Berufsethik für Informatiker und Informatikerinnen zu etablieren?

Dr. Jessica Heesen: Berufsethiken, Code of Conducts oder Leitlinien sind gut, damit sich Fachgesellschaften bzw. Informatikerinnen und Informatiker auf bestimmte Handlungsstandards einigen und berufen können. Sie spielen für den beruflichen Alltag jedoch häufig eine untergeordnete Rolle. Wichtiger ist hier, die Berücksichtigung von Diversität als Kennzeichen für die Qualität der Arbeit zu etablieren. Dies wiederum kann durch Diversität in den Entwicklungsabteilungen erreicht werden, die Verpflichtung auf Nachvollziehbarkeit der Resultate aus KI-Anwendungen oder durch standardisierte Beschwerdemöglichkeiten.

mz: Vielen Dank für das Interview.

Carsten Thomas
Über Carsten Thomas 205 Artikel
Autor und Gamingnerd. Stets interessiert an Tech-Innovationen, Medienwandel und Technikutopien. Redakteur bei mobile zeitgeist.

1 Kommentar

  1. Schöner Artikel und interessanter Ansatz, ich bin der Diskussion um Geschlechtergerechtigkeit in vielen Dingen schon müde und in vielen Sachen wird es meiner Meinung nach auch zu hochstilisiert. Das Ganze im Zusammenhang mit der KI zubetrachten hat aber dennoch etwas. Danke für den Beitrag Gruß Tim

Kommentar hinterlassen

E-Mail Adresse wird nicht veröffentlicht.



Ich bestätige, dass die hier von mir eingegebenen persönlichen Daten in der von mobile zeitgeist genutzten Datenbank bis auf Widerruf gespeichert werden dürfen.