Digitales Training: Theorie zur Praxis machen: Feministischer Umgang mit KI
Wie kann aus “höher, weiter, schneller” ein “nachhaltiger, gerechter und menschenzentrierter” werden?*
Das Training befasst sich mit der in dieser Frage ausgedrückten feministischen Perspektive auf Künstliche Intelligenz. In dem Training schauen wir uns zum einen Machstrukturen, Diskriminierungen und Ungleichheiten an, die im Kontext von KI bestehen. Zum anderen werfen wir einen Blick darauf, wie die Nutzung von KI zu einer besseren Zukunft beitragen kann. Das Training übersetzt theoretische Konzepte in die Praxis, so dass alle Teilnehmenden ganz konkrete Erkenntnisse für ihren Arbeitsalltag mitnehmen können.
Ziel des Trainings ist es, dass die Teilnehmenden verstehen, wie KI gesellschaftliche Strukturen reproduziert oder verändern kann; sie erkennen, welche Chancen und Risiken KI für Empowerment von Frauen* und marginalisierten Gruppen bietet; sie Ideen entwickeln, wie Patenschafts- und Mentoringorganisationen KI gezielt nutzen können.
*Diese Formulierung (und viele andere kluge Gedanken zu dem Thema) kommt von der feministischen Organisation Superrr.
Referentin
Julia Gundlach ist selbstständige Beraterin im Themenfeld KI und Gemeinwohlorienterung sowie Moderatorin und Coachin. Davor hat sie im Programm Digitalisierung und Gemeinwohl der Bertelsmann Stiftung als Projektleiterin zu den gesellschaftlichen Auswirkungen von KI gearbeitet.
Foto von Julia Gundlach, Credits: Philip Wilson
Dokumentation
Der Einsatz von Künstlicher Intelligenz verändert unsere Gesellschaft tiefgreifend. In immer mehr Lebensbereichen nutzen Menschen KI-Systeme, um ihren Alltag zu vereinfachen und ihre Arbeit zu unterstützen. Dabei sind KI-Systeme nie neutral, sondern skalieren menschliche Entscheidungen und Wertungen, die den Systemen zugrunde liegen. Deswegen kann KI nicht außerhalb der gesellschaftlichen Strukturen gedacht werden, in der sie entwickelt und genutzt wird.
Wie kann man vor diesem Hintergrund eine feministische Perspektive auf Künstliche Intelligenz entwickeln?
Im digitalen Training wurde folgender Ansatz aufgegriffen:
1. (Macht-)Strukturen hinterfragen
2. Ungleichheiten und Diskriminierung analysieren und reduzieren
3. Positive Vision entwickeln
In dem interaktiven Workshop-Format wurden abwechselnd Leitfragen diskutiert und fachlicher Input gegeben.
(Macht-)Strukturen hinterfragen
Leitfrage: Welche (Macht-)Strukturen sind im Kontext von KI relevant?
Relevante Aspekte, auf die im Input eingegangen wurde:
• Abhängigkeit von einigen wenigen US-amerikanischen Tech-Unternehmen
• Massive ökologische Auswirkungen durch zunehmende KI-Nutzung
• Überwachungskapitalismus wird noch privater, da Chatbots für immer persönlichere Anwendungsbereiche genutzt werden
• Auslagerung von prekärer Arbeit für das Training von KI-Systemen in den globalen Süden
• Fehlende Diversität bei der Gestaltung von KI-Systemen
• Fokus zentraler KI-Diskussionen auf zukünftige Risiken sehr leistungsfähiger KI-Systeme statt auf gegenwärtige Probleme und Herausforderungen
Ungleichheiten und Diskriminierungen analysieren und reduzieren
Leitfrage: Welche positiven und negativen Effekte auf Ungleichheiten und Diskriminierungen entstehen durch den Einsatz von KI-Systemen in Eurer Arbeit?
KI-Systeme reproduzieren vielfach bestehende gesellschaftliche Ungleichheiten und diskriminierende Strukturen. Vor dem Hintergrund ist es entscheidend, sich damit zu beschäftigen, in welchem konkreten Kontext KI-Systeme eingesetzt werden und welche positiven wie negativen Auswirkungen der Einsatz auf (direkt und indirekt) beteiligte Akteure hat.
Folgende interessante Einsatzbereiche für Patenschafts- und Mentoringprogramme, wurden genauer betrachtet:
Sprachliche Hürden können durch den Einsatz von KI-Systemen reduziert werden, z.B. durch Texterkennung auf Bildern, vereinfachte Transkription oder Simultanübersetzung, wodurch Teilhabe gestärkt werden kann. Gleichzeitig sind marginalisierte Gruppen in den Datengrundlagen von KI-Systemen signifikant unterrepräsentiert und so werden Stereotypen oft reproduziert. Es gibt technische Ansätze, um dem zu begegnen, z.B. indem Texte auf genderneutrales oder inklusives Schreiben überprüft und verbesserte Vorschläge generiert werden.
Der Zugang zu Informationen kann durch generative KI-Systeme vereinfacht werden, um z.B. personalisierte Unterstützung beim Lernen oder Textvorschläge für konkrete Anliegen zu bekommen. Allerdings sind große Sprachmodelle, die den KI-Chatbots zu Grunde liegen, „stochastische Papageien“, die die wahrscheinlichste Antwort ausgeben, ohne sie zu verstehen. Untersuchungen zeigen, dass KI-generierte Antworten regelmäßig sehr fehlerhaft sind, weswegen die fachliche Überprüfung aller KI-generierten Inhalte entscheidend für eine verantwortungsvolle Nutzung ist.
Positive Vision entwickeln
Leitfragen: Wie sieht für Dich eine positive Vision der Gesellschaft aus und wie kannst du (gemeinsam mit anderen) dazu beitragen? Welche Rolle spielt KI dabei?
Eine feministische Haltung in Bezug auf KI setzt sich dafür ein, dass sozial relevante Vorhaben priorisiert werden und Chancengerechtigkeit gestärkt wird. Deswegen steht im Kontext von KI zuerst die Frage im Vordergrund, wie eine Vision einer gerechteren Gesellschaft aussieht und erst dann wird erörtert, in welcher Form technische Lösungen dazu ggf. beitragen können. KI-Lösungen sollten dabei nicht als Quick Fix für komplexe soziale Herausforderungen verstanden werden. Stattdessen sollte mit großer Sorgfalt darauf geachtet werden, wie und auf wen sich die Vor- und Nachteile des Technologieeinsatzes auswirken.
Weitere Wissensressourcen:
• „Faires KI-Prompting – Ein Leitfaden für Unternehmen“ vom Mittelstand-Digital Zentrum Zukunftskultur (Link zum Prompting-Leitfaden)
• Beitrag „About AI and Unlikelihood“ von Elisa Lindinger vom Superrr Lab zum Umgang mit generativer KI als feministische Organisation (Link zum englischen Beitrag)
• “Data Feminism” von Catherine D’Ignazio und Lauren F. Klein
• „Unsichtbare Frauen – Wie eine von Daten beherrschte Welt die Hälfte der Bevölkerung ignoriert“ von Caroline Criado-Perez
• “Atlas of AI: Power, Politics, and the Planetary Costs of Artificial Intelligence” von Kate Crawford
Die Digitale Trainingsreihe findet im Rahmen des Programms openTransfer Patenschaften statt. openTransfer Patenschaften fördert die Vernetzung, den Wissenstransfer und die Verbreitung von Patenschafts-, Tandem, und Mentoring-Initiativen bundesweit. Alle Angebote des Programms sind kostenfrei. Mehr Informationen unter http://opentransfer.de/projekte/patenschaften/.
openTransfer Patenschaften ist ein Programm der Stiftung Bürgermut, gefördert durch das Bundesprogramm “Menschen stärken Menschen” des Bundesministeriums für Bildung, Familie, Senioren, Frauen und Jugend.
