Einführung
Hast du schon mal darüber nachgedacht, wie die KI-Technologien und -Produkte entwickelt werden, die du tagtäglich nutzt? Donald Martin Jr., technischer Programmmanager bei Google Research und Leiter von Google SCOUTS (Societal Context Understanding Tools and Solutions), erklärt, dass KI-Technologien in einem gesellschaftlichen Kontext entstehen. Das heißt sie sind tief verwurzelt in unseren sozialen, kulturellen, historischen, politischen und wirtschaftlichen Umständen.
Das Problem? Diese Kontexte sind dynamisch, komplex und schwer in die typischerweise quantitativen Methoden und Praktiken der KI-Entwicklung zu übersetzen. Daher entwickelt das Google SCOUTS-Team bei Google Research Werkzeuge, um Entwicklern zu helfen, diese komplexen gesellschaftlichen Kontexte zu verstehen und sie bei der KI-Entwicklung zu berücksichtigen.
Das Problemverständnisschisma
Martin spricht von einem “Problemverständnisschisma”, das auftritt, wenn Entwickler keinen Zugang zu den notwendigen Kenntnissen und Werkzeugen haben, um den gesellschaftlichen Kontext während der Entwicklung zu berücksichtigen. Das führt zu fragilen KI-Lösungen, die sogar unfaire Voreingenommenheit verbreiten können. Ein Beispiel dafür ist ein Gesundheitsalgorithmus, der Patienten mit den komplexesten Gesundheitsbedürfnissen für spezielle Programme auswählen sollte. Durch ein unzureichendes Verständnis des gesellschaftlichen Kontexts übersahen die Designer wichtige sozio-strukturelle Faktoren und konzentrierten sich stattdessen auf die Gesundheitsausgaben als Indikator für komplexe Gesundheitsbedürfnisse.
Lösungsansätze
Um das Problemverständnisschisma zu überwinden, benötigen KI-Entwickler Werkzeuge, die ihnen strukturiertes Wissen über gesellschaftliche Kontexte zur Verfügung stellen. Dazu hat Google SCOUTS einen gesellschaftlichen Kontextreferenzrahmen und partizipative Methoden zur Erfassung von Expertenwissen entwickelt.
Gesellschaftlicher Kontextreferenzrahmen
Dieser Referenzrahmen umfasst drei Schlüsselelemente gesellschaftlicher Kontexte und die dynamischen Rückkopplungsschleifen, die sie verbinden: Akteure, Präzepte und Artefakte.
- Akteure können Individuen oder Institutionen sein.
- Präzepte sind Überzeugungen, Werte, Stereotypen und Vorurteile, die das Verhalten der Akteure steuern.
- Artefakte sind das Produkt von Akteurverhalten, dazu zählen Sprache, Daten, Technologien, gesellschaftliche Probleme und Produkte.
Zusammenarbeit mit Gemeinschaften
Google SCOUTS arbeitet mit marginalisierten Gemeinschaften zusammen, um das Bewusstsein für den gesellschaftlichen Kontext von komplexen Problemen zu erhöhen. Dies geschieht durch die Praxis der gemeinschaftsbasierten Systemdynamik (Community Based System Dynamics, CBSD). Mit CBSD konnten Gemeinschaftsgruppen innerhalb von zwei Stunden die Grundlagen lernen und Anfänge von kausalen Schleifen- und Bestands- und Flussdiagrammen zeichnen.
Google SCOUTS Schlussfolgerung
Das Problemverständnisschisma ist eine kritische Herausforderung in der verantwortungsbewussten KI. SCOUTS arbeitet daran, durch Forschung und Zusammenarbeit mit anderen Teams innerhalb von Google Research, externen Gemeinschaften und akademischen Partnern bedeutende Fortschritte zu erzielen. Ziel ist es, das Bewusstsein für das Problemverständnisschisma zu erhöhen und gesellschaftliche Kontextkenntnisse in die KI-Produktentwicklung zu integrieren. Das Team setzt dabei auf partizipative, kausale Modellierungsmethoden, insbesondere im Bereich der gesundheitlichen Gleichheit der KI.
Quelle: GoogleBlog