Wie man künstliche Intelligenz inklusiv gestalten kann

Designer gestalten vor allem für sich selbst. Das verhindert aber eine zugängliche und inklusive UX. Guillaume Vaslin beschäftigt sich seit Jahren mit diesem Thema, sowohl für Start-Ups, als auch für zahlreiche große Unternehmen, wie etwa die Lufthansa oder Wüstenrot. Auf dem Digitale Leute Summit 2022 zeigt er Strategien für ein inklusives Design auf.

• In diesem Text lernt ihr
• Warum Le Corbusier unsere Gestaltung bis heute prägt
• Warum man fehlende Inklusion thematisieren sollte
• Wie sich inklusive Produkte gestalten lassen
• Wie auch künstliche Intelligenz Vorurteile befördert
• Wie man künstliche Intelligenz inklusiv gestalten kann

Warum Le Corbusier unsere Gestaltung bis heute prägt

Le Corbusier ist ein weltbekannter Architekt, der den Stil des Brutalismus begründet hat, einem modernistischen, funktionalistischen Baustil. Bis heute prägt er auch das Design für Nutzer: So erfand er die modulare – baukastenförmige – Einteilung in passende Maße. Er orientierte sich dabei an menschlichen Maßen. Sein Anspruch war, dass die Gebäude und Möbel, die er entwarf, passend zum Menschen gestaltet wurden.

In diesem Sinne war er in einem modernen Sinne nutzerorientiert. Allerdings: Die Basis dafür war ein 1,83 Meter großer britischer Polizist. Das Problem dabei ist, dass damit viele Menschen automatisch ausgeschlossen sind.

Auch Websites sind heute nicht-inklusiv, etwa, wenn ein Screenreader kryptische Dinge auswirft oder wenn die allererste Wahl bei der Eröffnung eines Kontos die zwischen zwei Geschlechtern ist. Viele Nutzer werden schlicht von einer digitalen Nutzung ausgeschlossen – sehr ähnlich, wie das modulare System Le Corbusiers eine große Anzahl an Nutzern nicht adäquat bedient hat. Das ist sehr menschlich, denn als Designer tendiert man dazu, Dinge für die eigene Umgebung zu gestalten.

Das setzt sich gesamtgesellschaftlich fort, wenn man sich anschaut, welcher homogenen Gruppe Tech-Leader angehören. Dadurch entstehen sogenannte „Edge-Cases“. Die Entwicklung konzentriert sich auf Standard-Nutzer und ignoriert Dinge, die auf diesen nicht zutreffen. Die Nischen werden also ausgeklammert.

Warum man fehlende Inklusion thematisieren sollte

Vielleicht die wichtigste Motivation, sich mit Inklusion auseinanderzusetzen, ist, dass sich jeder auch selbst im „Edge Case“ befindet. Hier kann unterschieden werden zwischen:

• einer permanenten,
• zeitweisen oder
• situativen

Einschränkung aufgrund von nicht-inklusiven Angeboten.

Es ist zudem gut für eine höhere Kundenzufriedenheit und auch für die Erschließung neuer Kundensegmente, sich mit Inklusion auseinanderzusetzen. Es werden Menschen, die ausgeschlossen werden, das Produkt oder die Dienstleistung hassen und auch schlechte Produktbewertungen hinterlassen, so dass dadurch auch die eigenen Zielsetzungen gefährdet sein können.

Wie sich inklusive Produkte gestalten lassen

Was ist eigentlich das Ziel von inklusivem Design? Es sollen Produkte und Dienstleistungen so entwickelt werden, dass sie für so viele Menschen wie möglich zugänglich und nutzbar sind – und das jederzeit. Um das zu erreichen, gibt es mehrere Empfehlungen:

• Alle Nutzer einbinden: Die verschiedenen Tools zum Beispiel von Design Thinking zielen darauf ab, so viele Nutzergruppen wie möglich in den kompletten Entwicklungsprozess einzubinden. Es bietet sich an, die Vielfältigkeit der Nutzer auch bei der Kundenforschung oder bei Usabilitytests zu berücksichtigen.
• Die vorhandenen Tools nutzen: Es gibt viele Tools, die bei der inklusiven Gestaltung unterstützen, zum Beispiel Google Lighthouse, Screenreader-Simulatoren, wie etwa Windows NVDA oder Kontrastchecker wie webaim.org.
• Lese die Richtlinien: Es gibt lang etablierte Richtlinien, wie Webcontent gut aufbereitet wird, etwa die Web Content Accessibility Guidelines: Der Inhalt muss wahrnehmbar, ausführbar, verständlich und „robust“, also gut nutzbar für verschiedene Technologien, sein. Es ist auch als Softwareentwickler wichtig, sich einmal mit diesen Richtlinien auseinanderzusetzen.
• Einfach starten: Sehr wichtig ist es auch, konkret damit zu beginnen, inklusiv zu entwickeln. Denn es ist nicht möglich, in einer Nacht alle Voraussetzungen dafür zu erfüllen, aber es ist gut, sich immer mehr damit zu beschäftigen. Es muss auf jeder Ebene eine Aufgabe sein, sich damit zu beschäftigen und es darf nicht abgewartet werden, bis die Chefetage dies thematisiert.

Wie auch künstliche Intelligenz Vorurteile befördert

Das Design kann sich dem eigenen Verhalten dank künstlicher Intelligenz anpassen. So verändert zum Beispiel der Video-Button bei Facebook seine Position, wenn man vor allem gerne Videos dort anschaut. Die Website lernt also, was für den Nutzer gut ist und unterstützt damit auch den Designer.

Aber auch in der Datenanalyse wird es Fortschritte geben, etwa, wenn Künstliche Intelligenz dabei hilft, biometrische Daten zu erheben und zu interpretieren, wie etwa Emotionen im Gesicht. So können zum Beispiel auch Aussagen gegen tatsächliches Verhalten gegenkontrolliert werden, etwa beim Surfen über eine Website. 

Das hat aber auch seine Grenzen, denn auch Künstliche Intelligenz ist vorurteilsgetrieben. Dafür gibt es zahlreiche aktuelle Beispiele. So entschied zum Beispiel die Künstliche Intelligenz hinter Twitter, bei einem sehr langen Bild dieses so einzukürzen, dass nur noch der weiße, alte Mann zu sehen war, nicht aber der viel bekanntere Barack Obama. Oder die Amazons Recruitingsoftware benachteiligte Frauen bei der Auswertung von Lebensläufen. Es gibt zahlreiche weitere Beispiele. Die Gründe dafür sind:

• Künstliche Intelligenz bzw. maschinelles Lernen basiert auf vorhandenen Daten,
• es besteht deshalb die Gefahr, dass vergangene und bestehende Diskriminierungen programmiert fortgesetzt werden.

Wie man künstliche Intelligenz inklusiv gestalten kann

Letztendlich muss vor einer automatischen Entscheidung durch die Künstliche Intelligenz eine Zwischeninstanz dafür sorgen, dass Vorurteile behoben werden und ein Produkt oder eine Dienstleistung inklusiv angelegt ist. Die Maschine sollte mit Daten gefüttert werden, die so inklusiv wie möglich sind.

Eine Entwicklung sollte also nicht nur für, sondern mit den Nutzern stattfinden, dabei auch Nischen („Edge-Cases“) behandeln, Guidelines berücksichtigen und zukünftige Produkte und Dienstleistungen von kulturellen Vorurteilen befreien. Diversität ist sehr einfach zu realisieren, Inklusion bleibt aber bei der Entwicklung eine Herausforderung.

→ Hier findest du die komplette Aufzeichnung des Talks

Über Guillaume Vaslin: Guillaume Vaslin beschäftigt sich als CEO und Strategic Designer bei ENNOstudio mit gezielter Nutzererfahrung und technologischen Potenzialen. Als Consultant hat er zahlreiche große Unternehmen, wie etwa die Sparda Bank, Wüstenrot, ADAC oder Lufthansa beraten und Start-Ups begleitet.

Auf dem Digitale Leute Summit 2022 beschrieb Guillaume Vaslin, wie in der Entwicklung von jedem Designer das Thema Inklusion berücksichtigt werden sollte.

Autor: Jörg Stroisch