BLOG
24/06/2018 23:14 CEST | Aktualisiert 24/06/2018 23:14 CEST

Sexistische KI: Das nächste Technologie-Desaster

Kürzlich hörte ich meine zweijährige Tochter mit Alexa reden – dabei sind mir zwei Dinge stark aufgefallen. Erstens unterscheidet sie die körperlose Stimme nicht von einem normalen Menschen. Zweitens bellt sie in einer Art und Weise Befehle an Alexa, die in jeder sozialen Konvention als unhöflich angesehen würden. Ich war mir plötzlich sehr bewusst und beunruhigt, dass Alexa meiner Tochter ein schreckliches Frauenbild präsentiert – dass Frauen unterwürfig sind, Unhöflichkeit akzeptieren sollten und ins Haus gehören.

Photo by Andres Urena on Unsplash
Alexa und Co. sprechen mit weiblicher Stimme

Die Vorurteile gegen Frauen und Minderheiten in der KI sind allgegenwärtig. Jeder große In-Home-Assistant – einschließlich Apples Siri, Amazon Alexa, Google Home und Microsofts Cortana – spricht standardmäßig mit einer weiblichen Stimme. Bis vor kurzem hatten sie auch fügsame, gehorsame Persönlichkeiten, die eine exorbitante Menge Sexismus tolerierten.

Diese Erfahrung mit meiner Tochter öffnete mir die Augen für den allgegenwärtigen Sexismus in der KI. Er bewahrt die Stereotypen der 1950er-Jahre, indem er Frauen in die Küche und das Sekretariat bringt, Männern aber Führungspositionen anbietet. KI hat die sozialen Netzwerke in toxische Umgebungen für Frauen und Minderheiten verwandelt, die von Hassreden, Obszönitäten und Rache-Pornografie geprägt sind. Aber als Senator John Cornyn Mark Zuckerberg im Zuge der Kongressanhörungen fragte, ob er sich dafür verantwortlich fühle, wich der Facebook-Gründer aus und behauptete, dass es „fünf bis zehn Jahre“ dauern würde, bis die KI dies herausfiltern würde.

Der rote Faden hier sind Männer

Alle diese von Vorurteilen belasteten KI-Systeme wurden von überwiegend weißen männlichen Ingenieuren entwickelt – die es zu eilig hatten, um über ihre Vorurteile nachzudenken, ihren Chauvinismus in Frage zu stellen oder zu überlegen, welchen Schaden ihre Algorithmen Frauen und Minderheiten zufügen würden. Ich selbst bin seit 1995 CEO eines Technologieunternehmens und habe dieses Muster in den letzten 20 Jahren schon häufiger gesehen – während der Revolutionen in den Bereichen Web, Suchmaschinen und Social. Die KI-Revolution hat erst vor kurzem begonnen, aber sie hat bereits die Hälfte der Weltbevölkerung ausgegrenzt. Wir sollten uns schämen.

Photo by Franck V. on Unsplash
Der rote Faden hier sind Männer

Oder, so sollte ich es eigentlich sagen: Wir sollten uns schon wiederschämen

Die Technologiebranche ist ein Serientäter. Von den 20 größten US-Technologieunternehmen nach Umsatz haben 19 männliche CEOs. Weniger als 20 % der „Big Tech“-Ingenieure sind Frauen, und gerade im KI-Sektor ist die Vielfalt verschwindend gering. Bei der größten Konferenz der Branche waren nur 15 % der Teilnehmer im Jahr 2016 Frauen.

Während ich dies schreibe, legt eine kleine Gruppe von Menschen – eine kleine Gruppe von meist weißen, männlichen, bürgerlichen Informatikern – die Grundlagen der KI fest, die die gesamte Menschheit betreffen werden. Wie können wir Entscheidungen mit nachhaltigen, weltweiten Auswirkungen treffen, wenn Frauen nicht in die Gleichung miteinbezogen werden? Wir fangen gerade erst an, aber die Anzeichen sind schon jetzt beunruhigend. Unbeobachtet könnten die Ergebnisse katastrophal sein.

Für LivePerson hat das Thema Vielfalt eine hohe Priorität. Wir sind noch nicht dort, wo wir sein wollen – der Anteil unserer Ingenieurinnen liegt mit 28% über dem Branchendurchschnitt, was aber immer noch zu niedrig ist. Deshalb entwickeln wir intern einen umfassenden Plan, um dies zu beheben, indem wir eine ausgewogenere Belegschaft rekrutieren, insbesondere in unserer Conversational-Design-Gruppe. Außerdem veranstalten wir in unserer New Yorker Zentrale Tech-Initiativen, die von Frauen geführt werden.

Photo by Gustas Brazaitis on Unsplash
Auch Software-Ingenieure tragen Verantwortung

Außerhalb unserer Organisation arbeiten wir mit ausgezeichneten weiblichen Führungskräften, Akademikern und KI-Experten zusammen. Gemeinsam mit ihnen suchen wir Wege, um diese Vorurteile zu beseitigen, sie unseren Kunden zu vermitteln und sie dazu zu bewegen, diese Best Practices zu übernehmen.

KI hat enormes Potenzial, aber bis wir beginnen, uns selbst zur Verantwortung zu ziehen, werden wir weiterhin die Vielfalt an Perspektiven und Inklusivität vermissen, die wir für echten Fortschritt brauchen. Vielfalt ist unsere beste Verteidigung gegen die Verbreitung – und Verstärkung – verborgener und fortwährender Vorurteile, die uns schaden werden, wenn sie zu spät in Frage gestellt werden. Ohne Vielfalt wird die KI zur nächsten Krise für die Technologiebranche.