Künstliche Intelligenz in Suchalgorithmen


Menschen verlassen sich häufig auf Algorithmen der künstlichen Intelligenz, um ihre Entscheidungseffizienz und Objektivität zu erhöhen, doch wurden bisher häufig in den Ergebnissen dieser Algorithmen systembedingte soziale Verzerrungen festgestellt. Vlasceanu & Amodio (2022) haben nun die Beziehung zwischen gesellschaftlicher Geschlechterungleichheit und algorithmischen Suchergebnissen überprüft und dann die Auswirkungen dieser Ergebnisse auf die menschliche Entscheidungsfindung untersucht.
Zunächst fanden sie in zwei multinationalen Stichproben, dass eine größere Ungleichheit zwischen den Geschlechtern auf nationaler Ebene mit mehr männlich dominierten Google-Suchergebnissen für das geschlechtsneutrale Schlüsselwort „Person“ in der jeweils vorherrschenden Sprache eines Landes verbunden war, was einen Zusammenhang zwischen den Ungleichheiten auf gesellschaftlicher Ebene und der algorithmischen Ausgabe erkennen lässt. In einer Reihe von Experimenten mit menschlichen Teilnehmern haben sie dann gezeigt, dass die geschlechtsspezifischen Unterschiede, die mit qualitativ hochwertigen bzw. minderwertigen algorithmischen Ergebnissen verbunden sind, die Bildung von geschlechtsspezifischen Prototypen und Einstellungsentscheidungen in neuartigen Szenarien beeinflussen.
Diese Ergebnisse stützen die Hypothese, dass die Ungleichheit zwischen den Geschlechtern auf gesellschaftlicher Ebene in Internet-Suchalgorithmen rekapituliert wird, die wiederum menschliche Entscheidungsträger so beeinflussen können, dass sie in einer Weise handeln, die diese Ungleichheit noch verstärkt. Offensichtlich verstärken geschlechtsspezifische Verzerrungen in einem weit verbreiteten Internetsuchalgorithmus das Ausmaß der Geschlechterungleichheit in einer Gesellschaft, was dazu führt, dass Menschen, die den geschlechtsspezifischen Verzerrungen in den Ergebnissen von Algorithmen ausgesetzt sind, auf eine Art und Weise denken und handeln, die die gesellschaftliche Ungleichheit noch verstärkt, und somit einen Kreislauf der Ausbreitung von Verzerrungen zwischen Gesellschaft, künstliche Intelligenz und Nutzern in Gang setzen.

Literatur

Stangl, W. (2022, 14. Juli). Künstliche Intelligenz in Suchalgorithmen verstärkt die geschlechtsspezifischen Ungleichheiten . arbeitsblätter news.

Künstliche Intelligenz in Suchalgorithmen verstärkt die geschlechtsspezifischen Ungleichheiten


Vlasceanu Madalina & Amodio David M. (2022). Propagation of societal gender inequality by internet search algorithms. Proceedings of the National Academy of Sciences, 119, doi:10.1073/pnas.2204529119.