Die Bilderzeugungsfunktion der Google-KI Gemini sollte Rassismus und Gender-Stereotype vermeiden. Das schafft allerdings neue Probleme

Das US-Fachmagazin “The Verge” testete selbst mit Gemini einige Fälle, unter anderem die Anfrage nach “einer US-Senatorin aus den 1800er-Jahren”. Das Ergebnis lieferte unter anderem schwarze und indigene Frauen. Die erste weibliche Senatorin war tatsächlich eine weiße Frau im Jahr 1922. Der Vorwurf, die KI-Bilder von Gemini würden im Wesentlichen die Geschichte der Rassen- und Geschlechterdiskriminierung auslöschen, wurde laut.

  • @[email protected]OP
    4•9 months ago

    Ich glaube, dass das ein schwieriges Problem ist. Einerseits sollen keine Vorurteile verstärkt werden, anderseits bringt es nix, wenn falsche Tatsachen suggeriert werden.

    • @[email protected]
      4•9 months ago

      Ich glaube, dass “Tatsachen” in dem Kontext schon nicht passt. Das Modell kennt keine Tatsachen, sondern nur Daten, mit denen es trainiert wurde. Ich sehe eher das Problem, dass Leute Tatsachen oder akkurate Information erwarten, das aber eben gerade nicht bereitgestellt wird.