Martin Bernklau wird Opfer der Künstlichen Intelligenz
Martin Bernklau aus Tübingen hat sich nie etwas zuschulden kommen lassen. Doch das, was er jetzt erlebt, versetzt ihn in Schock. Im Chat mit Copilot, der Künstlichen Intelligenz (KI) von Microsoft, wird er als verurteilter Kinderschänder, Ausbrecher aus der Psychiatrie oder Witwenbetrüger bezeichnet.
…
Zusätzlich liefert Copilot noch die volle Adresse von Bernklau mit Telefonnummer und Routenplaner.
…
Viele Jahrzehnte war Bernklau Gerichtsreporter, hat für verschiedene Zeitungen über Prozesse aus dem Landgericht Tübingen berichtet - über Fälle von Missbrauch, Gewalt und Betrug, mit denen er jetzt in Verbindung gebracht wird, weil sie auch im Internet zu finden sind. Die KI kombiniert, trägt zusammen und macht so den Reporter zum Täter.
…
Der zuständige Datenschutzbeauftragte vom bayerischen Landesamt wendet sich - Monate nach einer Beschwerde Bernklaus - mit dem Fall an Microsoft. Dort sichert man zu, das Problem abzustellen. Tatsächlich verschwinden die Einträge recht schnell. Doch nach ein paar Tagen erscheinen dieselben Aussagen wieder im Chat.
…
EDIT: Der Link hat gefehlt! Sorry.
Wie, generative KI spuckt nicht immer die Wahrheit aus?
Da verdopple ich vorsichtshalber lieber den Kleister in meiner Pizzasoße.Lass uns darauf doch mit einem Döschen Lack anstoßen! Prösterchen!
Warum läuft das eigentlich unter “Datenschutz” und nicht als Strafverfahren wegen Verleumdung?
Er hat eine Maschine bedient, die Texte generiert. Mit der Maschine hat er einen Text erzeugt, der ihn verleumdet. Soll er sich selber anzeigen?
Nicht vergessen, dass die KI kein Mensch ist. Und wenn, wäre es Beleidigung, wenn nicht nachgewiesen wird, dass die Falschbehauptung auch gegenüber anderen gemacht wurde.
Ich denke, die Hersteller sollten deutlicher auf die Schwächen der Anwendung hinweisen. Ein älterer Mensch weiß ja nicht, was das ist, wenn auf einmal Copilot im Edge Browser auftaucht. Aber ob sowas Schadenersatz wegen seelischer Grausamkeit oä rechtfertigt, glaube ich eher nicht.
Also wenn ich ein Programm schreibe, das jemanden beleidigt, bin ich auch fein raus?
Wenn dich die NPCs in einem Spiel als Milchtrinker beleidigen, wirst du damit leben müssen. Das heißt aber nicht, dass es eine Ausnahme für Programme gibt. So funktioniert das nicht.
Bernklau stellt Strafanzeige wegen übler Nachrede, die wird abgelehnt. Begründung der Tübinger Staatsanwaltschaft: Es sei kein Straftatbestand erfüllt, weil als Urheber der Behauptungen (die Künstliche Intelligenz, Anmerkung d. Redaktion) keine reale Person in Betracht komme.
Ich bin selber gerade noch… überrascht. Wenn mir ne schlaue Bemerkung dazu einfällt kommt die hier noch hin, bis dahin erstmal nur das Zitat.
Puh also solange ich eine “KI” dazu bringe es zu sagen darf ich also über jeden Lügen verbreiten. Aber war ja schon immer so was IT angeht “Software Problem, kann man nix machen”…
Der Artikel der eigentlich beim Post dabei sein sollte geht darauf ein.
Sorry für die Verspätung,ich hab nicht gemerkt, das der link nicht übernommen wurde.
Danke
Das deutsche Strafrecht setzt an das Verhalten von Personen an. Dementsprechend ist es nicht möglich, Unternehmen zur Verantwortung zu ziehen. Deswegen ist strafrechtlich hier nicht so viel zu holen, denke ich Mal. Anders wär es vielleicht, wenn man zufällig wüsste, dass bestimmte Angestellte für die falschen Angaben verantwortlich sind.
Im Zweifel der Geschäftsführer, oder?
Der trägt zivilrechtlich natürlich Verantwortung und daraus kann man im Strafrecht sicher auch teilweise etwas ableiten. Aber hier stand ja Verleumdung im Raum und die setzt Vorsatz voraus. Das scheint mir hier eine recht hohe Hürde.
Hinter dem Betrieb der “KI” dürfte durchaus Vorsatz stecken, das macht eine Firma ja nicht, weil sie das eigentlich gar nicht will.
Ja, natürlich. Die Software wird vorsätzlich eingesetzt. Aber bei der Verleumdung muss sich der Vorsatz einer Person auch darauf beziehen, dass eine bestimmte Info falsch ist.
Eine Software, die Texte anhand statistischer Wahrscheinlichkeiten von Wortfolgen generiert, erzeugt zwangsläufig auch sachlich falsche Texte. Wer eine solche Software als “Assistenten” in ein Betriebssystem einbaut, nimmt in Kauf, dass sie falsche Informationen verbreitet und die Benutzer das für bare Münze nehmen.
Geil, also wenn man in irgendeiner Form mit einem Verbrechen assoziiert ist, wahrscheinlich sogar wenn man Opfer oder Retter war, versteht die KI nur “verurteilter Verbrecher
Gustav Ganove beklauteMax Mustermann”.Na ja wenn es nur um stochastik geht:
Verurteilter Verbrecher Gustav Ganove beklaute Max Mustermann.
Verurteilter Verbrecher Hans Heler beklaute Max Mustermann.
Verurteilter Verbrecher Dieter Dieb beklaute Max Mustermann.
Dieser verdammte verurteilte Verbrecher Max Mustermann!
Erika Musterfrau hat es auch faustdick hinter den Ohren!
Liebe Leute, es tut mir leid, der link zum Artikel mir Video hat gefehlt.
Jeder der nur ein bisschen Ahnung von LLMs und Stochastik versteht sah dieses Problem vorraus.
Diffamierung ist strafbar.
Ich weiß jetzt nicht ob Microsoft oder copilot angeklagt werden können soll, aber einer von beiden, oder beide.
Ich finde das ganze steht und fällt wie es präsentiert wird, wie die Benutzeroberfläche es darstellt und in Kontext setzt.
Wenn der copilot dir Fragen beantwortet impliziert das erstmal Annahme von Korrektheit.
Ich wollte grade sagen, da wird im Artikel drauf eingegangen und hab gemerkt, das es den den link gar nicht übernommen hat. 🙈
Der Post link zum Artikel? Doch, der war da und hat funktioniert.
Ich hatte den Artikel nicht ganz gelesen. Bzw ist das ja trotzdem eine interessante und diskussionswürdige Frage.
