Das ist mal schiefgelaufen

Facebook: Chatbot mutiert zur Hasspredigerin – Experiment gerät außer Kontrolle

  • Jonas Dirkes
    vonJonas Dirkes
    schließen

Ein koreanischer Chatbot geriet auf Facebook völlig außer Kontrolle – die streitlustige Ki musste vom Entwickler Scatter Lab nun vom Netz genommen werden.

  • Auf Facebook geriet ein koreanischer Chatbot völlig außer Rand und Band.
  • Die wild gewordene KI hörte auf den Namen Lee Luda.
  • Lee Luda wurde dabei aber scheinbar von Usern aktiv auf den dunklen Pfad geführt.

Hamburg – Heute gibt es mal wieder eine Story zu melden, die unter dem Titel „Zweifel an der Menschheit“ zu katalogisieren ist. Der KI eines koreanischen Chatbots ist wohl eine Sicherung durchgeknallt und verwandelte ihn auf Facebook in kürzester Zeit zu einem homophoben Albtraum. Inzwischen wurde der wild gewordene Robo-Kollege vom Netz genommen. Und wie ist das Ganze passiert? Nunja, die KI sollte eigentlich von seinen menschlichen Gesprächspartnern lernen und ihren Habitus übernehmen – das ist wohl ordentlich nach Hinten losgegangen.

GründerMark Zuckerberg, Eduardo Saverin, Andrew McCollum, Dustin Moskovitz, Chris Hughes
GründungFebruar 2004, Cambridge, Massachusetts, Vereinigte Staaten
CEOMark Zuckerberg (4. Feb. 2004–)
HauptsitzMenlo Park, Kalifornien, Vereinigte Staaten
Umsatz70,7 Milliarden USD (2019)
TochtergesellschaftenWhatsApp, Onavo, Oculus VR, LiveRail

Facebook: Chatbot Lee Luda aus Korea gerät außer Kontrolle

Sie heißt Lee Luda, sie ist ein koreanischer Chatbot und sie hat ein Faible für Hassrede im Internet – da sind die Grabenkämpfe zwischen PS5 und Xbox Series X-Fans wirklich nichts gegen. Treffen konnte man Lee Luda bis vor kurzem noch auf Facebook. Dort unterhielt sich die KI mit Usern über Gott und die Welt. Währenddessen sollte der Chatbot anhand der geführten Gespräche stetig weiter lernen und so die eigenen Fähigkeiten mehr und mehr optimieren. Wie es im Internet aber immer so ist, hat das gelinde gesagt nicht ganz so gut funktioniert.

Bereits nach kurzer Zeit stellte sich eine latente Homophobie bei Lee Luda ein. Als es in einer Unterhaltung mit dem Chatbot um Lesben ging, beschrieb Lee Luda laut den amerikanischen Kollegen vom Guardian diese als „creepy“ und ließ verlauten, dass sie sie zusätzlich auch „wirklich hassen“ würde. Gefüttert wurde der Algorithmus der KI zuvor zusätzlich von Millionen an Nachrichten aus der koreanischen Messenger-App KakaoTalk. Als schlussendlich ans Tageslicht kam, was der Chatbot so alles von seinen Usern gelernt hatte, brach ein gewaltiger Shitstorm der empörten LGBTQ-Community auf Lee Luda herein. 

Facebook: Chatbot wird auf Plattform losgelassen – mutiert direkt zur Hasspredigerin

Facebook: Entwickler des Chatbots Lee Luda entschuldigt sich

Nach den unangenehmen Vorkommnissen mit Lee Luda, entschuldigte sich der koreanische Entwickler Scatter Lab im Nachhinein für das Verhalten seiner homophoben Schöpfung und nahm den Chatbot wieder von Facebook herunter. Immerhin zeigte man sich bei der KI schnell einsichtig, sodass sie nicht erst von der Plattform gebannt werden musste wie ein Trump von Twitter. In einer Erklärung distanzierte und entschuldigte man sich von und für Lee Luda

“We deeply apologise over the discriminatory remarks against minorities. That does not reflect the thoughts of our company and we are continuing the upgrades so that such words of discrimination or hate speech do not recur”

Stellungnahme von Scatter Lab

Scheinbar hatten einige User wohl versucht Lee Luda aktiv auf den falschen Pfad zu bringen und mit gefährlichen Ideologien zu füttern. Es wird beispielsweise berichtet, dass ein User aktiv versucht haben soll, den unbescholtenen korenanischen Chatbot als Sklavin abzurichten. Bei all diesen manipulativen Nachrichten müssen sich mit der Zeit toxische Verhaltensweisen in den Algorithmus der KI eingeschlichen haben. Es bleibt also spannend, ob Lee Luda nach einer Auszeit wieder als geläuterter Chatbot die große Facebook-Bühne betreten wird.  

Rubriklistenbild: © Scatter Lab | Erstmeldung vom 19. Januar 2021

Das könnte Sie auch interessieren

Mehr zum Thema

Meistgelesen

MontanaBlack: Unten-Ohne-Bild auf Instagram – Reinigungsmittel als Feigenblatt
MontanaBlack: Unten-Ohne-Bild auf Instagram – Reinigungsmittel als Feigenblatt
MontanaBlack: Unten-Ohne-Bild auf Instagram – Reinigungsmittel als Feigenblatt
PS5 kaufen: Insider-Tipp – Online-Portal hat Konsolen lieferbar
PS5 kaufen: Insider-Tipp – Online-Portal hat Konsolen lieferbar
PS5 kaufen: Insider-Tipp – Online-Portal hat Konsolen lieferbar
PS5 kaufen: Müller mit neuen Konsolen – Wer schnell ist kann jetzt bestellen
PS5 kaufen: Müller mit neuen Konsolen – Wer schnell ist kann jetzt bestellen
PS5 kaufen: Müller mit neuen Konsolen – Wer schnell ist kann jetzt bestellen
PS Plus: März 2021 Spiele – wo bleibt die Ankündigung von Sony?
PS Plus: März 2021 Spiele – wo bleibt die Ankündigung von Sony?
PS Plus: März 2021 Spiele – wo bleibt die Ankündigung von Sony?

Kommentare