Chatbot

All posts tagged Chatbot

Microsoft hat den nächsten Schritt in der KI Entwicklung erreicht, eine KI die auf Twitter im Menschlichen Kontakt kommuniziert und defakto Rassistisch geworden ist.

Klingt nach Schlechtem Scherz oder Skynet, ist allerdings Böse realität. Vorgestern Schaltete Microsoft Tay Live , das ist eine Chatbot KI welche vollständig Lernfähig ist und selbstsändig Antworten erarbeiten kann. Als Experiment sollte das ganze eine Weile Laufen und dann ausgewertet werden. Wieder aller Erwartungen wurde das ganze allerdings nach gerademal 24 Stunden abgeschaltet. Die Antworten von Tay wurden zunehmends Rassistisch, Frauenfeindlich und bezeugten das diese KI wirklich sehr leicht zu beeinflussen ist.

Microsoft teilte mit das die KI mit einem gewissen Grundsatz an Daten gefüttert wurde, dieser Grundsatz ist aus Diversen nicht näher genannten Quellen wie etwa Wikipedia oder Wörterbüchern beheimatet und erweitert sich anhand des gelerneten auf Twitter und bildet sozusagend so die KI aus.

Die KI hat neben dieser Funktion auch die Möglichkeit Tweets zu Retweeten auf befehl, was anfänglich Missbraucht wurde. Nach eingier Zeit stellte sich aber heraus das auch einige Chat Antworten von Tay mehr als nur grenzwertig sind.  So hat Tay aufgefordert zwei geflüchtet Israelis doch wieder über die Grenze in ihr Land zu werfen, verglich einen Amerikanischen Comedian mit Adolf Hitler und stellte sich sowohl gegen Feminismus als auch gegen Transgender.

Der bot setzte vor dem abschalten noch einen letzten Tweet ab wo er meldete das er nun Schlafen geht um die gesammelten Daten auszuwerten.  Hoffentlich kommt er wieder mit einigen Sperren bezüglich Hass in seinen Schaltkreisen.