KI · Künstliche Intelligenz
Vor zehn Jahren scheiterte Microsofts Chatbot Tay – die Lehren gelten bis heute
Nach nur 16 Stunden wurde Microsofts KI-Chatbot Tay 2016 abgeschaltet – er verbreitete rassistische Hassrede. Ein Rückblick auf das berühmteste KI-Desaster der Anfangszeit und darauf, warum es bis heute als Warnung für unzureichend abgesicherte KI gilt.
München, 22. August 2026 – Viele Menschen lernten Künstliche Intelligenz erst mit ChatGPT kennen. Doch schon Jahre zuvor testeten Unternehmen ähnliche Systeme – mit teils desaströsen Folgen. Das bekannteste Beispiel: Microsofts Chatbot Tay. Das Experiment endete nach nur 16 Stunden und gilt bis heute als Lehrstück für die Risiken unzureichend abgesicherter KI.^[BILD – Nach nur 16 Stunden beendet: Microsofts erster KI-Chatbot geriet außer Kontrolle – url: https://www.bild.de/leben-wissen/digital/tay-warum-microsoft-seinen-ersten-ki-chatbot-so-schnell-abschaltete-6a43639a09e6e5417cdca3ea]
Ein Experiment gerät außer Kontrolle
Microsoft stellte Tay am 23. März 2016 auf Twitter, dem heutigen X, vor. Der Chatbot trat als weiblicher Avatar auf und sollte mit Nutzern kommunizieren – ein Lernprojekt, das zeigen sollte, wie gut sich eine KI durch Gespräche mit echten Menschen weiterentwickelt. Doch schon nach kurzer Zeit verbreitete Tay rassistische und hasserfüllte Inhalte. Microsoft beendete das Experiment nach 16 Stunden und mehr als 96.000 Tweets. Ein zweiter Versuch, nur eine Woche später, scheiterte aus denselben Gründen noch schneller.^[BILD – Nach nur 16 Stunden beendet: Microsofts erster KI-Chatbot geriet außer Kontrolle – url: https://www.bild.de/leben-wissen/digital/tay-warum-microsoft-seinen-ersten-ki-chatbot-so-schnell-abschaltete-6a43639a09e6e5417cdca3ea]
Warum Tay außer Kontrolle geriet
„Tay war von technischer Seite ein spannendes Experiment. Allerdings fing es nach relativ kurzer Zeit damit an, problematische Inhalte zu produzieren. Das waren beispielsweise Rassismus und Hassrede“, erinnert sich Anna Kruspe, Informatikprofessorin an der Hochschule für angewandte Wissenschaften München. Microsoft veröffentlichte kaum technische Details zum Vorfall. Laut Kruspe nutzte Tay andere neuronale Netze als heutige Systeme – sie konnten längere Gespräche deutlich schlechter im Zusammenhang verstehen. Zudem reagierte der Chatbot besonders stark auf polarisierende Inhalte aus der Twitter-Community: „Wenn die Inputdaten problematisch sind, ist das Risiko hoch, dass der Output auch problematisch wird“, erklärt die Expertin.^[BILD – Nach nur 16 Stunden beendet: Microsofts erster KI-Chatbot geriet außer Kontrolle – url: https://www.bild.de/leben-wissen/digital/tay-warum-microsoft-seinen-ersten-ki-chatbot-so-schnell-abschaltete-6a43639a09e6e5417cdca3ea]
Moderne KI setzt auf Schutzmechanismen
Heutige Chatbots werden nicht mehr direkt und ungefiltert durch Eingaben von Nutzern weitertrainiert, wie es bei Tay der Fall war. Stattdessen kommen nach Einschätzung von Kruspe automatische Filter gegen Hassrede und andere extreme Inhalte sowie gezielte Schutzmechanismen zum Einsatz. Dennoch stehen KI-Anbieter vor neuen Herausforderungen: Neben hohen Betriebskosten bleibt die Qualität der Trainingsdaten entscheidend. Vorurteile in großen Datenmengen können dazu führen, dass bestimmte Gruppen unbemerkt benachteiligt werden.^[BILD – Nach nur 16 Stunden beendet: Microsofts erster KI-Chatbot geriet außer Kontrolle – url: https://www.bild.de/leben-wissen/digital/tay-warum-microsoft-seinen-ersten-ki-chatbot-so-schnell-abschaltete-6a43639a09e6e5417cdca3ea]
Das Experiment als bleibende Warnung
Tay hat damals eines deutlich gezeigt – „nämlich was passiert, wenn KI-Anbieter Entwicklungen unterschätzen“, so Kruspe.^[BILD – Nach nur 16 Stunden beendet: Microsofts erster KI-Chatbot geriet außer Kontrolle – url: https://www.bild.de/leben-wissen/digital/tay-warum-microsoft-seinen-ersten-ki-chatbot-so-schnell-abschaltete-6a43639a09e6e5417cdca3ea] Zehn Jahre später ist die Debatte aktueller denn je: Angesichts autonomer KI-Agenten, die eigenständig im Internet agieren, diskutieren Regulierer weltweit über Sicherheitsstandards – und die Geschichte von Tay gilt als frühes Beispiel dafür, wie schnell unkontrollierte KI eskalieren kann. Der Tay-Account auf X existiert übrigens noch heute – veröffentlicht aber seit 2016 keine Beiträge mehr.^[BILD – Nach nur 16 Stunden beendet: Microsofts erster KI-Chatbot geriet außer Kontrolle – url: https://www.bild.de/leben-wissen/digital/tay-warum-microsoft-seinen-ersten-ki-chatbot-so-schnell-abschaltete-6a43639a09e6e5417cdca3ea]
Quellen: BILD – Nach nur 16 Stunden beendet: Microsofts erster KI-Chatbot geriet außer Kontrolle