Vor wenigen Tagen hat Microsoft eine neue Version des großen Sprachmodells namens WizardLM herausgebracht. Die KI "WizardLM 2" stand als Open-Source-Projekt bereit und konnte demnach von allen interessierten Nutzer:innen heruntergeladen werden. Allerdings verschwand der Download nur wenige Stunden nach dem Release wieder. Der Grund: Die Forscher:innen bei Microsoft hatten einen wichtigen Schritt vergessen.
Ein Sprachmodell ohne Maulkorb
"Es ist eine Weile her, dass wir ein neues Modell veröffentlicht haben. Deshalb sind wir mit den neuen Release-Prozessen noch nicht ganz vertraut", heißt es in einem Post auf X. Demnach haben die Forscher:innen vergessen, das KI-Modell einem Toxicity-Test zu unterziehen. Durch diesen wird der künstlichen Intelligenz gezeigt, welche Prompts sie nicht beantworten sollte, da diese beleidigend sein oder größeren Schaden anrichten könnten.
Das Team von Microsoft-Forscher:innen versprach, den Test möglichst schnell nachzuholen und WizardLM 2 wieder hochzuladen.
Obwohl die KI nur wenige Stunden verfügbar war, konnten einige Nutzer:innen sie herunterladen. Sie haben die KI allerdings nicht nur getestet, sondern weiterverteilt.
Nun findet sich die Version ohne Toxicity-Test auf Seiten wie GitHub oder Hugging Face, wie Android Authority berichtet. Es gibt sogar einen eigenen Discord-Channel für WizardLM, über den mehrere Download-Links für die KI bereitgestellt werden. Das Internet wird vermutlich nie vergessen, dass es diese Version gibt.
Unter dem Post auf X müssen sich die Forscher:innen bei Microsoft deswegen einigen Spott gefallen lassen. Dort steht etwa: "Keine Sorge, wir haben das originale Modell für euch geschnappt. Wir werden es sicher aufbewahren" oder "Ich fühle mich von eurem Modell beleidigt. Bitte zahlt mir eine Million Dollar für emotionale Schäden".