Sicherheitsforscher von Anthropic haben eine neue Art herausgefunden, wie man Große Sprachmodelle (Large Language Models, LLMs) und damit Chatbots überlisten kann. Sie nennen das " many-shot jailbreaking ", weil es genau so simpel ist: Man muss dem Chatbot nur viele Fragen stellen und irgendwann antwortet er auch auf jene, die er eigentlich nicht beantworten sollte.
Laut des Papers, das KI-Anbieter Anthropic veröffentlicht hat, besteht das Problem vor allem seit der Vergrößerung des Kontextfensters der Sprachmodelle. Zunächst konnten LLMs nur wenige Sätze bis Absätze an Inhalten verarbeiten, inzwischen sind es sehr große Mengen an Text und Informationen. Gemini und Claude können etwa in den größten Versionen der Modelle jeweils Token sind Wörter oder Teile von Wörtern, das heißt, bei einem Kontextfenster von einer Million können die LLMs bereits ganze Bücher erfassen
Sicherheitsforscher Anthropic Sprachmodelle Chatbots Many-Shot Jailbreaking Kontextfenster Gemini Claude
Deutschland Neuesten Nachrichten, Deutschland Schlagzeilen
Wir haben diese Nachrichten zusammengefasst, damit Sie sie schnell lesen können. Wenn Sie sich für die Nachrichten interessieren, können Sie den vollständigen Text hier lesen. Weiterlesen:
Similar News:Sie können auch ähnliche Nachrichten wie diese lesen, die wir aus anderen Nachrichtenquellen gesammelt haben.
Sicherheitsforscher zeigen, wie sich ein Tesla stehlen lässtWarum haben E-Autos nur einen Gang? Die Handschaltung gehört für viele einfach zum Fahren dazu. Jedoch gibt es bei Elektroautos nur einen Gang und keine Schaltung wie bei einem Verbrenner. Doch woran liegt das? Jason Fenske von Engineering Explaines erklärt in einem YouTube-Video, warum dies bei E-Autos der Fall ist.
Herkunft: tzmuenchen - 🏆 41. / 63 Weiterlesen »
Google belohnt Sicherheitsforscher mit 10 Millionen US-DollarGoogle hat im Jahr 2023 insgesamt zehn Millionen US-Dollar an 632 Personen aus 68 Ländern ausgezahlt, die Sicherheitslücken korrekt gemeldet haben. Dies ist der zweithöchste Wert in der Geschichte des 'Vulnerability Reward Program' (VRP).
Herkunft: heise_de - 🏆 20. / 68 Weiterlesen »
Sicherheitsforscher genervt: Lücken-Datenbank NVD seit Wochen unvollständigDie von der US-Regierung betriebene Datenbank reichert im CVE-System gemeldete Sicherheitslücken mit wichtigen Metadaten an. Das blieb seit Februar aus.
Herkunft: heise_de - 🏆 20. / 68 Weiterlesen »
Sicherheitsforscher zeigen, wie sich ein Tesla stehlen lässtWarum haben E-Autos nur einen Gang? Die Handschaltung gehört für viele einfach zum Fahren dazu. Jedoch gibt es bei Elektroautos nur einen Gang und keine Schaltung wie bei einem Verbrenner. Doch woran liegt das? Jason Fenske von Engineering Explaines erklärt in einem YouTube-Video, warum dies bei E-Autos der Fall ist.
Herkunft: merkur_de - 🏆 32. / 63 Weiterlesen »
Sicherheitsforscher zeigen, wie sich ein Tesla stehlen lässtWarum haben E-Autos nur einen Gang? Die Handschaltung gehört für viele einfach zum Fahren dazu. Jedoch gibt es bei Elektroautos nur einen Gang und keine Schaltung wie bei einem Verbrenner. Doch woran liegt das? Jason Fenske von Engineering Explaines erklärt in einem YouTube-Video, warum dies bei E-Autos der Fall ist.
Herkunft: merkur_de - 🏆 32. / 63 Weiterlesen »
Sicherheitsforscher zeigen, wie sich ein Tesla stehlen lässtWarum haben E-Autos nur einen Gang? Die Handschaltung gehört für viele einfach zum Fahren dazu. Jedoch gibt es bei Elektroautos nur einen Gang und keine Schaltung wie bei einem Verbrenner. Doch woran liegt das? Jason Fenske von Engineering Explaines erklärt in einem YouTube-Video, warum dies bei E-Autos der Fall ist.
Herkunft: merkur_de - 🏆 32. / 63 Weiterlesen »