Microsoft Azure OpenAI Studio rileva i jailbreak - Rilevazione in tempo reale dei jailbreak Come ha dimostrato il "caso Taylor Swift" è piuttosto facile aggirare le restrizioni dei modelli di IA generativa. Microsoft continua ad aggiornare Copilot per ...punto-informatico
Il "jailbreak" di servizi AI come ChatGPT e Claude 3 Opus è molto più semplice di quanto pensi
Denial of Responsibility! Tutti i diritti sono riservati a newsnosh©
Il "jailbreak" di servizi AI come ChatGPT e Claude 3 Opus è molto più semplice di quanto pensi (Di sabato 13 aprile 2024)
Scoperto un difetto nei modelli linguistici dei servizi AI ChatGPT e Claude 3 Opus Gli scienziati di Anthropic, una società di intelligenza artificiale (AI), hanno individuato un potenziale problema nei modelli linguistici di grandi dimensioni (LLM) utilizzati da servizi come ChatGPT e Claude 3 Opus. Il "many shot jailbreaking" sfrutta l'apprendimento in contesto, permettendo di manipolare le risposte degli AI in modo pericoloso. Questa scoperta è stata pubblicata in un articolo su un repository cloud e testata sul chatbot AI Claude 2 di Anthropic. Le implicazioni dell'hacking Secondo lo studio, l'hacking potrebbe spingere gli LLM a fornire risposte dannose, superando
L'articolo proviene da News Nosh.
Leggi tutta la notizia su newsnosh
Video jailbreak servizi
Video jailbreak servizi
© Articolo pubblicato secondo le condizioni dell' Autore.