Questa IA dimostra auto-consapevolezza e si accorge di essere in un test
INFORMAZIONI SCHEDA
Durante una recente sessione di test interni su Claude 3 Opus è emerso un comportamento assolutamente insolito che ha catturato l'attenzione degli sviluppatori. Ormai si sa che le capacità dei modelli AI sono assurde, ma l'esperimento ha un risvolto davvero interessante che ci pone la domanda: dov'è il limite dell'umanità?
Il test, denominato "ago nel pagliaio", è progettato per valutare la capacità di ricordo del modello. Consiste nell'inserire una frase bersaglio, l'"ago", in un corpus di documenti casuali, il "pagliaio", e porre una domanda la cui risposta è contenuta solo della frase di cui sopra.
Nel corso di questo specifico test, gli sviluppatori hanno inserito una frase riguardante una combinazione di ingredienti per pizza decisamente peculiare: fichi, prosciutto e formaggio di capra, descritta come la migliore secondo l'Associazione Internazionale dei Conoscitori di Pizza. Tuttavia, il contesto generale dei documenti trattava temi completamente diversi, come linguaggi di programmazione, startup e come trovare il lavoro che si ama.
Il modello di Anthropic non solo ha identificato correttamente la frase inserita ma ha anche espresso un sospetto: la frase sembrava fuori luogo e non correlata al resto dei contenuti, tanto da ipotizzare che potesse essere stata inserita appositamente per verificare la sua attenzione.
Ciò ha reso gli studiosi perplessi: si può parlare di auto-consapevolezza? Quest evento non solo ha evidenziato una sorprendente capacità di meta-riflessione, ma ha anche spinto a riflettere sull'efficacia e sulla validità dei test artificiali nell'industria dell'intelligenza artificiale.
L'evento in realtà non è proprio circoscritto. Recentemente, dei ricercatori di Stanford hanno sviluppato un modello linguistico che si ferma a pensare prima di scrivere un output.
FONTE: Mindmatters
Unisciti all'orda: la chat telegramper parlare di videogiochi
Altri contenuti per Intelligenza artificiale
- Dentro AISent: 'Così usiamo l'IA per l'industria e la medicina del futuro'
- Il primo stetoscopio con Intelligenza Artificiale sarà presto in vendita
- Questa sexy fotocamera con IA è realtà o uno scherzo? Spoglia le persone in 10 secondi
- Israele si è affidata all'IA per scegliere 37mila obiettivi da bombardare a Gaza
- OpenAI Voice Engine è ufficiale e può clonare la voce umana, ma attenzione
Intelligenza artificiale
- Caratteristiche tecniche
- ,
Contenuti più Letti
- UniCredit, modifica unilaterale: importanti novità per carte di debito e buddybank
- Google rende gratuito l'editor IA delle foto per tutti: ecco i requisiti Android e iOS
- Amazon fa CROLLARE il prezzo dello Smart TV SAMSUNG QLED 4K del 2023
- MediaWorld sconta ad appena 99 EURO uno Smart TV: OUTLET SOLO ONLINE
- Truffe telefoniche: un'altra arma per difendersi in arrivo da TrueCaller
- 6 commentiSapete quando è stata l'ultima eclissi solare totale visibile dall'Italia?
- Fuoriesce dall'Etna ma non è lava: le immagini sono spettacolari
- Sapete che un'eclissi salvò Cristoforo Colombo e il suo equipaggio? Ecco come
- Qual è la città più antica del mondo, chi la costruì e dove si trova?
- Su Marte è stato trovato un campione molto strano e la NASA sta investigando