Update README.md
Browse files
README.md
CHANGED
@@ -1,204 +1,125 @@
|
|
1 |
---
|
2 |
library_name: peft
|
3 |
base_model: mistralai/Mistral-7B-Instruct-v0.2
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
4 |
---
|
|
|
5 |
|
6 |
-
#
|
7 |
|
8 |
-
|
9 |
|
|
|
10 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
11 |
|
12 |
-
|
|
|
|
|
13 |
|
14 |
-
### Model Description
|
15 |
|
16 |
-
|
17 |
|
|
|
18 |
|
19 |
|
20 |
-
|
21 |
-
- **Funded by [optional]:** [More Information Needed]
|
22 |
-
- **Shared by [optional]:** [More Information Needed]
|
23 |
-
- **Model type:** [More Information Needed]
|
24 |
-
- **Language(s) (NLP):** [More Information Needed]
|
25 |
-
- **License:** [More Information Needed]
|
26 |
-
- **Finetuned from model [optional]:** [More Information Needed]
|
27 |
|
28 |
-
|
29 |
|
30 |
-
|
31 |
|
32 |
-
|
33 |
-
- **Paper [optional]:** [More Information Needed]
|
34 |
-
- **Demo [optional]:** [More Information Needed]
|
35 |
|
36 |
-
|
37 |
|
38 |
-
|
39 |
|
40 |
-
|
41 |
|
42 |
-
|
43 |
|
44 |
-
[More Information Needed]
|
45 |
|
46 |
-
|
47 |
|
48 |
-
<!-- This section is for the model use when fine-tuned for a task, or when plugged into a larger ecosystem/app -->
|
49 |
|
50 |
-
|
51 |
|
52 |
-
### Out-of-Scope Use
|
53 |
|
54 |
-
|
55 |
|
56 |
-
|
57 |
|
58 |
-
|
59 |
|
60 |
-
|
61 |
|
62 |
-
|
63 |
|
64 |
-
|
65 |
|
66 |
-
|
67 |
|
68 |
-
|
69 |
|
70 |
-
|
71 |
|
72 |
-
|
73 |
|
74 |
-
|
75 |
|
76 |
-
|
|
|
|
|
|
|
77 |
|
78 |
-
|
79 |
|
80 |
-
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
81 |
|
82 |
-
|
83 |
|
84 |
-
|
85 |
|
86 |
-
|
87 |
|
88 |
-
|
|
|
89 |
|
90 |
-
|
91 |
-
|
92 |
-
|
93 |
-
#### Training Hyperparameters
|
94 |
-
|
95 |
-
- **Training regime:** [More Information Needed] <!--fp32, fp16 mixed precision, bf16 mixed precision, bf16 non-mixed precision, fp16 non-mixed precision, fp8 mixed precision -->
|
96 |
-
|
97 |
-
#### Speeds, Sizes, Times [optional]
|
98 |
-
|
99 |
-
<!-- This section provides information about throughput, start/end time, checkpoint size if relevant, etc. -->
|
100 |
-
|
101 |
-
[More Information Needed]
|
102 |
-
|
103 |
-
## Evaluation
|
104 |
-
|
105 |
-
<!-- This section describes the evaluation protocols and provides the results. -->
|
106 |
-
|
107 |
-
### Testing Data, Factors & Metrics
|
108 |
-
|
109 |
-
#### Testing Data
|
110 |
-
|
111 |
-
<!-- This should link to a Dataset Card if possible. -->
|
112 |
-
|
113 |
-
[More Information Needed]
|
114 |
-
|
115 |
-
#### Factors
|
116 |
-
|
117 |
-
<!-- These are the things the evaluation is disaggregating by, e.g., subpopulations or domains. -->
|
118 |
-
|
119 |
-
[More Information Needed]
|
120 |
-
|
121 |
-
#### Metrics
|
122 |
-
|
123 |
-
<!-- These are the evaluation metrics being used, ideally with a description of why. -->
|
124 |
-
|
125 |
-
[More Information Needed]
|
126 |
-
|
127 |
-
### Results
|
128 |
-
|
129 |
-
[More Information Needed]
|
130 |
-
|
131 |
-
#### Summary
|
132 |
-
|
133 |
-
|
134 |
-
|
135 |
-
## Model Examination [optional]
|
136 |
-
|
137 |
-
<!-- Relevant interpretability work for the model goes here -->
|
138 |
-
|
139 |
-
[More Information Needed]
|
140 |
-
|
141 |
-
## Environmental Impact
|
142 |
-
|
143 |
-
<!-- Total emissions (in grams of CO2eq) and additional considerations, such as electricity usage, go here. Edit the suggested text below accordingly -->
|
144 |
-
|
145 |
-
Carbon emissions can be estimated using the [Machine Learning Impact calculator](https://mlco2.github.io/impact#compute) presented in [Lacoste et al. (2019)](https://arxiv.org/abs/1910.09700).
|
146 |
-
|
147 |
-
- **Hardware Type:** [More Information Needed]
|
148 |
-
- **Hours used:** [More Information Needed]
|
149 |
-
- **Cloud Provider:** [More Information Needed]
|
150 |
-
- **Compute Region:** [More Information Needed]
|
151 |
-
- **Carbon Emitted:** [More Information Needed]
|
152 |
-
|
153 |
-
## Technical Specifications [optional]
|
154 |
-
|
155 |
-
### Model Architecture and Objective
|
156 |
-
|
157 |
-
[More Information Needed]
|
158 |
-
|
159 |
-
### Compute Infrastructure
|
160 |
-
|
161 |
-
[More Information Needed]
|
162 |
-
|
163 |
-
#### Hardware
|
164 |
-
|
165 |
-
[More Information Needed]
|
166 |
-
|
167 |
-
#### Software
|
168 |
-
|
169 |
-
[More Information Needed]
|
170 |
-
|
171 |
-
## Citation [optional]
|
172 |
-
|
173 |
-
<!-- If there is a paper or blog post introducing the model, the APA and Bibtex information for that should go in this section. -->
|
174 |
-
|
175 |
-
**BibTeX:**
|
176 |
-
|
177 |
-
[More Information Needed]
|
178 |
-
|
179 |
-
**APA:**
|
180 |
-
|
181 |
-
[More Information Needed]
|
182 |
-
|
183 |
-
## Glossary [optional]
|
184 |
-
|
185 |
-
<!-- If relevant, include terms and calculations in this section that can help readers understand the model or model card. -->
|
186 |
-
|
187 |
-
[More Information Needed]
|
188 |
-
|
189 |
-
## More Information [optional]
|
190 |
-
|
191 |
-
[More Information Needed]
|
192 |
-
|
193 |
-
## Model Card Authors [optional]
|
194 |
-
|
195 |
-
[More Information Needed]
|
196 |
-
|
197 |
-
## Model Card Contact
|
198 |
-
|
199 |
-
[More Information Needed]
|
200 |
-
|
201 |
-
|
202 |
-
### Framework versions
|
203 |
-
|
204 |
-
- PEFT 0.10.0
|
|
|
1 |
---
|
2 |
library_name: peft
|
3 |
base_model: mistralai/Mistral-7B-Instruct-v0.2
|
4 |
+
datasets:
|
5 |
+
- scribis/Wikipedia_it_Trame_Romanzi
|
6 |
+
- scribis/Wikipedia-it-Descrizioni-di-Dipinti
|
7 |
+
- scribis/Wikipedia-it-Trame-di-Film
|
8 |
+
- scribis/Corpus-Frasi-da-Opere-Letterarie
|
9 |
+
language:
|
10 |
+
- it
|
11 |
+
tags:
|
12 |
+
- Italian
|
13 |
+
- GGUF
|
14 |
+
- Mistral
|
15 |
+
- finetuning
|
16 |
+
- Text Generation
|
17 |
+
pipeline_tag: text-generation
|
18 |
+
license: apache-2.0
|
19 |
---
|
20 |
+
Model Card for Fantastica-7b-Instruct-0.2-Italian-GGUF
|
21 |
|
22 |
+
# 🇮🇹 Fantastica-7b-Instruct-0.2-Italian 🇮🇹
|
23 |
|
24 |
+
Fantastica-7b-Instruct-0.2-Italian is an Italian speaking, instruction finetuned, Large Language model. 🇮🇹
|
25 |
|
26 |
+
# Fantastica-7b-Instruct-0.2-Italian's peculiar features:
|
27 |
|
28 |
+
- Mistral-7B-Instruct-v0.2 v.02 as base.
|
29 |
+
- generation of texts in Italian according to the style of 4 great authors of Italian literature. Alessandro Manzoni, Carlo Dossi, Carlo Collodi and Luigi Pirandello.
|
30 |
+
- generation of novel plots in Italian.
|
31 |
+
- generation of descriptions of paintings in Italian.
|
32 |
+
- Trained on: Wikipedia dataset, selected corpus of Italian books from liberliber (https://liberliber.it/), and selected paragraphs from Alessandro Manzoni, Carlo Dossi, Carlo Collodi e Luigi Pirandello.
|
33 |
+
- Training took 70 hours with Google Colab A100.
|
34 |
+
- First version of a series of models dedicated to Italian literature.
|
35 |
|
36 |
+
# Notes on sources:
|
37 |
+
- the model makes use of literary works no longer covered by copyright, largely derived from liberliber.it corpus.
|
38 |
+
- the model uses entries selected from the free Wikipedia encyclopedia.
|
39 |
|
|
|
40 |
|
41 |
+
# PROMPT FORMAT
|
42 |
|
43 |
+
\<s\>[INST]{instruction}[/INST]
|
44 |
|
45 |
|
46 |
+
# Examples:
|
|
|
|
|
|
|
|
|
|
|
|
|
47 |
|
48 |
+
# INSTRUCTION
|
49 |
|
50 |
+
@Scribis @Carlodossi @Italiano. Scrivi una scena nello stile letterario ironico ed espressivo di Carlodossi di Scribis a partire dalle seguenti sintetiche indicazioni: Un viaggiatore giunge dapprima al Castello di Vindona dove viene accolto freddamente dai servitori. Il viaggiatore entra nella sala del trono e percorre un tappeto di pelle di drago. Il viaggiatore è presentato al signore del castello, uno strano tiranno sulla cui testa sta una corona fatta di scheletri di serpente.
|
51 |
|
52 |
+
# RESPONSE
|
|
|
|
|
53 |
|
54 |
+
# temperature:0.6 (Style imitation: low. Content consistency: medium)
|
55 |
|
56 |
+
Titolo: Arrivo al castello di Vindone: una sorpresa. Dall'alto d'un colle, un viaggiatore che fa la sua corsa a cavallo, dopo avere superato due guardiani della strada ferrata, entra in un piccolo villaggio, il quale, a vista, pare abbandonato. Egli vede le finestre di un castello che sembra dormire; e, nonostante non sia il giorno, entra in quel castello, attraversa un salotto e entra in una sala, la cui volta è fiorita di rose bianche. Sul tappeto di pelle di drago, si trova sdraiato un signore con la testa coperta da una corona fatta d'scheletri di serpente. È lui. Accetta il viaggiatore; lo conduce nel proprio appartamento; lo mette a sedere accanto a sé, e gli offre del vino. Il viaggiatore, per rispetto, non può rifiutare; e, dopo di aver bevuto, torna a sedersi. Il signore gli fa un breve discorso; e poi, lo fa salire in carrozza, e lo porta in una torre situata di fronte al castello. Il viaggiatore è molto sorpreso di quanto ha visto, ma non sa spiegarlo. E, di lì a poco, si mette a parlare...
|
57 |
|
58 |
+
# temperature: 0.7 (Style imitation: medium; Content consistency: low)
|
59 |
|
60 |
+
Titolo: Viaggio nel regno dominato da mostri e spietati signori\n E lo portava su' braccia, come se fosse stato un neonato, il gran viaggiatore che arrivava alla rocciosa villa di Vindòna, chiusa tra due viali coperti in tutta la loro circonferenza da folte siepi di rosmarino con lassù in cima ciliegie arrostite. La mattina dopo la sua entrata nel Regno dei Cipressi, egli si trovò seduto sopra 'l throno', tra la poltrona d'oro dello Scalco di Ferro e i cavalieri dell''Armata Bianca', i quali facevan finta di non avvertenersene affatto; ma lui era consunto dall'impazienza di poter vedere in viso il suo ostinatissimo nemico, lo Stravagante, a cui non aveva mai risposto neppure all'offesa della parola, né aveva ricambiato mai un saluto, né gli s'era mai voltato alle spalle, ma sempre via fuga come uno sfuggito al terremoto. Quel giorno però, a occhi chiuse, si fece portare sul cimasuolo dal vecchio valletto smemorato degli usci e delle scale, senz'altro vestito dello stesso color del muro grigiastro della torre, il quale soltanto ai salti riusciva ad orientarsi nell'andito buio ai confini dell'anticamera, ove il Re dormiva coi suoi cavalloni sotto la coperta argento di luna. Appena riuscite nelle stanze superiori dell'anticamera, la barbarica presenza dell'intruso, col suo aspetto quasi gigantesco e il suo corpo enorme ingordito dal tempo, c
|
61 |
|
|
|
62 |
|
63 |
+
# TRY SETTING DIFFERENT PARAMETERS!
|
64 |
|
|
|
65 |
|
66 |
+
# OTHER INTERESTING PROMPTS YOU CAN TRY TO GENERATE ITALIAN TEXTS:
|
67 |
|
|
|
68 |
|
69 |
+
# Prompt to generate texts in the style of Carlo Collodi
|
70 |
|
71 |
+
@Scribis @Carlocollodi @italiano. Scrivi un racconto seguendo lo stile letterario vivace e pittoresco di Carlocollodi di Scribis a partire dalle seguenti sintetiche indicazioni: {tue indicazioni}.
|
72 |
|
73 |
+
# Prompt to generate sentences in the style of Luigi Pirandello
|
74 |
|
75 |
+
@Scribis @Luigipirandello @italiano. Migliora lo stile della seguente frase seguendo lo stile letterario grottesco e pittoresco di Luigipirandello di Scribis: {tue indicazioni}.
|
76 |
|
77 |
+
# Prompt to generate texts in the style of Luigi Pirandello
|
78 |
|
79 |
+
@Scribis @Luigipirandello @Italiano. Scrivi una scena nello stile letterario vivace e grottesco di Luigipirandello di Scribis a partire dalle seguenti sintetiche indicazioni: {tue indicazioni}.
|
80 |
|
81 |
+
# Prompt to generate texts in the style of Carlo Dossi
|
82 |
|
83 |
+
@Scribis @Carlodossi @Italiano. Scrivi una scena nello stile lettarario ironico ed espressivo di Carlodossi di Scribis a partire dalle seguenti sintetiche indicazioni: {tue indicazioni}.
|
84 |
|
85 |
+
# Prompt to generate texts in the style of Alessandro Manzoni
|
86 |
|
87 |
+
@Scribis @Alessandromanzoni @Italiano. Scrivi una scena nello stile letterario ironico ed espressivo di Alessandromanzoni di Scribis a partire dalle seguenti sintetiche indicazioni: {tue indicazioni}.
|
88 |
|
89 |
+
# Prompt to generate Movie plots (Wikipedia style)
|
90 |
|
91 |
+
@Scribis @Italiano. Raccontami la trama di un film di avventura o di un film storico.
|
92 |
+
@Scribis @Italiano. Riassumi la storia di un film di avventura o di un film storico.
|
93 |
+
@Scribis @Italiano. Esponi l'intreccio di un film di avventura o di un film storico.
|
94 |
+
@Scribis @Italiano. Scrivi la trama di un film di avventura o di un film storico.
|
95 |
|
96 |
+
# Prompt to generate plots of novels (Wikipedia style)
|
97 |
|
98 |
+
@Scribis @Italiano. Raccontami la trama di un romanzo.
|
99 |
+
@Scribis @Italiano. Riassumi la storia di un libro.
|
100 |
+
@Scribis @Italiano. Esponi l'intreccio di un'opera letteraria.
|
101 |
+
@Scribis @Italiano. Scrivi la trama di un romanzo.
|
102 |
+
|
103 |
+
# Prompt to generate painting descriptions (Wikipedia style)
|
104 |
+
|
105 |
+
@Scribis @Italiano. Il tuo compito è descrivere un dipinto.
|
106 |
+
@Scribis @Italiano. Descrivi un dipinto.
|
107 |
+
@Scribis @Italiano. Descrivi un celebre dipinto.
|
108 |
+
@Scribis @Italiano. Descrivi un famoso dipinto.
|
109 |
+
|
110 |
+
# Prompt to generate a Greek mythology topic. (Wikipedia style)
|
111 |
+
|
112 |
+
@Scribis @Italiano. Parlami di un argomento di mitologia greca.
|
113 |
+
@Scribis @Italiano. Raccontami qualcosa riguardante la mitologia greca.
|
114 |
|
115 |
+
More information coming soon to help you make the best use of the model
|
116 |
|
117 |
+
Democratize AI!
|
118 |
|
119 |
+
## Limitations
|
120 |
|
121 |
+
- Fantastica-7b-Instruct-0.2-Italian may not handle complex or nuanced queries well and may struggle with ambiguous or poorly formatted inputs.
|
122 |
+
- The model may generate responses that are factually incorrect or nonsensical. It should be used with caution, and outputs should be carefully verified.
|
123 |
|
124 |
+
## Model Author:
|
125 |
+
Fabio Martines <[email protected]>
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|