scribis commited on
Commit
13db46a
·
verified ·
1 Parent(s): 829925d

Update README.md

Browse files
Files changed (1) hide show
  1. README.md +80 -159
README.md CHANGED
@@ -1,204 +1,125 @@
1
  ---
2
  library_name: peft
3
  base_model: mistralai/Mistral-7B-Instruct-v0.2
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
4
  ---
 
5
 
6
- # Model Card for Model ID
7
 
8
- <!-- Provide a quick summary of what the model is/does. -->
9
 
 
10
 
 
 
 
 
 
 
 
11
 
12
- ## Model Details
 
 
13
 
14
- ### Model Description
15
 
16
- <!-- Provide a longer summary of what this model is. -->
17
 
 
18
 
19
 
20
- - **Developed by:** [More Information Needed]
21
- - **Funded by [optional]:** [More Information Needed]
22
- - **Shared by [optional]:** [More Information Needed]
23
- - **Model type:** [More Information Needed]
24
- - **Language(s) (NLP):** [More Information Needed]
25
- - **License:** [More Information Needed]
26
- - **Finetuned from model [optional]:** [More Information Needed]
27
 
28
- ### Model Sources [optional]
29
 
30
- <!-- Provide the basic links for the model. -->
31
 
32
- - **Repository:** [More Information Needed]
33
- - **Paper [optional]:** [More Information Needed]
34
- - **Demo [optional]:** [More Information Needed]
35
 
36
- ## Uses
37
 
38
- <!-- Address questions around how the model is intended to be used, including the foreseeable users of the model and those affected by the model. -->
39
 
40
- ### Direct Use
41
 
42
- <!-- This section is for the model use without fine-tuning or plugging into a larger ecosystem/app. -->
43
 
44
- [More Information Needed]
45
 
46
- ### Downstream Use [optional]
47
 
48
- <!-- This section is for the model use when fine-tuned for a task, or when plugged into a larger ecosystem/app -->
49
 
50
- [More Information Needed]
51
 
52
- ### Out-of-Scope Use
53
 
54
- <!-- This section addresses misuse, malicious use, and uses that the model will not work well for. -->
55
 
56
- [More Information Needed]
57
 
58
- ## Bias, Risks, and Limitations
59
 
60
- <!-- This section is meant to convey both technical and sociotechnical limitations. -->
61
 
62
- [More Information Needed]
63
 
64
- ### Recommendations
65
 
66
- <!-- This section is meant to convey recommendations with respect to the bias, risk, and technical limitations. -->
67
 
68
- Users (both direct and downstream) should be made aware of the risks, biases and limitations of the model. More information needed for further recommendations.
69
 
70
- ## How to Get Started with the Model
71
 
72
- Use the code below to get started with the model.
73
 
74
- [More Information Needed]
75
 
76
- ## Training Details
 
 
 
77
 
78
- ### Training Data
79
 
80
- <!-- This should link to a Dataset Card, perhaps with a short stub of information on what the training data is all about as well as documentation related to data pre-processing or additional filtering. -->
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
81
 
82
- [More Information Needed]
83
 
84
- ### Training Procedure
85
 
86
- <!-- This relates heavily to the Technical Specifications. Content here should link to that section when it is relevant to the training procedure. -->
87
 
88
- #### Preprocessing [optional]
 
89
 
90
- [More Information Needed]
91
-
92
-
93
- #### Training Hyperparameters
94
-
95
- - **Training regime:** [More Information Needed] <!--fp32, fp16 mixed precision, bf16 mixed precision, bf16 non-mixed precision, fp16 non-mixed precision, fp8 mixed precision -->
96
-
97
- #### Speeds, Sizes, Times [optional]
98
-
99
- <!-- This section provides information about throughput, start/end time, checkpoint size if relevant, etc. -->
100
-
101
- [More Information Needed]
102
-
103
- ## Evaluation
104
-
105
- <!-- This section describes the evaluation protocols and provides the results. -->
106
-
107
- ### Testing Data, Factors & Metrics
108
-
109
- #### Testing Data
110
-
111
- <!-- This should link to a Dataset Card if possible. -->
112
-
113
- [More Information Needed]
114
-
115
- #### Factors
116
-
117
- <!-- These are the things the evaluation is disaggregating by, e.g., subpopulations or domains. -->
118
-
119
- [More Information Needed]
120
-
121
- #### Metrics
122
-
123
- <!-- These are the evaluation metrics being used, ideally with a description of why. -->
124
-
125
- [More Information Needed]
126
-
127
- ### Results
128
-
129
- [More Information Needed]
130
-
131
- #### Summary
132
-
133
-
134
-
135
- ## Model Examination [optional]
136
-
137
- <!-- Relevant interpretability work for the model goes here -->
138
-
139
- [More Information Needed]
140
-
141
- ## Environmental Impact
142
-
143
- <!-- Total emissions (in grams of CO2eq) and additional considerations, such as electricity usage, go here. Edit the suggested text below accordingly -->
144
-
145
- Carbon emissions can be estimated using the [Machine Learning Impact calculator](https://mlco2.github.io/impact#compute) presented in [Lacoste et al. (2019)](https://arxiv.org/abs/1910.09700).
146
-
147
- - **Hardware Type:** [More Information Needed]
148
- - **Hours used:** [More Information Needed]
149
- - **Cloud Provider:** [More Information Needed]
150
- - **Compute Region:** [More Information Needed]
151
- - **Carbon Emitted:** [More Information Needed]
152
-
153
- ## Technical Specifications [optional]
154
-
155
- ### Model Architecture and Objective
156
-
157
- [More Information Needed]
158
-
159
- ### Compute Infrastructure
160
-
161
- [More Information Needed]
162
-
163
- #### Hardware
164
-
165
- [More Information Needed]
166
-
167
- #### Software
168
-
169
- [More Information Needed]
170
-
171
- ## Citation [optional]
172
-
173
- <!-- If there is a paper or blog post introducing the model, the APA and Bibtex information for that should go in this section. -->
174
-
175
- **BibTeX:**
176
-
177
- [More Information Needed]
178
-
179
- **APA:**
180
-
181
- [More Information Needed]
182
-
183
- ## Glossary [optional]
184
-
185
- <!-- If relevant, include terms and calculations in this section that can help readers understand the model or model card. -->
186
-
187
- [More Information Needed]
188
-
189
- ## More Information [optional]
190
-
191
- [More Information Needed]
192
-
193
- ## Model Card Authors [optional]
194
-
195
- [More Information Needed]
196
-
197
- ## Model Card Contact
198
-
199
- [More Information Needed]
200
-
201
-
202
- ### Framework versions
203
-
204
- - PEFT 0.10.0
 
1
  ---
2
  library_name: peft
3
  base_model: mistralai/Mistral-7B-Instruct-v0.2
4
+ datasets:
5
+ - scribis/Wikipedia_it_Trame_Romanzi
6
+ - scribis/Wikipedia-it-Descrizioni-di-Dipinti
7
+ - scribis/Wikipedia-it-Trame-di-Film
8
+ - scribis/Corpus-Frasi-da-Opere-Letterarie
9
+ language:
10
+ - it
11
+ tags:
12
+ - Italian
13
+ - GGUF
14
+ - Mistral
15
+ - finetuning
16
+ - Text Generation
17
+ pipeline_tag: text-generation
18
+ license: apache-2.0
19
  ---
20
+ Model Card for Fantastica-7b-Instruct-0.2-Italian-GGUF
21
 
22
+ # 🇮🇹 Fantastica-7b-Instruct-0.2-Italian 🇮🇹
23
 
24
+ Fantastica-7b-Instruct-0.2-Italian is an Italian speaking, instruction finetuned, Large Language model. 🇮🇹
25
 
26
+ # Fantastica-7b-Instruct-0.2-Italian's peculiar features:
27
 
28
+ - Mistral-7B-Instruct-v0.2 v.02 as base.
29
+ - generation of texts in Italian according to the style of 4 great authors of Italian literature. Alessandro Manzoni, Carlo Dossi, Carlo Collodi and Luigi Pirandello.
30
+ - generation of novel plots in Italian.
31
+ - generation of descriptions of paintings in Italian.
32
+ - Trained on: Wikipedia dataset, selected corpus of Italian books from liberliber (https://liberliber.it/), and selected paragraphs from Alessandro Manzoni, Carlo Dossi, Carlo Collodi e Luigi Pirandello.
33
+ - Training took 70 hours with Google Colab A100.
34
+ - First version of a series of models dedicated to Italian literature.
35
 
36
+ # Notes on sources:
37
+ - the model makes use of literary works no longer covered by copyright, largely derived from liberliber.it corpus.
38
+ - the model uses entries selected from the free Wikipedia encyclopedia.
39
 
 
40
 
41
+ # PROMPT FORMAT
42
 
43
+ \<s\>[INST]{instruction}[/INST]
44
 
45
 
46
+ # Examples:
 
 
 
 
 
 
47
 
48
+ # INSTRUCTION
49
 
50
+ @Scribis @Carlodossi @Italiano. Scrivi una scena nello stile letterario ironico ed espressivo di Carlodossi di Scribis a partire dalle seguenti sintetiche indicazioni: Un viaggiatore giunge dapprima al Castello di Vindona dove viene accolto freddamente dai servitori. Il viaggiatore entra nella sala del trono e percorre un tappeto di pelle di drago. Il viaggiatore è presentato al signore del castello, uno strano tiranno sulla cui testa sta una corona fatta di scheletri di serpente.
51
 
52
+ # RESPONSE
 
 
53
 
54
+ # temperature:0.6 (Style imitation: low. Content consistency: medium)
55
 
56
+ Titolo: Arrivo al castello di Vindone: una sorpresa. Dall'alto d'un colle, un viaggiatore che fa la sua corsa a cavallo, dopo avere superato due guardiani della strada ferrata, entra in un piccolo villaggio, il quale, a vista, pare abbandonato. Egli vede le finestre di un castello che sembra dormire; e, nonostante non sia il giorno, entra in quel castello, attraversa un salotto e entra in una sala, la cui volta è fiorita di rose bianche. Sul tappeto di pelle di drago, si trova sdraiato un signore con la testa coperta da una corona fatta d'scheletri di serpente. È lui. Accetta il viaggiatore; lo conduce nel proprio appartamento; lo mette a sedere accanto a sé, e gli offre del vino. Il viaggiatore, per rispetto, non può rifiutare; e, dopo di aver bevuto, torna a sedersi. Il signore gli fa un breve discorso; e poi, lo fa salire in carrozza, e lo porta in una torre situata di fronte al castello. Il viaggiatore è molto sorpreso di quanto ha visto, ma non sa spiegarlo. E, di lì a poco, si mette a parlare...
57
 
58
+ # temperature: 0.7 (Style imitation: medium; Content consistency: low)
59
 
60
+ Titolo: Viaggio nel regno dominato da mostri e spietati signori\n E lo portava su' braccia, come se fosse stato un neonato, il gran viaggiatore che arrivava alla rocciosa villa di Vindòna, chiusa tra due viali coperti in tutta la loro circonferenza da folte siepi di rosmarino con lassù in cima ciliegie arrostite. La mattina dopo la sua entrata nel Regno dei Cipressi, egli si trovò seduto sopra 'l throno', tra la poltrona d'oro dello Scalco di Ferro e i cavalieri dell''Armata Bianca', i quali facevan finta di non avvertenersene affatto; ma lui era consunto dall'impazienza di poter vedere in viso il suo ostinatissimo nemico, lo Stravagante, a cui non aveva mai risposto neppure all'offesa della parola, né aveva ricambiato mai un saluto, né gli s'era mai voltato alle spalle, ma sempre via fuga come uno sfuggito al terremoto. Quel giorno però, a occhi chiuse, si fece portare sul cimasuolo dal vecchio valletto smemorato degli usci e delle scale, senz'altro vestito dello stesso color del muro grigiastro della torre, il quale soltanto ai salti riusciva ad orientarsi nell'andito buio ai confini dell'anticamera, ove il Re dormiva coi suoi cavalloni sotto la coperta argento di luna. Appena riuscite nelle stanze superiori dell'anticamera, la barbarica presenza dell'intruso, col suo aspetto quasi gigantesco e il suo corpo enorme ingordito dal tempo, c
61
 
 
62
 
63
+ # TRY SETTING DIFFERENT PARAMETERS!
64
 
 
65
 
66
+ # OTHER INTERESTING PROMPTS YOU CAN TRY TO GENERATE ITALIAN TEXTS:
67
 
 
68
 
69
+ # Prompt to generate texts in the style of Carlo Collodi
70
 
71
+ @Scribis @Carlocollodi @italiano. Scrivi un racconto seguendo lo stile letterario vivace e pittoresco di Carlocollodi di Scribis a partire dalle seguenti sintetiche indicazioni: {tue indicazioni}.
72
 
73
+ # Prompt to generate sentences in the style of Luigi Pirandello
74
 
75
+ @Scribis @Luigipirandello @italiano. Migliora lo stile della seguente frase seguendo lo stile letterario grottesco e pittoresco di Luigipirandello di Scribis: {tue indicazioni}.
76
 
77
+ # Prompt to generate texts in the style of Luigi Pirandello
78
 
79
+ @Scribis @Luigipirandello @Italiano. Scrivi una scena nello stile letterario vivace e grottesco di Luigipirandello di Scribis a partire dalle seguenti sintetiche indicazioni: {tue indicazioni}.
80
 
81
+ # Prompt to generate texts in the style of Carlo Dossi
82
 
83
+ @Scribis @Carlodossi @Italiano. Scrivi una scena nello stile lettarario ironico ed espressivo di Carlodossi di Scribis a partire dalle seguenti sintetiche indicazioni: {tue indicazioni}.
84
 
85
+ # Prompt to generate texts in the style of Alessandro Manzoni
86
 
87
+ @Scribis @Alessandromanzoni @Italiano. Scrivi una scena nello stile letterario ironico ed espressivo di Alessandromanzoni di Scribis a partire dalle seguenti sintetiche indicazioni: {tue indicazioni}.
88
 
89
+ # Prompt to generate Movie plots (Wikipedia style)
90
 
91
+ @Scribis @Italiano. Raccontami la trama di un film di avventura o di un film storico.
92
+ @Scribis @Italiano. Riassumi la storia di un film di avventura o di un film storico.
93
+ @Scribis @Italiano. Esponi l'intreccio di un film di avventura o di un film storico.
94
+ @Scribis @Italiano. Scrivi la trama di un film di avventura o di un film storico.
95
 
96
+ # Prompt to generate plots of novels (Wikipedia style)
97
 
98
+ @Scribis @Italiano. Raccontami la trama di un romanzo.
99
+ @Scribis @Italiano. Riassumi la storia di un libro.
100
+ @Scribis @Italiano. Esponi l'intreccio di un'opera letteraria.
101
+ @Scribis @Italiano. Scrivi la trama di un romanzo.
102
+
103
+ # Prompt to generate painting descriptions (Wikipedia style)
104
+
105
+ @Scribis @Italiano. Il tuo compito è descrivere un dipinto.
106
+ @Scribis @Italiano. Descrivi un dipinto.
107
+ @Scribis @Italiano. Descrivi un celebre dipinto.
108
+ @Scribis @Italiano. Descrivi un famoso dipinto.
109
+
110
+ # Prompt to generate a Greek mythology topic. (Wikipedia style)
111
+
112
+ @Scribis @Italiano. Parlami di un argomento di mitologia greca.
113
+ @Scribis @Italiano. Raccontami qualcosa riguardante la mitologia greca.
114
 
115
+ More information coming soon to help you make the best use of the model
116
 
117
+ Democratize AI!
118
 
119
+ ## Limitations
120
 
121
+ - Fantastica-7b-Instruct-0.2-Italian may not handle complex or nuanced queries well and may struggle with ambiguous or poorly formatted inputs.
122
+ - The model may generate responses that are factually incorrect or nonsensical. It should be used with caution, and outputs should be carefully verified.
123
 
124
+ ## Model Author:
125
+ Fabio Martines <[email protected]>