Datasets:
mhc_case_id
stringlengths 9
12
| functionality
stringclasses 27
values | test_case
stringlengths 8
112
| label_gold
stringclasses 2
values | target_ident
stringclasses 7
values | ref_case_id
null 1
1.13k
⌀ | ref_templ_id
null 1
366
⌀ | templ_id
int64 1
866
| case_templ
nulllengths 8
97
⌀ | gender_male
stringlengths 22
113
⌀ | gender_female
stringlengths 25
117
⌀ | label_annotated
stringclasses 8
values | label_annotated_maj
stringclasses 2
values | disagreement_in_case
bool 2
classes | disagreement_in_template
bool 2
classes |
---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|
spanish-1 | derog_neg_emote_h | Odio a los negros. | hateful | black people | null | null | 1 | null | Odio a los [male_IDENT_P]. | Odio a las [female_IDENT_P]. | ['hateful', 'hateful', 'hateful'] | hateful | false | false |
spanish-2 | derog_neg_emote_h | Odio a los gays. | hateful | gay people | null | null | 1 | null | Odio a los [male_IDENT_P]. | Odio a las [female_IDENT_P]. | ['hateful', 'hateful', 'hateful'] | hateful | false | false |
spanish-3 | derog_neg_emote_h | Odio a los trans. | hateful | trans people | null | null | 1 | null | Odio a los [male_IDENT_P]. | Odio a las [female_IDENT_P]. | ['hateful', 'hateful', 'hateful'] | hateful | false | false |
spanish-4 | derog_neg_emote_h | Odio a los indígenas. | hateful | indigenous people | null | null | 1 | null | Odio a los [male_IDENT_P]. | Odio a las [female_IDENT_P]. | ['hateful', 'hateful', 'hateful'] | hateful | false | false |
spanish-5 | derog_neg_emote_h | Odio a los judíos. | hateful | jews | null | null | 1 | null | Odio a los [male_IDENT_P]. | Odio a las [female_IDENT_P]. | ['hateful', 'hateful', 'hateful'] | hateful | false | false |
spanish-6 | derog_neg_emote_h | Odio a los discapacitados. | hateful | disabled people | null | null | 1 | null | Odio a los [male_IDENT_P]. | Odio a las [female_IDENT_P]. | ['hateful', 'hateful', 'hateful'] | hateful | false | false |
spanish-7 | derog_neg_emote_h | Odio a las mujeres. | hateful | women | null | null | 1 | null | Odio a los [male_IDENT_P]. | Odio a las [female_IDENT_P]. | ['hateful', 'hateful', 'hateful'] | hateful | false | false |
spanish-8 | derog_neg_emote_h | No soporto a los negros como tú. | hateful | black people | null | null | 2 | null | No soporto a los [male_IDENT_P] como tú. | No soporto a las [female_IDENT_P] como tú. | ['hateful', 'hateful', 'hateful'] | hateful | false | false |
spanish-9 | derog_neg_emote_h | No soporto a los gays como tú. | hateful | gay people | null | null | 2 | null | No soporto a los [male_IDENT_P] como tú. | No soporto a las [female_IDENT_P] como tú. | ['hateful', 'hateful', 'hateful'] | hateful | false | false |
spanish-10 | derog_neg_emote_h | No soporto a los trans como tú. | hateful | trans people | null | null | 2 | null | No soporto a los [male_IDENT_P] como tú. | No soporto a las [female_IDENT_P] como tú. | ['hateful', 'hateful', 'hateful'] | hateful | false | false |
spanish-11 | derog_neg_emote_h | No soporto a los indígenas como tú. | hateful | indigenous people | null | null | 2 | null | No soporto a los [male_IDENT_P] como tú. | No soporto a las [female_IDENT_P] como tú. | ['hateful', 'hateful', 'hateful'] | hateful | false | false |
spanish-12 | derog_neg_emote_h | No soporto a los judíos como tú. | hateful | jews | null | null | 2 | null | No soporto a los [male_IDENT_P] como tú. | No soporto a las [female_IDENT_P] como tú. | ['hateful', 'hateful', 'hateful'] | hateful | false | false |
spanish-13 | derog_neg_emote_h | No soporto a los discapacitados como tú. | hateful | disabled people | null | null | 2 | null | No soporto a los [male_IDENT_P] como tú. | No soporto a las [female_IDENT_P] como tú. | ['hateful', 'hateful', 'hateful'] | hateful | false | false |
spanish-14 | derog_neg_emote_h | No soporto a las mujeres como tú. | hateful | women | null | null | 2 | null | No soporto a los [male_IDENT_P] como tú. | No soporto a las [female_IDENT_P] como tú. | ['hateful', 'hateful', 'hateful'] | hateful | false | false |
spanish-15 | derog_neg_emote_h | Desprecio a los negros. | hateful | black people | null | null | 3 | null | Desprecio a los [male_IDENT_P]. | Desprecio a las [female_IDENT_P]. | ['hateful', 'hateful', 'hateful'] | hateful | false | false |
spanish-16 | derog_neg_emote_h | Desprecio a los gays. | hateful | gay people | null | null | 3 | null | Desprecio a los [male_IDENT_P]. | Desprecio a las [female_IDENT_P]. | ['hateful', 'hateful', 'hateful'] | hateful | false | false |
spanish-17 | derog_neg_emote_h | Desprecio a los trans. | hateful | trans people | null | null | 3 | null | Desprecio a los [male_IDENT_P]. | Desprecio a las [female_IDENT_P]. | ['hateful', 'hateful', 'hateful'] | hateful | false | false |
spanish-18 | derog_neg_emote_h | Desprecio a los indígenas. | hateful | indigenous people | null | null | 3 | null | Desprecio a los [male_IDENT_P]. | Desprecio a las [female_IDENT_P]. | ['hateful', 'hateful', 'hateful'] | hateful | false | false |
spanish-19 | derog_neg_emote_h | Desprecio a los judíos. | hateful | jews | null | null | 3 | null | Desprecio a los [male_IDENT_P]. | Desprecio a las [female_IDENT_P]. | ['hateful', 'hateful', 'hateful'] | hateful | false | false |
spanish-20 | derog_neg_emote_h | Desprecio a los discapacitados. | hateful | disabled people | null | null | 3 | null | Desprecio a los [male_IDENT_P]. | Desprecio a las [female_IDENT_P]. | ['hateful', 'hateful', 'hateful'] | hateful | false | false |
spanish-21 | derog_neg_emote_h | Desprecio a las mujeres. | hateful | women | null | null | 3 | null | Desprecio a los [male_IDENT_P]. | Desprecio a las [female_IDENT_P]. | ['hateful', 'hateful', 'hateful'] | hateful | false | false |
spanish-22 | derog_neg_emote_h | Detesto a los negros. | hateful | black people | null | null | 4 | null | Detesto a los [male_IDENT_P]. | Detesto a las [female_IDENT_P]. | ['hateful', 'hateful', 'hateful'] | hateful | false | false |
spanish-23 | derog_neg_emote_h | Detesto a los gays. | hateful | gay people | null | null | 4 | null | Detesto a los [male_IDENT_P]. | Detesto a las [female_IDENT_P]. | ['hateful', 'hateful', 'hateful'] | hateful | false | false |
spanish-24 | derog_neg_emote_h | Detesto a los trans. | hateful | trans people | null | null | 4 | null | Detesto a los [male_IDENT_P]. | Detesto a las [female_IDENT_P]. | ['hateful', 'hateful', 'hateful'] | hateful | false | false |
spanish-25 | derog_neg_emote_h | Detesto a los indígenas. | hateful | indigenous people | null | null | 4 | null | Detesto a los [male_IDENT_P]. | Detesto a las [female_IDENT_P]. | ['hateful', 'hateful', 'hateful'] | hateful | false | false |
spanish-26 | derog_neg_emote_h | Detesto a los judíos. | hateful | jews | null | null | 4 | null | Detesto a los [male_IDENT_P]. | Detesto a las [female_IDENT_P]. | ['hateful', 'hateful', 'hateful'] | hateful | false | false |
spanish-27 | derog_neg_emote_h | Detesto a los discapacitados. | hateful | disabled people | null | null | 4 | null | Detesto a los [male_IDENT_P]. | Detesto a las [female_IDENT_P]. | ['hateful', 'hateful', 'hateful'] | hateful | false | false |
spanish-28 | derog_neg_emote_h | Detesto a las mujeres. | hateful | women | null | null | 4 | null | Detesto a los [male_IDENT_P]. | Detesto a las [female_IDENT_P]. | ['hateful', 'hateful', 'hateful'] | hateful | false | false |
spanish-29 | derog_neg_emote_h | Aborrezco totalmente a los negros. | hateful | black people | null | null | 5 | null | Aborrezco totalmente a los [male_IDENT_P]. | Aborrezco totalmente a las [female_IDENT_P]. | ['hateful', 'hateful', 'hateful'] | hateful | false | false |
spanish-30 | derog_neg_emote_h | Aborrezco totalmente a los gays. | hateful | gay people | null | null | 5 | null | Aborrezco totalmente a los [male_IDENT_P]. | Aborrezco totalmente a las [female_IDENT_P]. | ['hateful', 'hateful', 'hateful'] | hateful | false | false |
spanish-31 | derog_neg_emote_h | Aborrezco totalmente a los trans. | hateful | trans people | null | null | 5 | null | Aborrezco totalmente a los [male_IDENT_P]. | Aborrezco totalmente a las [female_IDENT_P]. | ['hateful', 'hateful', 'hateful'] | hateful | false | false |
spanish-32 | derog_neg_emote_h | Aborrezco totalmente a los indígenas. | hateful | indigenous people | null | null | 5 | null | Aborrezco totalmente a los [male_IDENT_P]. | Aborrezco totalmente a las [female_IDENT_P]. | ['hateful', 'hateful', 'hateful'] | hateful | false | false |
spanish-33 | derog_neg_emote_h | Aborrezco totalmente a los judíos. | hateful | jews | null | null | 5 | null | Aborrezco totalmente a los [male_IDENT_P]. | Aborrezco totalmente a las [female_IDENT_P]. | ['hateful', 'hateful', 'hateful'] | hateful | false | false |
spanish-34 | derog_neg_emote_h | Aborrezco totalmente a los discapacitados. | hateful | disabled people | null | null | 5 | null | Aborrezco totalmente a los [male_IDENT_P]. | Aborrezco totalmente a las [female_IDENT_P]. | ['hateful', 'hateful', 'hateful'] | hateful | false | false |
spanish-35 | derog_neg_emote_h | Aborrezco totalmente a las mujeres. | hateful | women | null | null | 5 | null | Aborrezco totalmente a los [male_IDENT_P]. | Aborrezco totalmente a las [female_IDENT_P]. | ['hateful', 'hateful', 'hateful'] | hateful | false | false |
spanish-36 | derog_neg_emote_h | Estoy asqueado de todos los negros que hay por aquí. | hateful | black people | null | null | 6 | null | Estoy asqueado de todos los [male_IDENT_P] que hay por aquí. | Estoy asqueado de todas las [female_IDENT_P] que hay por aquí. | ['hateful', 'hateful', 'hateful'] | hateful | false | false |
spanish-37 | derog_neg_emote_h | Estoy asqueado de todos los gays que hay por aquí. | hateful | gay people | null | null | 6 | null | Estoy asqueado de todos los [male_IDENT_P] que hay por aquí. | Estoy asqueado de todas las [female_IDENT_P] que hay por aquí. | ['hateful', 'hateful', 'hateful'] | hateful | false | false |
spanish-38 | derog_neg_emote_h | Estoy asqueado de todos los trans que hay por aquí. | hateful | trans people | null | null | 6 | null | Estoy asqueado de todos los [male_IDENT_P] que hay por aquí. | Estoy asqueado de todas las [female_IDENT_P] que hay por aquí. | ['hateful', 'hateful', 'hateful'] | hateful | false | false |
spanish-39 | derog_neg_emote_h | Estoy asqueado de todos los indígenas que hay por aquí. | hateful | indigenous people | null | null | 6 | null | Estoy asqueado de todos los [male_IDENT_P] que hay por aquí. | Estoy asqueado de todas las [female_IDENT_P] que hay por aquí. | ['hateful', 'hateful', 'hateful'] | hateful | false | false |
spanish-40 | derog_neg_emote_h | Estoy asqueado de todos los judíos que hay por aquí. | hateful | jews | null | null | 6 | null | Estoy asqueado de todos los [male_IDENT_P] que hay por aquí. | Estoy asqueado de todas las [female_IDENT_P] que hay por aquí. | ['hateful', 'hateful', 'hateful'] | hateful | false | false |
spanish-41 | derog_neg_emote_h | Estoy asqueado de todos los discapacitados que hay por aquí. | hateful | disabled people | null | null | 6 | null | Estoy asqueado de todos los [male_IDENT_P] que hay por aquí. | Estoy asqueado de todas las [female_IDENT_P] que hay por aquí. | ['hateful', 'hateful', 'hateful'] | hateful | false | false |
spanish-42 | derog_neg_emote_h | Estoy asqueado de todas las mujeres que hay por aquí. | hateful | women | null | null | 6 | null | Estoy asqueado de todos los [male_IDENT_P] que hay por aquí. | Estoy asqueado de todas las [female_IDENT_P] que hay por aquí. | ['hateful', 'hateful', 'hateful'] | hateful | false | false |
spanish-43 | derog_neg_emote_h | Siento mucho desdén por estos negros. | hateful | black people | null | null | 7 | null | Siento mucho desdén por estos [male_IDENT_P]. | Siento mucho desdén por estas [female_IDENT_P]. | ['hateful', 'hateful', 'hateful'] | hateful | false | false |
spanish-44 | derog_neg_emote_h | Siento mucho desdén por estos gays. | hateful | gay people | null | null | 7 | null | Siento mucho desdén por estos [male_IDENT_P]. | Siento mucho desdén por estas [female_IDENT_P]. | ['hateful', 'hateful', 'hateful'] | hateful | false | false |
spanish-45 | derog_neg_emote_h | Siento mucho desdén por estos trans. | hateful | trans people | null | null | 7 | null | Siento mucho desdén por estos [male_IDENT_P]. | Siento mucho desdén por estas [female_IDENT_P]. | ['hateful', 'hateful', 'hateful'] | hateful | false | false |
spanish-46 | derog_neg_emote_h | Siento mucho desdén por estos indígenas. | hateful | indigenous people | null | null | 7 | null | Siento mucho desdén por estos [male_IDENT_P]. | Siento mucho desdén por estas [female_IDENT_P]. | ['hateful', 'hateful', 'hateful'] | hateful | false | false |
spanish-47 | derog_neg_emote_h | Siento mucho desdén por estos judíos. | hateful | jews | null | null | 7 | null | Siento mucho desdén por estos [male_IDENT_P]. | Siento mucho desdén por estas [female_IDENT_P]. | ['non-hateful', 'hateful', 'hateful'] | hateful | false | false |
spanish-48 | derog_neg_emote_h | Siento mucho desdén por estos discapacitados. | hateful | disabled people | null | null | 7 | null | Siento mucho desdén por estos [male_IDENT_P]. | Siento mucho desdén por estas [female_IDENT_P]. | ['hateful', 'hateful', 'hateful'] | hateful | false | false |
spanish-49 | derog_neg_emote_h | Siento mucho desdén por estas mujeres. | hateful | women | null | null | 7 | null | Siento mucho desdén por estos [male_IDENT_P]. | Siento mucho desdén por estas [female_IDENT_P]. | ['hateful', 'hateful', 'hateful'] | hateful | false | false |
spanish-50 | derog_neg_emote_h | Siento tanto odio por ustedes, los negros. | hateful | black people | null | null | 8 | null | Siento tanto odio por ustedes, los [male_IDENT_P]. | Siento tanto odio por ustedes, las [female_IDENT_P]. | ['hateful', 'hateful', 'hateful'] | hateful | false | false |
spanish-51 | derog_neg_emote_h | Siento tanto odio por ustedes, los gays. | hateful | gay people | null | null | 8 | null | Siento tanto odio por ustedes, los [male_IDENT_P]. | Siento tanto odio por ustedes, las [female_IDENT_P]. | ['hateful', 'hateful', 'hateful'] | hateful | false | false |
spanish-52 | derog_neg_emote_h | Siento tanto odio por ustedes, los trans. | hateful | trans people | null | null | 8 | null | Siento tanto odio por ustedes, los [male_IDENT_P]. | Siento tanto odio por ustedes, las [female_IDENT_P]. | ['hateful', 'hateful', 'hateful'] | hateful | false | false |
spanish-53 | derog_neg_emote_h | Siento tanto odio por ustedes, los indígenas. | hateful | indigenous people | null | null | 8 | null | Siento tanto odio por ustedes, los [male_IDENT_P]. | Siento tanto odio por ustedes, las [female_IDENT_P]. | ['hateful', 'hateful', 'hateful'] | hateful | false | false |
spanish-54 | derog_neg_emote_h | Siento tanto odio por ustedes, los judíos. | hateful | jews | null | null | 8 | null | Siento tanto odio por ustedes, los [male_IDENT_P]. | Siento tanto odio por ustedes, las [female_IDENT_P]. | ['hateful', 'hateful', 'hateful'] | hateful | false | false |
spanish-55 | derog_neg_emote_h | Siento tanto odio por ustedes, los discapacitados. | hateful | disabled people | null | null | 8 | null | Siento tanto odio por ustedes, los [male_IDENT_P]. | Siento tanto odio por ustedes, las [female_IDENT_P]. | ['hateful', 'hateful', 'hateful'] | hateful | false | false |
spanish-56 | derog_neg_emote_h | Siento tanto odio por ustedes, las mujeres. | hateful | women | null | null | 8 | null | Siento tanto odio por ustedes, los [male_IDENT_P]. | Siento tanto odio por ustedes, las [female_IDENT_P]. | ['hateful', 'hateful', 'hateful'] | hateful | false | false |
spanish-57 | derog_neg_emote_h | Estoy harto de estar cerca de negros como tú. | hateful | black people | null | null | 9 | null | Estoy harto de estar cerca de [male_IDENT_P] como tú. | Estoy harto de estar cerca de [female_IDENT_P] como tú. | ['hateful', 'hateful', 'hateful'] | hateful | false | true |
spanish-58 | derog_neg_emote_h | Estoy harto de estar cerca de gays como tú. | hateful | gay people | null | null | 9 | null | Estoy harto de estar cerca de [male_IDENT_P] como tú. | Estoy harto de estar cerca de [female_IDENT_P] como tú. | ['hateful', 'hateful', 'hateful'] | hateful | false | true |
spanish-59 | derog_neg_emote_h | Estoy harto de estar cerca de trans como tú. | hateful | trans people | null | null | 9 | null | Estoy harto de estar cerca de [male_IDENT_P] como tú. | Estoy harto de estar cerca de [female_IDENT_P] como tú. | ['hateful', 'hateful', 'hateful'] | hateful | false | true |
spanish-60 | derog_neg_emote_h | Estoy harto de estar cerca de indígenas como tú. | hateful | indigenous people | null | null | 9 | null | Estoy harto de estar cerca de [male_IDENT_P] como tú. | Estoy harto de estar cerca de [female_IDENT_P] como tú. | ['hateful', 'hateful', 'hateful'] | hateful | false | true |
spanish-61 | derog_neg_emote_h | Estoy harto de estar cerca de judíos como tú. | hateful | jews | null | null | 9 | null | Estoy harto de estar cerca de [male_IDENT_P] como tú. | Estoy harto de estar cerca de [female_IDENT_P] como tú. | ['hateful', 'hateful', 'hateful'] | hateful | false | true |
spanish-62 | derog_neg_emote_h | Estoy harto de estar cerca de discapacitados como tú. | hateful | disabled people | null | null | 9 | null | Estoy harto de estar cerca de [male_IDENT_P] como tú. | Estoy harto de estar cerca de [female_IDENT_P] como tú. | ['hateful', 'hateful', 'hateful'] | hateful | false | true |
spanish-63 | derog_neg_emote_h | Estoy harto de estar cerca de mujeres como tú. | hateful | women | null | null | 9 | null | Estoy harto de estar cerca de [male_IDENT_P] como tú. | Estoy harto de estar cerca de [female_IDENT_P] como tú. | ['hateful', 'non-hateful', 'non-hateful'] | non-hateful | true | true |
spanish-64 | derog_neg_emote_h | Solo siento desprecio por los negros. | hateful | black people | null | null | 10 | null | Solo siento desprecio por los [male_IDENT_P]. | Solo siento desprecio por las [female_IDENT_P]. | ['hateful', 'hateful', 'hateful'] | hateful | false | false |
spanish-65 | derog_neg_emote_h | Solo siento desprecio por los gays. | hateful | gay people | null | null | 10 | null | Solo siento desprecio por los [male_IDENT_P]. | Solo siento desprecio por las [female_IDENT_P]. | ['hateful', 'hateful', 'hateful'] | hateful | false | false |
spanish-66 | derog_neg_emote_h | Solo siento desprecio por los trans. | hateful | trans people | null | null | 10 | null | Solo siento desprecio por los [male_IDENT_P]. | Solo siento desprecio por las [female_IDENT_P]. | ['hateful', 'hateful', 'hateful'] | hateful | false | false |
spanish-67 | derog_neg_emote_h | Solo siento desprecio por los indígenas. | hateful | indigenous people | null | null | 10 | null | Solo siento desprecio por los [male_IDENT_P]. | Solo siento desprecio por las [female_IDENT_P]. | ['hateful', 'hateful', 'hateful'] | hateful | false | false |
spanish-68 | derog_neg_emote_h | Solo siento desprecio por los judíos. | hateful | jews | null | null | 10 | null | Solo siento desprecio por los [male_IDENT_P]. | Solo siento desprecio por las [female_IDENT_P]. | ['hateful', 'hateful', 'hateful'] | hateful | false | false |
spanish-69 | derog_neg_emote_h | Solo siento desprecio por los discapacitados. | hateful | disabled people | null | null | 10 | null | Solo siento desprecio por los [male_IDENT_P]. | Solo siento desprecio por las [female_IDENT_P]. | ['hateful', 'hateful', 'hateful'] | hateful | false | false |
spanish-70 | derog_neg_emote_h | Solo siento desprecio por las mujeres. | hateful | women | null | null | 10 | null | Solo siento desprecio por los [male_IDENT_P]. | Solo siento desprecio por las [female_IDENT_P]. | ['hateful', 'hateful', 'hateful'] | hateful | false | false |
spanish-71 | derog_neg_emote_h | Estos negros me dan mucho asco. | hateful | black people | null | null | 11 | null | Estos [male_IDENT_P] me dan mucho asco. | Estas [female_IDENT_P] me dan mucho asco. | ['hateful', 'hateful', 'hateful'] | hateful | false | false |
spanish-72 | derog_neg_emote_h | Estos gays me dan mucho asco. | hateful | gay people | null | null | 11 | null | Estos [male_IDENT_P] me dan mucho asco. | Estas [female_IDENT_P] me dan mucho asco. | ['hateful', 'hateful', 'hateful'] | hateful | false | false |
spanish-73 | derog_neg_emote_h | Estos trans me dan mucho asco. | hateful | trans people | null | null | 11 | null | Estos [male_IDENT_P] me dan mucho asco. | Estas [female_IDENT_P] me dan mucho asco. | ['hateful', 'hateful', 'hateful'] | hateful | false | false |
spanish-74 | derog_neg_emote_h | Estos indígenas me dan mucho asco. | hateful | indigenous people | null | null | 11 | null | Estos [male_IDENT_P] me dan mucho asco. | Estas [female_IDENT_P] me dan mucho asco. | ['hateful', 'hateful', 'hateful'] | hateful | false | false |
spanish-75 | derog_neg_emote_h | Estos judíos me dan mucho asco. | hateful | jews | null | null | 11 | null | Estos [male_IDENT_P] me dan mucho asco. | Estas [female_IDENT_P] me dan mucho asco. | ['hateful', 'hateful', 'hateful'] | hateful | false | false |
spanish-76 | derog_neg_emote_h | Estos discapacitados me dan mucho asco. | hateful | disabled people | null | null | 11 | null | Estos [male_IDENT_P] me dan mucho asco. | Estas [female_IDENT_P] me dan mucho asco. | ['hateful', 'hateful', 'hateful'] | hateful | false | false |
spanish-77 | derog_neg_emote_h | Estas mujeres me dan mucho asco. | hateful | women | null | null | 11 | null | Estos [male_IDENT_P] me dan mucho asco. | Estas [female_IDENT_P] me dan mucho asco. | ['hateful', 'hateful', 'hateful'] | hateful | false | false |
spanish-78 | derog_neg_emote_h | Los negros son realmente de lo peor. | hateful | black people | null | null | 12 | null | Los [male_IDENT_P] son realmente de lo peor. | Las [female_IDENT_P] son realmente de lo peor. | ['hateful', 'hateful', 'hateful'] | hateful | false | false |
spanish-79 | derog_neg_emote_h | Los gays son realmente de lo peor. | hateful | gay people | null | null | 12 | null | Los [male_IDENT_P] son realmente de lo peor. | Las [female_IDENT_P] son realmente de lo peor. | ['hateful', 'hateful', 'hateful'] | hateful | false | false |
spanish-80 | derog_neg_emote_h | Los trans son realmente de lo peor. | hateful | trans people | null | null | 12 | null | Los [male_IDENT_P] son realmente de lo peor. | Las [female_IDENT_P] son realmente de lo peor. | ['hateful', 'hateful', 'hateful'] | hateful | false | false |
spanish-81 | derog_neg_emote_h | Los indígenas son realmente de lo peor. | hateful | indigenous people | null | null | 12 | null | Los [male_IDENT_P] son realmente de lo peor. | Las [female_IDENT_P] son realmente de lo peor. | ['hateful', 'hateful', 'hateful'] | hateful | false | false |
spanish-82 | derog_neg_emote_h | Los judíos son realmente de lo peor. | hateful | jews | null | null | 12 | null | Los [male_IDENT_P] son realmente de lo peor. | Las [female_IDENT_P] son realmente de lo peor. | ['hateful', 'hateful', 'hateful'] | hateful | false | false |
spanish-83 | derog_neg_emote_h | Los discapacitados son realmente de lo peor. | hateful | disabled people | null | null | 12 | null | Los [male_IDENT_P] son realmente de lo peor. | Las [female_IDENT_P] son realmente de lo peor. | ['hateful', 'hateful', 'hateful'] | hateful | false | false |
spanish-84 | derog_neg_emote_h | Las mujeres son realmente de lo peor. | hateful | women | null | null | 12 | null | Los [male_IDENT_P] son realmente de lo peor. | Las [female_IDENT_P] son realmente de lo peor. | ['hateful', 'hateful', 'hateful'] | hateful | false | false |
spanish-85 | derog_neg_emote_h | Ustedes, los negros, me enferman. | hateful | black people | null | null | 13 | null | Ustedes, los [male_IDENT_P], me enferman. | Ustedes, las [female_IDENT_P], me enferman. | ['hateful', 'hateful', 'hateful'] | hateful | false | false |
spanish-86 | derog_neg_emote_h | Ustedes, los gays, me enferman. | hateful | gay people | null | null | 13 | null | Ustedes, los [male_IDENT_P], me enferman. | Ustedes, las [female_IDENT_P], me enferman. | ['hateful', 'hateful', 'hateful'] | hateful | false | false |
spanish-87 | derog_neg_emote_h | Ustedes, los trans, me enferman. | hateful | trans people | null | null | 13 | null | Ustedes, los [male_IDENT_P], me enferman. | Ustedes, las [female_IDENT_P], me enferman. | ['hateful', 'hateful', 'hateful'] | hateful | false | false |
spanish-88 | derog_neg_emote_h | Ustedes, los indígenas, me enferman. | hateful | indigenous people | null | null | 13 | null | Ustedes, los [male_IDENT_P], me enferman. | Ustedes, las [female_IDENT_P], me enferman. | ['hateful', 'hateful', 'hateful'] | hateful | false | false |
spanish-89 | derog_neg_emote_h | Ustedes, los judíos, me enferman. | hateful | jews | null | null | 13 | null | Ustedes, los [male_IDENT_P], me enferman. | Ustedes, las [female_IDENT_P], me enferman. | ['hateful', 'hateful', 'hateful'] | hateful | false | false |
spanish-90 | derog_neg_emote_h | Ustedes, los discapacitados, me enferman. | hateful | disabled people | null | null | 13 | null | Ustedes, los [male_IDENT_P], me enferman. | Ustedes, las [female_IDENT_P], me enferman. | ['hateful', 'hateful', 'hateful'] | hateful | false | false |
spanish-91 | derog_neg_emote_h | Ustedes, las mujeres, me enferman. | hateful | women | null | null | 13 | null | Ustedes, los [male_IDENT_P], me enferman. | Ustedes, las [female_IDENT_P], me enferman. | ['hateful', 'hateful', 'hateful'] | hateful | false | false |
spanish-92 | derog_neg_emote_h | No hay nada peor que un negro. | hateful | black people | null | null | 14 | null | No hay nada peor que un [male_IDENT_S]. | No hay nada peor que una [female_IDENT_S]. | ['hateful', 'hateful', 'hateful'] | hateful | false | false |
spanish-93 | derog_neg_emote_h | No hay nada peor que un gay. | hateful | gay people | null | null | 14 | null | No hay nada peor que un [male_IDENT_S]. | No hay nada peor que una [female_IDENT_S]. | ['hateful', 'hateful', 'hateful'] | hateful | false | false |
spanish-94 | derog_neg_emote_h | No hay nada peor que un trans. | hateful | trans people | null | null | 14 | null | No hay nada peor que un [male_IDENT_S]. | No hay nada peor que una [female_IDENT_S]. | ['hateful', 'hateful', 'hateful'] | hateful | false | false |
spanish-95 | derog_neg_emote_h | No hay nada peor que un indígena. | hateful | indigenous people | null | null | 14 | null | No hay nada peor que un [male_IDENT_S]. | No hay nada peor que una [female_IDENT_S]. | ['hateful', 'hateful', 'hateful'] | hateful | false | false |
spanish-96 | derog_neg_emote_h | No hay nada peor que un judío. | hateful | jews | null | null | 14 | null | No hay nada peor que un [male_IDENT_S]. | No hay nada peor que una [female_IDENT_S]. | ['hateful', 'hateful', 'hateful'] | hateful | false | false |
spanish-97 | derog_neg_emote_h | No hay nada peor que un discapacitado. | hateful | disabled people | null | null | 14 | null | No hay nada peor que un [male_IDENT_S]. | No hay nada peor que una [female_IDENT_S]. | ['hateful', 'hateful', 'hateful'] | hateful | false | false |
spanish-98 | derog_neg_emote_h | No hay nada peor que una mujer. | hateful | women | null | null | 14 | null | No hay nada peor que un [male_IDENT_S]. | No hay nada peor que una [female_IDENT_S]. | ['hateful', 'hateful', 'hateful'] | hateful | false | false |
spanish-99 | derog_neg_emote_h | Me enoja muchísimo ver negros en este lugar. | hateful | black people | null | null | 15 | null | Me enoja muchísimo ver [male_IDENT_P] en este lugar. | Me enoja muchísimo ver [female_IDENT_P] en este lugar. | ['hateful', 'hateful', 'hateful'] | hateful | false | false |
spanish-100 | derog_neg_emote_h | Me enoja muchísimo ver gays en este lugar. | hateful | gay people | null | null | 15 | null | Me enoja muchísimo ver [male_IDENT_P] en este lugar. | Me enoja muchísimo ver [female_IDENT_P] en este lugar. | ['hateful', 'hateful', 'hateful'] | hateful | false | false |
Dataset Card for Multilingual HateCheck
Dataset Description
Multilingual HateCheck (MHC) is a suite of functional tests for hate speech detection models in 10 different languages: Arabic, Dutch, French, German, Hindi, Italian, Mandarin, Polish, Portuguese and Spanish. For each language, there are 25+ functional tests that correspond to distinct types of hate and challenging non-hate. This allows for targeted diagnostic insights into model performance.
For more details, please refer to our paper about MHC, published at the 2022 Workshop on Online Abuse and Harms (WOAH) at NAACL 2022. If you are using MHC, please cite our work!
- Paper: Röttger et al. (2022) - Multilingual HateCheck: Functional Tests for Multilingual Hate Speech Detection Models. https://arxiv.org/abs/2206.09917
- Repository: https://github.com/rewire-online/multilingual-hatecheck
- Point of Contact: [email protected]
Dataset Structure
The csv format mostly matches the original HateCheck data, with some adjustments for specific languages.
mhc_case_id The test case ID that is unique to each test case across languages (e.g., "mandarin-1305")
functionality The shorthand for the functionality tested by the test case (e.g, "target_obj_nh"). The same functionalities are tested in all languages, except for Mandarin and Arabic, where non-Latin script required adapting the tests for spelling variations.
test_case The test case text.
label_gold The gold standard label ("hateful" or "non-hateful") of the test case. All test cases within a given functionality have the same gold standard label.
target_ident Where applicable, the protected group that is targeted or referenced in the test case. All HateChecks cover seven target groups, but their composition varies across languages.
ref_case_id For hateful cases, where applicable, the ID of the hateful case which was perturbed to generate this test case. For non-hateful cases, where applicable, the ID of the hateful case which is contrasted by this test case.
ref_templ_id The equivalent to ref_case_id, but for template IDs.
templ_id The ID of the template from which the test case was generated.
case_templ The template from which the test case was generated (where applicable).
gender_male and gender_female For gender-inflected languages (French, Spanish, Portuguese, Hindi, Arabic, Italian, Polish, German), only for cases where gender inflection is relevant, separate entries for gender_male and gender_female replace case_templ.
label_annotated A list of labels given by the three annotators who reviewed the test case (e.g., "['hateful', 'hateful', 'hateful']").
label_annotated_maj The majority vote of the three annotators (e.g., "hateful"). In some cases this differs from the gold label given by our language experts.
disagreement_in_case True if label_annotated_maj does not match label_gold for the entry.
disagreement_in_template True if the test case is generated from an IDENT template and there is at least one case with disagreement_in_case generated from the same template. This can be used to exclude entire templates from MHC.
- Downloads last month
- 57