.
.

.
.

.
.

.

.

.

B Qualitative examples

C Representational bias and toxicity

.

.

.
.
C.1 Toxicity in open-end generation .
C.2 Toxicity in prompts with identity terms .
.
.
C.3 Ability to classify toxic content .
.
.
.
C.4 Gender and Occupation Bias .
C.5 Translation misgendering .
.
.
.
.
.
.
.
.
.
.
.
.
C.6 Limitations .

.
.
.
.

.
.
.
.

.
.
.
.

.

.

.

.

.

.

D Full experimental results
.
.
.
.

D.1 MMLU .
D.2 BBH .
.
.
D.3 TyDiQA .
D.4 MGSM .

.
.
.
.

.
.
.
.

.
.
.
.

.
.
.
.

.
.
.
.

.
.
.
.

.
.
.
.

.
.
.
.

.
.
.
.

.
.
.
.

.
.
.
.

.
.
.
.

.
.
.
.

.
.
.
.

.
.
.
.

.
.
.
.

.
.
.
.

.
.
.
.
.
.

.
.
.
.

.
.
.
.
.
.

.
.
.
.

.
.
.
.
.
.

.
.
.
.

.
.
.
.
.
.

.
.
.
.

.
.
.
.
.
.

.
.
.
.

.
.
.
.
.
.

.
.
.
.

.
.
.
.
.
.

.
.
.
.

.
.
.
.
.
.

.
.
.
.

.
.
.
.
.
.

.
.
.
.

.
.
.
.
.
.

.
.
.
.

.
.
.
.
.
.

.
.
.
.

.
.
.
.
.
.

.
.
.
.

.
.
.
.
.
.

.
.
.
.

.
.
.
.
.
.

.
.
.
.

.
.
.
.
.
.

.
.
.
.

.
.
.
.
.
.

.
.
.
.

.
.
.
.
.
.

.
.
.
.
Scaling Instruction-Finetuned Language Models