Datasets:

mteb
/

KorSTS

sentence1 stringlengths 2 317	sentence2 stringlengths 2 911	score float64 0 5
비행기가 이륙하고 있다.	비행기가 이륙하고 있다.	5
한 남자가 큰 플루트를 연주하고 있다.	남자가 플루트를 연주하고 있다.	3.8
한 남자가 피자에 치즈를 뿌려놓고 있다.	한 남자가 구운 피자에 치즈 조각을 뿌려놓고 있다.	3.8
세 남자가 체스를 하고 있다.	두 남자가 체스를 하고 있다.	2.6
한 남자가 첼로를 연주하고 있다.	자리에 앉은 남자가 첼로를 연주하고 있다.	4.25
몇몇 남자들이 싸우고 있다.	두 남자가 싸우고 있다.	4.25
남자가 담배를 피우고 있다.	남자가 스케이트를 타고 있다.	0.5
남자가 피아노를 치고 있다.	남자가 기타를 연주하고 있다.	1.6
한 남자가 기타를 치고 노래를 부르고 있다.	한 여성이 어쿠스틱 기타를 연주하고 노래를 부르고 있다.	2.2
사람이 고양이를 천장에 던지고 있다.	사람이 고양이를 천장에 던진다.	5
그 남자는 다른 남자를 막대기로 때렸다.	그 남자는 다른 남자를 막대기로 때렸다.	4.2
한 여성이 아기를 안아서 캥거루를 안는다.	한 여성이 아기를 안아서 팔에 캥거루를 안는다.	4.6
남자가 플루트를 연주하고 있다.	남자가 대나무 플루트를 연주하고 있다.	3.867
사람이 종이 한 장을 접고 있다.	누군가가 종이를 접고 있다.	4.667
한 남자가 도로를 달리고 있다.	판다 개가 도로에서 달리고 있다.	1.667
개가 베이컨을 등에서 떼려고 하고 있다.	개가 등에 있는 베이컨을 먹으려고 하고 있다.	3.75
북극곰이 눈 위에서 미끄러지고 있다.	북극곰이 눈 위로 미끄러져 가고 있다.	5
여자가 글을 쓰고 있다.	여자가 수영을 하고 있다.	0.5
고양이가 아기의 얼굴을 문지르고 있다.	고양이가 아기에게 문지르고 있다.	3.8
남자가 말을 타고 있다.	남자가 말을 타고 있다.	5
한 남자가 냄비에 기름을 부어 넣는다.	한 남자가 냄비에 와인을 붓는다.	3.2
남자가 기타를 치고 있다.	한 소녀가 기타를 치고 있다.	2.8
판다가 슬라이드 아래로 미끄러져 내려간다.	판다가 슬라이드 아래로 미끄러진다.	4.6
여자가 뭔가를 먹고 있다.	한 여성이 고기를 먹고 있다.	3
한 여자가 감자 껍질을 벗긴다.	한 여성이 감자 껍질을 벗기고 있다.	5
그 소년은 자전거에서 떨어졌다.	한 소년이 자전거에서 떨어진다.	4.8
여자가 플루트를 연주하고 있다.	한 여성이 플루트를 연주하고 있다.	5
토끼가 독수리에게서 뛰고 있다.	토끼가 독수리에게서 도망치고 있다.	4.2
여자가 빵을 곁들인 돼지고기를 튀기고 있다.	한 여성이 빵을 곁들인 돼지고기를 요리하고 있다.	4.2
한 소녀가 연을 날리고 있다.	달리는 소녀가 연을 날리고 있다.	4
한 남자가 기계식 황소를 타고 있다.	한 남자가 기계식 황소를 탔다.	4
남자가 기타를 연주하고 있다.	남자가 기타를 치고 있다.	4.909
한 여성이 다른 여성들과 춤추고 노래하고 있다.	한 여성이 빗속에서 춤추고 노래하고 있다.	3
남자가 빵을 자르고 있다.	남자가 양파를 자르고 있다.	2.4
남자가 팬에 기름을 부어 넣고 있다.	남자가 프라이팬에 기름을 부어 넣고 있다.	4.2
사자가 사람들과 놀고 있다.	사자가 두 남자와 놀고 있다.	3.4
개가 스케이트보드를 탄다.	개가 스케이트보드를 타고 있다.	5
누군가가 동상을 조각하고 있다.	한 남자가 조각상을 조각하고 있다.	3.75
한 여성이 양파를 자르고 있다.	남자가 양파를 자르고 있다.	2.75
여자는 새우 껍질을 벗긴다.	한 여성이 새우 껍질을 벗기고 있다.	5
한 여성이 생선 튀김을 하고 있다.	한 여성이 생선을 요리하고 있다.	4
한 여성이 일렉트릭 기타를 연주하고 있다.	한 여성이 기타를 치고 있다.	3.6
새끼 호랑이가 공을 가지고 놀고 있다.	아기가 인형을 가지고 놀고 있다.	1.6
사람이 토마토를 자르고 있다.	사람이 고기를 썰고 있다.	1.75
사람이 양파를 잘랐다.	사람이 양파를 자르고 있다.	5
한 남자가 피아노를 치고 있다.	한 여성이 바이올린을 연주하고 있다.	1
한 여성이 플루트를 연주하고 있다.	남자가 기타를 치고 있다.	1
남자가 감자를 자르고 있다.	남자가 당근을 자르고 있다.	2.375
한 아이가 기타를 치고 있다.	한 소년이 기타를 치고 있다.	3.8
한 소년이 기타를 치고 있다.	남자가 기타를 치고 있다.	3.2
남자가 기타를 치고 있다.	한 소년이 기타를 치고 있다.	3.2
어린 소년이 키보드를 연주하고 있다.	한 소년이 키보드를 하고 있다.	4.4
남자가 기타를 치고 있다.	한 남자가 일렉트릭 기타를 연주하고 있다.	3.75
개가 아기를 핥는다.	개가 아기를 핥고 있다.	4.75
한 여성이 양파를 자르고 있다.	남자가 양파를 자르고 있다.	3.2
남자가 기타를 치고 있다.	남자가 드럼을 치고 있다.	1.556
여자가 후추를 썰고 있다.	여자가 고추를 자르고 있다.	3.938
남자가 드럼을 치고 있다.	남자가 드럼을 연주한다.	5
여자가 말을 탄다.	여자가 말을 타고 있다.	5
남자가 나무 옆에서 바나나를 먹고 있다.	한 남자가 바나나를 먹고 있다.	4
고양이가 키보드를 연주하고 있다.	한 남자가 두 개의 키보드를 연주하고 있다.	1.6
한 남자가 도끼로 나무를 베다.	한 남자가 도끼로 나무를 베었다.	4.75
한 아이가 장난감 전화기로 놀고 있다.	한 어린 소년이 장난감 전화기로 놀고 있다.	3.5
한 남자가 오토바이를 타고 있다.	남자가 말을 타고 있다.	1.4
한 남자가 오토바이를 타고 있다.	남자가 말을 타고 있다.	1.4
다람쥐가 원을 그리며 빙빙 돌고 있다.	다람쥐가 원을 그리며 돌고 있다.	4
남자와 여자가 키스하고 있다.	남자와 여자의 키스...	5
한 남자가 차에 타고 있다.	한 남자가 차고에서 차에 타고 있다.	3.833
남자가 춤을 추고 있다.	남자가 말하고 있다.	0.6
한 남자가 기타를 치고 노래를 부르고 있다.	남자가 기타를 치고 있다.	2.917
사람이 버섯을 자르고 있다.	사람이 칼로 버섯을 자르고 있다.	4.2
호랑이 새끼가 소리를 내고 있다.	호랑이가 주위를 돌아다니고 있다.	2
사람이 양파를 자르고 있다.	사람이 양파 껍질을 벗기고 있다.	2.6
한 남자가 피아노를 치고 있다.	남자가 트럼펫을 연주하고 있다.	1.6
한 여성이 감자 껍질을 벗기고 있다.	여자가 사과 껍질을 벗기고 있다.	2
판카가 대나무를 먹고 있다.	판다 곰이 대나무를 먹고 있다.	4.2
사람이 양파 껍질을 벗기고 있다.	사람이 가지를 껍질을 벗기고 있다.	2
원숭이는 다른 원숭이를 밀고 갑니다.	원숭이가 다른 원숭이를 밀었다.	4.8
다람쥐가 원을 그리며 돌고 있다.	다람쥐가 원을 그리며 움직이고 있다.	4.4
남자가 신발끈을 묶고 있다.	남자가 신발 끈을 묶는다.	5
한 소년이 노래를 부르고 피아노를 치고 있다.	한 소년이 피아노를 치고 있다.	3
개가 물 멜론을 먹고 있다.	개가 수박 한 조각을 먹고 있다.	4.25
한 여성이 브로콜리를 자르고 있다.	한 여성이 칼로 브로콜리를 자르고 있다.	4.25
남자가 감자 껍질을 벗기고 있다.	한 남자가 감자 껍질을 벗겼다.	3.8
한 여성이 기타를 치고 있다.	남자가 기타를 연주한다.	2.4
한 여성이 토마토를 자르고 있다.	남자가 양파를 썰고 있다.	1.6
한 남자가 수중에서 수영을 한다.	한 여성이 물속에서 수영하고 있다.	2
남자와 여자가 이야기를 하고 있다.	한 남자와 여자가 먹고 있다.	1.6
작은 개가 요가공을 쫓고 있다.	개가 공을 쫓고 있다.	4
남자들이 크리켓을 하고 있다.	남자들이 농구를 하고 있다.	2.2
한 남자가 오토바이를 타고 떠난다.	한 남자가 오토바이를 타고 있다.	4.4
남자가 기타를 치고 있다.	한 남자가 기타를 부르고 연주하고 있다.	3.6
그 남자는 전화로 말했다.	남자가 전화로 말하고 있다.	3.6
남자가 낚시를 하고 있다.	남자가 운동을 하고 있다.	0.5
남자가 공중 부양하고 있다.	남자가 말하고 있다.	0.8
두 소년이 운전을 하고 있다.	두 개의 만이 춤추고 있다.	0.6
남자가 말을 타고 있다.	한 소녀가 말을 타고 있다.	2.6
한 남자가 자전거를 타고 있다.	원숭이가 자전거를 타고 있다.	2
한 남자가 감자를 썰고 있다.	한 여성이 감자 껍질을 벗기고 있다.	2.2
한 여성이 감자 껍질을 벗기고 있다.	남자가 감자를 자르고 있다.	2.4

End of preview. Expand in Data Studio

KorSTS

An MTEB dataset

Massive Text Embedding Benchmark

Benchmark dataset for STS in Korean. Created by machine translation and human post editing of the STS-B dataset.


Task category	t2t
Domains	News, Web
Reference	https://arxiv.org/abs/2004.03289

How to evaluate on this task

You can evaluate an embedding model on this dataset using the following code:

import mteb

task = mteb.get_tasks(["KorSTS"])
evaluator = mteb.MTEB(task)

model = mteb.get_model(YOUR_MODEL)
evaluator.run(model)

To learn more about how to run models on mteb task check out the GitHub repitory.

Citation

If you use this dataset, please cite the dataset as well as mteb, as this dataset likely includes additional processing as a part of the MMTEB Contribution.


@article{ham2020kornli,
  author = {Ham, Jiyeon and Choe, Yo Joong and Park, Kyubyong and Choi, Ilji and Soh, Hyungjoon},
  journal = {arXiv preprint arXiv:2004.03289},
  title = {KorNLI and KorSTS: New Benchmark Datasets for Korean Natural Language Understanding},
  year = {2020},
}


@article{enevoldsen2025mmtebmassivemultilingualtext,
  title={MMTEB: Massive Multilingual Text Embedding Benchmark},
  author={Kenneth Enevoldsen and Isaac Chung and Imene Kerboua and Márton Kardos and Ashwin Mathur and David Stap and Jay Gala and Wissam Siblini and Dominik Krzemiński and Genta Indra Winata and Saba Sturua and Saiteja Utpala and Mathieu Ciancone and Marion Schaeffer and Gabriel Sequeira and Diganta Misra and Shreeya Dhakal and Jonathan Rystrøm and Roman Solomatin and Ömer Çağatan and Akash Kundu and Martin Bernstorff and Shitao Xiao and Akshita Sukhlecha and Bhavish Pahwa and Rafał Poświata and Kranthi Kiran GV and Shawon Ashraf and Daniel Auras and Björn Plüster and Jan Philipp Harries and Loïc Magne and Isabelle Mohr and Mariya Hendriksen and Dawei Zhu and Hippolyte Gisserot-Boukhlef and Tom Aarsen and Jan Kostkan and Konrad Wojtasik and Taemin Lee and Marek Šuppa and Crystina Zhang and Roberta Rocca and Mohammed Hamdy and Andrianos Michail and John Yang and Manuel Faysse and Aleksei Vatolin and Nandan Thakur and Manan Dey and Dipam Vasani and Pranjal Chitale and Simone Tedeschi and Nguyen Tai and Artem Snegirev and Michael Günther and Mengzhou Xia and Weijia Shi and Xing Han Lù and Jordan Clive and Gayatri Krishnakumar and Anna Maksimova and Silvan Wehrli and Maria Tikhonova and Henil Panchal and Aleksandr Abramov and Malte Ostendorff and Zheng Liu and Simon Clematide and Lester James Miranda and Alena Fenogenova and Guangyu Song and Ruqiya Bin Safi and Wen-Ding Li and Alessia Borghini and Federico Cassano and Hongjin Su and Jimmy Lin and Howard Yen and Lasse Hansen and Sara Hooker and Chenghao Xiao and Vaibhav Adlakha and Orion Weller and Siva Reddy and Niklas Muennighoff},
  publisher = {arXiv},
  journal={arXiv preprint arXiv:2502.13595},
  year={2025},
  url={https://arxiv.org/abs/2502.13595},
  doi = {10.48550/arXiv.2502.13595},
}

@article{muennighoff2022mteb,
  author = {Muennighoff, Niklas and Tazi, Nouamane and Magne, Lo{\"\i}c and Reimers, Nils},
  title = {MTEB: Massive Text Embedding Benchmark},
  publisher = {arXiv},
  journal={arXiv preprint arXiv:2210.07316},
  year = {2022}
  url = {https://arxiv.org/abs/2210.07316},
  doi = {10.48550/ARXIV.2210.07316},
}

Dataset Statistics

The following code contains the descriptive statistics from the task. These can also be obtained using:

import mteb

task = mteb.get_task("KorSTS")

desc_stats = task.metadata.descriptive_stats

{
    "test": {
        "num_samples": 1376,
        "number_of_characters": 80577,
        "unique_pairs": 1374,
        "min_sentence1_length": 6,
        "average_sentence1_len": 29.38953488372093,
        "max_sentence1_length": 98,
        "unique_sentence1": 1243,
        "min_sentence2_length": 8,
        "average_sentence2_len": 29.169331395348838,
        "max_sentence2_length": 100,
        "unique_sentence2": 1324,
        "min_score": 0.0,
        "avg_score": 2.6053539244186066,
        "max_score": 5.0
    }
}

This dataset card was automatically generated using MTEB

Downloads last month: 48

Size of downloaded dataset files:

790 kB

Size of the auto-converted Parquet files:

790 kB

Number of rows:

8,532