Update README.md
Browse files
README.md
CHANGED
@@ -1,27 +1,27 @@
|
|
1 |
-
---
|
2 |
-
license: apache-2.0
|
3 |
-
datasets:
|
4 |
-
- Shuu12121/python-codesearch-filtered
|
5 |
-
- Shuu12121/java-codesearch-filtered
|
6 |
-
- Shuu12121/javascript-codesearch-filtered
|
7 |
-
- Shuu12121/php-codesearch-filtered
|
8 |
-
- Shuu12121/ruby-codesearch-filtered
|
9 |
-
- Shuu12121/go-codesearch-filtered
|
10 |
-
- Shuu12121/rust-codesearch-filtered
|
11 |
-
tags:
|
12 |
-
- python
|
13 |
-
- java
|
14 |
-
- javascript
|
15 |
-
- php
|
16 |
-
- ruby
|
17 |
-
- go
|
18 |
-
- rust
|
19 |
-
- code
|
20 |
-
task_categories:
|
21 |
-
- text-classification
|
22 |
-
language:
|
23 |
-
- en
|
24 |
-
---
|
25 |
|
26 |
# multilingual-codesearch-hard-negativesV2
|
27 |
|
@@ -49,7 +49,7 @@ language:
|
|
49 |
|
50 |
## データセット作成方法
|
51 |
|
52 |
-
- **3
|
53 |
- 各クエリに対して、埋め込み空間内で**20件の近傍候補**をFAISS検索。
|
54 |
- その中から**5件のハードネガティブ**を選択(自身は除外)。
|
55 |
- コード/ドックストリングの埋め込みには [`Shuu12121/CodeSearch-ModernBERT-Crow-Plus`](https://huggingface.co/Shuu12121/CodeSearch-ModernBERT-Crow-Plus) を使用。
|
|
|
1 |
+
---
|
2 |
+
license: apache-2.0
|
3 |
+
datasets:
|
4 |
+
- Shuu12121/python-codesearch-filtered
|
5 |
+
- Shuu12121/java-codesearch-filtered
|
6 |
+
- Shuu12121/javascript-codesearch-filtered
|
7 |
+
- Shuu12121/php-codesearch-filtered
|
8 |
+
- Shuu12121/ruby-codesearch-filtered
|
9 |
+
- Shuu12121/go-codesearch-filtered
|
10 |
+
- Shuu12121/rust-codesearch-filtered
|
11 |
+
tags:
|
12 |
+
- python
|
13 |
+
- java
|
14 |
+
- javascript
|
15 |
+
- php
|
16 |
+
- ruby
|
17 |
+
- go
|
18 |
+
- rust
|
19 |
+
- code
|
20 |
+
task_categories:
|
21 |
+
- text-classification
|
22 |
+
language:
|
23 |
+
- en
|
24 |
+
---
|
25 |
|
26 |
# multilingual-codesearch-hard-negativesV2
|
27 |
|
|
|
49 |
|
50 |
## データセット作成方法
|
51 |
|
52 |
+
- **3行以上**のドックストリングを持つペアのみをフィルタリングし各言語ごとに最大10万件の関数レベルのコードを取得。
|
53 |
- 各クエリに対して、埋め込み空間内で**20件の近傍候補**をFAISS検索。
|
54 |
- その中から**5件のハードネガティブ**を選択(自身は除外)。
|
55 |
- コード/ドックストリングの埋め込みには [`Shuu12121/CodeSearch-ModernBERT-Crow-Plus`](https://huggingface.co/Shuu12121/CodeSearch-ModernBERT-Crow-Plus) を使用。
|