metadata

license: apache-2.0
datasets:
  - Shuu12121/python-codesearch-filtered
  - Shuu12121/java-codesearch-filtered
  - Shuu12121/javascript-codesearch-filtered
  - Shuu12121/php-codesearch-filtered
  - Shuu12121/ruby-codesearch-filtered
  - Shuu12121/go-codesearch-filtered
  - Shuu12121/rust-codesearch-filtered
tags:
  - python
  - java
  - javascript
  - php
  - ruby
  - go
  - rust
  - code
task_categories:
  - text-classification
language:
  - en

multilingual-codesearch-hard-negativesV2

このデータセットは、多言語コード検索タスク向けに設計された、ハードネガティブペアを提供します。
複数のプログラミング言語から収集した、フィルタ済みのコード／ドックストリング対を基に構成されています。

データセット概要

各サンプルには以下の情報が含まれます。

query_docstring: 関数やメソッドの自然言語による説明
positive_code: 対応する正しいコード実装
hard_negative_code: 類似しているが意味が異なるコード（FAISSによる近傍検索で選定）
similarity_score: クエリとハードネガティブ間のFAISS類似度スコア（内積／コサイン類似度）
付加情報: リポジトリ、ファイルパス、ライセンス情報、言語

対応言語

Python
Java
JavaScript
PHP
Ruby
Go
Rust

データセット作成方法

3行以上のドックストリングを持つペアのみをフィルタリングし各言語ごとに最大10万件の関数レベルのコードを取得。
各クエリに対して、埋め込み空間内で20件の近傍候補をFAISS検索。
その中から5件のハードネガティブを選択（自身は除外）。
コード／ドックストリングの埋め込みには Shuu12121/CodeSearch-ModernBERT-Crow-Plus を使用。
Pythonコードに対しては、マルチラインドックストリングを削除処理。

想定される用途

Cross-Encoderモデルのトレーニング（コード検索精度向上目的）
ハードネガティブマイニングによる検索性能向上
多言語対応のコード理解モデルのファインチューニング