# 2020 東京オリンピック参加者名簿の翻訳
## 佐藤 理史 $^{\dagger$}

本論文では，2020 東京オリンピック参加者名簿の翻訳支援の経験を報告する。オリンピック参加者名簿の翻訳は，そのサイズと対象となる国数の点において過酷である。これを軽減するために，人名翻訳支援システム「叔 2021」を実装した。このシステムは, 既訳辞書と 208 個の国別翻訳サブシステムから構成され, 国別翻訳サブシステムで必要となる各国用モデルは，「袷 2019」によって作成される。最終的な翻訳名簿と「綴 2021」の翻訳結果を突き合わせたところ,「綴 2021」の翻訳結果の採用

キーワード：人名翻訳，トランスリタレーション, 2020 東京オリンピック

## Translating the List of Participants in the 2020 Tokyo Olympic Games into Japanese

\author{
SATOSHI SATO ${ }^{\dagger}$
}

In this paper, I report on my experience supporting the production of a translated list of participants in the 2020 Tokyo Olympic Games using machine translation. Producing translated lists of the participants in Olympic Games events is difficult owing to the size and complexity of the games and the wide variety of participating countries. To address this challenge, I implemented a system to translate the names of specific persons called Tsuduri2021, which consists of a translation dictionary and 208 country-specific transliteration subsystems. Each of these subsystems comprises a transducer operating based on different country-specific models produced by Awase2019. The results of a comparison between the final translated list of participants and the output of the Tsuduri2021 system show that most of the computed results were actually used in the final list, including $90.4 \%$ of the full name translations and $94.0 \%$ of the single-name translations.

Key Words: Person-name Translation, Machine Transliteration, The 2020 Tokyo Olympic Games

## 1 はじめに

本論文では，自然言語処理システムの実社会応用の具体例として，筆者が行った 2020 東京オリンピック参加者名簿の翻訳支援の経験を報告する．実社会応用では，「ことば」が社会的存在であることを考慮したシステム設計・運用が重要となる.

オリンピック参加者名簿の翻訳とは，国際オリンピック委員会 (International Olympic Committee, IOC) から提供される名簿に含まれる，ほぼすべての参加者の氏名（アルファベット表記）に，カタカナ表記の訳を付与することである1。このタスクは，技術的にはトランスリタレーション (transliteration)の問題とみなされる. しかしながら，客観的な正解は存在しないため, システムが出力すべきものは，システムの利用者，あるいは，社会が納得するカ夕カナ訳となる。この点については, 次章以降で詳しく議論する。

本論文では，まず，第 2 章で，オリンピック参加者名簿翻訳というタスクを説明し，人名翻訳の本質について議論する。第 3 章では，翻訳支援に使用したシステム綴 2021 と，実際の翻訳支援作業の経過を示す。続く第 4 章と第 5 章では，綴 2021 とそれを支えるシステム袷 2019 の技術的詳細を示す.これらのシステムは, 準備段階で作成したシステム (安江他 2016; 安江,佐藤 2016; 佐藤 2017) に，改良を加えたものである，第 6 章では，システムの翻訳結果が実際にどの程度採用されたかを示すとともに，これらの一連の経験を通して得られた知見をまとめる. 最後の第 7 章では関連研究について述べる。

本研究の新規性は，オリンピック参加者名簿の翻訳という現実のタスクを実行するためのシステムを設計・実装し，そのタスクをどの程度うまく遂行したかを翻訳結果の採用率という形で示した点にある。

なお，本論文では，姓と名の組を表す用語として「氏名」を，姓または名を表す用語として 「名前」を用い「「氏名」と「名前」を総称する用語として「人名」を用いる.

## 2 オリンピック参加者名簿翻訳と人名翻訳

オリンピック参加者名簿翻訳には，人名翻訳自体の難しさと，オリンピック名簿固有の過酷さが存在する.

## 2.1 人名翻訳の難しさ

アルファベット表記の人名にカタカナ表記の訳を付与することは，技術的にはトランスリタレーションとみなされる。トランスリタレーションとは，ある言語の表記を，もっぱら発音に
^{1}$ 氏名を漢字で表記する国・地域の参加者を除く，具体的には，日本，中国，韓国，香港，台湾，
}
基づいて他の言語の表記に変換することである.

人名のトランスリタレーションには, 次の 2 つ難しさがある。 (1) はトランスリタレーション一般の, (2)は人名のトランスリタレーション固有の難しさである.

(1) 日本語の音で近似する必要がある

有名な例に，テニス選手の “Andy Murray” の姓をどのようにカタカナ表記するかという問題（いわゆる，マリー/マレー問題）がある。日本語にない音は，日本語のいずれかの音に近似する必要があるが，そこには自由度があり，訳者，あるいは，翻訳する組織の意向が反映される.

(2) 言語を同定できない

人名のアルファベット表記だけから，言語を推測するのは困難である。テキストとして非常に短い（ほとんどの場合， 2 語）だけでなく，同一表記の語が複数の言語に存在するからである．オリンピックやワールドカップなどのスポーツ大会の参加選手の人名を翻訳する場合，その人物の所属する国家はわかるのが普通であるが，国家から言語を一意に決定することはできない，多言語国家は数多く存在するとともに，婚姻や移民による国籍変更もある。

## 2.2 オリンピック参加者名簿翻訳固有の過酷さ

オリンピック参加者名簿翻訳固有の過酷さとして，次の 3 点がある.

(1) 対象人数が多い

具体的には, 2020 東京オリンピックの参加者は, 13,032 人であった.

(2) 対象とする国2の数が多い

具体的には, 2020 東京オリンピックの参加国は, 206 力国であった.

(3) 開幕直前まで名簿が確定しない

開幕の約 1 ケ月前から数回に渡って, IOC から参加者の候補リストが送られてくる（回を重ねる毎に更新される)，参加者がほぼ確定するのは開幕直前であり，その夕イミングで大量の人名を翻訳するのは時間的に困難であるため，前もって参加者の候補リストを翻訳しておく必要があるが，候補リストに含まれる候補者の数は，実際の参加者数よりもかなり多い（3.5節で具体的な数字を示す）。なお，大会期間中にも，選手の入れ替えはあるとのことである.

日本において，オリンピック参加者名簿を翻訳する主な組織は，(1) 放送局から委託をうけた NHK の関連会社と, (2) 2 つの通信社（時事通信社と共同通信社）である。ちなみに, 従前は, これら 3 組織は独立に翻訳を行っていたそうで，同一人物のカタカナ訳が 3 組織で一致しない

ものが少なからず存在したようである．東京オリンピック開催に合わせて， 3 者間でカタカナ訳のすり合わせが行われたと聞いているが，おそらくカタカナ訳の不一致の問題は，完全には解消されていないものと推察する.

## 2.3 人名翻訳の本質

人名は，その人物を特定する識別子としての機能を持つ，そのカタカナ訳は，その人物の日本語における識別子となるため, 同一人物に複数の訳が存在することは好ましくない。そのため，人名を翻訳する際には，まず，既訳の有無を確かめることが重要となる。

既訳が存在する場合 “Roger Federer”のような有名人の場合は既訳が存在し,「ロジャー・フェデラー」が定着している。このような場合の人名翻訳は，定着した既訳に合わせることが要請される。

しかしながら，すでに述べた “Andy Murray”のように，複数のカタカナ表記（「アンディ・ マリー」と「アンディ・マレー」) が広く使われる場合もある。 そのような場合は，そのどちらかに合わせることになるが，一方を採用することにしたならば，一貫してそれを採用する必要がある.

ここで注意したいことは，諸般の事情により，定着した訳が変更される場合があるという点である。よく知られた具体例は人名ではなく地名であるが,「グルジア」が「ジョージア」に,「キエフ」が「キーウ」に変更になったことは，記憶に新しい，すなわち，たとえ定着した訳であっても，それは永劫不変の絶対的存在ではない.

既訳が存在しない場合少数の有名人を除けば，既訳が存在しない人物がほとんどである．本当に存在しないかどうかは知る術はないので，探した範囲で既訳が見つからなかった場合は存在しないと判断する。既訳が存在しない場合, アルファベット表記からその発音を推測し，それを近似的に表すカタカナ表記を定める。そこには染意性が存在し，客観的な正解というものは存在しない.

だからといって, 任意のカタカナ表記を採用してよいわけではない. たとえば, “Brice Ottonello" というフランス (FRA)の選手の訳に「バンジャマン・ダビエ」を当てることはできない.「ブリス・オットーネロ」のように，それらしいカタカナ訳を当てることが要請される。

この訳が社会的に受け入れられば, 既訳として定着する。つまり, 既訳が存在しない場合の人名翻訳は，定着する可能性のある訳を新たに作ることである。たとえ，それが実際の発音と多少異なっていても，社会に受け入れられれば既訳として定着する。言い換えるならば, 定着した既訳とは，社会的に受け入れられた訳である。

以上をまとめると次のようになろう。人名翻訳の適切さは，社会的に決定される。

## 3 人名翻訳支援システム「綴 2021」

本プロジェクトは, 2020 東京オリンピックの参加者名簿の翻訳に関して, 時事通信社より協力の要請があり，それを受ける形で 2015 年に正式にスタートした．時事通信社の意向は，この翻訳作業を機械処理で軽減し，名簿全体の翻訳を実現したいというものであった 3.

## 3.1 基本方針

支援システムの設計にあたっては，以下に示す 3 つ基本方針を定めた.

(1) カタカナ表記の統制

日本語は表記に関して寛容な言語であり，カタカナ表記においては，いわゆる「表記ゆれ」が多数存在する. 外来語の表記のガイドラインとして, 平成 3 年 6 月 28 日の内閣告示二号「外来語の表記」(文化庁 2011) が存在するが，実際にはこのガイドラインを逸脱した表記が多数存在する。支援システムにおいては, 使用するカタカナ表記の範囲を厳密に定め, 出力するカタカナ訳を統制する. 具体的な統制方法は, 5 章で詳しく述べる.

(2) 既訳辞書を用いた翻訳

既訳辞書を整備し, 既訳が存在する場合は, 既訳を採用する.

(3) 国毎のトランスリタレータ

同一のアルファベット表記であっても，言語によってカタカナ訳が異なる場合がある. すでに述べたように，人名の言語はわからないため，国毎にトランスリタレータを用意し，訳し分けを実現する。

既訳辞書の整備 4 は，時事通信社が担当した，時事通信社の人名翻訳の基本方針は，「1 国 1 名前に対して，カタカナ訳はひとつ」である。つまり，国と名前が定まれば，カタカナ訳が一意に定まるように統制する。これは原則であり，すでに定着した既訳などは例外として扱う。この方針は，国毎のトランスリタレータの実現に好都合であった.

## 3.2 綴 2021 の構成

綴 2021 の構成を図 1 に示す. 綴 2021 は, 以下の要素から構成されている.

(1) 既訳辞書

過去に採用された翻訳の具体例を辞書化したもの. 氏名対訳辞書と名前対訳辞書の 2 種類の辞書から構成される。辞書のレコードは, 国名の情報（IOCコード）を持つ.

図 1 綴 2021 の構成

(2) 国別翻訳サブシステム

名前のアルファベット表記からカタカナ表記を推定するトランスリタレータ．国別翻訳サブシステムは, 全部で 208 個存在する。このうち 207 個は IOCコードに対応するサブシステムで，残りの 1 個は, 国名が不明の場合に使用するサブシステムである.

(3) 辞書翻訳モジュール

入力に対して既訳辞書を検索し，一致するものがあれば出力する．国名の一致は必須である。

(4) 訳語推定モジュール

入力された国名に基づいて国別翻訳サブシステムを呼び出し，訳語候補を 5 件出力する.訳語推定の単位は，名前（姓または名）である。

この構成で，次に示す 2 種類の翻訳支援サービスを提供する。

## 3.3 一括翻訳サービス

一括翻訳は，多数の氏名を一度に翻訳するサービスで，その入出力はエクセルファイルである. その形式を表 1 に示す. なお, ここで言及しない列も存在するが, 翻訳処理には関与しない.

(1) D, F，Gの 3 列が入力である

(2) H列は，翻訳処理の状況（ステータス）を以下の 4 種類で示す

完全一致氏名対訳辞書で翻訳でき，訳が唯一である

一致名前対訳辞書で姓と名の両方が翻訳でき, かつ, それぞれの訳が唯一である

表 1 一括翻訳の入出力形式

重複名前対訳辞書での翻訳に, 曖昧性（複数の訳）が存在する

推定姓と名のいずれかは，訳語推定された（「重複」よりもこちらを優先する）

(3) I, J列は，辞書翻訳の結果を示す

(4) K, L 列は, 以下の優先度で決定した暫定訳を示す

(a) 氏名対訳辞書での翻訳結果

(b) 名前対訳辞書での翻訳結果（複数訳がある場合は，一番頻度が高いもの）

(c) トランスリタレータによる 1 位の推定結果

(5) N , O, P, Q 列は，辞書翻訳における他の候補を示す

（6） R, S, T, U 列は，姓の訳語推定結果の 2 位から 5 位を示す

(7) W, X, Y, Z 列は, 名の訳語推定結果の 2 位から 5 位を示す

実用システムでは, 入出力の形式がシステムの利便性を大きく左右する。このため, 入出力形式の設計は非常に重要である。上記の形式は，実際に出力ファイルを利用して最終的な対訳名簿を作成する当事者とよく相談のうえ決定した。
- $\mathrm{H}$ 列（ステータス）は, 翻訳結果を見直す際に，翻訳処理の状況がわかるように導入した.
- $\mathrm{K}, \mathrm{L}$ 列（暫定訳）は，翻訳結果をそのまま採用する場合の作業を不要にするために導入

した。翻訳結果を修正する場合，この 2 列のみを書き換えればよいため，作業量は最小限で済む。

一括翻訳に要する時間は，翻訳する人名の件数に依存する， 3.8 万件の場合， MacBookPro (Apple M1, 16GB) で 5 分程度である.

## 3.4 ウェブサービス

ウェブサービスでは，ユーザーの入力に対して翻訳候補を提示し，訳語決定を支援するサー ビスである。複数の国を指定して，それらの結果を比較したり，国名から推定される言語を示す機能を持っている。すでに 2 章で述べたように，参加者情報は五月雨式に更新されるため, 一括翻訳以外の翻訳支援が必要となる.

図 2 に，ウェブサービスの入出力画面を示す。入力は, アルファベット表記の名前と, 国名 （最大 3 カ国まで指定可能）である。この例は，“Peter”を HUG（ハンガリー），GER（ドイッ）， CAN（カナダ）の 3 カ国を指定して翻訳する場合を示している。指定した 3 カ国以外に，国名が不明の場合の結果 (all)も表示される.

出力ページの上部には, 訳語推定の結果が示される。辞書翻訳で翻訳できた場合は, その結果も表示される。この例の場合, 名前辞書のハンガリー (HUG)の対訳に「Peter / ペテル」があるため，その情報が示されている。訳語の下に国名は，その対訳が存在する国を示している。

出力ページの下部には, 名前辞書の検索結果が示される. “Peter" の対訳は 9 力国に存在し,訳語の種類は 3 種類である。この部分の表示では, 国名から推測される言語も合わせて表示される。

## 3.5 オリンピック参加者名簿の実際

表 2 に, 本プロジェクトのタイムラインを示す。すでに述べたように, 本プロジェクトは 2020 東京オリンピックを見据えて，2015 年よりスタートした。

支援システムのウェブサービスは， 2016 年リオデジャネイロオリンピックに合わせて稼働させ，それ以降，オリンピック開催に合わせて更新してきた。東京オリンピックの翻訳スケジュー ルはタイトであることが想定されたため, 事前に入念に準備し，本番に備えた.

東京オリンピック・パラリンピックが 1 年延期されたため, 実際の作業は 2021 年となった. その後, 時事通信社から依頼があり, 引き続き北京オリンピック・パラリンピックの参加者名簿の翻訳を行った。

この表からわかるように, 東京オリンピック参加者名簿の 1 回目の一括翻訳は, 開催の約 3 週間前に実施した. この時点で翻訳数は, 38,200 件であり, 最終的な参加者の 2.9 倍である. すでに述べたように，時間的制約から名簿が確定する前に翻訳する必要があり，翻訳対象の人数は膨れ上がる。

Last Updated: July 02, 2021

## 經 外国人名のカタカナ表記推定

下記のボックスに入カされたアルファベット表記の外国人名（姓または名）の、カタカナ表記を推定します。

名前: Peter

国名:

国名をIOCコードで指定します。複数指定する場合は、コンマで区切ります。下のメニューで選ぶこともできます。

国名が不明の場合は、指定しなくても構いません。その場合は、全世界を対象に推定します。

国名 (0): all - 全世界 - (英語)

国名 (1): HUN -ハンカカリーーハンガリー奛

国名 (2): GERードイツードイ゙語

国名 (3): CAN ・カナダー英焐、フランス唔

カタカナ表記推定

(例) Peter

(例) USA,FRA,GER
-

句

(a) 入力画面

## 推定結果 - Peter

 & & & \\

## 辞書検索 - Peter

 \\

(b) 出力画面

図 2 ウェブサービスのインタフェース

表 2 プロジェクト・タイムライン

表 3 オリンピック・パラリンピックの参加者数と一括翻訳数

表 3 に， 4 大会の参加国数, 参加者数, 一括翻訳数を示す. この表から, 特に夏季オリンピックの参加者名簿の翻訳の過酷さが確認できる.

## 4 「経 2021」の技術的詳細

本章では，綴 2021 の技術的な詳細を示す.

## 4.1 辞書翻訳

辞書翻訳で使用する辞書は，以下の通りである。これらの辞書は，翻訳実行時には，リレー ショナルデータベース (SQLite3) に格納され, 検索される，辞書翻訳では, 国名の一致は必須とする.

氏名対訳辞書 28,816 レコード。各レコードは, 以下の 5 要素から構成される.

(1) 国名（IOC コード）

(2) 姓（アルファベット表記）

(3) 名（アルファベット表記）

(4) 姓（カタカナ表記）

(5) 名（カタカナ表記）

名前対訳辞書 40,050 レコード．各レコードは，以下の 4 要素から構成される.

(1) 国名（IOCコード）

(2) 名前（アルファベット表記）

(3) 名前（カタカナ表記）

(4) 頻度（氏名対訳辞書における頻度）

名前対訳辞書は，氏名対訳辞書から機械的に作成する。氏名対訳辞書では，姓と名を区別するが, 名前対訳辞書では, 姓と名を区別しない. 付録の表 8 に，対訳辞書の国別のサイズを示す.

## 4.2 訳語推定

国別翻訳サブシステムは， $\mathrm{MeCab}^{5}$ をトランスデューサー (transducer) として動作させることによって実現する。そのためには，動作を規定する MeCab 用辞書が必要となるが，この $\mathrm{MeCab}$用辞書をそれぞれの国に対して作成することにより，国別翻訳サブシステムを構成する。この $\mathrm{MeCab}$ 用辞書のことを，本論文では国別モデルと呼ぶ，国別モデルは全部で 208 個存在する.国別モデルをどのように作成するかは，5 章で述べる。

図 3 に，マレーシア (MAS) 用の翻訳サブシステムで “selvathamy” がどのように分解されて翻訳されるかを示す. 1 行目が入力で, 2 行目以降が出力である. “se/l/va/tha/m/by" の 6 単位に分解され，それぞれがカタカナに変換されて「セ/ル/バ/サ/ム/ビー」が得られていることがわかる。

## 5 「袷 2019」の技術的詳細

袷 2019 は，綴 2021 が必要とする国別モデルを作成するシステムである。 その構成を図 4 に
^{5}$ https://taku910.github.io/mecab/
}

図 3 MeCabによる訳語推定

図 4 袷 2019 の構成

示す. 国別モデルの作成は，大きく 2 段階に分かれる。第 1 段階では，国が不明の対訳デー夕から，国別モデルの作成基盤となるモデル（ベースモデル）を作成する，第 2 段階では，それぞれの国に対して，その国の対訳データを用いてべースモデルに再学習を適用し，国別モデルを作成する。これらのモデルの作成には, MeCabの学習機能と再学習機能を利用する.

$\mathrm{MeCab}$ の学習機能・再学習機能を利用するためには, それぞれの対訳を図 3 に示すような解析結果と同じ形式に変換する必要がある.この形式を学習用コーパスと呼ぶ. 対訳をこの形式に変換するためには，対訳のアライメント（部分対応）を推定する必要がある．このアライメントの自動推定が，袷 2019 の中核的機能であり，その実現には，カタカナ表記の統制と，独自のローマ字表記が重要な役割を果たしている.

## 5.1 カタカナ表記の統制

袷 2019 では, 規範的カタカナ列を厳密に定義している. 具体的には, 使用できるカタカナ 1 文字, カタカナ 2 文字 (通常のカタカナ 1 文字十小書カタカナ 1 文字), 記号 1 文字を定義し, それらの列に分解できるカタカナ列を規範的カタカナ列とみなす. 表 4 に, 使用できるカタカナ 1 文字・ 2 文字の一覧を示す。これらのそれぞれには, 独自のローマ字表記（絣式ローマ字） を定めている。このローマ字表記は，アライメントを決定する際に使用する.

表 4 は, 平成 3 年 6 月 28 日の内閣告示二号「外来語の表記」(文化庁 2011)の第 1 表と第 2 表のすべてのカタカナ列を含んでいる。これらに加えて，以下のものを追加している.

キェ, ギェ, グィ, グェ, グォ, ヒェ, ヴャ, ヴュ, ヴョ, ビェ, ピェ, ミェ, リェ, 二ェ,

$\cdot$ (中黒 $),=($ 等号 $),-$ (マイナス記号 $), \mid$ (縦棒) ${ }^{6}$

これらの選定に当たっては, カタカナ表記の人名における頻度, 規範的リストから除外した場合にどんな表記に変換（標準化）することになるか, 全体の一貫性などを考慮した.

袷 2019 は，規範的ではないカタカナ列を検出したり, それを規範的カタカナ列に自動変換 （標準化）する機能を有する。自動変換は，以下に従う.

（1）表 5 に示す変換表で変換できる場合は，この表に従って変換する.

（2）小書き文字の音が直前と同じ音の場合は，長音記号「ー」に変換する．ただし，直後が長音記号の場合は変換しない.

例 : 「キャシィ $\rightarrow$ キャシー」,「アルマルジアビィ $\rightarrow$ アルマルジャビー」

（3）それ以外の小書き文字は，通常の大きさの文字に変換する.

例 : 「ネグレァン $\rightarrow$ ネグレアン」,「クデャコフ $\rightarrow$ クデヤコフ」

## 5.2 アルファベット表記の統制

名前に含まれる大文字はあらかじめ小文字に変換する．名前のアルファベット表記は，以下の文字だけからなる文字列とする。

小文字 (a から z)，空白，ハイフン (-), アポストロフィ (')

## 5.3 アライメントの推定

名前のアルファベット表記（統制済）とカタカナ表記（統制済）のアライメントの推定を, 次の 3 ステップで行う.

(1) カタカナ表記をローマ字表記に変換する

（2）ローマ字表記とアルファベット表記のアライメントを決定する

表 4 袷 2019 が認めるカタカナ文字（1 文字と 2 文字）とローマ字表記

表 5 規範カタカナ列への変換表

（3）得られたアライメントを必要に応じて結合し，カタカナ表記とアルファベット表記のアライメントを完成させる

この処理の中核は, ステップ (2), すなわち, ローマ字表記とアルファベット表記のアライメントを決定する処理で，その出力は部分対応の列となる．袷 2019 では，規範的な部分対応として1,191 種類の部分対応を定義し，それぞれにスコアを付与してある．与えられた入力（ロー マ字表記の文字列とアルファベット表記の文字列）に対して，スコアの総和が最も大きい部分対応の列を動的計画法により求め，これをアライメントとして採用する. 1,191 種類の規範的な部分対応はすべて手作業で定義した. そのスコアは, 若干の例外を除き, 部分対応の両辺から自動的に計算される.

アライメントには，規範的ではない部分対応が含まれることも認める．ただ，規範的ではない部分対応のスコアは，規範的な部分対応のスコアよりも小さく設定しているため，そのようなアライメントが採用されることは少ない. 事実上, これは,「誤りの可能性のある」対訳を見つけるための機能である.

カタカナ表記とアルファベット表記のアライメントを直接決定するのではなく，ローマ字表記とアルファベット表記のアライメントを経由して決定するのは, 定義すべき部分対応の種類を減らすためである。このアライメント推定プログラムは，対象言語（原語）を問わない。そのため, 多くの種類の部分対応を定義する必要がある．部分対応の定義にカタカナを用いると，定義すべき部分対応の種類は，組み合わせ的に増大する.

ヘボン式ローマ字や訓令式ローマ字を採用しなかったのは, それらは子音字の一貫性に欠けるからである．たとえば，「サ」と「シ」の子音は明らかに異なる。加えて，それらのローマ字は，いわゆる 50 音に対してのみ定義されており，それ以外の単位（たとえば「クア」）には定義されていないからである，絣式ローマ字では，原則として子音字（大文字または数字 1 字で

表 6 定義されている部分対応の長さ

表す）の一貫性を重要視して設計した.

部分対応の定義を手作業で行ったのは，多くの言語に対応するためである．入手可能な人名対訳の量は，メジャーな言語ほど多く，マイナーな言語は少ない. そのため, 入手可能な対訳例から部分対応を推定すると，マイナーな言語で必要となる部分対応が十分に得られない．実際，機械学習による部分対応の推定は試みたが，満足できる結果は得られなかった.

定義した 1,191 種類の部分対応の両辺の長さ別の数を表 6 に示す. ローマ字側の長さが 1 の部分対応は，日本語の子音，または，母音に対する部分対応である。この表からも，部分対応の定義にカタカナを使用するのは得策ではないことが確認できる7．なお，例外的に長い対応は 「MoHaMaDo (モハマド) / mohd」で,これはひとかたまりとして捉えるのがよいと判断したため，部分対応として採用した。

## 5.4 学習用コーパスの形式

MeCab の学習機能と再学習機能を利用するために必要な学習用コーパスは, 名前対訳のアライメント結果から作成する ${ }^{8}$. 学習用コーパスの各行は, ひとつの部分対応に対応し, 以下に示す 9 属性から構成される。

(1) 部分対応のアルファベット側

（2）（1）の母音 $\cdot$ 子音字情報（v: 母音字, c: 子音字, X: 特殊文字）

(3) 部分対応のカタカナ側

(4) (3) の母音・子音字情報（v: 母音字, s: 半母音字, C: 子音字, 0: ン, Q: ッ, l: 長音記号, X:特殊文字）

(5) (3) の先頭の子音字列（半母音も含む）

(6) (3) の先頭の子音字

(7) (3) の末尾の母音字列

(8) (3) の末尾の母音字

(9) (3) の末尾の音タイプ ( $\mathrm{v}$ : 通常, l: 長音, q: 促音)

これらのうち, (1) と (3) が部分対応のアルファベット側とカタカナ側であり, それ以外の属性は，部分対応から計算する。

部分対応にどのような属性を付与するかは，学習における汎化性能に影響する．しかしながら，上記の設定で必要と思われる性能が達成されたため，それ以上の検討は行わなかった．実験的に確かめてはいないが，「どのような対応（単位）を部分対応として採用するか」の方が, 「部分対応にどのような属性を設定するか」よりも実行性能に与える影響がより大きいと思われる.

## 5.5 ベースモデルの作成

ベースモデルは， MeCabの学習機能を使って作成する。使用した対訳データは，過去の研究 (Sato 2009; 佐藤 2012) によって得られた, 国情報が不明の氏名対訳データ 276,311 件である. このデータを，まず，名前対訳データ 136,106 件 ${ }^{9}$ 変換し，次に，それぞれの対訳のアライメントを推定して学習用コーパスに変換し, MeCabのモデルを学習した。学習時に設定する CRF のパラメータは，実験的に調査した範囲では $C=0.4$ が最も良かったため，この值で作成したモデルをべースモデルとして採用した。なお，このべースモデルの作成は 2017 年に行った.

## 5.6 国別モデルの作成

国別モデルは, MeCabの再学習機能を使って作成する。この再学習機能は, 学習済モデルと少量の追加学習用データからモデルを再構築する仕組みである。学習済モデルとしては, 上記で述べたベースモデルを用い，追加学習用データとしては，名前対訳辞書に含まれるそれぞれの国の対訳データを用いる。

再学習においても CRF のパラメータが必要となるが, この値は, ベースモデル作成時と同じ $C=0.4$ を用いた. 208 カ国の国別モデルの作成は, MacBookPro (Apple M1, 16GB) で約 26 時間で完了する。そのため, 国別モデルの数の多さ（208 力国）は，特に問題とはならない.

## 6 検討

## 6.1 暫定訳はどのぐらい採用されたか

綴 2021 が出力した暫定訳は，実際にどのぐらい使われたのだろうか. 時事通信社から入手した 4 大会の最終対訳名簿と, 時事通信社に送付した綴 2021 の翻訳結果をつきあわせて採用率

（そのまま採用された割合）を算出した，対象としたのは，最終対訳名簿と綴 2021 の翻訳結果の両方に含まれる人名である。人名の同一性は，選手コード10の同一性で判定した. その結果を表 7 に示す. 氏名は延べ数 (人物単位), 名前は異なり数（国名，アルファベット表記の名前, カタカナ表記の名前の 3 つ組の単位）である。氏名の下位分類「完全一致，一致，重複，推定」 は， 3.3 節で述べた翻訳処理の状況に対応する．名前の下位分類「辞書，推定」は，辞書で翻訳したのか, トランスリタレーションで翻訳したのかを表す.

まず，東京オリンピックの結果に注目しょう，以下のことが観察される。
- 翻訳結果が訳語推定によるもの，すなわち，新たにカタカナ訳を付与しなければならない人名が, 氏名単位の翻訳では $69.6 \%$, 名前単位の翻訳では $59.8 \%$ を占めた. 既訳辞書は，前回までのオリンピックやメジャーな国際大会の参加者名簿などを元に参加者予想を加味して作成されているが，そのような既訳辞書を用いても，辞書のカバー率は $50 \%$ に届かない.
- 既訳の採用率は $100 \%$ ではない. 氏名単位では, 完全一致で $6.0 \%$, 一致で $4.8 \%$, 名前単位では $3.4 \%$ が修正された。これは，既訳がさまざまな事情（たとえば，他メディアとの

表 74 大会の暫定訳採用率

整合性）で修正されることを示している.

高いと言えよう。
- 訳語推定に限定した場合の暫定訳の採用率は, 氏名単位では $88.7 \%$, 名前単位では $92.3 \%$ である.この値も十分高いと言えよう.

これらの数值から，綴 2021 の翻訳支援は十分に役立ったと結論づけてもよいだろう。さらに，綴 2021 のトランスリタレータ（翻訳サブシステム群）は，実用的な性能を有していると判断してもよいだろう.

次に，他の 3 大会にも目を向けよう.
- パラリンピックはオリンピックと比較して辞書のカバー率が高い。これは, おそらく, パラリンピックの方が参加者を予想しやすいためと考えられる.
- 夏季大会に比べて冬季大会の採用率が低い. 特に北京オリンピックの採用率が低い.この理由は定かではないが，各国モデルの作成に使用した既訳辞書に由来する可能性（夏季と冬季の参加者数の違いが，既訳辞書にも反映されている）と，対象とする国に由来する可能性（カタカナ訳が難しい国が多い），あるいは，競技種目に由来する可能性（冬季はメジャーな種目が少ない）が考えられる。辞書翻訳の採用率も低いことを考慮に入れると, カタカナ訳の方針が安定していない国が多いということなのかもしれない.

## 6.2 得られた知見

本稿で報告したオリンピック参加者名簿の翻訳支援の経験から多くの知見が得られたが, そのなかで筆者が特に重要と思う 3 点を以下にまとめる.

(1) 現実の問題は, ベンチマークとは異なる

現実の人名トランスリタレーションでは，既訳が存在しない人名が対象となる。そこには正解は存在ぜず，トランスリタレータに求められることは，使用者や社会に受け入れられることが期待されるカタカナ訳（のひとつ）を作り出すことである.

これまで，トランスリタレータの性能は，既訳データから構成されるテストセットを用い, 既訳との一致率で評価されてきた. 既訳が存在する人名は, 本来はトランスリタレー ションの対象外の人名である（トランスリタレーションの対象となる人名の母集団には含まれない)，そのため，テストセットを用いたべンチマークは，現実の夕スクでどのぐらい役立つかを必ずしも正しく反映しない．現実のトランスリタレーション・タスクは,正解を当てるという問題ではない.

(2) カタカナ訳の設計が重要

一度に大量の人名にカタカナ訳を付与する場合, カタカナ訳全体の一貫性や統一性が求められる。そのため，それぞれの人名をどう訳すかを決める以前に，それぞれの国に対

してカタカナ訳のガイドラインを決めることがより重要となる。このガイドラインには， どれだけのカタカナを使用するか (たとえば，「ヴ」を使用するのかしないのか)，どのようなスペル・部分スペルにどのようなカタカナ表記を当てるか（たとえば，末尾の “vic" を「ビッチ」と訳すのか「ビク」と訳すのか) などが含まれる，今回のプロジェクトでは, カタカナ訳で使用できるカタカナ 1 文字・ 2 文字を定義し, 辞書および学習データのカタカナ表記を統制して，トランスリタレータが出力するカタカナ表記を統制した。このことは，トランスリタレーションを，ある種の設計問題として扱ったとも言える。 しかしながら，十分に統制が行き届かなかったという反省もある．特に，複数の語からなる名前，たとえば， “Andre Klippenberg”や “Andre-Pierre” のカタカナ訳をどうするかの設計が不十分であった ${ }^{11}$. アルファベット表記では, 前者のように空白で区切られる場合と，後者のようにハイフォンで区切られる場合があるが，既訳辞書には後者の形式は存在しなかった，前者の場合，時事通信社の方針に従い，綴 2021 は空白を無視して 「アンドレクリッペンベルグ」を出力するが，後者の場合はハイフォンを残し「アンドレー ピエール」を出力するようになっていた ${ }^{12}$ ，最終名簿では，後者はハイフォンを削除した 「アンドレピエール」が使われていたため，後者の推定結果は不採用に分類される。このようなハイフォン削除のみの修正は, 東京オリンピックの名前の修正数 897 件中 194 件 (21.6\%)を占めた.

(3) 安定したソフトウェアを使う

経 2021 と袷 2019 が利用している主要なソフトウェアは, Ruby, MeCab, SQLite3, ActiveRecordである。これらは安定しており， MeCab 以外は十分に保守されている。数年に渡るプロジェクトにおいては，安定したソフトウェア，よく保守されているソフトウェアを使うことが重要である。実際，綴の旧バージョンで使用していた辞書検索ツールが OS のバージョンアップで使用できなくなったため, SQLite3への変更を余儀なくされた.

## 7 関連研究

トランスリタレーションの自動化は, Knight らの先駆的な研究 (Knight and Graehl 1998) 以降, 多くの研究が行われてきた. 2010 年頃までの研究は, Karimi らのサーベイ (Karimi et al. 2011)にまとめられている。最近は, 我々の研究 (Jung and Sato 2018)を含め, ニューラルネッ卜を利用した実装 (Jadidinejad 2016; Grundkiewicz and Heafield 2018; Le et al. 2019) もある.

トランスリタレーションは，抽象的には，ある系列を別の系列に変換する系列変換問題と捉えることができる。トランスリタレーションでは，通常の翻訳とは異なり，変換前後で対応する部分列の順序が保存される。そのため, 系列ラベリング問題と捉えることもできる.

トランスリタレーション過程を具体的にどのようにモデル化するかには, 多くのバリエーションが存在する。それらのバリエーションを作り出す主要なポイントは, (1) 中間的な音素のレべルを明示的に導入するか否か, (2) 変換の最小単位をどのように設計するか, (3) 最小単位の変換が何に依存して定まると仮定するか，の 3 点である。これらを定め，その詳細と実装方法を定めると，具体的な手法が得られる。トランスリタレーションは，対象とする言語対に依存する部分も大きく, どのような方法が最適であるかの判断は, 容易ではない.

綴 2021 の方式は，変換過程ではアルファベット表記を直接カタカナ表記に変換するため, 中間的な音素レベルを経由しない（直接変換方式）しかし，最小単位は，音を強く意識した独自のローマ字表記を経由して定める（袷 2019）ため，音変換として完結した単位である．つまり，表面上は表記から表記への変換であるが，その変換の最小単位は，音に基づく変換となっている. 最小単位への分割と最小単位の変換は, MeCab, すなわち, bi-gram マルコフモデルに基づいて行われ，その確率は Conditional Random Field (CRF) によって訓練例から学習される。卜ランスリタレーションは MeCabで実行されるため，十分に高速である。

綴 2021 の大きな特徵は，入力として，原言語ではなく，国名を指定する点にある。これは， すでに 2.1 節で述べたように，人名のアルファベット表記だけから言語を推測することは困難であるという理由による。同時に，「1国 1 名前に対して，カタカナ訳はひとつ」という名簿翻訳の統制方針を実現するためでもある.

どのような学習方式を採用するにせよ，学習べースのシステムでは，どのような訓練例集合を用いるかが重要な要素となる。アルファベット表記 ${ }^{13}$ とカタカナ表記の人名対訳データとして， ウィキペディアから抽出したデータセットが公開されているが (Merhav and Ash 2018), その大きさは名前単位で 98,820 件であり，かつ，それぞれの表記は統制されていない．これに対して，綴 2021 は， ベースモデルの学習に，対象とする夕スク（オリンピック名簿の翻訳）の要請に合致するように表記を統制した訓練例 136,106 件を使用し, さらに，各国モデルの学習では，延べ 40,050 件の国別人名訓練例（既訳辞書）を使用している．トランスリタレーションの出力を統制するためには，訓練例を適切に統制することが不可欠である.

これまでのトランスリタレーションの研究では, 既訳データから構成されるテストセットを用いて性能を評価してきた. しかしながら， 2.3 節で述べたように，既訳が存在するならば，卜ランスリタレーションを適用する必要はない。つまり，このような評価は，本来対象とすべき母集団には含まれないデータを使って評価していることになる.

真にトランスリタレーションを必要とするのは, 既訳が存在しない場合である。本研究は, 才リンピック参加者名簿の翻訳という現実のタスクに対してシステムを設計・実装し，真にトランスリタレーションを必要とする人名に対して，システムのタスク遂行の程度を採用率という形で示した点に新規性がある。なお，採用率は，テストセットを用いてシステムの性能を測るベンチマークの指標ではなく，遂行した現実のタスクの事後評価の指標である.

ほとんどのトランスリタレーション研究では, どのような方式でトランスリタレーションを実現するかに焦点が当てられてきた．しかしながら，現実のタスクに対して実際に使えるシステムを作る場合は，その比重は小さい。それよりも，そのタスクが要請する仕様をどう満たすか，それに合わせて訓練例をどのように統制するか，使用形態を想定してどのようなサービスを提供するか，外部要因で定まるスケジュールを満たすために何をすべきか（十分な高速化と修正作業の簡便化）などが，より大きな比重を占める．現実の問題を解く場合は，このような要素を考慮して実現可能な解決策を見つける必要がある.

## 謝 辞

本研究に研究パートナーとして協力してくださった時事通信社の朝賀英裕氏に感謝します.本研究では, JSPS 科学研究費 21300094, 2650047 の成果を利用した.

## 参考文献

文化庁（編）(2011). 新訂公用文の書き表し方の基準（資料集）. 第一法規株式会社. [Agency for Cultural Affairs, Government of Japan (Ed.) (2011). Shintei Koyobun no Kakiarawashikata no Kijun. Dai-Ichi Hoki Co., LTD.].

Grundkiewicz, R. and Heafield, K. (2018). "Neural Machine Translation Techniques for Named Entity Transliteration." In Proceedings of the 7th Named Entities Workshop, pp. 89-94, Melbourne, Australia. Association for Computational Linguistics.

Jadidinejad, A. H. (2016). "Neural Machine Transliteration: Preliminary Results." arXiv preprint arXiv:1609.04253.

Jung, D. and Sato, S. (2018). "Country Adaptation in Neural Machine Transliteration of Person Names." In Proceedings of the 32nd Annual Conference of the Japanese Society for Artificial Intelligence, 2L4-04.

Karimi, S., Scholer, F., and Turpin, A. (2011). "Machine Transliteration Survey." ACM Computing Surveys, 43 (3), pp. 1-46.

Knight, K. and Graehl, J. (1998). "Machine Transliteration." Compututational Linguistics, 24

(4), pp. 599-612.

Le, N. T., Sadat, F., Menard, L., and Dinh, D. (2019). "Low-Resource Machine Transliteration Using Recurrent Neural Networks." ACM Transaction Asian Low-Resource Language Information Processing, 18 (2). Article 13.

Merhav, Y. and Ash, S. (2018). "Design Challenges in Named Entity Transliteration." In Proceedings of the 27th International Conference on Computational Linguistics, pp. 630-640.

Sato, S. (2009). "Crawling English-Japanese Person-Name transliterations from the Web." In Proceedings of the 18th International World Wide Web Conference (WWW-2009), pp. 1151-1152.

佐藤理史 (2012). 辞書の見出し語集合と代表性. 言語処理学会第 18 回年次大会発表論文集, B4-1, pp. 915-918. [S. Sato (2012). Jisho no Midashigo Shugo to Daihyosei. Proceedings of the 18th Annual Meeting of the Association for Natural Language Processing, pp. 915-918.].

佐藤理史 (2017). 言語処理システムをつくる. 近代科学社. [S. Sato (2017). Gengoshori Shisutemu wo Tsukuru. Kindai Kagaku Sha.].

安江祐貴, 佐藤理史, 松崎拓也 (2016). 外国人名のカタカナ表記自動推定システムの作成. 言語処理学会第 22 回年次大会発表論文集, pp. 825-828. [Y. Yasue et al. (2016). Gaikokujinmei no Katakana Hyoki Jido Suitei Shisutemu no Sakusei. Proceedings of the 22nd Annual Meeting of the Association for Natural Language Processing, pp. 825-828.].

安江祐貴, 佐藤理史 (2016). 外国人名カタカナ表記自動推定における各国適応. 人工知能学会第 30 回全国大会, 4B1-1. [Y. Yasue and S. Sato (2016). Country Adaptation in PersonName Transliteration. Proceedings of the 30th Annual Conference of the Japanese Society for Artificial Intelligence, 4B1-1.].

## 付録

## A 対訳辞書のサイズ

表 8 に，綴 2021 の氏名対訳辞書および名前対訳辞書の国別のサイズを示す.

表 8 対訳辞書の国別サイズ（国名は IOC コード）

#
略歴

佐藤理史 : 1988 年京都大学大学院工学研究科博士後期課程研究指導認定退学.京都大学工学部助手, 北陸先端科学技術大学院大学情報科学研究科助教授, 京都大学情報学研究科助教授を経て, 2005 年より名古屋大学大学院工学研究科教授. 博士 (工学). 言語処理学会, 人工知能学会, 日本認知科学会, ACM 各会員.

\author{
(2022 年 9 月 1 日受付) \\ (2022 年 11 月 29 日再受付) \\ (2023 年 1 月 16 日採録)
}


# コツを引き出す対話設定における オンライン料理インタビュー対話コーパスの構築

岡久 太郎 ${ }^{\dagger, \dagger+}$ ・田中リベカ ${ }^{\dagger,+\dagger \dagger}$ ・照玉 貴志 $^{\dagger}$ ・ Yin Jou Huang ${ }^{\dagger}$ ・

村脇 有吾 $\dagger \cdot$ 黒橋 禎夫 $\dagger$

インタビューは技能者からコツを引き出すための重要な対話形式の 1 つである．本研究では, 料理ドメインにおける技能者からインタビュアーが料理のコツを積極的 に引き出そうとしているインタビュー対話を収集したコーパス (CIDC) を構築した. CIDC は, 308 のインタビュー対話（1 対話あたり約 13 分), 約 6 万 4 千発話から構成される。対話収集には, ウェブ会議システムを用い, 参加者の表情と共有されて いる料理工程を示す写真を発話音声とともに収録した。また，全ての発話を音声認識によって書き起こし，人手で修正した。なお，技能者とインタビュアーのそれぞ れにおいて上級と一般の 2 つの熟達度の参加者を集めた．CIDCを活用することで，今後, インタビュー対話におけるコツの引き出し方に関する研究が進展することが 予想される.

キーワード：インタビュー対話，コーパス構築，マルチモーダル情報
## Domain Knowledge Elicitation in a Corpus of Online Interview Dialogues on Culinary Arts

Taro Okahisa ${ }^{\dagger, \dagger \dagger}$, Ribeka Tanaka ${ }^{\dagger, \dagger \dagger \dagger}$, Takashi Kodama ${ }^{\dagger}$, Yin Jou Huang ${ }^{\dagger}$, Yugo MuraWaki ${ }^{\dagger}$ and Sadao Kurohashi ${ }^{\dagger}$

Interviews are an efficient way to elicit knowledge from experts in different domains. In this paper, we introduce a corpus of interview dialogues on subjects in culinary arts called CIDC. In collecting this data, interviewers played an active role in eliciting culinary knowledge from cooking experts. The corpus consists of 308 interview dialogues, each about 13 minutes long, comprising a total of 64,000 utterances. We used a videoconferencing tool to collect the data, which included the content that the participants shared on their screens. This approach allowed us to classify the facial expressions of the interlocutors from the video data. We also categorized the experts as either professionals or enthusiasts and the interviewers as skilled or unskilled. We expect this corpus to facilitate future research on knowledge elicitation mechanisms in interview dialogues.

Key Words: Interview Dialogue, Corpus Construction, Multi-modal Information

## 1 はじめに

対話において，話し手の発話に対して聞き手が質問や確認を行うことで，モノローグにおいては表出しづらい情報を引き出すことが可能である. 本研究では, 対話のこのような機能に着目し, 特定分野の技能者からその技能者が持つコツをインタビューによって引き出すという設定を考え, そうしたインタビュー対話のコーパス構築に取り組む。なお, 本稿ではコツを以下のように定義する.

コツ自発的には言語化しづらい，特定ドメインに関する深い知識，感覚

管見の限り，インタビュー対話によって技能者からコツを引き出すという目的で構築されたコーパスは存在しない. このようなコーパスの構築は, 近年の産業界において課題となっている熟練者の技能伝承を支援する対話システムの開発に貢献する. しかし, 産業界の技術者の対話を直接収集し，大規模なデータを作ることは難しい，そこで，比較的多くの人がコツを有する料理に着目する 1 .

本研究では, オンラインビデオ対話において料理の技能者からインタビュアーが特定の料理の調理方法を聞き出すという設定で, 料理インタビュー対話コーパス (CIDC: Culinary Interview Dialogue Corpus) を構築した. CIDCは, 約 6.4 万発話の音声, その書き起こし, オンラインビデオ通話の画面映像のデータ（図 1）と対話者の情報，技能者から収集した料理に関する情報，インタビュアーが事前に考えた質問内容をまとめたメタデータから構成される.

インタビュー対話の収集にオンラインビデオ通話を利用したのは，視覚的情報が共有できる対面対話に近い環境で，時間的，金銭的コストを抑えた対話の収集が可能となるためである。日本語を対象とした既存の話し言葉対話コーパスのほとんどは, 電話会話を使用したものか (伝, フライ 2000)，参加者を実際に集め，その様子を録音・録画したもの(前川 2004; Fujimura et al. 2012; 伝, 榎本 2014; 小磯他 2019) である. しかしながら, 電話会話の場合は視覚的情報の共有ができないため, 指示語の使用が減少する等, 対面対話とは性質が大きく異なり, 参加者をスタジオ等に集めて対話を収録する場合は時間的・金銭的コストがかかる.

現在, COVID-19の世界的感染拡大の中で, 以前はオンラインビデオ通話を利用していなかった人々も様々なウェブ会議システムを使用するようになった。 オンラインビデオ対話であれば,参加者はいつも使っている自身の機器を用いて自宅から対話に参加することが可能である。 さらに, ウェブ会議システムを使用することで, 参加者はお互いの表情を見つつ, 画面共有機能で

 \\

a. 映像データ
b. 書き起こし

図 1 料理インタビューコーパスの例. 発話者の列の“E”は技能者を，“I”はインタビュアーを表す.

視覚的文脈を共有することが可能となり，電話会話よりもより通常の対話に近いコミュニケー ションを行うことができる。通信の遅延などのずれは生じうるものの，オンラインビデオ対話はこれらの視覚的情報を含めて対話の記録を行うことができる.

本稿では，技能者からコツを引き出すインタビュー対話コーパスである CIDC の構築方法とその詳細について述べる。2 節で関連研究について述べたのち，3節ではインタビュー対話の収集方法と書き起こしの方法について述べる。4 節では CIDC の統計と特徴について述べる。そして，5 節では全体をまとめ，CIDC の具体的な利用可能性について述べる。なお， CIDC は https://nlp.ist.i.kyoto-u.ac.jp/?CIDCにて公開中である2.

## 2 関連研究

これまでのインタビュー対話システム研究においては, インタビュイーの意見や趣味嗜好, 日常生活に関する情報の取得を目指したインタビューを対象としたもの (Stent et al. 2006; Johnston et al. 2013; Kobori et al. 2016; Inoue et al. 2020; 曽，中野 2021) やインタビュイーの精神状態や周辺環境について傾聴を行う医療目的のインタビューを対象としたもの (Gratch et al. 2014;

DeVault et al. 2014) が多い. そのため, 構築・公開されているコーパスに関しても, 上記の目的を対象としたものが多い.

情報取得を目指したインタビューコーパスの多くは，マルチモーダル情報を含んでいない.杉山他 (2016) は対話を通じた知識獲得の分析を目的として,「今頑張っていること」について学生に心理療法士が聞き取りを行った約 40 分間の対話音声を書き起こした傾聴対話コーパスを作成しているが，マルチモーダル情報は含まれていない。また，杉山らは今後の展望として対話数を増やすことを挙げているものの，収録対話数は 23 対話に留まっている．また，吉越他 (2021) では, 話題の追随に着目した対話システム構築のため, 聞き手が話し手から趣味を聞き出す雑談対話コーパスを構築している.この雑談対話コーパスはクラウドソーシングを用いたチャットによる対話コーパスであるため， 5,114 対話（1 対話あたり約 16 発話）からなる大規模なものであるが，画像のやりとり等は含まれていない. さらに, INTERVIEW (Majumder et al. 2020) や MEDIASUM (Zhu et al. 2021) といったニュースインタビューを対象とした大規模コー パスも構築されているが, これらも書き起こしデータのみを対象としている.

インタビュー対話の構造の分析には，テキストデータだけでなく，マルチモーダル情報（発話の音声特徵, 参加者の表情, ジェスチャー, 視覚的情報等) の存在が重要である. 特に本研究が目指しているコツを引き出すインタビューにおいては, 技能者が説明に悩んでいる表情や実際の手つきを模したジェスチャーがコツを引き出している箇所に多く見られることが予想される，そのため，CIDCではそれらの要素を含んだコーパスとなっており，コッの引き出し方を多角的に分析することが可能である.

一方, 医療目的のインタビューを収集したコーパスとしては, 花房, 荒木 (2021) のカウンセリング対話コーパスや Gratch et al. (2014)の DAIC 等が挙げられる. 花房, 荒木 (2021) では，ナラティブ・セラピーのワークショップで行われた 4 つのカウンセリングにおけるカウンセラー役と相談者役の発話の文章化データを対象に，カウンセリングにおける対話の進行段階を 5 つに分けた対話段階を各発話に付与したコーパスを作成している。また，DAICでは鬱病やPTSDの症状についての医療インタビューを，(i) インタビュアーとの対面の対話, (ii) インタビュアーとのウェブ会議システム上での対話, (iii) Wizard-of-Oz 法を用いた対話, (iv) 自動対話システムとの対話の 4 つの設定でマルチモーダル情報を含めて収集している. これらのコー パスでは，インタビュアーはカウンセラーとして対話に参加しているため, 傾聴対話としての特性が強く, 特定分野の技能者からコツを引き出すインタビューとは大きく性質が異なる.

以上のように，インタビュアーとの対話の中で技能者からコツが引き出されるような対話設定でマルチモーダル情報を含んだーパス構築を行っている研究はこれまでに見られない.

## 3 インタビュー対話の収集方法

## 3.1 対話設定

本研究では，技能者のコツがインタビュアーとの対話によって引き出されるインタビューを実現するために，タスクとして料理の得意な技能者に対して特定の料理の調理工程について尋ねる 2 者対話を設定した。

参加者は各対話において，技能者かインタビュアーのいずれかの役割で対話に参加した.

技能者料理のコッを有し，インタビュアーに対して，特定の料理の調理手順について説明する役割。事前に準備した料理の写真に対して大まかな説明を行った上で，インタビュアーの質問に答える形で，具体的な作り方や注意すべき点を説明する。

インタビュアー 技能者から料理に関するコツを引き出す役割. 事前に技能者が紹介する料理について，技能者から提供された資料に目を通し，対話の準備を行う.

なお，対話前に技能者とインタビュアーの双方に，技能者の役割は「自身の選んだある料理について写真をもとに手順などを説明」することであり，インタビュアーの役割は，「技能者の説明を聞きながら, 作業のコツなどのより詳細な情報を聞き出」すことであるとインタビュー の目的を明示している。

また，インタビューの収集コストとの兼ね合いで，プロレベルの技能者とインタビュアーだけでなく, 約半数は一般レベルの技能者とインタビュアーを募集した，技能者については，料理に関する仕事に従事経験がある者を上級技能者 ${ }^{3}$, 料理を趣味としているが，職業とはしていない者を一般技能者に分類した。一方，インタビュアーについては，人事面接など何らかのインタビューを実施した経験を持つ者を上級インタビュアー，そのような経験がない者を一般インタビュアーに分類した。なお, インタビュアーは自炊経験があるなど最低限の料理の知識を持つことを参加の必須条件にしている.

対話データの収集はデータ収集の専門業者に依頼し, この業者が参加者の募集と事前事後のアンケート等を含めたインタビューの監督を行った. 最初に暫定的な条件設定で 20 対話の予備収集を行い，その結果を受け，最終的な条件を定め，288 対話を本収集した．以下の記述では，予備収集と本収集の両者共通の条件は断りをつけず記載し，本収集で新たに設けた条件についてはその都度記載する。

## 3.2 対話前の指示内容

CIDCが想定しているインタビューは, 単なる調査インタビューやカウンセリングインタビュー とは異なり，技能者とインタビュアーの双方が技能者の持っているコツについて多く話すこと

ができるように事前に準備を行って取り組むものである。夕スク実行前の事前準備として技能者とインタビュアーに以下のような指示を行った。

まず，技能者に以下の 4 つの料理の情報を準備し, 提出するよう求めた.

(1) a. 料理タイトル: 紹介する料理のタイトル

b. 料理概要: 紹介する料理の概説（50 字程度）

c. 手順写真: 6-10枚の調理工程を説明するための写真

d. 自慢したい点（本収集のみ）：紹介する料理についての「自慢したい点（こだわり， コツなど)」(少なくとも1つ）を記述した文章. 対応する写真番号とともに報告を求めた.

実際に収集された料理の情報は図 2 のようなものである。

料理タイトル

鰯の梅肉ロール天ぷら

## 料理概要

梅肉にゴマ味噌風味をつけて、 さっぱり味付け。ぱりぱりの骨せんべいと一緒におつまみにぴったりです。

## 自慢したい点

5枚目：魚の身の巻き終りは梅肉を塗らない。

9枚目：魚の骨を二度揚げする。手順写真

a.「鮮の梅肉ロール天ぷら」の例

## 料理タイトル

白玉あんみつ

## 料理概要

なめらかもちもちな白玉団子と透明寒天、触感の楽しいおやつです。寒天はノンカロリーで食物繊維たっぷり、うれしい効果もおすすめです。

## 自慢したい点

3枚目：沸騰してからかき混ぜながら2分。

6枚目：水は少しずつ入れる。

8枚目：浮き上がってきたら2分。

## 手順写真

b.「白玉あんみつ」の例

図 2 実際に技能者から提出された料理の情報の例

さらに，技能者には以下のような指示を事前に行った.

（2） a. 写真を順番に表示できるように準備をしておく（出来上がり写真 $\rightarrow$ 手順の写真 $\rightarrow$ 出来上がり写真)

b. 手順の写真を表示しながら「まず野菜を切ります」「塩・胡椒をします」など，「何をしている場面か」を簡単に説明し，あとは質問を待つ.

c. 次の写真に進むタイミングはインタビュアーが示す. ただし, 技能者が説明し足りないことがあると感じた場合には，追加で説明を行って良い.

d. 話している最中, 写真に対象物が写っている場合には, マウスポインタで指し示しながら説明する。原則として，マウスポインタは見やすいように事前に拡大しておく.(本収集のみ)

(2a) から (2c) はインタビューの流れを統一するために設定した事項である。また, (2d) は予備収集の結果を受けて追加した事項であり, 指差しに相当するものとしてポインタの使用を明示的に指示したものである.

一方，インタビュアーには対話タスクの前に上記 (1a), (1b), (1c)の 3 つの情報を与えた上で,以下の指示を事前に与えた.

（3） a. 事前に料理タイトル，料理概要，手順写真を予習し，質問の内容とタイミングをイメージしておく.

b. インタビュアーが進行役をつとめる. 技能者は最低限の手順しか説明しないので, それ以上の説明を引き出すよう質問する。次の写真に進むタイミングもインタビュアーが示す.

(3a)の指示に関して, 本収集では事前に「良い質問のタイプ」を教示し，1つ以上の質問内容とその質問を何枚目の写真で行うつもりか事前に著者らに報告させ，その内容をインタビュー 中に聞くように求めた。この指示は, 実際のインタビューを想像しながらインタビュアーが予習を行えることを目的として設定したものである。

「良い質問のタイプ」とは，予備収集の結果を受けて，インタビュアーが技能者からより深いコツを引き出せるよう作成した 11 個の質問方法とその例を載せた資料である（図 3). 本研究では，技能者が自発的には言語化しづらい知識，感覚を引き出すようなインタビュー対話を実現することを目的としている。そのため, 技能者が自発的に言語化可能な内容（例えば，レシピにも書かれるような内容）のみを尋ねるのではなく，対話の中で技能者自身にも気づきを与える対話となることが望まれる。しかし，予備収集では，技能者がスムーズに説明を行い，インタビュアーはそれに相桘や反応を返す対話になってしまうことが多かった，そこで，本収集で追加したこの資料では，「相手（技能者）が答えにつまりそうな質問」や「相手自身も意識し

この資料は、相手（技能者）が答えにつまりそうな質問の仕方をまとめたものです。相手自身も意識していなかった料理のコツを聞き出せるよう、この資料を参考に質問を考えてみてください。

1. 調味料や材料の分量・重さ、募込み時間などの数値的な情報を質問する

・「お奨油は小さじ何杯くらいですか」

・「何分ぐらいで火を止めますか」

2.「とろみ」「こんがり」「まとまってきたら」などの抽象的な表現について、客観的に判断する手がかりを質問する

・技能者 :「とろみが出てきたら火を止めます」

インタビュアー：「とろみが出てきたのをどうやって判断したら良いでしょうか」

3. 同じ材料・器具がないときはどうするのかを質問する

・「黒酢がないときは、どうしたら良いでしょうか」

4. 食材の下準備の説明が省略される傾向にあるので、あえて質問する

・「お野菜はどうしてこの切り方をしたのですか」

・「どうして塩をかけるのですか」

5. 写真に映っているのに技能者が特に説明しなかったものを見つけ、それについて質問する

6. 技能者から説明を引き出したら、もう一歩踏み込んで、それが良いことなのかも質問する

・インタビュアー：「ネギは、青いネギじゃなくて白いネギですね」

技能者:「はい、白いネギの青いところと白いところを両方入れました」

インタビュアー：「その方が美味しいのですか」

7. ポイントを率直に尋ねる

・「何かこつはありますか？」

・「気をつけるべきことはありますか？」

・「難しいところはどこですか？」

8. 避けた方が良いことや、失敗経験を質問する

・技能者：「鯛の代わりに、他の白身魚やホタテでも良いですよ」

インタビュアー：「良いですね。逆に、イマイチなものってありますか」

9. 反対の意見や、否定的な意見を投げかけてみる

・「ピーマンを入れると、子どもが食べないんじゃないでしょうか」

10. 自分なりの仮説を立てて質問する

・「砂糖の代わりにみりんを使うときも、同じ分量を入れたら良いでしょうか」

11.はい・いいえで答えられる質問を、「どうして」「どうやって」と相手に話させるような質問に言い換える

・「切り方はもつと小さくても良いですか」を「どうしてこの大きさに切ったんですか」と言い換える

・「これ、イタリアンパセリじゃなくても大丈夫ですか」を「イタリアンパセリがないときはどうしていますか」と言い換える

図 3 インタビュアーに教示した「良い質問のタイプ」

ていなかった料理のコツを引き出」すといった目的を明示し，インタビュアーと技能者の対話がレシピにも記載されるような内容を尋ねるのみに留まらないようにした.

「良い質問のタイプ」作成においては，予備収集の対話における以下の 3 つの場面に着目し， その際にインタビュアーがどのような質問をしていたのかを調査し, 一般化した.

・ 技能者の発話にコツが含まれていると思われる場面

・インタビュアーがもう少しでコツが引き出せたのではないかと思われる場面
- 「うーん」という発話や目線を外すような仕草によって技能者が回答の内容を考えながら話している様子を見せた場面

技能者に提出を求めた (1) の料理の情報とインタビュアーに事前に提出を求めた質問内容は,料理の情報として本コーパスに含まれている.

## 3.3 対話の収録方法

インタビューにはオンライン会議システムの Zoomを使用した。参加者は外付け，またはコンピューターに内蔵されたカメラとマイクを使用し, 画面共有機能によって技能者側の画面を共有した状態で対話を行った（共有画面についての詳細は後述），録音・録画に関してはZoom の録画機能を利用し，音声，カメラの映像，共有された画面の全てを記録した．それぞれの参加者は, 各対話タスクの前に最大 5 分程度の練習を個別に行った（具体的な手順については付録 A)．1つの対話は 15 分程度で終了するように，時間超過が予想される場合はチャット機能によって合図が送られた。

## 3.4 対話終了後のアンケート

対話タスクの終了後, 技能者とインタビュアーのそれぞれに以下の事項についてアンケートを実施した。

(4) a. コミュニケーションはスムーズだったか

b. インタビュアーが技能者からコツをうまく聞き出したか

c. 自身が料理の知識や技能を持っているか5 （インタビュアーのみ）

d. インタビューの感想

5 件法で回答を求めた $(4 \mathrm{a}),(4 \mathrm{~b}),(4 \mathrm{c})$ は「1. そう思う」「2. ややそう思う」「3. どちらでもない」「4. あまりそう思わない」「5．そう思わない」の選択肢から 1 つを選ばせた。 なお， (4c) はインタビュアーが専門的な立場から質問を行っているのか, 一般の立場からコツを引き出すこ

とを試みているのかを判断するために実施した項目である．最後に， (4d)のインタビューの感想は，「その他，感想や印象に残ったこと，お気づきの点などがありましたら自由にお書きくたさい.」と指示し，無回答での提出も許容した.

## 3.5 対話データの書き起こし

専門業者に依頼し，人手によって全ての対話デー夕の発話内容を発話者，開始時間，終了時間とともに書き起こした．発話の単位は 500 ミリ秒以上のポーズを基準とし, 同一話者の発話であっても間にポーズが入る場合は異なる発話として書き起こしを行った. 書き起こし手順として，最初に音声認識システムの AmiVoice $^{6}$ を用いて自動書き起こしを行い，それを人手で修正した。書き起こしは，技能者からコツを引き出す際に観察される発話の内容を検討するためのデータとすることを目的としている，そのため，参加者の発話内容そのものに焦点を当て，相槌や笑いは最小限の書き起こしに留めた。具体的には付録 Bに記載の方針を採用し，疑義が生じた場合はその都度協議の上で書き起こしを実施した。

## 4 コーパスの構築結果と分析

## 4.1 コーパスの統計

料理インタビュー対話コーパス (CIDC) は 308 件の対話からなる.コーパス全体に関する統計情報は表 1 の通りである．総語数，発話数ともに技能者がインタビュアーよりも多いのは，事前に両者の役割を設定し，インタビュアーが技能者からコツを引き出すよう指示した効果であると言える。

表 1 収集されたインタビュー対話全体の統計。単語数については,フィラーと言い誤りを取り除き, Juman++ (Tolmachev et al. 2018) を用いて形態素解析を行った. 発話数については, フィラーや言い誤りのみで構成される発話以外の数を示す.
^{6}$ https://www.advanced-media.co.jp
}

a. (4a) コミュニケーションはスムーズだったか

b. (4b) コツをうまく聞き出したか

図 4 インタビュー後のアンケート $(4 \mathrm{a})$ と (4b) に対する回答の分布.

対話タスク実施後に行ったアンケートの結果を図 4 に示す. (4a)の「コミュニケーションはスムーズだったか」という問いでは, 技能者の平均值が 4.64 であり, インタビュアーの平均値が 4.25 であった．回答の分布を見ても，技能者とインタビュアー共に $85 \%$ 以上が「5．そう思う」と「4. ややそう思う」を選択している.

(4b)の「コツをうまく引き出していたか」という問いでは，技能者の平均值が 4.62 であり, インタビュアーの平均値が 4.07 であった，回答の分布を見ると，技能者は約 $90 \%$ が「5. そう思う」と「4. ややそう思う」を選んでいる．インタビュアーは，「5. そう思う」と「4. ややそう思う」を選んだのは約 $75 \%$ であり，約 $20 \%$ 「3 . どちらでもない」を選んでいる．インタビュアーは，あらかじめ技能者からコツを聞き出すよう指示されていたことにより，厳しい自己評価をしていると考えられるが，全体としては参加者自身がコツを引き出すインタビューができたと感じていると言える.

さらに，インタビュアーのみに実施したアンケートである (4c)の「自身が料理の知識や技能を持っているか」については，平均値が $2.48(\mathrm{SD}=1.09)$ であり，約 6 割が「1. そう思わない」 か「2.あまりそう思わない」を回答していた。この結果から，インタビュアーは専門的な立場から質問するのではなく，あくまでも一般の立場からコツを引き出そうとすることが多かったことが分かる.

最後に， $(4 \mathrm{~d})$ のインタビューの感想については，表 2 のような感想が集まった. 技能者の回答にはインタビュアーに対する好意的な意見が多く見られ，インタビュアーの回答には自身がインタビュー中に聞けなかったポイント等の反省点が多く見られた。

インタビュー参加者数は 26 人 (男性: 5 名, 女性: 21 人; $20 \sim 29$ 歳: 1 人, $30 \sim 39$ 歳: 5 人, 40 ～ 49 歳: 12 人, $50 \sim 59$ 歳: 8 人）であり, その内訳は表 3 の通りである. 3.1 節で述べたように,参加者それぞれに技能者とインタビュアーの 2 つの役割を設定した．技能者の役割でタスクに参加したのは 17 人，インタビュアーの役割でタスクに参加したのは 17 人であるが，そのうち

} & 技能者 &  \\

表 2 アンケート $(4 \mathrm{~d})$ の回答例

表 3 役割・熟達度ごとの参加者の内訳. ×はその役割では不参加だったことを表す.

表 4 参加者の熟達度ごとの対話数の内訳

8 人は両方の役割で参加しているため，夕スク参加者の合計は 26 人である．技能者のうち上級技能者は 8 人，一般技能者は 9 人であり，インタビュアーのうち上級インタビュアーは 8 人，一般インタビュアーは 9 人であった。また, 参加者の属性ごとの対話数は表 4 の通りであった.

インタビューにおいて紹介された料理は 152 種類であった．紹介された料理を主食，主菜，副菜，デザート，その他に分類すると分布は図 5 のようになり，各分類の例は表 5 に挙げた

また，本収集で集めた 288 対話から無作為に選んだ 30 対話において，「良い質問のタイプ」 を読んだインタビュアーに事前報告させた質問内容が実際にインタビュー内で質問されているかを調査した。その結果，事前に報告された質問の数は 1 対話あたり平均 $3.07(\mathrm{SD}=1.78)$ であった。その質問のうち，インタビュアーが実際に対話中で技能者に尋ねた質問の数は平均 2.52 $(\mathrm{SD}=1.57)$ であった．また，インタビュアー側から質問したかどうかに関わらず，事前に報告された質問の回答となる内容に技能者が言及していた数は平均 $2.93(\mathrm{SD}=1.74)$ であった。これらの結果から，インタビュアーが事前に用意した質問に関してその回答となる内容をほぼ引き出すことが出来ていたことが分かる.

## 4.2 ウェブ会議システムを用いた影響

CIDC の特徴の一つは, ウェブ会議システムの Zoom を用いて収録を行ったという点である. ウェブ会議システムは，対話相手の表情が見えるだけでなく，画面の共有機能によって同一の視覚的コンテクストを参照することができる。その一方で，顔以外の対話相手の様子を観察できない点や, 画面共有されている視覚的コンテクストに直接的な働きかけができない点は対面形式の対話には見られない制約である。このようなビデオ通話独自の問題について，参加者は柔軟に対処することができていた。

まず，対話相手の顔しか見えないという制約には，ジェスチャーが必要となる箇所ではカメラに映る位置に手を持ってきて，ジェスチャーを行うことで対処していた．(5) はその一例であり，技能者が発話の太字部分でケーキの型の底部分が持ち上がることを表すジェスチャー（図 6a）とケーキ自体が取り出せることを表すジェスチャー（図 $6 \mathrm{~b} ） を$ 行っている.

 \\

表 5 料理の分類の例図 5 紹介された料理の内訳

a. ケーキ型の底部分が持ち上がるジェスチャー b. ケーキが取り出されるジェスチャー

図 $6(5)$ のインタビュー中に見られたジェスチャー

(5)「スフレチーズケーキ」（Interview_43: 00:00:28.9-00:00:49.6; 図 6)

8 I ：底が、底が取れるっておっしゃられました？

$9 \mathrm{E}$ ：はい。(あ) そうなんです。(あのー) スフレって（えーと）フランス語で泡っていう意味なんですけれども、とてもふわふわとして型から（え一）取り出しにくいので、この（そそ）底ですね、底が（こー）持ち上がるようになっていて、ケーキがそのまま

10 I : (へー)。

$11 \mathrm{E} ：$ 取り出せるような型を使っています。

次に，画面共有された視覚的コンテクストへの働きかけについては，マウスカーソルを動かすことで指差しに相当する指示を行っていた．（6）はその一例であり，太字部分でマウスカーソルを円を描くように動かしている。ここでは，インタビュアーが加熱用の生牡蠣を加熱済みの牡蠣と誤解しており，技能者はその説明を行っている。発話 26 で「これ生ガキなんですけど」 と言いながら，写真のパッケージに書かれている「生かき」という文字の上でカーソルを動かし（図 7), その後, 発話 26 から発話 32 にかけて「加熱調理用」という文字上にカーソルを移し，その説明を行っている。

（6）「牡蠇と鮭のチャンチャン焼き」（Interview_177: 00:01:21.100-00:02:03.550; 図 7）

$24 \mathrm{E}$ ：（んでー）基本的に火通す料理のときは加熱調理用の方, 使ってもらった方がいいかなと思います。

25 I ：（あ）なるほど.もう加熱してあるものの方が，

図 7 (6) の発話 26 に見られたカーソルの動き. 図中に示したように，「生かき」の文字上で円を描くようにマウスカーソルが動かされている。
$26 \mathrm{E}$ ：いいえ（えーと）そうでは，そうではなくてですね，（えーと）これ生ガキなんですけど,

27 I ：おすすめということです.

$28 \mathrm{E}$ : （えと）ここにですね，

29 I : はい.

$30 \mathrm{E} ：$ 加熱調理用ってかい.

31 I : はい.

$32 \mathrm{E}$ ：（？）これは火を通して食べてくださいという意味なんですけど，

以上のように，ウェブ会議システムの利用において問題となりうるジェスチャー使用や視覚的コンテクストへの働きかけは柔軟に対応されている。これは, COVID-19 の感染拡大に伴うウェブ会議システムの普及によって，対話参加者がビデオ通話という形式に慣れ親しんできていることも影響していると考えられる.

## 4.3 参加者の熟達度による影響

3.1 節で述べたように，熟達度に応じて技能者を上級技能者と一般技能者に，インタビュアー を上級インタビュアーと一般インタビュアーに分けたが，インタビューの内容そのものからは熟達度に応じた大きな差異は見出せなかった。

技能者とインタビュアーの熟達度ごとの総語数と異なり語数を表 6 に示す.テキスト中に使用されている語彙の豊富さを表す指標である Uber 指標 (Dugast 1978, 算出方法は付録 C 参照) を見ると，上級技能者と一般技能者，上級インタビュアーと一般インタビュアーの間に大きな差は見られない。また，語られている発話内容に関しても上級と一般との間に大きな質的差異は見られなかった。

なお, 発話の内容そのものではなく, 技能者の発話末尾に見られる語用論的特徴に熟達度による差が見られた。具体的には，調理手順の詳細や意図について質問された際，上級技能者は断言する形式での回答が多かったが，一般技能者の場合は「〜と聞きました」「〜だそうです」「多分〜と思います」「〜と言われています」などと断言を避ける回答が多く見られた. (7) は一

表 6 技能者とインタビュアーの熟達度ごとの総語数, 異なり語数, Uber 指標.

a. 料理完成写真

b. (7) の対話中の映像

図 8 「エビとレンコンの春巻き」に関する情報

般技能者と一般インタビュアーの対話であるが，春巻きを一度に揚げる本数について発話 249 で「と聞きました」という形の伝聞体が用いられている.

(7)「エビとレンコンの春巻き」（Interview_108: 00:10:02.200-00:10:21.050; 図 8)

$244 \mathrm{E} ：$ これは（あの） 4 本が限界なので，

245 I ：（あ）入る分を順番に揚げていくような感じで.

$246 \mathrm{E}$ : (?) です.そう,はい.はい.

247 I : (あ).

248 I : くまだ>.

$249 \mathrm{E}$ ：揚げました．はい．たた（あの一）もしフライパンとか一気に入るのであれば，その方がいいと聞きました（あの一）一気に揚げたほうが.

語用論において, このような発話内容の真偽を曖昧にする表現はへッジ (Hedge) と呼ばれている、へッジがない発話は話者の観察や論理的思考を通して得た知識に基づくものであるが, ヘッジがある発話はそのような確固たる知識がなく，推測に基づく発話が多いと指摘されている (Prince et al. 1982). 上級技能者の発話にヘッジが少ないのは, 彼らが料理を職業としていた経験があるため，一般技能者以上に様々な種類の料理を数多く作ってきた経験によるものであると考えられる。

## 4.4 コツが引き出されたか

3.2 節で述べたとおり，技能者が単に手順を説明するのではなく，インタビュアーが技能者から料理のコツを聞き出すというインタビューの目的を技能者とインタビュアーが互いに理解

し，その準備をした上で対話する設定を採用した。この対話設定により，CIDCではインタビュアーが効果的にコツを引き出している場面が多く見られた。その詳細な分析は今後の研究に譲り，ここでは「良い質問のタイプ」で事前に提示した以外の手法でインタビュアーがコツを引き出している場面の中で効果的であると思われる 2 つのパターンを紹介する.

パターン 1 は，直前に技能者が発言した内容をインタビュアーが繰り返したり，言い換えたりするというものである．繰り返しや言い換えは，対話でトラブルが生じた場合に修復の開始を示す機能 (Schegloff et al. 1977; Schegloff 1997)や，傾聴対話において相手への共感を示す手法として知られている (榆木 1989 ; 三島, 久保田 2003; ホールファミリーケア協会 2004). 一方,今回のインタビュー対話においてはトラブル修復や共感を示すのではなく，それによって技能者がコツに関する詳細な内容を語るという場面が見られた。

(8)「セロリ多めのラグーソースのパス夕」(Interview_56: 00:06:41.150-00:07:41.050; 図 9)

$88 \mathrm{E}$ : はい.こちらは先ほど（あの一）大きく（あの一）（ま）切り分けたニンジン， セロリ，にんにく，玉ねぎを，もう一度に（ふ）（あの一）フードプロセッサー の容器に移しまして，かける準備をしているところです。

$
\text { 中略（約 } 16.5 \text { 秒） }
$

$95 \mathrm{E} ： 3$ か 4 ぐらいに合わせていただい, もう1分も回さないうちにみじん切りができますので，あまり細かくなり過ぎるとピューレになってしまいますので， それには気をつけてみじん切り程度

$96 \mathrm{E} ：$ で終わるようにスイッチを切っていただく.

97 I ：（あーあー）（えっと）（ん）（み）みじん切り, みじん切り程度が目安っていう感じですかね？

a. 料理完成写真

b. (8) の対話中の映像

図 9 「セロリ多めのラグーソースのパス夕」に関する情報
$98 \mathrm{E}$ ：そうですね．ちょっと粒が（あの一） 2 ミリ角ぐらいで残る程度が，野菜の (こー）食感も楽しめると思います.

99 I : (はーはーはー).

100 I ：（あ一あー）なるほどな.（な）なるほど。（えっと）かけすぎに注意っていうことですよね. もう完全にドロドロになってしまうとまずいっていう.

$101 \mathrm{E} ：$ そうですね。はい.

発話 95 で技能者が「みじん切り程度」と言ったのに対し，インタビュアーは領きながらその話を聞いているため, この箇所に対話上のトラブルは見られない. しかしながら, 直後の発話 97 で「みじん切り, みじん切り程度が目安っていう感じですかね？」と繰り返しによる確認の発話を行っている. これにより, 発話 98 で技能者から具体的な野菜の大きさ（「2 ミリ角ぐらい」)とその目的（「野菜の（こー）食感も楽しめると思います」）について引き出すことができている.

もう1つのパターンは，インタビュアーが自身の経験に言及し，具体的な状況を設定，提示することによって, 技能者から細部についての説明を引き出すというものである. 傾聴対話においては，話し手の発言を受けて聞き手側が自己開示をする（e.g. 「私も○○なんです」）ことで, 話し手は自身の話に対して聞き手がより共感や理解をしてくれていると感じることが報告されている (石田他 2018)。一方, 今回収集したインタビュー対話においては, 技能者の話を受けたインタビュアーの自己開示ではなく, むしろ話の起点として自身の経験について語るというパターンが見られた。

(9)「生シラスのふっくらかき揚げ」(Interview_145: 00:10:34.250-00:11:28.450; 図 10）

177 I ：（ふーん）（で）何か（この）揚げているときのコツとかってありますか？ $178 \mathrm{E}:$ (あ).

a. 料理完成写真

b. (9) の対話中の映像

図 10 「生シラスのふっくらかき揚げ」に関する情報
$179 \mathrm{E} ：$ 揚げているときのコツですね.

$180 \mathrm{E}$ : (えーと)

$181 \mathrm{E} ：$ 揚げているときの（こ).

182 I ： 例えば, 私, よく(あの一) 何か (こー) 心配で, できているのかなって, (こー)菜箸でぐしゃぐしゃぐしゃ,

183 I ：やったりしてしまうんですけど，（な）（な）(な）.

$184 \mathrm{E}:(?)$.

$185 \mathrm{E}$ ：そうですね。つまり，なるべく（あの一）なるべく触らないように。

186 I ：（あー）やっぱりそうですか.

$187 \mathrm{E}:(?)$.

$188 \mathrm{E}$ ：片面を揚げましたら，（えーと）なるべく触らないようにそのまま（え一） じっくり火を通して，また裏返して，その後も（あの一）ほとんど触らないように，（え一）形がくずれないように揚げていって，（で）最終的に（あの -)

$189 \mathrm{E} ：($ えーと）バットに上げるときに，油をしっかり（こー）

$190 \mathrm{E}$ ：切るというのが，（あの）カリッとふわっと仕上がるコッかなと思いますので.

上記の例では，発話 177 でインタビュアーが漠然と「揚げている時のコツとかってありますか？」と質問したため，発話 178 から発話 181 にかけて，約 6 秒間，技能者が回答に窮している。これを見たインタビュアーは，発話 182 で「例えば」と切り出し，自身が揚げ物を行う際に失敗した事例を挙げることで，技能者から発話 185 以降の揚げる時に気をつけるべき点を引き出している.

以上の 2 つのパターンは傾聴対話において見られる，相手への共感や話を聞いていることを示す「繰り返し・言い換え」やインタビュアーの自己開示としての「自身の経験を語ること」とは性質を異にする。これらのパターンは，コツを引き出すことを目的とした対話設定によって生じたものであると考えられる.

## 5 おわりに

本稿では，技能者から知識を引き出す対話システムの構築に向けた料理ドメインにおけるインタビューコーパス CIDC の構築について報告した. CIDC の特徴は以下の 2 点である． 1 目の特徴は, 参加者が技能者とインタビュアーに分かれていることに加えて, コツを引き出すというという目的を事前に共有したことである。現在, 筆者らは CIDC に対して詳細なアノテー

ションを実施しており，そのアノテーションに基づき， 4.4 節で挙げたようなインタビュアーによってコツが引き出されている場面を定量的に分析することを目指している．2つ目の CIDC の特徴はウェブ会議システムを使ったことである。これにより，時間的に低コストでありながら，技能者からコツを引き出すインタビュー対話を大規模に収集するという目的を達成することができた。

なお，アンケートの $(4 \mathrm{~d})$ で「インタビューの感想」を求めた自由記述の結果を見ると，インタビュアーが技能者よりも知識や経験がある場合，インタビュアーが技能者の説明に対して不満を持つ事例が少数見受けられた，今回の対話収集では，同一の参加者が技能者とインタビュアーの双方の役割で参加することが可能であった，そのため, 技能者としては上級技能者と分類される者がインタビュアーとして一般技能者にインタビューをする対話が存在した. 実際のインタビューにおいては，インタビュアーは技能者と同程度以下の知識を持った者であることが予想されるため，上記のような設定は避けるべきであった.

また，予備収集の結果を受けて，本収集ではインタビュアーに「良い質問のタイプ」を提示し, 事前に質問内容を具体的に考えさせる手続きを取ったが，その結果，15分という制限時間が短く感じたという感想を提出した参加者が複数存在した.インタビューの内容に合わせた適切な時間設定についても今後のコーパス構築において重要な観点であることが明らかとなった.

CIDC の具体的な利用方法の一例として，CIDC に対して述語項構造や意味フレームに基づくアノテーションを実施し，それを学習データとした知識構造解析システムを開発することが考えられる，また，マルチモーダルな情報に関しては，ポインタの指示物と言語化されている内容を対応させるアノテーションを実施することで，上述の知識構造化をより精緻に行うことが可能になるだけでなく，技能者の表情やジェスチャーを利用することでコツについて語る場面を視覚的にも検討することが可能となる。このような知識構造解析システムが開発できれば,技能伝承の場面において，技能者が言及した知識をリアルタイムで構造化し，まだ言及されていない知識をインタビュアーに提示するようなインタビュー支援システムを実現することもできるだろう。

## 謝 辞

この成果は, 国立研究開発法人新エネルギー・産業技術総合開発機構 (NEDO) の委託業務 (JPNP20006)の結果得られたものです.ここに感謝致します.

本資料は Okahisa et al. (2022) に基づくものであり，当該論文は ELRA が著作権を有して CC BY-NC で頒布しています。本資料を CC BY で頒布することについては ELRA の許可を得ました.

## 参考文献

伝康晴, 榎本美香 (2014). 千葉大学 3 人会話コーパス (Chiba3Party). 国立情報学研究所音声資源コンソーシアム. (データセット). https://doi.org/10.32130/src.Chiba3Party, [Y. Den and M. Enomoto (2014). Chiba3Party. National Institute for Japanese Language and Linguistics Speech Resources Consortium. Dataset. https://doi.org/10.32130/src.Chiba3Party].

伝康晴, フライジョン (2000). 日本語 CallHome コーパス. 音声研究, 4 (2), pp. 24-30. [Y. Den and J. Fry (2000). CallHome Japanese Corpus. Onsei Kenkyu, 4 (2), pp. 24-30.].

DeVault, D., Artstein, R., Benn, G., Dey, T., Fast, E., Gainer, A., Georgila, K., Gratch, J., Hartholt, A., Lhommet, M., Lucas, G., Marsella, S., Morbini, F., Nazarian, A., Scherer, S., Stratou, G., Suri, A., Traum, D., Wood, R., Xu, Y., Rizzo, A., and Morency, L.-P. (2014). "SimSensei Kiosk: A Virtual Human Interviewer for Healthcare Decision Support." In Proceedings of the 2014 International Conference on Autonomous Agents and Multi-Agent Systems, AAMAS '14, pp. 1061-1068, Richland, SC. International Foundation for Autonomous Agents and Multiagent Systems.

Dugast, D. (1978). "Sur Quoi se Fonde la Notion D'etendue Theoratique du Vocabulaire?" Le Francais Modern, 46 (1), pp. 25-32.

Fujimura, I., Chiba, S., and Ohso, M. (2012). "Lexical and Grammatical Features of Spoken and Written Japanese in Contrast: Exploring a Lexical Profiling Approach to Comparing Spoken and Written Corpora." In Proceedings of the VIIth GSCP International Conference, pp. 393-398. Speech and Corpora.

Gratch, J., Artstein, R., Lucas, G., Stratou, G., Scherer, S., Nazarian, A., Wood, R., Boberg, J., DeVault, D., Marsella, S., Traum, D., Rizzo, S., and Morency, L.-P. (2014). "The Distress Analysis Interview Corpus of human and computer interviews." In Proceedings of the 9th International Conference on Language Resources and Evaluation (LREC'14), pp. 3123-3128, Reykjavik, Iceland. European Language Resources Association (ELRA).

花房竜馬，荒木健治 (2021). ナラティブ・セラピーにおける対話段階予測のための素性設計. 日本知能情報ファジィ学会ファジィシステムシンポジウム講演論文集, 37, pp. 425-430. [R. Hanabusa and K. Araki (2021). Feature Design for Dialogue Stage Prediction in Narrative Therapy. Proceedings of the Fuzzy System Symposium, 37, pp. 425-430.].

Inoue, K., Hara, K., Lala, D., Yamamoto, K., Nakamura, S., Takanashi, K., and Kawahara, T. (2020). "Job Interviewer Android with Elaborate Follow-up Question Generation." In Proceedings of the 2020 International Conference on Multimodal Interaction, pp. 324-332, New York, NY, USA. Association for Computing Machinery.
石田真也, 井上昂治, 中村静, 高梨克也, 河原達也 (2018). 共感表出と発話促進のための聞き手応答を生成する傾聴対話システム. 人工知能学会研究会資料言語・音声理解と対話処理研究会, 82, pp. 7-12. [M. Ishida et al. (2018). An Attentive Listening System Generating Empathetic Responses and Promoting User Utterances. Zinko Chino Gakkai Kenkyu-kai Shiryo Gengo Onsei Rikai-to Taiwa Shori Kenkyukai, 82, pp. 7-12.].

Johnston, M., Ehlen, P., Conrad, F. G., Schober, M. F., Antoun, C., Fail, S., Hupp, A., Vickers, L., Yan, H., and Zhang, C. (2013). "Spoken Dialog Systems for Automated Survey Interviewing." In Proceedings of the SIGDIAL 2013 Conference, pp. 329-333, Metz, France. Association for Computational Linguistics.

Kobori, T., Nakano, M., and Nakamura, T. (2016). "Small Talk Improves User Impressions of Interview Dialogue Systems." In Proceedings of the 17th Annual Meeting of the Special Interest Group on Discourse and Dialogue, pp. 370-380, Los Angeles. Association for Computational Linguistics.

小磯花絵, 天谷晴香, 石本祐一, 居關友里子, 臼田泰如, 柏野和佳子, 川端良子, 田中弥生, 伝康晴, 西川賢哉 (2019). 『日本語日常会話コーパス』モニター公開版の設計と特徴. 国語研究所日常会話コーパスプロジェクト報告書 3. [H. Koiso et al. (2019). Nihongo Nichijo Kaiwa Kopasu Monita Kokai-ban-no Sekkei-to Tokucho. Kokugo Kenkyu-jo Nichijo-kaiwa Kopasu Projekuto Hokokusho, 3.].

前川喜久雄 (2004).『日本語話し言葉コーパス』の概要.日本語科学, 15, pp. 111-133. [K. Maekawa (2004). Nihongo Hanashi-kotoba Kopasu-no Gaiyoo. Nihongo Kagaku, 15, pp. 111-133.].

Majumder, B. P., Li, S., Ni, J., and McAuley, J. (2020). "Interview: Large-scale Modeling of Media Dialog with Discourse Patterns and Knowledge Grounding." In Proceedings of the 2020 Conference on Empirical Methods in Natural Language Processing (EMNLP), pp. 8129-8141, Online. Association for Computational Linguistics.

三島徳雄, 久保田進也 (2003). 積極的傾聴を学ぶ一発見的体験学習法の実際. 中央労働災害防止協会. [N. Mishima and S. Kubota (2003). Sekkyoku-teki Keicho-o Manabu—Hakken-teki Taiken Gakushu-no Zissai. Chuo Rodo Saigai Boshi Kyokai.].

榆木満生 (1989). 積極的傾聴法. 医学教育, 20 (5), pp. 341-346. [M. Niregi (1989). Sekkyoku-teki Keicho-ho. Medical Education, 20 (5), pp. 341-346.].

Okahisa, T., Tanaka, R., Kodama, T., Huang, Y. J., and Kurohashi, S. (2022). "Constructing a Culinary Interview Dialogue Corpus with Video Conferencing Tool." In Proceedings of the 13th Language Resources and Evaluation Conference, pp. 3131-3139.

Prince, E., Frader, J., and Bosk, C. (1982). "On Hedging in Physician-Physician Discourse." In Linguistics and the Professions. Proceedings of the 2nd Annual Delaware Symposium on

Language Studies., pp. 83-97.

Schegloff, E. A. (1997). "Practices and Actions: Boundary Cases of Other-initiated Repair." Discourse Processes, 23 (3), pp. 499-545.

Schegloff, E. A., Jefferson, G., and Sacks, H. (1977). "The Preference for Self-correction in the Organization of Repair in Conversation." Language, 53 (2), pp. 361-382.

Stent, A., Stenchikova, S., and Marge, M. (2006). "Dialog Systems for Surveys: The Rate-acourse System." In 2006 IEEE Spoken Language Technology Workshop, pp. 210-213.

杉山享志朗，吉野幸一郎，田中宏季，近藤真人，ニュービッググラム，中村哲 (2016). 傾聴対話コーパスの作成と知識獲得行為の分析. 人工知能学会全国大会論文集, JSAI2016, p. 3. [K. Sugiyama et al. (2016). Making Listening Dialogue Corpus and Analysis of Knowledge Acquirement. Proceedings of the Annual Conference of JSAI, p. 3.].

Tolmachev, A., Kawahara, D., and Kurohashi, S. (2018). "Juman++: A Morphological Analysis

Toolkit for Scriptio Continua." In Proceedings of the 2018 Conference on Empirical Methods in Natural Language Processing: System Demonstrations, pp. 54-59, Brussels, Belgium.

Association for Computational Linguistics.

ホールファミリーケア協会 (2004). 傾聴ボランティアのすすめ. 三省堂. [Horu Famiri Kea Kyokai (2004). Keicho Borantia-no Susume. Sanseido.].

吉越卓見, 児玉貴志, 新隼人, 坂田亘, 田中リべカ，黑橋禎夫 (2021). 主題性にもとづく雑談

対話システムの構築. テクニカル・レポート 2021-NL-250-7, 研究報告自然言語処理 (NL).

[T. Yoshikoshi et al. (2021). Shudai-sei-ni Motozuku Zatudan-Taiwa Shisutem-no Kochiku.

Kenkyu Hokoku Shizen-gengo Shori (NL), 2021-NL-250-7.].

曽傑, 中野有紀子 (2021). 知識と話題の埋め込み表現に基づく質問生成と対話システムへの適

用一料理嗜好インタビューシステムに向けて一. 自然言語処理, 28 (2), pp. 598-631. [J.

Zeng and Y. Nakano (2021). Question Generation in Dialogue Systems based on Embedding

Representation of Knowledge and Topics: Toward Food Preference Interview System. Journal of Natural Language Processing, 28 (2), pp. 598-631.].

Zhu, C., Liu, Y., Mei, J., and Zeng, M. (2021). "MediaSum: A Large-scale Media Interview

Dataset for Dialogue Summarization." CoRR, abs/2103.06410.

## 付録

## A 個別練習の内容

対話タスクに初めて参加する者に対し，インタビュー収録の前に監督者が以下の点について確認した。

・ 名前などの個人情報を発話しないこと

・ビデオ映像に表情が良く映るよう，カメラとの距離は適度に保たれていること
- 対話時間が 15 分を超えそうな場合に監督者が送信するチャットが見られること

・対話中にトラブルが起きた場合, チャットで監督者に知らせること

・技能者が写真を表示し, 次の写真に移動することができること

・インタビュアーが進行役を務め，写真を元に最低限の作業手順を聞いて，質問を交えながら話の流れでインタビューを進めてもらうこと

また, リハーサルとして技能者に最初の写真を表示させ, 冒頭部分のみを説明をさせた上で, インタビュアーが進行役として次の写真に進める手順を実際に行わせた。

## B書き起こしの方針

書き起こしの方針は以下の通りである，書き起こしの引用に打いては，各発話の左に付している番号は当該インタビュー全体通しての発話番号を表し，“E”技能者の発話であることを， "I" はインタビュアーの発話であることを表す.

(10) a. フィラーや, 発話が尻つぼみになったり相手の発話と重複し途中で聞こえなくなったりした場合は，丸括弧を用いてその箇所を明示する。

・「ブリの照り焼き」(Interview_170: 00:01:06.150-00:01:17.500)

27 I ：（んー)はい.これは(せ)背側とか腹側とか, どっちが美味しいとかありますか?

$28 \mathrm{E} ：($ うーん)どちらでも美味しく食べられると思うんですけど.

b. 一方の話者が発話中の, もう一方の話者の相槌（「うん」「ふん」等）については書き起こさない，ただし，「なるほど」や「そうなんですね」のような発話がはっきりと聞き取れる場合は書き起こしの対象とする。

・「茄子のぬか漬け」 (Interview_15: 00:02:49.533-00:3:00.243)
$46 \mathrm{E}$ ：そうでしょうね, 多分. （あの一）多分冷蔵庫の中で, 水分的にも温度的にもいい状態が（あの）茄子のまわりに作られると思うんですね。

47 I ：なるほど。はい.わかりました。

c. 単発の笑いについては【笑い】と書き起こし, 発話中の笑いについては笑いの情報は残さない.
- 「薔薇のアップルパイ」 (Interview_96: 00:03:12.150-00:03:21.750)
60 I ：こちらのパイシートは手作りのものになりますでしょうか？
$61 \mathrm{E}:($ ( ) もう
$62 \mathrm{E}$ ： スーパーに売ってる冷凍食品にある冷凍パイシートです.
$63 \mathrm{E}$ : 【笑い】

d. 発話内容が聞き取れない場合は「（?)」と表記する.
- 「黒豆」 (Interview_159: 00:03:40.250-00:03:54.200)

84 I ：（ゆ）丹波の黒豆とか(？)やつですか？

$85 \mathrm{E}$ : （あ）そうですね，それはもちろんこの丹波の黒豆が最上級ですけれども，丹波の黒豆（しゅ）を使ったものが，（あの一）他に北海道とか
e. 10 秒を超える程度の長い発話の場合は, 書き起こしの読みやすさを考慮し, ポーズとは無関係に句読点で区切っても良い.

-「紅茶のムースケーキ」 (Interview_165: 00:05:12.500-00:05:46.450)

54 I ：ゼラチンは（こ）粉や板や何かお勧めというか

55 I ：ありますか？

$56 \mathrm{E}$ ：そうですね。（ま）私はもう板が慣れているので（え一）板をお勧めするんですけれども, 板は（ま）計りやすい, 大体 1 枚もう 4 グラムって決まってますので計りやすいですし, お水も（えー）粉でしたら計らないといけないんですが，もう板の場合は，その板がなんていうんでしょ,

$57 \mathrm{E}$ ：（えーとー）全部（こー）（お）お水が

$58 \mathrm{E}$ ：浸ってればいいようなんですね.なので（えー）計量も楽ですし扱いも楽かなと思います。

f. 言い誤りなどで正確に話せていないような場合は正表記に直して書き起こす.

なお，(10a)については，フィラーと文頭の言い直しや末尾のはっきりとは聞き取れない部分の区別が難しいため，書き起こしの段階では同一の（）で括るという方針を取っている。そのため,コーパス構築後に次のような処理を施し，意図的なフィラーとそれ以外の言い誤りを
区別した.

（11） a. コーパス全体を通して，出現頻度が 10 回未満かつ長音記号を含まないものを文頭の言い直しや末尾のはっきりとは聞き取れない部分とみなし,〈〉で括った

b. それ以外はフィラーとみなし，（）で括った
- 「海老の旨煮」(Interview171_:00:08:00.000-00:08:16.250)

$191 \mathrm{E} ：$ そうですね. でも 2 分ぐらいは置いといてもらった方がいいと思います. (あの)ちっちゃい, 大きいあると思うんですけど.

192 I : (あー)はい.

$193 \mathrm{E}:$ (で)さっとくあがっ>

$194 \mathrm{E}$ ：上げて，その後も余熱で火が中にも入るので.

## C Uber 指標の算出方法

テキスト中の総語数を $N$, 異なり語数を $V(N)$ とした時, Uber 指標は以下のように求める.

$
U b e r=\frac{(\log N)^{2}}{\log N-\log V(N)}
$

## 略歴

岡久太郎：2014 年東京学芸大学教育学部中等教育教員養成課程国語専攻卒業.

2016 年京都大学大学院人間・環境学研究科修士課程修了. 2020 年同博士後期課程研究指導認定退学. 2021 年京都大学より博士（人間・環境学）を取得.博士 (人間 - 環境学). 2020 年京都大学大学院人間 - 環境学研究科特定研究員, 2021 年京都大学大学院情報学研究科特定研究員, 2021 年静岡大学情報学部助教, 現在に至る. 理論言語学, コミュニケーション研究に従事. 言語処理学会会員.

田中リベカ：2013 年お茶の水女子大学理学部情報科学科卒業. 2015 年同大学院博士前期課程修了． 2018 年同博士後期課程単位修得退学. 2021 年お茶の水女子大学より博士 (理学) を取得. 博士 (理学)。2018 年から 2021 年まで京都大学大学院情報学研究科特定研究員. 2021 年よりお茶の水女子大学文理融合 $\mathrm{AI}$ ・データサイエンスセンター特任講師.

児玉貴志：2019 年京都大学工学部電気電子工学科卒業. 2020 年京都大学大学院情報学研究科博士前期課程修了. 同年より同大学院情報学研究科博士後期課程に進学. 現在に至る. 修士 (情報学). 自然言語処理の研究に従事. 言語
処理学会会員.

Yin Jou Huang：2015 年台湾大学卒業. 2017 年京都大学大学院情報学研究科博士前期課程修了. 博士 (情報学). 2021 年より京都大学大学院情報学研究科特定研究員. 2023 年より京都大学大学院情報学研究科特定助教. 自然言語処理の研究に従事. 言語処理学会会員.

村脇有吾：2011 年京都大学大学院情報学研究科博士後期課程修了, 博士（情報学). 同年京都大学学術情報メディアセンター特定助教, 2013 年九州大学大学院システム情報科学研究院助教, 2016 年京都大学大学院情報学研究科助教，2020 年同講師，現在にいたる。テキスト解析および計算言語学に関する研究に従事. 言語処理学会, 情報処理学会各会員.

黒橋禎夫：1994 年京都大学大学院工学研究科博士課程修了. 博士 (工学). 2006 年 4 月京都大学大学院情報学研究科教授. 2023 年 4 月より同特定教授および国立情報学研究所長. 自然言語処理, 知識情報処理の研究に従事. 言語処理学会 10 周年記念論文賞, 同 20 周年記念論文賞, 文部科学大臣表彰科学技術賞等を受賞.

(C) The Association for Natural Language Processing, (Licensed under CC BY 4.0）https://creativecommons.org/licenses/by/4.0/


# 国内におけるドメイン依存の固有表現抽出の応用技術の調査

福田 美穂 $\dagger$ ・関根聡 $\dagger \dagger$
}

一般ドメインでの固有表現抽出が高い精度を実現するようになった今, 研究の目標 は化学や医療, 金融などさまざまなドメインでの固有表現抽出技術の精緻化へとシ フトしている。そこで本論文では，ドメイン依存の固有表現抽出技術応用に関する 近年の国内研究動向を報告したい。技術に重点を置いた分析は他文献に譲り，具体的な問題を抱えるさまざまなドメインの読者を念頭に「どのようなドメインでどの ような対象に対してどのように固有表現抽出が行われているか」を調査した．4つの 学会大会論文および 3 つの学会論文誌からドメイン依存の固有表現抽出技術に関す る論文を調査したところ，該当する論文のうち約半数が，化学ドメインにおける新規商品開発等支援のための化学物質名・化学物質間関係抽出を主題としていた. そ の他のドメインは，医療，金融，機械加工，文学，食など多岐にわたり，多様な抽出目的・抽出対象を確認できた。技術的には機械学習を使った手法が主流となって おり，とくに本論文の調査期間では BiLSTM-CRF およびBERT を使う事例が大勢 を占めているが，それらを補完する目的で辞書等の言語資源を組み合わせる手法も 多く見られている。

キーワード：固有表現抽出
## A Survey of Domain-Specific Named-Entity Recognition in Japanese

\author{
Miho Fukuda ${ }^{\dagger}$ and Satoshi Sekine ${ }^{\dagger \dagger}$
}

\begin{abstract}
Named-entity recognition (NER) technologies have been developed for the general knowledge domain, and the extension of NER to specific domains has now become a topic of active research. In this paper, we provide a survey of recent studies on domain-specific NER technologies for the Japanese language. We focus on aspects of different applications such as their targets and purposes as well as the knowledge domains considered. Our results show that chemistry is the most fundamental knowledge domain represented in these works, along with medical, financial, machining, literature, and food domains. Most of the systems included in the survey utilized machine learning methods such as BiLSTM-CRF and BERT, though some studies used rules and dictionaries in addition to these approaches.
\end{abstract}

Key Words: Named Entity Recognition

## 1 はじめに

固有表現は情報抽出技術の進展に伴った概念の形成以降，定義および抽出技術の確立が進んできた，現在，一般ドメインにおける人名，地名，組織名などについては，大量のトレーニングデータが用意されていれば，深層学習を活用した技術により，かなり高い精度での抽出が可能となっている（岩倉 2015）。一般ドメインだけでなく, 本論文で紹介する化学, 医療・薬事,企業情報・金融, 機械加工・交通・文学 (小説) ・食・土産品などの幅広いドメインにおいて固有表現抽出技術の応用が強く求められている. 本論文では, このようにドメインに依存した固有表現の定義や抽出技術についての研究動向を調査し, 実際に特定ドメインにおける固有表現抽出を試みる技術者の一助となることを目的に現状をまとめた。その際，各研究で使われている技術や手法の詳細を分析するのではなく, どのドメインでどのような対象の抽出が何のために試みられているのかといった，技術応用のあり方を探ることに重点を置いた.

現状を調査するにあたり，以下 4 つの学会大会誌および 3 つの学会論文誌での発表論文を参照し，その中からドメイン依存の固有表現抽出をテーマとしたものを抽出した. 該当したのは,総論文数数千件のうち 52 件であった.

$\cdot$ 言語処理学会年次大会（2019 年～2022 年）

$\cdot$「自然言語処理」(2018 年 1 月 2021 年 12 月)

・情報処理学会 NL 研究会（2018 年 5 月 2021 年 9 月）

・情報処理学会論文誌（2018 年 1 月 2021 年 12 月）
- 人工知能学会全国大会 (2018 年 2021 年)

$\cdot$ 人工知能学会論文誌 $(2018$ 年 1 月 2021 年 12 月)

・電子情報通信学会テキストアナリティクス・シンポジウム（2011 年 7 月～2021 年 11 月）

## 2 ドメインごとの状況

上記のようにドメイン依存の固有表現抽出をテーマとする論文を調査し，内容をドメインごとに分類した。その結果，化学ドメインの論文が最多の 25 件であり，その後医療・薬事ドメインと企業情報・金融ドメインが同数の各 5 件であった。また「ドメイン」としては $1 \sim 3$ 件程度の研究でも，それらを合計すると 17 件となった。それぞれのドメインの特徴と, 代表的な研究例を以下に紹介する.

## 2.1 化学ドメイン

過去 3 年間で固有表現抽出の応用研究がもっとも活発に行われているのは化学ドメインであり，全体の 52 件中 25 件が該当した。 中でも化学物質名やそれらの関係抽出タスクが多い. 化
学物質名は 2015 年時点で 2 分 30 秒に 1 件新たに CAS (Chemical Abstracts Service) に登録されているとされ（岩倉・吉川 2020），人手での処理が困難であり，機械で自動的にリスト化したいというニーズが高い.

ニーズの高さや事例の多さを反映し，化学ドメインに依存したデータセットなどの資源が複数公開されている。固有表現抽出を含めた情報抽出タスクのデータセットとしては, CHEMDNER (Krallinger et al. 2015), CHEMPROT (Krallinger et al. 2017), ChEMU (He et al. 2020) などがあり, 固有表現抽出にも活用可能な BERT モデルとしては, 化学関連の文献から事前学習した BioBERT (Lee et al. 2019) や SciBERT (Beltagy et al. 2019) といったものがある. 化学物質データベースとしては PubChem (Kim et al. 2016) や ChEBI (Degtyarenko et al. 2008) などが広く利用可能であり，固有表現抽出のための知識として活用されている.

化学ドメインにおいては, 化学物質の種類が多いため, ひとつひとつの出現頻度が低いことが課題のひとつである。学習デー夕中の出現頻度が低い, または存在しない化学物質名が大量に存在するため，固有表現抽出の再現率が下がるといった影響を受けやすくなっている。そのため何らかの辞書を利用または新たに構築することで精度低下を防ぐ試みがおこなわれている。

たとえば，深層学習（BiLSTM + CRF モデル）に外部知識源 (WikiData, PubChem, ChEBI) から作成した化合物辞書と日本化学物質辞書を組み合わせることで，原材料と製造方法の抽出精度を高めた手法がある（邊土名他 2019）。これは日本語版 Wikipedia の化合物記事から，化合物の原材料・製造方法を抽出する手法を検討したものである。化合物の原材料・製造方法は，

 \\

表 1 化学ドメインの固有表現抽出タスクで利用可能な資源
化合物の 6 属性（原材料・製造方法・種類・別名・用途・特性）の中でもパターンでの抽出がほぼ不可能で, 文脈を考慮する必要もあるため, 抽出が難しいとされている，だが本手法では,辞書の利用により適合率を $2 \sim 10$ ポイント, 再現率を $8 \sim 26$ ポイント向上させることができた.現在広く使われている手法をべースに，その欠点を補完する研究も行われている。新城ら (2021) は化学論文から化学物質間の相互作用等の関係を自動抽出する手法として, BioBERTを基礎としてその精度を高める方法を検討した．BioBERT は大量のラベル付きデータを必要とするが，ラベル付けに専門知識が必要となるため，コーパスの構築にコストがかかる。また関係抽出タスクでは構文情報が手がかりになると期待されるが，BERT はそれを利用しておらず， しかも単に構文解析結果を利用するだけでは処理効率が下がる懸念がある。そのため新城らは, CHEMPROT などのラベル付きデータおよび PubMed にラベルを付与したデータで固有表現抽出器・関係抽出器の学習を行った。また，PubMed に構文情報が反映される形でラベルを付与したため, 大幅に効率を高められる。評価の結果, この手法では BioBERT より高い精度が得られ，また構文解析結果を用いる手法より最大 29 倍高速に処理できることが示された.

学習データ確保に対するアプローチとして, Distant Supervision (DS) による夕グ付与の自動化が注目されている (Yang et al. 2018). 化学物質名の固有表現認識においては, 何らかの辞書データとテキストを照合させることで，辞書に登録された化学物質名部分を正解とする学習データを作成できる。辰巳ら (2019) はさらに，そのような DSを用いた固有表現抽出手法の主な課題は (1) 化学辞書には「water」のような一般用語が多く混在するため抽出時にノイズが多くなる, (2) 化学ドメインには略称や表記摇れが多いため学習データの再現率が低くなる，の二つであるとし，その解決手法を提案した，手法には 3 つのサブタスクがあり，すなわち (1) DS データ作成, (2) ノイズ除去, (3) コーパス拡張である。(1) では化学物質名辞書を CTD (Comparative Toxicogenomics Database), MeSH (Medical Subject Headings), PubChem,一般用語集である Google 10,000 Englishの複数の組み合わせで作成した結果, PubChem から Google 10,000 English を取り除いた単語集合で最も高い適合率を得る一方, PubChem と MeSH, CTD の組み合わせにより最も高い再現率を得た。またDSデー夕作成において対象文献の出版年度とカテゴリを評価データである ChemdNER とそろえることでさらに F1 值を向上させた.

(2) では NER の予測モデルに基づくノイズ除去を行い, 適合率, 再現率, F1 値を向上させた.

(3) ではDS データの特定単語を辞書単語と入れ替えたデー夕を追加することでコーパス拡張を行い，文数を約 3〜7倍（条件により変化）程度に増加させた.

深層学習モデルが必ずしも高精度な結果を出すわけではない. 牧野ら (2020)による，無機材料文献から材料合成プロセスを抽出する研究では, 深層学習モデル (BERT) とデータセット観察により得たルールモデルを比較している．性能評価実験の結果, マクロ $\mathrm{F}$ 値の比較で前者が $0.546 \pm 0.006$, 後者が 0.888 と, より高精度な結果を出した. ただし前者が正しく抽出した関係で後者が誤っている例もあり，両方を組み合わせる方法を検討する必要があるとされている．
化学ドメインの中でも, 抽出したい化合物の内容はさまざまである. 山口ら (2021) は超電導材料に関する情報を文献抄録から効率よく抽出するシステム構築を目指し，固有表現・関係・ イベントを抽出するモデル (DyGIE++) と, 主題材料分類モデル (Longformer), およびこれらを統合しスロット抽出するルールベースモジュールを作成した。その結果，固有表現・関係・ イベント抽出モデルは $\mathrm{F}$ 值が 72.9 から 96.7 と高い性能を示し, 主題材料分類モデルでも $\mathrm{F}$ 值は平均 83.9 となった. スロット抽出モジュールも併せたシステム全体としては F 值は 64.7 を実現した。

## 2.2 医療・薬事ドメイン

化学ドメインに次いで事例が多かったのは医療・薬事ドメインと金融・企業情報ドメインで, いずれも調査対象の論文中 5 件が該当した。本項ではまず医療・薬事ドメインについて述べる. このドメインにおける固有表現抽出の応用先は, 電子カルテの分析や, 薬剤情報抽出, SNS からの障害情報抽出などがあり, 抽出元テキストや抽出した情報の利用目的・利用者が化学分野より多様である.

電子カルテ分析に関しては 2 件の研究があり，1 件は分析技術開発の基盤となるコーパス構築をテーマとしたもの，1件は臨床現場で医師をサポートするためのシステムをテーマとしたものであった．前者は約 45,000 の症例報告文書の中で，病名および症状が記述された部分を人手で抽出しタグを付与したものである（荒牧他 2018）、コーパス自体だけでなく，その過程で議論された病名・症状の定義やタグの付与指針, コーパスを使って開発した病名抽出器も公開されている.

電子カルテ分析に関するもう 1 件の研究は, 電子カルテの自由記述部分から医師の判断のサポートに役立つ情報の抽出を試みたものである（加藤他 2019）．電子カルテは近年多くの医療現場で導入され，数値データや画像データを対象とした研究例は多いが，自然言語による自由記述部分は解析が難しく, 研究が少ないのが現状である。患者のプライバシー保護のため, 電子カルテの実データを研究で利用するにも制限がある．そこで加藤らは，抗がん剤の副作用として皮膚障害を持つ患者の模擬電子カルテを作成し, その自由記述部分から抽出する「<bodyregion>手指</bodyregion＞に<symptoms>亀裂</symptoms>が出来ます」のような表現に基づいて皮膚障害の重症度を判定する手法を提案した。キーワードと辞書（医療参考書等を元にした 550 語）を利用した機械学習 (SVM) の手法に加え、ルールベースの手法も構築し, 性能を比較した. 評価の結果, 疾患の種類によって機械学習の方が正確度が高い場合とルールベースの方が高い場合があったが，いずれも正確度 7 割前後と人間と同程度の性能を実現できた.

なお生命科学関連では英語の論文抄録を対象にした GENIA コーパス (Kim et al. 2003, 2008) がよく利用されており，BioNLP や BioCreative といった国際ワークショップ等での固有表現抽出やイベント抽出タスクでも活用されている.
薬事関係では，新規薬剤開発コスト低減のために医薬品添付文書の活用を目指す研究が見られた（小島他 2020），新規商品開発の参考とすることを意図した固有表現抽出の応用例は化学ドメインでもよく見られるが, 本研究は医薬品添付文書に着目した点が特徴的である. 医薬品添付文書には製薬の参考にできる詳細な情報が記述されていることが多く，PDF 形式ながら公開されているため，構造化して利用できる状態になれば有用と考えられる。ただ自然言語で書かれておりほとんどタグ付けされていないため，活用が進んでいない，小島らは医薬品添付文書にはテキストを含む PDF と付随する SGML の形で構造化されたデータがある点に注目した. SGMLのデータからは，「有効成分」「禁忌」「臨床成績の表」といったクエリと，それとぺアで抽出すべきテキスト（たとえば「有効成分」に対しては「リセドロン酸ナトリウム水和物 $86.1 \mathrm{mg}$ ）のような夕グの代替データが抽出できる。小島らはそのデータと PDF から抽出したテキストをマッチングさせることでデータセットを構築した。この方法によって構築した 2018 年分のデータを使って BiLSTM を含むネットワークでの学習を行い, 2019 年分データでモデルを検証した。その結果, クエリと回答の厳密一致でも正答率 0.56 という性能を実現した.

## 2.3 企業情報・金融ドメイン

前述の通り，企業情報・金融ドメインでも，調查対象中 5 件の論文が該当した．投資家やそれを顧客とする金融機関にとって，各企業が発表する決算資料等の文書や新聞記事等の分析は,文書量が膨大であることから大きな負担となっている。また投資家に限らず，たとえば得意先・取引先の状況を把握するために，新聞記事等を元に企業情報を効率よく理解したいというニー ズは高い。それらの作業を効率化するべく, 決算資料や新聞記事からの情報抽出の試みが多く見られている（坂地他 2020）.

該当の 5 件中 2 件は，名刺管理サービス「Sansan」に付帯するニュース配信の中での固有表現抽出を目的とするものだった。そのうち 1 件はニュース記事から「企業活動の中で生まれたモノやサービスを表す名称」（たとえば商品名, サービス名, 運営する施設名, キャンペーン名など）を抽出する手法を検討したものである（奥田・高橋 2020）、その手法では, ニュース記事のタイトルと本文から鉤括弧（「」および『』）内の文字列を抽出し，それが抽出目的の企業キー ワードであるかの判定を，BiLSTM-CRF に Contextual String Embeddings (CSE) を組み合わせて行った．実験の結果，ふたつのべースライン手法（1. すべての鉤括弧内文字列をキーワー ドとした場合， 2. 鉤括弧前後 10 単語の Bag-of-Words 表現を用いたSVMによる二値分類の場合）と比べて適合率・再現率ともに高く, F 値は 0.83 となり，提案手法の効果を確認できた.

柳井ら (2020) は有価証券報告書や有価証券届出書等の金融分野の開示文書から「売上高」$\cdot$「自己資本比率」等の経営指標の表現を抽出する手法を提案した。これらの文書では「○○を運用上のベンチマークとして」「○○を対象指数として」など一定パターンの記述が多用されるため, 構文木の木構造のパターンマッチを行う StruAP (Structure-based Abstract Pattern) を提
案し, 木構造パターンを 62 件定義することで, 目的とする経営指標の抽出を試みた. 30 社の有価証券報告書から経営指標を抽出したところ, 文書単位での再現率 $80 \%$, 適合率 $93.7 \%$ という結果となった.

## 2.4 その他

本稿の調査対象の中では, 上記の分野以外に, 食ドメインで 3 件, 機械加工・交通・文学 (小説）・土産品といったドメインで各 2 件ずつ論文が発表されていた。他にも，会議録からの法律名抽出や将棋解説文からの固有表現抽出，陸上競技ブログからの活動記録抽出など，「ドメイン」 として分類すれば各 1 件となるものの, 特色ある研究テーマが発表されている.

食ドメインでは，消費者がインターネットに書き込むレストランレビューをマーケティングに利用することの実現可能性を探るべく，レビュー上の食べ物・飲み物表現を抽出する試みがあった（新堂他 2018）「どのような食べ物・飲み物がトレンドであるかを把握する夕スク」を仮定し, 個々の食べ物・飲み物とその性質（味，香り，形状等）を詳細に描写する表現（例：「香り高くのど越し抜群のおいしい十割そば」）の抽出を目指した. 食べログのレビューデータから, 店舗ジャンルごとに同数のレビューを抽出し, 食べ物・飲み物表現に対し人手でタグ付けし, ナイーブな CRFベースのモデルと BiLSTM-CNNs-CRF ベースのモデルを作り比較した.結果として, 前者のモデルでは再現率が低くなる傾向があり, 後者では再現率が改善したが適合率が若干低下するといった知見が得られ，今後のマーケティング利用に向けた基礎を作ることができた。

同じく食ドメインで，レシピからの固有表現抽出に必要な教師デー夕を低コストに補完する方法の検討もなされた（平松他 2018; 原島 2019）.そのような手法としては既存の辞書などの言語資源が使われることが多いが，単に解析対象のテキストと辞書内の表現をマッチングするような手法では辞書に含まれる表現しかカバーできない。そこで，レシピ内の表現を既存の料理オントロジーの属性ラベル（「材料一魚介」「調味料」など）に分類し，その結果を固有表現抽出器に入力することとした。これによって直接辞書に含まれない表現まで分類ができ，その後の固有表現抽出の性能をさらに高められる。固有表現抽出に BiLSTM-CRF を用い，上記の単語分類器を組み合わせた提案手法と固有表現抽出器のみの手法などを比較した結果, 提案手法の性能が他の手法を上回った。ほかにもレシピ関係では，「風邪に効く食材を使った料理」のレシピを紹介するシステムを作るために，掲示板のテキストから食材と効能の対を抽出する手法を使った研究も見られた（角谷他 2019）.

機械加工ドメインでは，技術文書内に記述される機械加工因子とそれら同士の関係（A が増すと B も増すなど）を抽出する手法が提案された（稲熊他 2021）。機械加工分野では高齢化により技術継承が急がれており, 中でも熟練を要する工程策定業務の継承が課題となっている.工程策定には，「切削速度が増加すると切削速度が増す」といった機械加工因子（切削速度・切
削温度など）間の関係の知見が必要となる。機械加工因子用語は，たとえば「切削加工」に「切削」と「加工」が含まれ，「切削加工」は「切削」という過程における「加工」という方法である，といった入れ子構造がある。また機械加工因子用語の間に，「切削速度が増加すると切削温度が増す」といった関係が記述されている場合があり，そこには「増加する」「増す」のように 「トリガワード（「物理量を示す二用語間の変化を表す単語」と定義）がよく使われている。そこでこの研究では, 用語の入れ子構造およびトリガワードを考慮しながら, 用語と関係の同時抽出を行っている。その結果, 用語抽出と関係抽出を別々に行うよりもマルチタスク学習モデルの方が高精度を得ることができた.

文学ドメインにおいては，ライトノベルのような創作テキストを「銀髪赤目の少年」や「長身のメイド」といった登場人物の特徴に踏み込んで探索できる機能へのニーズがあるとして, 小説から人物情報を抽出する手法の提案があった（岡・安藤 2021）.小説本文内で, 登場人物の名前や性別, 年齢や容姿といった表現に夕グ付けし, BiLSTM-CRF をべースとした複数のモデルで学習を行い性能を評価した。性能が最良となったモデル (BiLSTM-CRF) では, 性別や年齢などの表現で高い F1 值（それぞれ $95.95,92.62$ ）となっただけでなく，人物関係（例：兄，相棒）や職業・立場（例：竜飼い, 最高権限者）といったより多様な表現でも 80 以上の高い F1 値を達成できた。

土産品ドメインでは「現地でしか購入できない土産」の情報をWebから収集するシステムの構築を目指し，ブログから土産名・店名を抽出するモデルが提案された（池田・安藤 2019）。具体的には，Yahoo!ブログの菓子・デザートカテゴリを土産名で検索し，ヒットした記事に対し人手でタグ付けしたうえで, 深層学習モデル（BiLSTM-CRF や Char-BiLSTM-CRF など）と CRF モデルを用いて固有表現抽出を行った。その結果, 前者は学習デー夕に含まれる固有表現に対し，後者は学習データに出現しない固有表現に対し，それぞれ有効であることが確認できた。

法律ドメインでは，会議録中の法律名をWikipedia の項目に結びつける試みがあった（桧森他 2020）．法律名には「特定複合観光施設区域の整備の推進に関する法律」を「カジノ解禁法」「IR 推進法」と呼ぶなど，人手でも判断が難しい表記摇れがありうる。そのため，表記摇れも含めてあらゆるメンションを「法律名を表す語句」と定義し, 言及抽出及び曖昧性解消の両方を同時に行うこととした. 国会・地方議会会議録 10 日分に対し人手でタグ付けし, BERTで固有表現抽出モデルを作成してメンションを抽出，それをWikipedia 記事に結びつけることで曖昧性解消を行っている。

小売ドメインにおいては， EC サイトの商品タイトルから商品名を抽出する手法が提案された (張 2019). EC サイトでは, 各小売店が自社の取り扱い商品を検索結果の上位に表示させるため, 商品名に加えて「純正品」「送料無料」といった文言や商品の品番などの情報が付加されることが多く，ユーザーやサイト運営者にとってはわかりにくいことがある．そういった付加情報は多くが名詞や名詞句の羅列であり，一般的な文章とは構造が異なる．そこで当該研究で

は, TF-IDF や CRF, BiLSTM-CRF といった手法で商品タイトルから商品名を抽出し, その精度を比較している。

科学ドメインの論文から，数值表現を通じて技術トレンドを抽出しようとする試みもあった (黒土他 2020). 本研究では「半導体の集積度は 18 カ月ごとに 2 倍になる」とした「ムーアの法則」に見られるように，技術的な傾向を数値表現から読み取れる可能性に着目した．数値表現の抽出にはルールベースの StruAP (Structure-based Abstract Pattern) というツールを用い，「dialectic constant」と「10.2」のような，項目名と数値表現のペアを抽出した.

## 3 考察

以上を踏まえ，国内におけるドメイン依存の固有表現抽出の全体的な傾向を 2 点述べる。ひとつは固有表現抽出を行う目的の類型であり，もうひとつは技術的な傾向である.

## 3.1 固有表現抽出を行う目的の類型

上に取り上げた事例において，文書からの固有表現抽出を行う目的はさまざまだが，大別すれば (1) 多様な固有表現そのものをより網羅的にまたは大量に獲得しようとするものと, (2) 抽出した固有表現を通じて何らかの知見を得ようとするものに分けられる．以下にそれぞれの傾向を述べる.

## 3.1.1多様な固有表現そのものを網羅的／大量に獲得しようとする研究

本稿で対象とした論文では, 化学分野の固有表現抽出の多くがこれにあたる。化学分野では,日々大量に追加される化合物名を自動的に知識として蓄積して新薬開発に活用するといったことへのニーズが高く, そのための研究が数多く行われている。また企業情報ドメインではニュー ス記事から新たなモノやサービスの名称を抽出する研究を行ったが, これも発生する固有表現そのものの把握を目的とする研究だと言えるだろう.

この類型では，目的とする固有表現が含まれるようなテキスト集合をいかに確保し，それをいかに効率よく, 精度高く処理するかが課題となる場合が多い. その際, 作成した知識を整理するためにも，知識作成に使うモデルの精度を高めるためにも，同義語や表記摇れの取り扱いが重要となる。また抽出したい固有表現はどのようなものなのか, 抽出後にどのように使うのかといった細かな定義も必要である。固有表現定義の例は, 上記の医療テキストコーパス構築の研究で詳細に見ることができる.

## 3.1.2 抽出した固有表現を通じて何らかの知見を得ようとする研究

固有表現抽出タスクにプラスして, 固有表現同士の関係を抽出しようとする研究もよく見られる。本稿の中では, 化学物質の相互作用関係抽出や, 機械加工因子の関係抽出がそれにあたる.ここでも，抽出したい関係の定義や，それらを含む文書の確保などが課題となる。

大量の文書を効率よく理解するために，文書の要点として固有表現を抽出しようとする研究も複数見られた。たとえばカルテにおける疾患の重症度，金融文書における経営指標，小説における登場人物の属性といったものである。この類型では多くの場合, 抽出元の文書群は企業内などに蓄積されていて新たに入手する必要はないため, 課題としては「要点」となる情報がどのようなものかといった定義や, その抽出処理の具体化, 効率化が挙げられる.

抽出した固有表現から，企業・組織のマーケティング活動に活用できるような社会的傾向を読み取ろうとする方向も検討されている．たとえば新堂らによる食べ物・飲み物表現の抽出の研究では，レストラン・レビューのテキストデータを分析してマーケティングに活用することを目指している。このようなシステムでは，抽出した情報を見たユーザーの何らかの意志決定 （たとえば，「香り高い十割そば」が話題たから，レストランのメニューに入れる，または Web サイトで取り上げる，など）に役立つことが求められる。抽出した表現を企業の意志決定の根拠とするためには, 抽出元文書が適切かどうかの評価や, 文書の出現時期や地域などテキスト外の情報を含めた分析，可視化の方法など，システム全体としての設計に工夫が求められるたろう。

## 3.2 固有表現抽出の技術

はじめにで述べたとおり, 技術の詳細な分析は本論文の主眼ではないが, この調査で分かった技術的な特徴をここで紹介する，固有表現抽出夕スクの技術的手法としては，機械学習を使うものが主流となり, 本稿の調查対象期間ではとくに BiLSTM の出力を CRF で処理した, BiLSTM-CRF が使われることが多かった，BiLSTM-CRF では，まず入力単語を事前学習した単語ベクトルに変換する。次に BiLSTM が，そのベクトル列を入力として各単語に対し，固有表現らしさの点数からなるべクトルを出力する．最後に CRF がそのべクトル群を入力とし， ラベル間の依存性を考慮し, 最適な固有表現のラベルを予測する。その精度をさらに高めるため, あるいは BiLSTM-CRF で必要な学習データの作成コストを下げるために, 辞書等の言語資源を使うなど，さまざまな手法が組み合わされている。またBERT を使う手法も本稿で数件紹介しているが，直近の研究ではさらに大勢を占めるようになっている.

ただし機械学習を使わなければ固有表現抽出ができないわけではなく, 学習デー夕が少ない場合や定形表現が多い場合などは， パターンマッチのようなルールベースの手法で課題解決できる場合もある．本稿の中でも，たとえば加藤らの電子カルテからの皮䖉障害重症度判定の研究では, 疾患の種類によってはルールベースの方が機械学習より高精度な結果となることがあっ

た.また柳井らの金融文書からの経営指標抽出では, 定形表現が多用されるドメインであるため，構文木のパターンマッチが有効であった.

こうした技術的な詳細については, 文献（岩倉・関根 2020）を参照されたい。また実際に利用できるツールが，Githubなどの技術共有サイトでダウンロード可能になっていることが多いため, 誰でも既存の研究を基盤としながら各自の課題に合ったシステムを作っていくことができる。

## まとめ

本論文では, 過去数年の国内におけるドメイン依存の固有表現抽出技術の研究動向を調査し,各ドメインにおける応用のあり方を概観した。とくに研究が活発な化学ドメインでは, 新規材料開発などを目的とする化学物質名抽出タスク，またはそれらの関係抽出タスクが多く見られ，研究を効率よく進められるようなデータベース，モデル等の資源も整備されている．医療・薬事ドメインでは，医療者支援や薬剤開発の効率化など，より多様な目的での固有表現抽出が確認され, 企業情報・金融ドメインでは, 膨大な企業情報を効率良く理解するための応用が見られた. その他, 機械加工・交通・文学・食といった多様なドメインでの技術応用を俯瞰し, 固有表現抽出の幅広く深い展開が確認できた。抽出した固有表現の使い方としても，固有表現そのものをリスト化するだけでなく, 固有表現間の関係を捉えたり, 傾向を分析したりといった多様な方向性が確認できた，技術面では，本論文での調査対象期間は BiLSTM-CRF と BERT が主流となっていたが，今後も各タスクに合わせたさらなる精緻化が期待される.

## 参考文献

荒牧英治, 若宮翔子, 矢野憲, 永井宥之, 岡久太郎, 伊藤薫 (2018). 病名アノテーションが付与された医療テキスト・コーパスの構築. 自然言語処理, 2018, 25 (1), pp. 119-152. [E. Aramaki et al. (2018). Development of the Clinical Corpus with Disease Name Annotation. Journal of Natural Language Processing, 25 (1), pp. 119-152.]

Beltagy, I., Lo, K., and Cohan, A. (2019). "SciBERT: A Pretrained Language Model for Scientific Text." In Proceedings of the 2019 Conference on Empirical Methods in Natural Language Processing and the 9th International Joint Conference on Natural Language Processing, pp. 3615-3620.

Degtyarenko, K., de Matos, P., Ennis, M., Hastings, J., Zbinden, M., McNaught, A., Alcántara, R., Darsow, M., Guedj, M., and Ashburner, M. (2008). "ChEBI: A Database and Ontology for Chemical Entities of Biological Interest." Nucleic Acids Research, 2008, 36 (Database
issue), D344-D350.

原島純 (2019). レシピサービスと情報処理. 人工知能, $\mathbf{3 4}$ (1), pp. 3-8. [J. Harashima (2019).

Recipe Service and Information Processing. Journal of the Japanese Society for Artificial Intelligence, 34 (1), pp. 3-8.]

He, J., Nguyen, D. Q., Akhondi, S. A., Druckenbrodt, C., Thorne, C., Hoessel, R., Afzal, Z., Zhai, Z., Fang, B., Yoshikawa, H., Albahem, A., Cavedon, L., Cohn, T., Baldwin, T., and Verspoor, K. (2020). "Overview of ChEMU 2020: Named Entity Recognition and Event Extraction of Chemical Reactions from Patents." In Experimental IR Meets Multilinguality, Multimodality, and Interaction. Proceedings of the 11th International Conference of the CLEF Association, Vol. 12260. Lecture Notes in Computer Science.

邊土名朝飛, 野中尋史, 小林暁雄, 関根聡 (2019). 外部知識源を使用した Wikipedia からの化合物情報抽出. 言語処理学会第 25 回年次大会発表論文集, pp. 791-794. [A. Hentona et al. (2019). Gaibu Chishikigen wo Shiyo shita Wikipedia karano Kagobutsu Joho Chushutsu. Proceedings of the 25th Annual Meeting of the Association for Natural Language Processing, pp. 791-794.]

桧森拓真, 木村泰知, 荒木健治 (2020). 会議録に含まれる法律名を対象とした End-to-End のエンティティリンキングの性能評価. 言語処理学会第 26 回年次大会発表論文集, pp. 367-370.

[T. Himori et al. Kaigiroku ni Fukumareru Horitsumei wo Taisho to shita End-to-End no Entitirinkingu no Seino Hyoka. Proceedings of the 26th Annual Meeting of the Association for Natural Language Processing, pp. 367-370.]

平松淳, 若林啓, 原島純 (2018). 文字分散表現に基づく単語分類情報を用いたレシピ固有表現抽

出. 研究報告自然言語処理 (NL), 2018-NL-237 (7), pp. 1-6. [M. Hiramatsu et al. (2018).

Recipe Named Entity Recognition based on Word Classification Results using Characterbased Distributed Representations. IPSJ SIG Technical Reports, 2018-NL-237 (7), pp. 1-6.]池田流弥, 安藤一秋 (2019). 固有表現抽出によるブログテキストからの品名・店名抽出. 研究報告

自然言語処理 (NL), 2019-NL-243 (5), pp. 1-8. [R. Ikeda and K. Ando (2019). Extraction of Food Product and Shop Names from Blog Text using Named Entity Recognition. IPSJ SIG Technical Reports, 2019-NL-243 (5), pp. 1-8.]

稲熊陸, 小島大, 東孝幸, 三輪誠, 古谷克司, 佐々木裕 (2021). 機械加工文書における用語入れ子構造とトリガワードを考慮した用語関係同時抽出. 言語処理学会第 27 回年次大会発表論文集, pp. 396-399. [R. Inaguma et al. (2021). Kikai Kako Bunsho niokeru Yogo Ireko Kozo to Torigawado wo Koryo shita Yogo Kankei Doji Chushutsu. Proceedings of the 27th Annual Meeting of the Association for Natural Language Processing, pp. 396-399.]岩倉友哉 (2015). 固有表現抽出におけるエラー分析. 言語処理学会年次大会第 21 回年次大会ワーク

ショップ：自然言語処理におけるエラー分析. [T. Iwakura (2015). Koyu Hyogen Chushutsu niokeru Era Bunseki. The Workshop at the 21st Annual Meeting of the Association for Natural Language Processing.]

岩倉友哉, 関根聡 (2020). 情報抽出 ・固有表現抽出のための基礎知識. 近代科学社. [T. Iwakura and S. Sekine (2020). Joho Chushutsu $\cdot$ Koyu Hyogen Chushutsu notameno Kisochishiki. Kindai Kagakusha.]

岩倉友哉, 吉川和 (2020). 化学分野への言語処理の応用. 自然言語処理, 27 (4), pp. 969-973. [T.

Iwakura and H. Yoshikawa (2020). Natural Language Processing Application to the Chemical Domain. Journal of Natural Language Processing, 27 (4), pp. 969-973.]

加藤由美, 平川聡史, 梶山晃平, 堀口裕正, 狩野芳伸 (2019). 電子カルテ自由記述部分からの皮膚疾患における重症度抽出. 言語処理学会第 25 回年次大会発表論文集, pp. 280-283. [Y. Kato et al. (2019). Denshi Karute Jiyu Kijutsu Bubun karano Hifu Shikkan niokeru Jushodo Chushutsu. Proceedings of the 25th Annual Meeting of the Association for Natural Language Processing, pp. 280-283.]

Kim, J. D., Ohta, T., Tateisi, Y., and Tsujii, J. (2003). "GENIA Corpus-Semantically Annotated Corpus for Bio-textmining." Bioinformatics, 19 (Suppl 1), i180-i182.

Kim, J. D., Ohta, T., and Tsujii, J. (2008). "Corpus Annotation for Mining Biomedical Events from Literature." BMC Bioinformatics, 9, 10.

Kim, S., Thiessen, P. A., Bolton, E. E., Chen, J., Fu, G., Gindulyte, A., Han, L., He, J., He, S., Shoemaker, B. A., and Wang, J., Yu, B., Zhang, J., and Bryant, S. H. (2016). "PubChem Substance and Compound databases." Nucleic Acids Research, 44 (D1), D1202-D1213.小島諒介, 岩田浩明, 中津井雅彦, 奥野恭史 (2020). 医薬品添付文書からの薬剤情報抽出システム.言語処理学会第 26 回年次大会発表論文集, pp. 1057-1060. [R. Kojima et al. (2020). Iyakuhin Tempu Bunsho karano Yakuzai Joho Chushutsu Shisutemu. Proceedings of the 26th Annual Meeting of the Association for Natural Language Processing, pp. 1057-1060.]

Krallinger, M., Rabal, O., Akhondi, S., Pérez, M., Santamaría, J., Rodríguez, Gael Pérez, Tsatsaronis, G., Intxaurrondo, A., Lopez, J. A., Nandal, U., Buel, E. V., Chandrasekhar, A., Rodenburg, M., Lægreid, A., Doornenbal, M. A., Oyarzábal, J., Lourenço, A., and Valencia, A. (2017). "Overview of the Biocreative VI Chemical-Protein Interaction Track." In Proceedings of the 6th BioCreative Challenge Evaluation Workshop, Vol. 1, pp. 141-146.

Krallinger, M., Rabal, O., Leitner, F., Vázquez, M., Salgado, D., Lu, Z., Leaman, R., Lu, Y., Ji, D., Lowe, D. M., Sayle, R. A., Batista-Navarro, R. T., Rak, R., Huber, T., Rocktäschel, T., Matos, S., Campos, D., Tang, B., Xu, H., Munkhdalai, T., Ryu, K. H., Ramanan, S. V., Nathan, S., Žitnik, S., Bajec, M., Weber, L., Irmer, M., Akhondi, S. A., Kors, J. A., Xu, S.,

An, X., Kumar Sikdar, U., Ekbal, A., Yoshioka, M., Dieb, T. M., Choi, M., Verspoor, K., Khabsa, M., Lee Giles, C., Liu, H., Ravikumar, K. E., Lamurias, A., Coute, F. M., Dai, H. J., Tzong-Han Tsai, R., Ata, C., Can, T., Usié Chimenos, A., Alves, R., Segura-Bedmar, I., Martínez, P., Oyarzabal, J., and Valencia, A. (2015). "The Chemdner Corpus of Chemicals and Drugs and Its Annotation Principles." Journal of Cheminformatics, 7 (Suppl 1), S2.

黒土健三, 森本康嗣, 佐藤美沙, 柳井孝介 (2020). 構文解析情報を用いたテキストからの数値情報の抽出. 人工知能学会第 34 回全国大会論文集, 1E4-GS-9-02. [K. Kurotsuchi et al. (2020). Development for Extracting Numerical Information Using Parsing Information. Proceedings of the 34th Annual Conference of the Japanese Society for Artificial Intelligence, 1E4-GS-902.]

Lee, J., Yoon, W., Kim, S., Kim, D., Kim, S., So, C. H., and Kang, J. (2019). "BioBERT: A Pre-trained Biomedical Language Representation Model for Biomedical Text Mining." Bioinformatics, 36 (4), pp. 1234-1240.

牧野晃平, 國吉房貴, 小澤順, 三輪誠 (2020). 無機材料文献からの合成プロセス抽出のための関係抽出. 言語処理学会第 26 回年次大会発表論文集, pp. 1045-1048. [K. Makino et al. (2020). Muki Zairyo Bunken karano Gosei Purosesu Chushutsu notameno Kankei Chushutsu. Proceedings of the 26th Annual Meeting of the Association for Natural Language Processing, pp. 1045-1048.]

岡裕二, 安藤一秋 (2021). 小説あらすじを用いて学習した系列ラベリングモデルによる小説本文からの人物情報抽出の性能検証. 言語処理学会第 27 回年次大会発表論文集, pp. 16341638. [Y. Oka and K. Ando (2021). Shosetsu Arasuji wo Mochiite Gakushu shita Keiretsu Raberingu Moderu niyoru Shosetsu Hombun Karano Jimbutsu Joho Chushutsu no Seino Kensho. Proceedings of the 27th Annual Meeting of the Association for Natural Language Processing, pp. 1634-1638.]

奥田裕樹, 高橋寞治 (2020). ニュース記事からの企業キーワード抽出. 言語処理学会第 26 回年次大会発表論文集, pp. 193-196. [Y. Okuda and K. Takahashi (2020). Company Keyword Extraction from News Articles. Proceedings of the 26th Annual Meeting of the Association for Natural Language Processing, pp. 193-196.]

坂地泰紀, 和泉潔, 酒井浩之 (2020). 金融・経済ドメインを対象とした言語処理. 自然言語処理, 27

(4), pp. 951-955. [H. Sakaji et al. (2020). Language Processing for Finance and Economics. Journal of Natural Language Processing, 27, pp. 951-955.]

新堂安孝, 友利涼, 富田紘平, 兼村厚範, 森信介 (2018). レストラン・レビューにおける食べ物・飲み物表現の抽出. 信学技報, 118 (210), pp. 97-102. [Y. Shindoh et al. (2018). Detection of Food and Drink Expressions in Restaurant Review Services. IEICE Technical Report, 118

(210), pp. 97-102.]

新城大希, 德永健伸, 牧野拓哉, 岩倉友哉 (2021). 構文情報とラベルなしデータを用いた化学分野の関係抽出. 言語処理学会第 27 回年次大会発表論文集, pp. 890-894. [T. Shinjo et al. (2021). Kobun Joho to Raberu Nashi Deta wo Mochiita Kagaku Bunya no Kankei Chushutsu. Proceedings of the 27th Annual Meeting of the Association for Natural Language Processing, pp. 890-894.]

角谷和俊, 難波英嗣, 牛尼剛聡, 若宮翔子, 王元元, 河合由起子 (2019). 料理レシピデータのメディア特性分析と利活用. 人工知能, 34 (1), pp. 32-40. [K. Sumiya et al. (2019). Media Characteristic Analysis and Its Applications for Cooking Recipes. Journal of Japanese Society for Artificial Intelligence, 34 (1), pp. 32-40.]

辰巳守祐, 後藤啓介, 進藤裕之, 松本裕治 (2019). 辞書を用いたコーパス拡張による化学ドメインの Distantly Supervised 固有表現認識. 研究報告自然言語処理 (NL), 2019-NL-241 (7), pp. 1-7. [S. Tatsumi et al. (2019). Data Augmented Distantly Supervised Named Entity Recognition in Chemical Domain. IPSJ SIG Technical Reports, 2019-NL-241 (7), pp. 1-7.]山口京佑, 旭良司, 佐々木裕 (2021). 文献抄録中の主題材料に着目した超伝導材料に関する情報抽出. 言語処理学会第 27 回年次大会発表論文集, pp. 1809-1814. [K. Yamaguchi et al. (2021). Bunken Shorokuchu no Shudai Zairyo ni Chakumoku shita Chodendo Zairyo ni Kansuru Joho Chushutsu. Proceedings of the 27th Annual Meeting of the Association for Natural Language Processing, pp. 1809-1814.]

柳井孝介, 佐藤美沙, 十河泰弘, 山脇功一, 渋谷淳 (2020). StruAP を用いた金融分野の開示文書からの情報抽出. 言語処理学会第 26 回年次大会発表論文集, pp. 311-314. [K. Yanai et al. (2020). StruAP wo Mochiita Kinyu Bunya no Kaiji Bunsho karano Joho Chushutsu. Proceedings of the 26th Annual Meeting of the Association for Natural Language Processing, pp. 311-314.]

Yang, Y., Chen, W., Li, Z., He, Z., and Zhang, M. (2018). "Distantly Supervised NER with Partial Annotation Learning and Reinforcement Learning." In Proceedings of the 27th International Conference on Computational Linguistics, pp. 2159-2169.

張培楠 (2019), EC サイトにおける商品タイトルからの商品名抽出. 人工知能学会第 33 回全国大会論文集, 4Rin1-23. [P. Zhang (2019). Product Name Extraction from Product Entries on Electronic Commerce Pages. Proceedings of the 33rd Annual Conference of the Japanese Society for Artificial Intelligence, 4Rin1-23.]

## 付録

本論文執筆のために洗い出したドメイン依存の固有表現抽出に関連する論文は, 論文内で紹介したもの以外も含めると 52 件あった。それらの論文について, 課題設定・着眼点や手法, 抽出する対象等をまとめたリストを，以下に公開する.

https://github.com/mihonti/NESurvey2023/blob/983245d36de3e03dd4f270da590eb5a66 bdc5d2c/NEpapers_2023.pdf

## 略歴

福田美穂：1997 年東京大学文学部卒業. ニフティ株式会社にて自然言語処理技術を使ったクチコミ分析サービスの企画・運営に携わる。同社を退職後, フリーランスとして主に情報技術関連ニュース記事等を翻訳，執筆.

関根聡: 1992 年英国マンチェスター大学計算言語学部修士号. 1998 年ニュー ヨーク大学コンピューターサイエンス学部博士号. その後, ニューヨーク大学研究准教授に就任. 松下電業産業株式会社 (現パナソニック), SONY CSL, マイクロソフトリサーチ，楽天技術研究所ニューヨークなどでの研究職を歴任. 専門は自然言語処理. 特に情報抽出, 固有表現抽出, 質問応答, 情報アクセス, 知識構築の研究に従事. 情報処理学会自然言語処理研究会主査, その他役職多数. 複数の企業の技術顧問なども兼任.


# 「負例を厳選した対話応答選択による 対話応答生成システムの評価」の執筆をふりかえって

佐藤 志貴 $\dagger$

## 1 はじめに

本稿では, 言語処理学会 2022 年度最優秀論文賞を受賞した「負例を厳選した対話応答選択による対話応答生成システムの評価」について述べる，とくに，研究の着想に至る経緯や, 原論文採録までの過程で得た学びに焦点を当てる．研究の詳細に関しては原論文を参照されたい.

## 2 原論文の概要

本研究は，ニューラル雑談対話システムの性能の自動評価手法を提案するものである．性能と言っても様々な評価軸が考えられるが「意味的に妥当な応答を生成可能か」に注目している.雑談対話システムの性能評価で最も注意が必要であると著者が考えるのは, 妥当な応答が無数に存在する，という対話の性質である。この性質こそが対話の面白さと考えることもできるが, 雑談対話システムの性能評価を難しくする要素でもある. 特に BLEU (Papineni et al. 2002) など, これまで広く使われてきた参照応答との類似度に基づく評価を困難なものにする。

本研究では, この性質の影響を受けにくい雑談対話応答生成システムの自動評価手法として,対話応答選択を用いた評価に着目した。対話応答選択は，与えられた対話履歴に続く適切な応答（以下，正例と呼ぶ）を選択肢（以下，応答候補と呼ぶ）から選択するタスクである。雑談対話応答生成システムは応答を生成するシステムだが, 応答候補中の各発話の生成確率を計算し,最も生成確率が高い候補をシステムの選択とみなすことで選択問題を解くことができる。選択問題であれば回答は選択肢中の応答に限られるため, 適切だが参照応答と類似しない応答が出力されシステムが不当に低く評価されるといった事態を回避できる.

本研究の取り組みは, 対話応答選択による雑談対話システムの自動評価に適した評価用デー タセットの作成である。特に，対話応答選択における負例をどのように選定することで有効なシステム評価が可能かに焦点を当てた．対話応答選択における負例の一般的な収集手法として，無関係な対話に含まれる発話の無作為抽出が挙げられる (Lowe et al. 2015; Gunasekara et al. 2019). しかし, この手法では (a) 対話履歴と無関係な単語等を含むために対話の内容を考慮せ

ずに不正解と判別できてしまう発話や，(b) 対話履歴に対する応答として必ずしも妥当ではないと言い切れない発話が負例として収集される可能性がある。そこで本研究では，こうした負例が評価データセットに混入することを防ぐため，正例をクエリとして検索された類似発話のうち, 応答として妥当ではないものを人手によって取り出すことで負例を収集する手法を提案した. 提案法により構築した評価データセットを用いた対話応答選択によって複数の雑談対話システムを性能順に並び替えたとき，既存の自動評価法や負例を無作為抽出したときと比べ，人手評価と相関するシステムのランキングを作成可能であることを実験で確認した.

## 3 本研究の着想に至った経緯とその後

原論文は, The 58th Annual Meeting of the Association for Computational Linguistics (ACL 2020) で発表したもの (Sato et al. 2020) に実験等を補強したうえで執筆した論文である。そのため,ここでは ACL 2020 で発表した論文について述べる.

ACL 2020 で発表した論文を執筆したのは著者が修士課程 1 年目のことであったが，学部生の頃はどちらかといえば雑談システム自体を構築することに興味があり, 自身の研究も雑談システムの応答生成法に関するものを行っていた。当時は右も左もわからないながら研究を進めていったが，提案手法により生成される応答の意味的な妥当性の検証において苦しんだ。最終的にシステム応答の妥当性を検証する際の手法といえば当時も近年も変わらず人手評価となるが，システム改良を重ねていく合間に低コストで妥当性を評価する手立てがないため，自身で応答の質を確認しつつ問題点を洗い出していくしかなかったのだ。今でこそ人手評価との相関が一定程度確認されている対話システム自動評価手法が様々提案されている. しかし, 当時の先行研究では広く使われている自動評価といえば, 先述した問題を抱える BLEU 程度しかなかった. そのとき, 雑談対話システム開発には人間の主観に沿う自動評価指標が必要であると強く感じた.

以上のようなスタートから, 実際に本研究を進めていった。この研究を始めたのは著者が修士課程 1 年目の夏前頃からであったが, 当初から ACL 2020 への投稿を具体的な目標としていた. これは，とにかく修士課程 1 年目の間に国際会議への投稿に挑戦してみたいという理由から決めたものだった，ただ，評価手法の提案のような，時間さえあればいくらでもマイナーチェンジできる可能性のある研究では，締切を早い段階で決めないとズルズルと投稿が後ろ倒しになることも考えられる．結果的には，この研究ではこの方針が功を奏したのではないかと感じる.

## 4 執筆で得られた学び

ACL2020に向けた執筆は，初めての査読ありの執筆，英語での執筆ということで，採択に至るまでに得た学びや細かい失敗は数え切れない。そのなかには研究に臨む姿勢も含まれる。ただ，それらは必ず他者に当てはまるかも明確ではないため, 少し本記事の趣旨とは異なる可能性もあるが，ACL2020 執筆に向け予め知っておけばよかった具体的な学びをいくつか挙げることにする。特にこれから初めて国際会議に挑戦する方の参考になれば幸いである.

## 4.1 学び 1: 研究ログはいつ人に見られてもいい程度に整理して残す

研究に関わるデータやメモを隈なく保存するということは研究において基礎中の基礎であり，当然著者も本研究に取り組むなかで発生するそれらを保存した. しかし, 今にして思うと, 「そのデータが今後どのように使われうるか」という想像に欠けていたように感じる. 特にそのことを強く感じたのは，「研究データの一部を共有してほしい」というメールを昨年受け取ったときだった. そのデータは残っていたものの, 付随するスクリプトの読みやすさやファイル名などがお世辞にも整理されているとはいえず，なかにはメモを見なければなんのファイルなのか思い出せないものもあったのだ．結局メールでデータを共有する際には，かつての作業を思い起こしながら，コメントを付与したりファイル名を解釈可能なものに一部変更する必要があり, それなりのコストに。「どんな情報の共有を依頼されるかわからないのだら, どんなデータも気持ちよく人に見せられる程度に日頃から整理すべき」というのは，もちろん朧げには誰しも想像できる。しかし, 初めて国際会議に論文を出す時には,「世界中のたくさんの研究者が自分の研究に興味を持って, 本当に直接コンタクトをとってくる」ということは, 当時の著者同様になかなか実感しにくい部分があるのではと感じるし，なんたか自意識過剰なのではないかと思ってしまうのかもしれない。たた，論文執筆の責任にはこのようなデータ管理も含まれている. 著者としても，今後は「いまやっている実験のデータは，いますぐに誰かに見せても理解しやすい形式になっているか」を日頃から自分に問いかけながら研究を進めていきたい.

## 4.2 学び 2: 順調だからこそ, ふと手を離すことが重要な場合も

複数の研究プロジェクトであったり業務を抱えていることのメリットの一つとして，一方でうまく行かない時でも, 気分転換がてら他方に取り組むことでモチベーションを維持できることが挙げられるのではないかと考える。しかし, 自分にとってこの研究は, 順調に進んでいてモチベーションも高い状態で手を離したことでうまくいった稀有な例である.この研究は修士課程 1 年目の夏前から始めたわけだが，当初から比較的研究は順調に進み，初めての国際会議へ良い論文が投稿できるかもしれないと，モチベーションも高く維持できていた．たた，夏の後半に 1 ケ月を超えるフルタイムでのインターンシップへの参加が事前に決まっていたため, 順
調に進んでいるなかで，この研究を本格的に進めることは難しくなった，論文投稿まで時間が有り余っているというわけでもないなか, 長期間手を離すことで，締め切りに間に合わない可能性も出てくる。なにより，再開した時に高いモチベーションを持てるだ万うか. インターンシップ開始時は不安も感じた。しかし, インターンシップ期間をいま振り返ると, この研究にとっても非常に充実したものであったように思う．自分の研究のことを頭のなかで考える程度の時間はあるが，実験を進めることは難しい，そんなもどかしさと共に日々を過ごすうち，これまではある程度盤石だと思い猪突猛進に実験を進めていた研究の大元のストーリーであったり実験設定に，脆弱性が存在することに気付けたのである，インターンシップ前の自分は，高いモチベーションのもと，とにかく研究を前へ進めていこうという気持ちばかりを尊重して，そういった穴には目を向けられていなかった。この段階でそれらに気づけていなかったら，結果的には後から大きく遠回りすることになり，ACL2020での採択や原論文の受賞にもつながらなかったかもしれない. モチベーションが高い状態だからこそ， ふと手を止めてみて，自分が先走り過ぎていないか振り返ってみることが重要なこともあるかもしれない.

## 4.3 学び 3: むやみに謝らない

個人的にはこれが最も重要だと考えている。何の話かというと，リバッタルである。論文を投稿すると, 国際会議にしろ論文誌にしろ, リバッタルの機会が与えられることがある. 全く欠点のない論文でもない限り，そこで様々な指摘をもらうことになる。なかでもよくある指摘としては「説明が足りない」「ここで言っていることがわからない」などが挙げられる。これらに対するリバッタルを書く時，普段日本で生活している方であれば，どうしても「申し訳ございません」という文から始めたくなるのではないかと個人的には思っている．謝罪も日常のコミュニケーションの潤滑油の一つとして扱う（と著者は解釈している）日本文化に染まった著者も例に漏れず，まずは軽めの謝罪からドラフトを書き始めた，ただ，その冒頭はすぐに指導してくださった方によって消されることになった．理由は単純明快．悪いことをしていないのだから謝る必要はない．これはリバッタルの性質を改めて考えてみると，極めて重要なのだとわかる，論文投稿者の目線で考えた時，そもそもリバッ夕ルの目的は，レビューをしたレビュアーの気分を良くすることではない，レビューとリバッタルの応酬を見せて，メタレビュアー に「投稿者側の言い分のほうが正しい」ということを納得してもらうことが目的である。そんななかで謝罪をしてしまうと「詳しくは不明だが，この著者にはなにか後ろめたい部分があるのか」という印象を与えかねない，もちろん重要なのは反論の中身ではあるが，国際会議では採択率が $20 \%$ を下回る場合もあるなど競争が激化している。ボーダー付近の論文が大量に存在する昨今では，この小さな印象が採否を左右する可能性も考えられる。もちろんレビュアーへ対するリスペクトはしっかりしたうえで，それでも「正しいことを言っているのはこちらです」 ということが正しく伝わる言葉選びは重要となるということを学んだ.

## 5 おわりに

本研究は, 初めての評価に関する研究への挑戦, 初めての国際会議への挑戦, 初めての論文誌への挑戦，初めてづくしとなる挑戦の機会を与えてくれた，学びは数知れず，上述のものだけでは全く書き足りない，今回，そんな一際思い入れの深い研究で賞をいただけたことには，素直な喜びのほかに，尊敬する師の栄誉が讃えられた誇らしさのようなものも感じる。まだまだ未熟者ではあるが, 得られた経験や想いも糧にして, 引き続き研究活動に邁進していきたい.

## 謝 辞

查読や賞選考に関わってくださった皆様, 原論文掲載までの過程や本稿執筆に関してお世話になった編集委員の皆様に感謝申しげます。また，共著者の皆様，沢山の助言をくたさった東北大学自然言語処理研究グループの皆様にお礼申し上げます.

## 参考文献

Gunasekara, C., Kummerfeld, J. K., Polymenakos, L., and Lasecki, W. (2019). "DSTC7 Task 1: Noetic End-to-End Response Selection." In Proceedings of the 1st Workshop on NLP for Conversational AI, pp. 60-67.

Lowe, R., Pow, N., Serban, I., and Pineau, J. (2015). "The Ubuntu Dialogue Corpus: A Large Dataset for Research in Unstructured Multi-Turn Dialogue Systems." In Proceedings of the 16th Annual Meeting of the Special Interest Group on Discourse and Dialogue, pp. 285-294.

Papineni, K., Roukos, S., Ward, T., and Zhu, W.-J. (2002). "BLEU: A Method for Automatic Evaluation of Machine Translation." In Proceedings of the 40th Annual Meeting of the Association for Computational Linguistics, pp. 311-318.

Sato, S., Akama, R., Ouchi, H., Suzuki, J., and Inui, K. (2020). "Evaluating Dialogue Generation Systems via Response Selection." In Proceedings of the 58th Annual Meeting of the Association for Computational Linguistics, pp. 593-599.

## 略歴

佐藤志貴：2019 年東北大学工学部卒業. 2021 年東北大学大学院情報科学研究科博士前期課程修了. 現在, 東北大学情報科学研究科博士課程取得に向け研究を進めている. 2021 年度より日本学術振興会特別研究員 (DC1)


# 「対話における間接的応答と直接的応答からなる 言い換えコーパスの構築と分析」の研究の道のり

高山 隼矢

## 1 はじめに

本稿では, 言語処理学会 2022 年度論文賞をいただいた「対話における間接的応答と直接的応答からなる言い換えコーパスの構築と分析」(高山他 2022) について, その内容を簡潔に紹介したのち，着想に至った経緯や研究の過程・苦労などについて述べる.

## 2 原論文の概要

原論文は，対話における言い換え現象の一つである「間接的な応答」と「直接的な応答」相互間の言い換えに着目したものである。対話において人間はしばしば自身の要求や意図を直接的に言及せず，言外に意図を含んだ間接的な発話によって表現することがある。人間は対話相手から間接的な応答を受け取ったとき，これまでの対話履歴などの文脈に基づいて言外の意図を推測できる。図 1 に，レストランの予約に関する対話における間接的な応答と直接的な応答の例を示す。この例ではオペレータの「Aレストランを予約しますか？」という質問に対してユーザは「予算が少ないのですが」と応答している（図中の「間接的な応答」）。この応答は字義通りの意味だけを考慮するとオペレータの質問への直接的な回答にはなっていない. しかし， オペレータは対話履歴を考慮してユーザが A レストランよりも安いレストランを探していると推論し，新たに $\mathrm{A}$ レストランよりも安い B レストランを提案している。 大規模な対話コーパスを学習したニューラル対話モデルは流暢な応答を生成する能力を持つが，間接的な応答に焦点を当てたコーパスは存在せず，モデルが人間と同様にこのような間接的な応答を扱うことができるかどうかは明らかではなかった.

そこで原論文ではまず，既存の英語対話コーパスである MultiWoZ を拡張することで， 71,498 の間接的な応答と直接的な応答の対からなる, 対話履歴付きの英語言い換えコーパス DIRECT (Direct and Indirect REsponses in Conversational Text) 1 を構築した。具体的には，MultiWoZ の各ユーザ発話に対してクラウドソーシングを用いて「ユーザ発話をより間接的に言い換えた
^{1}$ https://github.com/junya-takayama/DIRECT/ にて公開中
}

図 1 対話における間接的応答と直接的応答の例.これらの応答は字義通りに解釈すると異なる意味を持つが，この対話履歴上においては言い換え可能な関係にある.

発話」と「ユーザ発話をより直接的に言い換えた発話」の対を収集した。また，間接的な応答を扱う能力を評価するための 3 つのベンチマークタスクを設計し, 最新の事前学習済みモデルの性能を調査した。さらに，ユーザーの間接的な発話を事前に直接的な発話に変換することで対話応答生成の性能が向上することを確認した．詳細は原論文を参照されたい．

## 3 採択までの道のり

## 3.1 着想の経緯

間接的な応答という現象に研究対象としての興味を持ったのは, 博士課程進学後 1 年を経た 2020 年半ばのことであった. 著者は元々対話応答生成に興味を持ち, 応答の多様性の向上 (Takayama and Arase 2019) や情報量を制御可能な応答生成器の構築 (Takayama and Arase 2020) など，当時のメインストリームに程近い研究に取り組んでいた．対話応答生成のような文生成系の研究においては，モデルが生成した文を自分の目で一つ一つ確認しながらエラー分析を行うことが日常となる．著者もそのようなエラー分析を少なからぬ回数行なってきた中で，提案手法・比較手法・ベースラインといった様々なモデルのどれもが陥りがちな典型的なエラー として，「ユーザ発話に含まれる言外の意図を汲めていない，（表層的な意味をそのまま受け取ったような）的外れな応答を生成する」というものがあることには応答生成研究を始めた序盤の頃より気づいていた。しかし, 当時の対話応答生成モデルは今と比べれば質に劣るものであったため, この問題は「今の技術では到底解決しようのないもの」として考えていた. 2020 年の時流としてはちょうど BERT や GPT-2 などに代表される事前学習済み言語モデル（Pre-trained Language Models; PLM）が種々のタスクのリーダーボードを塗り替えていた頃であった. ある程度の常識や世界知識を持っているかのごとく振る舞い，またあらゆる後段タスクにおいて高

い精度を達成する PLM であれば，間接的な応答に含まれる言外の意図を上手く処理できるのではないかという期待が, 本研究の足がかりとなった.

著者のいた研究室では当時, 共著者であり著者の指導教員であった荒瀬由紀先生のほかに, 同じく共著者である愛媛大学の梶原智之先生が言い換え・平易化に関するテーマに取り組む一部学生の指導にあたっていた，原論文は対話研究と言い換え研究の融合のようなテーマだが，著者は当時言い換えに関する研究経験がなかった．そこで本研究においては，（とりわけコーパスの分析やベンチマークタスクの設計においては特に, ）荒瀬・梶原両先生から言い換え研究者視点でのフィードバックを積極的にいたたき，それを反映しながら研究を進めるスタイルをとった.

## 3.2 データ収集の苦難

データ収集には Amazon Mechanical Turk² (AMT) というクラウドソーシング用プラットフォームを利用した。原論文でも述べた通り，応答対の収集においては本番タスクの前に 2 回のパイロットタスクを実施して指示文や UI を改良しつつ，著者自身の人手チェックによるワーカーのスクリーニングを実施している，スクリーニングは非常に骨の折れる作業であった。 AMT ではワーカーの属性をある程度絞り达んだ上でタスクを発注できる。そのため本研究においても発注対象を英語話者の Master Worker ${ }^{3}$ に限定するなど種々なフィルタリングを設けた.これらのフィルタリングは概ね適切に機能し, ほとんどのワーカーは指示に従い高品質なデータを納品してくれた. しかし中には，英語の対話データなのにもかかわらず何故か異言語 （スペイン語など）のテキストを投稿するワーカーや，元データ中の文言をほぼそのまま抜き出したようなテキストを投稿するワーカーなど，フィルタリングをくぐり抜けて不正を含むデー 夕を投稿するワーカーも存在した。パイロットタスク中に発見したこれらの事例については, langdetect 4 を用いた非英語データ検知プログラムや, 間接的応答・直接的応答・オリジナルの応答から作られる全てのペア間の文字レベル編集距離を用いた不正検知プログラムなどを作成することで, もし本番タスクで同様の不正が行われても漏れなく検知できるよう工夫を施した. また，不正を働くインセンティブを極力減らす意味合いで，指示文にはプログラムと人手による不正チェックが行われる旨を明記した。一方で, その判定基準についてはあえて曖昧に記すこととした。これは判定基準をすり抜けるような高度な不正を防ぐ狙いもあるが，閥値近辺にある高品質なデータを捨てないための裁量の余地を確保しておきたかったという背景もある.

盤石の体制を敷いて開始した本番タスクについても，決して首尾よくデータ収集が進んだわけではなかった，本番タスクでは事前にデータをおおよそ 10,000 発話ずつのバッチに分割することで発注を数回に分けたのだが，バッチによってデー夕収集の速度にかなりのバラつきが生
^{3}$ AMT が設けた一定の基準を満たす, 質の高い作業を継続的に行なってきたワーカー

4 https://pypi.org/project/langdetect/
}

じ，非常に時間のかかるバッチも存在した，考えられる要因は様々だが，まず 1 つ目に，大多数のワーカーにとって不都合な時間帯にタスクを発注すると別の発注者が開始した後続のタスクに埋もれて発見してもらえなくなるというものがあった. これについてはパイロットタスクや本番 1,2 バッチ目の経験から総合的に判断し, 最終的にはアメリカ時間の朝 8 時ごろにタスクを開始するのが良いという結論に至っだ ${ }^{5} .2$ つ目に, 他の発注者による超大規模なデータ収集タスクがほぼ同時に開始されたためにそちらにワーカーが集中してしまうという要因もあった. これは防ぎようのない，謂わば天災のようなものであった. 有効な対策は恐らく無いが，このようなイレギュラー因子もデータ収集期間の見積りに盛り込んでおく必要があるという教訓は得られた。また，本番タスクにおいても一定数不正を含むデータが投稿されることがあった. これらに常に目を凝らしながら過ごした当時の日常は非常に神経のすり減るものであった.

## 3.3 EMNLP-Findings への採択と，追加分析

原論文の一部は Findings of EMNLP 2021 に採択されたものである (Takayama et al. 2021).苦難を乗り越えデータ収集を終えた後，コーパスの統計的・定性的分析やベンチマークタスクの実験，応答生成タスクへの適用実験などを急ぎ行い，EMNLP 2021 に論文を投稿した． 3 人の査読者によるスコアはそれぞれ $3,3.5,4$ であった.これは rebuttal で誠意ある対応を行えば本会議への採択もあり得るだ万うと思える程度のスコアであったし, 手前味増ながら面白い論文を書けたとも感じていたため，当時は期待感を持って notification を待っていたことを覚えている。それゆえに Findingsへの採択通知は，喜ばしい気持ちと同時に若干の悔しさを感じさせるものでもあった。しかし, 当時著者は既に博士課程 3 年次に突入しており, 博士論文執筆のために業績があと 1 本必要という逼迫した状況にあった。そのため再投稿の選択肢は取らずに Findings への採録を受諾し，内容を拡張したもの（原論文）を本誌に投稿することとした．

原論文の執筆においては先の Findings 論文の査読での指摘が大いに参考になった. 指摘された点に注意しながら Findings 論文を読み返すと、コーパスを作成したことが主な貢献であるにもかかわらず，その性質の分析が定量・定性ともに不十分であり, 後半の応用実験に比重が偏っていることを実感した。そこで原論文においては主にコーパスの性質の分析を重点的に拡張することで，無事に採択されるに至った.

なお, 前年度最優秀論文賞を受賞された平岡達也氏も, 氏の学会記事 (平岡 2022) において Findings 採択後の葛藤について言及している. 本記事を執筆する際に参考として先行の学会記事を複数読んだが，当該箇所を読んた際には深く共感し感極まるものがあった．平岡氏と同様の感想にはなるが，一度苦汁を飲まされ，その後もどこかモヤモヤとした気持ちを抱え続けた中にあって, 論文賞という形で本研究を評価していただけたことは非常にありがたいことである.

## 4 おわりに

本研究は著者の専門外の研究トピックである言い換えとの融合型の研究であり，また大規模なデータ収集を行う必要があるなど, 当時の著者にとっては初めての大きな挑戦が続く研究であった。そのためその研究過程は決して順調な道のりではなかったし，それがゆえに強い思い入れのある研究でもあり，受賞の知らせを受けたときには万感の思いであった. 原論文を高く評価いただいた編集委員の皆様に染く感謝する。また，原論文の共著者であり，本稿の執筆においても貴重なご意見をいただいた大阪大学の荒瀬由紀先生と愛媛大学の梶原智之先生には改めて感謝の意を表する．最後に，拙文ながら本稿が読者の方々の研究活動を少しでも支えるものとなることを願う.

## 参考文献

平岡達也 (2022). 単語分割の最適化に関する研究は雑談と偶然の出会いに育まれた. 自然言語処理, 29 (2), pp. 688-693. [T. Hiraoka (2022). Chatting and Accidental Meeting Promoted Study of Optimizing Word Segmentation. Journal of Natural Language Processing, 29 (2), pp. 688-693.].

高山隼矢, 梶原智之, 荒瀬由紀 (2022). 対話における間接的応答と直接的応答からなる言い換えコーパスの構築と分析. 自然言語処理, 29 (1), pp. 84-111. [J. Takayama et al. (2022). Construction and Analysis of a Dialogue Corpus with Paraphrase Pairs of Indirect and Direct Responses. Journal of Natural Language Processing, 29 (1), pp. 84-111.].

Takayama, J. and Arase, Y. (2019). "Relevant and Informative Response Generation using Pointwise Mutual Information." In Proceedings of the Workshop on NLP for Conversational AI, pp. 133-138.

Takayama, J. and Arase, Y. (2020). "Consistent Response Generation with Controlled Specificity." In Findings of the Association for Computational Linguistics: EMNLP, pp. 4418-4427.

Takayama, J., Kajiwara, T., and Arase, Y. (2021). "DIRECT: Direct and Indirect Responses in Conversational Text Corpus." In Findings of the Association for Computational Linguistics: EMNLP, pp. 1980-1989.

## 略歴

高山隼矢 : 2017 年豊田工業大学工学部先端工学基礎学科卒業. 2019 年大阪大学大学院情報科学研究科博士前期課程, 2022 年後期課程修了. 同年ヤフー株
式会社に入社. 現在に至る. 自然言語生成, 対話システム, 翻字に興味を持つ. 現在は検索クエリを用いたエンティティリンキングシステムの開発に従事. 博士 (情報科学). 言語処理学会会員.


# 「マスクされた単語埋め込みと 2 段階クラスタリングを用いた 動詞の意味フレーム推定」の解説

山田康輔†

## 1 はじめに

本稿では, 言語処理学会 2022 年度論文賞を受賞した「マスクされた単語埋め込みと 2 段階クラスタリングを用いた動詞の意味フレーム推定」（以下，原論文）（山田他 2022）について解説する.これは ACL-IJCNLP 2021 の本会議に採択された論文（論文 1） (Yamada et al. 2021a) を元に執筆されたものであるが，実は論文 1 と ACL-IJCNLP 2021 Findings に採択された論文 （論文 2）（Yamada et al. 2021b）をまとめて解説した記事 (山田 2021) を既に執筆させていたたいており, その中で本研究の大目標である意味フレーム構築全体の研究背景や各論文の研究概要や研究過程について解説させていただいてる。このため, 本稿では, 原論文の概要を説明した後, 研究過程ではなく, 論文 1 の内容を論文誌として投稿するにあたり注力したことについてまとめる.

## 2 原論文の概要

原論文では，大規模なテキストコーパスから人が持つ語の背景知識である意味フレームを自動的に構築するため, その最初のステップである動詞の意味フレーム推定に取り組んでいる. これは，テキスト中の動詞を，その動詞が喚起するフレームごとにまとめるタスクである。たとえば，表 1 の (1) から (4)に示す FrameNet (Baker et al. 1998)の用例の場合, $\{(1)\},\{(2)\}$, $\{(3),(4)\}$ の3つのクラスタにまとめることを意味する。近年，本タスクを解くための手法の多くは，動詞の BERT などの文脈化単語埋め込みを用い，すべての事例を一度にクラスタリング

(1) We'll not get there before the rain comes.

(Arriving)

(2) The problem continued to get worse.

(Transition_to_state)

(3) You may get more money from the basic pension.

(Getting)

(4) We have acquired more than 100 works. (Getting)

表 1 FrameNet における動詞「get」と「acquire」の用例と各動詞が喚起するフレーム（括弧内）．

する朹組みを採用している (Arefyev et al. 2019; Anwar et al. 2019; Ribeiro et al. 2019)． 原論文では, この朹組みの 2 つの欠点を指摘し, その欠点を改善する手法を提案している.

1つ目の欠点は, 動詞の文脈化単語埋め込みがその動詞の表層情報に影響されているため, 事例が意味ごとにまとまりづらい傾向があることである。図 1 の左側は, FrameNet から動詞「get」 と「acquire」の用例を抽出し, BERT (Devlin et al. 2019)による各動詞の埋め込みを t-SNE により 2 次元に射影し, 可視化したものである。この結果から，GETTINGフレームを喚起する 「get」の事例は，同じ GETTING フレームを喚起する「acquire」の事例の近くに位置する傾向が見られるが，各動詞が喚起するフレームというよりむしろ表層ごとにまとまっていることが確認できる。これを改善するため, 原論文では, 動詞を [MASK] トークンに置き換えて獲得できる埋め込みであるマスクされた単語埋め込みの利用を提案する. 図 1 の右側がマスクされた動詞の文脈化埋め达みの可視化結果である。マスクを用いることで動詞の表層的な情報を隠すことができ，同じフレームを喚起する動詞の事例が近い位置になっていることが確認できる。

もう 1 つの欠点は, 同じ動詞が喚起するフレームの異なり数は数個程度と限定的であるにも関わらず，その動詞の事例が多くの異なるクラスタに分割されすぎてしまうことである。たとえば，動詞「acquire」は Getting フレームの事例しかFrameNet データセットに含まれていないため，「acquire」のすべての事例は 1 つの共通したクラスタに属することが期待されるが，ノイズを含む埋め込み表現となっている事例が存在する場合, 複数の異なるクラスタに分かれることが確認されている。このような事態を避けるため，2 段階クラスタリングを提案する。その概要を図 2 に示す。まず，1段階目のクラスタリングとして，動詞ごとに事例のクラスタリングを行うことで, 同じ動詞の意味ごとでクラスタを形成し, その後, 2 段階目のクラスタリングとして，動詞横断的にクラスタリングを行うことでフレームクラスタを形成する手法であ

図 1 動詞「get」と「acquire」の文脈化埋め込み（左）とマスクされた動詞の文脈化埋め込み（右）の 2 次元マッピング．数字は表 1 の用例に対応し, + と・はそれぞれ動詞「get」と「acquire」の事例,各色はArriving, Transition_to_state, Getting フレームを示す.

図 22 段階クラスタリングの概要. 左上, 左下図はそれぞれ動詞「get」と「acquire」を対象とした 1 段階目の動詞ごとの用例クラスタリング, 中図はクラスタ内の埋め込みの平均の算出, 右図は 2 段階目の動詞横断クラスタリングを示している。各図における＋と・は「get」と「acquire」の事例を表す.

る.これによって, 多少ノイズとなる事例が存在するとしても, 特定の動詞に関する事例が多くのクラスタに分割されすぎないことが期待できる.

原論文では，FrameNet を用いた実験を通し，マスクされた単語埋め込み及び 2 段階クラスタリングがそれぞれ有用であることを示した。また，これらを組み合わせた手法は，従来手法と比較して 12 ポイント以上評価スコアが向上し, これまでの最高性能を獲得した.

## 3 国際会議で発表した内容を論文誌として投稿するにあたり注力したこと

1節で述べたように，原論文は ACL-IJCNLP 2021 の本会議に採択された論文 1 を元に執筆したものであり，2 節で述べた提案手法及び実験結果はすべて論文 1 に含まれる内容である。論文 1 採択までの経緯については，学会記事 (山田 2021) にまとめたため, そちらを参照していただきたい，本節では，国際会議で発表した論文 1 の内容を論文誌として投稿するにあたって，特に注力した 3 つについて述べる。国際会議に採択された後，論文誌を執筆する方が多いと思われるため, その参考となれば嬉しい限りである。

1つ目は，論文冒頭いわゆる「はじめに」の内容である。学会で発表するために執筆する予
稿は, 研究の議論や技術の共有などが目的となるため,「はじめに」の内容としては, 簡潔な夕スクの説明をし，そのタスクにおいて着目する点を述べ，それに対するアプローチを説明するといった流れのものが期待される。一方, 論文誌は完結した研究を広める場である. このため,「はじめに」の内容に関しては，研究で取り扱うタスクより幅広い視野で，分野全体の背景やそのタスクの意味や意義についてまとめることが重要になると考えている．たとえば，原論文で言えば，動詞の意味フレーム推定タスクを説明する以前に，そもそも意味フレームとは何であるかや，意味フレームを構築する意義は何かなどがこれにあたる．著者は原論文を執筆するにあたり，これらをできるだけ読者に伝わるよう，動詞「振る舞う」の事例を用いて丁寧に導入することを心がけた.

2 つ目は，実際に構築したシステムの出力結果の分析である。学会の予稿ではページ数の制限が厳しく，また，定量的な評価が重視されるため，構築されたシステムの出力の分析などの定性的な評価を十分に示していないものが多い.しかし，そのような分析は研究を説明したり議論したりする上でかなり重要であると考えている。これは，その分析によって直感的にどこまで実現できているか確認でき，どのような点で提案手法に強みがあるのかわかるためである.原論文では，実際に構築されたフレームクラスタの表や埋め込みの可視化図などによる定性的な評価に力を入れた。

3 つ目は，実験でうまくいっていない手法に対するスコアの説明である。学会の予稿では貢献を明確にするため，実験でうまくいった提案手法に対して，考察をまとめる場合が多い，当然ながら上手くいく手法に関する考察は重要であるが，その手法を他の研究で利用する場面などでは，上手くいかなかった手法に関する考察も非常に重要である．たとえば，提案手法内でも一部のアルゴリズムやハイパーパラメータを変更した場合において， スコアが下がるようなケースの考察は, 後続の研究においてかなり重要な知見となる。原論文でいえば， 1 段階目に X-means，2 段階目に群平均法を用いた 2 段階クラスタリング手法が高い性能を示しているが，他にも 1 段階目に群平均法や 2 段階目にウォード法を用いた 2 段階クラスタリング手法も検証しており，その手法が最高性能を示す手法と比較して，スコアが低くなった理由について考察している。このような考察は，今後類似したタスクを解く場合や手法を用いる場合の問題への対処に繋がり，研究コミユニテイのために非常に重要であると考えている.

## 4 おわりに

原論文は，大規模なテキストコーパスから高品質な意味フレームを自動構築するという大きな目標に向けた最初のステップである動詞の意味フレーム推定に取り組んだ研究である. ここからは後日談であるが，本稿で提案した手法をそのまま大規模なテキストコーパスに適用した結果，原論文の実験で得た結果ほど，提案手法は十分に高い性能は示せていない。これは, FrameNet

の事例はいずれもフレーム情報を付与できるような綺麗なテキストが大半であるが，実際のテキストコーパスはそこまで綺麗ではないことに由来している。このため, より性能の高い動詞の意味フレーム推定手法を実現すべく,「深層距離学習を用いた動詞の意味フレーム推定」という研究に取り組んでいる。また，現在，動詞の意味フレーム推定だけではなく，フレームに定義されているフレーム要素に関する知識の獲得についても取り組んでいる。意味フレームの自動構築に向けて, 着々と研究が進んでいるので, ぜひこれらの論文や研究発表についても注目していただると非常に嬉しい。

## 参考文献

Anwar, S., Ustalov, D., Arefyev, N., Ponzetto, S. P., Biemann, C., and Panchenko, A. (2019). "HHMM at SemEval-2019 Task 2: Unsupervised Frame Induction using Contextualized Word Embeddings." In Proceedings of the 13th International Workshop on Semantic Evaluation (SemEval 2019), pp. 125-129.

Arefyev, N., Sheludko, B., Davletov, A., Kharchev, D., Nevidomsky, A., and Panchenko, A. (2019). "Neural GRANNy at SemEval-2019 Task 2: A Combined Approach for Better Modeling of Semantic Relationships in Semantic Frame Induction." In Proceedings of the 13th International Workshop on Semantic Evaluation (SemEval 2019), pp. 31-38.

Baker, C. F., Fillmore, C. J., and Lowe, J. B. (1998). "The Berkeley FrameNet Project." In Proceedings of the 36th Annual Meeting of the Association for Computational Linguistics and 17th International Conference on Computational Linguistics (ACL-COLING 1998), pp. 86-90.

Devlin, J., Chang, M.-W., Lee, K., and Toutanova, K. (2019). "BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding." In Proceedings of the 2019 Conference of the North American Chapter of the Association for Computational Linguistics: Human Language Technologies (NAACL-HLT 2019), pp. 4171-4186.

Ribeiro, E., Mendonça, V., Ribeiro, R., Martins de Matos, D., Sardinha, A., Santos, A. L., and Coheur, L. (2019). "L2F/INESC-ID at SemEval-2019 Task 2: Unsupervised Lexical Semantic Frame Induction using Contextualized Word Representations." In Proceedings of the 13th International Workshop on Semantic Evaluation (SemEval 2019), pp. 130-136.

山田康輔 (2021). 文脈化単語埋め込みを利用した動詞の意味フレーム推定. 自然言語処理, $28(4)$, pp. 1325-1330. [K. Yamada (2021). Semantic Frame Induction of Verbs using Contexutualized Word Representations. Journal of Natural Language Processing, 28 (4), pp. 1325-1330.].

Yamada, K., Sasano, R., and Takeda, K. (2021a). "Semantic Frame Induction using Masked

Word Embeddings and Two-Step Clustering." In Proceedings of the 59th Annual Meeting of the Association for Computational Linguistics and the 11th International Joint Conference on Natural Language Processing (ACL-IJCNLP 2021), pp. 811-816.

Yamada, K., Sasano, R., and Takeda, K. (2021b). "Verb Sense Clustering using Contextualized Word Representations for Semantic Frame Induction." In Findings of the Association for Computational Linguistics: ACL-IJCNLP 2021 (ACL-IJCNLP 2021 Findings), pp. 4353-4362.

山田康輔, 笹野遼平, 武田浩一 (2022). マスクされた単語埋め込みと 2 段階クラスタリングを用いた動詞の意味フレーム推定. 自然言語処理, 29 (2), pp. 395-415. [K. Yamada et al. (2022). Semantic Frame Induction using Masked Word Embeddings and Two-Step Clustering. Journal of Natural Language Processing, 29 (2), pp. 395-415.].

## 略歴

山田康輔：2019 年名古屋大学工学部電気電子情報工学科卒業. 2021 年同大学院情報学研究科博士前期課程修了. 現在, 同博士後期課程に在籍. 2022 年より日本学術振興会特別研究員 (DC2).