# 対話解析のためのゼロ代名詞照応解析付き述語項構造解析

今村 賢治 ${ }^{\dagger}, \dagger \dagger$ ・東中竜一郎
}

本稿では, 日本語を対象とした対話用述語項構造解析を提案する. 従来, 述語項構造解析は，主に新聞記事を対象に研究されてきた。新聞と対話ではさまざまな違い が存在するが, 本稿ではこれを包括的に扱うため, 対話用述語項構造解析器の構築 を，新聞から対話への一種のドメイン適応とみなす。具体的には，対話では省略や 代名詞化が新聞記事に比べて頻繁に現れるため, ゼロ代名詞照応機能付きの述語項構造解析をベースとし，これを対話に適応させる。パラメータ適応と, 訓練コーパ スがカバーしきれない語彙知識を大規模平文コーパスから自動獲得することにより，新聞記事用のものに比べ，対話に対して高精度な述語項構造解析を実現した.

キーワード：述語項構造解析，ゼロ代名詞照応，対話，ドメイン適応，係り受け言語モデル
## Predicate-Argument Structure Analysis and Zero-Anaphora Resolution for Dialogue Analysis

\author{
Kenji Imamura $^{\dagger, \dagger \dagger}$, Ryuichiro Higashinaka ${ }^{\dagger}$ and Tomoko Izumi $^{\dagger}$
}

This paper presents a predicate-argument structure (PAS) analysis for dialogue systems in Japanese. Conventional PAS analyses have been applied to newspaper articles; however, there are differences between newspapers and dialogues. Therefore, to comprehensively deal with these differences, we constructed a PAS analyzer for dialogues as a type of domain adaptation from newspapers. Because pronominalization and ellipses frequently appear in dialogues, we utilized a strategy that simultaneously resolves zero-anaphora and adapts our PAS analyzer to dialogues. By incorporating parameter adaptation and automatically acquiring knowledge from large text corpora, we performed a PAS analysis that is specific to dialogues. Our PAS analyzer has a higher accuracy compared with the analyzer for newspaper articles.

Key Words: Predicate-Argument Structure Analysis, Zero-anaphora Resolution, Dialogue, Domain Adaptation, Dependency Language Models

## 1 はじめに

述語項構造解析 (predicate-argument structure analysis) は, 文から述語とその格要素（述語項構造）を抽出する解析タスクである。述語項構造は，「誰が何をどうした」を表現している

ため, この解析は, 文の意味解析に位置付けられる重要技術の一つとなっている. 従来の述語項構造解析技術は，コーパスが新聞記事であるなどの理由で，書き言葉で多く研究されてきた (Carreras and Màrquez 2004, 2005; 松林，飯田，笹野，横野，松吉，藤田，宮尾，乾 2014).

一方, 近年のスマートフォンの普及に伴い, Apple 社の Siri, NTT ドコモ社のしゃべってコンシェルなど，音声による人とコンピュータの対話システムが，身近に使われ始めている，人・ コンピュータの対話システムを構築するためには, 人間の発話を理解し, システム発話とともに管理する必要があるが, 述語項構造は, 対話理解・管理に対しても有効なデー夕形式であると考えられる。しかし, 新聞記事と対話では, 発話人数, 口語の利用, 文脈など, さまざまな違いがあるため, 既存の新聞記事をべースとした述語項構造解析を対話の解析に利用した際の問題は不明である。たとえば，以下の対話例を考える。

この例では, 最初の発話から, 述語が「ほしい」, そのガ格が「iPad」である述語項構造が抽出される，2番目の発話では，述語が「買う」であることはわかるが，ガ格， ヨ格が省略されているため, 述語項構造を得るためには，ガ格が発話者 $\mathrm{A} ＼mathrm{~ ヨ格か ゙ 「 i P a d 」 て ゙ あることも併せて解 ~}$析する必要がある。このように，対話では省略がごく自然に出現する（これをゼロ代名詞と呼ぶ）ため, 日本語の対話の述語項構造解析には, ゼロ代名詞照応解析処理も必要となる.

本稿では, 人とコンピュータの対話システム実現のため, 従来に比べ対話を高精度に解析する述語項構造解析を提案する。本稿で対象とするタスクは, 以下の 2 点をともに解決するものである.

（1）日本語で必須格と言われているガ格， ヨ格, 二格に対して, 述語能動形の項を決定する.

（2） ゼロ代名詞照応解析を行い, 文や発話内では項が省略されている場合でも, 先行した文脈から項を決定する。

本稿の提案骨子は, 対話のための述語項構造解析器の構築を, 新聞から対話へのドメイン適応とみなすことである。具体的には，新聞記事用に提案されたゼロ代名詞照応機能付き述語項構造解析を, 話題を限定しない雑談対話に適応させる。そして, 対話と新聞のさまざまな違いを，個々の違いを意識することなく，ドメイン適応の枠組みで包括的に吸収することを目指す. Màrquez, Carreras, Litkowski, and Stevenson (2008), Pradhan, Ward, and Martin (2008)は, 意味役割付与のドメイン適応に必要な要素として, 未知語対策とパラメータ分布の違いの吸収を挙げている。本稿でも, 未知語およびパラメータ分布の観点から対話に適応させる。そして, 新聞記事用より対話に対して高精度な述語項構造解析を提案する. 我々の知る限り, ゼロ代名詞を多く含む対話を, 高精度に解析する述語項構造解析器は初である.
以下，第 2 章では, 英語意味役割付与, 日本語述語項構造解析の関連研究について述べる。 3 章では, 我々が作成した対話の述語項構造データと新聞の述語項構造デー夕を比較し, 対話の特徴について述べる。第 4 章では，今回べースとした述語項構造解析方式の概要を述べ，第 5 章では，これを対話用に適応させる．実験を通じた評価は 6 章で述べ，第 7 章でまとめる.

## 2 関連研究

近年の日本語の述語項構造解析は, 教師あり学習をべースにしている。これは, 英語の意味役割付与の考え方を参考にし, 日本語の問題に当てはめたものである. 英語の意味役割付与も,近年は意味役割として，述語とその項（格要素ごとの名詞句）に関する情報を付与しており，述語項構造解析と非常に似たタスクとなっている.

## 2.1 英語の意味役割付与

英語の意味役割付与は, Gildea and Jurafsky (2002) が教師あり学習を用いた方式を提案して以来，コーパスが整備されてきた。国際ワークショップ CoNLL-2004, 2005 で行われた共有夕スク (Carreras and Màrquez 2004, 2005) では, PropBank (Palmer, Gildia, and Kingsbury 2005) を元にした評価が行われた，PropBank は，文に対して，述語とその項を注釈付けしたコーパスで，文自体は，Penn Treebank（元記事は Wall Street Journal）から取られているため，ここで行われた評価も新聞記事に対するものである (このあたりの経緯は, Màrquez et al. (2008)が整理している)。

OntoNotes (Hovy, Marcus, Palmer, Ramshaw, and Weischedel 2006) は, ニュース記事, ニュー ス放送，放送における対話など，複数のジャンルを含んだコーパスである．付与された情報には，意味役割も含んでいるが，現在は共参照解析のデータとして使用されるに留まり (Pradhan， Moschitti, and Xue 2012)，対話解析への適用はこれから期待されるところである.

意味役割付与は，タスク指向対話の意味理解にも利用される場合がある (Tur, Hakkani-Tür, and Chotimongkol 2005; Coppola, Moschitti, and Riccardi 2009) . Tur et al. (2005)は，電話のコールセンタにおけるユーザとオペレータとの対話において，述語と項の対を素性としたコー ルタイプ分類器を構築している。ここで, 述語・項の対は, ユーザ発話をPropBank ベースの意味役割付与器で解析することで得ている，彼らの実験は, 素性として用いる場合は新聞記事用の意味役割付与器でも効果があることを示したが, 本稿では, 対話における述語項構造解析自体の精度向上を狙っている。 Coppola et al. (2009)は，同じくコールセンタ対話に対して, FrameNet (Ruppenhofer, Ellsworth, Petruck, Johnson, and Scheffczyk 2006)に準拠する意味役割付与を行っている。彼らは，コールセンタ対話を解析するため，分野依存の意味フレームを FrameNet に追加して，スロット（フレーム要素）の穴埋めを行っている。コールセンタ対話の

ように，意味役割が非常に限定される場合は，フレーム追加で対応できるが，タスクを限定しない雑談対話の場合は，分野依存フレームの追加は困難である。

なお，述語たけでなく，事態性名詞（例えば，動詞'decide'に対する事態性名詞 'decision'） に対する意味役割付与の研究もある (Jiang and Ng 2006; Gerber and Chai 2012; Laparra and Rigau 2013) 。事態性名詞の場合, 英語でも格要素を省略して表現することがあるため（たとえば, “the decision”の対象格は省略されている), 日本語のゼロ代名詞と同様の問題を解決する必要がある.

## 2.2 日本語の述語項構造解析

日本語では, 奈良先端大が，述語項構造と照応デー夕を新聞記事に付与した NAIST テキストコーパス1 を公開している (Iida, Komachi, Inui, and Matsumoto 2007; 飯田, 小町, 井之上,乾, 松本 2010). NAIST テキストコーパスは, 毎日新聞の記事に対して, 日本語で必須格と言われているガヲニ格の名詞句を，各述語に付与したものである. 名詞句は, 述語能動形の格に対して付与されている。また，名詞句は述語と同じ文内に限らず，ゼロ代名詞化されている場合は，先行詞までさかのぼって付与されている.

述語項構造解析も，上記コーパスを利用したものが多く提案されている (Komachi, Iida, Inui, and Matsumoto 2007; Taira, Fujita, and Nagata 2008; Imamura, Saito, and Izumi 2009; 吉川,浅原, 松本 2013; 林部, 小町, 松本 2014). 日本語の場合, ゼロ代名詞が存在するため, 述語項構造解析時に, 文をまたがるゼロ代名詞照応も解釈する場合がある（たとえば (Taira et al. 2008; Imamura et al. 2009; 林部他 2014)).

新聞記事以外を対象とした述語項構造解析研究には, 以下のものがある。萩行, 河原, 黒橋 (2014)は, ブログなどを含む Web テキストを対象に, 特に一人称・二人称表現に焦点を当てた照応解析法を提案している. 彼らは同時に述語項構造解析も行っており, 本稿のタスクと類似している，彼らは Webテキストを解析するにあたり，外界照応（記事内に項の実体が存在しない) を著書 (一人称), 読者 (二人称), その他の人, その他に分けるという拡張を行っている.本稿でも，NAISTテキストコーパス（バージョン1.5）の分類に従い，外界照応を一人称，二人称, その他に分け, 項の推定を行う。また, 平, 田中, 藤田, 永田 (2014) は, ビジネスメー ルを対象とした述語項構造解析を試みている. 彼らは新聞記事用の述語項構造解析器をそのままビジネスメール解析に適用したが，一人称・二人称外界照応は，ほとんど解析できなかったと報告している.

英語, 日本語いずれも, 現状の意味役割付与, 述語項構造解析は新聞記事のような正書法に則って記述されたテキストや Web テキスト，メールを対象としている. 非常に限定されたタス
^{1}$ http://cl.naist.jp/nldata/corpus/
}

クを扱うコールセンタ対話の例はあるが，タスクを限定しない雑談対話を解析した際の精度や問題点については不明である.

## 3 雑談対話の特徵

まず我々は， 2 名の参加者による雑談対話を収集し，その対話に述語項構造デー夕の付与を行った．雑談対話は，参加者が自由なテーマ（話題）を設定し，キーボード対話形式で収集した. したがって, 音声対話に含まれるような相桘や言い直しは少ない. 参加者の話題は, 食事,旅行, 趣味, テレビ・ラジオなどである。述語項構造アノテーションは, NAIST テキストコー パス (Iida et al. 2007; 飯田他 2010) に準拠する形で行った. 雑談対話と, その述語項構造解析アノテーションの例を図 1 に示す 2 .

今回作成した雑談対話コーパスと, NAISTコーパス 3 の統計量を表 1 に示す. 対話コーパスは, NAISTコーパスの約 $1 / 10$ のサイズである。また， 1 文/発話の長さ（形態素数）は，雑談対話コーパスはNAISTコーパスの $1 / 3$ 程度と短い. NAISTコーパスは, 訓練, 開発, テストに 3 分割したのに対し，対話コーパスは訓練とテストの 2 分割とした.

対話の特徴を分析するため, この 2 つのコーパスの比較を行った. 表 2 は, 訓練セットにお

図 1 雑談対話とその述語項構造アノテーションの例

太字は述語, [] は文内の項, () は文間の項または外界照応を表す.

また, exo1, exo2, exog はそれぞれ一人称/二人称ゼロ代名詞，それ以外の外界照応を表す.

表 1 コーパスサイズ

表 2 訓練セットにおける項の分布

ける項の分布を示したものである。各項は，述語との位置関係や文法関係などにより問題の難しさが異なるため, 以下の 6 タイプに分類した。最初の $2 \supset （$ 係受および文内ゼロ）は述語と項が同じ文に存在する場合である。
- 係受: 述語と項が直接の係り受け関係にある場合
- 文内ゼロ: 述語と項が同じ文（発話）内にあるが，直接の係り受け関係がない場合

$\cdot$ 文間ゼロ: 述語と項が異なる文にある場合
- exo1/exo2/exog：項が記事（対話）内に存在しない外界照応. それぞれ，一人称ゼロ代名詞，二人称ゼロ代名詞，それ以外（一般）を表す.

これを見ると，対話ではすべての格で，係受タイプの項が減少している，それ以外のタイプについては，ガ格と，丹格二格で傾向が異なっている。攵格では, 文内ゼロ代名詞も対話の場合に減少し, 減少分は一人称・二人称外界照応 (exo1, exo2)に割り当てられている．つまり，ガ格では，文内の項が減少し，ゼロ代名詞が新聞に比べて頻発する。ただし，その先行詞は一人称・二人称代名詞である可能性が高いと言うことができる。 ヨ格二格では, 係受夕イプの項の減少分は, 文間ゼロ代名詞またはその他の外界照応 (exog) に割り振られている。つまり, 新聞記事では，大部分は述語と同じ文内に現れていたヲ格二格の項が，対話では別の発話に現れることが多くなり，1文に閉じない照応解析が重要となる。

## 4 ゼロ代名詞照応付き述語項構造解析

## 4.1 基本方式

本稿でベースとする述語項構造解析は, Imamura et al. (2009) の方法である. これは, 新聞記事を対象とした方法であるが, 文内に存在する項, 文間の項, 外界照応を同時に解析できるという特徴があるため, 対話の解析にも適していると判断した.

処理は，記事（対話）全体を入力とし，各文（発話）ごとに以下のステップを実行する.

（1） 入力文を形態素・構文解析する，構文解析時には，同時に文節とその主辞を特定しておく.なお, 今回は対話コーパスに関しては, 形態素解析器 MeCab (Kudo, Yamamoto, and Matsumoto 2004)，構文解析器 CaboCha (Kudo and Matsumoto 2002) で形態素・文節係り受け・主辞情報を自動付与した。NAISTコーパスに関しては, NAISTコーパス 1.5 付属のIPA 体系の形態素・構文情報を利用した 4 .

（2）文から述語文節を特定する，今回は評価のため，コーパスの正解述語を用いたが，対話システム組み込みの際には，主辞が動詞，形容詞，形容動詞，名詞 + 助動詞「た」の文節を述語文節とし，品詞パターンで決定する。

(3) 対象述語の存在する文，およびそれより前方の文から，項の候補となる文節を取得する.文節の内容語部を候補名詞句とする。具体的には，以下の文節が候補となる。

・ 対象述語の文に含まれる，内容語部が名詞句であるすべての文節を文内の候補とする。その際，述語文節との係り受け関係は考慮しない。
- 対象述語より前方の文から, 文脈的に項の候補となりうる文節を加え, 文間の候補とする。詳細は 4.4 節で述べる。
- 記事内に実体を持たない疑似候補として, 外界照応 (exo1, exo2, exog) と, 任意格のため格を必要としない (NULL) を特殊名詞句として加える.

（4）述語文節，項の候補名詞句，両者の関係を素性化し，ガ，ヨ，二格独立に，候補からもっとも各格にふさわしい名詞句を選択器で選択する（図 2).

本稿では, Imamura et al. (2009)の方式から, 若干の変更を行っている. 変更点は以下のとおりである.

図 2 項選択の例
^{4}$ NAIST コーパス 1.5 は, IPA 体系の形態素，文節，主辞情報を含んだ形で配布されている．京都大学テキストコー パス 4.0 （http://nlp.ist.i.kyoto-u.ac.jp/index.php?京都大学テキストコーパス）と, 毎日新聞 1995 年版記事デー 夕を合成することで，係り受け情報を含む完全な NAIST コーパスが構成できるようになっている.
}
- Imamura et al. (2009) では, 特殊名詞句は 1 種類（NULLのみ）であったが，本稿では 4 種類 (NULL, exo1, exo2, exog) に拡張した. 萩行他 (2014) は, 外界照応を含む一人称,二人称ゼロ代名詞（論文では著者・読者表現）の照応解析を行うことで，それ以外のゼ口代名詞の照応解析精度も向上したと報告している. 本稿でも, 特殊名詞句の種別を増やすこととする.

・ 素性が異なる。本稿では, 4.3 節で述べる素性を使用したが, これは Imamura et al. (2009) の基本素性を拡張, 追加したものである。また, 文脈を考慮する素性 (文献では SRLOrder, Used）は使用せず，簡略化した。これは，文脈管理を外部モジュールに任せるためで,詳細は 4.4 で述べる。

・ 係り受け言語モデル（5.2.2 節参照）を 1 種類から 3 種類に拡張した.

## 4.2 選択器のモデル

選択器のモデルは, 最大エントロピー分類に基づく. 具体的には, 選択器は記事内の述語 $v$ ごとに，候補名詞句集合 $\mathbf{N}$ から，以下の式を満たす名詞句 $\hat{n}$ を選択する.

$
\begin{aligned}
\hat{n} & =\underset{n_{j} \in \mathbf{N}}{\operatorname{argmax}} P\left(d\left(n_{j}\right)=1 \mid X_{j} ; M_{c}\right) \\
P\left(d\left(n_{j}\right)=1 \mid X_{j} ; M_{c}\right) & =\frac{1}{Z_{c}(X)} \exp \sum_{k}\left.\{\lambda_{c k} f_{k}\left(d\left(n_{j}\right)=1, X_{j}\right)\right.\} \\
Z_{c}(X) & =\sum_{n_{j} \in \mathbf{N}} \exp \sum_{k}\left.\{\lambda_{c k} f_{k}\left(d\left(n_{j}\right)=1, X_{j}\right)\right.\} \\
X_{j} & =\left.\langle n_{j}, v, A\right.\rangle
\end{aligned}
$

ただし, $n$ は 1 つ候補名詞句, $\mathbf{N}$ は候補名詞句集合, $d\left(n_{j}\right)$ は, 名詞句 $n_{j}$ が項となったときのみ 1 となる関数, $M_{c}$ は格 $c$ (ガ, ヲ,ニのいずれか) のモデルである. また, $f_{k}\left(d\left(n_{j}\right)=1, X_{j}\right)$ は素性関数, $\lambda_{c k}$ は格毎の素性関数の重み， $v, A$ はそれぞれ述語，および形態素・構文解析済みの記事全体である。

訓練時には, ある述語の候補名詞句集合ごとに, 正解の名詞句と, それ以外のすべての候補名詞句との事後確率差を大きくするように学習する。 具体的には, 以下の損失関数を最小化するモデル $M_{c}$ を，格ごとに学習する.

$
\ell_{c}=-\sum_{i} \log P\left(d\left(n_{i}\right)=1 \mid X_{i} ; M_{c}\right)+\frac{1}{2 C} \sum_{k}\left.\|\lambda_{c k}\right.\|^{2}
$

ただし， $n_{i}$ は，訓練セットの $i$ 番目の述語に対する正解名詞句， $X_{i}$ は，訓練セットの $i$ 番目の正解名詞句, 述語, 記事の組 $\left.\langle n_{i}, v_{i}, A_{i}\right.\rangle, C$ は過学習を制御するためのハイパーパラメータで,開発セットにおける精度が最高になるように, あらかじめ設定しておく. 式 (3)で, 述語の候
補名詞句集合毎に正規化を行っているため, (5) 式では, 候補名詞句集合から, 正解名詞句が選ばれた時に確率 1.0 , それ以外の名詞句では確率 0.0 に近づくようにモデルが学習される.

## 4.3 素性

選択器で使用する素性に関しては, 英語の意味役割付与に関する研究（たとえば Gildea and Jurafsky (2002)）と同様に，(1) 述語に関する素性, (2) 名詞句に関する素性, (3) 両者の関係に関する素性を使用する。詳細を表 3 に示す.

二値の素性関数は，テンプレートの引数が完全一致したときのみ 1 ，それ以外では 0 を返す関数である。たとえば Pred 素性において, 主辞形態素の見出しが 1 万種類あったとすると, 1 万の二値関数が定義され, 主辞形態素の見出しと一致した関数だけが 1 を返す. 実数値の素性関

表 3 素性テンプレート一覧

 \\

数は, テンプレートの引数に応じた実数を返す. なお, これらは名詞句の選択用モデルの素性であるので，名詞句 Noun と，すべての二値素性を組み合わせた素性も使用している.

本稿で特徴的な素性は, 大規模データから自動構築した必須格情報 Frame と係り受け言語モデル（3 種類）であるが，これらについては 5.2 節で述べる.

## 4.4 文脈処理

本稿では, 人とコンピュータの対話システム実現のための解析器を想定している。この対話システムは，ユーザとシステムが交互に発話するもので，システムに組み込まれた対話管理部が両者の発話履歴や, 現在話されている話題（焦点）を管理する。述語項構造解析部はユーザ発話を解析し，発話生成部がシステム発話を生成するというものである.

従来の述語項構造解析器も, 現在の解析対象文より以前の文を文脈として利用し, ゼロ代名詞照応解析に利用している. Imamura et al. (2009)は, 解析器内部で以前の文や話題（焦点）の管理（これを文脈管理と呼ぶ）を行っていた。しかし, 述語項構造解析器内部で文脈管理を行うより，対話システムの対話管理部が文脈管理を行った方が，ユーザ発話とシステム発話を協調的に管理できる可能性が高い. 本稿ではこのように考え, 文脈管理は外部モジュールの担当と位置付ける。そして評価用に，新聞記事と対話で同じ文脈管理方法を使用する。なお, 本稿の方式は, 選択器に与える文間の候補名詞句を取捨選択することによって文脈の制御を行っているので，候補名詞句を外部モジュールから陽に与えることで，文脈管理方法を変更することができる.

今回使用した文脈管理方法は，具体的には以下のとおりである.
- 対象述語の発話より以前の発話をさかのぼり, 他の述語を含む発話（これを有効発話と呼ぶ）を見つける。これは，述語を含まない発話を無視するためである.
- 有効発話と対象述語の発話の間に出現した全名詞句と, 有効発話の述語で項として使われた名詞句（有効発話内の場合もあれば，それ以前の発話の名詞句の場合もある）を候補として加える。項として使われた名詞句は, その後も繰り返し使われることが多く, これに制限することで，効率的に候補を削減することができるという観察結果に基づく (Imamura et al. 2009). また, 項として使われている限り, さかのぼる文数に制限がないため，広い文脈を見ることができる。

## 5 雑談対話への適応

前節で述べた方法は, 対話, 新聞記事に共通の処理である. これを対話解析に適したものにするため, パラメータの適応，および大規模コーパスから自動獲得した知識の適用を行う.

## 5.1 モデルパラメータの適応

NAIST コーパスと対話コーパスの項分布の差異は, 選択器のモデルパラメータをドメイン適応することで調整する。本稿では, モデルパラメータの適応手法として, 素性空間拡張法 (Daumé 2007）を用いる．これは，素性空間を 3 倍に拡張することで，ソースドメインデータをターゲットドメインの事前分布とみなすのと同じ効果を得る方法である.

具体的には，以下の手順で選択器のモデルを学習・適用する.

（1）まず，素性空間を共通，ソース，ターゲットの 3 つに分割する.

(2) NAISTコーパスをソースドメインデータ，対話コーパスをターゲットドメインデータとみなし, NAISTコーパスから得られた素性を共通とソース空間にコピーして配置する。対話コーパスから得られた素性は共通とターゲット空間にコピーして配置する。

（3）拡張された素性空間上で，通常通りパラメータ推定を行う，結果，ソース・ターゲットデータ間で無矛盾な素性は, 共通空間のパラメータが強調され（絶対值が大きくなる）, ドメインに依存する素性は，ソースまたはターゲット空間のパラメータが強調される。

（4）選択器が項を選択する際は，ターゲット空間と共通空間の素性だけ用いる。この空間のパラメータは，夕ーゲットドメインに最適化されているだけでなく，ソースドメインデー タだけに現れた共通空間の素性も利用して, 項選択ができる.

## 5.2 大規模コーパスからの知識獲得

本稿では, 訓練コーパスに含まれない未知語への対策として, 大規模コーパスから自動獲得した 2 種類の知識を利用する。 どちらも大規模平文コーパスを自動解析して, 集計やフィルタリングをすることで獲得する (河原，黒橋 2005; Sasano, Kawahara, and Kurohashi 2008; Sasano， Kawahara, Kurohashi, and Okumura 2013)，当然誤りも含むが，新出語に対しても，ある程度の確かさで情報を与えることができる。これらを選択器の素性として使い，モデルを学習することにより，情報の信頼度に応じたパラメータが学習される。

## 5.2.1 必須格情報（Frame 素性）

格フレームは，述語の必須格と，その格を埋める名詞句の種類（通常は意味クラス）を保持するフレーム形式の情報で, 述語項構造解析や意味役割付与の重要な手がかりとなる。本稿で使う必須格情報は，格フレームのうち，格が必要か否か（必須格か任意格か）だけについて情報を与える辞書である。

本稿の必須格情報は，大規模平文テキストコーパスから，以下の方法で自動構築する。これは, (1) 項が述語と直接係り受け関係にある場合, 述語に対する項の格は, 項の名詞句に付随する格助詞と一致することが多い, (2) 必須格なら, その格の出現率は他の述語より平均的に高

い5，という仮定をもとにしている.
- まず, 本稿の述語項構造解析と同様（4.1 節参照）に, 平文を形態素・構文解析し, 品詞パターンで述語文節とその主辞を特定する 6.
- 述語文節に直接係る文節を取得し，機能語部に格助詞を持つ文節だけを残す。もし，そのような文節が 1 つ以上あるなら，その述語を集計対象として，述語頻度，格助詞の出現頻度を集計する。
- 述語に関しては, 高頻度述語から順番に, 最終的な辞書サイズを考慮して選択する，個々の格に関しては，以下の条件をすべて満たす格を，必須格とみなす。
- 〈述語 $v$, 格 $c\rangle$ が, 対数尤度比検定において, 危険率 $0.1 \%$ 以下で有意に多く共起していること $(p \leq 0.001 ;$ 対数尤度比 $\geq 10.83)$.
- 各述語における格 $c$ の出現率が, 全述語における格の出現率（平均）より $10 \%$ 以上高いこと。

以上の方法で, 2 種類の必須格情報辞書を作成した。一つは, ブログ約 1 年分（約 23 億文.以下 $\mathrm{B} \log$ コーパスと呼ぶ）から，48万述語の情報を獲得した（これを $\mathrm{B} \log$ 辞書と呼ぶ）。もう一つは新聞記事 12 年分（約 770 万文. 以下 News コーパスと呼ぶ）から約 20 万述語の情報を獲得した (同 News 辞書).

表 4 は, 雑談対話コーパス訓練セットの正解述語項構造と必須格情報辞書を比較し, 必須格情報辞書の述語カバー率と格毎の精度を算出したものである。述語カバー率は，対話コーパスに出現した述語が必須格情報辞書に含まれている場合，カバーしたと判断した。結果, Blog 辞書で $98.5 \%$, News 辞書で $96.4 \%$ で, ほぼ等しかった。また, 格毎の精度は, 正解の述語項構造に格が付与されているか否かと, 必須格情報上の必須格性が一致しているかどうかを測定した

表 4 必須格辞書の述語カバー率と精度（対話コーパス訓練セットで測定した場合）

もので，B $\log$ 辞書，News 辞書でほぼ同じ傾向を示している，格毎に見ると，ガ格の精度が低いが，これは，雑談対話コーパスでは，ほぼすべての述語に対してガ格が付与されている（つまり，ガ格が必須）にも関わらず，B $\log$ コーパスや News コーパスではそれがゼロ代名詞化されているため, 自動獲得では必須格とは判断できなかったためである. ヲ格の全体精度は $91 \%$以上と, 格によっては高い精度を持つ辞書となっている.

## 5.2.2係り受け言語モデル

係り受け言語モデル (language model; LM) は, 三つ組 〈述語 $v$, 格 $c$, 名詞句 $n\rangle$ の共起のしやすさを表現するモデルである，頻出表現に高いスコアを与えることによって, 出現する単語間に意味的関連が存在することを表現する意図がある。ここでは, 述語 $v$, 格 $c$, 名詞句 $n$ それぞれの生成確率を n-gram モデルで算出し, 選択器の識別モデルで全体最適化を行う. 具体的には，以下の実数値を算出し，表 3 の係り受け言語モデル素性の素性関数値として使用する。その結果, 選択器は, 候補名詞句集合から, 頻出表現に含まれる名詞句 $n$ を優先して選択することになる。なお，未知語を表す特殊単語くunk>を含む確率で補正してる理由は，対数確率 $(-\infty$〜0.0の範囲）を正の値に補正するためである.
- $\log P(n \mid c, v)-\log P(<$ unk> $\mid c, v)$
- $\log P(v \mid c, n)-\log P(v \mid c$, <unk>)
- $\log P(c \mid n)-\log P(c \mid<$ unk> $)$

本稿の係り受け言語モデルは, Imamura et al. (2009) が 1 種類（ $\log P(n \mid c, v)$ 相当）のみ使用していたのに対し, 識別モデルが互いに依存しあう素性を含めることができるという特徴を利用し, 3 種類に拡張している. また, 述語 $v$ から見た格 $c$ の生成確率 $(\log P(c \mid v))$ は, 述語ごとに格を必要とする度合であり, 必須格情報と重なるため, 係り受け言語モデルからは除外した。

3 種類の係り受け言語モデルは, 5.2.1節で抽出した述語, 格, 名詞句を集計し, SRILM (Stolcke, Zheng, Wang, and Abrash 2011) でバックオフモデルを構築した.

係り受け言語モデルも， Blogコーパス，Newsコーパスからそれぞれ作成した。これを，それぞれ Blog 言語モデル, News 言語モデルと呼ぶ. 言語モデルのカバー率を, 雑談対話コーパス訓練セットに出現する三つ組が係り受け言語モデルの元になった三つ組に含まれるかどうか

場合, カバー率は $38.3 \%$ だった. News 言語モデルに比べ, B $\log$ 言語モデルは対話コーパスに出現する係り受けの三つ組のカバレッジが高い7.

## 6 実験

本節では，表 1 に示したコーパスを用い，対話における述語項構造解析の精度を，パラメー 夕適応，大規模コーパスから自動獲得した知識の効果という観点から評価する。評価はすべて雑談対話コーパステストセットで行う，評価指標には，項の適合率，再現率から算出した $\mathrm{F}$ 値を用いる。

## 6.1 実験 1: パラメータ適応の効果

まず，パラメータ適応の効果を測定するため, 訓練方法を変えた 3 方式の比較を行った. 表 5 の (a), (b), (c) カラムがその結果で，それぞれ (a) 素性空間拡張によるドメイン適応を行った場合（適応．提案法），(b) NAISTコーパスだけで訓練した場合（NAIST 訓練．従来の新聞記事用解析に相当)，(c) 対話コーパスだけで訓練した場合（対話訓練）を表す.

まず，(a) 適応と (b) NAIST 訓練を比較すると, 多くの場合, 適応の方が有意に精度がよいという結果になった（の記号が有意差ありを表す)．特に合計の精度では，すべての格で適応が

表 5 対話テストセットにおける方式・必須格情報・係り受け言語モデルごとの $\mathrm{F}$ 値

 &  &  &  &  \\

表中の太字は，全方式のうち，F 值最高を指す。また，記号 $\odot ， \diamond ， \pitchfork ， は ，(a)$ と，それぞれ (b) (c) (d) (e)の比較で, 有意によかったものを表す. 有意差検定は, ブートストラップ再サンプリング法 $(1,000$ 回測定）を使用し，危険率を $5 \%$ とした。
有意に勝っている. タイプ別の精度を見ると, 特徴的なのは, ガ格の一人称, 二人称外界照応 (exo1, exo2) である.これらはガ格の項のうちの約 $28 \%$ を占めているが, exo1 で $70.2 \%$, exo 2 で $46.8 \%$ の F 值で解析可能となった。他にも， ヲ格二格の文間ゼロ，exogなど，NAIST 訓練ではほとんど解析できなかったタイプの項が解析できるようになった.

(a) 適応と (c) 対話訓練を比較すると（囚参照）, 雑談対話コーパスは訓練セットのサイズが小さいにも関わらず，両者の精度が近くなった。適応の合計精度が有意に良かったのは，二格のみである。これには 2 つの理由が考えられる.

・ 対話コーパス量が十分であり, NAIST コーパスの影響をほとんど受けない場合.
- 適応がNAIST コーパスの知識を活かしきっていない場合。言い換えると, NAIST コーパスに出現する言語現象と，対話に出現する言語現象に重なりが少ないため，NAISTコー パスが影響しない場合.

前者の場合，コーパスサイズに対する学習曲線が今回のデータ量で飽和していることで検証できる。本稿で作成した対話コーパスは NAIST コーパスの約 $1 / 10$ の訓練セットであるため,学習曲線は描かなかった. 後者の場合, 対話コーパスサイズを大きくすると, 述語項構造解析の精度も向上する，今後，さらに対話コーパスを作成し，検証する必要がある。

## 6.2 実験 2: 自動獲得知識の比較

表５の（a）(d)（e）は， 提案方法（適応）の評価結果である。ただし, 必須格情報および係り受け言語モデルは，それぞれ (a) $\langle\mathrm{Blog}, \mathrm{Blog}\rangle, \quad(\mathrm{d})\langle\mathrm{News}, \mathrm{Blog}\rangle, \quad(\mathrm{e})\langle\mathrm{Blog}, \mathrm{News}\rangle$ に変えて評価している.

まず，必須格情報辞書を (a) Blog から (d) News に変えた場合を比較すると（参照），両者の間で有意差があったのは， ヨ格の文内ゼロのみで，ほぼすべての場合で有意差はなかった.

一方，係り受け言語モデルを (a) B $\log$ から (e) Newsに変更すると (参照), 若干精度に差が出た. 特に, 文法関係より意味関係を重視する文内・文間ゼロでは, 有意に精度が悪化したものが多く（ガ格の文間ゼロ， ヲ格の文内・文間ゼロ，二格の文内ゼロ），その結果，合計の精度でも， ヨ格は約 3 ポイント低下した。 ゼロ代名詞照応のように, 述語と項の間に文法的な関係が弱い場合, 意味的関連性を共起から判断する係り受け言語モデルが相対的に重要となる。そのため，係り受け言語モデルの違いが精度に影響しやすい.

図 3 は，適応方式において，それぞれ必須格情報辞書の述語カバー率, 係り受け言語モデルの三つ組 〈述語 $v$, 格 $c$, 名詞句 $n\rangle$ のカバー率を意図的に変化させて, 述語項構造解析の $\mathrm{F}$ 值を測定したグラフである。必須格情報，係り受け言語モデルともに，Blogコーパスから作成したものを利用した。必須格情報のカバー率は高頻度述語から順番に，雑談対話コーパス訓練セットの述語のカバー率が指定した割合になるまで選択した。係り受け言語モデルの三つ組は，同じく雑談対話コーパス訓練セット上での三つ組カバー率が指定した割合になるまで，ランダム
(a) 必須格情報

(b) 係り受け言語モデル

図 3 自動獲得知識のカバレッジと述語項構造解析精度

に選択した8．グラフに示した $\mathrm{F}$ 值は，格の合計である。

図 3(a)をみると, 必須格情報については, 格の種類にかかわらず，述語カバー率を変えてもほぼ同じ精度となった。この理由を分析したところ, テストセットに出現する大部分の述語は,訓練セットに出現したためであった。実際，雑談対話テストセットに出現する 5,333 述語のうち，4,442 述語（83.3\%）は雑談対話コーパス訓練セット，またはNAISTコーパス訓練セットに出現していた。つまり，訓練セットだけでテストセットの大部分をカバーできており，それ以外の述語しか, 必須格情報が有効に作用しなかったため, カバー率の影響がほとんど出なかったと考えられる。

一方，係り受け言語モデルの三つ組は，雑談対話テストセットに出現した 5,056 組（外界照応 exo1, exo2, exog は除く) のうち, 訓練セットがカバーしたのは 1,063 組（21.0\%）であった. そのため, 図 3(b) のように, 係り受け言語モデルのカバー率を上げると, 述語項構造解析の精度も向上した，ただし，ガ格に関しては，自動獲得元コーパスにおいてもガ格がゼロ代名詞化され, 自動獲得精度が十分ではなかったため, カバー率を上げても述語項構造解析精度は向上しなかった.

まとめると，自動獲得した知識は，訓練コーパスのカバレッジが高い部分では効果がほとんどなく，低い部分を補完するのに有効である。そのため, 雑談対話のように幅広い話題を対象とする対話には適している。

## 6.3 雑談対話コーパスを使用せずに適応する場合

ドメイン適応のシチュエーションとして, 新聞記事コーパスしか存在しない状況で, 述語項構造解析器を対話に適応させなければならない場合が考えられる。本節では, NAISTテキスト

コーパスと自動獲得知識だけでモデルを学習し, 自動獲得知識がどの程度有効か, 検証する.

表 6 は, NAIST コーパス訓練セットでモデルを学習し, 雑談対話コーパステストセットで $\mathrm{F}$ 值を測定した結果である。たたし，自動獲得知識の組み合わせ〈必須格情報,係り受け言語モデル〉

は，表 5 の再掲である。

これを見ると，多くの場合で (b) $\langle\mathrm{B} \log , \mathrm{B} \log \rangle$ が有意に勝っており，自動獲得知識が有効に作用していると言ってよい.

しかし，これらはすべて NAIST 訓練の結果であり，ほとんど（またはまったく）解析できなかったタイプの項（たとえば，ガ格の exo1, exo2，ヲ格の文間ゼロ，二格の文内・文間ゼロ）は，必須格情報辞書，係り受け言語モデルをどのように変えようとも，ほとんど解析できない状況には変わりはなかった。

表 6 NAIST 訓練における自動獲得知識の効果（自動獲得知識は Blog）

 &  &  &  \\

表中の記号 †, $\S, \ddagger$ は，（b) と，それぞれ (b-1) (b-2) (b-3) との比較で，有意によかったものを表す. 有意差検定は，ブートストラップ再サンプリング法（1,000 回測定）を使用し，危険率を $5 \%$ とした. なお. (b) は，表 5 の再掲である。
本稿の提案方式である表 5 の (a) 適応は, NAIST 訓練では解析できなかったタイプの項も解析できるようにする効果があった。自動獲得した知識は, すでに解析できる夕イプの項の精度改善には効果があるが，対話で新たに出現したタイプの項を解析する効果はない．したがって， たとえ少量でも対話の述語項構造データを作成し, 適応させることが望ましい.

## 6.4 対話解析例

図 4 は, 旅行に関する雑談対話の一部について, 正解述語項構造, (a) 適応方式, (b) NAIST 訓練方式, (b-3) NAIST 訓練（ただし, 必須格情報辞書, 係り受け言語モデルなし）の出力を並べて表示したものである. 発話ごとに差異を分析すると, 以下の特徴が得られた.

・ 発話番号 1 で, 正解が $\operatorname{exog}$ になているのは, アノテータは, 「話した」のは発話者 $\mathrm{AB}$ の両方であると判断したためである。本発話の解釈によっては, exo1でも誤りではないと思われる。
- 発話番号 2 のガ格の正解は exo2である.しかし, (a) 適応は, exo1を選択した. 日本語の場合, 一人称・二人称は, 文末表現（この例では「下さい」）に特徴が現れるが, 選択器にSuffix 素性があるにも関わらず，正しく選択できなかった.
- 発話番号 3 のガ格の正解は exo1 である. (a) 適応は正しく選択したが, (b)(b-3) NAIST

を選択した。しかし, 発話番号 1 の「私」は発話者 $\mathrm{A}$ を示しており, 発話番号 3 の exo1 （発話者 B）とは異なる。もし文間ゼロタイプの項を割り当てるとすると, 発話番号 2 の 「あなた」が正解となる，本稿では，外界照応と人称代名詞を別に扱っているが，本来は共参照解析を導入して, exo1/exo2と「私」「あなた」が同一実体であることを認識すべきである。その際, 発話者がどちらなのか意識して, 同一性を判断する必要がある.

発話番号 6 にも同様な現象が現れているが，ガ格正解 exo 2 に相当する表現が発話番号 2 「あなた」まで遡らなければならないため, (b)(b-3) NAIST 訓練では, exogとなった.
- 発話番号 3 の二格の正解は「海外旅行」だが, (b-3) NAIST 訓練（自動獲得知識なし）では，NULL と誤った，「海外旅行にはまる」は，NAIST コーパス訓練セットには出現せず，係り受け言語モデルの三つ組に出現する表現たっったため, 係り受け言語モデルなしの NAIST 訓練では解析に失敗した。
- 発話番号 5 の二格の正解は,「スペインとポルトガル」であるべきだが, 本稿の方式は文節を単位に処理するため，2 文節以上にまたがる名詞句は，主辞だけを付与する仕様である。

また, 発話番号 4 のガ格の正解は, 直前発話（発話番号 3 ）全体と考えることもできる. しかし, 文節単位に格要素を割り当てるため, アノテータはもっとも近い表現「海外旅行」を正解として割り当てた.

図 4 対話例と, 正解述語項構造および述語項構造解析結果（*は解析誤りを表す）
- 発話番号 6 において, (a) 適応は, 二格「ポルトガル」を前文から正しく補完した. なお,「ポルトガルに行く」は，NAIST コーパス訓練セットには存在しないが，係り受け言語モデルの三つ組には存在する表現である.

## 7 まとめ

本稿では，対話解析のための述語項構造解析を提案した。われわれはこれを新聞から対話への一種のドメイン適応とみなし, 従来新聞記事で研究されていた述語項構造解析を, 対話に適用した．対話と新聞記事では項の分布が異なるため，素性空間拡張法を用いて，モデルパラメー 夕を適応させた。また訓練コーパスに現れない未知語を補完するため, 大規模平文データから，必須格情報, 係り受け言語モデルを自動獲得し, 項選択器のモデルに適用した.

結果，少量でも対話コーパスを訓練に加えることで，新聞記事のコーパスだけでは解析できなかったタイプ（ガ格の一人称・二人称ゼロ代名詞や, 文間ゼロ代名詞, 外界照応）も解析可能となった。ただし, パラメータ適応自体の効果は限定的であった。また, 自動獲得知識の有効性は，訓練セットがテストセットをどの程度カバーしているかに依存する，必須格情報は，テストセットに出現する述語の大部分が訓練セットに出現していたため, 必須格情報のカバレッジの影響はほとんどなかった。一方係り受け言語モデルでは, テストセットに出現する述語,格, 名詞句の三つ組の $21 \%$ しか訓練セットでカバーしていなかったため, カバレッジの高いモデルの精度が向上した. 特に, チ格二格に関しては, 三つ組カバレッジが高い方が, ゼロ代名詞照応解析精度の向上に寄与することを確認した。

なお, 必須格情報および係り受け言語モデルは, 格フレームの選択選好とみなすこともできる. 格フレームは, 大規模コーパスから自動獲得したものが存在するので (河原, 黒橋 2005), これを利用する方法もある。両者の比較は，今後検討してゆきたい.

今回は, パラメータ分布の差異, 語彙のカバレッジに着目したが, 新聞と対話では, 他にもさまざまな違いがあると考えられる，たとえば，話者交替は対話特有の現象であるが，それが述語項構造やゼロ代名詞にどう影響するかなどは，本稿では扱わなかった，また，われわれは文脈管理に，対話システムの発話管理機能を利用することを考えているが，対話システムとしての有効性評価も実施する予定である.

## 謝 辞

本論文の一部は, the 25th International Conference on Computational Linguistics (COLING 2014) で発表したものである (Imamura, Higashinaka, and Izumi 2014).

## 参考文献

Carreras, X. and Màrquez, L. (2004). "Introduction to the CoNLL-2004 Shared Task: Semantic Role Labeling." In HLT-NAACL 2004 Workshop: 8th Conference on Computational Natural Language Learning (CoNLL-2004), pp. 89-97, Boston, Massachusetts, USA.

Carreras, X. and Màrquez, L. (2005). "Introduction to the CoNLL-2005 Shared Task: Semantic Role Labeling." In Proceedings of the 9th Conference on Computational Natural Language Learning (CoNLL-2005), pp. 152-164, Ann Arbor, Michigan, USA.

Coppola, B., Moschitti, A., and Riccardi, G. (2009). "Shallow Semantic Parsing for Spoken Language Understanding." In Proceedings of Human Language Technologies: The 2009 Annual Conference of the North American Chapter of the Association for Computational Linguistics, Companion Volume: Short Papers, pp. 85-88, Boulder, Colorado, USA.

Daumé, III, H. (2007). "Frustratingly Easy Domain Adaptation." In Proceedings of the 45th Annual Meeting of the Association of Computational Linguistics, pp. 256-263, Prague, Czech Republic.

Gerber, M. and Chai, J. Y. (2012). "Semantic Role Labeling of Implicit Arguments for Nominal Predicates." Computational Linguistics, 38 (4), pp. 755-798.

Gildea, D. and Jurafsky, D. (2002). "Automatic Labeling of Semantic Roles." Computational Linguistics, 28 (3), pp. 245-288.

萩行正嗣, 河原大輔, 黒橋禎夫 (2014). 外界照応および著者・読者表現を考慮した日本語ゼロ照応解析. 自然言語処理, 21 (3), pp. 563-600.

林部祐太, 小町守, 松本裕治 (2014). 述語と項の位置関係ごとの候補比較による日本語述語項構造解析. 自然言語処理, 21 (1), pp. 3-25.

Hovy, E., Marcus, M., Palmer, M., Ramshaw, L., and Weischedel, R. (2006). "OntoNotes: The 90\% Solution." In Proceedings of the Human Language Technology Conference of the NAACL, Companion Volume: Short Papers, pp. 57-60, New York, USA.

飯田龍, 小町守, 井之上直也, 乾健太郎, 松本裕治 (2010). 述語項構造と照応関係のアノテー ション：NAIST テキストコーパス構築の経験から. 自然言語処理, 17 (2), pp. 25-50.

Iida, R., Komachi, M., Inui, K., and Matsumoto, Y. (2007). "Annotating a Japanese Text Corpus with Predicate-Argument and Coreference Relations." In Proceedings of the Linguistic Annotation Workshop, pp. 132-139, Prague, Czech Republic.

Imamura, K., Higashinaka, R., and Izumi, T. (2014). "Predicate-Argument Structure Analysis with Zero-Anaphora Resolution for Dialogue Systems." In Proceedings of COLING 2014, the 25th International Conference on Computational Linguistics: Technical Papers, pp. 806-815,

Dublin, Ireland.

Imamura, K., Saito, K., and Izumi, T. (2009). "Discriminative Approach to Predicate-Argument Structure Analysis with Zero-Anaphora Resolution." In Proceedings of the ACL-IJCNLP 2009 Conference Short Papers, pp. 85-88, Singapore.

Jiang, Z. P. and Ng, H. T. (2006). "Semantic Role Labeling of NomBank: A Maximum Entropy Approach." In Proceedings of the 2006 Conference on Empirical Methods in Natural Language Processing, pp. 138-145, Sydney, Australia.

河原大輔, 黒橋禎夫 (2005). 格フレーム辞書の漸次的自動構築. 自然言語処理, 12 (2), pp. 109-131. Komachi, M., Iida, R., Inui, K., and Matsumoto, Y. (2007). "Learning-Based Argument Structure

Analysis of Event-Nouns in Japanese." In Proceedings of the Conference of the Pacific Association for Computational Linguistics (PACLING), pp. 208-215, Melbourne, Australia.

Kudo, T. and Matsumoto, Y. (2002). "Japanese Dependency Analysis using Cascaded Chunking."

In CoNLL 2002: Proceedings of the 6th Conference on Natural Language Learning 2002 (COLING 2002 Post-Conference Workshops), pp. 63-69, Taipei, Taiwan.

Kudo, T., Yamamoto, K., and Matsumoto, Y. (2004). "Applying Conditional Random Fields to Japanese Morphological Analysis." In Proceedings of EMNLP 2004, pp. 230-237, Barcelona, Spain.

Laparra, E. and Rigau, G. (2013). "ImpAr: A Deterministic Algorithm for Implicit Semantic Role Labelling." In Proceedings of the 51st Annual Meeting of the Association for Computational Linguistics (Volume 1: Long Papers), pp. 1180-1189, Sofia, Bulgaria.

Màrquez, L., Carreras, X., Litkowski, K. C., and Stevenson, S. (2008). "Semantic Role Labeling:

An Introduction to the Special Issue." Computational Linguistics, 34 (2), pp. 145-159.

松林優一郎, 飯田龍, 笹野遼平, 横野光, 松吉俊, 藤田篤, 宮尾祐介, 乾健太郎 (2014). 日本語文章に対する述語項構造アノテーション仕様の考察. 自然言語処理, 21 (2), pp. 333-377.

Palmer, M., Gildia, D., and Kingsbury, P. (2005). "The Proposition Bank: An Annotated Corpus of Semantic Roles." Computational Linguistics, 31 (1), pp. 71-105.

Pradhan, S., Moschitti, A., and Xue, N. (Eds.) (2012). Joint Conference on EMNLP and CoNLL: Proceeding of the Shared Task: Modeling Multilingual Unrestricted Coreference in Onto Notes, Jeju, Korea.

Pradhan, S. S., Ward, W., and Martin, J. H. (2008). "Towards Robust Semantic Role Labeling." Computational Linguistics, 34 (2), pp. 289-310.

Ruppenhofer, J., Ellsworth, M., Petruck, M. R., Johnson, C. R., and Scheffczyk, J. (2006). FrameNet II: Extended Theory and Practice. International Computer Science Institute, Berkeley, California. Distributed with the FrameNet data.

Sasano, R., Kawahara, D., and Kurohashi, S. (2008). "A Fully-Lexicalized Probabilistic Model for Japanese Zero Anaphora Resolution." In Proceedings of the 22nd International Conference on Computational Linguistics (COLING 2008), pp. 769-776, Manchester, UK.

Sasano, R., Kawahara, D., Kurohashi, S., and Okumura, M. (2013). "Automatic Knowledge Acquisition for Case Alternation between the Passive and Active Voices in Japanese." In Proceedings of the 2013 Conference on Empirical Methods in Natural Language Processing, pp. 1213-1223, Seattle, Washington, USA.

Stolcke, A., Zheng, J., Wang, W., and Abrash, V. (2011). "SRILM at Sixteen: Update and Outlook." In Proceedings of IEEE Automatic Speech Recognition and Understanding Workshop (ASRU 2011), Waikoloa, Hawaii, USA.

Taira, H., Fujita, S., and Nagata, M. (2008). "A Japanese Predicate Argument Structure Analysis using Decision Lists." In Proceedings of the 2008 Conference on Empirical Methods in Natural Language Processing, pp. 523-532, Honolulu, Hawaii, USA.

平博順, 田中貴秋, 藤田早苗, 永田昌明 (2014). ビジネスメールに対する日本語述語項構造解析の検討. 言語処理学会第 20 回年次大会発表論文集, pp. 1019-1022, 札幌.

Tur, G., Hakkani-Tür, D., and Chotimongkol, A. (2005). "Semi-Supervised Learning for Spoken Language Understanding Using Semantic Role Labeling." In Proceedings of Automatic Speech Recognition and Understanding Workshop (ASRU 2005), pp. 232-237, San Juan, Puerto Rico.

吉川克正, 浅原正幸, 松本裕治 (2013). Markov Logic による日本語述語項構造解析. 自然言語処理, $20(2)$, pp. 251-271.

## 略歴

今村賢治：1985 年千葉大学工学部電気工学科卒業. 同年 2014 年日本電信電話株式会社. 1995 年～1998 年 NTT ソフトウェア株式会社. 2000 年～2006 年 ATR 音声言語コミュニケーション研究所. 2014 年より株式会社 ATR-Trek 所属として, 独立行政法人情報通信研究機構 (NICT) へ出向. 現在 NICT 先進的音声翻訳研究開発推進センター専門研究員. 主として自然言語処理技術の研究・開発に従事. 博士 (工学). 電子情報通信学会, 情報処理学会, 言語処理学会, ACL 各会員.

東中竜一郎：1999 年に慶應義塾大学環境情報学部卒業, 2001 年に同大学大学院政策・メディア研究科修士課程, 2008 年に博士課程修了. 博士 (学術). 2001 年に日本電信電話株式会社入社. 現在, NTT メディアインテリジェンス研究所にて勤務．音声言語メディアプロジェクトにて，質問応答システム・音声
対話システムの研究に従事. 言語処理学会, 人工知能学会, 情報処理学会, 電子情報通信学会, 各会員. 2004 年から 2006 年にかけて, 英国シェフィールド大学客員研究員.

泉朋子：2005 年北海道教育大学国際理解教育課程卒業, 2007 年ボストン大学大学院人文科学部応用言語学科修了, 2008 年日本電信電話株式会社入社. 2014 年京都大学大学院情報学研究科博士後期課程修了. 博士 (情報学). 現在, NTTメデイアインテリジェンス研究所研究員, 自然言語処理研究開発に従事. 言語処理学会会員.


# 日本語述語項構造解析タスクにおける項の省略を伴う事例の分析

松林優一郎
}

本稿では, 日本語述語項構造解析における中心的課題である項の省略を伴う事例の 精度改善を目指し，現象の特徴を詳細に分析することを試みた。具体的には，文内 に照応先が出現する事例（文内ゼロ照応）に対象を絞り，人手による手がかりアノ テーションと統語的・機能的な構造を元にした機械的分類の二種類の方法により事例を類型化し，カテゴリ毎の分布と最先端のシステムによる解析精度を示した。分析から, 特に照応先と直接係り関係にある述語 $\mathrm{O}$ が対象述語 $\mathrm{P}$ と項を共有する事例 が全体の $58 \%$ 存在し, O と P の間の統語的・意味的関係が重要な手がかりであるこ とを数値的に示したほか，手がかりの種類や組み合わせが広い分布を持つこと，各手がかりが独立に確信度を上げる事例だけでなく, 局所的な手がかりの連鎖が全体 で初めて意味を成す事例が一定数存在することを明らかにした。

キーワード：述語項構造解析，エラー分析，ゼロ照応，項の省略
## Error Analysis of Argument Ellipsis Completion in Japanese Predicate-argument Structure Analysis

\author{
Yuichiroh $^{2}$ Matsubayashi ${ }^{\dagger}$, Shu Nakayama ${ }^{\dagger}$ and Kentaro Inui $^{\dagger}$
}

This paper provides a deep analysis of linguistic phenomena related to argument ellipsis, one of central issues for improving the accuracy of Japanese predicate-argument structure analysis. We specifically focus on cases where a target predicate and its ellipsed argument appear in the same sentence, and we categorize instances based on two criteria: a clue annotation by a human annotator and systematic categorization based on both syntactic and semantic structure. We then show both the distribution of instances among the categories and the accuracy for each category achieved by a state-of-the-art system. As a result, we show that $58 \%$ of the intra-sentencial zero anaphora are the case when an argument of a target predicate $P$ is shared with another predicate $O$ that is in a direct syntactic dependency relation with the argument. This fact implies that analyzing syntactic and semantic relations between $O$ and $P$ is important for Japanese predicate-argument structure analysis. We also show that the distribution of clue combinations is very broad. Finally, we discovered that not only are there cases where each clue independently increases the certainty, but we also discovered cases where clues became relevant when all of them composed a chain.

Key Words: Predicate-Argument Structure Analysis, Semantic Role Labeling, Error Analysis, Zero Anaphora, Argument Ellipsis

## 1 はじめに

述語項構造は，文章内の述語とその項の間の関係を規定する構造である。例えば次の文,

(1)[太郎 $]$ は [手紙 $]$ を書いた。

では，「書く」という表現が述語であり，「太郎」と「手紙」という表現がこの述語の項である.述語と項の間の関係は，それぞれの項に，述語に対する役割を表すラべルを付与することで表現される。役割のラベルは解析に用いる意味論に応じて異なるが，例えば表層格を用いた解析では，上記の「太郎」には「ガ格」，「手紙」には「ヲ格」のラベルが与えられる．このように，文章中の要素を述語との関係によって構造的に整理する事で, 複雑な文構造・文章構造を持った文章において「誰が，何を，どうした」のような文章理解に重要な情報を抽出することができる.このため, 述語項構造の解析は機械翻訳, 情報抽出, 言い換え, 含意関係理解などの複雑な文構造を取り扱う必要のある言語処理において有効に利用されている (Shen and Lapata 2007; Liu and Gildea 2010).

述語項構造解析の研究は，英語に関するコーパス主導の研究に追随する形で, 日本語においても 2005 年以降に統計的機械学習を用いた手法が盛んに研究され，これまでに様々な解析モデルが提案されてきた。表 1 は，今日までの日本語の述語項構造解析に関する研究報告における主要な解析器の精度をまとめたものである. 表には, 新聞記事に対する解析精度（F 值）を, (1)述語（もしくはイベント性名詞。以下，これらを併せて述語と呼ぶ）の項となる文字列が述語

表 1 NAIST テキストコーパス $1.4 \mathrm{~b}$ 上での精度比較（F 値）

ただし, 既存研究のデータセットはそれぞれ訓練, 評価に用いた事例数が異なっており, 厳密な比較を行うことは難しい.

と同一文節内にある事例（文節内事例と呼ぶ），(2) 述語の項となる文字列と述語の間に直接的な統語係り受け関係が認められる事例（係り有り事例と呼ぶ），(3) 述語の項となる文字列が文内に現れるものの, 述語との間に直接的な統語係り受け関係が認められない事例（文内ゼロ照応事例と呼ぶ），(4) 述語の項となる文字列が文の外に現れている事例（文間ゼロ照応事例と呼ぶ）の別に記した。なお，「文節単位」は項として適切な文字列表現の最右の形態素が含まれる文節を正解の範囲として評価したものであり,「形態素単位」はその最右の形態素を正解の範囲として評価したものである。既存の解析器では直接係り受け関係がある比較的容易な事例においては $90 \%$ 弱と高い精度が得られているものの, 統語的な手がかりがより希薄となるゼロ照応の事例においては, 文内ゼロ照応で $50 \%$ 弱, 文間ゼロ照応で $20 \%$ 前後 ${ }^{1}$ と精度が低い水準にとどまっており，解析の質に大きな開きがあることが認められる.

この結果は, 日本語ゼロ照応解析の高い難易度を物語っているが, 一方で, ゼロ照応の問題がタスク全体に占める割合は十分に大きく無視できない. 表 2 には，標準的な訓練・評価用コー パスである NAIST テキストコーパス (NTC) 1.5 版における項の数 2 を示したが, ここから項構造解析全体の約 $40 \%$ はゼロ照応に関わる問題であることが分かる. したがって, 述語項構造解析の研究ではこれら省略された項の解析精度をいかに向上させるかが課題となる.

しかし, 「ゼロ照応の問題」と一括りに言っても, 並列構造や制御動詞構文など比較的統語的な現象として説明可能なものから, 文脈や談話構造を読み解かなければならないもの, 基本的な世界知識を手がかりに推論しなければならないものなど様々であるにもかかわらず, 現状では既存のシステムがどのような種類の問題を解くことができ，あるいは解くことができないのかについて明確な知見が得られていないばかりでなく, 現象の分布すら知られていない.

そこで, 我々はこの難解な項の省略解析へ適切にアプローチするために, 現象の特徵を出来る限り詳細に分析し把握することを試みる。本稿では, ゼロ照応に関する事例のうち, 手始め

表 2 NAIST テキストコーパス 1.5 内の各ラベルの事例数

に探索のスコープが比較的短く, 様々な統語的パターンが観測できる文内ゼロ照応の問題に的を絞り, 各事例が持つ特徴を構文構造分析と人手による手がかり分析という二つの観点から類型化し，カテゴリごとの分布と最先端システムによる解析精度を示す。具体的には以下の二つの方法で分析を進め，今後の研究で注力すべき課題を考慮する際の参考となるべく努めた.

本研究の成果は次のとおりである。(1) 文内ゼロ照応の事例において, 既存の解析モデルがモデル化している述語間の項の共有関係・機能動詞構文・並列構造といった特徴が, 実際の問題にどの程度影響があるかを確かめるために， NTC や京都大学テキストコーパス (KTC) の正解アノテーション情報を利用してこれらの特徴を持つ事例を機械的に分類し, 各カテゴリの事例数や現状の解析精度，各カテゴリが理想的に正答できた場合の精度上昇幅等を示した．結果として, 特に, 対象述語 $\mathrm{P}$ と, 項と直接係り受け関係にある述語 $\mathrm{O}$ と間で項を共有している事例の割合が文内ゼロ照応全体の $58 \%$ 存在することが分かったほか，これらの中には，P と Oが直接的な並列構造や機能動詞構文の形になっているものばかりでなく, 局所的な構造の組み合わせによって解が導かれる事例が一定数存在することが分かった.

(2) 同様に，文内ゼロ照応の事例についてコーパスより抽出した少量のサンプルを用いて，人間が正解を導き出す場合にどのような手がかりを用いるかについてアノテータの内省をもとに分析し，考えられうる手がかりの種類を列挙するとともに，その分布を示した，手がかりの種類を幅広く調査するため, 従来より解析器の学習・評価に用いられている NTC に加えて, 多様なジャンルの文章を含む日本語書き言葉均衡コーパス (BCCWJ) に対する述語項構造アノテー ションデータからもサンプルを収集した。この結果，手がかりの種類とその組み合わせに関する分布が大きな広がりを持っていることが明らかとなった。また, 手がかりの組み合わせに関する性質として，それぞれの手がかりが独立に項候補の確信度を上げるように働くものに加えて, (1)の分析で得られた知見と同様に, 機能動詞や述語間の意味的なつながりを考慮すべきものなど，局所的な解析結果を順を追って重ねていくことで初めて項候補の推定に寄与する種類の事例も多く存在することが明らかとなった。加えて，それぞれの手がかりを用いる事例に対する既存システムの解析精度より，既存のモデルは統語構造や選択選好を用いる事例に関しては相対的に高い解析精度を示すものの, 世界知識や文脈を読み解く必要がある事例や, その他未だ一般化されていない雑多な手がかりを用いる事例に関しては低い精度にとどまっていることが分かり, これらの現象に対する解析の糸口を模索していく必要があることを明らかにした.

## 2 関連研究

ゼロ照応問題に対して解析の手がかりとするための情報は, これまでにも様々考えられてきた. 具体的に推定モデルに組み込まれた例としては, 一般的な統語係り受けパス情報の他に，(1)各述語がどのような語を項として取りやすいかという選択選好の情報として, 名詞, 格助詞, 述
語の共起に関する統計値を用いる手法 (Iida, Inui, and Matsumoto 2006; Iida and Poesio 2011; Imamura, Saito, and Izumi 2009; Sasano, Kawahara, and Kurohashi 2008; Sasano and Kurohashi 2011) や，(2) 語が提題化された場合など，文章中のそれぞれの位置における，特定の語の顕現性を表すスコアを用いる手法 (Sasano et al. 2008; Sasano and Kurohashi 2011; Imamura et al. 2009; Iida and Poesio 2011) などがある.

また, 複数述語間の項の共有に関する情報として, (3) 支援動詞辞書を用いる手法 (小町, 飯田,乾, 松本 2006) や，(4) スクリプト的な知識を学習する手法 (飯田, 徳永 2010; 大内, 進藤, Kevin,松本 2015)，（5）それぞれの述語の格スロットに出現する項の類似度を用いる手法 (Hayashibe， Komachi, and Matsumoto 2011), (6) 直前の述語に対する項構造の解析結果を直後に出現する述語の解析に利用する手法 (Imamura et al. 2009; 林部，小町，松本 2014) などが存在する.

そのほか, 技術資料としては示されていないものの, 述語項構造解析器 ChaPAS の 0.74 版 (渡邊 2013) $\mathrm{KNP}($ 黒橋・河原研究室 2013) は, (7) 項構造解析の前段の処理として並列構造解析を行っている.

しかし一方で, そもそもゼロ照応問題にどのような現象がどの程度あらわれるのか, あるいは, 特定の解析モデルが焦点をあてている課題について，どの程度の割合を解くことが出来たかといった定量的な分析はこれまでになされておらず，今後具体的にどのような種類の問題を中心に取り組めばよいか不明瞭な状態となっている.

## 3 分析対象

## 3.1 分析用データ

本稿では, 分析用データとして NAIST テキストコーパス (NTC) および日本語書き言葉均衡コーパスに対する述語項構造アノテーションデータ (BCCWJ-PAS) の二種類のデー夕を利用する.

NAIST テキストコーパスは, 約四万文の新聞記事に対して項構造アノテーションがなされているコーパスであり, 従来より述語項構造解析の研究において統計的機械学習における訓練や解析モデルの評価に利用されてきたものである。このコーパスは分析に十分なデー夕量を含んでいるため，4 節の構造パターンを利用した分析においてはこのデータを中心に分析を進める.

一方で，項構造のうち特にゼロ照応の関係については，新聞のような多数の読者を想定して客観的に事実を述べる場合と，主観的に意見を述べる場合，レビュー記事や歴史書のように前提となる主題が存在する場合, 対話文や QA などの話者が入れ替わる場合などのように，文章のドメインや構造に応じて本質的に異なった情報が手がかりとされることが想定されるため, このような異質な文章ジャンルをバランスよく含む BCCWJに対して分析を行うことで, 出来る限り多様な手がかりの種類を明らかにすることを目指すほか，新聞記事デー夕における手がか

り分布との対比により, ドメイン依存性の問題も議論する.

BCCWJ-PAS については, 国語研究所・NAIST・東京工業大学で開発が進められている日本語書き言葉均衡コーパスに対する述語項構造アノテーションデータの 2014 年 7 月時点の版のうち, BCCWJ の Core-A セクションにおける以下の 22 文書 1,625 文からなる部分を評価・分析用データとして利用する.
- OW: OW6X_00000 OW6X_00010 の 2 記事
- OY: OY01_00082 OY04_00001 OY04_00017 OY04_00027 OY10_00067 OY12_00005 の 6 記事
- PB: PB12_00001 PB2n_00003 PB40_00003 PB42_00003 PB50_00003 PB59_00001 の 6 記事
- PM: M12_00006 PM24_00003 PM25_00001 PM26_00004 の 4 記事
- PN: PN1b_00002 PN1c_00001 PN1d_00001 PN3b_00001 の 4 記事

BCCWJ-PAS におけるアノテーションは，NTC とおよそ同等の形式で行われている，たたし, この時点で作業者一名によるアノテーションしか行われていなかったため, 同一データに対して第二者によるアノテーションを再度行い，両者のずれを修正したものを利用する 3.

## 3.2 分析対象システムと評価方法

本稿では, 現状の最先端システムにおける事例カテゴリ, 手がかりカテゴリごとの解析精度を測る目的で, 松林 \& 乾の解析器 (松林, 乾 2014) を例に取り, 文内ゼロ照応解析について分析を行う，述語項構造解析の既存研究においては, 利用しているデー夕の違いもあり, 正確に精度を比較することが難しいが，表 1 の概算値比較に基づけば，松林 \& 乾のシステムは文内ゼ口照応の問題において現状での最高精度を達成するシステムの一つであるといえる.

松林 \& 乾の解析器は, 文内の項のみを対象に解析を行うモデルである. 入力として文と解析対象の述語位置を受け取り, 文中の各形態素について, ガ・ヲ・ニである尤度を点推定の線形分類モデルで推定し，文中で最大の尤度を取る形態素を項として出力する。より具体的には，以下のアルゴリズムで出力を決定する.

（1）訓練データ内の統計により，項となることが稀な品詞を持つ項候補を枝刈りする，具体的には, IPA 品詞体系において「名詞」「動詞」「助動詞」「終助詞」「副助詞」「未知語（未定義語)」の品詞をもつ形態素のみを項候補とする。この枝刈りは, 訓練データの $99 \%$ 以上の正解項を保持しつつ, 候補を $36 \%$ 削減する。

（2） L2-正則化 L2-loss のSVM を用いて，項候補に対して $\{$ ガ， ヨ，ニ，NONE $\}$ の多值分類を行うモデルを学習し，各候補について述語毎にそれぞれのラベルに対するスコアを求める.

（3）述語毎に，文内候補から $\{$ ガ，尹,ニ\}の各ラベルについて最もスコアの高いものを一つずつ選ぶ. $\{$ ガ， ヨ，ニ\}のそれぞれについて個別の閥值を定めておき，選出した最尤候補が閥値を超えていれば，その形態素を対象述語の項として認定し，格ラベルと共に出力する。闇值は訓練データでの $\mathrm{F}$ 値が最大となるように調整する.

利用している素性についての詳細は松林 \& 乾 (松林, 乾 2014) を参照されたいが, 主要なものとして, 統語係り受けパス（係り受け方向のみのもの, 品詞や主辞, 助詞等で語彙化したもの），大規模データより取得された（項, 格助詞, 述語）の共起情報，見出し語を名詞クラスタにより汎化した素性等が含まれている.

注意すべき点として, 松林 \& 乾の実験では学習・推定に正解の統語係り受け木を与えたのに対して, 本稿では, KTC と同形式の正解統語係り受け関係データを利用できない BCCWJ と設定を合わせるために，公開されているCaboCha 0.66 モデルの出力結果を用いて学習・推定した結果を用いる。このため，本稿で報告する精度は，元論文で報告されたものより解析精度が低い。

また, 日本語述語項構造解析の分野では, 一般に利用するデー夕や問題設定の違い, デー夕フォーマットに対する前処理の違いにより, 既存研究との正確な精度の比較が困難な状況にある。この状況を改善する目的で，本稿におけるシステムの解析精度評価については，言語処理学会第 21 回年次大会ワークショップ「自然言語処理におけるエラー分析」(関根，乾 2015）の述語項構造解析班報告 (松林他 2015) において提案された評価手法にもとづいて算出した $\mathrm{F}$ 値を用いる。この評価手法は, （項, 格, 述語相当語）のタプルに関して, システムが出力した項の位置が正解データと文節単位で一致しているかを，適合率，再現率， $\mathrm{F}$ 値によって評価するものであるが，各システムの形態素区切りや文節区切りの差異を緩和するよう工夫されたものである（詳細は (松林他 2015)の 2.1 節を参照されたい)。ただし, 京大形式と NAIST 形式の二つの異なる格ラベル形式で解析するシステム同士を比較するために導入された，システム出力と正解の項とのアラインメントを取る処理については，今回はNAIST 形式の格ラベルを用いた解析システムである松林 \& 乾のシステムのみを分析対象とするため, ラベルアラインメント無しの方法を選択した。また, 以降の分析において，正解の構文構造を必要とする分析手法においては, システムの述語項構造出力を正解の係り受け構造がアノテーションされた NTC（京大コーパス形式）の形態素・文節区切りと対応が取れるよう変換し，正解の統語係り受け木を用いて分析を行う.

本節以降, 解析精度とは松林 \& 乾のシステムの精度のことを指す. 評価デー夕における文内ゼロ照応事例の統計値と解析精度は表 3 のとおりである.
表 3 NTC 1.5 評価デー夕における文内ゼロ照応事例数及び解析精度

## 4 構造パターンの自動分類による事例カテゴリ分析

本節では, 既存の解析モデルがモデル化している述語間の項の共有関係・項の類似度, 機能動詞構文，並列構造といった特徴が，実際の問題にどの程度影響があるかを確かめるために，特に文内ゼロ照応の事例に焦点を当て, NTC や京都大学テキストコーパス (KTC) の正解アノテーション情報を利用して上記の特徴を持つ事例を機械的に分類し, 各カテゴリの事例数や現状の解析精度，各カテゴリが理想的に正答できた場合の精度上昇幅等を示す.

既存研究において, 複数の述語間の構造的・意味的な関係を解析に用いる場合の一般的な方法は，述語間の何らかの関係を通して，関係が比較的簡単に求まる述語一項ぺアの情報を難易度の高い述語一項ぺアの解析の手がかりに利用するというものである。このような情報を用いることができる事例を近似的に抽出するために，次の方法を用いて事例を分類する。例えば，図 1 の文において，述語相当の名詞「勉強」（P で表記）に対する力゙格の項（A で表記）は「太郎」であるが，これらは直接係り受け関係にない。そこで，対象の述語 $\mathrm{P}$ と項 $\mathrm{A}$ だけではなく, $\mathrm{A}$ と直接係り受け関係にある語 $\mathrm{O}$ を考える。もし，語 $\mathrm{O}$ も項構造を持っており，かつ，Aが $\mathrm{O}$ の項でもあるならば，P と O は項を共有しているということになり，直接的に項を推定しゃすいAとＯ９関係を，より間接的な関係となっている A と $\mathrm{P}$ の関係推定に利用できる可能性がある。したがって，このような $(\mathrm{A}, \mathrm{O}, \mathrm{P})$ の組を取り出すことで，複数の述語間の構造的・意味的な関係を利用する手法が被覆する事例の数や，そのような事例における既存システムの現状の精度を分析することができる。

ただし，事例によっては文中に A として適切な複数個の共参照関係にある語が存在する場合がある ${ }^{4}$.そのような場合, (i) 「P よりも前にある語を優先する」(ii)「Pに単語位置がより近い語を優先する」の二つのルールを順に適用することで Aを一意に定める。また一般に，A は直接係り受け関係が認められる語の候補として，係り先文節の中にある語および複数の直接係り元文節の中にある語が考えられるため，O を一意に定めるための方法が必要である．本稿では，Aと P の関係において最も関わりが深いと思われる語 $\mathrm{O}$ を以下の方法で選択する。 （手順 1）A に対する係り元文節，係り先文節の主辞を O の候補として抽出する。

図 1 文内の直接係り受け関係にない述語と項の例

（手順 2）（手順 1）で抽出した候補のうち, $\mathrm{P}$ との統語係り受け距離がもっとも近いものを残す. (手順 3）（手順 2）までで得られた候補のうち，Pに単語位置が最も近いものを一つだけ選ぶ. この方法を用いれば，例えば次のような文について， $\mathrm{O}_{2}$ より $\mathrm{O}_{1}$ を優先して選択することが出来る。

(2) a. [ [豊か $\left.{ }_{\mathrm{P}}^{\mathrm{P}}\right]$ で [興味深い $\left.\mathrm{O}_{1}\right][$ 世界 $\mathrm{A}]$ が [広がって $\mathrm{O}_{2}$ ] いる。

b. 手品を [ Lた $\left.\mathrm{O}_{2}\right]\left[\right.$ 人 $\left._{\mathrm{A}}\right]$ が周りに [ [驚き $\left.\mathrm{P}\right]$ を [与える $\left.\mathrm{O}_{1}\right]$ 。

このように定めた $\mathrm{A}, \mathrm{O}, \mathrm{P}$ を利用して，分析対象コーパス中に現れる文内ゼロ照応の事例を詳細に分析するために，以下の 7 つの指標で事例を分類した.
- 対象述語 $(\mathrm{P})$ の品詞 (動詞, サ変名詞, その他)
- $\mathrm{P}$ に対する項 (A)の格（ガ， ヲ，ニ）
- $\mathrm{A}$ と直接的に統語係り受け関係がある語 $(\mathrm{O})$ の種類（動詞述語, 名詞述語, その他の述語, 述語ではない)
- $\mathrm{A}, \mathrm{O}, \mathrm{P}$ の出現順序
- O が述語相当語の場合, O と P が A を項として共有しているか
- $\mathrm{O}$ とが $\mathrm{A}$ を項として共有している場合,
- 二つの格ラベルが一致しているか
- $\mathrm{P}$ とが並列構造で繋がっているか, $\mathrm{P}$ が $\mathrm{O}$ の項であるか, それ以外
- $\mathrm{O}$ との間の係り受け距離

$\mathrm{O}$ が述語相当語，つまり項構造を持つ場合については， $\mathrm{P}$ とが A を共有しているかに加えて, さらに $\mathrm{P}$ と $\mathrm{O}$ が並列関係かどうか, 広義の機能動詞構文に典型的な $\mathrm{P}$ が $\mathrm{O}$ の項となる形になっているかといった観点で分類する。また，O と P で A に対する格関係ラベルが異なる場合は, 二つの述語間で主題や動作主が保存される場合に比べてより難易度の高い問題であると想定して区別して分類する.

$\mathrm{A}, \mathrm{O}, \mathrm{P}$ の出現順序は, 連体修飾などの構造的な特徴を簡潔にとらえるのに役立つ. $\{\mathrm{A}, \mathrm{O}$, P\} の置換として 6 通りの順序組がありうるが, これらを統語係り受け関係・述語一項関係と併記して示すと, 図 2 のようになる. このうち OAP と OPA は上述のO 選択するアルゴリズ么に従えば出現することはない. AOP, APO は最も一般的な構造であり, 並列構造や機能動詞構文（APO の一部）などの構造を含む．POA は $\mathrm{O}$ が A を連体修飾する形であり，この一部には $\mathrm{P}$ との間に構造的な関係が認められる可能性がある. PAO は $\mathrm{P}$ の項が $\mathrm{P}$ より後ろの $\mathrm{O}$

(a) APO

(b) AOP

(c) PAO

(d) POA

(e) OAP

(f) OPA

図 $2 \mathrm{~A}, \mathrm{O}, \mathrm{P}$ の出現順序と統語係り受け関係・述語一項関係の概観実線は直接統語係り受け関係, 破線は述語一項関係。OAP と OPA はO を選択するアルゴリズム上, 出現することはない.

に関連して出現する形である。

分析対象のデータとして，KTCによる正解統語係り受け情報，並列構造情報が利用できる NTC 1.5 版を利用する。コーパスは, 述語項構造解析の研究で一般的に利用されている Taira et al.(Taira, Fujita, and Nagata 2008)の分割に基づいて，訓練，開発，評価用データの区分に分割し, 評価データにおいて事例カテゴリ別に出現頻度と既存システムの解析精度を測定する。 また，各事例カテゴリにおける具体的な例文の提示や，事例ベースの分析には開発データを利用する。

## 4.1 分析結果にもとづく考察

表 4 に分析の結果を示した。まず，格助詞ごとの分布を見ると，文内ゼロ照応の事例はガ格 $81 \%$, ヲ格 $14 \%$, 二格 $4 \%$ と, 殆どの事例がガ格の省略である。解析精度はガ格で最も高く, ヲ格, 二格は殆ど正答が難しい状況となっている。述語側の品詞の分布は動詞 $48 \%$, サ変名詞 $38 \%$ ，その他 $13 \%$ であり，主に動詞とサ変名詞がその大半を占める．品詞別の精度は，動詞が最も高く $45 \%$ 弱, 形容詞が最も低く $31 \%$, その他は概ね $40 \%$ 前後となっている.

次に，Aの直接係り先である O との関係を見ると，まず $\mathrm{O}$ の品詞は動詞が $60 \%$ と強い偏りを見せており，また，全体の $74 \%$ で項構造を持っていることが分かる。さらにこれらの項構造を持つ $\mathrm{O}$ うち, $\mathrm{P}$ と項を共有しているものの割合は約 $78 \%$ と高く, 文内ゼロ照応全体でみても O と P の間に項の共有がある事例が $58 \%$ と半数以上存在することが分かった. これは，並列構造解析や, 機能動詞構文, スクリプト知識などを代表とした, 項構造間の何らかの関係を利用して解ける可能性のある事例が比較的多数存在することを示している.

システムの精度をみると, 項共有の有無によって解析精度に約 $20 \%$ の大きな開きが見られる. これは，松林 \& 乾のシステムは述語構造間の高次の関係を明示的にモデル化していないものの，機能語や主辞情報を含む係り受けパスが項共有の情報をある程度とらえているためと考えられる。

次に，O と P が項を共有している場合のより詳細な分析として,「二つの述語間で格ラベル

が一致しているか」,「P と $\mathrm{O}$ が並列構造で繋がっているか, あるいは $\mathrm{P}$ が $\mathrm{O}$ の項であるか, それ以外か」という二つの指標で事例を分類した結果を述べる。まず，二つの述語で格ラベルが一致しているものは項を共有している事例の $80 \%$ を占めており，更に，格ラベルが異なる場合と比べて $30 \%$ 弱ほど精度が良いことが分かった。次に，P と Oが並列構造で繋がっているものは項を共有する事例の $15 \%$ ，P が O の項である事例（機能動詞構文や制御動詞構文などの事例を含む）は $10 \%$ と比較的少量に留まっており，その他の事例が $75 \%$ と大多数であることが分かった。一方，より明確な手がかりがある並列構造や，O, Pが述語一項関係になっているものは, 解析精度が $65 \sim 67.5 \%$ とそれ以外の事例に比べて高い数値を示す結果となった。これも，前述のとおり松林 \& 乾のシステムでは解析モデルとして項構造の関係を明示的に扱ってはいないながらも，少なからずこれらの現象の特徴をとらえているためと考えられる．また，並列構造や機能動詞構文の形の事例に関して相対的に高精度が得られていることは, これらの事例がゼロ照応解析の有望な手がかりとなっていることを示す証拠であり, 明示的な並列構造解析や機能動詞・制御動詞の辞書的な取り扱いによって精度が更に向上する可能性を示唆していると言える。

表 5 に A, O, P の位置ごとの事例数と解析精度を示した。主要部終端型である日本語では

表 $5 \mathrm{~A}, \mathrm{O}, \mathrm{P}$ の語順, PO 間の係り受け距離別の解析精度

APO，AOP の割合が多く，この形が全体の $77 \%$ を占めている。続いて，O が Aを連体修飾する形の POA，述語 $\mathrm{P}$ と $\mathrm{A}$ の係り先 $\mathrm{O}$ が項 $\mathrm{A}$ を挟む形の PAO の順となっている。解析精度は $\mathrm{APO}$ の語順で最も高く, $\mathrm{F}$ 値で $58 \%$ を達成している。これは前述の並列構造や機能動詞構文のほとんどが APO の語順を取っているためと考えられるが，一方で，二番目に多く，同様に O と P の並列構造を含むと考えられる AOP の語順では， F 值 $27 \%$ と解析精度に大きな開きが見られるのが興味深い.

P とＯの間の係り受け距離と事例数の関係を見ると 1 が $50 \%, 2$ が $24 \%, 3$ が $13 \%$ とおよそ距離に線形に分布している。一般に係り受け距離が遠くなるほど解析精度は低下していくが, $\mathrm{P}$ と O の間に直接係り受け関係が見られる事例では $53 \%$, 特にこのうち APO の語順を取るものについては $65 \%$ と比較的高い精度で解析出来ていることが分かった.

## 4.2 項共有を伴う事例のエラー分析

4.1 節の分析から，文内ゼロ照応の半数以上が，項と直接係り関係にある述語との項共有を伴うことがわかった。項共有を伴うケースは，それを伴わないケースに比べて手がかりを求めやすく, 今後の性能向上の糸口となる可能性が高い. 一方で, 解析対象述語 P のゼロ照応の項 $\mathrm{A}$ が，A と直接係り受け関係にある述語 $\mathrm{O}$ と項共有を伴う事例のうち, $\mathrm{P}$ と $\mathrm{O}$ が直接的に並列構造となっている，もしくは機能動詞構文に典型的な述語 $\mathrm{O}$ が項として $\mathrm{P}$ をっているものの割合は合わせて $25 \%$ 程度にとどまっていた。そこで，我々は項共有を伴う残り $75 \%$ の事例のうち, 松林 \& 乾のシステムで解析エラーとなったものを分析し, どのような情報を用いて複数の述語にまたがる項の関連性をとらえることができるかを分析した.

具体的には，文内ゼロ照応にあたる述語一項ぺアについて， 4.1 節の分析カテゴリのうち， $\mathrm{P}$ と O が項 $\mathrm{A}$ を共有しており，P と O が並列関係でなく，P が O の項となっていない事例について, 開発データ上で松林 \& 乾のシステムが正しい項の位置を当てられなかった事例（偽陰性の事例）を無作為に 50 事例抽出し，これらを人手で分析した。表 6 には，分析した事例をカテゴリ化し，その分布を示した。以下では，それぞれのカテゴリについて簡単に説明する。なお,例文は実際に分析した開発セット中の事例であるが，必要に応じて文構造を簡略化してある.述語の並列構造・広義の機能動詞構文・モダリティ表現の組み合わせ

4.1 節の分析では, P と O が直接的に並列構造となっている, もしくは機能動詞構文に典型的な述語 $\mathrm{O}$ が項として $\mathrm{P}$ をっているもののみを扱ったが，実際にはこれらの局所的な問題の組み合わせによって, 長距離の述語項関係が導き出せる事例が存在する。例えば，次の文では「行政改革委員会」は直接的には「開き」にかかっており，この「開き」 と文末尾の「決めた」が並列関係となっていることから，この二つの述語が主語を共有していることが分かる，さらに，この「決めた」という述語と解析対象の述語「意見具申する」が機能動詞構文の形をとっていることから，「決める」と「意見具申する」の主
表 $6 \mathrm{P}$ と $\mathrm{O}$ が項 $\mathrm{A}$ を共有するもののうち, $\mathrm{P}$ と Oが並列関係でなく, $\mathrm{P}$ が $\mathrm{O}$ の項ではない事例のエラー カテゴリ分布

語が同一であると推定でき, 結果として「具申する」のガ格が「行政改革委員会」であることが導かれる。

行政改革委員 [会ガ] は第二回会合を[開きO] 、行革推進方策について政府に意見具申 $[$ する $\mathrm{P}]$ ことを決めた。

また，モダリティ相当表現が複合する形もよく見られた．以下の例では，「強めており」 と「方針 $($ だ)」が並列関係であるが,「求める方針だ」は「求めるつもりだ」相当の表現であり, このことから, 「強めており」と「求める」の主語が同一であることが導かれる。

める ${ }_{\mathrm{P}}^{\mathrm{P}}$ 方針。

## 係り受けで連鎖する述語・名詞間の意味的関係

統語的・機能的な構造だけからは項の共有が導けないが, P と A の係り受けパスの内側にある述語や名詞の間に，その意味的な関係により項構造の伝播が認められる事例。例えば，次の例では「訪ね」と「要請した」が並列構造であり，その統語関係から主語を共有していることが判断できるが，「訪ね」の目的語である「党首」と「要請した」の述語一項関係は統語的には導けない.しかし, 常識的なスクリプト的知識に基づけば,「Aを訪ね、要請した」は，「Aに要請するために A を訪ねた」と類推できる。その結果を受けて, さらに機能動詞構文の構造により「Aに協力を要請する」は「Aが協力する」 へ,「Aが推進へ協力する」は「Aが推進する」へと読み替えられ，最終的に解析対象述語「推進」のガ格として「党首」を取りうることが導かれる。

への協力を要請した。

## 発言者の認識

文中に発話の引用が含まれ，発話文中の動作主が，発話者であるような事例。このような事例では, 発話内容の範囲, および発話者の特定が解析の手がかりとなる.

研究 [グループガ] は、中心に存在する天体はブラックホール以外に [考え $\mathrm{P}$ ] られないと [結論づけたO]。

## 機能語相当表現の認識

複数の形態素をひとまとまりとして一つの文法的機能を持つ複合辞を認識することで，解析の手がかりとして適切な単位を得ることができる場合がある。例えば，以下の例では「の場合」が提題化の機能相当の表現であり, この部分を一つの副助詞相当とみなせば，「佐藤氏」と「競合する」は直接係り受け関係にある.

佐藤 [氏丶 $\left.{ }_{\text {カ }}\right]$ の $[$ 場合 $\mathrm{O}]$ 、現状では新進党の海部俊樹党首と競合 [する $\left.\mathrm{P}_{\mathrm{P}}\right]$ が (後略)

## 世界知識を用いた推論が必要

文内の情報から述語項関係が読み解けるが，その推定に知識推論が必要と思われる事例.例えば，下の例で「支持する」のガ格とされている「自治労」は，直接的には「中執見解を了承した」という事実だけが言及されており，特段の知識がない場合は「支持する」 と「自治労」は結びつかない. ただし, ここで中執とは中央執行部のことで, 自治労は基本的に中央執行部の意見を会議で承認し, 組合全体としてそれに従うという知識があれば，「支持しないとの中執見解を了承した」という表現から，中央執行部の「支持しない」という意思決定を了承するならば，自治労は支持しない，という関係が読み解ける。

[自治労ガ] は十一日、東京都内のホテルで全国委員長会議を [開きO] 、社会党の山花貞夫・新民主連合会長らによる新党準備会は支持 $\left[L_{\mathrm{P}}\right.$ ] ないとの中執見解を了承した。

## 文脈・背景知識が必要で一文からは判断不可能

下記の例では, 解析対象述語「除名」の選択選好からヲ格は人であることがわかり，また文中に出現する人物は「山花氏ら」しかいないが，除名されるのが山花氏らであるか

どうかを判断するための十分な情報が文中には存在しない.

山花氏 $\left[\right.$ ら $\left._{\text {э }}\right]$ は $[$ 除名 $\mathrm{P}]$ 処分を行わないよう執行部に $[$ 働きかけてO] いる。

カテゴリは, 既存研究で扱っている現象の延長上にあり比較的取り扱いが明瞭な統語的・機能的な現象および単純な共起関係から推定できる選択選好をまとめた「統語的・機能的・選好的」と, 現状では取り扱いが難しい知識を用いた推論や談話構造解析を含む「知識・談話的」,「その他」の三つに大別した. 表 6 から, 従来研究で扱う現象の延長として説明できる「統語的・機能的・選好的」の割合が全体の $46 \%$ 程度, 知識推論や談話構造理解などのより高度な知識処理が必要と思われる事例の割合が $32 \%$ 程度存在することがわかった.

特徴的な点としては， 4.1 節の分析では, $\mathrm{P}$ と $\mathrm{O}$ が直接的に並列構造となっている, もしくは機能動詞構文に典型的な述語 $\mathrm{O}$ が項として $\mathrm{P}$ をっているものなど, 特定の現象が単独で出現する場合のみを区別して扱っていたが，実際にはこれらが部分問題として出現している例が多く見られた．特に，動詞や名詞の項構造が，係り受けの鎖の中で連鎖的に関連しているケー スにおいては, これらの部分的な手がかり同士は, 相補的に確信度を高め合っているのではなく, 統語的関係として隣り合う項構造どうしの関係の連鎖を順に解析することで目的の解にたどり着く事例が多く見られた.このような事例は特に「述語の並列構造・広義の機能動詞構文・ モダリティ表現の組み合わせ」，「係り受けで連鎖する述語・名詞間の意味的関係」，および「世界知識を用いた推論が必要」のカテゴリによく見られた。この結果を受けて, 次に，分析対象事例中に「解析対象述語 P と項を共有し, かつ並列構造にある述語が存在する」「解析対象述語 $\mathrm{P}$ と項を共有し，かつ $\mathrm{P}$ を項に取る述語が存在する」事例を調べることで, これらの現象の解析が正答に直接的にあるいは部分問題として間接的に寄与するであろう事例の数を調べた。また, この際, エラー分析中に顕著に出現した現象である「提題化表現」「発話引用」の事例についても分析に含めた.

表 7 より, 第一に，項が文内で「は」「について」「の場合」などの機能語相当表現で提題化

表 7 事例カテゴリ毎の事例数と解析精度

されている事例はゼロ照応全体の $39 \%$ 存在しており, 文外での提題化とあわせて全体で約半数が提題化の標識を手がかりとできる事例であることが分かる。提題化されている事例では提題化されていない事例に比べて相対的に高い解析精度を示しているが，一方で，文内ゼロ照応の問題のほとんどがガ格を推定する問題であることを鑑みれば，提題化の情報は強い手がかりと想像されるにもかかわらず，現状では提題化されながらも必ずしも正答できない事例が少なからず存在しており，ゼロ照応解析の問題の中に，複雑な現象が絡み合っていることを容易に想像させる。

第二に, 項を共有している述語との並列構造が項特定の部分的な手がかりとして含まれる事例がゼロ照応問題全体の $13 \%$ 弱を占め, 機能動詞構文などに典型的な「P と項を共有し， かつ $\mathrm{P}$ を項に取る述語が存在する」事例が $19 \%$ 弱を占めることがわかった．特に後者の事例は, $\mathrm{P}$ が $\mathrm{A}$ と直接係り受け関係にある $\mathrm{O}$ の項となっている場合の事例数に比べて 3 倍強となっており, 異なる述語間の項構造に関する 2 次以上の特徵量を解析モデルに組み込むことの重要性を示唆している. 表 6 で示した具体的なエラー事例の分類からも，「係り受けで連鎖する述語・名詞間の意味的関係」「述語の並列構造・広義の機能動詞構文の組み合わせ」など，少なくとも $\mathrm{P}$ と O が項を共有する事例の $26 \%$ 程度がこのような複数の述語間の項構造の組み合わせを考慮しなければならない問題であった。

発話文の引用に典型的な「述語が鉤括弧の中にある」事例も全体の $16 \%$ 弱と無視できない割合を占めており，特別の解析を行う必要性を示唆している.

## 4.3 解析精度の理想値

表 8 には，分析対象のカテゴリのうち，今回の分析で特に焦点を当ててきた項の共有が手がかりとなりうる事例について，各々が理想的に正答できた場合の精度上昇幅を参考値として示す。この数値は, 解析対象のシステムについて, 偽陽性の結果はそのままに, 偽陰性の結果を

表 8 解析精度の理想値

過不足なく正答出来たとした時の精度を示したものである。ただし, 「項共有 (並列構造)」「項共有 (P が $\mathrm{O}$ の項)」以外の項目については, 4.2 節で示したサンプリングによるエラーの分布推定に基づいた概算値である。並列構造や広義の機能動詞構文について，それぞれを局所的に解いた場合にゼロ照応全体に与えるインパクトは $\mathrm{F}$ 値で 5 ポイント程度であるのに対して, 局所的な構造の組み合わせを通じて解を得られる種類の事例まで正答した場合， $\mathrm{F}$ 値で 13 ポイン卜程度の上昇を見込めることが分かる。また，これに加えて発言者や提題化された実体・概念,機能語相当表現の正確な認識が達成された場合で $\mathrm{F}$ 値が $60 \%$ 程度となる．精度 $60 \%$ 以上を実現するためには，現状で述語項構造解析の文脈ではあまり取り組まれていない，世界知識を用いた推論や，談話解析などの技術を取り込むか，もしくはそのような後段の処理につなげるための適切な問題設定やインターフェースを用意する必要がある.

O と P が項を共有する事例について, その適合率が $100 \%$ 近くに達した場合でも，文内ゼロ照応全体の $\mathrm{F}$ 值は $70 \%$ 強である。文内ゼロ照応の $42 \%$ は項の共有がない，より手がかりの少ない事例であり, この部分でどのような特徴が手がかりとなりうるかについては今後の分析課題である.

## 5 人間の直感にもとづく手がかりアノテーションによる分析

前節では, 既存研究において焦点が当てられた項の共有関係を背景に, 特定の構造を持つ事例を機械的に分類することで文内ゼロ照応における現象の分布を明らかにした．本節では，特定の事前知識に依存せずにゼロ照応解析に対する手がかりを幅広く調査することを目的として, コーパスよりランダムに抽出した少量のサンプルに対して，人間が正解を導き出す際に根拠とする手がかりの種類を分析する.

具体的な手続きとして, 述語項構造アノテーションデータの一部に, 人手により表 9 のよう

表 9 手がかりアノテーションの例

 &  &  \\

な, 正解分析結果を導き出すための根拠となる手がかりのカテゴリラベルを付与し, 次の項目を調査する。
- 解析に必要な手がかりの種類とその組み合わせの種類

・各手がかりを必要とする事例の分布

・ 各手がかりを必要とする事例に対する既存システムの解析精度

以降では，まず，分析に利用するデータのサンプリング方法について説明し，次に，具体的なアノテーションの方法について述べる。その後, アノテーション結果を利用した手がかりカテゴリの分布に関する分析やシステムの解析精度について詳しく議論する.

## 5.1 データのサンプリング方法

手がかりアノテーションの対象データとして, 述語項構造がアノテートされたコーパスより,文内ゼロ照応の事例と判断される（述語，項，格）の三つ組を一事例として，少量のデータを無作為にサンプルする．本節における分析では，手がかりの種類を幅広く調査するために， 4 節で利用した NTC に加えて, BCCWJに対する述語項構造アノテーションデータからも手がかりアノテーションを行う事例をサンプルした. 抽出対象となる NTC の仕様では, 一般に項は共参照クラスタとして表現されているが, ここでも 4 節と同様の方法で対象の形態素を一意に定める.

一般に，コーパス中の格の出現頻度はガ格に強い偏りがあり，小規模のサンプリングではヨ・二格の数が極端に少なくなるという問題がある。述語一項の関係においては, 格毎に起こりうる現象の分布が異なると考えられるため，手がかりの種類や組み合わせを俯瞰するためには， ガ・ヨ・二格それぞれについて一定数分析を行うのが適切と考えられる。しかしながら，前節までの分析においては，NTCについてガ・ヲ・ニ格全体に対する解析精度を中心に議論を進めていることから，NTC についてはコーパス中のガ・ヲ・二格の分布に従い事例をサンプルし，一方で，BCCWJについては文書ジャンル毎に格ごとのサンプル数を固定してサンプリングを行うこととした.

具体的に, NTCではデータ全体を Taira et al. (2008) と同様の方法で訓練・開発・評価のデータ区分に分け，開発データから文内ゼロ照応に関する 100 事例を無作為にサンプルした. BCCWJ では，評価データとして用意した BCCWJ Core-A セクションにおける OW（白書），OY（ブログ), $\mathrm{PB}$ (書籍), $\mathrm{PM}$ (雑誌), $\mathrm{PN}$ (新聞）から，ジャンルごとにガ・ヲ・ニそれぞれの格を 20 事例ずつランダムサンプルすることを試みた，ただし，実際には，特定の文書ジャンルに関して文内ゼロ照応に関する十分な事例数がない場合があり ${ }^{5}$, 合計では 240 事例となった. NTC および BCCWJコーパスからサンプルした事例における格の分布は表 10 に示す.

表 10 サンプルデータにおける格の分布

## 5.2 手がかりアノテーションの方法

アノテータには，サンプルされた（述語，項，格）の三つ組，及び，当該の述語と項が含まれる文が表 9 の例文の闌に表記されているような形式で与えられる。アノテータはこれに対して，あらかじめ定められている手がかりのカテゴリラベルを付与することを試みる。格関係を判断するにあたって複数の手がかりが必要な場合は, 判断に最低限必要となるラべルをすべて列挙し，ラベルの組み合わせとして表現する 6.

アノテーションの際には，カテゴリラベルを付与するだけでなく，アノテータがどのようにして解を導いたかについても注釈を加える。このようにすることで，カテゴリラベルだけでは説明が難しい複雑な現象に対する内省の結果を残し，後の精緻な分析を補助できるほか，アノテーション修正時にアノテータの意図を確認しながら議論ができるため, 適切な反復修正作業が可能となる.

手がかりのカテゴリラベルは，あらかじめ著者らが列挙したものから始め, アノテーションの過程で新たに必要となったものを順次追加する方法をとった。アノテータはこれまでに列挙された手がかりラべルでは説明できない事例に遭遇した場合, 簡潔な説明と共に「その他」のラベルに分類する．その他のラベルに分類された手がかりのうち，著者らとの協議において一定数の事例を類型化できるものについては, 適切な名称を付けて「その他」から分離した。このようにして最終的に得られた手がかりカテゴリラベルは，以下のとおりである。
- 統語関係：統語的な構造が手がかりとなる。

——統語パス：述語と項の間の係り受け鎖構造が手がかりとなる.

＊語彙化パス：統語パスとその内部の語の語彙知識が手がかりとなる.

相互作用 (意味)：統語パス内の述語の項構造同士が「意味的」に特定の項を共有する。

. 機能語相当表現：機能語の特定が手がかりとなる.

$\cdot$ 連体修飾：連体修飾における格関係の特定が重要な手がかりとなる.受身: 受け身による格交替を判定することが重要な手がかりとなる.

* 相互作用 (形式) : 統語パス内の述語の項構造同士が「形式的」に特定の項を共有する。

. 機能動詞：機能動詞の特定が手がかりとなる.

制御構文：制御構文が手がかりとなる.
* 並列：並列構造の特定が手がかりとなる.

$\cdot$ 談話関係：何らかの談話的関係が手がかりとなる.
- 発話者: 発話者・著者の特定が手がかりとなる.
- 文脈：文脈が手がかりとなる.
- 知識 : 何らかの世界知識が必要.

－ 選択選好：述語と項の間に強い選択選好がある。
- 語義：語の意味が手がかりとなる.
- 複合語：複合語内の形態素間の意味的関係が手がかりとなる.
- 常識: 常識的知識が必要.

$\cdot$ その他：その他の手がかりが必要.

・アノテーションエラー：格ラベルのアノテーションエラー.

カテゴリラベルは「統語関係」「談話関係」「文脈」「知識」「その他」「アノテーションエラー」 のカテゴリをトップノードとして階層構造を成しており, 下層へ行くほど詳細化されたカテゴリラベルとなっている。アノテーションの際は, 現象を詳細化して説明できる場合は, より下層のラベルを優先して付与する。

実際のアノテーションは，著者らとは別の， $4,000 \sim 5,000$ 文規模の述語項構造アノテーションの経験を持つ日本語母語話者のアノテータ一名によって行われた。必要に応じて著者らとの協議を行いながら一周目のアノテーションを行った後, 最終的な著者らとの協議の結果を踏まえ，再修正を行ったものを最終的な分析対象のデータとした。

## 5.3 文内ゼロ照応事例における手がかりの分布

本節のアノテーションにおいては, 各事例に付与されているラベルの組は, その全てが解析に必要な要素であるという前提であるため, 事例ごとの手がかりラべルの組を一つのパターン （ラベルパターンと呼ぶ）とみなして分析を行う.

まず，それぞれの手がかりがどの程度使われたかを示すために，ラベルパターン中に現れる個別のラベルの出現数を表 11,12 に示した。それぞれのコーパスを比較すると，NTCでは「選択選好」「語義」など知識に関するラベルの他に,「機能語相当表現」や「並列」「機能動詞」など統語関係のラベルも上位に含まれている一方で，BCCWJでは，「選択選好」「その他」の他に，「文脈」「常識」など知識や談話に関するラベルが上位のほとんどを占める.

ただし，表 10 に挙げているとおり，NTC と BCCWJではサンプリング方法の違いにより，
分析事例における格の分布が異なる。したがって, これらの手がかりカテゴリの分布の特徴がドメインの違いによるものであるか, あるいは格の分布の違いによってもたらされるものであるかを確かめる必要がある，そこで，表 13 には，NTC・BCCWJ それぞれについて，各ラベルを手がかりカテゴリの階層構造におけるトップノードによって置き換え, その出現数を格ごとに集計したものを示す。結果として，格ごとの手がかりラベルの分布を見ても，BCCWJでは

表 11 NTC における各ラベルの出現数

表 12 BCCWJにおける各ラベルの出現数

表 $13 \mathrm{NTC}$ BCCWJにおけるトップノードカテゴリの出現数

$\mathrm{NTC}$ に比べて「知識」や「文脈」のラベルの比率が上昇していることが分かる. ここから，新聞記事以外のより一般的なドメインの文章を処理するにあたっては，より知識や文脈を重視した解析手法が重要となってくるであろうことがうかがえる。また，格ごとに観察すると， ガ格に比べてヲ・ニ格ではより知識のラベルに分類される手がかりが必要となる傾向にあることも分かる。

次に，ラベルパターンごとの事例数をコーパスごとにそれぞれ表 14 , 表 15 に示す. パター ンの分布を俯瞰すると，組み合わせの分布が非常に広いことがわかる．ラベルパターンの種類は，単体のもの，複数のラベル組み合わせによるものを含め 90 種類存在した. 90 種類あるラベルパターンのうち事例数が 5 以上の高頻出ラベルパターンは,「機能動詞」や「並列相互作用 (意味)」など 1 つや 2 つのラベルで構成される単純なラベルパターンであるが, そのようなラベルパターンの数は 14 種類と多くない.これらの事例のうち, 代表的な事例を表 16 に挙げる. 一方で, 残り 76 種類の事例数 5 未満のラベルパターンは,「その他並列相互作用 (意味)」 や「常識機能語相当表現統語関係連体修飾」など, 複数のラベルを組み合わせた複雑な構成になっているのもが多い，表 17 に複数ラベルの組み合わせによる事例をいくつか挙げるが，このような複雑なラベル構造を成す事例は決して少数ではない.

我々が特に注目すべき点として挙げたいのは，複数のラベルを組み合わせる場合に，それぞれの手がかりが個々に項の確信度を上げる種類のパターンと, 全ての手がかりがそろって初めて正しく解が導かれる種類のパターンの二つの種類が見られた点である．例えば，表 17 の (3) の事例においては，選択選好，発話者情報，といった手がかりが，個別に項候補の確信度を上げているのに対して，表 17 の（5）の事例においては，「教える」の二格に「子」を埋めるための手がかりと, 「勉強を教える」の二格が「勉強する」のガ格と一致するという知識の双方がそろわなければ，正しい解析が難しい例となっている。したがって，ゼロ照応問題へのアプローチを考える際には，これらの複雑な手がかりの組み合わせ事例を個々に観察し，少なくとも，手がかりの組み合わせが重要な意味を持つパターンに対して大域的な構造解析のアプローチを取る必要があると言える.

## 5.4 システム解析結果との比較

前節の手がかりラベルパターンについて，各ラベルパターンの解析精度を分析することで，現状の解析システムがどの種の問題に正答しているかを分析する。たたし，前節での分類結果より, NTC からのサンプル数 100 と BCCWJ からのサンプル数 240 に対して, ラベルパターンの種類が 90 あることがわかっており，個々のラベルパターンに対する精度を求めるための十分な事例数がない．そこで，今回は以下の 4 種類の大分類によってラベルパターンを集約し分析を行った。
表 14 NTC における各ラベルパターンの事例数

表 15 BCCWJにおける各ラベルパターンの事例数

表 16 代表的なラベルパターンの例

 &  \\

$[\mathrm{P}]$ : 述語, [ガ, ヨ, 二]: 格

（a） 統語関係以下のラベルまたは選択選好ラベルのみの組み合わせで表せられるラベルパターン

（b）知識や文脈，談話関係以下のラベルを含むラベルパターン（ただし，その他を含むラべルパターンを除く)

(c) その他を含むラベルパターン

(d) アノテーションエラー

（a）は,「機能動詞」や「選択選好機能語相当表現」などのラベルパターンであり, 従来の解析システムの素性として用いられる手がかりに該当する。(b) のラベルパターンに該当する事例は「知識」や「文脈」，「談話」に関する手がかりが必要であり，解析器としてはより高度な処理が要求されるラベルパターンである。(c)の「その他」ラベルに分類される現象は, 事前に想定されていなかった手がかりで，かつ現状で簡潔に一般化できるほどの出現頻度がなかった現象であり, 既存の解析器では該当の手がかりを適切に捉えにくい事例と考えられるものである.

表 18, 表 19 は NTC と BCCWJにおける手がかりラベルパターンと解析精度である。ここでの分析はサンプルされた特定の（述語, 項, 格）の正解三つ組事例に対する正誤を分析するものであるため，正解事例に対する再現率を評価の基準とした。 なお，BCCWJ は文書ジャンルごとに事例数を揃えてアノテーションを行ったが，定量的な分析を行うにはジャンルごとのアノテーション事例数が不十分であったため，全ての文書ジャンルを統合して分析を行った. (d) のアノテーションエラーについては, 真の正解ではないため, 再現率の評価からは除外した.
表 17 複雑なラベルパターンの事例

 &  &  \\

$[\mathrm{P}]$ : 述語, $[$ ガ, ヨ, ニ]: 格
表 18 NTC における手がかりラベルパターンと解析器の再現率

表 19 BCCWJ における手がかりラベルパターンと解析器の再現率

表 18 の NTC における結果を見ると, 統語関係以下のラベルまたは選択選好ラベルのみの組み合わせで表されるラベルパターンの再現率は 0.57 と比較的高く, 知識や文脈, 談話関係以下のラベルを含むラベルパターンは 0.3 程度となっている。松林 \& 乾のシステムでは統語関係の情報として項候補や述語の位置, 係り受けの情報を使用し, 選択選好の情報として格フレーム7を使用しているため, これらの手がかりの組み合わせのみで表すことのできる事例に対しては比較的高い解析精度となったと考えられる。

また, 表 19 の結果から, BCCWJでは NTC と比べて再現率が落ちる傾向が見られる. 解析器はNTC の学習データを用いて学習しており, 必ずしも BCCWJ の各ドメインに対する適切な学習がされているわけではないため, 特に統語関係または選択選好のみで表せるラベルパターンの精度に関しては, NTCでは比較的高い精度となっているものの, BCCWJでは他のラベルパターンと同程度の精度となった. 松林 \& 乾のシステムは選択選好に対する対応として, Web16 億文から獲得された格フレーム情報を使用していることから，このラベルパターンで精度が下がった原因は，各ドメイン特有の選択選好性によるものではなく，新聞ドメインと他のドメインで統語現象の性質が異なっていることに起因すると考えられる.

また，その他を含むラベルパターンの再現率は，知識や文脈，談話関係以下のラベルを含むラベルパターンと同程度の低い再現率にとどまった。「その他」ラベルに分類される現象は一般化できるほど頻出する現象ではなく, それらの現象を汎化してシステムに組み达むことは簡単ではないが，NTC 及び BCCWJコーパス内の文内ゼロ照応問題の 3 割弱を占めており，ゼロ照応問題全体の解析精度向上のためには無視できない程度の割合で存在しているため, 今後, サ

ンプル事例の規模を増やし，より詳細な分析を行っていく必要があると考える.

## 6 結論

本稿では, 述語項構造解析における中心的な課題である項のゼロ照応問題へ適切にアプロー チするために，現象の特徴を出来る限り詳細に分析し把握することを試みた.

第一に，文内ゼロ照応関係にある述語と項のペアを，統語情報と述語一項関係の情報を用いて機械的に分類可能な 7 つの指標の組み合わせで分類した。分析内容として, 各事例カテゴリにおける事例数の分布を示したほか，松林 \& 乾 (松林, 乾 2014)のシステムを例に取り, 各指標における解析精度の偏りを示した. 特に, 対象述語 $\mathrm{P}$ と, 項と直接係り受け関係にある述語 O との間で項を共有している事例の割合が文内ゼロ照応全体の $58 \%$ 存在することが分かったほか, これらは, $\mathrm{P}$ と $\mathrm{O}$ が直接的な並列構造や機能動詞構文の形になっているものばかりでなく,局所的な構造の組み合わせによって解が導かれる事例が多く存在することが分かった. このことは，複数述語間の項構造に対する高次の特徵を今後どのようにとらえていくべきかに関する知見を与えている．また，発話引用文における発話者の推定が一定の事例数に寄与することも分かった。

第二に，アノテータの内省を頼りに，人間が正解を導き出す場合に用いる手がかりを分析し，考えられる手がかりの種類を列挙するとともに，その分布を示した. 個々のゼロ照応現象を紐解いていくと，手がかりの種類とその組み合わせに関する分布が大きな広がりを持っていることが明らかとなった。また, 手がかりの組み合わせに関する性質として，提題化や選択選好情報のように，それぞれの手がかりが独立に項候補の確信度を上げるように働くものに加えて, 前半の構造ベースの分析で得られた知見と同様に，機能動詞や述語間の意味的なつながりを考慮すべきものなど，局所的な解析結果を順を追って重ねていくことで初めて項候補の推定に寄与する種類の事例も多く存在することが明らかとなった。また, 既存のモデルは統語構造や選択選好を用いる事例に関しては相対的に高い解析精度を示すものの，世界知識や文脈を読み解く必要がある事例や，その他未だ一般化されていない雑多な手がかりを用いる事例に関しては低い精度にとどまっていた。しかしこれら精度の低い事例はゼロ照応問題全体に対して無視できない割合を占めており, 引き続き, これらの現象に対する解析の糸口を模索していく必要がある.

## 謝 辞

本研究は, 文部科学省科研費 (研究課題番号：23240018), (研究課題番号：15K16045）及び, RISTEX 社会技術研究開発センターの研究開発活動「コミュニティがつなぐ安全・安心な都市・地域の創造」の一環として行われた.

## 参考文献

林部祐太, 小町守, 松本裕治 (2014). 述語と項の位置関係ごとの候補比較による日本語述語項構造解析. 自然言語処理, 21 (1), pp. 3-26.

Hayashibe, Y., Komachi, M., and Matsumoto, Y. (2011). "Japanese Predicate Argument Structure Analysis Exploiting Argument Position and Type." In IJCNLP, pp. 201-209.

飯田龍, 德永健伸 (2010). 述語対の項共有情報を利用した文間ゼロ照応解析. 言語処理学会第 16 回年次大会発表論文集, pp. 804-807.

Iida, R., Inui, K., and Matsumoto, Y. (2006). "Exploiting Syntactic Patterns as Clues in Zeroanaphora Resolution." In COLING-ACL 2006, pp. 625-632. Association for Computational Linguistics.

Iida, R. and Poesio, M. (2011). "A Cross-Lingual ILP Solution to Zero Anaphora Resolution." In $A C L$ 2011, pp. 804-813.

Imamura, K., Saito, K., and Izumi, T. (2009). "Discriminative Approach to Predicate-argument Structure Analysis with Zero-anaphora Resolution." In ACL-IJCNLP 2009 Short Papers, pp. 85-88. Association for Computational Linguistics.

小町守, 飯田龍, 乾健太郎, 松本裕治 (2006). 名詞句の語彙統語パターンを用いた事態性名詞の項構造解析. 自然言語処理, 17 (1), pp. 141-159.

Liu, D. and Gildea, D. (2010). "Semantic Role Features for Machine Translation." In Proceedings of the 23rd International Conference on Computational Linguistics (Coling 2010), pp. 716-724.

松林優一郎, 乾健太郎 (2014). 統計的日本語述語項構造解析のための素性設計再考. 言語処理学会第 20 回年次大会発表論文集, pp. 360-363.

松林優一郎, 吉野幸一郎, 林部祐太, 中山周 (2015). 述語項構造解析「Project NEXT 述語項構造タスク」。言語処理学会第 21 回年次大会発表論文集, pp. 1-157.

大内啓樹, 進藤裕之, Duh Kevin, 松本裕治 (2015). 述語対の項共有情報を利用した文間ゼロ照応解析. 情報処理学会第 220 回自然言語処理研究会研究報告, pp. 1-6.

Sasano, R., Kawahara, D., and Kurohashi, S. (2008). "A Fully-lexicalized Probabilistic Model for Japanese Zero Anaphora Resolution." In COLING 2008 Volume 1, pp. 769-776. Association for Computational Linguistics.

Sasano, R. and Kurohashi, S. (2011). "A Discriminative Approach to Japanese Zero Anaphora Resolution with Large-scale Lexicalized Case Frames." In IJCNLP 2011, pp. 758-766.

関根聡, 乾健太郎 (2015). Project Next NLP 概要 (2014/3-2015/2). 言語処理学会第 21 回年次大会発表論文集, pp. 1-12.

Shen, D. and Lapata, M. (2007). "Using Semantic Roles to Improve Question Answering." In the 2007 Joint Conference on Empirical Methods in Natural Language Processing and Computational Natural Language Learning (EMNLP-CoNLL 2007), pp. 12-21.

Taira, H., Fujita, S., and Nagata, M. (2008). "A Japanese Predicate Argument Structure Analysis Using Decision Lists." In EMNLP 2008, pp. 523-532.

黒橋. 河原研究室. “KNP version 4.1.”. http://nlp.ist.i.kyoto-u.ac.jp/index.php? cmd=read\&page=KNP\&alias\%5B\%5D=\%E6\%97\%A5\%E6\%9C\%AC\%E8\%AA\%9E\%E6\%A7\%8B\%E6\%96\%87

\%E8\%A7\%A3\%E6\%9E\%90\%E3\%82\%B7\%E3\%82\%B9\%E3\%83\%86\%E3\%83\%AOKNP Accessed: 2014-05-20.渡邊陽太郎. “ChaPAS version 0.74." https://sites.google.com/site/yotarow/chapas.

Accessed: 2014-05-20.

## 略歴

松林優一郎：1981 年生. 2010 年東京大学大学院情報理工学系研究科・コンピュー 夕科学専攻博士課程修了. 情報理工学博士. 同年より国立情報学研究所・特任研究員. 2012 年より東北大学大学院情報科学研究科・研究特任助教. 意味解析の研究に従事. 情報処理学会, 人工知能学会, ACL 各会員.

中山周：2014 年法政大学情報科学部コンピュータ科学科卒業. 同年東北大学大学院情報科学研究科博士前期課程進学. 現在に至る. 自然言語処理に関する研究に従事.

乾健太郎：1995 年東京工業大学大学院情報理工学研究科博士課程修了. 同研究科助手, 九州工業大学助教授, 奈良先端科学技術大学院大学助教授を経て, 2010 年より東北大学大学情報科学研究科教授, 現在に至る. 博士 (工学). 自然言語処理の研究に従事. 情報処理学会, 人工知能学会, ACL, AAAI 各会員.

$(2015$ 年 5 月 21 日受付 $)$
$(2015$ 年 8 月 6 日再受付 $)$
$(2015$ 年 9 月 5 日採録)

(C) The Association for Natural Language Processing, (Licensed under CC BY 4.0）https://creativecommons.org/licenses/by/4.0/


# 医療用語資源の語彙拡張と診療情報抽出への応用

東山 翔平 $\dagger, \dagger \dagger$ ・関 和広 $\dagger^{\dagger}$ ・上原 邦昭 $\dagger$
}

近年, 医療文書の電子化が進み, 大規模化する医療データから有用な情報を抽出・活用する技術が重要となっている．特に，診療記録中の症状名や診断名などの用語 を自動抽出する技術は, 症例検索などを実現する上で必要不可欠である。機械学習 に基づく用語抽出では, 辞書などの語彙資源の利用が訓練デー夕に含まれない用語 の認識に有効である。しかし, 診療記録では多様な構成語彙の組合せからなる複合語が使用されるため, 単純なマッチングに基づく辞書の利用では検出できない用語 が存在し, 語彙資源利用の効果は限定的となる。そこで，本稿では，語彙資源を有効活用した用語抽出を提案する。資源活用の 1 点目として, 資源中の用語に対して 語彙制限を行うことで，用語抽出に真に有用な語彙の獲得を行う． 2 点目として，資源から複合語の構成語彙である修飾語を獲得し, 元の語彙に加えて獲得した修飾語 を活用することで，テキスト中のより多くの用語を検出する拡張マッチングを行う．検出された用語の情報は機械学習の素性として用いる. NTCIR-10 MedNLP テスト コレクションを用いた抽出実験の結果，単純な語彙資源の利用時と比較して適合率 および再現率の向上を実現し, 本手法の有効性を確認した。また, 肯定・否定など のモダリティ属性の分類を含めた抽出では, 従来手法に対して, 本手法が最も高い 精度を実現した。

キーワード：医療言語処理, 用語抽出, NTCIR-10 MedNLP タスク
## Vocabulary Expansion of Medical Language Resources for Medical Information Extraction

\author{
Shohei Higashiyama ${ }^{\dagger, \dagger \dagger}$, Kazuhiro Seki ${ }^{\dagger \dagger}$ and Kuniaki Uehara ${ }^{\dagger}$
}

With the increasing number of medical documents written in an electronic format, automatic term extraction technologies from unstructured texts have become increasingly important. Particularly, the extraction of medical terms such as complaints and diagnoses from medical records is crucial because they serve as the basis for more application-oriented tasks, including medical case retrieval. For machine-learningbased term extraction, language resources such as lexica and corpora are effective for recognizing expressions that rarely or do not occur in training data. However, the use of lexica by simple word-matching approaches has limited effects because there are compound words that comprise various combinations of constituent terms in medical records. Therefore, this study presents term extraction systems that can exploit language resources by the acquisition and utilization of beneficial terms and

constituents from the resources. Our experimental results on the NTCIR-10 MedNLP test collection, which comprises medical history summaries, show increased precision and recall, indicating the effectiveness of the proposed system. Moreover, compared to existing systems developed for the NTCIR-10 MedNLP task, the proposed system achieved optimum performance for complaint and diagnosis recognition, including the classification of extracted terms into modality attributes.

Key Words: Medical NLP, Term extraction, NTCIR-10 MedNLP task

## 1 はじめに

近年, 電子カルテに代表されるように, 医療文書が電子的に保存されることが増加し, 構造化されていないテキスト形式の医療情報が増大している。大規模な医療データには有用な情報が含まれ，新たな医学的知識の発見や, 類似症例の検索など, 医療従事者の意思決定や診療行為を支援するアプリケーションの実現が期待されている。これらの実現のためには，大量のテキストを自動的に解析する自然言語処理技術の活用が欠かせない. 特に，テキスト中の重要な語句や表現を自動的に認識する技術は, 固有表現抽出や用語抽出と呼ばれ, 情報検索や質問応答, 自動要約など, 自然言語処理の様々なタスクに応用する上で必要不可欠な基盤技術である.

用語抽出を実現する方法として，人手で作成した抽出ルールを用いる方法と，機械学習を用いる方法がある，前者の方法では，新しく出現した用語に対応するために随時ルールの修正や追加を行わなければならず，多大な人的コストがかかる。そのため, 近年では, データの性質を自動的に学習することが可能な機械学習が用いられることが多くなっている.

機械学習に基づく用語抽出では, 抽出すべき語句の情報がアノテーションされた訓練データを用いてモデルの学習を行い，学習したモデルを未知のデータに適用することで，新しいデー 夕から用語の抽出を行う，高精度な抽出を可能とするモデルを学習するには，十分な量の訓練データがあることが望ましい，しかし，診療記録などの医療文書は，医師や患者の個人情報を含むため, 医療機関の外部の人間が入手することは困難である。幸い, 近年は, 研究コミュニティでのデータ共有などを目的とした評価型ワークショップが開催されており (Uzuner, South, Shen, and DuVall 2011; Morita, Kano, Ohkuma, Miyabe, and Aramaki 2013), 匿名化などの処理が施された医療文書データが提供され，小規模なデータは入手可能になっている．とはいえ，依然として，学習に利用できる訓練データの量は限られることが多い.

他方，一般に公開されている医療用語辞書などの語彙資源は豊富にあり，英語の語彙資源では, 生物医学や衛生分野の用語集, シソーラスなどを含む UMLS (Unified Medical Language System $)^{1}$, 日本語の語彙資源では, 広範な生命科学分野の領域の専門用語などからなるライフ
^{1}$ http://www.nlm.nih.gov/research/umls/
}

サイエンス辞書 ${ }^{2}$, 病名, 臨床検査, 看護用語などカテゴリごとの専門用語集を含む MEDIS 標準マスター 3 などが提供されている。辞書などの語彙資源を利用した素性（辞書素性）は，訓練データに少数回しか出現しない用語や，まったく出現しない未知の用語を認識する際の手がかりとして有用であるため, 訓練データの量が少ない場合でも，こうした語彙資源を有効活用することで高精度な抽出を実現できる可能性がある。しかし, 既存の医療用語抽出研究に見られる辞書素性は，テキスト中の語句に対して辞書中の用語と単純にマッチングを行うものに留まっている (Imaichi, Yanase, and Niwa 2013; Laquerre and Malon 2013; Miura, Ohkuma, Masuichi, Shinohara, Aramaki, and Ohe 2013). 診療記録では多様な構成語彙の組合せからなる複合語が使用されるため，単純な検索ではマッチしない用語が存在し，辞書利用の効果は限定的であるといえる。

本研究では，類似症例検索などを実現する上で重要となる症状名や診断名（症状・診断名）を対象とした用語抽出を行う，その際，語彙資源から症状・診断名の構成要素となる語彙を獲得し, 元のコーパスに併せて獲得した語彙を用いることで，より多くの用語にマッチした辞書素性を生成する。そして，生成した辞書素性を機械学習に組み込むことで，語彙資源を有効活用した抽出手法を実現する。また，提案手法の有効性を検証するために，病歴要約からなる NTCIR-10 MedNLP タスク (Morita et al. 2013)のテストコレクションを用いて評価実験を行う.

本稿の構成は以下の通りである。まず，2 章で医療用語を対象とした用語抽出の関連研究について述べ, 3 章で本研究のベースとなる機械学習アルゴリズム linear-chain CRF に基づくシステムを説明する．4 章では, 語彙資源から症状・診断名の構成語彙を獲得する方法と, 獲得した語彙を活用した症状・診断名抽出手法を説明する．5 章で MedNLP テストコレクションを用いた評価実験について述べ，最後に，6章で本稿のまとめを述べる.

## 2 関連研究

テキスト中の特定の語句や表現を抽出する処理を固有表現抽出や用語抽出という。固有表現は，主に人名・地名・組織名などの固有名詞や時間・年齢などの数値表現を指し，固有表現抽出では，これらの固有表現を抽出の対象とすることが多い。一方，用語抽出では特定の分野の専門用語などを対象とする。しかし，対象とする語句を抽出するというタスク自体に違いはないため, 本稿では, 特に両者を区別せず，抽出対象として指定される語句を固有表現と呼ぶ.

## 2.1 医療用語抽出研究

日本語の医療文書を対象に医療用語の抽出や探索を行った研究として, (井上, 永井, 中村,

野村, 大貝 2001 ; 木浪, 池田, 村田, 高山, 武田 2008; 上杉 2007) がある. 井上ら (井上他 2001) は，文章の記述形式に定型性のある医療論文抄録を対象に，パターンマッチングに基づく方法を用いて, 病名（「論文が取り扱っている主病名」）や診療対象症例（「診断，治療の対象とした患者, 症例」）などの事実情報を抽出した，たとえば，病名は「〜症」「〜炎」「〜腫」などの接尾辞の字種的特徴を手がかりに用い, 診療対象症例に対しては, 「対象は〜」「〜を対象とし」のような対象症例と共起しやすい文字列を手がかりに用いて抽出している. なお, 井上らの報告によると, 論文抄録中に含まれる病名や診療対象症例の出現回数は平均 1 回強である. アノテー ションを行った医療論文抄録を用いた抽出実験では，病名や診療対象症例に関して， $90 \%$ 前後の適合率, $80 \%$ から $100 \%$ 近い再現率という高い精度を得ている. しかし, 本稿で対象とする病歴要約では論文抄録と出現の傾向が異なり, 同一文書中に様々な病名が出現することが多いため，井上らのパターンマッチングに基づく手法では抽出精度に限界があると考えられる．

木浪ら (木浪他 2008) は, 専門用語による研究情報検索への応用を目的として, 再現率の向上を優先した看護学用語の抽出手法を提案した. 抽出対象とされた専門用語は, 解剖学用語 (「血小板」,「破骨細胞」など）や看護行為（「止血」,「酸素吸入」など）を含み, 本稿で対象とする症状・診断名よりも広い領域の用語である。特定の品詞を持つ語が連続した場合にそれらの語を連接して抽出するなど, 連接ルールに基づくシステムにより専門用語を抽出した. システムによる抽出を行うフェーズと, 抽出されなかった用語や誤って抽出された用語を人手で分析してルールの修正・追加を行うフェーズを繰り返し, 再現率が向上し, 再現率が低下しない範囲で適合率が向上するようなルール集合を導出している，実験では，専門家によるアノテーションを行った看護学文献を用いて評価し, 再現率約 $80 \%$ という抽出結果を得ている. この手法では, 適用する専門用語の領域が異なる場合, 再び導出手順を踏んでルールを導出し直す必要がある. しかし, 抽出ルール修正の過程が人手による判断に依存しており, 再度ルールを導出する際の人的コストが大きい。また, 適合率が約 $40 \%$ と低く, 適合率を改善するにはルール導出の基準自体も修正する必要が生じる.

上杉 (上杉 2007) は, 医療用語抽出の前処理として, 医療辞書なしで医療コーパス中の用語間の分割位置を探索する研究を行った. 文字列 X, Yの出現確率に対し，XYが同時に出現する確率が十分に低ければ $\mathrm{X} ， \mathrm{Y}$ 間を分割できるとの考えに基づき，コーパスから求めた文字列の出現確率と相互情報量を使用して分割位置を決定している。症例報告論文を用いた実験では，約 740 語に対して $60 \%$ の分割精度4であり, 分割に成功した事例の中には, 複合語が 1 語と認識される場合と複合語の内部でさらに分割される場合がほぼ同等の割合で存在した. 残りの $40 \%$ には, 助詞が付加される, 英字やカタカナ列の途中で分割されるなどの誤りがあるため, 自然言語

文に対する分割精度として十分であるとはいえない。なお，医療用語抽出に応用するには，分割された各単語が医療用語か否かを判定する基準が別途必要となる.

## 2.2 医療言語処理ワークショップと NTCIR-10 MedNLP

近年, 医療文書を対象とした共通タスクを設定し, 研究コミュニティでのデータ共有や, デー 夕処理技術の向上を目的とする参加型ワークショップが開催されている．英語の医療文書を処理の対象としたタスクとしては， 2011 年および 2012 年に NIST が主催する TREC において Medical Records track が設定され，2006 年および 2008 年から 2012 年に渡ってi2b2 NLP チャレンジが開催された. i2b2 NLP チャレンジでは, 診療記録からの情報抽出技術の評価を目的とした共通タスクが実施され, 匿名化のための個人情報 (Uzuner, Luo, and Szolovits 2007), 患者の喫煙状態 (Uzuner, Goldstein, Luo, and Kohane 2008), 医薬品の使用状況 (Uzuner, Solti, and Cadag 2010) や医療上のコンセプト (Uzuner et al. 2011)の抽出が行われた. また, 日本語の医療文書を使用したタスクとして，2013 年には NII が主催する NTCIR において MedNLP タスク (Morita et al. 2013) が設定され, 患者の個人情報や診療情報を対象に情報抽出技術の評価が行われた。

NTCIR-10 MedNLP タスクでは, 医師により書かれた架空の患者の病歴要約からなる日本語のデータセット（MedNLPテストコレクション）が使用された。データから患者の年齢, 日時などの個人情報を抽出する「匿名化タスク」と, 患者の症状や医師の診断などの診療情報（症状・診断名）を抽出する「症状と診断タスク」などが設定された。，症状・診断名には，症状の罹患の肯定, 否定などを表すモダリティ属性が定義されており，モダリティ属性の分類もタスクの一部となっている。なお, 両方のタスクとも, それぞれ個人情報, 診療情報を固有表現とした固有表現抽出とみなせる，夕スク参加者のシステムは，ルールに基づく手法よりも機械学習に基づく手法が多く, 特に, 学習アルゴリズムとして CRF (Conditional Random Fields) (Lafferty, McCallum, and Pereira 2001) の代表的なモデルである linear-chain CRF を用いたシステムが高い性能を発揮した。また, 成績上位のシステムでは, 文中の各単語が辞書中の語とマッチしたか否を表す情報（辞書素性）が共通して用いられており，語彙資源の利用が精度向上に寄与したことがわかる。一方, 匿名化タスクではルールに基づく手法も有効であり, 最高性能を達成したのはルールベースのシステムであった.

Miura ら (Miura et al. 2013) は，固有表現抽出タスクを文字単位の系列ラベリング5として定式化して linear-chain CRF を適用し, 症状と診断タスクで最も高い精度を達成した. 固有表現の抽出を行った後, 抽出した固有表現のモダリティ属性を決定するという 2 段階の方法を使用

している。 MEDIS 標準マスターおよび ICH 国際医薬用語集 6 を語彙資源に用いて辞書素性を与えている.

Laquerre ら (Laquerre and Malon 2013), Imaichi ら (Imaichi et al. 2013) は, ともに単語単位の系列ラベリングとして linear-chain CRF を適用し, 症状と診断タスクでそれぞれ 2 番目, 3 番目の精度を達成している. Laquerre らは，ライフサイエンス辞書と UMLS Metathesaurus を利用し, 辞書素性を導入している。また, 事前知識に基づくヒユーリスティック素性として,「ない」「疑い」などモダリティ属性判別の手がかりとなる表現を素性としている. Imaichi らは, Wikipedia から収集した病名, 器官名などの用語集に基づく辞書素性を導入している.

## 3 Linear-chain CRF に基づく症状・診断名抽出システム

本章では, 症状・診断名の抽出のためにベースとするシステムを説明する. 本研究では, 用語抽出の処理を症状・診断名からなる固有表現を抽出する夕スクとみなし, 系列ラベリングとして定式化する。また, 固有表現の抽出は, 機械学習アルゴリズム linear-chain CRF を用いて行う (以降, 本研究で用いた linear-chain CRF を指す場合, 単に CRF と呼ぶ). さらに, CRFで抽出を行った出力に, 人手で作成したルールを用いて抽出誤り訂正の後処理を行うことで，より誤りの少ない抽出を実現する。

## 3.1 MedNLP「症状と診断タスク」の定義

NTCIR-10 MedNLP (Medical Natural Language Processing) タスク (Morita et al. 2013)は,医療分野における情報抽出技術の評価を目的として実施されたタスクである．診療記録から症状・診断名を抽出する「症状と診断タスク」を含む 3 つのサブタスクが定義された。本研究では，MedNLP タスクで使用されたデータセット（MedNLP テストコレクション）を使用し, 症状と診断タスクと同様の設定で症状・診断名の抽出を行う. 以下, MedNLP テストコレクションおよび症状と診断タスクについてそれぞれ説明する.

## MedNLP テストコレクション

MedNLP テストコレクションは, 医師により書かれた架空の患者の病歴要約 50 文書からなるデータセットであり， 2 対 1 の比率で訓練データとテストデータに分割されている。同テストコレクションには，患者の個人情報および診療情報がアノテーションされている，個人情報は患者の名前, 年齢, 性別と, 日時, 地名, 医療機関名からなり, 診療情報は患者の症状や医師の診断（症状・診断名）を指す。このうち, 症状と診断タスクで対象とされたのは後者の診

療情報である.

症状・診断名には，医師の認識の程度などを表すモダリティ属性が定義されており，それぞれ症状の罹患の肯定, 否定, 推量（可能性の存在）を表す positive, negation, suspicion に加え,症状が患者の家族の病歴として記述されていることを表す familyの 4 種類からなる.

suspicion, family である症状・診断名であるとして, 各モダリティ属性が付与された症状・診断名の例を示す.

(a) $\lceil<\mathrm{n}>$ 糖尿病 $</ \mathrm{n}>$ は認めず」

(b) $\lceil<n>$ 関節症状</n>は改善した」

(c) $\lceil<s>$ 神経疾患 $</ s>0$ 疑いにて」

(d) 「<s>味覚異常</s>の可能性を考え」

(e) 「<n>胆囊炎</n>を疑わせる所見を認めず」

(f) 「母親； $<\mathrm{f}>$ 気管支喘息</f>」

(g) 「父 : $\langle f>$ 狭心症 $</ f>$ 、<f>心筋梗塞</f>」

(h) 「娘 3 人は鼻粘膜の<f>易出血性</f>があり」

negation, suspicion 属性については, (a)～(d) に示すように, 症状・診断名の係り先の文節が特定の表現を含む場合に，その表現に対応するモダリティ属性となることが多い．ただし，(e)のように，直接の係り先が suspicion を示す表現を含んでいても，後方に否定表現が現れることにより negationとなることがある. family 属性の症状・診断名は， (f), (g)のように，続柄名の後に症状・診断名を列挙する形で記述された場合が該当する他, (h)のように, 文全体の主語が続柄である場合も該当する。なお, positive 属性は, negation, suspicionおよび familyであることを示す表現と共起しない症状・診断名に対して付与される属性とみなせる。

表 1 に，訓練データにおける各モダリティ属性の出現回数（“\#”の列）を示す. 出現回数はモダリティ属性の種類により偏りがあり, positive が 7 割程度を占めているのに対し, suspicion, familyは非常に少数となっている.

表 1 訓練データにおけるモダリティ属性の分布

## 症状と診断タスク

症状と診断タスクは, テストコレクションから, 患者に関連する症状・診断名 7 を抽出し, モダリティ属性を決定するタスクとして定義された。評価は，訓練データを用いて開発されたシステムに対して, テストデータでの抽出性能を測ることで行われ, 評価尺度として, $F$ 值 $(\beta=1)$ が使用された。 $F$ 値は, 適合率 (Precision) と再現率 (Recall) の調和平均であり, 次式で定義される。

$
\frac{2 \cdot \text { Presicion } \cdot \text { Recall }}{\text { Precision }+ \text { Recall }}
$

また，評価方法として， モダリティ属性の分類を考慮する評価と，考慮しない評価の 2 通りの方法で評価が行われた. 前者の方法では, 抽出された固有表現が正しい属性に分類されないと正解とならないのに対して, 後者の方法は, 属性が誤っていても, 抽出された固有表現の範囲がアノテーションされた正解情報と一致していれば正解とみなされる.

## 3.2 固有表現抽出タスクの定式化

本研究では, 各モダリティ属性が付与された症状・診断名を異なるカテゴリの固有表現とみなして固有表現抽出を行うことで, 症状・診断名の抽出範囲およびモダリティ属性の決定を行う.固有表現抽出は, 入力文中の固有表現部分を同定する夕スクであり, 系列ラベリングとして定式化されることが多い. 系列ラベリングとは, 入力系列に対してラベルの系列を出力する問題である．固有表現抽出では，トークンの系列である文を入力として，トークンごとに固有表現の種類等を表すラベルを推定し，それらラベルの列を出力する．本研究では，形態素をトークンとする系列ラベリングとして固有表現抽出の定式化を行う.

定式化の際には, 同一の固有表現（チャンク）中の位置を表すためのチャンキング方式として, IOB2 フォーマット (Sang and Veenstra 1999)を使用した. IOB2では, タグはB (Begin), I (Inside), O (Outside)の 3 種類があり, それぞれチャンクの先頭, チャンクの先頭を除く内部, チャンクの外側を表す。なお, 複数のカテゴリの固有表現が存在する場合, B, I はカテゴリ名と併せて使用される。たとえば，「嘔吐／B-c_pos 出現／I-c_pos した／O」のようにラべルを付与することで,「嘔吐出現」が c_pos（肯定のモダリティ属性を持つ症状・診断名）というカテゴリの固有表現であることを表す。なお, 入力文の形態素解析には, linear-chain CRF に基づく日本語形態素解析器である MeCab (Kudo, Yamamoto, and Matsumoto 2004) (Ver. 0.996) およびIPADIC (Ver. 2.7.0)を用いた.

## $3.3 \mathrm{CRF$ による分類}

本システムでは，機械学習アルゴリズムとして linear-chain CRF を用いた. linear-chain CRF は，分類アルゴリズムである最大エントロピー法を出力が構造を有する問題（構造学習）に拡張したモデルである。品詞タギング (Lafferty et al. 2001), 基本名詞句同定 (Sha and Pereira 2003), 形態素解析 (Kudo et al. 2004) など, 構造学習, 特に, 系列ラベリングとして定式化できる自然言語処理の様々な問題に適用され，高い性能が報告されている。また, 固有表現抽出の研究においても広く使用され (McCallum and Wei 2003; Jiang, Chen, Liu, Rosenbloom, Mani, Denny, and Xu 2011), NTCIR-10 MedNLP タスクでも最もよく用いられた (Imaichi et al. 2013; Laquerre and Malon 2013; Miura et al. 2013).

linear-chain CRF の実装としては，C++ で記述されたオープンソースソフトウェアである $\mathrm{CRF}++{ }^{8}$ (Ver. 0.58) を利用した. CRF++は，準ニュートン法の一種である L-BFGS (Limitedmemory BFGS) を使用して数值最適化を行っており, 省メモリで高速な学習を実現している. また，素性テンプレートという素性の記述形式が定義されており，テンプレートを利用することで多様な素性を容易に学習に組み込むことができるという特長がある.

$\mathrm{CRF}++$ の素性テンプレートでは, 出力ラベル系列についての unigram 素性および bigram 素性が利用可能である，出力ラベル unigram 素性は, 入力系列についての任意の情報（系列中の特定のトークンの形態素自体や品詞など）と現在のトークンのラベルの組からなる素性を指し,出力ラベル bigram 素性は，入力系列の任意の情報，現在のトークンのラベルおよび 1 つ前のトークンのラベルの三つ組からなる素性を指す. 本研究では, すべての素性に対して出力ラべル unigram 素性および bigram 素性の両方を使用することとした。たとえば，品詞素性を -2 から 2 までのウィンドウで用いると述べた場合, 注目するトークンの 2 つ前方から 2 つ後方に位置するトークンの品詞について, それぞれで出力ラベル unigram 素性および bigram 素性を使用することを意味する。

なお，指定した値未満の出現回数である素性を学習に使用しないことを意味する素性のカットオフの閥値は 1 とし, 訓練データに出現したすべての素性を使用することにした。また, 正則化には $L 2$ 正則化を用いた。

## 3.4 抽出に用いる素性

本システムでは, 症状・診断名抽出のための素性として, 「形態素」,「形態素基本形」,「品詞」,「品詞細分類」,「字種」,「辞書マッチング情報」,「モダリティ表現」の 7 種類の情報を用いた.注目するトークンを起点にどこまでの範囲のトークンの情報を素性に用いるかを表すウィンドウサイズについては，モダリティ素性を除き，5 章で述べる実験により最適な値を決定する。モ

ダリティ素性のウィンドウサイズについては後述する.

## 形態素, 基本形, 品詞, 品詞細分類素性

形態素素性はトークン自体であり，基本形，品詞，品詞細分類素性は，それぞれ各形態素の基本形, 品詞, 品詞細分類である. たとえば，「言っ」の基本形は「言う」，「速く」の基本形は 「速い」となる. 品詞は, 名詞, 動詞, 形容詞, 接続詞など 10 数種類存在し, 品詞細分類は, 名詞であれば「固有名詞」,「形容動詞語幹」などがある. これら四つの素性には, 形態素解析器 $\mathrm{MeCab}$ の出力を利用した ${ }^{9}$. なお, MeCabではデフォルトの辞書として IPADIC が採用されており, IPADICで使用されている品詞および品詞細分類は, IPA 品詞体系として定義されている.

## 字種素性

字種素性は，トークンを構成する文字の字種パターンを表す。本研究では, ひらがな, カ夕カナ, 漢字, 英大文字, 英小文字, ギリシャ文字, 数値, 記号とこれらの組合せからなる字種パターンを定義した，たとえば，「レントゲン」は「カタカナ」，「考え」は「ひらがな＋漢字」, $\lceil M R I 」$ I英大文字」が字種パターンとなる，なお，「ひらがな＋漢字」では，1つのトー クン中にひらがなと漢字が出現していればこのパターンに相当するものとし, 各文字の出現順は無視した. 複数字種の組合せからなるパターンの扱いは, 他のパターンについても同様である.

## 辞書素性

辞書素性は，専門用語辞書など外部の語彙資源を利用した素性であり，入力文中の形態素列が辞書中の語句と一致したか否かという情報を表す。本研究では, 症状・診断名の抽出のために病名等の用語から構成される辞書を使用し, 入力文中のトークン列で, 辞書中の語句とマッチした部分にIOB2 フォーマットに基づくタグを付与した. たとえば，「腎機能障害」という語句が辞書中に含まれる場合，「腎／機能／障害／の／増悪」と分割された形態素列に対して「B ／I／I／O／O」というタグが付与される。なお, 辞書マッチは文字数についての最左最長一致で判定し, マッチした範囲の境界が形態素の内部にある場合, マッチ範囲に完全に包含される形態素に対してのみタグを付与した。

## モダリティ素性

モダリティ素性は, 症状・診断名のモダリティ属性を示す表現（モダリティ表現）を捉えるための素性である。モダリティ表現の具体例として，先行する症状・診断名のモダリティが negation であることを示す「〜なし」や「〜を認めず」, 同様に suspicion であることを示す「〜疑い」や 「〜を考え」などがある。また，「母」「息子」など続柄を表す表現は，共起する症状・診断名のモダリティ属性が family であることを示すモダリティ表現であるといえる.

本素性では, negation, suspicion および family 属性を対象に，モダリティ属性推定の手がかりとなる表現を正規表現で記述し, 文中の各トークンについて, 最左最長一致で正規表現とマッチした範囲の端に位置するトークンまでの距離（形態素数）と，マッチした表現が表すモダリティ属性を示すタグを付与した. なお, positive 属性は, negation, suspicion および family であることを示す表現と共起しない症状・診断名に対して付与される属性とみなせるため, これらのモダリティ表現が周辺に存在しないことが positive 属性と推定するための手がかりとなる.

例として, negationのモダリティ表現を捉える正規表現の 1 つとして次の (a)を使用してい $る^{10}$.

この正規表現を用いると，「運動／麻痺／は／み／られ／ず」という入力に対して「はみられず」という部分がマッチし, マッチした範囲の先頭トークン「は」までの距離は,「麻痺」で 1 ,「運動」で 2 となる. negation と suspicionのモダリティ表現は症状・診断名の右側に出現するため，モダリティ表現が右側に出現しているトークンにのみ，出現を示すタグを付与した．反対に, familyの表現は「母：脳梗塞」のように左側に出現するため, モダリティ表現が左側に出現しているトークンにのみタグを付与した.

なお, negationの正規表現は上述の（a）を含む 4 件, suspicionの正規表現は以下の (b)を含む 2 件, familyの正規表現は以下の (c) 1 件を使用した ${ }^{11}$.モダリティ素性として使用した正規表現の全リストは付録 Aに記載する.

(b) の?(疑い|うたがい)

(c) [祖伯叔]?[父母](?) 親?|お [じば]|[兄弟姉妹娘]| 息子 |従 (兄弟 | 姉妹)

また，過学習を抑制する目的で，モダリティ属性ごとに距離のグループ化を行った. negation と suspicion では, 距離 1 2 (近くに出現), 3〜4 (やや近くに出現), 5〜8 (やや遠くに出現), 9〜 12 (遠くに出現) の 4 通りの距離を考慮し, familyでは $-\infty \sim-13,-12 \sim-9,-8 \sim-5,-4 \sim-1$ の 4 通りとした。なお, 距離は, 注目するトークンの右側にモダリティ表現が出現している場合
 X_{2} \ldots X_{N}\right]$ ” は $X_{1}, X_{2}, \ldots, X_{N}$ のいずれかとの一致, “()” はパ夕ーンのグループ化, “?”は直前のパターンの 0 または 1 回の出現を表す.

11 “[父母]” に後続する“(?)”というパターンは, 医療用語である「母指」や「母趾」とのマッチを防ぐために用いた。
}

に正数, 左側に出現している場合に負数で表しており, 距離の絶対値は, 注目するトークンから同一文中の任意のモダリティ表現（正規表現とマッチしたトークン列）内の最も近いトークン

のモダリティ素性の定義に基づくと，前述の例に対しては，「運動」および「麻痺」に“neg1_2”, それ以外のトークンにモダリティ表現の非出現を表すタグ“O”が付与される。

なお，モダリティ素性として付与したタグは，注目しているトークンの夕グのみ学習・推定に用いた（つまり，ウィンドウサイズを 1 とした），トークンに付与される素性タグにより，トー クンの周辺文脈の情報が表現されており，実質的に 12 以上先のトークンまで考慮していることになる。

## 3.5 抽出誤り訂正のための後処理ルール

著者らは，NTCIR-10 MedNLP タスクに参加し，構造化パーセプトロン (Collins 2002)および linear-chain CRF に基づく固有表現抽出システムを開発してきた (Higashiyama, Seki, and Uehara 2013a, 2013b). 開発したシステムについてエラー分析を行ったところ，観測された誤りの中で，モダリティ属性の分類誤りが大きな割合を占めることがわかった。この種の誤りは単純なルールで修正できるため，モダリティ属性の分類誤りに焦点を当て，誤り訂正のためのルールを作成することにした。観測されたモダリティ属性分類誤りは，さらに次の 2 通りに大別できたため，それぞれの誤りに対応する訂正ルールとして，2 つのルールを作成した.
- 固有表現の周辺に（非 positive 属性の）モダリティ表現が存在し，かつ推定された属性が同表現が表す属性と異なっている（主に positive となっている）誤り
- 固有表現の周辺にモダリティ表現が存在せず，かつ推定された属性が positive 以外となっている誤り

作成した 2 つのルールを以下に示す。“ [] ”の外側（左側）に negation および suspicion 属性に対する条件，“［］”の内側に family 属性に対する条件を記述した．正しい推定に対して修正ルールを適用してしまうことを防ぐため, 後述する $d_{1}$ および $d_{2}$ の值は, $d_{1}=2, d_{2}=8$ として, ルールの適用基準を厳しく設定した。ただし，family 属性のモダリティ表現が出現する文中の症状・診断名が患者の家族に対する言及でないというケースは極めて少ないとの考えの下， family に対する距離は $d_{1}=d_{2}=\infty$, つまり, 該当位置から到達可能な同一文内の最大トークン数とした。

## モダリティ属性分類誤り修正のためのルール

（1）固有表現 $e$ の末尾 [先頭］のトークンから右 [左］方向に距離（トークン数） $d_{1}$ 以内に （非 positive 属性の）モダリティ表現 $m$ が存在する場合， $e$ の推定ラベルのモダリティ属性を表現 $m$ が表す属性 $a$ に更新する.
* 距離 $d_{1}$ 以内に複数のモダリティ表現が存在する場合は, family, negation, suspicion の順に優先する.

(2) 固有表現 $e$ の末尾 [先頭 $]$ のトークンから右 [左 $]$ 方向に距離 $d_{2}$ 以内にモダリティ表現が存在しない場合，推定ラベルの属性を positive に更新する。

なお，上記のルールを導入することは，固有表現 $e$ から $e$ の最も近くのモダリティ表現までの距離 $d$ を，(a) 近い $\left(d \leq d_{1}\right)$, (b) 中程度の距離である $\left(d_{1}<d \leq d_{2}\right)$, (c) 遠い，あるいはモダリティ表現が存在しない $\left(d>d_{2}\right)$ の 3 通りに分け, 距離 $d$ に応じてモダリティ属性決定の挙動を変えていることに対応する。ルールが適用される (a) および (c)のの条件下では, CRF で推定されたモダリティ属性をルールで上書きしているため，ルールによりモダリティ属性を決定しているのと等価である。一方, 固有表現から中程度の距離までの範囲内にモダリティ表現が存在する (b)の場合には, CRFによる推定結果をそのまま採用し， モダリティ属性の決定を学習の結果に委ねた。

## 4 医療用語資源の語彙拡張と症状・診断名抽出への利用

用語抽出への語彙資源の利用は，訓練データに少数回しか出現しない用語やまったく出現しない用語の認識に有効であり, 医療用語辞書などの語彙資源を用いた医療用語抽出研究が行われている (Imaichi et al. 2013; Laquerre and Malon 2013; Miura et al. 2013). しかし, 診療記録では症状・診断名として多様な複合語が使用されるため, テキスト中の語句に対して辞書中の用語と単純にマッチングを行うだけではマッチしない複合語が存在し, 辞書利用の効果は限定的となる。そこで, 本章では, 語彙資源中の複合語から構成語彙を獲得する方法と, 構成語彙を組み合わせてより多くの複合語にマッチする拡張マッチングの方法を述べ，これらの方法に基づく語彙資源を活用した症状・診断名の抽出手法を提案する.

## 4.1 基本的な考え：医療用語の構成語彙への分解

症状・診断名は, 複数の医療用語から構成される複合語であることが多い. たとえば, 「水痘肺炎」という用語は「水痘」と「肺炎」から構成され，「甲状腺出血」は「甲状腺」と「出血」 から構成される。診療記録では, 多様な構成語彙を組み合わせた複合語が用いられる一方で,実際に用いられる複合語の中には辞書中には含まれないものも多い. 例として,「水痘感染」と 「甲状腺腫大」は，診療記録コーパス MedNLP テストコレクション中で用いられ，医療用語辞書 MEDIS 病名マスター中に存在しなかった症状・診断名である。ただし，上述の用語の各構成語彙に注目すると, 「水痘」,「感染」,「甲状腺」,「腫大」を構成語彙として含む用語は同辞書中に多数存在した（表 2）。

したがって, 症状・診断名の抽出に, 既存の辞書中に含まれる用語をそのまま用いて対応す
表 2 複合語「水痘感染」,「甲状腺腫大」の構成語彙と, MEDIS 病名マスターにおける各構成語彙からなる複合語数

るには限界があるといえる。また, 症状・診断名としてありうる構成語彙の組合せは膨大な数に上ると考えられ，それらを網羅的に含むような辞書を構築することも現実的ではない。一方で，症状・診断名の構成語彙となる語の多くは，辞書中の用語の部分文字列として辞書に含まれている可能性が高い.

そこで, 本研究では, 既存の医療用語資源から症状・診断名の構成語彙となる語句を獲得し,得られた構成語彙を組み合わせた柔軟なマッチング方法「拡張マッチング」に基づく症状・診断名の抽出手法を提案する。なお, マッチした結果は, 機械学習の素性（辞書素性）として用いる。語彙資源を活用した拡張マッチングによって, 辞書素性タグが付与される語句が増加し,元の辞書に含まれない語彙にも対応した抽出が可能になると考えられる.

## 4.2 主要語辞書と修飾語辞書に基づく拡張マッチング

症状・診断名の構成語彙の獲得にあたり, 構成語彙には, 単独で症状・診断名として用いられる「主要語」と, 主要語と隣接して現れたときにのみ症状・診断名の一部となる「修飾語」の 2 種類が存在すると仮定する． 4.1 節で述べた例では, 「水痘」, 「感染」,「腫大」が主要語に相当し, 「甲状腺」が修飾語となる.「水痘感染」や「甲状腺腫大」のように, 構成語彙に分解される前の元の用語自体も主要語とみなす. 主要語と修飾語の具体的な獲得方法は次節以降で後述することにし，本節では，主要語辞書と修飾語辞書の 2 種類の辞書を用いた症状・診断名のマッチング方法「拡張マッチング」を説明する.

以下，「消化管覀性腫瘍の…」という入力文が与えられた場合を例に，拡張マッチングの手順を述べる。主要語辞書には「消化管障害」，「腫瘍」，「悪性腫瘍」が含まれ，修飾語辞書には 「消化管」,「悪性」が含まれているものとする.

## 拡張マッチングの処理

入力文を文字の列とみなし, 主要語辞書中にマッチする文字列がないか検索する処理を先頭の文字から末尾の文字まで繰り返し行う. 例の入力文に対しては, 次のようにマッチング範囲の探索が行われる.

図 1 入力文「消化管覀性腫瘍の…」に対する拡張マッチングの処理

（1）入力文 1 文字目の「消」を読み込み，主要語辞書の検索を行う（図 1, a1）「消化管悪」 まで検索した時点で主要語が存在しないことが判明するため (a2), 主要語検索を終了して2文字目以降について検索を続ける。
* 2 文字目「化」および 3 文字目「管」の検索においてマッチする主要語はない.

（2）４文字目の「悪」を読み込み，主要語辞書の検索を行う（b1），検索した結果，「悪性腫瘍」 が主要語辞書とマッチする (b2).

（3）続いて，マッチした範囲「悪性腫瘍」の左右両側について, 修飾語辞書中にマッチする文字列がないか検索する，検索した結果，元の範囲の左側の「消化管」が修飾語辞書とマッチする (b3).

（4）マッチした範囲を「消化管覀性腫瘍」に拡張し, 引き続き, 拡張された範囲のさらに左側について, 修飾語辞書を検索する。しかし, これ以上マッチする語はないため, 「消化管墨性腫瘍」をマッチした範囲として記憶し, 入力文 5 文字目以降について検索を続ける。
* 5 文字目「性」の検索においてマッチする主要語はない.

（5）６文字目の「腫」を読み込み (c1), 同様の処理を行った結果, 主要語辞書で「腫瘍」(c2) , 修飾語辞書で「悪性」および「消化管」がマッチし (c3, c4),「消化管悪性腫瘍」をマッチした範囲として記憶する. 入力文 7 文字目以降の文字についても同様に検索を続ける.
* 7 文字目以降の検索においてマッチする主要語はなかったものとし, 入力文に対する検索の処理を終了する。

上述の辞書探索処理の結果, 例では「消化管悪性腫瘍」がマッチした範囲として（二重に）得られる。複数のマッチング範囲が得られ, 得られた範囲間に重なりがある場合は, 範囲内の文字数が最も多いものを残し, 残りを破棄する. 例では, 得られた 2 つの範囲が同一であるため,残される範囲も元の範囲と同じものとなる.
以上が拡張マッチングの処理である。最終的に得られたマッチング範囲には辞書素性タグを付与し，機械学習の素性として利用する。

## 4.3 主要語辞書の利用と語彙制限

本研究では, 主要語辞書として, MEDIS 病名マスター (Ver. 3.11) と, MedNLP テストコレクション (Morita et al. 2013)の訓練データを利用する. MEDIS 病名マスター（ICD10 対応標準病名マスター）は，一般財団法人医療情報システム開発センターにより提供されている病名辞書である。病態毎に選ばれた代表病名を表す「病名表記」に加え, 病名表記の読み, ICD10 コードなどから構成され, 本研究で利用したVer. 3.11 では, 24,292 語が収載されている. 同辞書に含まれる病名表記を抽出し, 主要語辞書として用いる. MedNLP テストコレクションは, NTCIR-10 MedNLP タスクで提供された模擬患者の病歴要約からなるコーパスである。同コー パスの訓練データからアノテーションされた症状・診断名部分を抽出し, 主要語辞書 MedNE (延べ語数 1,922 , 異なり語数 1,068 ) として用いる.

ただし, 主要語辞書をそのまま用いると, 一部の語が用語抽出の学習に悪影響を与える場合がある，たとえば，細菌性皮䖒感染症の一種である「よう」(癱) は，「〜するようになった」などの表現にマッチしてしまう．また，「喫煙歴」という表現に含まれる「喫煙」は，必ずしも患者の喫煙を表す言及ではないため症状・診断名に該当しない. このように, 症状・診断名と無関係の表現とマッチする用語や, 高頻度で非症状・診断名としても使用される用語を辞書が含んでいる場合，学習を阻害する要因となる。そこで，MedNLP 訓練データを使用し，高い割合で症状・診断名とマッチする用語を取得する処理を行う，以下，各主要語辞書に対する語彙制限の方法を述べる。なお, 後述の閥値 $n_{\text {out }}, r_{\text {out }}, n_{\text {in }}$ および $r_{\mathrm{in}}$ は, 5 章で述べる実験により決定する。

## MEDIS 病名マスターの語彙制限

辞書に含まれる各用語について, MedNLP 訓練データ中で固有表現範囲（症状・診断名としてアノテーションされた範囲）の内部および外部に出現した回数をそれぞれカウントし，次の 2 つの基準を満たす用語を主要語として許容する.
- 固有表現範囲の外部における出現回数が $n_{\text {out }}$ 未満である.
- 訓練データ中に 1 回以上出現している場合は, 固有表現範囲の内部と外部の両方の出現に対し，外部に出現した割合が $r_{\text {out }}$ 未満である.

## MedNE の語彙制限

辞書に含まれる各用語について, MedNLP 訓練データ中で固有表現範囲の内部および外部に出現した回数をそれぞれカウントし，次の 2 つの基準を満たす用語を主要語として許容する.
- 固有表現範囲の内部における出現回数が $n_{\text {in }}$ 以上である.
- 固有表現範囲の内部と外部の両方の出現に対し, 内部に出現した割合が $r_{\text {in }}$ 以上である.

## 4.4 医療用語資源からの修飾語の獲得

4.1 節で述べたように，主要語に含まれる部分文字列の中には有用な修飾語が多く含まれるという考えに基づき, 主要語から部分文字列を切り出すことで修飾語を獲得する. 修飾語の獲得には，主要語の取得と同様に MEDIS 病名マスターと MedNE を用いる。なお，MEDIS 病名マスターの関連リソースとして提供されている「修飾語テーブル」は, 本研究では使用しない.

修飾語は，主要語辞書でマッチした範囲を拡張する際にのみ用いるため, 意味をなさない非語が含まれていても，実際にテキスト中で主要語と隣接して現れなければ学習・抽出に影響を与えない，たたし， MEDIS 病名マスターには動詞や助詞，記号などを含む用語（「1 型糖尿病・関節合併症あり」,「アヘン類使用による急性精神・行動障害」など）が存在するため, 切り出された部分文字列が助詞などの表現を含んでいると, 症状・診断名でない範囲にまで拡張してしまう可能性がある.

そこで，部分文字列を切り出すことにより機械的に修飾語候補を抽出した後, 意味をなさないと考えられる候補と, 過大な拡張を行う可能性のある有害な候補を除去するという手順により修飾語の獲得を行う。なお, 有害な候補の除去には, 主にひらがなから構成される語 40 語程度の「ひらがな表現」リストを作成し, 使用した。同リストは, 助詞 (「が」や「より」), 接続詞 (「または」や「かつ」), 動詞・助動詞の組合せ（「ならない」）などひらがなのみから構成される表現の他，一部，「著しい」など漢字を構成要素に持つ表現も含む.「ひらがな表現」の全リストは付録 B に記載する。

## 修飾語獲得の手順

修飾語取得の対象とする用語集合 $T$ から修飾語集合 $S$ を生成する手順を以下に示す. 切り出す部分文字列の最小の長さは 2 で固定し, 修飾語として許容する部分文字列の最小出現回数を $f_{\min }$ とした， $f_{\min }$ の値は, 主要語の語彙制限と同様に， 5 章で述べる実験により決定する.

(1) 修飾語候補の抽出

(a) 各用語 $t \in T$ について, $t$ の先頭および末尾から, 長さ 2 から $t$ の文字列長までの部分文字列を切り出す. 切り出した部分文字列は, 修飾語候補集合 $S_{\text {cand }}$ に追加する.

＊たとえば, $t=$ “医療用語”の場合, “医療”, “医療用”, “医療用語”, “用語”, “療用語”が切り出される。

（b）各修飾語候補 $s \in S_{\text {cand }}$ について， $s$ を部分文字列として含む $T$ の用語全体の集合を求める.これを， $s$ の出現元集合 $\operatorname{Parent}(s)$ とする.

＊たとえば, $s=$ “用語” の場合, $\operatorname{Parent}(s)=\{$ “用語”, “医療用語”, “専門用語”, “用語抽出”\}などが得られると考えられる。

（2）修飾語候補の限定（有害な語の除去）

(a) $s \in S_{\text {cand }}$ のうち，数字および「\%」記号のみからなる語を除去対象候補集合 $S_{\text {reject }}$ に追加する。

(b) $s \in S_{\text {cand }}$ のうち，先頭または末尾が「-」（ハイフン）以外の記号か空白である語を $S_{\text {reject }}$ に追加する。

(c) $s \in S_{\text {cand }}$ のうち，先頭または末尾の文字が 1 字からなる「ひらがな表現」に一致し，一致した文字と隣接する文字がひらがな以外である ${ }^{12}$ 語を $S_{\text {reject }}$ に追加する.

(d) $s \in S_{\text {cand }}$ のうち, 先頭または末尾から始まる範囲が 2 字以上からなる「ひらがな表現」の組合せに一致した語を $S_{\text {reject }}$ に追加する.

(3) 修飾語候補の限定（有益でない語の除去）

(a) $s \in S_{\text {cand }}$ のうち, $T$ 内での部分文字列としての出現回数が $f_{\min }$ 回未満 $(|\operatorname{Parent}(s)|<$ $f_{\text {min }}$ )である $s$ を $S_{\text {reject }}$ に追加する.

(b) 任意の $s_{1}, s_{2} \in S_{\text {cand }}\left(s_{1} \neq s_{2}\right)$ について, 出現元集合が等しい場合, $s_{1}$ と $s_{2}$ のうちの長さが小さい方を $S_{\text {reject }}$ に追加する.
* たとえば, Parent(“群”) $=\operatorname{Parent}($ “症候群”) $=\{$ 症候群,かぜ症候群 $\}$ である場合, “群”が $S_{\text {reject }}$ に追加される。

(4) 修飾語候補の決定
- $S_{\text {cand }}$ から $S_{\text {reject }}$ の元を除いた集合 $S=S_{\text {cand }} \backslash S_{\text {reject }}$ が求める修飾語集合である.

## 5 評価実験

本研究で開発した用語抽出システムの性能を評価するため，MedNLP テストコレクションを用いて評価を行った。次節以降で, 基本素性（形態素, 品詞, 品詞細分類, 字種, 基本形）の評価, モダリティ素性の評価, 主要語語彙制限および拡張マッチングの有効性の評価を行う。さらに，すべての素性に加えて後処理ルールを適用した提案システム全体の性能を評価し, MedNLP タスクの参加システムである従来手法との比較を行う.

## 5.1 実験設定

実験に使用した MedNLP テストコレクションは, 病歴要約 50 文書からなり, 全デー夕の 3 分の 2 にあたる 2,244 文が訓練デー夕, 残りの 1,121 文が評価用のテストデータとなっている.

訓練データにアノテーションされた情報は, 患者の個人情報と診療情報である。本研究では, これらのうち，患者の症状と医師の診断を指す診療情報（症状・診断名）を対象とする．各症状・診断名には医師の認識の程度などを表すモダリティ属性が定義されており，それぞれ症状の罹患の肯定, 否定, 可能性の存在を表す positive, negation, suspicion に加え, 症状が患者の家族の病歴として記述されていることを表す familyの 4 種類からなる. 各モダリティ属性が付与された症状・診断名を異なるカテゴリの固有表現とみなして学習を行うことで，モダリティ属性の分類を含めた抽出を行う。

評価は，MedNLP タスクで行われたのと同様に，モダリティ属性を考慮する方法と，考慮しない方法の 2 通りで行う，前者は，抽出された固有表現が正しい属性に分類された場合にのみ正解とみなす評価であり, 後者は, 属性が誤っていても, 抽出された固有表現の範囲がアノテー ションされた正解情報と一致していれば正解とみなす評価である。それぞれの評価方法について，適合率，再現率， $F$ 値を評価尺度として用いる.

CRF で学習を行う際に必要となる正則化のためのハイパーパラメータ $c$ については, 訓練データでの 5 分割交差検定により値を決定した。テストデータに対する抽出を行うまでの具体的な手順は以下の通りである.
1. $c$ の値を変化させながら, 各 $c$ の値について訓練データで 5 分割交差検定を行い, 5 回の検定における各精度（適合率，再現率， $F$ 値）の平均をそれぞれ算出する。
2. $c$ の值の中で, 最も $F$ 値が高い結果となったものを最適値とする.

3. 得られた $c$ の最適値を用いて, 訓練データ全体で学習を行い, モデルを学習する。続い

て，学習で得られたモデルを用いてテストデータで抽出を行う.

なお, 主要語の語彙制限および修飾語獲得の際の閾値については, 次のように決定した. MEDIS 病名マスターの語彙制限では, $n_{\text {out }} \in\{3,5,8\}, r_{\text {out }} \in\{0.5,0.7,0.9\}$ の各組について，ハイパー パラメータ $c$ の值を変えながら，それぞれ訓練データで交差検定を行い，最も $F$ 值が高かった $n_{\text {out }}, r_{\text {out }}, c$ の値の組合せを最適値としてテストデータでの評価に用いた. MedNE の語彙制限については $n_{\text {in }} \in\{3,5,8\}, \quad r_{\text {in }} \in\{0.5,0.7,0.9\}$ とし, MEDIS および MedNE からの修飾語獲得については $f_{\min } \in\{1,2,3,5,8,10\}$ として, 同様に最適値を決定した. その結果, $n_{\text {out }}=n_{\mathrm{in}}=3$, $r_{\text {out }}=0.7, r_{\text {in }}=0.5, f_{\text {min }}=3$ (MEDIS),$f_{\text {min }}=3$ (MedNE) が最適値として得られた.

また, 素性のウィンドウサイズについては, 基本素性（形態素, 品詞, 品詞細分類, 字種, 基本形）を素性セットとしたモデルを用いて次のように決定した。サイズは各素性について共通の値を使用することにし，候補を 3 （-1 から 1)，5（-2 から 2), 7 （-3 から 3 ），9（-4 から 4) の 4 通りとした。続いて，サイズおよびハイパーパラメータ $c$ の値を変えながら，訓練データで交差検定を行ったところ, サイズ 5 において最大の $F$ 値が得られ，この値を最適値とした。次節以降，サイズ 1 で固定しているモダリティ素性を除き，すべての素性に関してサイズ 5 として実験を行った結果を報告する。

## 5.2 基本素性の有効性の評価

形態素, 品詞, 品詞細分類, 字種, 基本形からなる素性セットを基本素性とし, これら5つの素性の有効性の評価を行った。各素性に対するテストデータでの精度を表 3 に示す。表中の “P", “R”，“F”はそれぞれ適合率，再現率， $F$ 值を意味し，“2-way”はモダリティ属性を考慮しない場合の精度, “Total”は考慮した場合の精度を表す。なお, 表には, 各素性セットに対して 30 回行った試行の平均精度を記載した．次節以降の実験結果についても同様である．直前の行中の素性セットを用いた場合との差について両側 $t$ 検定を行い, 有意水準 $1 \%$ \%有意であった場合に“ネ”を付した。

品詞素性の導入により, 2-way, Total の両評価で, 適合率が 4 ポイント前後向上し, 再現率が 1.5２ ポイント程度向上した. 訓練データでは 13 , 名詞, 接頭詞であるトークンのうちのそれぞれ $20 \%$ 弱, $30 \%$ 弱が固有表現（を構成するトークン）であり，残りの品詞については，いずれも $97 \%$ 以上が非固有表現であった. したがって, 品詞が名詞または接頭詞であることが固有表現である可能性を示す手がかりとなり, その他の品詞であることが固有表現でないことを示すほとんど確実な手がかりとなったと考えられる.

品詞細分類素性の導入では, 両評価とも多少の適合率の低下が見られたものの, それを上回る 2.5 ポイント前後の再現率の向上が得られた. 名詞の細分類全体の約 $30 \%$ に相当する「数」では, その $99 \%$ 以上が非固有表現であり, 合わせて名詞の約 $50 \%$ に相当する「一般」,「サ変接続」,「接尾・一般」は，各 $20 \sim 40 \%$ 固有表現が占めた. したがって，名詞の中のどの細分類であるかという情報が精度向上に寄与したと考えられる。

字種素性の導入による主な変化として, 2-way, Total での適合率がそれぞれ 0.3 ポイント程度向上した. 固有表現が大きな割合を占めた字種は, 「漢字」と「カタカナ」で, それぞれ $30 \%$ 強, $20 \%$ 強の割合であった。たた，接頭詞および名詞／接尾・一般の $100 \%$ 近い割合を「漢字」が占

表 3 基本素性の評価

結果への考察を行った。したがって，本節以降で述べる各素性における固有表現，非固有表現等の割合は，いずれも訓練データで算出した数値である。
}

めるなど, 品詞や品詞細分類素性と重複している情報も多い. 名詞／一般, 名詞／サ変接続のそれぞれ $85 \%$ 程度が「漢字」と「カタカナ」となっており, 字種素性がこれらの品詞細分類を詳細化する役割を果たしたと考えられる。

基本形素性の導入の結果, 主に Total での適合率, 再現率が向上した.「ない」「なかった」など表層が異なるモダリティ表現を基本形で同一視することで, モダリティ属性を考慮した評価の結果が向上したと考えられる.

## 5.3 モダリティ素性の有効性の評価

モダリティ素性の有効性を評価するため, 基本素性のみを用いたシステム（Basic；表 3 の最下行と同一のシステム) と, 基本素性に加えてモダリティ素性を用いたシステム (Basic+ Modality) の精度の比較を行った。テストデータにおける各モダリティ属性および全体の精度を表 4 に示す.なお, モダリティ属性とは, 症状・診断名に付加されているモダリティの種類（positive, negation 等）を指し，モダリティ素性は，モダリティ属性を捉えるために用いた素性を指す. Basic と Basic + Modality との差について両側 $t$ 検定を行い, 有意水準 $1 \%$ で有意であった場合に“”を付した。

各属性における適合率と再現率は, negation と suspicionの適合率を除いて, モダリティ素性導入後の方が同等か高いという結果が得られた. 属性全体 (“All (total)”) で見ても各精度は向上しており，本素性が正確なモダリティ属性の認識に寄与したといえる。なお，本素性の導入前, 後ともに，他の属性に比べて suspicion 属性の精度が低いのは，データのアノテーション誤りに起因すると考えられる．著者らが訓練データを確認したところ，「疑い」などの表現が後続する固有表現で, suspicion という属性が付与されていない（positive となっている）事例が十数件存在し, suspicion の事例全体の十数パーセントという少なくない割合を占めていた.

一方，モダリティ属性を考慮しない 2-wayの評価では，適合率が 1 ポイント弱低下した。「〜 がない」などの表現は固有表現でない語句の後方にも出現するため, 非固有表現を誤って固有表現と認識してしまうケースが増加し, 適合率低下の原因となったと考えられる.

表 4 モダリティ素性の評価

## 5.4 主要語辞書および修飾語辞書利用の有効性の評価

主要語語彙制限および拡張マッチングの有効性を評価するため, 基本素性のみのシステム (Basic) と, 基本素性に加えて各種辞書に基づく辞書素性を用いたシステムの比較を行った。結果を表 5 にまとめる。最左列は利用した辞書を示しており，“ $\operatorname{main}(X)$ ” は辞書 $X$ を主要語辞書として使用したことを, “山 $\operatorname{modify}(X)$ ” は辞書 $X$ を修飾語辞書として拡張マッチングを行ったことを意味する。辞書 $X$ に対して, 4.3 節の方法による語彙制限を行っていないものを “ $X-\mathrm{r}$ ” (raw),行ったものを“ $X$-f” (filtered) で表し，辞書 $X$ から獲得した修飾語集合を“ $X$-s” (substring) で表した。また， “ $X \cup Y$ ”で 2 つの辞書 $X, Y$ を統合した辞書を表した. 数値右上のシンボルは両側 $t$ 検定によって有意水準 $1 \%$ で有意差があった場合に付しており，“十”が (a) と (b) または (c) との比較, “†" が (b) と (d) との比較, “大”が (c) と (e) との比較, “§”が (e)と (f) または $(\mathrm{g})$ との比較の結果を示している.

まず，語彙制限を行っていない辞書を単純に利用した場合, MEDIS 病名マスター（表中の MDM ; MEDIS Disease Name Master）に基づく辞書素性を導入した (b)で，2-way の評価において適合率・再現率が $0.7 \sim 1.5$ ポイント程度向上し, その結果, $F$ 值が約 1.1 ポイント向上した. Totalにおいても $F$ 值が向上したものの，2-wayよりは効果が小さく，認識された症状・診断名の中にモダリティ属性の分類に誤ったものが含まれることが示唆される。なお， 2-way と Total のいずれの場合も， $F$ 值の向上は統計的に有意であった. 一方, MedNE（表中の MNE） を追加した場合 (c)では，再現率が大きく低下した，訓練データでの交差検定では $96 \%$ 超える $F$ 値となっており，正解ラベルとほぼ一致する辞書素性に基づく過学習が起こり，他の素性の情報が学習されなかった可能性が高い.

上記のような問題を避けるため，次に語彙制限を行った主要語辞書を使用した，結果を見ると，MEDISのみの (d) では全体的に $F$ 值がわずかに低下した。これは， MEDIS 病名マスター から獲得した主要語については語彙制限の必要性が薄いことを示している。一方, MEDISに加えて MedNEにも語彙制限を加えた (e)では, 語彙制限を加えない (c)に比べて適合率, 再現率,

表 5 辞書素性の評価

$F$ 値とも大幅に向上した。モダリティ属性まで考慮した Total では (b) よりもわずかに精度が低いものの，モダリティ属性を考慮しない2-wayの評価では, これまでの設定で最も良い結果が得られた。

最後に，語彙制限を加えた主要語辞書 (e) に加えてさらに拡張マッチングを適用した。その結果, MEDIS から獲得した修飾語辞書のみを使用した (f) で約 $0.5 \sim 0.6$ ポイント, MedNE から獲得した修飾語辞書を併せて使用した $(\mathrm{g})$ で約 $0.6 \sim 0.7$ ポイントの $F$ 值の向上が見られ，修飾語辞書の導入・語彙増加にともない, わずかながらも着実な認識精度の向上が得られた.

## 5.5 システム全体の性能および従来手法との比較

基本素性，辞書素性，モダリティ素性，後処理ルールを含めたシステム全体の性能の評価を行った. テストデータでの精度を表 6 (a) に示す. 基本素性に加えて語彙制限後の 2 つの辞書と修飾語辞書に基づく辞書素性を導入したシステム（表 5 の最下行 $(\mathrm{g}$ )のシステム）を Modify とし，モダリティ素性の追加，後処理ルールの適用をそれぞれ Modality, P-rulesで表した。なお，モダリティ素性と後処理ルールはモダリティ属性まで含めた分類 (Total) において利用する. 表中のシンボル “†” は Modify と Modify + P-rules, “†” は Modify と Modify + Modality を, “`”は Modify + Modality と Modify + Modality + P-rules を比較した際，両側 $t$ 検定で有意水準 $1 \%$ の有意な差があったことを示している.

表 6 従来手法との比較

(a) 全体の精度

(b) モダリティ属性別の精度

モダリティ素性の導入後には，適合率，再現率， $F$ 值がそれぞれ 1 ポイント前後向上し，その効果が確認された. また, 後処理ルールについては, Modify に適用した場合で $F$ 値で 1 ポイントの向上，Modify + Modality に適用した場合で 0.7 ポイント程度の向上が得られた。すなわち, CRFによって症状・診断名と認識された語句に対してのみモダリティ属性を修正する処理を行うことで，症状・診断名の認識精度を維持したまま，モダリティ属性分類誤りを減少できている.

なお，後処理ルールの効果を確認するため，訓練データを使用して14, Modify および Modify十 Modality の推定結果に後処理ルールを適用した場合の正解数の変化について表 7 に示した. “対象件数”はルール適用の対象となった固有表現の件数で，システムが正例と推定した固有表現の数に相当する。また，“ $\mathrm{T} \rightarrow \mathrm{F}$ "，“ $\mathrm{F} \rightarrow \mathrm{T}$ "および “ $\mathrm{F} \rightarrow \mathrm{F}$ " は，ルール適用前に正解 $(\mathrm{T}) /$ 不正解 (F) であったものが，ルール適用後に正解/不正解に変化した件数を表す。“合計”はこれら 3 つの値の合計で，ルールが適用された件数に相当する（“ $\mathrm{T} \rightarrow \mathrm{T}$ ”となったもの，つまり，モダリティ属性が変化しなかったものについては，件数に含めていない). Modifyに適用した場合では，適用対象件数の $5 \%$ 弱にあたる 81 件に対してルールが適用された。適用された事例のうち, 実際に固有表現であった事例に対する正解率は $80 \%$ 程度であった. Modify + Modality に関しては, モダリティ素性の導入により周辺文脈と矛盾するモダリティ属性の推定結果が減ったと考えられ，ルールが適用された件数自体が減少した。しかし，ルールの適用により僅かながら正解数が増加している。

表 6 (a) の下半分には, MedNLP 症状と診断タスクの成績上位 3 チームである Miura ら (Miura et al. 2013), Laquerre ら (Laquerre and Malon 2013) およびImaichi ら (Imaichi et al. 2013)のシステムの精度を掲載した。従来手法の中では, Total の適合率を除き, いずれも Miura らのシステムの精度が最も高い. これに対し, Total の評価で比較すると, 本システムは適合率を中心に従来手法よりも高く, モダリティ素性と後処理ルールを併用したシステム (Modify + Modality + P-rules) では, 適合率, 再現率, $F$ 值ともに最も高くなっている。また, 提案システムと従来手法の中で精度が高い Miura らのシステムについて, モダリティ属性ごとの精度を表 6 (b) に掲載した. Miura らのシステムでは positive および negation の再現率が高く, 多数派クラスの網羅的な抽

表 7 後処理ルール適用の効果

出の点で優れている。しかし, 適合率ではどの属性についても本システムの方が高く, 特に, 少数派クラスである suspicion, familyの認識では, 適合率, 再現率ともに大きく上回っている. したがって，モダリティ属性の分類を含めた抽出では, 従来手法と比べて, 我々の手法が最も正確な用語抽出を実現できており，事例数の少ないクラスに対して頑健な推定を実現できているといえる。

一方，表 6 (a)における 2-wayの評価では，特に，再現率が Miura らのシステムと比べて 3 ポイントほど低く, 本システムは症状・診断名抽出の網羅性の点で劣っている。修飾語の付加を行う拡張マッチングでは, 主要語が主要語辞書に含まれない場合には対応できないという限界があるため，再現率を高めるには，コーパスから修飾語だけでなく新たな主要語も獲得する方法が必要となる。また, 診療記録中の症状・診断名と共起しやすい「〜出現」「〜増悪」などの表現は，未知の主要語を認識する際の手がかりとして有効利用できる可能性がある.

## 6 おわりに

本稿では, 症例検索などの基礎技術として重要である症状名・診断名の抽出に焦点を当て, 語彙資源を有効活用した用語抽出について報告した，語彙資源活用の 1 点目として，コーパス中の用語に対して語彙制限を行うことで，用語抽出に真に有用な語彙の獲得を行った． 2 点目として,コーパスから複合語の構成語彙である修飾語を獲得し, 語彙制限後のコーパスの語彙に加えて獲得した修飾語を活用することで，テキスト中のより多くの用語を検出する拡張マッチングを行った．検出された用語の情報は，機械学習アルゴリズム linear-chain CRF をべースとしたシステムの素性として使用した.

NTCIR-10 MedNLP タスクのテストコレクションを用いて抽出実験を行ったところ，単純な辞書の利用と比較して， $F$ 值で 0.4 1.1 ポイントの有意な精度向上が見られ，語彙制限および拡張マッチングの有効性を確認した。 症状・診断名の認識では, 同タスクで1位の Miura ら (Miura et al. 2013)のシステムと比較し，モダリティ属性の分類を含めた認識では本システムが適合率・再現率ともに高い精度を実現した。一方，モダリティ属性を考慮しない場合の症状・診断名認識において再現率が低く, 網羅性の点で劣っていた。語彙制限および修飾語の付加に基づく拡張マッチングでは, 元の語彙資源に含まれない主要語に対応できないという限界があるため, 今後の課題として, 新たな主要語の獲得や, 未知の主要語を認識する方法が必要である.

また，NTCIR-10 MedNLP に続くシェアドタスクである NTCIR-11 MedNLP2 (Aramaki, Morita, Kano, and Ohkuma 2014) では, 表記が異なりかつ同一の対象を指す症状・診断名を同一視する「病名・症状正規化タスク」が設定されている．症例検索などの応用に向けた基礎技術として, 幅広い症状・診断名を抽出することに加え, 抽出した症状・診断名の表記の違いを吸収する技術の開発も重要である。

## 謝 辞

NTCIR-10 MedNLP タスクを主催され，MedNLP テストコレクションをご提供くださいました京都大学デザイン学ユニットの荒牧英治特定准教授ならびに関係者の皆様に感謝申し上げます. MEDIS 病名マスターをご提供くださいました一般財団法人医療情報システム開発センター の関係者の皆様に感謝申し上げます. また, 本研究の一部は, JSPS 科学研究費補助金 25330363 , ならびに私立大学等経常費補助金特別補助「大学間連携等による共同研究」の助成を受けたものです.

## 参考文献

Aramaki, E., Morita, M., Kano, Y., and Ohkuma, T. (2014). "Overview of the NTCIR-11 MedNLP-2 Task." In Proceedings of the 11th NTCIR Workshop Meeting on Evaluation of Information Access Technologies, pp. 147-154.

Collins, M. (2002). "Discriminative Training Methods for Hidden Markov Models: Theory and Experiments with Perceptron Algorithms." In Proceedings of the 2002 Conference on Empirical Methods in Natural Language Processing (EMNLP), pp. 1-8.

Higashiyama, S., Seki, K., and Uehara, K. (2013a). "Clinical Entity Recognition using Costsensitive Structured Perceptron for NTCIR-10 MedNLP." In Proceedings of the 10th NTCIR Conference, pp. 704-709.

Higashiyama, S., Seki, K., and Uehara, K. (2013b). "Developing ML-based Systems to Extract Medical Information from Japanese Medical History Summaries." In Proceedings of the 1st Workshop on Natural Language Processing for Medical and Healthcare Fields, pp. 14-21.

Imaichi, O., Yanase, T., and Niwa, Y. (2013). "A Comparison of Rule-based and Machine Learning Methods for Medical Information Extraction." In Proceedings of the 1st Workshop on Natural Language Processing for Medical and Healthcare Fields, pp. 38-42.

井上大悟, 永井秀利, 中村貞吾, 野村浩郷, 大貝晴俊 (2001). 医療論文抄録からのファクト情報抽出を目的とした言語分析. 情報処理学会研究報告. 自然言語処理研究会報告, 141 (17), pp. 103-110.

Jiang, M., Chen, Y., Liu, M., Rosenbloom, S. T., Mani, S., Denny, J. C., and Xu, H. (2011). "A Study of Machine-learning-based Approaches to Extract Clinical Entities and Their Assertions from Discharge Summaries." Journal of the American Medical Informatics Association (JAMIA), 18 (5), pp. 601-606.

木浪孝治, 池田哲夫, 村田嘉利, 高山毅, 武田利明 (2008). 看護学分野の専門用語抽出方法の
研究. 自然言語処理, 15 (3), pp. 3-20.

Kudo, T., Yamamoto, K., and Matsumoto, Y. (2004). "Applying Conditional Random Fields to Japanese Morphological Analysis." In Proceedings of the 2004 Conference on Empirical Methods in Natural Language Processing (EMNLP), pp. 230-237.

Lafferty, J., McCallum, A., and Pereira, F. (2001). "Conditional Random Fields: Probabilistic Models for Segmenting and Labeling Sequence Data." In Proceedings of the 18th International Conference on Machine Learning (ICML), pp. 282-289.

Laquerre, P. F. and Malon, C. (2013). "NECLA at the Medical Natural Language Processing Pilot Task (MedNLP)." In Proceedings of the 10th NTCIR Conference, pp. 725-727.

McCallum, A. and Wei, L. (2003). "Early Results for Named Entity Recognition with Conditional Random Fields, Feature Induction and Web-enhanced Lexicons." In Proceedings of the 7th Conference on Natural Language Learning (CoNLL-2003), pp. 188-191.

Miura, Y., Ohkuma, T., Masuichi, H., Shinohara, E., Aramaki, E., and Ohe, K. (2013). "Incorporating Knowledge Resources to Enhance Medical Information Extraction." In Proceedings of the 1st Workshop on Natural Language Processing for Medical and Healthcare Fields, pp. 1-6.

Morita, M., Kano, Y., Ohkuma, T., Miyabe, M., and Aramaki, E. (2013). "Overview of the NTCIR-10 MedNLP Task." In Proceedings of the 10th NTCIR Conference, pp. 696-701.

Sang, E. F. and Veenstra, J. (1999). "Representing Text Chunks." In Proceedings of the 9th Conference on European Chapter of the Association for Computational Linguistics, pp. 173-179.

Sha, F. and Pereira, F. (2003). "Shallow Parsing with Conditional Random Fields." In Proceedings of the 2003 Conference of the North American Chapter of the Association for Computational Linguistics on Human Language (HLT-NAACL), pp. 213-220.

上杉正人 (2007). N-gram と相互情報量を用いた医療用語抽出のための分割点の探索. 医療情報学, 27 (5), pp. 431-438.

Uzuner, Ö., South, B. R., Shen, S., and DuVall, S. L. (2011). "2010 i2b2/VA Challenge on Concepts, Assertions, and Relations in Clinical Text." Journal of the American Medical Informatics Association (JAMIA), 18 (5), pp. 552-556.

Uzuner, Ö., Goldstein, I., Luo, Y., and Kohane, I. (2008). "Identifying Patient Smoking Status from Medical Discharge Records." Journal of the American Medical Informatics Association (JAMIA), 15 (1), pp. 14-24.

Uzuner, Ö., Luo, Y., and Szolovits, P. (2007). "Evaluating the State-of-the-art in Automatic De-identification." Journal of the American Medical Informatics Association (JAMIA), 14 (5), pp. 550-563.

Uzuner, Ö., Solti, I., and Cadag, E. (2010). "Extracting Medication Information from Clinical Text." Journal of the American Medical Informatics Association (JAMIA), 17 (5), pp. 514-518.

## 付録

## A モダリティ素性における正規表現

モダリティ素性において，各属性のモダリティ表現を捉えるために用いた正規表現を記載す

お, “ $X \mid Y$ ”は $X$ または $Y$ との一致, “ $\left[X_{1} X_{2} \ldots X_{N}\right]$ ” は $X_{1}, X_{2}, \ldots, X_{N}$ のいずれかとの一致, “()”はパターンのグループ化, “?”は直前のパターンの 0 回または 1 回の出現を表す.また,

相当する文字列が後続しない $X$ にマッチする.

## Negation のモダリティ表現

Negation 属性のモダリティ表現のために用いた正規表現を以下に示す.

・ [はがを]?(([認め|みとめ|見|み $\mid$ 得 $\mid え)(られ) ?) ?([$ 無な](い|く|かっ)|せ?ず)
- $\quad[$ はがを $]$ ?((消失|除外) $(? !$ !?(な $[$ いかくし])|せず))
- [はがもの](改善| 陰性 | 宽解)(?!し?(な [いかくし])|せず)
- (の (所見 $\mid$ 既往) が?)?[無な](し|い|く|かった)

## Suspicion のモダリティ表現

Suspicion 属性のモダリティ表現のために用いた正規表現を以下に示す.
- の?(疑い|うたがい)

## Family のモダリティ表現

Family 属性のモダリティ表現のために用いた正規表現を以下に示す. なお, “[父母]”に後続する “(?)” というパターンは，医療用語である「母指」や「母趾」とのマッチを防ぐために用いた。
- [祖伯叔]?[父母](?) 親?| お [じば]|[兄弟姉妹娘]| 息子|従 (兄弟|姉妹)

## B修飾語の限定に用いたひらがな表現

語彙資源から修飾語を獲得する処理において, 修飾語の限定の際に用いた主にひらがなから構成される表現を以下に記載する。

助詞・連語が，の，を，に，へ，と，から，より，で，など，のみ，における

連体詞その

接続詞または，あるいは，および，かつ

助動詞な

形容詞ない, なし

動詞・名詞・助詞・助動詞の組合せからなる語する，よる，ある，あり，して，した，ならない，なった，のための

漢字を含む表現伴う, 伴わない, 生じない, 疑い, 著しい, その他, 手当て, 比較して

## 略歴

東山翔平：2012 年神戸大学工学部情報知能工学科卒業. 2014 年神戸大学大学院システム情報学研究科博士前期課程修了. 現在, NEC 情報・ナレッジ研究所に在籍. 自然言語処理, 情報抽出の研究に従事.

関和広：2002 年図書館情報大学情報メディア研究科修士課程修了. 2006 年インディアナ大学図書館情報学研究科博士課程修了. Ph.D. 神戸大学助教等を経て現在甲南大学知能情報学部准教授. 情報検索, データマイニングの研究に従事. 情報処理学会, 電子情報通信学会, 人工知能学会各会員.

上原邦昭：1978 年大阪大学基礎工学部情報工学科卒業. 1983 年同大学院博士後期課程単位取得退学. 工学博士. 同産業科学研究所助手, 講師, 神戸大学工学部情報知能工学科助教授等を経て, 現在同大学院システム情報学研究科教授. 人工知能, 特に機械学習, マルチメディア処理の研究に従事. 電子情報通信学会, 計量国語学会, 日本ソフトウェア科学会, AAAI 各会員.

$(2014$ 年 9 月 21 日 $\quad$ 受付 $)$
$(2015$ 年 1 月 11 日 $\quad$ 再受付 $)$
$(2015$ 年 3 月 3 日 $\quad$ 採録)