# 複数の観点で分類した自然言語処理用シソーラス
## 国分 芳宏 $\dagger$ 岡野 弘行 $\dagger$

従来の情報検索に特化されたシソーラスではなく, 構文解析や用語標準化などの自然言語処理を目的とする 420,000 語規模のシソーラスを開発した。各用語の持つ関係語の数が膨大なため, 観点（ファセット）を導入して分類し, 探しやすくしたシソーラスである。 さらに，差別語，表記の摇れなども区別できる。シソーラスを作成する際の留意点・課題もまとめた。 パッケージソフトのカスタマイズ機能およびインターネットや他の辞書との連動機能, 用語の標準化などについても紹介した. キーワード：シソーラス, 観点, 自然言語処理, 用語標準化

## A Thesaurus which Classifies Terms by Facets for Natural Language Processing of Japanese

\author{
YoshiHiro KoKubu $^{\dagger}$ and Hiroyuki OKano ${ }^{\dagger}$
}

\begin{abstract}
Instead of a thesaurus specialized in conventional information retrieval, we developed a thesaurus of 420,000 terms for the purpose of natural language processing such as parsing or the term standardization. Because each entry term has a large number of terms with various semantic relations, we introduce a facet and classify them for finding relative terms easily. Furthermore, we distinguish discriminatory terms, and fluctuating Japanese spellings. We described points to keep in mind and future tasks in making a thesaurus. Our package has the connecting function with the Internet and the other dictionaries.
\end{abstract}

Key Words: Thesaurus, Facet, Natural Language Processing of Japanese, Term standardization

## 1 はじめに

筆者らは, 1990 年, 自然言語処理のための解析辞書の日本語表記の摇れを管理することから始め, 1995 年に同義語辞書の初版を発行した. その後, 用語の意味関係を含むシソーラスのパッケージを発売し，現在 6 版を重ねている。 1 年間に 20,000 語程度を追加していて, 420,000 語に達している。

これまでのシソーラスは, 主として, 情報検索のキーワードを選択するための支援ツールとして開発されてきた，登録されている用語は該当する分野の専門用語が主体で，さらに品詞は名詞だけであった。そのため, 情報検索を越えて, 文書整理や統計処理などのために必要な構

文解析や用語の標準化など，自然言語処理に利用することは難しかった.

筆者らのシソーラスは，自然言語処理を目的とした一般語を主とするシソーラスである。いわゆる名詞だけでなく, 動詞，形容詞，形容動詞，副詞，代名詞，擬態語さらに慣用句までを登録している。これまでのシソーラスでは，作成者の考え方で分類してあった。使用者は，その分類基準に従ってたどって探さなければならなかった。また紙面の物理的な制約もあって意味空間を 1 次元的に整理してあった。本来意味分類は多次元空間のはずで，筆者らのシソーラスでは，複数の観点で多次元的に分類してある.

また，メール整理に代表されるような文書整理のために，時事的な用語や省略語も積極的に登録している。送り仮名や訳語などの差異による異表記語も網羅的に収集した。自然言語処理で使うことを目的としているため，テレビなどから収集した新語や，構文解析で発見した新語を登録している。

用語間の意味関係として, 広義一狭義（上位一下位）関係，関連関係および同義一反義関係を持っている。

流動的に変化する用語の意味および用語間関係への対応とコスト・パフォーマンスの観点から，トップダウン方式ではなく，ボトムアップ方式で開発した。一般語を主体としているが，他の専門シソーラスと併合もできる.

以下, (第 2 章）用語の収集とシソーラスの構造,（第 3 章）用語同士の意味関係,（第 4 章） パッケージソフトの機能について順次述べる.

## 2 用語の収集とシソーラスの構造

用語の収集と分類の仕方について述べる.

## 2.1 用語の収集

市販の辞書は語義が分からない用語を調べるためのものである．筆者らのシソーラスは自然言語処理で使うのが目的なので，市販の辞書に記載されている用語よりも，頻繁に使われる用語を中心に登録している，正しい表記だけでなくよく使われるのであれば「キューピット」(Cupid) のように誤った表記も登録している

筆者らの構文解析（別途 SDK として販売）で新しい記事コーパスを解析した結果，解析できなかった新しい用語は逐次, 解析辞書に登録しているが，同時にシソーラスにも登録している. シソーラス更新中に，追加登録した用語も形態素解析の辞書に登録している。見つけた用語がよく使われている用語かどうかはネットで調べている.

新語を探しだす作業よりもシソーラス上の用語と関連付ける作業の方が工数がかかった.

品詞分類も名詞の意味を除いて解析辞書と同じにしてある (文末付録参照)。構文解析では名
詞を意味で分類しているが, シソーラスでは意味分類が構文解析より詳細なこと, 名詞に複数の意味を持たせられないことなどの理由で意味では分類していない.

自然言語処理用のシソーラスではほとんど全ての自立語が収集の対象になる。構文解析では,解析時に結合して処理するので，複合語の要素だけを網羅すれば十分である。一方シソーラスでは組み合わされた複合語もすべて網羅する必要があるため，語数が多くなる.

自然言語処理では固有名詞も重要な位置をしめるが，日々生成されていて，かつ変化するため辞書として登録するには手が付けられないので，地名など変化の少ないもの以外は登録できていない.

## 2.2 シソーラス構造における分類

## 複数の観点での分類

意味空間は 1 次元ではなく多次元である。どの属性に注目して（観点で）分類するかによって，いろいろな分類の仕方が考えられる。身近な例で「料理」について考えてみる。古今東西の料理の種類は相当な数になり, 分類の仕方も人によって異なる. ここで調理法, 材料, 地域の 3 つの観点で分類するとつぎのようになる.

調理法の観点で分類すると生もの, 煮物, 焼き物

材料の観点で分類すると魚料理, 肉料理, 野菜料理

地域の観点で分類すると和食, 中華, 洋食

例えば「刺し身」は，料理を 3 つの観点によって分類した結果，連想された用語「魚料理」「生もの」「和食」の狭義語である．逆に「刺し身」の広義語が「生もの」「魚料理」「和食」の 3 つあることになる。その結果, 網構造になる。これを図にすると, 図1のようになる.

この他に「料理」のための観点としては「対象」(病人食, 独身料理)「スタイル」(会席料理,飲茶）などが考えられる。いろいろな考え方で探す利用者がいるので，なるべく多くの観点で分類しておく必要がある.

## 人間の感覚に沿った分類

色を分類するときにも参考文献にあげたシソーラスでは「赤系統」「青系統」「黄色系統」などと色相や明度などに従って分類してある。データベースの検索の支援をするためには，人間との関係を重視して「はでな色」「暖かい色」といった人間の感覚に沿った観点での分類も併設した方が実用的である．筆者らのシソーラスもなるべく多くの観点で分類している.

検索された用語を見やすくする目的で，グループに入れる用語を少なくする方針を取ったため階層が深くなってしまった。電子化されたシソーラスでは, クリックするだけで，簡単に上下の階層に移行できるので階層を深くしても問題は少ないのであるが，グループにつける名前が恣意的になりがちなことが課題である.

図 1 「料理」を「調理法」「材料」「地域」の 3 つの観点で分類した例

## 分類作業における摇れの吸収

用語同士の意味的な関係は, 自明な場合だけではない。どこまでを同義語として認めるかは, シソーラスの作業者同士でも食い違うことがある. 現在 3 名で相談しながら，最終的には多数決で決めている.

例えば「明日」と「翌日」を考えて見ると，意味的にほとんど重なっていて同義語と思われるが，厳密に言えば違いがある。同義語にするか関連語にするかが一義的に決定できない.

「明日」

「翌日」

現在

過去

このように微妙に意味の異なる場合にユーザーの意見を聞いて, 同義語として扱った場合が多い.

## 2.3 シソーラス構造における記述

補助的な記述

各の用語の持つ関係語の数が多いため, 用語を 3 つの目的で, (I)で区切って補助的な記述をつけている。

A. 分類の観点を表示する.

狭義語の例

料理 |材料肉料理, 魚料理, 野菜料理

料理 | 地域和食, 洋食, 中華料理

B. 同じ分類に属する用語が膨大な数になるため細分したいときに，細分した分野に対応する適当な用語がなく，恣意的な用語になるのを防ぐ.

狭義語の例

肉料理 | 煮物シチュー

C. 多義語を区別する.

狭義語の例

月｜天体満月，寒月，三日月

月｜時間正月，うるう月

現在関係語が多い用語を中心に, 全体の 4.0 パーセントの用語に補助的な記述が付けてある.

## 語義の違いの記述法

冊子体のシソーラスは木構造で, その構造をたどりながら探していかなければならなかった。筆者らの電子化されたシソーラスはキーボードから直接構造上のどこでも指定できるので，もはや木構造である必要はない，網構造で，複数の広義語を持つことになる．しかしその結果同じ文字列で複数の意味を持つ多義語が区別できないという問題がでてくる．例えば木構造で検索したときには，「時間」からたどった「月」(month) と，「天体」からたどった「月」(moon) の 2 つの異なった意味の用語は区別できるが，直接「月」と指定する方法では区別ができなくなる。

補助的な記述をつけて「月」を「天体」の観点でとらえたときは「月｜天体」で「時間」の観点でとらえたときは「月｜時間」として区別した.

広義語狭義語

月｜天体名月

月｜時間正月

用言

自然言語処理で使うには，名詞だけでなく用言（動詞，形容詞）や副詞も登録しておく必要がある。用言は語幹と活用形で登録してある。 パッケージソフトでは終止形で表示する.

図 2 「月」を中心にした構造
活用形も構文解析に合わせてある.

例動 (く) 動詞力行 5 段活用

赤（い） 形容詞

## 慣用句

日本語では，慣用句が大きな意味的位置を占めている。

慣用句はまとめた形で 1 語にして登録してある.

例 「水をあける」＝「引き離す」

「水をあける」は「引き離す」という意味で「水」の意味はまったくない.「水をあけ（る）」 は 1 つの動詞にして「引き離す」の同義語として登録してある.

慣用句は用法によって間に挟まれる助詞までが変わるものがある.

「山田は顔が広い」（叙述用法）「顔が広（い）」を形容詞として登録してある.

「顔の広い山田は」(限定用法) 「顔の広い」を連体詞として登録してある.

## 誤りのある用語

実際にシソーラスを運用するためには，関係する用語として差別語を出力しないなどといった細かい配慮が必須である．差別語は年々増える方向にある．増える差別語を次々に登録していくためにもいつもシソーラスを更新していかなければならない.

エラーに2つのレベルがある.

誤り語および差別語.

誤り語例ご多聞にもれず（正：ご多分にもれず）

差別語

標準でない用語.

常用漢字以外を含んでいる用語

表記の摇れ例インタフェース （正：インターフェース）

旧地名例浦和市

旧機関名例文部省

商品名例宅急便

## 3 用語同士の意味関係

用語同士の意味関係として，表 1 のものを用意した，広義語一狭義語の関係は自然言語処理で広義語に適用した規則は，狭義語にも適用できるようにするため狭義語になるのは同じ属性のものだけとした。「自動車」一「タイヤ」のような「全体」一「部分」関係は「部分」という観点の関連語とした。原則として自立語だけとたが，一部に接尾辞も採択してある。

## 3.1 同義語

英語で 1 人称単数は「I」だけであるが，日本語には「私」「僕」「我」「小生」「我が輩」「手前」「愚生」と数十あり，話者と相手との関係で使い分けられている．日本語にはなぜ同じ意味の用語, 同義語がこんなに多いのか考えてみる。（表 2 参照）

辞書の中では，「大和言葉」「外来語」などの区別はせず，同等に扱っている.

## 外来語

日本語のなかに奈良時代には中国, 朝鮮から，最近は主に米国から輸入されて日本語の中に入ってきている用語がある。多少のニュアンスの違いはあるが，すべて同義語といえる。このような組み合わせが日本語のなかにたくさんあり，これが同義語を増やしている大きな原因である。大和言葉は親しみやすさを，漢語は権威を，片仮名語は近代的な感じをあたえる。また最近は「計算機」が「コンピューター」に，「写真機」が「カメラ」になるといったふうに，漢語が片仮名語に置き換わる傾向がある.

## 通称

通称と正式名称が両方使われている。

$\lceil$ 首相」=「内閣総理大臣」

表 1 用語同士の意味関係

表 2 同義語の例

## 年号

わが国だけの問題であるが, 年号が 2 種類ある. さらに漢数字とアラビア数字が両方使われる.

$
\lceil 2008 \text { 年 }\rfloor=\lceil\text { 平成 } 20 \text { 年 }\rfloor=\lceil\text { 平成二十年 }\rfloor
$

## 立場による用語の違い

立場によって同じことを違った用語で表す場合がある。例えば「税金」という用語を政府は 「公的資金」という言い方をするが，納税者は「血税」という言葉を使う．検索者は「税金」という用語で探すだろう。このような傾向は社会科学の用語に多い.

## 省略語

「特別急行」 $\rightarrow$ 「特急」のようなものをいうが，「マスコミ」は「マス・コミユニケーション」 の省略形であったというように，現在は省略形の方が 4 拍の新しい用語として定着してしまっているものがたくさんある．省略の程度も地域によって異なる．関東よりも関西の方が積極的に省略するようである。

「弱冷房車」(JR 東日本)

「弱冷車」 (JR 西日本)

頭字語（英語の用語の先頭の文字だけを集めた用語：アクロニム）もこの省略形に入れるべきだろう。

## ROM Read Only Memory

## 表記の摇れ

同義語のうち発音も同じものを表記の摇れ（異表記語ともいう）と言う。日本語では標準とされている表記の他に複数の「表記の摇れ」が許されている用語がある. 個人により, 機関により，いろい万な表記が汇監している。極端な場合には，同じ著者が書いた記事でも表記法が違うことがある．複数の機関の記事を一度に検索しようとする場合には，考えられる摇れをすべてキーにして検索しなければならない.

漢字と仮名による表記の摇れ

犬, イヌ, いぬ

漢字表記の摇れ

沈殿, 沈澱(「澱」の字が常用漢字でないので「殿」の字を代用した. )

超電導 (JIS)

超伝導 (学術用語)

外来語をカタカナ書きするときの摇れ

$
\begin{array}{ll}
\text { インターフェース } & \text { (新聞 } 1996 \text { 年まではインタフェース }) \\
\text { インタフェース } & (\mathrm{JIS}) \\
\text { インターフェイス } & (\text { 学術用語 }) \\
\text { インタフェイス } &
\end{array}
$
古い記事を扱うときは異体字も問題になる.

国語，國語

送り仮名の違いによる表記の摇れ

行う，行なう

打ち合わせ，打ち合せ，打合わせ，打合せ，打合

（内閣告示の「送り仮名の付け方」の中にも複数の表記が許容されている.)

## 推奨語

用語を標準化するために，同義語のグループのなかから，言語工学研究所が推奨する用語である。標準の用語に置き換える機能はパッケージソフトには含まれていない. 別売の用語標準化ソフトとして提供している.

インターフェース（新聞）

インタフェース(JIS)

インターフェイス（学術用語）

インタフェイス

$\Longrightarrow$ インターフェース （言語工学研究所推奨）

米, 米国, USA, U.S.A., アメリカ合衆国, 合衆国, アメリカ（新聞）

$\Longrightarrow$ アメリカ （言語工学研究所推奖）

## 3.2 反義語

意味が対立する用語の関係である。対立の仕方にいくつかある.

A. 片方を否定すると対立する相手になる用語の関係である。「良いこと」を否定すると「悪いこと」になるような関係である.

例善 $\longrightarrow$ 悪

B. ある中間的な点を中心にして逆の方向になる用語の関係である.

例 $上 \leftarrow$ 中 $\rightarrow$ 下

C. 一つの行為を対立する立場で捕らえた用語の関係である.

例売る $\longrightarrow$ 買う

D. さらには「兄」に年齢で対立する用語として「弟」がある。また性別で対立する用語として「姉」がある. どちらも反義語になる.

例兄 $\leftarrow$ 年齢的対立 $\rightarrow$ 弟

$\uparrow$

性別的対立

$\downarrow$

姉

## 3.3 広義語・狭義語

自然言語処理で広義語との関係が狭義語にも適用できるように広義語・狭義語の関係は，属性が同じものだけにした。「自動車」一「タイヤ」のような全体部分関係は関連語にした.

「東京都に住む」，「新宿区に住む」は成り立つが，「都庁に住む」は成り立たない．

## 3.4 関連語

ある程度の意味的な関連性を持つ用語の関係を言う. 大きく分けると同じカテゴリーの用語と異なるカテゴリーの用語との関係がある.

A. 共通の広義語を持つ用語.

広義語狭義語

食材 $\rightarrow$ 肉

野菜

(「肉」と「野菜」とは関連語である.)

B. 異なるカテゴリーであるが，意味的な関係のある用語.

広義語狭義語

食材 $\rightarrow$ 肉

料理 $\rightarrow$ 肉料理

(「肉」と「肉料理」とは関連語と, 人の判断で設定する.)

## 3.5 多義語

英語は多義語が多いと言われているが，日本語，特に大和言葉も多義語が多い. 関係語は別の言葉になる.

大和言葉での例

うめる穴をうめる。

お風呂をうめる。

借金をうめる。

時間をうめる.

外来語での例英語の多義性の影響も受けている.

ライト光, 照明, 明るい, 軽い

## 右，右翼手

権利

書く

多義語は，|で区切って補助的な記述を付けてそれぞれ別の語として扱っている.

## 3.6 共起語

係り受けを構成する組み合わせを集めた辞書である。構文解析で係り先を決定したり，「良しあし」を決定したりするときに用いる。係り側の格助詞を含めて管理している.

構文解析の通常の単語には必要に応じて「良しあし」のフラグが振ってあり, リスク管理やリコメンデーションなどに使っている。しかし例えば下記の例では,

例寿命が延びる（良い）

例寿命が短い（悪い）

「寿命」,「延びる」,「短い」など用語はそれ自体では「良しあし」の情報は持っていないが,係り受けになったときに「良しあし」の性質が出てくる.

共起語として, 7 万組を登録してある。係り, 受けのそれぞれの用語の同義語, 狭義語を実行時に拡張するので，共起語辞書に登録されていない係り受けにも対応できる。

ビールが冷えている.

麦酒年冷えている $\quad$ (同義語)

生ビールが冷えている $\quad$ (狭義語)

組み合わせの意味的な関係として，現在は「良い」「悪い」「それ以外」の 3 種類の情報しか持っていない．将来オントロジーとして発展させていく予定である.

## 共起辞書の作成方法

コーパスを構文解析で係り受けファイルにして，その結果を整理して，共起語辞書に登録する方式を取っている。

## 3.7 用語の意味関係は時と共に変化する

1991 年当時「発泡酒」は「ビール」の意味を含む広義語であった (JIS X 0901-1991). しかし現在は「発泡酒」は「ビール」とは別のものの名前になったため, 「ビール」「発泡酒」は共に 「醕造酒」の狭義語となった。シソーラスには, 原則として最新の意味だけを採択している.

## 広義語狭義語

醸造酒 $\rightarrow$ ビール

発泡酒

## 4 パッケージソフトの機能

筆者らのシソーラスはパッケージで販売するほかにネットからも使えるようにしてある.

## 4.1 操作画面

図 3 「料理」で検索したときの操作画面

観点の「一」は下に表示したどの観点にも属さない関係語を集めたものである.

「かっぽう」に対する「割烹」,「はし休め」に対する「箸休め」など，標準でない標記も表示されている．実際の画面上では文字色で区別している.

（注）「エラーレベル・差別語の表示」(4.5)を参照のこと

以下に「料理」を「調理法」「材料」「地域」の観点で検索したときの画面を示す.

 & & &  &  & &  \\

図 4 「調理法」の観点で検索したときの操作画面

図 5 「材料」の観点で検索したときの操作画面

図 6 「地域」の観点で検索したときの操作画面

## 4.2 未知語の形態素解析

ユーザーがシソーラスに登録されていない用語で検索したときのために，形態素解析をして分解された形態素を自動表示する．画面上の分解された形態素をクリックすると検索できる.

複合語の最後の用語を広義語に，それ以外の用語を関連語とした。接尾辞は同じ意味の自立語に置き換える (下の例を参照)。

例「未知語解析」を形態素解析すると，下記の 3 つの用語が表示される.

未知 (関連語)

言語 (広義語) 「語」は接尾辞なので同じ意味の「言語」に変換する.

解析 (広義語)

## 4.3 語末一致検索

日本語の複合語はほとんどの場合, 意味や品詞を決定する用語が語末に, 修飾する用語が前方にくる。この性質に着目して語末が同じ用語を取り出すと同じ意味の用語が集められ，狭義語を集めたのと同じような効果を持たせることができる。

例えば「トンボ」をキーにして検索すると，語末が一致として下記の用語が表示される.

狭義語「アカトンボ」「イトトンボ」「シオカラトンボ」…...

ノイズ「竹トンボ」「尻切れトンボ」「極楽トンボ」

漏れ「オニヤンマ」「ギンヤンマ」

「トンボ」という言葉を比ゆ的に用いている場合にノイズになる.

接尾辞

シソーラスには接尾辞も登録できる.

## 4.4 カスタマイズ機能

ユーザーがどんな用語を関係語として要求するかは個人によって，また置かれた状態によってまちまちである.「非常勤社員」「フリーター」「非正規社員」の同義語である「テンポラリー・ ワーカー」などという用語は最近の労働問題を調べているひとには必要であるが, 労働問題の歴史を研究しているひとには不要である. 用語同士の関係がそのひとの環境, 世代で異なることもある．筆者らの世代では，「パソコン」は「コンピューター」の狭義語であるが, 最近の社会一般では「パソコン」という言葉の方が一般的になっている．個人別に学習したりする柔らかい機能が必要である．筆者らのシソーラスには次の機能を用意してある.

A. 当面不要な用語をじゃまにならないように, 一時隠しておく機能

B. ユーザーが手持ちのシソーラスをファイルから併合する機能

筆者らのシソーラスには専門用語が登録されていない. 利用者がそれぞれの専門分野の用語を登録する方式を取っている. ユーザー登録語は優先して表示する.

## 4.5 エラーレベル・差別語の表示

エラーのある用語と差別語は赤で表示している。また標準でない次のような用語をピンクで表示している.

常用漢字以外を含んでいる用語例割烹

表記の摇れ例インタフェース

旧地名例浦和市

旧機関名例文部省

商品名例宅急便

画面上正しい用語だけにするために，エラーのある用語と標準でない用語を表示しないよう

図 7 他のシステムとの接続

にする機能もある.

## 4.6 インターネット・辞書との接続

「言葉のポータルサイト」を目指している。画面上の用語をクリックすると Google, Wikipedia などのインターネット検索ができる。また同様に電子化された辞書を串刺し検索できるようにしてある。（図 7 参照）

## 4.7 文章を推敲中の自動検索

ワープロなどで文章を推敲中により適した用語を探すために，クリッピングボード（コピー などのために切り取った文字列）の文字列でシソーラスを自動的に探す.

## 5 おわりに

ネット上の記事が現在のペースで増えていくと, キーワードだけの検索ではノイズが多く早晚限界がくると思われる。ノイズを減らすためにも自然文検索のニーズ高まっている．今後日本語解析などを高度化していくためには意味の分野に立ち入らざるを得ないだろう．そのときにシソーラスが多用されるだろう。

「補助的な記述」(1.4)ではすべて同じ（｜）で区切って示しているが，それぞれの目的で区切り方を分けておくべきであったと思っている，特に多義語は，それ以外とは意味が異なる．

シソーラス・ファイルのコードは外国語との結合を考えて, unicode を使用している.

これから高度な自然言語処理で活用していくためには, 固有名詞も扱わなければならないたろう。

本シソーラスについてご興味のある方は下記までお問い合わせください。

E-mail:kokubu@gengokk.co.jp

## 謝 辞

本稿の改善に有益なコメントを頂いた査読者の方に感謝いたします.

## 参考文献

池原悟, 宮崎正弘, 白井諭, 横尾昭男, 中岩浩巳, 小倉健太郎, 大山芳史, 林良彦 (1997). 日本語語彙大系. 岩波書店.

医学中央雑誌刊行会編 (2007). 医学用語シソーラス第 6 版. 医学中央雑誌刊行会.

大野晋, 浜西正人 (1985). 類語国語辞典. 角川学芸出版.

科学技術振興機構編 (1999). JICST 科学技術用語シソーラス. 科学技術振興機構.

言語工学研究所.「類語.jp」(類語辞書オンライン版). http://ruigo.jp.

国立国語研究所 (1964). 分類語彙表. 秀英出版.

日本工業規格 (1991). シソーラスの構成及びその作成方法：JIS X 0901-1991. 日本規格協会.

## 付録

## A 付録 品詞一覧

形容詞

形容動詞

形容動詞と/たる形

副詞

打ち消しの動詞

打ち消しの形容詞

連体詞

接尾辞青（い）

閑静（な）

㫿鑠（たる）

さっぱり

年端もいか (ない：助動詞）

必要 (ない：形容詞)

こんな

*法見出しに*をつける.

## 略歴

国分芳宏（正会員）：1966 年東京理科大学理学部応用物理学科卒. 同年日本科学技術情報センター入社. 1985 年株式会社言語工学研究所設立代表取締役就任. 自然言語処理, シソーラス作成に従事. 情報処理学会会員.

岡野弘行（正会員）：1966 年大阪大学理学部物理学科卒. 同年日本科学技術情報センター入社. 2004 年株式会社言語工学研究所入社. シソーラス作成に従事.


# 候補間の表層的差異に着目した地名の所属国推定

佐野 智久 ・延澤 志保 $\dagger \cdot$ ・岡本 紘幸 $\dagger$. 鈴木 宏哉 $\dagger$.
松原 正樹 $\dagger$ ・斎藤 博昭 $\dagger$
}

\begin{abstract}
地名等の固有名詞は自然言語処理における未知語処理問題の要因の一つであり,こ れを自動的に認識する手法が盛んに研究されている。本稿では，地名の所属国を自動的に推定することで, 未知語としてノイズの原因となる可能性のある地名語句に 情報を与えることを目的とする。固有名詞である地名の認識では地名辞書が用いら れることが多いが, 辞書べースの手法では, 辞書未登録語の問題が避けられない. 不特定多数の外国の地名も含めた所属国の推定の実現のため, 本稿では, 地名辞書や 文脈情報を全く使用せず，地名の表層情報のみを利用して，地名の所属国を自動的 に判別する手法を提案する。地名については，言語的な類似性や地理的要因によっ て所属国の判別が困難な場合がある。本稿ではこの点に着目し, 所属可能性の低い 国の除去による候補の絞达み処理と, 所属可能性の高い候補の選択処理との組合せ によって，再現率を高く保ったまま適合率の向上を実現した。

キーワード：エリア推定，所属国推定，言語識別，固有名詞認識，多言語処理
\end{abstract
## Toponym Resolution Based on Surface Difference among Candidates

Tomohisa Sano ${ }^{\dagger}$, Shiho Hoshi Nobesawa ${ }^{\dagger}$, Hiroyuki Okamoto ${ }^{\dagger}$, Hiroya Susuki ${ }^{\dagger}$, Masaki Matsubara $^{\dagger}$ and Hiroaki Saito $^{\dagger}$

There have been many researches on toponym resolution as an approach to solve the unknown word problem. In this paper we propose an area candidate estimation method for toponyms, to assign area information to unknown toponyms. Our aim is to expand the target toponyms to non-restricted domains. Thus we aim for a simple system avoiding the use of gazeteers and context information. Our method is based only on surface information to estimate area candidates to where the toponyms may belong. Toponym resolution can be difficult because of linguistic or geographic reasons. Focusing on the surface difference among probable countries, we constructed a system containing a reduction phase for a rough examination and a selection phase for a detailed examination among them. By our effective combination of these two phases, we succeeded in gaining high precision rate maintaing high recall rate.

Key Words: Toponym Resolution, Language Identification, Proper Noun Recognition, Multilingual Processing

## 1 はじめに

現在では，ウェブ上の文書をはじめとして，多種多様な文書に簡単にアクセスすることができる。ニュースやブログの記事にはさまざまな出来事が記述され，その中には数多くの地名が含まれている，地名等の固有名詞は辞書未登録語であることが多く, 文書の自動処理における未知語処理の問題の主因の一つとなっている.

地名は, 人名や組織名等の他の固有名詞と比べてその要素に変動が少なく, 詳細な辞書の作成が可能という特徴がある。地名については, 地図作成や郵便業務等のため, どの国でも詳細な辞書が存在するため, これを利用することでその地名に付随する国や場所等の属性を得ることが可能である.しかし, 文書中に出現する地名はその文書の記述言語を母語とする国の地名であるとは限らず，ニュース文書等にあっては理論上全世界のどの地名でも現れ得る。そのため, 地名の特定にはすべての国の詳細な地名辞書を確認する必要があることとなり, これは, 効率の面からも, 辞書の記述方式や記述粒度の不統一の面からも, 現実的であるとはいえない.

外国も含めたエリア推定を行うには，（1）地名文字列の認識，（2）地名文字列の国推定,

地名文字列と場所との対応付け，の三段階の処理が必要である．例を挙げれば，(1)で “Sparta" という語を地名と認識し, (2) で所属国がギリシャかアメリカである可能性が高いと推定し, (3) でその文書中での “Sparta”がアメリカのウィスコンシン州の地名を指していることを示すとの手順である.このうち (1) の地名文字列の認識については固有名詞認識処理の研究が盛んに行われており，また (3) の地名文字列と場所との対応付けについては，前述の例のように複数の国に出現する可能性のある曖昧な地名を対象として，地名の辞書引きを行い文脈情報と照らし合わせて地名を特定する手法が主に研究されている．それに対して，（2）の地名文字列の国推定処理についてはほとんど研究されておらず, 国がわからないため辞書引き対象とする辞書が特定できない場合には対応できていない. そこで本稿では， (3)の処理の前処理として，地名に対してその所属する国を十分に絞り込む手法を提案する。ここでの十分な絞达みとは，可能性のある国を三個以下に抑えることを意味する。“Sparta”という地名がギリシャとアメリカの両方にあるように, 複数の国に同一の地名が存在する可能性があるなど, すべての地名について国を一意に絞り込むことは必ずしも正しいとはいえない。所属国候補の数を三個以下まで絞り込むことができれば，最終的な地名の判別は辞書べースで行う等，他の手法との組合せによる精度の向上の実現が期待できる.

本稿では，辞書を利用できない状況を想定しているため，地名の持つ表層情報のみを処理に用いる。これは, 言語識別タスクの一つと位置づけることが可能であるが，地名は一般に二単
語程度の短い単語列であり, 利用できる情報が極端に少ないことが，通常の文章を対象とした言語識別と大きく異なる点である。

## 2 地名の持つ表層情報を活用した所属国推定

これまでの地名に対するエリア推定における場所との対応付け処理は, (i) 地名辞書, (ii) 文脈情報, (iii) 地理的社会的情報, の三つの要素を組み合わせることによって問題解決を試みるアプローチが主流であった.このアプローチの問題点は, 場所の特定を行うために必要な言語リソースをあらかじめ大量に準備しなければならないことにある。事前に用意した辞書から得ることができる情報を参照しながら，文書中で地名が出現する前後の文脈を考慮して地名と場所の対応付けが行われるが，複数の場所が候補としてあがる場合が多く，そのときには曖昧性の解消を行うことになる．機械翻訳等と同様に，このような地名の曖昧性の解消のために必要な詳細な情報を事前に用意しておく必要がある。また，地理的情報や社会的情報は付加的なものであり，この曖昧性解消に有効な情報を十分に収集することが困難な場合もある。このようなアプローチにおいては，文脈情報や付加的な情報を使うことが難しい場合には，地名辞書の中にその地名が載っているかどうかが，地名と場所の対応付けの精度を大きく決定づけることになる.これら三つの要素をなるべく使わずに地名と場所の対応づけを行うことができれば，少ない事前準備で，比較的簡単にエリア推定を実現することが可能となる.

前述のような地名辞書や文脈情報, 地理的社会的情報等を使わずに，地名の表層情報のみを用いて所属国を推定するために，Sano らは $n$-gram 情報等の地名の表層に現れる特徴に着目した分類器を用いた推定手法を提案している (Sano, Nobesawa, and Saito 2007). Sano らは, SVM を二値分類器として使用し, ある地名が対象国の地名であるかどうかを判定することで, 所属国候補を選び出している．Sano らの手法は文字単位の統計情報のみを素性とするシンプルな手法であるにもかかわらず, 実験の結果として最高で 0.93 , 最低で 0.69 の $\mathrm{F}$ 値を得ていることから，表層的な情報は地名の所属国推定に有用な特徴を有しているものと考えられる。しかし，地名文字列が所属国を特定するのに十分な情報を有していない場合には，ほとんどの国が候補として残ってしまう場合があった。 これは, 正しい所属国が候補から削除されてしまうことを避けるために適合率よりも再現率をより重視していることに起因している。その結果として，国によっては適合率が $55.09 \%$ と低くなる場合があり，どんな国に対しても高い精度の推定が可能な手法の提案が課題となっていた. この問題を解決するためには, 所属国推定の結果として候補の数が多くならないように, 可能性の低い候補を見つけ出して除去する処理が必要となる，候補に正解を残したまま，候補の数を削減することが可能となれば，適合率を向上させることができる。そこで，本稿では，Sano らの手法と同様に地名が持つ表層的な情報のみを利用して, 所属する可能性の高い候補の推定処理に加え, 所属する可能性の低い候補の除去に

よる絞达み処理を行うことで，再現率と適合率の双方の向上を実現する手法を提案する。

## 3 所属国推定のための表層情報

本節では本稿で対象とする国の地名が持つ表層情報の特徵について述べる。ここでは，対象となる国の地名が含まれるコーパスから得られる情報を明らかにし，そこから読みとることのできる特徴を示し，表層情報を用いた所属国の推定を実現するために必要な手がかりを挙げて $い<$.

地名は一般的に, 数単語から成るたかたか十数文字程度の文字列であるため, そこから得られる情報は決して多いとはいえない。しかし，人間には地名の所属国の推測が可能であることから, 地名文字列から得られる表層的な特徴は所属国の推定を可能にする情報を有していると考えることができる。地名は，人名や組織名と比較して，その所属国に対する帰属性が高い。これは，地名そのものがその土地や言語，文化に密接に関連するものであるためである．つまり， ある特定の国に属する地名はある特定の特徴を共有し，それが文字列としての表層にも現れていると考えることができる。また，地名は文字列であるだけでなく，単語列であると捉えることも可能である，単語レベルの情報は，文字レベルの情報と比較して，より確度の高い情報をもたらすが, 個々の単語の出現頻度が低いという点を考慮する必要がある．Sano らは，ブロックとよばれる単位の頻度情報を用いてこの点に対処し, 単語レベルで起こりやすいデータのスパースネスの問題を解決することで，所属国の推定の精度を向上させることができたと報告している (Sano, Nobesawa, Okamoto, Susuki, Matsubara, and Saito 2009). ブロックとは, 一種の語頭や語尾であり，言語的特徴が地名の先頭や末尾に現れやすいという特徴を利用したものである。

本稿では，地名の集合が持つ表層的な特徴を国ごとに抽出し，これを用いて所属国の推定を行う，表層的な情報のみを用いて所属国を推定する場合に必要な言語リソースは地名コーパスのみである，地名コーパスとは，国ごとに作成した地名リストを指し，その国に属する地名の集合である。本稿では，外国語文書中に埋め込まれた地名の所属国推定も想定しているため,字種情報が所属国の推定に影響しないよう，国に依らずラテン文字による記述とする。文字レベルの特徴は， 約 30 種類の文字 ${ }^{1}$ の並び方によって決定され，統計的な言語モデルを適用することで，特徴を定量的に扱うことができる。 さらに，地名に含まれる文字数も一つの特徴といえる。

本稿の手法は，地名コーパスを単に辞書引きの対象とするのではなく，地名コーパスから国ごとの特徴を抽出して処理を行うことで，地名コーパスに含まれていない地名に対しても所属国の推定を行うことを可能にするものである。これは，未知語処理の頑健性，柔軟性の向上に貢献するものと考える。また本稿ではラテン文字を処理対象として実験を行うが，本稿のアプローチは表層的な情報のみを用いているため字種に依存せず適用可能であり，その点で高い汎用性を持っているといえる。さらに，本稿のアプローチは地名コーパス以外の情報を一切必要としないことから, リソース準備にかかる人的労力や作業期間を大幅に軽減するものである.

## 3.1 地名コーパス

本稿では, ウェブ上で多く使用される言語とそれと類似性の高い言語の地名を中心に 10 ヶ国 $^{2}$ (中国, 台湾, 日本, タイ，ギリシャ，フィンランド，ドイツ，フランス，スペイン，アメリカ）を選択し，所属国推定の対象としている（表 1）３．本稿の実験では 10 の国それぞれに対して，10,000 件ずつの地名データを無作為に抽出したものを地名コーパスとして用いている. コーパス全体に含まれる計 100,000 個の地名は，それぞれの国のなかではすべて異なるが，国の間での地名には重複するものがあり（表 2), 全体での異なり数は 99,794 である．地名の重複は，言語的に近いと考えられる，中国と台湾，フランスとスペインの間で他の組合せよりも大きな数値であるが, 全体としては $0.2 \%$ 程度である. アメリカ以外のコーパスにも英語の単語

表 1 地名コーパスに含まれる地名数，単語数，文字数

が若干含まれており，例えば “富士山”はコーパス中では “Fuji Mountain”と記載されている. このような英語語句の利用は徹底されたものではなく, 例えば “浅間山” は “Asama yama”と記載される等, 現地の語句のラテン文字表記と英語を用いた表記とが混在している.

## 3.2 地名の長さ情報

地名を構成する単語数や文字数は国によって違いがある。 さらに, 各単語に含まれる文字数の分布にも違いがある. 図 1 は各地名コーパスに含まれる地名の文字数と単語数の国ごとの差異を表すものである。一つの地名に含まれる平均単語数は, 最も少ない国で 1.1 単語（フィン

表 2 国の間における地名の重なり数

図 1 地名コーパスに含まれる地名の文字数と単語数

図 2 地名単語中の文字数の分布

ランド), 最も多い国で 2.9 単語（タイ）であり, すべての国での平均単語数は 1.9 単語である. また, 一つの地名に含まれる平均文字数は, 最も少ない国で 9.7 文字 (フインランド), 最も多い国で 16.5 単語（アメリカ）であり，すべての国での平均文字数は 11.9 文字である. このように，各国の地名は，地名を構成する単語数，文字数に差異が認められるが，その差異はこれだけで所属国の推定を行うには十分とはいえない.

図 2 に国ごとの地名を構成する文字数の分布を示す. 図 2 に示されるように，例えば，夕イの地名のうち約 $68 \%$ の単語は 3 文字もしくは 4 文字で構成されている. また，フランスやスペインの地名は， 2 文字で構成される単語の割合が他の国と比べて高い.それに対して，フィンランドやドイツの地名のように， 9 文字や 10 文字で構成される単語が最も高い割合を示し, これらの国の地名は文字数の多い単語で構成されていることがわかる.

このように，地名を構成する文字数にも，国ごとに特徴がある。しかし, 文字数は同じ国のなかであっても地名間のばらつきがあり, この情報のみで所属国の推定を行うことは困難である.

## 3.3 文字出現頻度の情報

地名の所属国の推定は, 言語識別の一種である。言語識別処理では, 文字の出現頻度の情報が有効であることが知られている (Dunning 1994; Lins and Goncalves 2004). ここでは, 文字の出現頻度情報の地名の所属国の推定での有効性を検証するため, 国ごとの $n$-gram 情報の比較を行

う. 表 3 は地名コーパス中に含まれる地名の文字単位の $n$-gram を取得した結果である。表中の ‘’は空白文字を表し, ここでは一つの文字として扱っている。表 3 では, unigram, bigram, trigram の上位 5 つを示すとともに，各国について， $10 \%$ 以上の頻度を持つ unigram の個数, $3 \%$ 以上の頻度を持つ bigram の個数, $1 \%$ 以上の頻度を持つ trigram の個数を示している.

表 3 から，中国と台湾の地名から得られる unigram の類似性が非常に高いことがわかる。この二つの国は unigram と同様に bigram の出現傾向も類似している. 特に, 'AN'と 'NG' は両国で $5 \%$ 以上の出現頻度を示しており, 両国の他の bigram の出現頻度と比べても高い值である. これは 'ANG_'という文字列が両国に多く出現するためで, trigram についても 'ANG' や 'NG'の値が両方の国で高くなっている。しかし，両国の $n$-gram の出現状況には差異も見られる。このことから, 各国の特徴的な $n$-gram 情報を活用することで, 同じ言語グループに属する地名であっても，それらの所属国を区別することは可能と考えられる.

スペインの bigram 情報の上位は 'A' 'D' 'E' 'L' '_’の 5 種類の文字の組合せのみである（表 3 ）. これは，スペインのコーパスに 'Montes de Leon' や 'Jerez de la Frontera' 等 'DE' や 'LA', 'DEL' といった冠詞や前置詞が多く含まれるためである. この傾向は，フランスの地名にも同様に現れている。このような冠詞や前置詞は一般に文字数が少なく, 2 文字や 3 文字の場合が多い. この特徴は, 図 2 のフランスとスペインの地名を構成する単語数の分布にも現れている.

また, 表 3 から, unigram の比較では日本とギリシャの出現傾向が近いことがわかる. しかし, bigram で比較すると両国の類似性は高いとはいえない.これにより, unigram のみによる所属国の推定は難しいことが推測できる。 中国と台湾のように bigram を用いても区別が困難な場合もある。したがって，特定の統計情報を利用するだけでは所属国の推定には限界があり， これらを適切に組み合わせることが重要であると考えられる。

地名コーパスは一般に言語資源としては小さく, trigram より大きな $n$ での $n$-gram はデー夕

表 3 地名コーパスの $n$-gram 情報

表 4 各国の $n$-gram モデルによる各国の地名に対するパープレキシティ

スパースネスの問題が顕著化する。例えば，ギリシャの場合上位 5 種類の trigram を合計しても全体の出現頻度の $4.57 \%$ しかカバーしておらず，最も高い出現頻度を持つ 'OS_'でもカバー 率は $1.23 \%$ である。上位 5 種類の trigram がカバーする割合が最も高い中国や台湾のコーパスの場合でも，上位 5 種類の trigram の合計でそれぞれ $10.27 \%, 10.49 \%$ をカバーしているにすぎない. なお, 中国や台湾は特定の $n$-gram が特に高い頻度で出現する傾向が見られ, $1 \%$ 以上の割合を占める trigram は中国コーパスには 12 個, 台湾コーパスには 11 個含まれている. $n$-gram モデルの性能を評価する一つの指標として，各国の $n$-gram モデルのそれぞれの地名コーパスに対してのパープレキシティを表 4 に示す. 各国の $n$-gram モデルは, 対応する国のコーパスに対して高い性能を示しており，この $n$-gram モデルが所属国を推定するための情報を有していることが分かる．このパープレキシティの値は，対応する国に対してだけでなく，中国と台湾やフランスとスペイン等の間でも比較的小さな值となった。これは，これらの国を区別することが困難であることを示し, $n$-gram のみで所属国を判断することは, 所属国の推定の精度向上に限界があることが分かる.

## 4 候補絞込みと候補選択の二段階処理から成る地名の所属国の推定手法

地名の所属国の推定では, (i) 同一の地名が複数の国に存在する場合, (ii) 地名文字列に類似した特徴を持つ国が複数ある場合に，地名の所属国候補を一意に絞ることができないことがある. 前者は地名の曖昧性, 後者は国の類似性と考えることができる。どちらの場合でも, 該当する複数の国で高い所属確率を持つ地名が存在し, これらの地名に対しては該当する複数の国を候補として出力するのが妥当であり, 複数の国を候補として出力することはシステムの精度を落とすものではない。それに対して, 明らかに所属国である可能性が低い国は, 出力に含まれるべきではない，単に複数の候補を出力するだけでは，再現率は得られても適合率は下がり，

図 3 提案手法の処理の流れ

結果的にシステムの信頼性は落ちる.

本稿では, 再現率と適合率の双方の向上を実現するため, 二段階の処理で所属国の推定を行う手法を提案する. 本手法の処理の流れを図 3 に示す. 本手法は, 所属国の候補の絞込みの第一フェーズと, 所属国の候補の選択の第二フェーズの, 二段階で構成されている. 本システムの入力は地名文字列である。まず，各地名文字列について，所属国の候補の絞込みフェーズで全 10 ヶ国から 3 ヶ国まで候補を絞り込む。この段階で, 明らかに所属する可能性の低い国が候補から外される。このフェーズでは，文字単位の $n$-gram 情報をべースとした生成確率を用いて処理を行う．次に，所属国の候補の選択フェーズでこの 3 ヶ国それぞれに対して所属の可能性を推定し, 可能性があると推定されたものを所属国の推定結果として出力する.このフェー ズでは, $n$-gram の他, 長さ情報等も用いる，本システムの出力は, 入力地名文字列が所属する可能性のある国であり，推定結果に応じて $0 \sim 3$ 個の国名を出力する.

## 4.1 地名の生成確率を用いた所属国の候補絞込みフェーズ

人間による直感的な地名の所属国の推定が地名を構成する文字の並びを基にしているとすれば， 3 節で示したような地名に関する統計的な特徴を用いて所属国の推定をすることが可能である。本節では，地名の表層情報として $n$-gram のみを用いて所属国の候補の絞达みを行うフェー ズについて述べる。

ここでは，地名を構成する文字の並びが与えられたときに，その文字列が生成される確率が最も高くなるような統計情報を持つ国を選択することで所属国の候補の絞込みを行う。 $n$ 個の文字で構成される地名 $T_{1}^{n}=c_{1} \cdots c_{n}$ の国 $A$ における生成確率 $P_{A}\left(T_{1}^{n}\right)$ を $n$-gram 情報を用い

て定義する（式 1）.

$
P_{A}\left(T_{1}^{n}\right)=P_{A}\left(c_{1}\right) P_{A}\left(c_{2} \mid c_{1}\right) P_{A}\left(c_{3} \mid c_{1} c_{2}\right) \cdots P_{A}\left(c_{n} \mid c_{n-2} c_{n-1}\right)
$

ここで, $\quad P_{A}\left(c_{n} \mid c_{n-2} c_{n-1}\right)$ は国 $A$ において $c_{n-2} c_{n-1}$ の後に $c_{n}$ が出現する確率を表している. 文字単位の $n$-gram 情報は, Modified Kneser-Ney デイスカウンティングを用いて, 低次の $n$-gram 情報を補間しながら平滑化を行っている。このとき，ある地名 $T$ に対して，その生成確率 $P_{A}(T)$ が最大となるような国をその地名が属する国と推測し，それを $\hat{A}=\underset{A}{\operatorname{argmax}} P_{A}(T)$ とする.

この定義により $n$-gram 情報のみを用いて $\hat{A}$ を推定した結果を表 5 に示す. 所属国の絞达みフェーズの出力の上位 1 位の正解率 4 は平均で $85.96 \%$ であった. 表 5 に示されるように，単純な $n$-gram での推定でも, 約 $86 \%$ と高い正解率を得ることは可能である. この手法で正解率が最も高い国は夕イで $95.37 \%$ ，正解率が最も低い国は中国で $72.70 \%$ であった。中国と台湾の正解率が低いのは， 3.3 節で述べた両国の $n$-gram の類似性によるものと考えられる.

地名の所属国の推定は，もともと同一の地名が複数の国に存在する可能性がある等，所属国名を唯一出力する形式は馿染まない. 唯一の正解を判定するのではなく, 所属国の候補を絞り达むことを目的とした場合，上位 $n$ 個を候補として残すことで正解を所属国の候補から不適切に除去されるのを防ぎ，再現率を高めることができる。図 4 は，上位三個までを候補として残した場合の正解のカバー率（正解が出力された所属国の候補に含まれた割合）を表している.図 4 の Top 1 は上位一個のみ出力した場合のカバー率, Top 2 は上位二個まで出力した場合のカバー率, Top 3 は上位三個まで出力した場合のカバー率を示す. 全体の平均で，上位二個ま

表 5 生成確率による所属国の推定の正解率

$ と正解が一致した割合を表す.
}

図 4 生成確率による所属国の推定を行った場合の正解のカバー率

でを候補とした場合， $95.22 \%$ をカバーし，上位三個までを候補とした場合には， $97.46 \%$ を力バーしている。上位三個までを選択した場合では，個々の国についても，最低でも $96.03 \%$, 最高で $98.38 \%$ の再現率を達成している。これにより，このフェーズで所属国の候補を上位三位までに絞り込むことで, $98 \%$ 程度の再現率を得ることができることがわかる.

出力される所属国の候補の数を増やすことは, 適合率を下げるだけでなく, 可能性の低い国も候補に残るリスクがあるため, 各地名に対して適切な所属国の候補を必要十分な個数だけ出力する必要がある。上位一つの国名のみを出力した場合でも，平均 $86 \%$ 程度の正解率を得ることができるが，各地名に対する出力候補数の妥当性の判断が困難なため， $98 \%$ 程度の再現率を得るために, 本フェーズではすべての地名に対して三つの所属国の候補を出力する. 本手法では, このフェーズを二段階処理の第一フェーズとし， ここで 3 候補に絞り込んだ上で，第二フェー ズである候補選択フェーズで所属国の候補それぞれに対して妥当性の検証を行う（4.2 節）.

ここで，本フェーズによる候補の絞込みの結果が妥当かつ有効であることを示す。10 ケ国の組合せは ${ }_{10} C_{3}=120$ 通りであるが，図 4 で示したとおり，正解が絞込み後の 3 候補（120 通り）に含まれる可能性はおよそ $98 \%$ である。たとえば，中国と台湾が 3 候補に同時に残る場合に着目すると, この組合わせは 8 種類あるが, そのすべての組合せが 120 個中上位 8 位までに出力しており，この二つの国が同時に候補に残る可能性が高い。同じ東アジア地域である日本が 3 候補のなかに残る場合では，中国，台湾，日本の 3 ヶ国が候補として出力された割合は，正解が中国の場合で $10.67 \%$ (3位)，台湾の場合で 11.17\%（3位），日本の場合で 13.71\%（1位） であった，それに対して，中国，台湾，夕イの組合せでは，正解が中国の場合では $25.87 \% （ 1$位), 台湾の場合で $30.68 \%$ (1位), タイの場合で $12.76 \%$ (1位) の割合であり, 中国, 台湾,日本の組合せの場合よりも高い。これは, 中国語圏の地名が中国, 台湾, タイの 3 ヶ国に絞ら

れる割合が高いことを示している。また，西ヨーロッパの国であるドイツ，フランス，スペインにアメリカを加えた 4 ヶ国が互いに候補として残る確率が高くなっている。この 4 ヶ国は同じ言語圈に属するものではないが, 歴史的, 文化的背景から, 他の国と比べて類似した地名が多いものと推測できる.

ここで，同時に候補に残りやすい中国，台湾，夕イの 3 ヶ国をグループ $\mathrm{A}$ ，ドイツ，フランス，スペイン，アメリカの４ヶ国をグループ B，どちらにも含まれていないギリシャ，フィンランド，日本の 3 ヶ国をグループ $\mathrm{C}$ として， 3 候補に残る国の組合わせに何らかの傾向がないかどうかを調べたものが図 5 である。図 5 では，絞込み候補の組合せを，グループ A の国が二個以上出力された場合（カテゴリ A），グループ B の国が二個以上出力された場合（カテゴリ B），グループ C の国が二個以上出力された場合（カテゴリ C），すべてのグループから 1 ヶ国ずつ出力された場合（カテゴリ D）の 4 つに分けて示している。「AAB」は，グループ A に属する国が二つとグループ B に属する国が一つから成る所属国の候補が絞込み結果として出力された地名の割合を示し, グループ A に属する国が二つ以上であることから，グループ $\mathrm{A}$ に偏った出力としてカテゴリ A に入れている。この実験では各国の地名コーパスに含まれる地名数は同じなので，絞込みが完全に成功した場合には，カテゴリ $\mathrm{A}$ には $30 \%$ ，カテゴリ $\mathrm{B}$ には $40 \%$ ，カテゴリ C には $30 \%$ が配分されるはずである．実際には，カテゴリ $\mathrm{A}$ に $26.77 \%$ ，カテゴリ B $46.98 \%$, カテゴリ C に $18.74 \%$ が配分された. また, 3 グループからそれぞれ 1 ヶ

図 5 絞迄み結果の分類
国ずつ候補に残るような場合（カテゴリ D）は全体の $7.51 \%$ だけであり，それ以外は $90 \%$ 以上の割合でどれかのグループに偏った候補が出力されていることになる。このことから, 比較的同時に候補に残りやすい組合せの存在がわかり，本フェーズが所属国の候補の絞込み処理として妥当かつ有効であることがいえる.

## 4.2 地名の所属国選択分類器を用いた所属国の候補選択フェーズ

4.1 節の所属国の候補絞込みフェーズでは，文字の出現頻度情報のみを用いて，所属国の候補を 3 個まで絞り込んた．本フェーズでは，絞込み処理後の候補を対象に，文字の出現頻度情報と長さ情報を素性として定義し，各国に所属する地名を学習することで，分類器を用いた所属国の選択を行う. 分類器として用いるSVM は二値分類器であり，テストする対象となる地名がその国に属するか属さないかを判定する。このフェーズは, 分類された結果からその地名が属する国の候補を選び出していくアプローチである.

学習に用いる素性は，地名コーパスから得られる表層デー夕情報（3 節）である．表層デー 夕は，大別すると，地名を構成する文字の並びの長さの情報と，文字の並びが出現する確率をベースとした $n$-gram 情報の二種類がある.

地名を構成する文字の並びは，所属国によって特徴が存在する．素性として用いる長さ情報は，以下の 4 種類である.

（FL1） 地名を構成する単語数

(FL2) 地名を構成する文字数

(FL3) $n$ 番目の単語に含まれる文字数 $(1 \leq n \leq 16)$

(FL4) 地名に含まれる $m$ 文字の単語の数 $(1 \leq m \leq 32)$

3.1 節で述べたように，地名に含まれる文字数や単語数は国によってばらつきがあり，このばらつきが所属国を推定する手がかりとなり得る (FL1, FL2). 単に文字数や単語数の情報だけでなく，国ごとに単語そのものの特徴や単語の分布具合の情報も利用することができる。例えば，フランスの地名では “la”という単語が頻繁に出現するが，そのうち約半数が最初の単語として登場する。このように, 単語によっては, その単語が出現する地名内での位置に特徴がある (FL3)，また，図 2 に示したように，夕イの地名は他の国の地名と比較して 3 文字および 4 文字で構成される単語の割合が圧倒的に高い等, 地名に含まれる単語の文字数も国の特徴となり得る (FL4).

また，素性として用いる $n$-gram の情報は，以下の 3 種類である.

（FN1）文字単位の unigram 情報

(FN2) 文字単位の bigram 情報

（FN3）文字単位の trigram 情報

$n$-gram 情報は文字単位であり，空白等の記号も一つの文字としている，各素性の値 $V$ は国 $A$ のコーパスの $n$-gram の出現確率をべースに計算し, 次のように定義する（式 2 ）.

$
V_{A}(t, c)=P_{A}(c) \times N(t, c)
$

$c$ を長さ $n(1 \leq n \leq 3)$ の文字の並びとした場合， $P_{A}(c)$ は国 $A$ における文字列 $c$ が出現する確率, $N(t, c)$ は地名 $t$ の中で文字列 $c$ が出現した回数を示す. 素性の値は, $n$-gram 情報と対象とする地名に依存しており，ある文字列のその国での出現しゃすさと，その地名の中での出現しやすさを示している。ここでは，地名が所属する国を正例，それ以外の国を負例として，地名コーパスから各国の地名の特徴を学習した SVM を二値分類器として利用し, 入力となる地名を対象国として分類するべきかどうかを判断する。

対象となる $p$ 個の国の中から異なる $q$ 個の国を選び出し $\left({ }_{p} C_{q}\right.$ 通り), 選ばれた $q$ 個の国に対して所属国であるかどうかをそれぞれの分類器によって判定する．本フェーズでは，選ばれた $q$ 個の組合せごとに学習対象が異なるため, 一つの組合せごとに $q$ 種類の分類器を用意する.本稿では，全体として 10 ヶ国を対象とし，絞込み処理によって 3 候補の組合せが選び出されるため, 全体では 360 種類 $\left({ }_{p} C_{q} \times q={ }_{10} C_{3} \times 3\right)$ の分類器を用いている.

表 6 に，グループ A の 3 ヶ国（中国，台湾，タイ）について, この 3 ヶ国を対象に本分類器を用いて所属国の推定を行った結果を示す.ここでは, この 3 ヶ国の地名コーパスを 5 分割し，クロスバリデーションによる評価を行うことで，地名コーパスに存在しない地名を対象としたオープンテストとして所属国の推定の正解率5を測った. グループ A に属する 3 ヶ国のみを対象として学習した場合, 表 6 に示したとおり, F 值は最低で 0.73 , 最大で 0.95 となった.正解が台湾の場合の適合率が $59.87 \%$ と低いが，この場合でも再現率は $93.71 \%$ であり，正解が候補として出力される確率は十分に高い．表 7 はグループ B に属する 4 ヶ国を対象として，その中から 3 ヶ国ごとに対して分類器による所属国の選択を行った結果である。このグループで

表 6 候補選択分類器による所属国の選択結果（中国，台湾，タイ）

も, $\mathrm{F}$ 値は最低 0.75 , 再現率は最低で $95.55 \%$ で, 正解が候補として出力される可能性は十分高い. 同様に，表 8 はグループ $\mathrm{C}$ に属する 3 ヶ国を対象として分類器による所属国の選択を行った結果である。これらの結果から，同じグループに属する国の間での分類であっても，十分な正解率が得られることが示された。同じグループに属する国は他の国に比べて類似性が高いものであり，これらの間での分類が最も難しい部分となる. 10 ヶ国全体を対象とした学習では，類似性の低いもの同士の間の差異の特徴が強調され，類似性の高いもの同士の間の差異の学習は進み辛いが，本フェーズでは絞込み後の 3 ヶ国間の分類の学習を行うことで，類似性の高い国の間での所属国の選択の精度の向上を実現した。

ここで，対象国の数による影響を調べるために，10 ヶ国全てを対象として選択分類器を用いた場合の所属国推定の結果を示し, 本フェーズの所属国の選択分類器の特徴を述べる。表 9 は, クロスバリデーションで 10 ケ国すべてを対象として所属国の推定を行った結果である．全ての国の地名に対して $90 \%$ 以上の正解率を示し, 全体でも $93.54 \%$ の正解率を示した. 表 10 は, この実験の結果について，地名に対する所属国の候補の中に正解が含まれているか否かとの観点で集計したものである。すべての国について $\mathrm{F}$ 值は最低でも 0.7 前後であり， $\mathrm{F}$ 值が最大となるタイの地名に関しては 0.93 に達している。また, 全体的に適合率よりも再現率の方が高い

表 7 候補選択分類器による所属国の選択結果（ドイツ，フランス，スペイン，アメリカ）

表 8 候補選択分類器による所属国の選択結果（ギリシャ, フィンランド，日本）

値を示している。低い適合率は不正解を誤って所属国の候補として分類するケースがあることを表している。

所属国の推定タスクを考える場合, 最も大きな問題は同じ言語を使用する複数の国の間での判別である。たとえば，中国や台湾では中国語を使用している。使用している言語が同一であったり類似性の高いものであったりする場合，異なる国であっても，地名を構成する文字の並びが持つ特徴は類似したものとなる。また，言語が異なる場合でも，地理的に近い国では，文化的, 歴史的背景から，似た地名が複数現れる場合がある。地名コーパスから得られる特徴が類似している場合, 所属国の推定は困難となるが, 国によっては複数の公用語や先住民の言語が使われることによって所属国の推定するための特徴を見出せる可能性がある.

図 6 と図 7 は, 各国について選択分類器を用いて所属国の推定を行った結果として, 中国または台湾が候補となった割合を示す. 図 6 と図 7 に示されるように, 中国と台湾の地名の所属国の推定では，どちらの地名も，互いを同時に候補に残す場合が多く見られ，逆に，中国

表 9 所属国の選択分類器の精度

図 6 中国が候補として出力された割合表 10 選択分類器による国ごとの所属国候補選択の結果

図 7 台湾が候補として出力された割合

と台湾以外の国が候補に残る可能性は低い.

3 節で述べたように，中国の地名と台湾の地名では $n$-gram 情報で類似した特徴を持っている（表 3）が，長さの情報に違いが見られる（図 1）等，差異は存在する。10 ヶ国での実験結果（表 10）と比較して, 中国と台湾のみの地名を用いて学習を行った選択分類器を用いた場合には，再現率を高く保ったままで適合率をあげることができている（表 11，表 12），表 11 と表 12 の比較から, 生成確率を用いた所属国の候補の絞込みと, 選択分類器による精度の向上の組合せによって, 再現率と適合率の両方を向上させることがわかる. 10 ケ国で学習する場合と 2 ヶ国に絞って学習する場合では学習内容が異なり，10 ヶ国での学習の場合では本稿の第一フェーズのような絞込みの意味合いが強いのに対して，類似の 2 ヶ国に絞って学習する場合ではその 2 ヶ国間での差異が強調される。本稿は，第一フェーズで候補の絞込みを行った上で，第二フェーズとして絞込み後の 3 候補のみを対象として学習した選択分類器を用いて候補選択を行うことで，地名の所属国の推定の精度を向上させるものである.

## 4.3 生成確率情報と選択分類器を組み合わせた地名の所属国の推定

本稿の提案手法は, 4.1 節の生成確率を用いた候補絞込み手法を第一フェーズ, 4.2 節の選択分類器を用いた所属国の候補選択手法を第二フェーズとした二段階の処理で所属国の推定を行うものである（図 3 ）。

表 13 に， 4.1 節の生成確率のみを用いた手法, 4.2 節の選択分類器のみを用いた手法, その両方を組み合わせた本提案手法のそれぞれについて，所属国の推定を行った結果を示す。生成確率のみを用いた手法では $\mathrm{F}$ 値は 0.49 と低いが，その主因は適合率の低さにある。生成確率のみを用いた手法は再現率が高く, このことから, 本手法でこの手法を処理の第一段階の絞込みフェーズとして用いたことは妥当であるといえる.

生成確率と選択分類器の両方を組み合わせた本手法の $\mathrm{F}$ 值は 0.83 であり, 選択分類器のみ

表 1110 ケ国で学習した場合（表 10 抜粋）

表 122 ケ国で学習した場合

表 13 各手法を用いた所属国の推定の結果

を用いた手法の $\mathrm{F}$ 値 0.74 と比べて，向上を示した. 両者の再現率にほとんど違いがないにもかかわらず，適合率は，生成確率と選択分類器を組み合わせることで， $61.58 \%$ から $74.08 \%$ へ向上しており，これが $\mathrm{F}$ 値の改善に繋がった.

選択分類器のみを用いた場合には，生成確率のみの場合と比べ，再現率は若干劣る。生成確率を用いた手法を絞込みフェーズとして用いた後に選択分類器を選択フェーズとして実行する本手法でも，再現率は選択分類器のみの場合とほぼ同じであり，絞込みフェーズの段階で再現率が $98 \%$ 程度に落ちることを考え合わせると, 本手法の所属国の選択フェーズでの正解の脱落は十分少ないことがわかる.

図 8 は，各国の所属国の推定結果を表している。生成確率と選択分類器を組み合わせた本提案手法（図中の黒丸）では，再現率が $95.03 \%$ ，適合率が $74.08 \%$ であり， $\mathrm{F}$ 值が 0.83 であった。生成確率のみの情報を用いた手法（図中の黒三角）では適合率が $32.49 \%$ と低いが，再現率は $97.46 \%$ と高くなっている。選択分類器のみを用いた手法（図中の黒四角）では， $n$-gram と長さの情報を用いることで適合率を $61.58 \%$ に向上させている。図 8 では，国ごとに比較した場合でも同様の傾向が見られ，どの国に対しても効果を発揮する手法であることが期待できる。この結果は，正しい国を候補として残しつつも，正しくない国を候補から除去する能力を

図 83 手法の適合率および再現率の比較
向上させたことを示している.

これらのことから, 複数の所属国の候補をまず可能性の高い所属国の候補のみに絞り込む第一フェーズと, 絞込み後の候補のみに対象を絞って選択分類器に掛ける第二フェーズから成る本提案手法は, 第一フェーズによる可能性の低い候補の除去と, 第二フェーズによる類似している国の間の差異を用いた候補選択とがそれぞれ有効に働き，高い再現率を保ったまま適合率を向上させることができると結論付ける.

## 5 関連研究

言語の多様化にともなって, 自動的に言語の識別を行うことの重要性が増してきている。その一つの背景には, ウェブの急速な成長にともなう英語以外の文書の増加がある. Internet World Stats による近年のウェブユーザ数の言語別集計の結果 ${ }^{6}$ によると, 2008 年現在では, 依然として英語を利用するユーザが最も多く, それに続いて, 中国語, スペイン語, 日本語, フランス語を利用するユーザが多い. 2000 年からの言語別ユーザ数の増加の割合は, アラビア語, ポルトガル語, 中国語, フランス語, スペイン語が大きな伸びをみせている。この調査結果は, 用いられる言語の多様性が増していることを示しているといえる。また, ウェブ上の文書の内の半数以上は英語以外の言語で書かれているものであると同時に，一つの文書の中で複数の言語が使われていることもある. 多種多様な情報元からの情報検索や質問応答, 機械翻訳等, ウェブ上の膨大なデー夕を対象とした自動処理の実現においては，文書の使用言語の自動推定だけでなく, 文書中に出現する固有名詞等の外国語の語句の的確な解析も, 自然言語処理の応用分野における精度向上に大きな影響を与える要因となりうる。

## 5.1 統計情報を用いた言語識別に関する研究

言語識別の研究は, 文書を対象としたものに限らず, 音声認識 (Matrouf, Adda-Decker, Lamel, and Gauvain 1998; Berkling and Barnard 1994) や，文書イメージを対象にしたものもある. Sibun らは, 文書イメージから抽出された文字の形状の統計的な分布を利用して言語識別を行った (Sibun and Spitz 1994). 彼らは, アルファベットの文字の形状を, ベースライン, ボトム, トップ，X ハイトの情報を使って分類し，文書中の文字を Linear Discriminate Analysis (LDA) を用いて分類した． 2,000 から 3,000 文字を含む 23 の言語の文書イメージを用いて文書を構成する言語を識別する実験を行った結果， $90 \%$ 以上の精度を達成している.

Dunning は, ドイツ語の ' $\mathrm{u}$ ' やフランス語の ' $\hat{e}$ '等のアクセント記号を用いずに, 5,000 バイトのトレーニングコーパスと 500 バイトのテスト用テキストを用いた言語識別の実験で $97 \%$ の

精度を実現している (Dunning 1994). Dunning らは 20 バイトのテスト用テキストでも $92 \%$ の精度での言語識別を実現し, 短い文書や数単語で構成される句であっても, 言語識別が可能であることを示した。

Lins らは，文書中に含まれる複数の単語に対して各言語の辞書中での出現の有無を調べる手法で言語識別を行った (Lins and Goncalves 2004). Lins らは言語内で比較的種類が少ないとされている副詞，冠詞，接続詞，感嘆詞，数詞，前置詞，代名詞のみを辞書引きの対象とすることで, 高速かつ汎用性の高い手法を提案している. Lins らはこの手法を用いて, ポルトガル語, スペイン語, フランス語, 英語の文書（約 1,000 単語で構成される 600 の文書）を対象とした評価実験を行い，ウェブの文書でも $80 \%$ 以上，通常の文書では $90 \%$ 以上の精度を達成している。

Martins らは, ウェブページに特化した言語識別手法を提案した (Martins and Silva 2005). Martins らの手法は, $n$-gram（1 から 5) 情報のプロファイル間の距離と, ウェブページ固有のヒューリスティクスを用いるものである. 12 の言語で各 500 ウェブページを用いた実験では,全ての言語で $84 \%$ 以上の正解を出したが，スウェーデン語とデンマーク語等の北欧の言語の類似性が若干の精度の低下をもたらしたことを今後の課題として挙げている。

また，地名以外の固有名詞として人名に着目し統計情報を用いた所属国の推定を行う研究もある. Nobesawa らは，言語識別の手法を人名に対して適用することで，人名用の言語識別のためのシンプルなシステムを提案し，人名を属する国で分類することが可能であることを示した (Nobesawa and Tahara 2005). この手法は, 人名文字列の長さや, 人名の文字単位の $n$-gram の情報を活用したものであり， 9 種類の言語圈の 12 の国に対して $90 \%$ 以上の精度を実現することに成功している。また, Nobesawa らは, 英語の人名に対してSVM の分類器を用いた手法も提案している (Nobesawa and Tahara 2006).

## 5.2 エリア推定に関する関連研究

地名のエリア推定の最終的な目標は, その地名が地球上のどの場所を示しているのかを判断することである，文章中の地名のエリア推定タスクは，一般に，（1）地名文字列の認識， (2) 地名文字列の国推定，(3) 地名文字列と場所との対応付け，の三段階の処理からなる. (1)の地名文字列の認識は固有名詞の自動抽出タスクに相当する。(2) および (3) は, 地名文字列と地球上の場所との対応付けを行う処理である。本稿ではこのうち，研究のあまり進んでいなかった (2)の所属国推定を目的とし，その実現手法を提案するものである.

(3) の地名文字列と場所との対応付けの研究では, あらかじめ対象ドメインや対象言語を制限することで, (2) の所属国の推定のステップを省略することが多い. したがって, 本稿が対象とする所属国の推定の研究は, この地名文字列と場所との対応付けの研究を助け, その精度の向上に寄与するものと考えている.

本節では, 関連する研究として (3) の地名文字列と場所との対応付けを行っているものにつ

いて述べる。これらは，対象の地名が辞書に登録されていることを前提として辞書引きによって場所の候補を探しだし，複数の場所が候補として挙がる等の曖昧性がある場合には文脈情報等を用いてその判別を行うアプローチが一般的である.

Hauptmann と Olligschlaeger は，音声データを対象とした場所の判別を行う手法を提案している (Hauptmann and Olligschlaeger 1999; Olligschlaeger and Hauptmann 1999). 基本的には地名辞書に含まれる地名のみを対象としているが, 同じ地名であっても複数の異なる場所を示す曖昧性がある場合には，同一の会話内に現れる他の地名の情報を活用することによって，その場所の相違を判断している. Hauptmann らの手法では, 200 のニュース記事に出現した 357 の地名のうち 269 の地名を正しく判別することができ， $75 \%$ の精度を達成している. Hauptmann らは，正しく判別することができなかったものは，地名辞書に載っていなかったもの，曖昧性によるエラー，音声認識誤り等が原因であると報告している.

また, Smith らは地名の曖昧性の解消に焦点を当て, 文書中の地名の出現頻度の重心を利用した手法を提案した (Smith and Crane 2001). これは, 地名の出現頻度によって重みが付けられた地図上での重心を計算し，ある間値よりも離れているものを枝刈りした上で重心を再度計算しなおすことで候補の曖昧性を解消しようとするものである。大きな地名辞書を使うことによって, 再現率を高く保てるようにした上で, $\mathrm{F}$ 值が 0.81 から 0.96 という結果を出している. しかし，この手法はその重心の付近を示すだけであり，重心のみを使用しただけでは頑健性に欠ける場合があると結論づけいる.

地名の曖昧性を解消するための手法として，Li らは，地名表現のパターンマッチングと重み付き地名の類似度グラフの探索, サーチエンジンを用いた地名辞書の補間の三つのアプローチを組み合わせる方法を提案した (Li, Srihari, Niu, and Li 2002). 地名表現のパターンマッチングでは, 'city of' + “地名” (“city of Vancouver”等) や“地名 $1 ”+$ ', + “地名 2 ” + ', + “地名 3” (“Boston, Massachusetts, USA” 等) といった地名の周辺の表現のパターンを利用している. $\mathrm{Li}$ らは大きな地名辞書と地名表現のパターンマッチングを用いることで, $93.8 \%$ の精度を実現した.

Pouliquen らは，ヨーロッパのエリアに限定したマルチリンガルテキストを対象として，場所の判別の精度の向上を目指す手法を提案した (Pouliquen, Kimler, Steinberger, Ignat, Oellinger, Blackler, Fuart, Zaghouani, Widiger, Forslund, and Best 2006).この手法では, "And", "To", “Be" 等の瀕出する単語と同形異義語であるような地名を geo-stop list として抽出し, このような地名を候補から排除することで，精度の向上を図っている。また，それ以外にも場所の重要度, 人名との区別, 地名同士の物理的な距離の情報等を用いて曖昧性の解消を行っている. geo-stop list に登録されている地名を候補から排除することで再現率は低下するが，F 値で 0.77 という結果を示している.

Clough は, 複数の地名辞書を用いた場所の判別手法を提案している (Clough 2005). 複数の
地名辞書を優先順位を付けて検索し, stop-list を使って，各候補に対してスコアを与えている。 このスコアは, 地名表現の周辺の出現パターン, オントロジにおける階層の深さ, 地名辞書の優先順位, ユーザのプリファレンスによって計算される. Clough はイギリス, フランス, ドイツ，スイスを対象とした実験で $89 \%$ の精度を達成している。

Zong らは, ウェブページに対してそのページが記述しているエリアを判別する実験を行った (Zong, Wu, Sun, Lim, and Goh 2005). アメリカに関する文書のみを対象とし, 地名の周辺の出現パターンと地名同士の物理的な距離を利用することで, 地名が 32 個以上 199 個以下だけ含まれるウェブページを対象に 760 の地名について実験を行い $88.9 \%$ の精度を達成している.

これらの関連研究のほとんどは, 文書中に出現する地名を対象としており, 文脈の情報を用いて地名の場所の判別を行っている.これらは, その地名がどんな文脈で出現し, 同時に出現するその他の地名とどんな関連があるのかといった情報を積極的に利用する方法である．これらの手法の大きな特徴として, 地名の認識および場所の判別に地名辞書を利用していることが挙げられる。地名を表記するときによく用いられるパターンや会話における局所性等の自然言語処理でよく用いられるヒューリスティクスだけではなく, 都市の人口数, 実際の二地点間の距離等の地理的な情報を活用しているものもある。このような辞書べースのアプローチは, 特定のドメインを対象とした処理の場合には高い精度で場所の判別を行うことが可能である.このように一般的な自然言語処理のヒューリスティクスが適用可能な情報元を用い，かつ，そのドメインに出現しうる地名が変化するスピードが遅く, 辞書や地理的なデータの整備を十分に行える場合には，これらの手法は十分に適用可能である.

しかし，全世界のすべての地名を網羅した地名辞書を整備することは現実的でない上に，情報元の多様化のスピードがますます加速している現在では, より頑健性の高い柔軟な手法が必要と考えられる. Rauch らは, 知らない地名であっても人間はその所属地域をある程度推測可能であるという事実を背景として, 表層的な統計情報をべースとしたシステムが有効であると主張している (Rauch, Bukatin, and Baker 2003). 本稿は, Rauch らと同じ主張を共有し, 具体的な実現手法を提案するものである.

## 6 おわりに

文書中に現れる地名の所属エリア推定処理は, 未知語処理の観点からも, 今後さらに重要になるものと考えられる。地名を対象とした従来のエリア推定では，対象となる地名が辞書に登録されていることを前提とするものが多く, 利用する辞書への依存度が高かった. 有名無名に関わらずすべての地名を対象としたエリア推定処理の実現のため, 本稿では，地名辞書や文脈情報を全く使用せず，地名の表層情報のみを活用して，地名が所属する国を自動的に推定する手法を提案した。 本手法は, 表層情報としては文字単位の $n$-gram 情報や長さの情報を使い, こ

れらの特徴を画一的に扱った表層情報の学習と文字の出現確率を組み合わせることで，所属国の推定を実現するものである。本稿では，10 ヶ国を対象とした評価実験で平均 $95.03 \%$ の再現率， $74.08 \%$ の適合率を得, 本手法の有効性を確認した。地名はたかたか十数文字程度の文字列であるため，そこから得られる情報は決して多くはないが，本手法では，侯補の絞込み処理と候補選択処理とを適切に組み合わせることで，再現率を高く保ったまま適合率をあげることに成功した。

同名の地名が複数の国に存在し得る等，地名の所属国には曖昧性があるが，本手法ではこれを考慮し，所属する可能性の高い国を最大 3 個までに絞り込む。所属国の絞込みができれば,地名辞書等の情報源や文脈情報等を活用して曖昧性の除去を行う従来研究を活用することができるようになる。本稿の手法は地名辞書にも載っていないような小さな場所の地名にも対応できる能力を持ち，高い頑健性をもった手法である.

## 参考文献

Berkling, K. M. and Barnard, E. (1994). "Language Identification of Six Languages Based on a Common Set of Broad Phonemes." In Proceedings of the 3rd International Conference on Spoken Language Processing (ICSLP '94), pp. 1891-1894.

Clough, P. (2005). "Extracting Metadata for Spatially-aware Information Retrieval on the Internet." In Proceedings of the 2005 ACM Workshop on Geographic Information retrieval (GIR '05), pp. 25-30.

Dunning, T. (1994). "Statistical Identification of Language." Tech. rep. MCCS-94-273, Computer Research Laboratory Technical Report.

Hauptmann, A. G. and Olligschlaeger, A. M. (1999). "Using Location Information from Speech Recognition of Television News Broadcasts." In Proceedings of the ESCA ETRW Workshop on Accessing Information in Spoken Audio, pp. 102-106.

Li, H., Srihari, R. K., Niu, C., and Li, W. (2002). "Location Normalization for Information Extraction." In Proceedings of the 19th International Conference on Computational Linguistics, pp. 1-7.

Lins, R. D. and Goncalves, P. (2004). "Automatic Language Identification of Written Texts." In Proceedings of the 2004 ACM Symposium on Applied Computing (SAC '04), pp. 1128-1133.

Martins, B. and Silva, M. J. (2005). "Language Identification in Web Pages." In Proceedings of the 2005 ACM Symposium on Applied Computing (SAC '05), pp. 764-768.

Matrouf, D., Adda-Decker, M., Lamel, L. F., and Gauvain, J. L. (1998). "Language Identification Incorporating Lexical Information." In Proceedings of the 5th International Conference on

Spoken Language Processsing (ICSLP '98), pp. 181-184.

Nobesawa, S. and Tahara, I. (2005). "Language Identification for Person Names Based on Statistical Information." In Proceedings of the 19th Pacific Asia Conference on Language, Information and Computation (PACLIC 19), pp. 289-296.

Nobesawa, S. and Tahara, I. (2006). "Area Identification of English Person Names Based on Statistical Information." In Proceedings of the 19th IEEE Canadian Conference on Electrical and Computer Engineering (CCECE 2006), pp. 1688-1691.

Olligschlaeger, A. M. and Hauptmann, A. G. (1999). "Multimodal Information Systems and GIS: the Informedia Digital Video Library." In Proceedings of the 1999 ESRI User Conference, pp. 102-106.

Pouliquen, B., Kimler, M., Steinberger, R., Ignat, C., Oellinger, T., Blackler, K., Fuart, F., Zaghouani, W., Widiger, A., Forslund, A.-C., and Best, C. (2006). "Geocoding Multilingual Texts: Recognition, Disambiguation and Visualisation." CoRR, abs/cs/0609065, pp. 53-58.

Rauch, E., Bukatin, M., and Baker, K. (2003). "A Confidence-based Framework for Disambiguating Geographic Terms." In Proceedings of the HLT-NAACL 2003 Workshop on Analysis of Geographic References, pp. 50-54.

Sano, T., Nobesawa, S. H., Okamoto, H., Susuki, H., Matsubara, M., and Saito, H. (2009). "Robust Toponym Resolution Based on Surface Statistics." IEICE Transactions on Information and Systems, E92-D (12). To appear.

Sano, T., Nobesawa, S. H., and Saito, H. (2007). "Automatic Country Identification of Area Names Based on Surface Features." In Proceedings of the 7th International Symposium on Natural Language Processing (SNLP 2007), pp. 13-18.

Sibun, P. and Spitz, A. L. (1994). "Language Determination: Natural Language Processing from Scanned Document Images." In Proceedings of the 4th Conference on Applied Natural Language Processing, pp. 15-21.

Smith, D. A. and Crane, G. (2001). "Disambiguating Geographic Names in a Historical Digital Library." In Proceedings of the 5th European Conference on Research and Advanced Technology for Digital Libraries (ECDL '01), pp. 127-136.

Zong, W., Wu, D., Sun, A., Lim, E.-P., and Goh, D. H.-L. (2005). "On Assigning Place Names to Geography Related Web Pages." In Proceedings of the 5th ACM/IEEE-CS Joint Conference on Digital Libraries (JCDL '05), pp. 354-362.

## 略歴

佐野智久：1997 年慶應義塾大学大学院前期博士課程計算機科学専攻修了. 現在, 同大学院後期博士課程開放環境科学専攻在学中. 自然言語処理に関する研究に従事.

延澤志保：2002 年慶應義塾大学大学院後期博士課程計算機科学専攻修了. 博士 (工学). 同年東京理科大学理工学部助手. 現在, 東京都市大学 (旧武蔵工業大学) 知識工学部講師. 自然言語処理に関する研究に従事. 言語処理学会,情報処理学会, 電子情報通信学会, 計量国語学会各会員.

岡本紘幸：2003 年慶應義塾大学大学院開放環境科学専攻前期博士課程修了.現在, 岡本工業株式会社に勤務. 自然言語処理, 画像処理, 音楽情報処理などに興味を持つ. 情報処理学会, 言語処理学会各会員.

鈴木宏哉：2005 年慶應義塾大学大学院前期博士課程開放環境科学専攻修了.現在, 同大学院理工学研究科後期博士課程在学中. 自然言語処理に関する研究に従事. 情報処理学会, 言語処理学会各会員.

松原正樹：2006 年慶應義塾大学大学院前期博士課程開放環境科学専攻修了.現在, 同大学院理工学研究科後期博士課程在学中. 音楽情報処理, 認知科学に関する研究に従事. 日本音響学会, 日本認知科学会各会員.

斎藤博昭: 慶應義塾大学工学部数理工学科卒業. 工学博士. 現在, 同大理工学部情報工学科准教授. 自然言語処理, 音楽情報処理などに興味を持つ。言語処理学会, 日本音響学会, 電子情報通信学会各会員.

(C) The Association for Natural Language Processing, (Licensed under CC BY 4.0）https://creativecommons.org/licenses/by/4.0/


# 形態論的制約を用いたオンライン未知語獲得

村脇 有吾 $\dagger$ ・黒橋 禎夫 $\dagger$
}

日本語の形態素解析における未知語問題を解決するために，オンライン未知語獲得 という枠組みと，その具体的な実現手法を提案する。オンライン未知語獲得では,形態素解析器と協調して動作する未知語獲得器が, 文が解析されるたびに未知語を 検出し, その可能な解釈の候補を列挙し, 最適な候補を選択する。このうち, 列挙 は日本語の持つ形態論的制約を利用し, 選択は蓄積した複数用例の比較により行う.十分な用例の比較により曖昧性が解消されると, 解析器の辞書を直接更新し, 獲得 された未知語が以降の解析に反映される. 実験により, 比較的少数の用例から高精度に未知語が獲得され, その結果形態素解析の精度が改善することが示された。

キーワード : 未知語, 辞書, 語彙獲得, 形態素解析
## Online Acquisition of Japanese Unknown Morphemes using Morphological Constraints

\author{
Yugo MurawakI $^{\dagger}$ and Sadao Kurohashi ${ }^{\dagger}$
}

To solve the unknown morpheme problem in Japanese morphological analysis, we propose a novel framework of online unknown morpheme acquisition and its implementation. In online unknown morpheme acquisition, an unknown morpheme acquirer, which works in concert with the morphological analyzer, detects unknown morphemes from each segmented and POS-tagged sentence, enumerates its possible interpretations, and selects the best candidate. In enumeration, morphological constraints of the Japanese language are utilized, and selection is done by comparing multiple examples kept in storage. When the number of examples being compared is large enough for disambiguation, the acquirer directly updates the dictionary of the analyzer, and the acquired morpheme will be used in subsequent analysis. Experiments show that unknown morphemes are acquired from relatively small numbers of examples with high accuracy and improve the quality of morphological analysis.

Key Words: unknown morpheme, dictionary, lexicon acquisition, morphological analysis

## 1 はじめに

形態素解析は，文を形態素列に分割し，各形態素に品詞をタグ付けするタスクである。形態素解析は自然言語処理における基盤技術であり，構文解析や情報検索といった応用を実現するうえで高い精度の達成が不可欠となる。 日本語の形態素解析では, あらかじめ定義された辞書

を用いる手法が高い精度を達成している (Kurohashi, Nakamura, Matsumoto, and Nagao 1994;浅原, 松本 2002; Kudo, Yamamoto, and Matsumoto 2004). この手法では, 入力文は辞書引きにより得られた形態素のラティスに展開され，ラティス中の最適なパスが出力として選択される.しかし, 辞書に基づく形態素解析には, 辞書にない形態素（未知語）の解析を誤りやすいという問題がある。例えば, 形態素解析器 $\mathrm{JUMAN}^{1}$ は, デフォルトの辞書を用いると, 未知の動詞「ググる」を誤って「ググ」と「る」に分割する。この未知語問題は, 未知語を解析用の辞書に追加することで解決する. しかし, 人手による辞書登録はコストがかかるため, 計算機による自動化が望まれる。

人手によらない未知語問題への解決策として，2通りの手法が提案されている. ひとつ目の手法では, 形態素解析における未知語モデルを改良する (Nagata 1999; 内元, 関根, 井佐原 2001; Asahara and Matsumoto 2004; 東, 浅原, 松本 2006). 日本語の形態素解析で広く用いられる未知語モデルは, 字種に基づく簡単なヒューリスティクスだが, 代わりに統計や機械学習に基づく未知語モデルを導入すると未知語同定の精度が向上する。二つ目の手法では, テキストから未知語を自動獲得し, 形態素解析用の辞書を拡張する (Mori and Nagao 1996). 二つの手法を比べると, 前者は入力文中の個々の未知語を同定しようとするのに対し, 後者は同じ未知語のテキスト中での複数の使われ方を比較できるという点で異なる. 複数の使われ方の比較は未知語の同定に効果的と考えられる。例えば「ようつべ」（YouTube のスラング）という形態素を知らないまま，「ようつべって」という文を解釈したいとする。このとき,「ようつべ」は，未知の名詞以外にも，未知の動詞「ようつべる」とも解釈でき，いずれが正しいか判断しがたい.同様に, 別の文「ようつべとは, “」について, 名詞「ようつべ」の他に, 動詞「ようつぶ」の命令形とも解釈できる. しかし, 両者を見比べると, 2 文とも名詞「ようつべ」で解釈できることから，名詞という解釈がより自然たと推測できる，従って，本論文では後者の手法を採用する。ただし，両者は対立するものではなく，組み合わせることで，より高い解析精度が得られるようになると期待できる。

未知語獲得の従来手法はバッチ処理であり，コーパスをソートしてすべての部分文字列を調べる (Mori and Nagao 1996). しかし, この手法は効率が悪い. なぜなら高頻度の形態素のほとんどが解析用の辞書に登録済みであり，一般に出現頻度でコーパスの $90 \%$ 以上を網羅している。 こうした既知の形態素を改めて獲得しても無駄になる. これに対し, 提案手法では, 辞書に登録されていない形態素のみを獲得対象とする.

従来研究は, 資源の制約から，主に小規模な新聞記事を対象に行われてきたが，近年，ウェブの出現により大規模なテキストが入手可能となっている. それに伴い, 自然言語処理の様々な分野でデータの大規模化による性能向上が報告されている (Banko and Brill 2001; Brants, Popat,
^{1}$ http://nlp.kuee.kyoto-u.ac.jp/nl-resource/juman.html
}

Xu, Och, and Dean 2007). しかし, 未知語獲得は, データの大規模化が単純に解決する性質の問題ではない，未知語の中には，「ブログ」のように高頻度ながら登録が漏れているものもあるが，大部分がいわゆるロングテールに属す低頻度の形態素である。こうした形態素の出現するテキストには偏りがあるだけでなく, デー夕を増やすだけでは, 次々と新たな未知語が出現してきりがない．従って，とにかくデータを与えてそこから未知語を獲得するよりも，個々の未知語候補に着目し，それが獲得されるまでデータを読み込む方が自然である。そもそも，未知語の同定のために，何千，何万もの使われ方を調べる必要はなく，直観的には，ほとんどの場合， 10 件程度を見比べればほぼ明らかではないかと思われる。

本論文では，オンライン未知語獲得という枠組みと，その具体的な実現手法を提案する。才ンライン未知語獲得では, バッチ処理ではなく, 逐次的に入力されるテキストから未知語を獲得する。形態素解析器自体は, 通常通りテキストを文単位で解析し, 形態素列を出力する，異なる点は, 解析の裏で未知語獲得器が動作することである。 具体的には, 解析された文から未知語を抽出し, 適当な時点で形態素解析器の辞書を更新する。これにより獲得された未知語が形態素解析に反映される.

オンライン未知語獲得では，獲得開始時に対象コーパスを決める必要がない。そのため, 例えば，クローラが毎日新たなぺージを取得するという設定でも，この差分のみから未知語が獲得できる.

オンライン未知語獲得は, 検出, 列挙, 選択のサブタスクにより実現される。このうち, 列挙は日本語の持つ形態論的制約を利用し, 選択は蓄積した複数用例の比較による. 実験により比較的少数の用例から高精度に未知語が獲得され, その結果形態素解析の精度が改善することが示された.

本論文の構成は次の通りである． 2 章で未知語獲得タスクを整理し， 3 章でオンライン未知語獲得の枠組みを提案する． 4 章では，オンライン未知語獲得の実現手法のうち, 列挙と選択を説明する． 5 章で実験結果を報告し，6 章で関連研究，7章で結論を述べる.

## 2 未知語獲得タスク

未知語獲得とは, 未知語について, テキスト中の一つ以上の用例から辞書項目を帰納的に生成するタスクである。ここで，辞書項目は辞書の項目として記述される形態素であり，テキスト中に出現したその形態素を用例とよぶ. 例えば，未知語「ググる」について，「なんとなくググってみた.」や「ググらずに答える.」といったテキスト中の用例から辞書項目を生成する。たたし，個々の用例の解釈には曖昧性があり，そうした曖昧性を解消することによって辞書項目が生成される.

辞書項目の生成には語幹と品詞の同定が必要となる.「ググる」の例にあるように, 動詞や形
容詞は文法的役割に応じて形態変化を起こすが, この形態変化は活用という概念によって処理される。活用する形態素は語幹と語尾からなる。語幹は不変だが，語尾は活用に応じて変化する。例えば，「ググって」は語幹「ググ」と語尾「って」からなる，名詞は活用せず，語幹のみからなる。

品詞は形態素解析用に定義されたものに基づく．ただし, 既存の品詞は人手での付与が前提となっており，形態，構文，意味レベルの情報が混在している。未知語獲得タスクにおいて，いきなり意味レベルの情報を獲得するのは難しいため，本論文では，ひとまず形態レベルの情報の獲得を目指す。そのために，品詞分類を整理する，以下の説明は形態素解析器 JUMAN が採用する品詞体系に基づく，品詞体系の設定方法には様々な流儀があるため一般化が難しいが，少なくとも ipadic²の品詞体系でも同様の議論が成り立つことは容易に想像できる.

品詞は「品詞」,「品詞細分類」,「活用型」,「活用形」の 4 種類からなる.「品詞」には「名詞」,「動詞」,「形容詞」などがある。「名詞」の「品詞細分類」には，「普通名詞」や「サ変名詞」の他, 固有名詞用の「固有名詞」、「組織名」,「地名」,「人名」などがある。しかし, 固有名詞と普通名詞の識別は, 形態レベルの文法的な情報のみでは困難なので, 本論文では, 便宜的に固有名詞も「普通名詞」とみなす。

用言の「動詞」と「形容詞」には「品詞細分類」は設定されていない. 代わりに活用を扱うために活用型と活用形が与えられる。活用型は活用のタイプに基づく分類であり，活用形は個々の具体的な活用形態を指す。例えば，「ググる」の活用型は「子音動詞ラ行」で，「ググって」の活用形は「夕系連用テ形」,「ググら」は「未然形」となる.

未知語獲得タスクにおける品詞は, 「品詞」,「品詞細分類」,「活用型」の適当な組である。簡単のために, 名詞については「品詞細分類」, 動詞と形容詞については「活用型」で呼ぶ．例えば,「ググる」の品詞は「子音動詞ラ行」となる.

基本語彙は既に人手により辞書登録されているので，獲得対象をオープンクラスの品詞に絞り込める。つまり，「来る」などの不規則変化動詞や助詞，助動詞などの付属語は獲得対象から除外される。本論文では, 名詞, 動詞, および形容詞を獲得対象の品詞とする. 副詞もオープンクラスとみなせるが，今回は明示的な獲得対象としない，副詞と名詞の識別も，形態レベルの情報だけでは困難だからである，副詞の認識は今後の課題とする．以上をまとめると，獲得対象の品詞は表 1 の 15 種類となる.

表 1 獲得対象の品詞

母音動詞, 子音動詞力行, 子音動詞が行, 子音動詞サ行, 子音動詞夕行, 子音動詞バ行, 子音動詞マ行,子音動詞ラ行, 子音動詞ワ行, サ変動詞, ザ変動詞, イ形容詞, ナ形容詞, 普通名詞, サ変名詞
^{2}$ http://sourceforge.jp/projects/ipadic/
}
形態素の単位認定基準，つまりある言葉が 1 形態素か否かは自明でない. 例えば, 「ミンククジラ」のように構成的な名詞や「宣べ伝える」のような複合動詞を 1 形態素とするか分割すべきか明らかでない，実際，人手で整備された既存の形態素解析用の辞書も，単位に一貫性があるとは言い難い．他の単位認定基準としては, 『現代日本語書き言葉均衡コーパス』が人間の作業者向けに詳細な基準を設けている (小椋, 小磯, 冨士池, 原 2008). しかし, この基準は煩雑で，しかも意味レベルの情報も利用しているため，プログラムに落とし达んで未知語の自動獲得に利用することは困難である。本論文では，厳密な単位認定にはこだわらないとする．

## 3 オンライン未知語獲得

## 3.1 システム構成

未知語獲得タスクに対して, 我々はオンラインによる解法を提案する. 図 1 にオンライン未知語獲得のシステム構成を示す. 形態素解析器自体は, 通常通り入力文に対して形態素列を出力する。ただし, 辞書として, 人手で整備した基本語彙辞書の他に, 自動獲得辞書も用いる。形態素解析の裏では未知語獲得器が動く. 獲得器は, 形態素解析器が出力する形態素列を文ごとに受け取り, そこから未知語を抽出する。獲得器は, 適当な時点で未知語を獲得し, 形態素解析器の自動獲得辞書を更新する。辞書更新により未知語獲得が以降の解析に反映される.

獲得器には高い精度での未知語獲得が要求される。獲得された未知語の辞書へのフィードバックに人手が介在しないが，誤獲得が解析に悪影響を及ぼすことは避けたいからである.

獲得器は, 未知語の用例を蓄積することで, それまでに解析されたテキストを獲得に利用で

図 1 オンライン未知語獲得システムの構成

きる。未解析のテキストは獲得に利用できないが，見方を変えれば，次に読むテキストをあらかじめ決める必要がないことを意味する。従って，獲得の都合に応じて対象テキストを動的に変更するという応用も可能である.

オンライン未知語獲得を実現するために，以下のサブタスクを設定する.

検出各文の形態素解析結果から未知語の用例を検出する.

列挙検出された各未知語用例に対して, 語幹と品詞からなる辞書項目の候補を列挙する.

選択各未知語用例に対して，最適な辞書項目の候補を選択する。選択は，過去に検出された用例を蓄積しておき, それら複数用例の比較により行う。比較される用例が増え, 曖昧性が十分に解消できた時点で獲得し，形態素解析器の辞書を更新する。

未知語「ググる」の獲得を例にシステムの挙動を説明する。「ググる」は語幹「ググ」と品詞「子音動詞ラ行」からなる。テキストを読み進めて，ある時点で文「なんとなくググってみた.」 が入ってきたとする．獲得器は，まず，この文の「ググ」を手がかりに未知語用例を検出する.次に，この用例に対して考えられる辞書項目の候補を列挙する。辞書項目の候補としては, 語幹「ググ」と品詞「子音動詞ラ行」以外にも, 同じ語幹で「子音動詞ワ行」, 語幹「ググって」と品詞「子音動詞マ行」, 語幹「なんとなくググ」と品詞「子音動詞ラ行」なども考えられる。こうした複数の候補の中から正しい候補を選択する必要があるが，この 1 用例だけを見ても正しい候補を判断しがたい。そこで獲得器は判断を保留し，用例を記憶に蓄えておく．さらにテキストを読み進めると，「ググらずに答える.」という文が入力される．同様に検出と列挙を行ったのち，「ググってみた」の用例を記憶から取り出して，「ググらず」と比較する。すると，両者を共通に解釈できる辞書項目の候補は語幹「ググ」と品詞「子音動詞ラ行」のみである。このように複数の用例を比較して曖昧性を解消する。比較する用例が増え，選択された候補が適当な終了条件を満たしたとき，その候補を獲得する。これにより，「ググる」が自動獲得辞書に追加される。

オンライン未知語獲得のサブタスクのうち, 本論文では列挙と選択について詳述する。検出タスクについては簡単な手法を説明するにとどめる。

## 3.2 未知語用例の検出

未知語検出は各文から未知語の用例を検出するタスクである。文は，形態素解析結果に基づく形態素列，または文字列として表現される，夕スクの入力は，解析器が返す文の形態素列である。一方出力は, 未知語用例に対応する文の部分文字列であり, その範囲を $\left[s_{d}, e_{d}\right]$ とする. ただし, $\left[s_{d}, e_{d}\right]$ が未知語用例の語幹の範囲 $\left[s_{u}, e_{u}\right]$ と厳密に一致する必要はない. 辞書項目, つまり語幹と品詞の組の候補の列挙は次の列挙タスクで行うが, どの程度の正確さで検出が必要かは列挙のアルゴリズムに依存する． 4.3 節で述べる列挙アルゴリズムは，語幹の境界候補の列挙を $s_{d}$ を基点に行うので，検出範囲は $s_{u} \leq s_{d} \leq e_{u}$ を満たす必要がある.
日本語において未知語用例の検出は自明なタスクではない。一番単純な検出手法として, 既知語とテキストの文字列マッチングを行い，マッチしない箇所を検出するというものが考えられる。しかし, 日本語の単純な音韻体系がわざわいして, 多くの未知語に対して無関係な既知語がマッチし，検出漏れが起きる。この現象は，形態素解析器が持つ文法知識を利用することである程度抑えられる。形態素解析器は，入力文に対して，辞書引きと未知語処理により，出力すべき形態素の候補を列挙する。未知語処理により列挙される形態素候補を未定義語と呼ぶ. JUMAN では，字種に基づく簡単なヒューリスティクスが採用されている。例えば，カタカナの連続が一つの形態素候補とされる。これにより，未知語「ググる」を含む入力文「ググってみた.」に対して，未定義語「ググ」が形態素候補となり，これを含むパスが出力に選ばれる.従って，形態素解析結果中の未定義語 $w_{i}$ を検出範囲 $\left[s_{w_{i}}, e_{w_{i}}\right]$ とする．たたし， $s_{w_{i}}$ と $e_{w_{i}}$ は,形態素 $w_{i}$ の文字列表現における開始・終了位置である.

形態素解析を用いる検出手法でも検出されない未知語用例が存在する。例えば，「アブラハム」は「アブラ」(油) と「ハム」に分割され，「うざい」は「う」(卯／雨／鵜）と「ざい」(剤 ／在／材／罪／剤）に分割される。こうした過分割未知語の検出は今後の課題とする。

## 4 辞書項目の列挙と選択

## 4.1 列挙タスクと選択タスク

列挙は，検出された各用例に対して，文中の前後の文脈を利用して，考えられる辞書項目の候補を列挙するタスクである。辞書項目の候補は語幹と品詞からなる。ここで，語幹の同定は前方境界と後方境界の二つの同定を意味する．例えば，「なんとなくググってみた」の場合，「なく」と「ググ」の間に前方境界が，「ググ」と「って」の間に後方境界が引かれる。 そこで，辞書項目の候補を前方境界，後方境界，品詞の組で表現する。列挙される候補は，効率よく正解候補を選択するためには，なるべく数が少ないことが望ましい.

選択は，各未知語用例に対して，最適な辞書項目の候補を選択するタスクである。この際，検出済みの未知語用例を蓄積することで, 複数の用例が比較できる。選択タスクの実現には, 最適な候補を選択する基準と, 最終的に獲得を判断するための終了条件が必要となる.

## 4.2 形態論的制約の利用

辞書項目の列挙において，候補絞り込みの手がかりとして形態論的制約を利用する。日本語は膠着語であり，形態素は，その文法的な役割に応じて，接尾辞, 助動詞, 助詞などに後続される。この際，用言は後続する形態素に応じて活用形を変える。また，形態素同士の連接には品詞に応じて制約が働く，例えば，助詞「を」は，「走る」の基本連用形「走り」に後続して「走りを」という形は取り得るが，未然形「走ら」に後続して「走らを」とはならない。このよう
表 2 サフィックスの例

 &  &  \\

1 名詞は活用しないため, 名詞の活用形として，直後の付属語の基本形を用いる.

な連接に関する制限を形態論的制約と呼ぶ.

この形態論的制約を列挙に利用するためにサフィックスを導入する，サフィックスとは，語幹に後続し得る文字列であり, 自立語の語尾（あれば）と後続する付属語列を連結したものである。サフィックスの例を表 2 に示す。いま，ある文字列に対してあるサフィックスが後続したとする。このとき，そのサフィックスの直前が自立語の語幹の後方境界の可能性がある.

サフィックスの集合は生テキストから収集される。ここで，形態素解析が既知語について十分に高精度であることを利用する。具体的には, テキストを形態素解析し, 既知語に後続するサフィックスを収集する。こうして集められたサフィックスを品詞ごとに集約する。いま，サフィックスが十分に大きなコーパスから収集されたとき，ある品詞に属す形態素の語幹に後続し得るサフィックスは，品詞に対応するサフィックス集合中のいずれかに限定される．従って， サフィックスを候補列挙に用いることで，後方境界と同時に品詞の候補が列挙できる。なおかつ, 品詞候補を形態論的制約を満たすものに限定できる。ただし，一般に，サフィックスは複数の品詞に後続し得る. 例えば，サフィックス「をも」は母音動詞にもサ変名詞にも後続できる.

サフィックスの収集には，Kawahara et al.の手法により編纂されたウェブコーパスを用いる (Kawahara and Kurohashi 2006)。ただし, 予備実験により，この大規模コーパスでもサフィックスの異なり数が収束しないと判明した。「させられかねなかっただろう」のような低頻度の長いサフィックスが存在するからである。そこで，サフィックスの最大長を 5 文字とし，それより長いサフィックスは先頭の 5 文字で統合する。実験では，約 1 億ページから約 66 万の異なるサフィックスを得た. サフィックスあたりの品詞数は平均で 1.33 であった.

## 4.3 サフィックスを用いた列挙手法

サフィックスを用いて辞書項目の列挙を行う。まず，列挙に利用する文中の前後の文脈，つまり前方境界と後方境界の探索範囲を文節を用いて限定する。文節については, 構文解析器 $\mathrm{KNP}^{3}$

が係り受け解析の前処理として文節まとめあげを行うので，その結果を利用する．検出された未知語用例が属す文節，および最大で前後 2 文節を探索範囲とする。たたし，文頭，文末や句読点で探索を打ち切る。

後方境界と品詞の組の候補を図 2 のようにサフィックスを用いて列挙する。検出範囲の開始位置 $s_{d}$ から探索範囲の終端までの各位置で, サフィックスのマッチングを行う. サフィックスがマッチしたとき，サフィックス開始位置が後方境界の候補となり，サフィックスに対応する 1 個以上の品詞が候補となる。

長さの異なる複数のサフィックスがマッチした場合，以下の規則で採用するサフィックスを選択する。原則として長い候補を優先するが，サフィックスの終了位置が文節境界と一致しなければならない，ただし，サフィックスは最大 5 文字としているので，5 文字のサフィックスがあれば無条件で採用する。

また, サフィックス以外の手がかりとして，以下を前方境界と後方境界の候補列挙に利用する.
- 文頭と文末 ${ }^{4}$
- 句読点や記号
- 「御」などの接頭辞

$\cdot$「首相」などの末尾要素
- KNPにより与えられる文節境界

これらの手がかりにより列挙される候補のうち, 後方境界については, 特殊な品詞 “EOB”を与える。“EOB”はサフィックスなしに語幹単独で出現し得ることを示す. 例えば，「グーグル」

図 2 候補の列挙
^{3}$ http://nlp.kuee.kyoto-u.ac.jp/nl-resource/knp.html

4 ただし, ウェブコーパスの場合は, HTML から文抽出を行うため, 文頭や文末は文抽出誤りの影響を受ける可能性があり，あまり信頼できない.
}

などの名詞には句読点などが直接後続し得る。また, 母音動詞は基本連用形（名詞化）が語幹と同形なので, 語幹単独で出現し得るとみなせる。一方,「ググる」などの子音動詞ラ行は語幹単独では出現しない. “EOB”は選択タスクにおいて語幹単独で出現し得る品詞に展開される.

## 4.4 用例の蓄積

辞書項目の選択には，それまでに検出された複数の用例を利用する。具体的には，新たに入ってきた用例について，その用例と同じ辞書項目を表す可能性のある用例群を記憶から取り出して比較する，ただし，真に同じ辞書項目を表す用例のみを取り出すのは難しいので，ひとまず前方境界を共有する用例群を取り出し, 後の処理で絞り込みを行う。また, 獲得に至らなかった用例は記憶に追加し，獲得時には使われた用例群を削除する.

用例の効率的な管理のためにトライを利用する。各用例の格納は, 前方境界の候補数たけ行う。トライのキーとして, 各前方境界候補と, それより右で最左の後方境界候補に挟まれた文字列を用いる．例えば，図 2 の用例に対して，「ググ」と「何となくググ」をキーとして 2 箇所に格納する。用例取り出し時にはキーを使ってトライをたどり, 途中のノード，およびキーの末端ノードの子孫に格納された用例群を取り出す.

## 4.5 辞書項目の選択

辞書項目の候補, つまり前方境界, 後方境界および品詞の候補のうち, 最適な候補の選択を記憶から取り出された用例群の比較により行う。図 3 に選択の擬似コードを示す. 候補の絞り込みは前方境界, 後方境界, 品詞の順で行う。また, 語幹については短い候補（前方境界は右,後方境界は左）から順に調べる。

用例 $e$ の各前方境界候補に対して, まず記憶から前方境界 $f$ を共有する用例群 $E$ を取り出す (retrieveExamples). 次に, 用例群の比較により, 若干の後方境界候補の足切りを行う (refineRearBoundaryCandidates). これにより, 語幹の長さが 0 の候補や, 後述の終了条件を満

図 3 選択の擬似コード

たさないことが明らかな候補を取り除く. 残った各後方境界候補 $r$ に対して, 品詞の絞り込みを行う (refinePOSCandidates)，品詞候補が $p$ 一つに絞り込まれ，その候補が獲得の終了条件を満たすなら，候補 $(f, r, p)$ を獲得する。

選択の方針は，単純に，多くの用例をうまく説明できる候補を選ぶというものであり，絞り迄みは用例群の包含関係により行う。 refinePOSCandidates では, $(f, r)$ を共有する用例群中の被覆率が閾値以上の品詞候補を選ぶ。ただし，「普通名詞」,「サ変名詞」,「ナ形容詞」は区別が明確でなく，また，「母音動詞」の「基本連用形」と「普通名詞」の区別は困難なため，これらの品詞のみが候補として残った場合には「普通名詞」を採用する.

終了条件は, 候補 $(f, r, p)$ を共有する用例群について, 次の二つが満たされる場合とする。一つ目は前方境界の妥当性のチェックである。具体的には，句読点などの明らかな境界マーカー から前方境界が得られた候補の割合が閥値以上とする。例えば，未知語「新撰組」に対して，形態素解析が「新」を接頭辞と解釈するため, 常に「撰組」が辞書項目の候補となる，選択アルゴリズムは短い候補を優先するので，「新撰組」よりも先に「撰組」が調べられる。しかし，「撰組」の直前に句読点等が来る用例はないので，「撰組」は獲得されない。二つ目は活用型の異なり数が間値以上という条件である。これにより, 品詞が偶発的に選択されたのではなく, 実際に該当品詞として使われていることを確認する5.

## 4.6 品詞分類手法の比較

品詞分類について先行研究との簡単な比較を示す. Mori et al. の後ろの「文字列」と福島・鍜治らの「後続するひらがな n-gram」, および桑江らの「最長後続ひらがな列」は, 本論文のサフィックスと同様の働きをする (Mori and Nagao 1996; 福島, 鍜治, 喜連川 2007; 鍜治, 福島, 喜連川 2009; 桑江, 佐藤, 藤田 2008).

Mori et al. は前後の文字列とその頻度をべクトルで表現し, 語幹候補と品詞モデルとのべクトル間の距離の近さにより品詞を判定している. しかし, 同じ品詞に属す形態素が本当に似たベクトルを取るのだろうか. 直観的には, 品詞は大雑把な分類であり, 同じ品詞に属す形態素でも振る舞いにばらつきがありそうに思われる。 そこで， ウェブコーパスを対象に簡単な実験を行った。まず，コーパスの形態素解析結果から既知語に後続するサフィックスを収集する。次に，サフィックスを各形態素ごとに集約し，形態素ごとの後続サフィックスの頻度分布を求める. 同様にして, 形態素が属す品詞ごとに, 後続サフィックスの頻度分布を求める. そして,各形態素と品詞との間で, 後続サフィックスの頻度分布の近さを求める。ただし, 頻度分布の近さの尺度として Skew divergence $s_{\alpha}$ を用いる (Lee 2001).

$
\begin{aligned}
s_{\alpha}(q, r) & =D_{K L}(r \| \alpha q+(1-\alpha) r) \\
D_{K L}(q \| r) & =\sum_{y} q(y)(\log q(y)-\log r(y))
\end{aligned}
$

ここで $, q, r$ はサフィックスの頻度分布とし, $\alpha=0.99$ とする.

図 4 に,「子音動詞ラ行」の例を示す。横軸は「子音動詞ラ行」の各形態素の絶対頻度を表し,縦軸は各形態素の,「母音動詞」との近さと「子音動詞ラ行」との近さとの「差」を表す. 低頻度区間では, 二つの近さの差が小さく, 近さによる品詞判定では識別が難しいと予想される形態素が目立つ，それだけでなく，高頻度区間でも差が小さい形態素が散見される，従って，出現頻度が大きくても，近さによる品詞判定が難しいと予想される場合が存在する.

福島・鍜治らは品詞識別にSVM を用い, 素性として後続するひらがな n-gram を与える。素性の値に福島らは頻度，鉦治らは出現したか否かの 2 值を使う．SVM は識別器であり，品詞内の近さよりも品詞間の差異を学習すると期待される.

一方, 提案手法は, サフィックスの頻度には注目せず，個々のサフィックスを品詞リストに写像する。サフィックスは形態論的制約を満たすか否かの 2 値を表現しており, 候補列挙の時点で, 制約を満たさない品詞は候補から除外される。このように, 品詞の絞り込みが各用例に対して行われるので，単純に多くの用例を説明できる候補を選ぶだけで品詞分類が行える.

また, 提案手法は一つの語幹に対応する品詞は一つという仮定を置いている。これに対し, Mori et al. と桑江らは, 「楽し-い」と「楽し-む」のように, 一つの語幹が複数の品詞に属す可

図 4 「子音動詞ラ行」の各形態素の,「母音動詞」との近さと「子音動詞ラ行」との近さとの「差」
能性を明示的にモデル化している。しかし，「楽し-い」と「楽し-む」のような派生関係にある形態素の品詞の衝突は，基本語彙が登録済みのため，極めてまれと推測される，無関係な形態素同士の偶発的な衝突については，提案手法はテキストを逐次的に解析するため，同一ドメインのテキストを読んでいる場合，特に起きにくいと推測される.

## 4.7 獲得未知語の分割可能性

獲得された未知語が実際には 2 個以上の形態素からなる可能性がある。未知語は比較的少数の用例から獲得するため，未知語 $B$ が，観測された用例中でたまたま $A B$ という連続で現れていた場合， $A B$ を 1 形態素として獲得してしまう。例えば, 複合語「顆粒タイプ」が未知語「顆粒」よりも先に獲得されるかもしれない.

この問題に対処するために，未知語獲得時に，獲得済みの形態素が獲得形態素によって分割できるかを調べ，できる場合にはその形態素を辞書から削除する．現在のところ，分割可能性の検査には形態素解析器を用いる。これにより形態素解析器に記述された制約知識を利用する. まず，分割対象形態素の候補列挙は単純な文字列マッチングにより行う，次に，候補を一時的に辞書から取り除いた状態で，その候補の形態素解析を行い，獲得形態素によって分割されなかった場合に候補を辞書に戻す。

## 5 実験

## 5.1 実験設定

オンライン未知語獲得について, 獲得される未知語の精度, および未知語獲得の形態素解析への貢献を評価する。基本語彙辞書として, 形態素解析器 JUMAN のデフォルトの辞書を用いる.この辞書は約 3 万の基本語彙を収録している。表記ゆれを展開し，固有名詞を含めれば，語彙数は約 12 万となる.

獲得対象テキストとして，ドメインが限定されたコーパスを用いる。話題を共有するテキストの方が，互いに無関係なテキストよりも未知語が集中的に出現すると期待されるからである．実験では, 検索エンジン基盤 TSUBAKI (Shinzato, Shibata, Kawahara, Hashimoto, and Kurohashi 2008)を用い，その検索結果をドメイン限定コーパスとみなす。各クエリに対して，システムは検索結果のページを順に読み，未知語を獲得する。獲得は千ページ目で打ち切り, 同じ千ペー ジを拡張された語彙を用いて再解析する。クエリとしては, 「捕鯨問題」,「赤ちゃんポスト」,「ジャスラック」,「ツンデレ」，および「アガリクス」を使用する.

獲得された未知語は, 語幹と品詞の両方が正しい場合に正解とする。ただし， 2 章で述べたように，語幹の単位認定は難しい，実際，Nagata と内元らは，単位認定の不一致が報告されたエラーの原因の一つとみなしている (Nagata 1999; 内元他 2001). 単位認定の不一致を回避する

ために，正解コーパスとの単純比較ではなく, 人手による判定を採用する.

未知語獲得の形態素解析への貢献の評価は次の手順で行う. 獲得対象テキストを基本語彙辞書と拡張された辞書の 2 通りで形態素解析する。二つの解析結果を比較して, 図 5 のように単語分割の境界が一致しない箇所を抽出する。これを“diff”ブロックとよぶ. “diff”ブロックの正誤判定は，形態素への分割と，分割および品詞割り当ての 2 通りにより行う．ただし，形態素境界は, 明らかに誤っていない場合に正解とする。評価には, クエリごとに, 再解析により解析結果が変化した文の中から無作為に抽出した 50 文を用いる.

品詞の評価については，「普通名詞」と「サ変名詞」という名詞の「品詞細分類」を区別しない6.また, JUMANが未知語に与える特殊な品詞「未定義語」は名詞とみなす.

## 5.2 実験結果

表 3 にクエリごとの統計を示す。再解析により変化した文の割合に大きなばらつきがある (0.43-9.26\%). 基本語彙辞書はこれまで新聞記事を対象に整備されてきたため, 新聞記事と似ていないドメインほど未知語獲得の効果が大きい傾向がみられる.

\section*{ググると結構出てくる。

図 5 “diff"ブロックの例

表 3 クエリごとの統計

 &  & 必要用例数 ${ }^{1}$ \\

& $(1.83 \%)$ & $(98.4 \%)$ & \\

& $(0.43 \%)$ & $(98.5 \%)$ & \\

& $(2.12 \%)$ & $(97.9 \%)$ & \\

(tsundere) & $(9.26 \%)$ & $(97.3 \%)$ & \\

(agaricus) & $(5.65 \%)$ & $(97.4 \%)$ & \\

1 獲得時点で利用した用例数の中央値.
示詞はクローズドクラスだが,「コレ」のようなカタカナ指示詞は新聞記事には出現しないため, 登録が漏れている.
獲得された未知語の精度は 97.3-98.5\% と高い. しかも, 獲得時点で利用した用例数の中央値は 4-7 に過ぎない. 先行研究では出現回数が 10 回未満の候補を信用できないとして無視していたことを考えると非常に小さな值である (Mori and Nagao 1996).

図 6 に，獲得された未知語の頻度とその頻度の順位との関係を示す。ここで，頻度は，拡張された辞書を用いた再解析結果から数えたものである。順位の下位区間における急な落ち込みは, 用例数の不足により獲得されていない未知語の影響と推測される。 図 7 に, 獲得の経過を示す. ここで, 獲得未知語の累積出現数は, 拡張された辞書を用いた再解析結果から数えたものである。終了時点での蓄積されている用例数と未知語の累積出現数の比較から，検出された未知語用例がすべて真の未知語と仮定すると, 提案手法で検出される未知語のうちおよそ半分が獲得されたと推定できる.

表 4 に獲得された未知語の例を示す。予想される通り, 獲得された未知語の大半が名詞 (94.1$100 \%$ ) やカタカナのみからなる形態素 (67.9-79.4\%) である.「タイーホ」や「ぱくる」など新聞記事にはあまり見られない俗語も獲得されている。字種が混在する「ドジっ娘」や「シャ乱 $\mathrm{Q}$ は字種に基づく形態素解析の未知語処理では正しく解析できない.「すごい」に対する「スゴい」，「解かる」に対する「解る」のように，登録済みの形態素の異表記もあった.

誤り例には，「パクられる」や「フラグが立つ」など明らかに構成的な表現を 1 形態素と認識しているものがある。ただし，これらは，さらに未知語獲得を進めて，それぞれ「パクる」や 「フラグ」が獲得された場合, 分割可能性のチェックにより消される。他には, 副詞の「やっぱ」 が名詞と誤認識された。

図 6 クエリ「ジャスラック」における獲得された未知語の頻度と順位

図 7 クエリ「ジャスラック」における獲得の経過

表 4 獲得未知語の例

 \\

1 品詞を省略した形態素は普通名詞。

表 5 にdiff”ブロックの評価結果を示す.ほとんどのブロックが拡張された語彙によって正しく解析されている $(\mathrm{E} \rightarrow \mathrm{C}$ および $\mathrm{C} \rightarrow \mathrm{C})$ 。一方，獲得による副作用は限定されている $(\mathrm{C}$ $\rightarrow \mathrm{E})$. 従って, 獲得された未知語が形態素解析の精度を改善することが示された.

## 5.3 議論

形態素解析において, カタカナ未知語が短いカタカナ形態素によって分割されることがある.例えば, 基本語彙辞書のみを用いると, 未知語「アブラハム」は「アブラ」と「ハム」に過分割される。「アブラハム」は， 3.2 節で述べた単純な検出手法では検出されず，従って獲得もされ
表 5 “diff”ブロックの評価

(凡例 $-\mathrm{C}:$ 正解； E: 誤り)

ない. また，未知語の獲得によって新たな過分割が発生し得る。例えば，「サー」の獲得によって，「サーバー」が「サー」と既知の「バー」によって過分割されるようになる。このような過分割の問題は，本論文が利用した形態レベルの文法的振る舞いだけを調べても解決できない．他の手がかり，例えば，「サーバー」が server という一つの外来語だから分割できないといった知識が必要となる。

提案手法では，カタカナ「イイ」のように語尾までカタカナで表記された用言は誤って名詞と認識される。現在の形態素解析は語尾のひらがな表記を前提としている。この仮定は新聞記事に対しては妥当だが，ウェブテキストに対しては無効であり，より柔軟な解析が必要になる. ただし，こうした未知語の解析は元々誤っており，獲得によって形態素解析が悪化するわけではない.

未知語問題への 2 通りの解決策のうち, 未知語モデルによる手法は, その利点として, 低頻度語の正しい同定が強調されている (Nagata 1999; Asahara and Matsumoto 2004). しかし, ウェブの出現により，ほとんど無尽蔵のテキストが入手できるようになった現在，限られた情報のみを用いた同定は不可欠ではない，仮に，解析対象のテキストが少量で，未知語獲得を行うには用例の出現回数が足りないとしても，ウェブから解析対象テキストと関連するテキストを収集することで，用例の出現回数を増やすことができる。 ここで，バッチ処理 (Mori and Nagao 1996) と異なる, オンライン獲得という特徴を生かせる。 すなわち, 解析対象テキストから検出された用例にマークして，それらの用例が獲得に使われたか追跡することで，未知語が十分に獲得された時点で処理を停止させることができる.

最後に，残された課題を整理する． 2 章で整理したように，形態素に付与される様々な情報のうち，本論文はひとまず形態レベルの情報の獲得を目指した。形態レベルの手がかりでは得られない知識としては, 名詞と副詞の区別の他に, 固有名詞と普通名詞の区別などがある。特に名詞の細分類は固有表現認識や省略・照応解析に役立つと期待されるので，テキストからの自動獲得を目指したい.

本論文では形態素の単位認定にこだわらなかったが，獲得された未知語の中には構成的なもの

が含まれている，参考までに，クエリ「ジャスラック」の獲得結果を調べたところ，判断に迷う場合を含めると $10 \%$ 弱 (45/460) が複合語であった. ただし, 複合語の基準としては, JUMAN 4.0 から 5.0 への変更時に行った複合語の整理 7 を参考にした。 日本語の複合名詞は，文法的なマーカなしに構成要素が直接連結されるため, 形態レベルの手がかりでは構成要素に分割できない，細粒度での単位認定を実現するには，他の手がかりを利用する必要がある．

形態レベルでの未知語獲得については, 検出が大きな課題として残っている。なかでもひらがな表記の未知語は曖昧性が高く, 形態素解析器によってより短い既知の形態素へ過分割されることが少なくない. 予備調査として, 形態素解析結果のうち, $1+1,1+2,2+1$ 文字というパターンのひらがな形態素のペアのみを対象に, 未知語検出の再現率を求めたところ, 本論文の手法では $31 \%$ にどまることが判明している。ひらがな表記の未知語は数の上では少なく, 頻度の上でも異なり数でも，未知語の大半をカタカナ名詞が占める。しかし, カタカナ名詞は形態素解析の未知語処理でほぼ問題なく同定できるのに対し，ひらがな未知語の解析誤りは応用に大きな悪影響を及ぼしやすい，例えば，「ようつべ」が「よ」，「うつ」，「べ」に誤って分解され，「うつ」が動詞と解釈された場合，文節まとめあげにより「よ」と「うつ」，「うつ」と「べ」 の間に文節境界が引かれ，これに基づき見当違いな係り受け解析が行われてしまう．提案手法の利点の一つは, 既知の形態素を改めて獲得しないことによる効率の良さだが, 今後はこの利点を維持しつつ検出の再現率を上げていきたい.

## 6 関連研究

形態素解析における未知語の問題は，言語の類型論的特徴や文字の性質に依存する部分が少なくない. フィン語やトルコ語は日本語と同様の膠着語で, 自立語に複数の付属語が後続して語を形成する。ただし, これらの言語は分かち書きするため, 形態素解析は, 分かち書きの単位である語を形態素に分割するタスクとなる。例えば, Morpho Challenge では, 頻度つきの語のリストから教師なしで形態素を切り出すタスクが競われている (Kurimo, Creutz, Varjokallio， Arisoy, and Saraçlar 2006; Kurimo, Creutz, and Turunen 2007).

日本語と同様に分かち書きしない言語としては, 中国語やタイ語などがあるが, いずれも分析的であり, 膠着語の日本語とは性質が異なる. Peng et al. は中国語の単語分割に新語検出を組み込む (Peng, Feng, and McCallum 2004)。この手法では, テキストを一度解析した結果から単語分割の信頼度を元に新語を検出し，それらを素性に組み込んだ状態で再解析を行う。

日本語については, 未知語モデルを導入する手法がいくつか提案されている. Nagata は, 字

種や単語長に基づく生成的な未知語モデルを単語分割に組み込む (Nagata 1999). 内元らは最大エントロピーモデルに基づく形態素解析の中で，字種やその遷移などの未知語同定に有効な情報を素性として利用する (内元他 2001)。東らは最大エントロピーモデルに代えて条件付き確率場を採用する (東他 2006). Asahara et al. は文字レベルのチャンキングにより未知語を同定しており, 学習器として Support Vector Machineを用いる (Asahara and Matsumoto 2004).

中川らは, 単語分割されたテキストに対して, 未知語のすべての出現を考慮して品詞を推定する手法を提案している (中川, 松本 2008). しかし, 我々が想定するタスクでは, 品詞推定と独立に単語分割が実現されるという仮定は現実的ではない.

テキストからの未知語の自動獲得については, Mori et al. は, 語幹の前後の文字列とその頻度をべクトルで表現し，コーパス中の任意の部分文字列について，品詞のモデルとのベクトルの距離により品詞らしさを判定する (Mori and Nagao 1996). 鍜治らはカタカナ用言についてテキストからの自動獲得を行っている (鍜治他 2009$)$. 彼らは, 獲得対象を「ググる」などの語幹が自明なカタカナの用言に限定し, 品詞分類に特化した手法を提案する。一般の未知語を獲得する場合には，あわせて語幹同定の問題も解く必要がある.

## 7 結論

本論文では，オンライン未知語獲得という枠組みと，その具体的な実現方法を提案した。実験により, 未知語が高精度に獲得され, その結果形態素解析の精度が向上することが示された。形態素解析自体は成熟した技術であり, 構文解析や情報検索といった応用のための前処理となっている。従って，応用処理の精度向上に提案手法を利用したいと考えている。

## 参考文献

浅原正幸, 松本裕治 (2002). 形態素解析のための拡張統計モデル. 情報処理学会論文誌, 43 (3), pp. 685-695.

Asahara, M. and Matsumoto, Y. (2004). "Japanese Unknown Word Identification by Characterbased Chunking." In Proceedings of the 20th International Conference on Computational Linguistics (COLING 2004), pp. 459-465.

東藍, 浅原正幸, 松本裕治 (2006). 条件付確率場による日本語未知語処理. 情報処理学会研究報告. 自然言語処理研究会報告, 2006 (53), pp. 67-74.

Banko, M. and Brill, E. (2001). "Mitigating the Paucity-of-data Problem: Exploring the Effect of Training Corpus Size on Classifier Performance for Natural Language Processing." In Proceedings of the First International Conference on Human Language Technology Research

(HLT 2001), pp. 1-5.

Brants, T., Popat, A. C., Xu, P., Och, F. J., and Dean, J. (2007). "Large Language Models in Machine Translation." In Proceedings of the 2007 Joint Conference on Empirical Methods in Natural Language Processing and Computational Natural Language Learning (EMNLPCoNLL 2007), pp. 858-867.

福島健一, 鍜治伸裕, 喜連川優 (2007). 機械学習を用いたカタカナ用言の獲得. 言語処理学会第 13 回年次大会発表論文集, pp. 815-818.

鍜治伸裕, 福島健一, 喜連川優 (2009). 大規模ウェブテキストからの片仮名用言の自動獲得. 電子情報通信学会論文誌, J92-D (3), pp. 293-300.

Kawahara, D. and Kurohashi, S. (2006). "Case Frame Compilation from the Web using HighPerformance Computing." In Proceedings of The 5th International Conference on Language Resources and Evaluation (LREC-06), pp. 1344-1347.

Kudo, T., Yamamoto, K., and Matsumoto, Y. (2004). "Applying Conditional Random Fields to Japanese Morphological Analysis." In Proceedings of the 2004 Conference on Empirical Methods in Natural Language Processing (EMNLP 2004), pp. 230-237.

Kurimo, M., Creutz, M., and Turunen, V. (2007). "Overview of Morpho Challenge in CLEF 2007." In Working Notes of the CLEF 2007 Workshop, pp. 19-21.

Kurimo, M., Creutz, M., Varjokallio, M., Arisoy, E., and Saraçlar, M. (2006). "Unsupervised Segmentation of Words into Morphemes-Challenge 2005, an Introduction and Evaluation Report." In Proceedings of the PASCAL Challenge Workshop on Unsupervised Segmentation of Words into Morphemes.

Kurohashi, S., Nakamura, T., Matsumoto, Y., and Nagao, M. (1994). "Improvements of Japanese Morphological Analyzer JUMAN." In Proceedings of the International Workshop on Sharable Natural Language Resources, pp. 22-38.

桑江常則, 佐藤理史, 藤田篤 (2008). 後続ひらがな列に基づく語の活用型推定. 情報処理学会研究報告, 2008-NL-186 (186), pp. 7-12.

Lee, L. (2001). "On the Effectiveness of the Skew Divergence for Statistical Language Analysis." In Proceedings of the Eighth Internatinoal Workshop of Artificial Intelligence and Statistics (AI ES Statistics 2001), pp. 65-72.

Mori, S. and Nagao, M. (1996). "Word Extraction from Corpora and Its Part-of-Speech Estimation Using Distributional Analysis." In Proceedings of the 16th Conference on Computational Linguistics, Vol. 2, pp. 1119-1122.

Nagata, M. (1999). "A Part of Speech Estimation Method for Japanese Unknown Words using a Statistical Model of Morphology and Context." In Proceedings of the 37th Annual Meeting
of the Association for Computational Linguistics (ACL 1999), pp. 277-284.

中川哲治, 松本裕治 (2008). 大域的な情報を用いた未知語の品詞推定. 情報処理学会論文誌, 49 (3), pp. 1437-1450.

小椋秀樹, 小磯花絵, 冨士池優美, 原裕 (2008). 『現代日本語書き言葉均衡コーパス』形態論情報規程集.

Peng, F., Feng, F., and McCallum, A. (2004). "Chinese Segmentation and New Word Detection using Conditional Random Fields." In Proceedings of the 20th International Conference on Computational Linguistics (COLING 2004), pp. 562-568.

Shinzato, K., Shibata, T., Kawahara, D., Hashimoto, C., and Kurohashi, S. (2008). "TSUBAKI:

An Open Search Engine Infrastructure for Developing New Information Access Methodology." In Proceedings of the 3rd International Joint Conference on Natural Language Processing (IJCNLP 2008), pp. 189-196.

内元清貴, 関根聡, 井佐原均 (2001). 最大エントロピーモデルに基づく形態素解析未知語の問題の解決策. 自然言語処理, 8 (1), pp. 127-141.

## 略歴

村脇＼cjkstart有吾：2006 年 3 月京都大学工学部情報学科卒業. 2008 年 3 月京都大学大学院情報学研究科修士課程卒業. 同年 4 月, 同博士後期課程入学, 現在に至る。

黒橋禎夫：1994 年京都大学大学院工学研究科電気工学第二専攻博士課程修了.

博士 (工学). 2006 年, 京都大学大学院情報学研究科教授, 現在に至る.

$(2009$ 年 4 月 22 日
(2009 受付)
年 7 月 2 日再受付 $)$
$(2009$ 年 8 月 25 日 $\quad$ 再々受付 $)$
$(2009$ 年 9 月 22 日採録)


# 文字列を特徵量とし反復度を用いたテキスト分類

テキスト分類における特徴抽出とは, 分類結果を改善するためにテキストの特徴た る単語または文字列を取捨選択する手続きである。 ドキュメントセットのすべての 部分文字列の数は, 通常は非常に膨大であるため, 部分文字列を特徴として使用す るとき,この操作は重要な役割を果たす.

本研究では, 部分文字列の特徴抽出の方法に焦点を当て, 反復度と呼ばれる統計量 を使って特徴抽出する方法を提案する. 反復度は, 高確率でドキュメントに二度以上出現する文字列は文書のキーワードであるはずだという仮定に基づく統計量であ り，この反復度の性質は，テキスト分類にも有効であると考える．実験では，Zhang ら (Zhang et al. 2006) によって提案された, 条件付確率を用いることで分布が類似 した文字列をまとめるという手法 (以下, 条件付確率の方法と記す) と我々の提案す る手法の比較を行う，結果の評価には適合率と再現率に基づく $\mathrm{F}$ 值を用いることと した. ニュース記事とスパムメールの分類実験の結果, 我々の提案する反復度を用 いた特徴抽出法を用いると, 条件付確率の方法を用いるのに比べて, ニュース記事 の分類では分類結果を平均 $79.65 \%$ から平均 $83.39 \%$ に改善し, スパムメールの分類 では分類結果を平均 $90.23 \%$ から平均 $93.15 \%$ に改善した. 提案手法である反復度を 用いる特徴抽出法は Zhang らの提案する条件付確率を用いる特徴抽出法に比べて, ニュース分類記事の分類では平均 $3.74 \%$, スパムメールの分類では平均 $2.93 \%$ だけ 結果を改善しており，その両方の実験において結果に有意差があることを確認した. また, 反復度を用いる特徵抽出方法を用いると, 単語を特徴集合とする方法を用いる 場合と比べて, ニュース記事の分類では分類の結果を平均 $83.88 \%$ から平均 $83.39 \%$ と 平均 $0.49 \%$ 低下させることとなったものの, スパムメールの分類では分類の結果を 平均 $92.11 \%$ から平均 $93.15 \%$ と平均 $1.04 \%$ 改善した. ニュース記事の分類においては 反復度を用いる特徴抽出方法と単語を特徴集合とする方法に有意差は本実験では認 められず，スパムメールの分類の結果においては有意差があることを確認した。

この結果が得られた要因について考察すると, 条件付確率の方法を用いたほうは一見しただけでは何の部分文字列かわからないほど短い文字列を抽出する傾向にある ことが分かった. これは不特定多数の文字列の一部として出現しやすいことを意味 しており, 文書の特徴になりえないような文字列がこれを含んでいたとき, 分類結果がその文字列の影響を受けることを意味する。それに対して反復度で抽出した部分文字列は短い文字列もあるものの, 長い文字列や間に空白が挟まった単語をつな ぐ部分文字列も捉えているため，特定のものをさす文字列の部分文字列であるとい える。このような何を指しているのかわかりやすいある程度長い部分文字列と, 間 に空白を挟んだ単語と単語を結ぶような形の部分文字列が分類結果を改善している と考えられる。

キーワード：テキストマイニング, テキスト分類, 機械学習, 特徴選択

#
Extracting String Features with Adaptation for Text Classification

\author{
Toru Onoe $^{\dagger}$, Katsuhiro Hirata $^{\dagger}$, Masayuki Okabe ${ }^{\dagger \dagger}$ and Kyoui Umemura ${ }^{\dagger}$
}

Feature selection for text classification is a procedure that categorizes words or strings to improve the classification performance. This operation is especially important when we use substrings as a feature because the number of substrings in a given data set is usually quite large.

In this paper, we focus on the substring feature selection technique and describe a method that uses a statistic score called "adaptation" as a measure for the selection. Adaptation works on the assumption that strings appearing more than twice in a document have a high probability of being keywords; we expect this feature to be an effective tool for text classification. We compared our method with a state-of-the-art method proposed by Zhang et al. that identifies a substring feature set by removing redundant substrings that are similar in terms of statistical distribution. We evaluate the classification results by $\mathrm{F}$-measure that is a harmonic mean of precision and recall. An experiment on news classification demonstrated that our method outperformed Zhang's by $3.74 \%$ (it improves Zhang's result from $79.65 \%$ to $83.39 \%$ ) on average based on the classification results. In addition, an experiment on spam classification demonstrated that our method outperformed Zhang's by $2.93 \%$ (it improves the Zhang's result from $90.23 \%$ to $93.15 \%$ ). We verified existence of significant difference between the results in each experiment.

An experiment on news classification shows that our method is worse than a method of using word for feature by $0.49 \%$ (although there is no significant difference) on average based on the classification results. In addition, an experiment on spam classification demonstrated that our method outperformed the word method by $1.04 \%$ (our method improves its result from $92.11 \%$ to $93.15 \%$ ). We verified that there is a significant difference between the results in spam classification experiment.

Zhang's method tends to extract substrings that are so short it is difficult to understand the original phrases from which they are extracted. This degrades classification performance because such a substring can be a part of many different words, some or most of which are unrelated to the original substring. Our method, on the other hand, avoids this pitfall because it selects substrings containing a limited number of original words. Selecting substrings in such a manner is the key advantage of our method.

Key Words: Text Mining, Text Classification, Machine Learning, Feature Selection

## 1 はじめに

テキスト分類学習は，スパムメールの除去，Webコンテンツのフィルタリング，ニュースの自動分類など様々な応用分野をもつ重要な技術である.

一般の分類学習と同様に, テキスト分類学習においても特徴集合の選択は学習性能を決定する重要な要素である，通常，英文であればスペースによって区切られた語，日本語文であれば形態素解析によって分割された語を特徴として用いることが多いが，このような方法では二語が連接していることの情報が欠落するので, 分類に役立つ熟語・複合語などの情報を取りこぼす可能性が高い，このため, この情報についてはあきらめるか辞書から得るかしなければならない. さらにこの情報を利用する場合は言語モデルの利用や string kernel などの特殊なカーネルを利用することにより学習アルゴリズム側で連接を考慮するといった対応を行う必要が生じる.

一方, 特徴選択の方法として文を文字列と見なし, 全ての部分文字列を考慮することで, 連接を特徴選択の際に取り达もうとするアプローチがある。このアプローチでは, 熟語・複合語を取り込むための辞書や連接を考慮した学習アルゴリズムを使用する必要がないという利点があるが, 部分文字列数のオーダーはテキストデータの全文字数の 2 乗のオーダーという非常に大きな値となってしまうため, 取捨選択してサイズを縮小する必要がある．部分文字列を考慮した特徴選択の代表的なものに, Zhang らが提案した方法がある (Zhang et al. 2006). 彼らは suffix tree を利用して, 出現分布が同一または類似している文字列を一つにまとめることによって特徵集合のサイズを縮小する方法を提案した. そして, この選択方法による特徴集合とサポートベクターマシンを利用したテキスト分類実験において，連接や文字列を考慮した他の代表的な方法よりも高い性能を与えることを示した.

これに対して, 本研究ではすべての部分文字列を考慮する点は同じものの, 反復度と呼ばれる統計量を利用して, Zhang らの方法と異なる部分文字列の選択方法を提案する. 反復度は文書内で繰り返される文字列は文書内容を特徴づける上で重要な語であるという仮定に基づく統計量であり，これまでキーワード抽出などに利用されている (Takeda and Umemura 2002). Zhang らの方法は部分文字列の出現分布が類似したものを一つにまとめるという操作のみを行い，選択した部分文字列の文書内容を特徴づける上での重要性は学習アルゴリズムによって決めるというアプローチであるといえるが, 反復度では特徴選択時にも部分文字列の重要性を考慮しており, 分類に寄与しない特徴を予め取り除く効果が期待できる。本研究では, この反復度を用いた部分文字列からの特徴選択の効果を, ニュース記事を用いた分類実験, スパムメールのデー タセットを用いた分類実験において検証する。そして, ニュース記事の分類実験では, 提案手法である反復度を用いた特徴抽出方法が Zhang らの特徴抽出方法よりも優れた結果を示し, 単語を特徵集合とする方法との間には有意差が認められなかったことを報告する。一方, スパムメールの分類実験において提案手法は Zhang らの方法, 単語を特徴集合とする方法よりも優れ

た結果を示し，有意差が確認されたことを報告する。

以下， 2 章では Zhang らの方法について詳しく説明する。また 3 章では本研究で利用する反復度と交差検定によるパラメータの設定方法について説明する． 4 章では実験方法と実験結果について述べ，5 章でその結果について考察し，6章でまとめを行う.

## 2 Zhang らの特徴選択方法

ここではテキスト分類における特徴選択の先行研究として, Zhang らが提案した方法について詳しく説明する.

テキスト分類に用いる機械学習アルゴリズムの多くは，学習の際のデータ表現に文書ベクトルを用いるが，通常このべクトルの値として，以下の $\mathrm{tf}$ 值, df 值を元に計算した tidf と呼ばれる値が使用される.
- $\operatorname{tf}(\mathrm{t}, \mathrm{d})$ : 文字列 t が文書 $\mathrm{d}$ に出現する頻度
- $\operatorname{df}(\mathrm{t}, \mathrm{D})$ : コーパス D 中で文字列 $\mathrm{t}$ が出現する文書数
- $\operatorname{tfidf}(\mathrm{t}, \mathrm{d}): \operatorname{tfidf}(\mathrm{t}, \mathrm{d})=\mathrm{tf}(\mathrm{t}, \mathrm{d}) \cdot \log (|\mathrm{D}| / \mathrm{df}(\mathrm{t}, \mathrm{D}))$

( $|\mathrm{D}|$ はコーパス D の文書数を表す)

Zhang らは，膨大な部分文字列を削り込むために出現分布が同一または類似している文字列をまとめ, 上で述べた值に違いのあるものをなるべく特徴として選択するというアプローチを採用した. ここで，出現分布が同一または類似している文字列とは，ある文字列のコーパス中におけるすべての出現場所をリストにしたとき，そのリストが別の文字列が持つ出現場所リストと等しいまたは類似している文字列のことを指す.

出現分布が同一な文字列は $\mathrm{tf}$ 値と $\mathrm{df}$ 値について同じ値を持つため，学習において区別する必要はなく, ひとつの特徴としてまとめてしまう。具体的な手続きとしては, 出現場所のリストが等しい文字列のうち, 最も文字列長が短い文字列のみを代表文字列として選択する。また,出現場所のリストが厳密に等しくなくても類似していれば，そのような文字列の $\mathrm{tf}$ 値, df 値にも大きな違いは生じないため, これらの文字列をひとつの特徴にまとめても分類結果に余り影響を与えることなく, 特徵集合を減らすことができると考えられる.

たたし出現場所の類似性の判定には基準が必要なので，Zhang らは類似した文字列を取り除くための条件を以下のようにした。

（1）コーパス中である文字列の次に現れる文字の種類が $\mathrm{b}$ 種類未満の文字列は特徴集合から取り除く。

（2）ある文字列 $\left(\mathrm{S}_{1}\right)$ が現れたとき，この文字列から始まる文字列 $\left(\mathrm{S}_{2}\right)$ が出現する条件付確率 $\mathrm{P}\left(\mathrm{S}_{2} \mid \mathrm{S}_{1}\right)$ が $\mathrm{p}$ 以上であるならば，後者の文字列を特徴集合から取り除く.

（3）ある文字列 $\left(\mathrm{S}_{3}\right)$ が現れたとき，この文字列で終わる文字列 $\left(\mathrm{S}_{4}\right)$ が出現する条件付確率
$\mathrm{P}\left(\mathrm{S}_{4} \mid \mathrm{S}_{3}\right)$ が $\mathrm{q}$ 以上であるならば，特徴集合から後者の文字列を取り除く.

また，コーパス中で出現頻度が極端に多い文字列，少ない文字列は分類に寄与しないと考え，最小頻度 1 未満の文字列, 最大頻度 $\mathrm{h}$ 以上の文字列は特徴集合から除く.

以上の処理により，特徴集合の大きさを，全部分文字列を特徴集合とした場合に比べ大幅に小さくすることができる。これらの処理を行うには 5 つのパラメータ $\mathrm{l}, \mathrm{h}, \mathrm{b}, \mathrm{p}$ および $\mathrm{q}$ を決定する必要があるが，これらは学習文書における交差検定法によって推定する．Zhang らは以上の処理を suffix tree を用いて効率的に行う方法を提案し，英語，中国語およびギリシャ語のコー パスを用いてテキスト分類の実験を行ったところ，これまでに提案されてきた主な文字列べー スのテキスト分類手法，例えば，言語モデルを利用した生成アプローチ (Peng 2004) や string kernel を利用した識別アプローチ (Lodhi 2001) などの方法よりも優れた性能を示したと報告している.

## 3 提案手法

## 3.1 反復度による特徵量抽出

本研究では, 出現分布が同一または類似した文字列をまとめることに加え，ある文書に偏って出現する文字列をテキスト分類の重要な特徴として残すことを考え, Zhang らが用いた手法の条件 $(1),(2),(3)$ の代わりに反復度と呼ばれる統計量を用いることによって文字列を選択する方法を提案する。

反復度 $\operatorname{adapt}(\mathrm{t}, \mathrm{D})$ は, 語 $\mathrm{t}$ が出現した文書のうち, 2 回以上繰り返し出現している文書の割合を示す統計量で以下のように定義される.

$
\operatorname{adapt}(t, D)=\frac{\mathrm{df}_{2}(t, D)}{\mathrm{df}(t, D)}
$

ここで, $\mathrm{df}_{2}(\mathrm{t}, \mathrm{D})$ はコーパス $\mathrm{D}$ 中の文書で, 文字列 $\mathrm{t}$ が 2 回以上出現する文書数を表す.

表 1 は，ある英文中における反復度の変化の様子を示したものである．ただし，「_」は空白を表す。この例では，「natural_gas_に 1 文字追加して「natural_gas_s」となったときに反復度が急激に減少している様子が示されている。表 1 に見られるように， 反復度はある境界を境にそれまでほぼ一定だった値が急激に減少する統計量であり, df / $|\mathrm{D}|$ で計算される出現確率とは異なり，意味的に一塊の語の境界で減少することが多いことから，キーワードの自動抽出 (Takeda and Umemura 2002) などに利用されている。表 1 の例においても，「natural_gas_」で語が区切られることは，その意味を考えると妥当であるといえる．提案する方法では，出現分布が等しい文字列をその代表文字列だけにまとめることは Zhang らと同じであるが， 2 章で説明した (1)， (2), (3)の条件の代わりに，以下の条件を用いる.
表 1 語の境界における反復度の変化

- 反復度が最小反復度 $\mathrm{a}$ 未満の文字列は特徴集合から取り除く

Zhang らの (1), (2), (3) の条件を用いていないため, 出現分布が類似していてもひとつにまとめず別の特徴として扱う。ただし, 出現分布が等しい文字列はひとつの特徵にまとめるため,表 1 のような 1 文字ずつ増加させたような文字列が必ず選ばれるわけではなく, 単語中の語幹や連語単位の文字列などを特徴集合に含めることができる (平田他 2007)。表 1 の例では，「nat」 と「natu」の 2 つ,「natural_」、「natural_g」,「natural_ga」の3つは出現場所のリストが等しく, 統計量も同じなので，それぞれ「nat」と「natural_」だけを特徴として選択する。また，「natural_gas」のような連語も特徴として選択される。

## 3.2 交差検定法によるパラメータの設定

提案手法では, 最小頻度 $\mathrm{l}$, 最大頻度 $\mathrm{h}$ といったパラメータに加え, 最小反復度 $\mathrm{a}$ を決定する必要があるが，本研究では Zhang らと同じく交差検定法によって推定する。交差検定法とは,未知のデータに対するモデルのパラメータを推定する方法のひとつである。本研究で用いる 4 分割交差検定法は，学習文書を 4 つのブロックに分割し，それぞれのブロックをテスト文書とし, テストに使用していない残りのブロックを学習文書に使用する。この 4 回のテキスト分類において最も分類性能が良くなるパラメータを最適なパラメータとして推定する。以上のように，パラメータの推定のテスト文書に学習文書とは別の文書を使用し，元の学習文書のすべての文書を順にテスト文書として使用することで，過学習を防ぐパラメータを決定することができ，学習における汎化性能の向上が期待される.

## 4 実験

実験は，ニュースのトピック分類と Spam 分類の 2 種類のタスクについて行い，それぞれのタスクについて, 関連研究の手法の分類結果と反復度による特徴集合を用いた場合の分類結果の比較を行う。

## 4.1 ニュースのトピック分類実験

この実験には，Reuters-215781と 20newsgroups 2 の 2 つの英語コーパスを使用し，各文書には前処理として，アルファベット以外の文字を空白に変換し， 2 文字以上空白が続く場合は空白 1 文字に変換するという処理を行う.

テキスト分類に適用可能な分類学習器は数多くあるが, 本実験では特徴選択方法の比較を行うので, 適切と考えられる分類学習器について実験を行った. 分類学習器には Zhang らの先行研究と同じく線形カーネルを利用したSVM を用いる。線形カーネルを利用したSVM の識別関数は次式のように表される.

$
f(\mathbf{x})=\sum_{j=1}^{d} w_{j} x_{j}+b
$

ここで, $\mathrm{x}$ は識別対象となる文書べクトル, $\mathrm{x}_{j}$ は $\mathrm{x}$ の要素 $\mathrm{j}$ の值, $\mathrm{w}_{j}$ は重みベクトル $\mathrm{w}$ の要素 jの値, d は $\mathrm{x}$ の要素数, bはバイアス項である. wとbは学習によって決定される.

我々の提案手法では, $\mathrm{x}$ の要素集合として, 反復度によって特徴選択した文字列集合を用いる.また, 比較対象として, 2 章の先行研究において説明した条件付確率によって特徴選択した文字列集合を $\mathrm{x}$ の要素集合とした方法をべースラインに用いる。また, 単語を特徴集合とする方法との比較として, 最小出現頻度 1 と最大出現頻度 $\mathrm{h}$ で選択した単語集合を $\mathrm{x}$ の要素集合とした方法とも比較する． $\mathrm{x}_{j}$ の値は 3 手法ともtfidfによって計算された值を用いる. tfidfの計算式は 2 章で記述した式を用いる.

実際のSVM の学習には，SVM ツールのひとつである SVMlight ${ }^{3}$ 使用し， すべてデフォルトのパラメータで学習を行う。複数トピックの分類に対しては, ターゲットとするトピックに属する文書を正例，そのトピックに属さない文書を負例とした 2 クラスによる学習を各トピックについて行う。結果の評価には次の 3 つの尺度を利用する.

$
\text { 適合率 }=\frac{\text { トピックに属すると分類した文書の正解文書数 }}{\text { トピックに属すると分類した文書数 }}
$
^{1} \mathrm{http}$ //www.daviddlewis.com/resources/testcollections/reuters21578/

2 http://people.csail.mit.edu/jrennie/20Newsgroups/

 }^{3}$ http://svmlight.joachims.org/

$
\begin{aligned}
\text { 再現率 } & =\frac{\text { トピックに属すると分類した文書の正解文書数 }}{\text { コーパス中の正解文書数 }} \\
\mathrm{F} \text { 値 } & =\frac{2 \times \text { 適合率 } \times \text { 再現率 }}{\text { 適合率 }+ \text { 再現率 }}
\end{aligned}
$

## 4.1.1 Reuters-21578

Reuters-21578 は, 英語のテキスト分類の標準的なコーパスであり, 先行研究でも用いられている.このコーパスのうち,「ModApte」学習・テストセットを使用し, 本文のうちTITLE夕グと BODY タグのついた文書を使用する。さらに, Reuter-21578 の文書に含まれるトピックのうちの文書数の多い上位 10 トピックについてテキスト分類を行う。たたし，各文書は複数のトピックに属することがあり，その場合，正例として使用される文書は負例として同時に使用しないこととした．分類は，ひとつの文書が各トピックに対して属するか属さないかをSVM を用いて判定することによって行う，学習には, 学習用文書セットの全 9,603 文書を使用し, テストには学習文書とは異なるテストセットの全 3,299 文書を使用する。表 2 に学習セットおよびテストセットにおける上位 10 トピックの正例の文書数を示す. 後述の実験において, 正例の文書数が少ないときに提案方法が優位であることを述べるために，このデータを示した. このコー パスに対して, 次の 3 つの特徴集合を用いた場合のテキスト分類を行い，その結果を比較する。
- 反復度：提案手法である, 反復度を用い文字列を選択した特徴集合
- 条件付確率：Zhang ら (Zhang and Lee 2006) が提案した条件付確率を用いて文字列を選択した特徴集合. ベースラインとして用いる.
- 単語：スペースを区切りとした単語からなる特徴集合

また, 各特徴集合のパラメータ設定と選択された特徴数を以下に示す.
- 反復度 $: ~ l=80, h=8000, a=0.3$ （3 章参照）として 7,099 文字列が選択された.

表 2 学習セットの文書数

- 条件付確率 : $\mathrm{l}=80, \mathrm{~h}=8000, \mathrm{~b}=8, \mathrm{p}=0.8, \mathrm{q}=0.8$ （ 2 章参照）として 8,438 文字列が選択された。
- 単語 $: ~ l=10, h=8000$ として 6,581 単語が選択された.

条件付確率による手法のパラメータは先行研究と同様のパラメータを使用し, 反復度のパラメータおよび単語の特徴選択のパラメータは学習用文書セットでの 4 分割交差検定法において $\mathrm{F}$ 値の平均が最も良くなる値を調べ決定している。ただし，文字列を特徴集合とする場合は，空白で始まる文字列は特徴集合からは除く。これは, 英語の単語が空白で区切られているためである。以上の実験結果を図 1 , 図 2 , 図 3 , 表 3 に示す。

図 1 および図 2 に注目して文字列に対する特徴選択を比較すると, トピック上位 3 つの earn, acq および money-fx については条件付確率による特徴集合を用いたトピック分類との差が適合

図 1 適合率

図 2 再現率

図 $3 \mathrm{~F}$ 值

表 $3 \mathrm{~F}$ 値

率, 再現率ともにほとんどないが, これら以外の 7 トピックについては, 反復度による特徴集合を用いたトピック分類の方が結果が良くなり, 特に再現率が大きく改善された. 図 3 , 表 3 の $\mathrm{F}$ 値でも同様に，上位 3 トピックの earn, acq および money-fx では条件付確率を用いた場合と比べて $\mathrm{F}$ 值はあまり変わらないが，これら以外のトピックでは反復度を用いた方が改善された。

10 個のトピックの内，反復度が優れた結果を出したものは 8 個であり，劣った結果であっても $\mathrm{F}$ 値は $0.20 \%$ しか差が出ない。一方, マクロ平均では $\mathrm{F}$ 値に $3.74 \%$ の差があり, 反復度の方が良い性能を示した。マイクロ平均では $\mathrm{F}$ 値に約 $1.39 \%$ の差があり, 反復度の方が良い性能を示した。ただし，このコーパスにおいては earn と acqで全体の約 $65 \%$ のドキュメントがあり,文書数が偏っている。これはこのテストセットに特殊なケースであり，カテゴリごとの平均で
比較する方が実際の性能を反映すると考えられる。単語を特徴集合とした方法と比較すると,図 3 ，表 3 のように，結果の優劣はトピック毎に異なる。10トピック中 6 トピックについては反復度による方法の方が， $\mathrm{F}$ 値が良くなるという結果になった， $\mathrm{F}$ 値のマクロ平均は反復度による方法と単語による方法を比較するとほぼ等しくなった。

## 4.1.2 20newsgroups

20newsgroups は20 のトピックに属する文書からなる。分類は，Reuters-21578 と同様にひとつの文書が各トピックに属するか属さないかをSVM を用いて判定することによって行う。このコーパスには，学習文書 11,314 とテスト文書 7,532 文書が含まれており，トピック間での文書数の違いはあまりない，実験では，文書中の From， Subject およびニュース本文の文書から特徴に使用する部分文字列を選択し，テキスト分類を行う。この実験における，各特徴集合のパラメータ設定と選択された特徴数は以下の通りである.
- 反復度 : $\mathrm{l}=100, \mathrm{~h}=200000, \mathrm{a}=0.1$ として 69,653 文字列が選択された.
- 条件付確率 : $\mathrm{l}=100, \mathrm{~h}=200000, \mathrm{~b}=8, \mathrm{p}=0.8, \mathrm{q}=0.8$ として 24,732 文字列が選択された.
- 単語 : $\mathrm{l}=5, \mathrm{~h}=10000$ として 26,573 単語が選択された。

$\mathrm{l}, \mathrm{h}, \mathrm{a}$ のパラメータは学習文書での 4 分割交差検定法によって再設定した. ただし, このコー パスにおいても Reuters-21578 と同様に, 先頭が空白で始まる文字列は特徴として用いる文字列から除外した。また, 学習時に負例の文書数が正例と比べ非常に多いことがSVM のモデルに大きな影響を与えてしまったため, 正例と負例の判定エラーに対するコスト比の値を文書数の比に近い値である 20 に設定し学習を行う。以上の条件において 20 のトピックに分類した結果, $\mathrm{F}$ 値のマクロ平均は反復度による万法で $76.05 \%$, 条件付確率による方法で $74.75 \%$, 単語による方法で $76.71 \%$ となっ。 このように，このコーパスにおいても反復度による特徴選択の方が条件付確率による特徴選択よりも良い性能を示した. トピックごとの比較では, 20 トピック中 10 トピックにおいて反復度による方法が単語よりも良くなるという結果になった. しかしながら，その差はほとんどないといえる。

## 4.2 Spam 分類実験

本実験では TREC 2006 Spam Corpus 4 をコーパスとして用いた. このコーパスは Spam 分類のために作られたもので，コーパスにはへッダ情報が含まれ，一般的な英語文章とは異なる構造をしているという特徴がある。コーパスの資料には正確な定義はないが，コーパス作成者が主観的に有用なテキストをHam，それ以外をSpam としたものと考えられる。これを用いた実験で分類精度が向上すれば，実際のSpam 分類においても分類精度が向上すると考えられる。
^{4}$ http://trec.nist.gov/data/spam.html
}

## 4.2.1 実験方法

トレーニングデータとして Spam, Ham それぞれ 100 個, 分類対象（テストデータ）として, Spam, Ham それぞれ 200 個をランダムに選ぶ. 記号, マルチバイト文字は前処理段階でカットし, 分類に用いない.このようにして 20 個の文書セットを構成し, この文書セットそれぞれに対して以下の分類実験を行う.

まず，学習データから次の 3 つの特徴集合を構成する。
- 反復度を用いて特徴選択した文字列からなる特徴集合 (AS)
- 条件付確率を用いて特徴選択した文字列からなる特徴集合 (CS)

・スペースを区切りとした単語からなる特徴集合 (WS)

各手法のパラメータは文書セットごとに交差検定により設定する。ただし，条件付確率による手法のパラメータは先行研究 (Zhang et al. 2006) と同様の値を用いることとする. また, 反復度による手法のパラメータ $1, \mathrm{~h}$ は条件付き確率と同様の値に設定する. テキストの学習分類は 4.1 節と同様に行い，評価も 4.1 節と同様に $\mathrm{F}$ 値を用いて行うこととする.

## 4.2.2 実験結果

4.2.1 節で述べたようにトレーニング，テストデータのセットを 20 個作り，それぞれに対して, 特徴集合として AS, CS, WS それぞれを用いて分類を行う。このようにして得られた分類結果を表 4 に示す。表 4 において，この F 值は (Spamの F 値+Ham の F 值) $/ 2$ として得た平均値である。表 5 には各文書セットに対する反復度の手法のパラメータ $\mathrm{a}$ と, 単語の手法のパラメータ l を示す. ここで, 反復度の手法のパラメータは $\mathrm{a}$ を交差検定で求め, $\mathrm{l}, \mathrm{h}$ は $\mathrm{l}=80$, $\mathrm{h}=8000$ で固定し, 条件付確率の手法のパラメータは $\mathrm{l}=80, \mathrm{~h}=8000, \mathrm{~b}=8, \mathrm{p}=0.8, \mathrm{q}=0.8$ で固定する. また, 単語の手法のパラメータ1は交差検定で求め, $\mathrm{h}$ は $\mathrm{h}=8000$ で固定とした. これは, $\mathrm{h}=8000$ を設定すると各文書セットで良い分類結果を示し, その付近で変化させても分類結果に影響がなかったためである．表では固定されたパラメータについては表記を省略したが，本文中に記したパラメータを使った。

表 4 を見ると，文書セットを変えたときには平均的に反復度が優れた分類結果を示し，条件付確率がもっとも悪い結果を示していることがわかる. 反復度を用いた結果は単語を用いた結果より平均 $1.04 \%$, 条件付確率を用いた結果より平均 $2.93 \%$ だけ $\mathrm{F}$ 値が高い. 表から, 全 20 の文書セットすべての分類結果において，反復度を用いた方が条件付き確率を用いるよりも良い分類結果を示していることが分かる。このことから, 反復度を用いて選択した文字列を特徴集合とするのは条件付確率を用いる方法と比較して有効であると考えられる. 反復度を用いる方法と単語を用いる方法の $\mathrm{F}$ 值を比較すると, 20 回の分類実験のうち, 反復度が単語よりも良い結果となったのが 16 回で, 悪い結果となったのが 3 回, 同じ値となったのが 1 回であった.この結果について符号検定を行い, 両手法の $\mathrm{F}$ 值の間に有意な差があるかどうかを考える。まず,
表 4 各手法の平均 $\mathrm{F}$ 値

表 5 設定したパラメータ

帰無仮説 $\mathrm{H}_{0}$ と対立仮説 $\mathrm{H}_{1}$ を以下に示すように定める.
- $\mathrm{H}_{0}$ ：反復度を用いる方法と単語を用いる方法の $\mathrm{F}$ 値の間に差がない.
- $\mathrm{H}_{1}$ ：反復度を用いる方法は単語を用いる方法の $\mathrm{F}$ 値の間に差がある.

両手法の結果が同じ値となった場合，単語を用いる方法の方が優れていると見なすと，両手
法の $\mathrm{F}$ 值の分布が等しいという仮定の下で単語を用いる方法の結果が 20 回の内 4 回反復度よりも良くなる確率は,

$
\frac{1}{2^{20}}\left({ }_{20} C_{4}+{ }_{20} C_{3}+{ }_{20} C_{2}+{ }_{20} C_{1}+1\right)=0.0059089 \cdots<0.01
$

となるため, 有意水準 $1 \%$ 帰無仮説は棄却され，対立仮説が採択される。このことから，反復度を用いる方法は単語を用いる手法よりも $\mathrm{F}$ 値において有意な差があると考えることができる。表 5 をると，単語の手法のパラメータ1はほとんどが 10 以下で，まれに大きな値をとることがわかる。また, 反復度の手法のパラメータ $\mathrm{a}$ は 0.2 から 0.4 程度の値をとることがわかる。

## 5 考察

## 5.1 ニュースのトピック分類

まず, 文字列に対する 2 の特徵選択方法, 提案手法である反復度による方法とべースラインである条件付確率による方法を比較する４４節の実験において，学習文書とテスト文書に同じ文書集合を用いてみると, $\mathrm{F}$ 值のマクロ平均は, 反復度を用いた方法では $92.87 \%$, 条件付確率を用いた方法では $95.17 \%$ となり, 条件付確率による特徴集合の方が全体的に $\mathrm{F}$ 值が高くなる.学習文書とテスト文書に異なる文書集合を用いる本来の評価では，4.1 節で説明したように反復度による特徴集合の方が $\mathrm{F}$ 值が高いことから, 条件付確率を用いた特徴集合では, 反復度を用いた場合に比べ，過学習してしまう傾向があると考えられる。

ここで, 各手法で選択された文字列を比較すると, 共通して選択されたのは 1,400 文字列で,特徴集合全体に比べて小さい。2つの手法で選択される文字列の差を直感的に理解しやすい例をこの文字列から一つ示す。トピックのひとつである shipに注目し，このトピックに含まれる学習文書を見るとトピック名である「ship」という単語が含まれていることがわかった。それぞれの手法で選択された文字列のうちこの単語に関連する文字列を表 6 に示す.

条件付確率による特徴選択に比べて, 反復度による特徵選択では, 直前に現れる単語の最後の 1 文字加えた文字列や統計的には類似している文字列が追加で選択されている。これらのうち共通していない 2 文字列を特徴集合から取り除いて実験を行ったところ, ship の分類結果

表 6 特徴文字列

が $75.68 \%$ から $73.10 \%$ に減少した。これは, ship に含まれる文書中の「foreign ships」や「own shipping」のような文字列の特徴をテキスト分類に使用したためだと考えられる。連語そのものを検出しているとはいえないが，連語の情報を利用できていることが示唆される．

また，単語を特徴集合とする方法に比べ，提案手法は同等の性能を示したものの有意差は認められなかった。しかしながら, 提案手法は区切り文字のないデータにおいて, 単語抽出を行うための事前処理が必要なく，また上記の連語などのような情報を損なうことのないといった利点がある.

## 5.2 Spam 分類

実験結果から，部分文字列を特徴集合とする 2 つの方法を比較すると, 反復度で特徴選択した場合の方が，分類結果が良いことがわかる，そこで，ここでは両者の特徴集合を比較し，どのような文字列によりこの差が生まれたのかについて考察する.

この考察のために，4.2.1 節で生成した 20 の文書セットの内の一つに相当する別の文書セッ卜 1 個を生成した. これ一つについて分類を行い, 反復度と条件付確率それぞれによる特徴集合を取り出す。 さらに反復度について，特徴集合のうちサポートベクトルとして使用された文字列を抽出する。この分類実験の結果として表 7 に示すデータが得られた.

このとき，各手法のパラメータは次のように設定した.
- 反復度 $: \mathrm{l}=80, \mathrm{~h}=8000, \mathrm{a}=0.3$
- 条件付確率 : $\mathrm{l}=80, \mathrm{~h}=8000, \mathrm{~b}=8, \mathrm{p}=0.8, \mathrm{q}=0.8$

ここで，表 8 のように記号を定義する．IS は ASにあって CS にはない文字列の集合であるため，この文字列の中に条件付確率を用いた場合に比べて分類結果を改善する原因となった文字列が含まれていると考えられる．IS がどれほど分類に寄与しているかと，たとえばどのような文字列が寄与しているかを調べるため以下の 2 つの実験（[実験 1], [実験 2]）を行い，その結果を用いて考察する.

## [実験 1]

ここでは，AS - IS を特徴集合として分類を行う。この分類の結果として表 9 の実験 1 -a に示される $\mathrm{F}$ 值を得た。結果を見ると, 反復度で特徴抽出した場合よりも $7.00 \%$, 条件付確率で特

表 7 手法ごとの $\mathrm{F}$ 値

表 8 文字列集合の記号との対応と大きさ

徵抽出した場合よりも $2.00 \%$ だけ $\mathrm{F}$ 値が下がっていることがわかる. このことから, IS の文字列は $\mathrm{F}$ 値を $7.00 \%$ 上昇させることがわかる。また，このときの $\mathrm{F}$ 値が $\mathrm{CS}$ で分類したときよりも下がっていることから, 反復度では捉えることができなかったが条件付確率では捉えることができた分類に役立つ文字列があったことがわかる。ただし，IS のうち実際に分類に使われる

た場合の結果は同じである。

## [実験 2]

実験 1 から ISกSV が分類結果を改善しているということがわかった。ここでは，実際にどのような文字列が分類に寄与しているのかについて調べる.

まず，考察のために作成した文書セットの分類において反復度が選んだ特徴集合 (AS) の内サポートベクトルとして用いられた部分文字列 (SV) の重み $\mathrm{w}_{j}$ （4.1 節参照）を計算する。そして， $\mathrm{w}_{j}$ が大きいほど分類に寄与していると考え，その上位 50 の文字列をとりだす. その集合とISの積をとり，それをASから取り除いて分類を行う。この結果として表 9 の実験 2-a に示される $\mathrm{F}$ 値を得た。この結果を見ると, 反復度で特徴抽出した場合よりも $2.50 \%$ だけ $\mathrm{F}$ 值が下がっていることがわかる。この 50 個の文字列を調べると, message_id という文字列の一部と推測できる部分文字列 12 個が含まれていることが分かった. これはたとえば表 10 に示されるような文字列である．ここで「_」」は空白を意味することとする.

ただし，この 12 個の部分文字列はすべて CS に含まれていないことが分かった. これらを AS から取り除いて分類すると $\mathrm{F}$ 值は表 9 の実験 2-bに示される値となった。このように，これを除去することで $\mathrm{F}$ 值が下がるという結果から，明らかにこれらの部分文字列は分類に役立っていることがわかる.

SV 全体から message_id の部分文字列を探したところ 26 個見つかり, IS との積をとると 16 個の文字列が得られた。この 16 個の文字列を AS から取り除き分類すると $\mathrm{F}$ 値は表 9 の実験 2-c に示される値となった. この結果からも, message_id の部分文字列群は役立っていることが示唆される。ここで， CSにも含まれている 10 個の message_id の部分文字列を除去した場合, $\mathrm{F}$値は変化しなかった。よって, CS に含まれない 16 個の部分文字列は CS に含まれる 10 個の部分文字列をカバーするといえる。

表 9 条件ごとの $\mathrm{F}$ 值

表 10 見つかった message_id の部分文字列の一部

表 11 反復度と条件付確率の特徴集合の比較

この message_id という文字列がコーパスの Spam, Ham メールのうちどれぐらい含まれるのかを調べたところ，Spamメールの約 $81.9 \%$, Hamメールの約 $99.9 \%$ メれが含まれていることがわかった．よってこれが含まれていないとほぼSpam と断定できる文字列であるということがわかり，これは分類に有用であるということは直感的に理解できる。

message_id という文字列の一部が CSにも含まれており（26 個中 10 個），CS に含まれない 16 個の部分文字列を AS から取り除き分類すると分類結果が悪くなることは先に述べた。ではなぜ 10 個の文字列は CS に含まれない 16 個をカバーできなかったのか，それらの文字列の違いについてここでは考える。考察のために，表 11 に反復度, 条件付確率それぞれの手法が捉えた message_id の部分文字列を示す.

表 11 を見ると，条件付確率の手法を用いたほうは一見しただけでは何の部分文字列かわからないほど短い文字列である。これは別の意図しない文字列に対しても分類結果が引きずられやすい，つまり文字列 message_id を意図して me を選択しても member や meat などの別の文字の部分文字列と解釈される可能性があるということである。それに対して反復度で抽出した部分文字列は短い文字列もあるが，かなり長い文字列も捉えており，age_i ど間に空白が挟まった形も捉えているため, 不特定多数の文字列の一部となりえない特定のものをさす文字列の部分文字列であるといえる。このような何を指しているのかわかりやすいある程度長い部分文字列と，間に空白を挟んだ単語と単語を結ぶような形の部分文字列が分類結果を改善していると考えられる。

## 6 まとめ

文字列によるテキスト分類において，条件付確率を用いて文書の特徴集合を選択する代わりに，反復度を用いて特徴選択を行い, ニュース記事のコーパスである Reuters-21578, 20newsgroups と, スパムメールのコーパスである TREC 2006 Spam Corpus のテキスト分類の結果の比較を行った. 反復度によって特徴選択した特徴集合を用いると条件付確率による特徴集合を用いた場合に比べて, ニュース記事の分類では平均 $79.65 \%$ から平均 $83.39 \%$ と, 平均 $3.74 \%$ だけテキス卜分類の結果を改善することを報告し，スパムメールの分類では分類結果を平均 $90.23 \%$ から平均 $93.15 \%$ と平均 $2.93 \%$ たけ結果を改善することを報告した. このとき，その両方の実験において, 提案する反復度を用いる手法と条件付確率を用いる Zhang ら手法の間に有意差があることを確認した。

また, 本実験では提案手法である反復度を用いて特徴集合を選択する方法と単語を特徴集合とする方法との比較についてもZhang らの手法との比較と同様にして行った. Reuters-21578, 20newsgroups を用いたニュース記事の分類においては両手法の間に有意差は確認できなかった. しかし, TREC 2006 Spam Corpus を用いたスパムメールの分類においては, 反復度による特徵抽出法を用いると, 単語を特徴集合とする場合に比べて分類結果を, 平均 $92.11 \%$ から平均 $93.15 \%$ と平均 $1.04 \%$ だけ改善するということを報告した. そして, このとき危険率 $1 \%$ の検定を行い両手法の間に有意差があるということを確認した。この結果の一つの要因として, 反復度を用いて抽出される部分文字列に，条件付き確率を用いる手法で抽出される部分文字列に比べて別の部分文字列と解釈されにくい部分文字列や，単語による方法では抽出できない単語と単語を結ぶような文字列が含まれていると言うことが考えられる。よって, 本研究は意味ある結果となったといえる.

## 謝 辞

この研究は, 住友電工情報システムとの共同研究の成果です.データの解析には, 戦略的情報通信開発推進制度 (SCOPE) の課題「実空間情報処理のためのインターユビキタスネットワー クの研究」の成果の分析技術を利用しました.

また，多くの有益なご指摘を頂いた查読者の方々に感謝致します.

## 参考文献

Manning, C. and Schutze H. (1999). "Foundations of Statistical Natural Language Processing." MIT Press, Cambridge.

Zhang, D. and Lee, W. S. (2006). "Extracting Key-Substing-Group Features for Text Classification." In Proceedings of the 12th ACM SIGKDD international Conference on Knowledge Discovery and Data Mining, pp. 474-483.

Peng, F., Shuurmans D., and Wang, S. (2004). "Augmenting Naive Bayes text classifier with statistical language models." Information Retrieval, 7 (3-4), pp. 317-345.

Lodhi, H., Saunders, C., Shawe-Taylor, J., Cristianini, N., and Watkins, C. (2001). "Text Classification Using String Kernels." Journal of Machine Learning Research (JMLR), pp. 419-444.

Goodman, J. (2001). "A bit progress in language modeling, extended version." Technical report, Microsoft Research, pp. 403-434.

Church, K. W. (2000). "Empirical Estimates of Adaptation: The chance of Two Noriegas is closer to p/2 than p2." In Proceedings of 18th International Conference on Computational Linguistics, 1, pp. 180-186.

Cristianini, N. and Shawe-Taylor, J. (2000). "An Introduction to Support Vector Machines." Cambridge University Press, Camridge.

Dumais, S., Platt, J., Hecherman, D., and Sahami, M. (1998). "Inductive learning algorithms and representations for text categorization." In Proceedings of the 7th ACM International Conference on Information and Knowledge Management, pp. 148-155.

Mitchell, T. (1997). "Machine Learning." McGraw Hill, international edition.

Geng, Xiubo, Liu, Tie-Yan, Qin, Tao, and Li, Hang (2007). "Feature Selection for Ranking." SIGIR '07: Proceedings of the 30th annual international ACM SIGIR conference on Research and development in information retrieval, pp. 407-414.

Takeda, Y. and Umemura K. (2002). "Selecting indexing strings using adaptation." Proceedings of the 25th Annual International ACM SIGIR Conference on Research and Development in Information Retrieval, pp. 11-15.

Yiming, Yang and Pedersen, Jan O. (1997). "A comparative study on feature selection in text categorization." Proceedings of ICML-97 14th International Conference on Machine Learning, pp. 412-420.

平田勝大, 岡部正幸, 梅村恭司 (2007). 文字列を特徴量とし反復度を用いたテキスト分類. 情報処理学会研究会報告, 76, pp. 121-126.

## 付録

表 4 には文書セットごとの各手法の平均 $\mathrm{F}$ 值を示した．表 12 には文書セットごとの各手法の Spam, Ham それぞれの $\mathrm{F}$ 値を示す.

表 12 表 12 各手法の Spam，Ham それぞれの $\mathrm{F}$ 値

## 略歴

尾上徹：2009 年豊橋技術科学大学工学部情報工学課程卒業. 同年, 同大学院入学, 現在に至る.

平田勝大：2009 年豊橋技術科学大学大学院工学部情報工学専攻修士課程修了.

同年, NTT データ (株) 入社.

岡部正幸：2001 年東京工業大学大学院総合理工学研究科知能システム科学専攻博士課程修了. 博士 (工学). 同年科学技術振興機構 (CREST) 研究員, 2003
年豊橋技術科学大学情報メディア基盤センター助教. 知的情報検索の研究に従事. 人工知能学会会員.

梅村恭司：1983 年東京大学大学院工学系研究系情報工学専攻修士課程修了.博士 (工学). 同年, 日本電信電話公社電気通信研究所入所. 1995 年豊橋技術科学大学工学部情報工学系助教授, 2003 年教授. 自然言語処理, システムプログラム，記号処理の研究に従事. $\mathrm{ACM}$, ソフトウェア科学会, 電子情報通信学会, 計量国語学会各会員.