Subset (3)

corpus · 614 rows

Split (1)

test · 614 rows

_id stringlengths 9 9	text stringlengths 304 9.57k	title stringclasses 1 value
V07N04-06	\label{hajimeni}近年，テキストの自動要約の研究が盛んに行われている\cite{okumura99}．要約は，その利用目的により，原文の代わりとして用いる報知的(informative)要約と，原文を参照する前の段階で原文の適切性の判断などに用いる指示的(indicative)要約とに分類される\cite{Hand97}．報知的要約には，TVニュース番組への字幕生成(例えば,\cite{shirai99}参照)などのように,情報を落とすべきではない要約も含まれる．このような要約文の生成に，文や段落を単位とした重要文抽出の手法を利用すると，採用されなかった文に含まれる情報が欠落する可能性が高い．情報欠落の可能性が低い要約手法として，言い換えによる要約\cite{wakao97,yamasaki98}があるが，要約率に限界があることから(例えば，\cite{yamasaki98}参照)，他の要約手法との併用が必要となる．情報欠落の可能性を減少させた手法として，これまでいくつかの手法が提案されている．福島ら\cite{fukushima99}は，長文を短文に分割した後に重要文抽出を行うことで，情報欠落の可能性の減少を試みている．しかし，重要文として採用されなかった文に含まれる情報には，欠落の可能性が残っていると言える．三上ら\cite{mikami99}は，文ごとに冗長な部分を削除することにより，文単位での抽出による情報の偏りを回避している．この手法では，連体修飾部や例示の部分を削除しても，文の中心内容は影響を受けないとして，これらの部分を削除対象としている．しかし，削除された部分が，読み手にとって重要と判断される場合もあることが三上らのアンケート調査の結果より明らかになっている．さらに，三上らは，連体修飾部等の意味に立ち入らず，構文構造のみから削除部分を認定しており，また，ある文を要約する際には，他の文の情報を使用していない．そのため，例1の下線部のように，意味が同じ修飾部であっても，一方が冗長であると認定されて削除されるならば，もう一方も同様に削除され，これらの情報は欠落する．逆に，冗長であると認定されなければ，両方とも残されるので，読み手にとって既知の情報を再度伝えることになる．\newpage\begin{quote}\label{rei:rei1}\hspace{-1em}{\bf例1：}\\\hspace{1em}\underline{薬害エイズの真相究明につながる}新たなファイルがあることが明らかになった問題で、$\cdots\cdots$\hspace*{1em}この問題は、\underline{薬害エイズの真相究明につながる}厚生省のファイルがこれまでに見つかった九冊の他にさらに七冊あることがわかったもので、$\cdots$\end{quote}\vspace{4mm}そこで本論文では，このような，意味の重複部分を削除する要約手法について議論する．テキスト内で，既出の部分と同一の意味を表している部分のみを削除することにより，情報欠落の可能性を極力回避し，冗長度を減少させることが可能であると考えられる．意味が同一であるかを判定するためには意味を理解する必要があるが，現状の技術で機械による意味理解は困難である．よって，意味の重複のうち，表現の重複で認定可能な事象\footnote{本論文では，語の集まりによって表現される対象物や現象，動作などを事象と呼ぶ．}を対象とする．例1の下線部のように，テキスト内に同じ事象を表す部分が再び現われたならば，その修飾部(第2文の下線部)を削除しても，人間は理解が可能である．本論文では，事象の重複部分の削除による要約を，事象の重複部を認定する「重複部の認定」と，重複部のうち削除可能な部分を決定する「重複部の削除」とに分けて議論する．「重複部の認定」では，2語の係り受け関係を用いて重複部の認定を行う．係り受け関係のある2つの語が，一つの事象を表していると仮定し，それを比較することで事象の重複を認定する．\ref{nintei}~節では，この2語の係り受け関係を用いた重複部の認定について述べる．一方，認定された重複部がすべて削除可能であるとは限らない．たとえ重複していたとしても，削除すると読み手の理解が困難になることや，不自然な要約文が生成されることがある．よって，「重複部の削除」では，全ての重複部を削除するのではなく，削除可能な部分を決定する必要がある．\ref{sakujo}~節では，決定の際に考慮すべき情報について述べる．以下，\ref{jitsugen}~節では，\ref{nintei}~節で述べる重複部の認定と，\ref{sakujo}~節で示す情報のうち実現可能なものとを用いた要約手法の計算機上での実現について述べる．\ref{hyouka}~節では，本手法の評価を行う．記事内に重複の多いニュース原稿を入力テキストとして要約を行い，どの程度重複部分を削除可能か，また，削除箇所が妥当であるかの評価実験を行った．ニュース原稿は，NHK放送技術研究所との共同研究のため提供された，NHK汎用原稿データベースを使用した．\ref{kousatsu}~節では，評価実験の結果より，人間(筆者)は削除したが本手法では削除されなかった重複部，および，妥当でない削除箇所について考察する．さらに，本手法の妥当性と有効性等について考察する．また，\ref{kanren}~節では関連研究について論じる．テキスト自動要約においては,一般的に単独の手法のみでは必ずしも十分な要約率が達成できるとは限らない.むしろ,複数の要約手法を併用することで望ましい要約が得られることが多い.本論文で提唱する手法は,要約を行なう応用において要素技術の一つとして用いることができるが,要約率を向上させるには文間の重複表現以外を用いた他の要約技術との併用を前提とする.
V17N04-01	近年，様々な言語処理タスクにおいて，大量の正解データから学習した統計的言語モデルを解析に用いる教師あり機械学習のアプローチが広く普及している．このアプローチでは，言語の文法的な知識を統計的な特徴量として捉えることができ，形態素解析や固有表現抽出，機械翻訳などの自然言語処理で広く活用されている．本稿では固有表現抽出タスクに焦点をあてる．固有表現抽出は，形態素解析済みの各単語に対して，「どの種類の固有表現か」というタグを付与することにより実現されている．近年では，条件付確率場(ConditionalRandomFields;CRF)\cite{Lafferty:CRF2001,suzuki-mcdermott-isozaki:2006:COLACL}に基づく系列ラベリングが好成績を収めている．しかし，これらの教師あり機械学習に基づく言語処理では，モデルを学習するための正解データを構築するコストが極めて高いことが常に課題となっている．一方，情報検索や情報抽出の分野では，近年ブログなどのConsumerGeneratedMedia(CGM)を対象とした研究も多くなってきている．CGMは，テキストそのものが日々変化してゆくため，新しい語や話題が常に出現するという特徴がある．このような日々変化するテキストにモデルを適応させる確実な方法は，正解の追加データを作成することである．しかし，人手コスト問題のため，迅速に対応させるのは困難であった．これらの人手コストを削減するための従来研究として，能動学習\cite{shen-EtAl:2004:ACL,laws-schutze:2008:PAPERS}，半教師あり機械学習\cite{suzuki-isozaki:2008:ACLMain}，ブートストラップ型学習\cite{Etzioni2005}などが提案されてきた．能動学習は，膨大なプレーンテキスト集から学習効果の高いデータを取捨選択し，正解は選択されたデータのみに対して人手で付与する手法であり，人手コストを効果的に集中させることに着眼している．そのため，能動学習では学習効果の高いデータ（文）を選択するという，データセレクションが最も重要なポイントとなる\footnote{本来の能動学習では，少ないデータ量で統計モデルの精度を向上させるため，データの取捨選択を行っているが，目的の一つは，大規模正解データで学習したモデルと同等の精度を，少ない作業量で達成するためである．そのため，本稿では，人手作業コストを削減するデータセレクション→人手修正→モデル再学習の一連の手順を能動学習と呼ぶ．}．ここでのデータセレクションの単位は常に文である．一方，もしシステムの解析結果をそのまま正解データとして利用できれば，人手コストは大幅に削減可能である．しかし，現実には解析結果には解析誤りが存在するため，その解析誤りを一つ一つ人手で確認修正する作業が必要である．データセレクションの単位が文である限り，どこに解析誤りが存在するか明白ではないため，全てのタグをチェックする必要がある．しかし，実際には大部分のタグが正解であることが多いため，文全体の全てのタグを確認するコストは無駄が多い．本稿では，タグ単位の事後確率に基づいて算出したタグ信頼度を導入する．この手法では，文単位の信頼度ではなく，各単語に付与されうる全てのタグについてのタグ信頼度を計算する．そしてタグ信頼度に基づいて解析誤りタグを自動的に検出する．自動的に検出された解析誤り箇所だけを人手チェック・修正の対象とすれば，能動学習の学習効率は更に高まる．更に，もし検出された解析誤りを自動的に正解に修正できれば，更に学習コストを削減できる．本稿では，シードとなる正解固有表現リストを利用してブートストラップ的に正解データを収集する半自動自己更新型固有表現抽出を提案する．この手法では，予め人手でシードを準備するだけで，膨大なテキストからシードに存在する固有表現を含む正解データ\footnote{本稿では「正解データ」と呼ぶが，自動で固有表現を認識しているため，実際には少量の誤りも含んだ擬似正解データである．}を自動的に収集し，モデル更新をすることが可能となる．\begin{figure}[b]\begin{center}\includegraphics{17-4ia2f1.eps}\end{center}\caption{本稿で提案する学習手法の模式図}\label{fig-overall}\end{figure}本稿で提案する2つの学習手法の模式図を図\ref{fig-overall}に示す．タグ信頼度に基づいて大規模平文データからシステム解析誤りを自動検出し，誤りタグの有無でデータセレクションを実施する．誤りタグを人手で修正する能動学習（\ref{sec-active-learning}章）と，半自動で修正する自己更新型固有表現抽出UpdateNER（\ref{sec-bootstrapping}章）を本稿では提案する．以下，第\ref{sec-ner}章では固有表現抽出タスクについて述べ，第\ref{sec-confidence-measure}章では，今回提案するタグ信頼度について説明する．第\ref{sec-active-learning}章では，タグ信頼度を能動学習に適応したときの効果を示し，第\ref{sec-bootstrapping}章では半自動自己更新型固有表現抽出について説明する．第\ref{sec-related-works}章で関連研究について述べ，第\ref{sec-conclusion}章でまとめる．
V24N03-05	法律文書や技術文書等の専門文書は，その文種に特有の表現を持っていることから，サブ言語を形成していると考えることができる．サブ言語を対象とした翻訳に関する従来の研究では，サブ言語の翻訳品質を向上させるには，対象のサブ言語に特徴的に表れる文構造を適切に捉え，対象言語の文構造に変換することが不可欠であることが指摘されている\cite{DBLP:conf/coling/BuchmannWS84,DBLP:conf/eacl/Luckhardt91,DBLP:conf/anlp/MarcuCW00}．図\ref{fig:ex-sents}は，特許抄録のサブ言語に特有な2対の対訳文である．いずれの文対でも，適切な訳文を得るためには，原言語文におけるABCという文構造を目的言語においてCBAに変換しなければならない．このようなサブ言語に特徴的な文では，文構造を適切に捉えられなければその後の処理でも良い翻訳に結びつく可能性が低いため，初期段階での正確な文構造の把握が極めて重要である．\begin{figure}[b]\begin{center}\includegraphics{24-3ia0f1.eps}\end{center}\hangcaption{大域的な並べ替えが必要な，特許抄録のサブ言語に特徴的な対訳文の例．A,B,Cは，文の大域的構造を構成する構造部品を表す．}\label{fig:ex-sents}\end{figure}\leavevmode\hboxto357pt{この課題に対して様々な研究が行われてきた．骨格構造を用いた機械翻訳}\cite{Mellebeek06asyntactic,DBLP:conf/acl/XiaoZZ14}では，構文解析器を用いて入力文から{\bf骨格構造}，つまり文の大域的な構造を抽出し，従来の統計的機械翻訳を用いて大域的な構造の学習を行って翻訳文を生成する．しかしながらこの方法は，構文解析の精度の影響を受けるため，解析精度が低い場面では結果的に翻訳の精度も低くなるという問題がある．もう一つの手法としては，文構造変換のための同時文脈自由文法の規則を人手で構築し，これを用いて入力文の文構造を出力側言語の構造に変換する手法が提案されている\cite{Fuji:2015,Fuji2016claim}．こちらの手法は，新規のサブ言語に対して人手で規則を作成しなければならないという問題がある．これらの手法では，構文解析精度による制約の問題があったり，人手による規則作成の問題があるなど，新たなサブ言語に対して柔軟に適用できる翻訳を実現することができていない．本論文では，サブ言語に特有な大域的な文構造を捉えるための，大域的な並べ替え手法を提案する．提案手法は，構文解析を用いることなく，アノテートされていない平文テキストデータから大域的並べ替えモデルを学習し，このモデルを用いて新規の入力文に対する大域的な並べ替えを行う．本手法は構文解析器を用いないため，構文解析器の解析精度の影響を受けることはなく，また新規のサブ言語にも容易に適用できる．特許抄録のサブ言語を対象にした日英および英日翻訳実験を行って本手法の評価を行ったところ，大域的な並べ替えと従来型の構文解析に基づく並べ替えを併用することによって，翻訳品質が向上することがわかった．本論文の貢献は次のとおりである．\begin{itemize}\item構文解析を用いることなく，アノテートされていない平文テキストデータから大域的並べ替えモデルを学習できる手法を提案する．\item大域的な並べ替えと構文解析に基づく並べ替えを併用したときに翻訳品質が向上することが確認できた．\item特に特許抄録文では，サブ言語に特有な文構造を持った入力文に対して，日英・英日双方向において翻訳精度が向上した．\end{itemize}
V19N05-03	現在，電子メール，チャット，{\itTwitter}\footnote{http://twitter.com}に代表されるマイクロブログサービスなど，文字ベースのコミュニケーションが日常的に利用されている．これらのコミュニケーションにみられる特徴の一つとして，顔文字があげられる\cite{ptas2012}．旧来の計算機を介した電子メールなど，ある程度時間のかかることを前提としたコミュニケーションでは，直接会った際に現れる非言語的な情報，具体的には，表情や身振りから読み取ることのできる感情やニュアンスなどの手がかりが少なくなることから，フレーミングなどのリスクを避けようとすると，個人的な感情を含まない目的のはっきりした対話に用いることが適切とされる\cite{derks2007}．一方，利用者のネットワークへのアクセス時間の増加に伴い，マイクロブログや携帯メールなど，リアルタイム性の高いコミュニケーションメディアが発達するとともに，親しい友人同士の非目的志向対話への需要は増している．このようなコミュニケーションにおいては，顔文字が，対面コミュニケーションにおける非言語情報の一部を補完するとされている\cite{derks2007}．顔文字とは``(\verb\|^\|−\verb\|^\|)''のように，記号や文字を組みあわせて表情を表現したもので，テキスト中で表現された感情を強調・補足できる，という利点がある．一方，マイクロブログや携帯メールなど，リアルタイム性の高いコミュニケーションメディアの発達と時期を同じくして，その種類は増加の一途をたどっている．その中から，ユーザが文章で伝えたい感情に適切な顔文字を，ただひとつだけ選択するのは困難である．また，顔文字入力の主な方法である顔文字辞書による選択では，指定された分類カテゴリ以外の意味での使用を目的とした顔文字を入力することは難しく，予測変換機能では，単語単位を対象としてしか顔文字を提示できない．そのほかの手段として，他のテキストからのコピーアンドペーストやユーザ自身による直接入力があるが，これらは操作数が多く，効率的ではない．そこで，本研究では，ユーザによる適切な顔文字選択の支援を目的とし，{\bfユーザの入力文章から，感情カテゴリやコミュニケーションや動作を反映したカテゴリを推定}し，顔文字を推薦するシステムの構築を目指す．本論文の構成は以下のとおりである．\ref{sec:related}節では，関連研究を紹介する．\ref{sec:category}節では，顔文字推薦のために本研究で定義したカテゴリについて説明する．\ref{sec:implementation}節では，顔文字推薦システムの実現について紹介し，\ref{sec:evaluation}節では，評価実験について説明する．最後に，\ref{sec:conclusion}節で結論をまとめる．
V18N03-02	\label{sec:intro}語義曖昧性解消は古典的な自然言語処理の課題の一つであり，先行研究の多くは教師あり学習により成果を挙げてきた\cite{Marquez04,Navigli09}．しかし，教師あり学習による語義曖昧性解消においてはデータスパースネスが大きな問題となる．多義語の語義がその共起語より定まるという仮定に基づけば，一つの多義語と共起し得る単語の種類が数万を超えることは珍しくなく，この数万種類のパターンに対応するために充分な語義ラベル付きデータを人手で確保し，教師あり手法を適用するのは現実的でない．一方で語義ラベルが付与されていない，いわゆるラベルなしのデータを大量に用意することは，ウェブの発展，学術研究用のコーパスの整備などにより比較的容易である．このような背景から，訓練データと大量のラベルなしデータを併用してクラス分類精度を向上させる半教師あり学習，または訓練データを必要としない教師なし学習による効果的な語義曖昧性解消手法の確立は重要であると言える．本稿では半教師あり手法の一つであるブートストラッピング法を取り上げ，従来のブートストラッピング法による語義曖昧性解消手法の欠点に対処した手法を提案する．ブートストラッピング法による語義曖昧性解消においては主にSelf-training（自己訓練）\cite{Nigam00b}とCo-training（共訓練）\cite{Blum98}の二つのアプローチがある\cite{Navigli09}．まずこれらの手法に共通する手順を述べると次のようになる．\vspace{0.5\baselineskip}\begin{center}\begin{minipage}{0.85\hsize}\underline{一般的ブートストラッピング手順}\begin{description}\item[Step1]ラベルなしデータ$U$から事例$P$個をランダムに取り出し$U'$を作る．\item[Step2]ラベル付きデータ$L$を用いて一つまたは二つの分類器に学習させ$U'$の事例を分類する．\item[Step3]Step2で分類した事例より分類器毎に信頼性の高いものから順に$G$個を選び，$L$に加える．\item[Step4]Step1から$R$回繰り返す．\end{description}\end{minipage}\end{center}\vspace{0.5\baselineskip}Self-trainingとCo-trainingの違いは，前者はStep2で用いる分類器は一つであるのに対し，後者は二つ用いる点にある．またCo-trainingにおいては二つの独立した素性集合を設定し，各分類器を一方の素性集合のみを用いて作成する．Co-trainingにおいてこのように設定するのは，Step3において追加する事例を一方の素性のみから決定することから，追加事例のもう一方の素性を見たとき新しい規則の獲得が期待できるためである．Self-trainingとCo-trainingの欠点はいずれも性能に影響するパラメータが多数存在し，かつこれらのパラメータを最適化する手段がないことである．具体的にはStep1のプールサイズ$P$,Step3の$L$に加える事例の個数$G$,手順の反復回数$R$は全てパラメータであり，タスクに合わせた調整を必要とする．本稿では，ラベル付きデータとラベルなしデータを同時に活用しつつも，パラメータ設定をほとんど不要とする新しい手法を提案する．本手法はまずヒューリスティックと教師あり学習で構築した分類器によるラベルなしデータの二段階の「分類」を行う．ここで「分類」とは語義曖昧性解消を行い，語義ラベルを付与することを意味する．本稿では以後特に断りがない限り，分類とはこの語義ラベル付与のことを指す．二段階分類したラベルなしデータの中で条件を満たすデータはオリジナルのラベル付きデータに加えられる．その結果，パラメータ設定がほぼ不要なブートストラッピング的半教師あり手法による語義曖昧性解消を実現する．さらに追加するラベルなしデータの条件を変えることで複数の分類器を作成し，アンサンブル学習することで，パラメータの変化に頑健な分類器を生成する．本稿の構成は以下の通りである．\ref{sec:work}節にて関連研究および本研究の位置付けを述べる．\ref{sec:method}節にて提案手法およびその原理を並行して述べる．\ref{sec:exp}節にてSemEval-2日本語タスク\cite{Okumura10}のデータセットに提案手法を適用した実験の結果を示す．\ref{sec:conc}節にて結論を述べる．
V09N05-04	label{intro}比喩とは，ある概念を他の概念によって説明または強調する修辞的手法の一つであり\cite{Lakoff1986,Yoshiga1990j}，様々な分野で研究対象として取り上げられている\cite{Shinohara2000j}．自然言語処理の分野においても，比喩表現はしばしば問題となる．例えば，機械翻訳において，現状のシステムでは意訳や再解釈などの深い処理は行われないため，目的言語に翻訳された比喩表現は，意図した内容と異なった出力となってしまう場合がある\cite{Masui1995j}．``水のような価値''という比喩表現は，日本語では「価値が低い」という意味として理解されるが，言語によっては，「非常に価値が高い」ことを意味する場合がある．これは，``水''が持つ特徴が言語間で異なるからであり，この違いを補正するためには，原言語における「価値が低い」という特徴を保持したまま，対象言語において，同様の特徴を持った言葉を選び出す必要がある．しかし，現状の機械翻訳では，このような，言語間の意味の相違を考慮した処理は不可能である．このような場合，その表現が比喩であるかどうかを判断し，``asworthaswater''や``valuelikeaswater''と直訳されることを防ぐだけでも有効であると思われる．また，李\cite{Yoshiga1990j}によれば，新聞記事などの実用文においても，比喩表現は数多く出現し，その割合は小説や雑誌と大差はない．したがって，自然言語処理の対象を一般的な文書へ拡大し，柔軟な処理を行うたためには，比喩表現の処理は重要である．従来，比喩に関する研究は，心理学の分野において発展してきた．Ortony\cite{ortony79}やGentner\cite{gentner94}をはじめ，多くの比喩理解の理論的モデルが，提案されている．楠見\cite{Kusumi1996jb,Kusumi1996ja}は，心理学的実験手法によって，比喩理解に必要な知識を計測し，いくつかの理論的モデルの検証を行っている．しかしながら，上記で述べたような心理学実験は，被験者に対するアンケートやテストによって知識を得る手法であるため，汎用的な大規模知識ベースを構築するという目的に対しては，被験者数の確保や被験者集団の知識の偏り，個人差の是正の困難さやコストの面で大きな制限がある．比喩理解の過程を計算機上で実現するためには，比喩の理解過程を，なんらかの形でモデル化して扱う必要がある．岩山らは，プロトタイプ理論\cite{rosch75}に基づいて概念を生起確率を持った属性値集合として記述し，比喩を構成するときの特徴の移動を定量化する計算モデルを提案しており\cite{Iwayama1991j}，内海も同様の計算モデルを用いて，心理学実験データに基づく知識ベースを用いた比喩理解の実験を行い，人間の判断結果と比較している\cite{Utsumi1997j}．彼らのモデルでは，比喩の理解過程は比喩表現として尤も強調される特徴(顕現特徴)が，たとえる概念(source概念)からたとえられる概念(target概念)へ移動するプロセスとして扱われている．しかしながら，楠見ら\cite{Kusumi1996ja,Iwayama1991j}が指摘するように，比喩理解において，比喩性を有する概念間の共有属性値は必ずしも一つとは限らず，複数の顕現特徴を扱う場合については議論の余地がある．また，彼らも，人手によって知識ベースを構築しており，知識の大規模化，汎用化の問題は解消されていない．そこで，本論文では，テキスト中に出現する比喩表現を認識するために，確率的な尺度を用いた比喩性検出手法を提案する．比喩性を検出するための確率的な尺度として，``顕現性落差"と``意外性"を設定する．``顕現性落差''は，概念対を比較したときに，クローズアップされる顕現特徴の強さをはかる尺度であり，概念の組合せが理解可能である否かの判断に用いる．``顕現性落差''は，確率的な概念記述を用いて，概念の共有属性値集合が持つ冗長度の差で定量化する．``意外性''は，概念の組み合わせがどれほど斬新であるかをはかる尺度であり，概念同士が例示関係であるか否かの判断に用いる．``意外性"は，単語間の意味距離を用いて定量化する．二つの尺度を併用することによって，比喩関係を持つ概念対，すなわち，比喩性の判定が可能となる．二つの尺度を計算するために，コーパス中から抽出した語の共起情報を利用して知識ベースを構築する．以下，2章で，比喩性を検出するための尺度として，``顕現性落差''と``意外性''が利用できることを示し，3章で，``顕現性落差''を，確率的概念記述モデルに基づいて定量化する方法と，計算に用いる知識ベースを，コーパス中の共起関係を利用して構築する方法について述べ，4章で，``意外性''を，単語間の意味距離を利用して定量化する方法と，コーパス中の共起情報に基づく知識ベース構築の方法について説明する．5章では，両尺度を併用した単語対の判別実験と評価を行い，6章で，評価結果について考察する．
V10N03-04	本論文では，Nigamらによって提案されたEMアルゴリズムを利用した教師なし学習の手法\cite{nigam00}を，SENSEVAL2の日本語翻訳タスク\cite{sen2}で出題された名詞の語義の曖昧性解消問題に適用する．その結果，通常の教師付き学習で得られる分類規則の精度を向上させ得ることを示す．自然言語処理では個々の問題を分類問題として定式化し，帰納学習の手法を利用して，その問題を解決するというアプローチが大きな成功をおさめている．しかしこのアプローチには帰納学習で必要とされる訓練データを用意しなければならないという大きな問題がある．この問題に対して，近年，少量のラベル付き訓練データから得られる分類器の精度を，大量のラベルなし訓練データによって高めてゆく教師なし学習が散見される．代表的な手法として，Co-training\cite{blum98}と，EMアルゴリズムを利用した手法\cite{nigam00}がある．Co-trainingは2つの独立した属性AとBを設定し，一方の属性Aから構築される分類器を利用して，ラベルなしデータにラベル（クラス）を付与する．その中から信頼性のあるラベルが付与されたデータをラベル付き訓練データに加える．このようにして追加されたラベル付き訓練データは，もう一方の属性Bから見るとランダムなサンプルにラベル付けされたデータとして振る舞うので，属性Bから構築される分類器の精度が高まる．これをお互いに作用し合うことで，分類器の精度が高められる．一方，EMアルゴリズムは，部分的に欠損値のある不完全な観測データ$x_1,x_2,\cdots,x_N$から，そのデータを発生する確率モデル$P_{\theta}(x)$を推定する手法である．$P_{\theta}(x)$は未知パラメータ$\theta$を含み，$P_{\theta}(x)$の推定は，$\theta$の推定に帰着される．分類問題の教師なし学習では，ラベル付き訓練データが完全な観測データ，ラベルなし訓練データがラベルを欠損値とした不完全な観測データとなる．EMアルゴリズムは，現時点での$\theta$を使って，モデル$P_{\theta}(c\|x_i)$のもとでの$\logP_{\hat{\theta}}(x_i,c)$の期待値を取る（E-step）．次に，この期待値を最大にするような$\hat{\theta}$を求める（M-Step）．$\hat{\theta}$を新たな$\theta$として先のE-stepとM-stepを繰り返す．ここで$c$は欠損値となるラベルである．EMアルゴリズムはパラメータ$\theta$とモデル$P_\theta(x)$を適切に設定することで，隠れマルコフモデルや文脈自由文法のパラメータ推定，あるいは名詞と動詞間の関係クラスの教師なし学習\cite{rooth}\cite{torisawa}などに利用できる．そして，Nigamらは文書分類を題材にモデル$P_\theta(x)$をNaiveBayesのモデル，$\theta$をラベル$c$のもとで素性$f$が起る条件付き確率$p(f\|c)$に設定することで，教師なし学習を試みている\cite{nigam00}．NigamらのEMアルゴリズムを利用した手法やCo-trainingは，どちらも本来は文書分類に対して考案されており，多義語の曖昧性解消に利用できるかどうかは明らかではない．多義語の曖昧性解消は自然言語処理の中心的な課題であり，これらの手法が適用できることが望ましい．ここではSENSEVAL2の日本語翻訳タスクで出題された名詞を題材に，EMアルゴリズムを利用した教師なし学習の手法が名詞の語義の曖昧性解消に適用可能であることを示す．翻訳タスクの出題形式はある単語$w$がマークされた（日本語）文書である．翻訳タスクでは予め，単語$w$に関するTranslationMemory（以下TMと略す）と呼ばれる日英の対訳例文の集合が解答者に配られている．そして翻訳タスクの解答形式は，出題された文書内において注目する単語$w$を英訳する際に利用できるTMの例文番号である\footnote{厳密には，翻訳システムも参加できるように，英訳自身を返す解答形式も認められているが，ここでは例文番号を返す解答形式のみを考える．}．つまり，翻訳タスクは単語$w$の訳を語義と考えた多義語の曖昧性解消問題となっている．また同時に，翻訳タスクはTMの例文番号をクラスと考えた場合の分類問題として扱える．ここで注意すべきは，翻訳タスクは訓練データを作るのが困難な点である．TMは1つの単語に対して平均して21.6例文がある．今仮にある単語$w$の例文として$id_1$から$id_{20}$までの20例文がTMに記載されていたとする．新たに訓練データを作成する場合，単語$w$を含む新たな文を持ってきて，$id_1$から$id_{20}$のどれか1つのラベルを与える必要がある．〇か×かの二者択一は比較的容易であるが，20個のラベルの中から最も適切な1つを選ぶのは非常に負荷のかかる作業である．このように，翻訳タスクは訓練データを新たに作るのが困難であるために，教師なし学習を適用する格好のタスクになっている．実験ではSENSEVAL2の日本語翻訳タスクで出題された全名詞20単語を用いて，本手法の評価を行う．各単語に対して，平均70事例（TMの例文も含む）からなるラベル付き訓練データと，新聞記事1年分から取り出した平均3,354事例からなるラベルなし訓練データを作成し，本手法を適用した．ラベル付き訓練データだけから学習できた決定リストの正解率は58.9\,\%(コンテストでのIbarakiの成績)であり，NaiveBayesによる分類器の正解率は58.2\,\%であった．そして本手法を用いてNaiveBayesによる分類器の精度を高めた結果61.8\,\%まで改善された．また一部，訓練データの不具合を修正することで，NaiveBayesによる分類器の正解率を62.3\,\%，決定リストでの正解率を63.2\,\%に向上できた．更に，本手法を用いてNaiveBayesによる分類器の正解率（62.3\,\%）を68.2\,\%まで高めることができた．
V15N05-04	言葉の意味処理にとってシソーラスは不可欠の資源である．シソーラスは，単語間の上位下位関係という，いわば縦の関連を表現するものである．我々は意味処理技術の深化を目指し，縦の関連に加えて，単語が使用されるドメインという，いわば横の関連を提案する．例えば，単語が「教科書」「先生」ならドメインは\dom{教育・学習}であり，「庖丁」なら\dom{料理・食事}，「メス」なら\dom{健康・医学}である．本研究では，このようなドメイン情報を基本語約30,000語に付与し，基本語ドメイン辞書として完成させた．ドメインを考慮することでより自然な単語分類が可能となる．例えば分類語彙表は，「教科書」は『文献・図書』，「先生」は『専門的・技術的職業』として区別するが，ドメイン上は両者とも\dom{教育・学習}に属する．また，分類語彙表は「庖丁」も「メス」も『刃物』として同一視するが，両者はドメインにおいて区別される．ドメイン情報は様々な自然言語処理タスクで利用されてきた．本研究では\S\ref{bunrui-method}で述べるように文書分類に応用するが，それ以外にも，文書フィルタリング\cite{Liddy:Paik:1993}，語義曖昧性解消\cite{Rigau:Atserias:Agirre:1997,Tanaka:Bond:Baldwin:Fujita:Hashimoto:2007}，機械翻訳\cite{Yoshimoto:Kinoshita:Shimazu:1997,Lange:Yang:1999}等で用いられてきた．本研究で開発した基本語ドメイン辞書構築手法は半自動のプロセスである．まず，人手で付与されたドメイン手掛かり語と各基本語の関連度をもとに，基本語にドメインを自動付与する．次に，自動ドメイン付与結果を人手で修正して完成させる．関連度計算には検索ヒット数を利用した．本研究で半自動の構築プロセスを採用したのは次の理由による．基本語の語彙情報は，多くの自然言語処理技術の根幹を形成するものであり，非常に高い正確さが要求される．しかし今日の技術では，全自動でそのような正確さを備えた語彙情報を獲得するのは困難である．一方で，全て人手で作業するのは，コスト的にも，一貫性と保守性の観点からも望ましくない．以上の理由により，高い精度の自動ドメイン付与結果を人手で修正する，という半自動プロセスを採用した\footnote{京都テキストコーパスも同様の理由から，高精度な構文解析器KNP\cite{黒橋:長尾:1992}．による解析結果を人手で修正する，という手法を採用した．}このドメイン辞書は世界初のフリーの日本語ドメイン資源である．また，本手法に必要なのは検索エンジンへのアクセスのみで，文書集合や高度に構造化された語彙資源等は必要ない．さらに，基本語ドメイン辞書の応用としてブログ自動分類を行った．各ブログ記事は，記事中の語にドメインとIDF値が付与され，最もIDF値の高いドメインに分類される．基本語ドメイン辞書に無い未知語のドメインは，基本語ドメイン辞書，Wikipedia，検索エンジンを利用して，リアルタイムで推定される．結果として，ブログ分類正解率94\%(564/600)と，未知語ドメイン推定正解率76.6\%(383/500)が得られた．なお，基本語ドメイン辞書に収録するのは基本語のみ\footnote{より正確には，JUMAN\cite{JumanManual:2005}に収録された内容語約30,000語である．}であり，専門用語等は含めない．以下，\S\ref{2issues}で基本語ドメイン辞書構築時の問題点を，\S\ref{domain-construction-method}では基本語ドメイン辞書構築手法を述べる．完成した基本語ドメイン辞書の詳細は\S\ref{dic-spec}で報告する．\S\ref{bunrui-method}では基本語ドメイン辞書のブログ分類への応用について述べ，\S\ref{unknown_domest}ではブログ分類時に用いられる未知語ドメイン推定について述べる．その後，ブログ分類と未知語ドメイン推定の評価結果を\S\ref{eval}で報告する．\S\ref{related-work}で関連研究と比較した後，\S\ref{conclusion}で結論を述べる．
V29N02-12	\label{sec:intro}文法誤り訂正は，文書中の様々な種類の誤りを自動的に訂正する自然言語処理の研究課題であり，言語学習者の作文支援への応用が期待されている．機械翻訳のモデルを用いて，誤りを含む文から正しい文への翻訳を行う手法が効果的であり，特に，近年ではニューラル機械翻訳で用いられる手法を応用する研究が活発になされている．機械翻訳の手法を用いるためには，\citeA{mizumoto-etal-2011-mining}のLang-8コーパスなどの大規模な学習データが必要となる．しかし，\citeA{junczys-dowmunt-etal-2018-approaching}で指摘されているように，高品質なニューラル機械翻訳モデルを学習するためには，依然，学習データの量は不十分である．この問題に対処するため，データ拡張によって大規模な学習データを人工的に生成し，そのデータを用いて事前学習を行ったモデルに対し，文法誤り訂正のデータセットで再学習（ファインチューニング）を行う手法に注目が集まっている\cite{lichtarge-etal-2019-corpora,zhao-etal-2019-improving,grundkiewicz-etal-2019-neural,kiyono-etal-2019-empirical}．文法誤り訂正のデータ拡張では，単言語コーパスの誤りのない文に誤りを生成し，人工データを作成する．最も平易なデータ拡張手法は，ランダムな置き換え・挿入・削除の編集操作によって，誤りを生成するものである\cite{zhao-etal-2019-improving}．このランダムな編集操作は，効果的な事前学習が行えるものの，実際の文書中に出現する誤りを再現するものとはなっていない．そのため，これを改善するための様々な手法が考案されている．例えば，編集操作を行う際に，前置詞や冠詞などの特定の文法カテゴリや，綴り・約物などの表記に対して，誤りを生成するルールを活用することで，人工データの質を改善する手法が提案されている\cite{choe-etal-2019-neural,takahashi-etal-2020-grammatical,flachs-etal-2019-noisy,grundkiewicz-etal-2019-neural}．また，機械翻訳モデルを活用して折り返し翻訳を行う手法や\cite{lichtarge-etal-2019-corpora}，逆翻訳を応用した誤り生成\cite{kiyono-etal-2019-empirical,wan-etal-2020-improving}などが提案されている．さらに，データ拡張を行う際に，何が性能向上に寄与するかという点に関して，活発に研究が行われている．本研究では，その中の，特に以下に示す3つの要素に着目し，その妥当性を検証する．本論文では，これらをデータ拡張に重要とされる3つの仮定と呼ぶ．\begin{itemize}\setlength{\itemindent}{3em}\item[仮定(1)]生成される誤りの種類の多様さが，訂正性能に寄与する．\item[仮定(2)]特定の種類の誤りが生成されることが，その種類の誤り訂正性能に寄与する．\item[仮定(3)]データ拡張に用いるデータの規模が，訂正性能に寄与する．\end{itemize}以下に，文法誤り訂正のデータ拡張の研究において，これらの仮定の妥当性を検証する背景と，その意義・貢献について説明する．仮定(1)「生成される誤りの種類の多様さが，訂正性能に寄与する」について説明する．生成される誤りの多様さが重要であるということがデータ拡張を行う際に重要であることは，以前から着目されており，誤り生成モデルに対して，ノイズを加える手法や，複数の候補を用いることで性能の向上が確認されている\cite{ge-etal-2018-fluency,xie-etal-2018-noising}．さらに，誤り種類を分類した誤りタグを用いて，誤り種類ごとに誤り生成を行うことで，高い性能向上が確認されている\cite{wan-etal-2020-improving,stahlberg-kumar-2021-synthetic}．一方で，これらの手法では，誤り種類の多様さを変化させた検証を行っていない．そのため，人工データ中の誤り種類が多様であることが，訂正性能に及ぼす影響を評価できていない．仮定(1)を検証することで，既存の研究で仮定されている，誤り種類に着目し，人工データの誤りの多様さの重要性を再検証し，データ拡張手法を考案する上で考慮すべき性質が何かを明らかにする．仮定(2)「特定の種類の誤りが生成されることが，その種類の誤り訂正性能に寄与する」について説明する．誤り種類ごとに性能を評価している既存研究は存在しているが\cite{takahashi-etal-2020-grammatical}，生成される誤り種類を変えた評価は行われていない．仮定(2)を検証することで，特定の誤り種類が確実に生成されていることの重要性を再検証する．さらに，様々な種類の誤りに対してデータ拡張を行った場合に，誤り種類ごとに適切に誤りが生成されていることが，重要であることを明らかにする．仮定(3)「データ拡張に用いるデータの規模が，訂正性能に寄与する」について説明する．データ拡張は，数千万文程度の，大規模なコーパスに対して行われる．データの規模を大きくすると，訂正性能が向上することは既存の報告で確認されている\cite{kiyono-etal-2019-empirical,wan-etal-2020-improving}．しかし，単にデータ拡張に用いるデータを大きくするだけでは，事前学習を行ったステップ数や，同じ単言語文から複数の異なる誤り文を生成した場合の影響の有無など，データの規模以外の要因の影響が評価できない．仮定(3)を検証することで，既存の研究で仮定されている，大規模データを用いたデータ拡張の有効性を再検証し，大規模データを用いる際に，実験設定を決定するための根拠を提供できる．本研究では，これらの仮定の妥当性を検証するため，様々な文法カテゴリにおける誤りを生成するルールを作成し，それらを組み合わせることで誤り生成を行う．ルールを活用することで，折り返し翻訳や逆翻訳などのモデルベースの誤り生成手法と比較して，生成される誤りの種類を確実に制御することができる．この手法を用いることで，仮定(1)と仮定(2)に対して，それぞれ次のように検証を行うことができる．\begin{itemize}\item誤り生成に用いるルールの種類を変えることで，データ中の誤り種類を制御することができる．そのため，誤り種類の多様さが訂正性能に与える影響を評価することができる．\item誤り生成に用いるルールの種類を変えることで，どの種類の誤りが事前学習・再学習を行った後の訂正性能に影響を与えるか評価することができる．\end{itemize}さらに，仮定(3)に対しては，事前学習におけるパラメータの更新回数を固定しながら，データ拡張に用いる単言語コーパスの規模を評価し，検証を行うことができる．加えて，以下の3つの実験を行い，提案手法単体の評価を行う．\begin{itemize}\item人手で作成されたデータを用いず，ルールを用いて生成されたデータのみを用いて学習を行い，その性能を評価し，学習者データを用いない教師なし設定の手法としての有効性を確認する．\item折り返し翻訳と逆翻訳によるデータ拡張と，既存のベンチマーク上で比較を行い，ルールによる誤り生成の利点と欠点について分析を行い，その利点と限界について明らかにする．\itemルールによる誤り生成を大規模に行い，学習に用いることで，既存のベンチマーク上で大規模学習データを用いた他の最先端手法と比較を行い，本手法の利点や限界について明らかにする．\end{itemize}本研究の主な貢献は以下の6つである．\begin{itemize}\item編集操作による単純な誤り生成規則を文法カテゴリごとに多数作成し，組み合わせる手法を考案した．\item人工データ中の誤り種類の多様さが性能向上に寄与することを，誤りカテゴリごとでの比較で検証した．\item特定の種類の誤りが生成されていることが，その種類の誤り訂正性能の向上に寄与することを示した．\itemデータ拡張によって性能向上を得るためには，単言語コーパスの規模ではなく，十分なパラメータ更新回数と誤り生成回数が必要であることを示した．\item提案手法が教師なし設定で，既存の手法と比較して高い性能を示すことを確認した．\item折り返し翻訳や逆翻訳でのデータ拡張と，提案手法との比較により，ルールによる誤り生成の性質について分析を行った．\end{itemize}本稿ではまず，\ref{sec:rw}節で文法誤り訂正のデータ拡張に関する関連研究を紹介する．\ref{sec:eg}節では，本研究で用いるデータ拡張手法について説明する．\ref{sec:settings}節では，実験に用いるデータやモデルについて説明する．\ref{sec:expt}節にて，3つの仮定について検証する実験を行い，議論する．\ref{sec:comp}節にて，提案手法と既存の手法との比較を行う．\ref{sec:owari}節にて，本稿のまとめを記す．%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
V16N04-04	\subsection{本研究の背景}\label{ssec:background}近年，大学では文章能力向上のため，「文章表現」の授業がしばしば行われている．実際に作文することは文章能力向上のために有効であることから，多くの場合，学生に作文課題が課される．しかし，作文を評価する際の教師の負担は大きく，特に，指導する学生数が多いと，個別の学生に対して詳細な指導を行うこと自体が困難になる\footnote{筆者の一人は，1クラス30名程度のクラスを週10コマ担当している．延べ人数にして約300名の学生に対して，毎週添削してフィードバックすることは極めて困難であるため，半期に数回課題を提出させ，添削するに留まっている．}．{\modkまた，講義だけで，個別の指導がない授業形態では，学生も教師の指導意図をつかみにくく，ただ漠然と作文することを繰り返すといった受け身の姿勢になりがちである．}本研究は，上記のような現状に対処するために，大学における作文教育実習で{\modk活用できる}学習者向け作文支援システムを提案するものである．\subsection{既存システムの問題点}\label{ssec:problems}これまでに多くの作文支援システムが提案されてきた．支援手法という観点から既存の手法を分類すると，次のようになる．\begin{enumerate}\def\theenumi{}\item作文中の誤りを指摘する手法\item作文する際の補助情報を提供する手法\item教師の指導を支援する手法\item作文を採点する手法\end{enumerate}(a)の手法は，ワードプロセッサなどのスペルチェッカや文法チェッカとして，広く利用されている．また，より高度な文章推敲や校閲を支援するための手法\cite{umemura2007,笠原健成:20010515}も考案されている．教育分野への適用では，第2言語学習者向けの日本語教育分野での研究が盛んである．例えば，第2言語学習者の誤りを考慮して，文法誤りなどを指摘する手法\cite{chodorow2000,imaeda2003,brockett2006}がある．さらに，(b)の手法としては，文章作成時の辞書引きを支援する手法\cite{takabayashi2004}，翻訳時にコーパスから有用な用例を参照する手法\cite{sharoff2006}などがある．これらは，学習者用というよりも，ある程度すでに文章技術を習得している利用者向けの手法である．(c)のアプローチは，学習者を直接支援するのではなく，作文指導を行う教師を支援することにより，間接的に学習者の学習を支援する手法である．この種のアプローチの例としては，教師の添削支援システム\cite{usami2007,sunaoka2006}に関する研究がある．これらの研究では，日本語教育の作文教育において，作文とそれに付随する添削結果をデータベースに蓄積し，教師の誤用分析などを支援する．(d)の手法は，小論文などの文章試験を自動的に採点することを目的に開発されている手法である．代表的なシステムとしては，英語の小論文を自動採点する，ETSのe-rater\cite{burstein1998}がある．また，e-raterを組み込んだオンライン作文評価システムCriterion\footnote{http://criterion.ets.org/}も開発されており，grammar,usage,mechanics,style,organization\&developmentという観点から作文を評価し，誤りの指摘などもあわせて行われる．なお，日本語でも，e-raterの評価基準を踏襲して，石岡らが日本語小論文評価システムJess\cite{ishioka-kameda:2006:COLACL}を構築している．また，井上らがJessをWindows用に移植し，大学において日本語のアカデミックライティング講座への導入を検討している\cite{井上達紀:20050824}．以上の手法のうち，学習者を直接支援対象としうる手法は，(a)(d)である．大学における作文実習に，これらの手法を適用することを考えた場合，次の二つの問題があると考える．\subsubsectionX{問題点1:意味処理が必要となる支援が困難なこと}大学の文章表現では，レポート，論文，手紙，電子メール，履歴書などを題材として，表記・体裁，文法，文章構成（例：テーマに即した文章の書き方，論理的な文章の書き方），要約の方法，敬語の使い方など，広範囲な文章技術を習得対象としている\cite{shoji2007,okimori2007}．それに対して，現状の作文支援システムは，表記・文法に関しては，手法(a)(d)で誤りの指摘が行われているが，意味的な解析が必要となる支援については，部分的に実現されるにとどまっている．例えば，前述のCriterionでは，導入部(introductionmaterial)や結論部(conclusion)などの文章要素を自動的に認識し，それぞれの部分の一般的な記述方法を表示することができる．しかし，現在の自然言語処理技術では，学習者の支援に耐えうるほどの精度で意味解析を行うことは難しい．そのため，作文課題に必要な記述が含まれているか\footnote{例えば，得意料理の作り方を記述する課題では，材料や料理手順に関する記述は必須的な内容であろう．}，記述内容の説明が不足していないか，意味的な誤りや矛盾はないか，といった深い意味解析を必要とする支援は困難である．\subsubsectionX{問題点2:教師の指導意図をシステムの動作に十分反映できないこと}{\modk前述のとおり，教師が用意する作文課題には，学術的なものから実社会で役立つものまで様々なものがある．各課題を課す際には，学習者の作文の質を向上させるために，それぞれの目的に応じた到達目標やそれに応じた学習支援を設定する．したがって，}教師が実習で作文システムを利用するには，課題の内容に応じて，教師がシステムの支援内容をコントロールできなければならない．例えば，電子メールの書き方を習得するための課題であれば，電子メールに書かれるべき構成要素（例：本文，結び，signatureなど）が{\modk存在するか，また，}適切な順序で書かれているかを検査し，誤りがあれば，指摘するという支援が考えられる．このような支援を行うためには，電子メールに書かれるべき構成要素とその出現順序を，教師が規則として作文支援システム中で定義できなければならない．現状の作文支援システムの中では，手法(d)の作文採点システムが，作文評価用のパラメータの設定手段を持っている（自動採点システムにおける作文評価手法は\cite{石岡恒憲:20040910}に詳しい）．例えば，Windows版Jessの場合は，修辞，論理構成に関する各種パラメータの採点比率，および，内容評価用の学習用文章をユーザが指定できるようになっている．このように，既存の規則のパラメータを設定することは可能である．{\modkしかし，教師が新たな規則を定義できるまでには至っておらず，教師の指導意図をシステムの動作に反映することは難しいのが現状である．}\subsection{本研究の目的}そこで，本研究では，上記の二つの問題を解決するための手法を提案し，作文支援システムとして実現する．まず，問題点1に対しては，「相互教授モデル」を導入する．このモデルでは，学習者，教師，システムが互いの作文知識を教授しあうことにより，学習者の作文技術を向上させる．従来のシステムのように，作文支援システムだけが学習者に作文技術を教授するのではなく，学習者・システム間，学習者同士で作文技術を教授しあうことにより，システム単独では実現できない，深い意味処理が必要で，多様な文章技術に対する支援を可能にする．また，問題点2に対しては，「作文規則」を用いる．この規則は，学習者の作文の構造，および，内容を規定するための規則である．教師は，作文課題に基づいて作文規則を決定する．システムは，作文規則に基づいて，学習者の作文をチェックし，誤りがあれば，それを指摘する．本稿では，作文規則の形式，作文への適用方法について示す．本論文の構成は，次のようになっている．まず，\ref{sec:system_structure}章ではシステムの構成について述べる．\ref{sec:model}章では相互教授モデルの提案を行い，\ref{sec:composition_rule}章では作文規則の定義と作文への適用方法を示す．さらに，提案手法の有効性を検証するために，\ref{sec:experiment}章で提案手法・従来手法による作文実験を行い，\ref{sec:evaluation}章で実験結果を評価・考察する．そして，最後に\ref{sec:conclusion}章でまとめを述べる．}{\mod
V10N05-01	LR構文解析法は，構文解析アルゴリズムとして最も効率の良い手法の一つである．LR構文解析法の中でも，横型探索で非決定的解析を行うことにより文脈自由言語の扱いを可能にした方法は一般化LR法(GLR法)と呼ばれ，自然言語処理および，音声認識で利用されている．また，LR法の構文解析過程に確率を割り当てることで，確率言語モデルを得ることができる．確率一般化LR(PGLR)モデル\cite{inui1998}，およびその一般化であるAPGLRモデル\cite{akiba2001}は，構文解析結果の構文木の曖昧性解消や，音声認識の確率言語モデル\cite{nagai1994,imai1999,akiba2001}として利用されている．LR構文解析法では，文法が与えられた時点であらかじめ計算できる解析過程を先に求め，LR解析表(以下，LR表)で表しておき，文解析時に利用する．LR法は，言わば，空間効率を犠牲にする(LR表を作成する)ことによって，解析時間の効率化を実現する手法である．LR法を実際の問題に適用する場合の問題点の一つは，文法の規則数増加に伴うLR表のサイズの増大である．計算機言語の解析\cite{aho1986}，自然言語の解析\cite{luk2000}，音声認識\cite{nagai1994}，それぞれの立場からこの問題点が指摘されている．LR表のサイズを押えるひとつの方法は，解析効率を犠牲にして空間効率をある程度に押える方法である．本来LR法が利用されていた計算機言語用の構文解析においては，LR法は決定的解析器として利用されてきた．決定的解析としてのLR法が扱える文法は，文脈自由文法のサブセットである．LR表は，その作り方から幾つかの種類に分類されるが，それらは決定的解析で扱える言語に違いがある．単純LR(SimpleLR;SLR)表は，作り方が単純で表サイズを小さく押えられるが扱える文法の範囲が狭い．正準LR(CannonicalLR;CLR)表は，サイズは非常に大きくなるが扱える文法の範囲は最も広い．両者のバランスを取るLR表として，サイズを小さく押えつつ扱える文法の範囲をそこそこ広くとれる，LALR(LookAheadLR)表が提案されている．一方，文脈自由文法を扱う自然言語処理でLR表を利用する場合は，非決定的解析として利用するのが普通である．決定的解析で扱える言語の大きさは，非決定的解析での解析効率に相当する．すなわち，SLR,LALR,CLRの順に効率は良くなるが，それに伴い表のサイズは増大する．また，計算機言語に用いるLR表のサイズ圧縮手法には，2次元配列としてのスパースな表をいかに効率よく圧縮するかという視点のものも多い．これらは，作成後の表を表現するデータ構造に工夫を行ったもので，表自体が運ぶ情報には違いがない．自然言語処理の分野でも，解析表縮小の手法が提案されている．田中らは，文脈自由文法と単語連接の制約を切り放して記述しておき，LRテーブル作成時に2つの制約を導入する手法(MSLR法)\cite{tanaka1995}を用いることで，単独の文脈自由文法を記述するより解析表のサイズを小さくすることができたと報告している\cite{tanaka1997}．Lukらは，文法を小さな部分に分割して，それぞれを扱うパーザを組み合わせることで，解析表のサイズを押える方法を提案している\cite{luk2000}．以上の従来手法をまとめると，次の3つの手法に分類できる．\begin{enumerate}\item処理効率を犠牲にして空間効率を稼ぐ方法．\item表のデータ構造を工夫して記憶量を引き下げる方法．\item文法の記述方法を工夫してより小さな表を導出する方法．\end{enumerate}本稿では，LR表のサイズを圧縮する，上記の3分類には当てはまらない新規の手法を提案する．提案法は従来の手法と異なり，LR表作成アルゴリズムの再検討を行い，解析に不要な情報を捨象することによって，表の圧縮を実現する．本手法は，次のような特徴を持つ．(1)上記の従来の縮小手法とは手法の軸が異なるため，どの手法とも同時に適用可能である\footnote{ただし，MSLR法\cite{tanaka1995}との同時適用には，表作成に若干の修正が必要である．MSLR法では，提案法で解析に不要とする情報の一部を利用しているためである．MSLR法への対応方法ついては，付録.Bで述べる．}．(2)入力文の構文木を得るという自然言語処理用途において，提案法は解析時の効率に影響をあたえることはない\footnote{計算機言語の構文解析では，解析時に規則に付随するアクション(プログラム)を実行することが要求される．提案法による圧縮LR表では適用されるCFG規則は解析時に動的に求まるので，規則から付随するアクションを検索する処理の分オーバーヘッドが生じる．入力文から構文木を得ることを目的とする自然言語処理用途では，このオーバーヘッドは生じない．}．(3)従来の表作成および解析アルゴリズムへの変更個所は小さく，プログラムの軽微な修正で適用可能である．特に，提案法によって作成された圧縮LR表は，既存のLR構文解析プログラムでほぼそのまま利用可能である．本稿の構成は以下の通りである．まず\ref{ss:base}節で，提案法の基本原理を説明する．また，提案法の性質を考察する．続く\ref{ss:experiment}節では，提案法の実装方法と，実際の文法に提案手法を適用した実験結果を示す．\ref{ss:extension}節では，提案手法の限界を克服するための拡張方法について述べ，実際の文法に適用した結果を報告する．\ref{ss:related}節では，関連研究について述べる．
V06N07-03	GeorgeA.Millerは1956年に人間の短期記憶の容量は７±２程度のチャンク\footnote{チャンクとはある程度まとまった情報を計る，情報の認知単位のこと．}(スロット)しかないこと，つまり，人間は短期的には７±２程度のものしか覚えられないことを提唱した\cite{miller56}．本研究では，京大コーパス\cite{kurohashi_nlp97}を用いて日本語文の各部分において係り先が未決定な文節の個数を数えあげ，その個数がおおよそ７±２程度でおさえられていたことを報告する．この結果は，人間の文の理解過程において係り先が未決定な文節を短期記憶に格納するものであると仮定した場合，京大コーパスではその格納される量がちょうどMillerのいう７±２の上限の9程度でおさえられており，Millerの７±２の提唱と矛盾しないものとなっている．またYngveによって提案されている方法\cite{yngve60}により英語文でも同様な調査を行ない，NP程度のものをまとめて認識すると仮定した場合，必要となる短期記憶の容量が７±２の上限の9程度でおさえられていたことを確認した．近年，タグつきコーパスの増加により，コーパスに基づく機械学習の研究が盛んになっているが\cite{murata:nlken98}，タグつきコーパスというものは機械学習の研究のためだけにあるのではなく，本研究のような言語の数量的な調査にも役に立つものである．現在の日本の言語処理研究ではコーパスを機械学習の研究に用いるものがほとんどであるが，本論文のようにコーパスの様々な使い道を考慮するべき時代がきていると思っている．
V09N05-02	機械翻訳では，統計ベースの翻訳システムのようにコーパスを直接使用するものを除き，変換規則などの翻訳知識は依然として人手による作成を必要としている．これを自動化することは，翻訳知識作成コストの削減や，多様な分野への適応時の作業効率化などに有効である．本稿では，機械翻訳，特に対話翻訳用の知識自動獲得を目的とした，対訳文間の階層的句アライメントを提案する．ここで言う句アライメントとは，2言語の対訳文が存在するとき，その1言語の連続領域がもう1言語のどの連続領域に対応するか，自動的に求めることである．連続領域は単語にとどまらず，名詞句，動詞句などの句，関係節などの範囲に及ぶため，まとめて句アライメントと呼んでいる．ここでは対象言語として，英語と日本語について考える．たとえば，\begin{itemize}\parskip=0mm\itemindent=20pt\item[E:]{\emIhavejustarrivedinNewYork.}\item[J:]{ニューヨークに着いたばかりです．}\end{itemize}\noindentという対訳文があった場合，ここから\begin{itemize}\itemindent=20pt\parskip=0mm\item{\eminNewYork}$\leftrightarrow${ニューヨークに}\item{\emarrivedinNewYork}$\leftrightarrow${ニューヨークに着い}\item{\emhavejustarrivedinNewYork}$\leftrightarrow${ニューヨークに着いたばかりです}\end{itemize}\noindentなどの対応部分を階層的に抽出することを目的とする．これを本稿では同等句と呼ぶ．同等句は2言語間の対応する表現を表しているため，用例ベースの翻訳システムの用例とすることができる．また，同等句同士は階層的関係を持つため，これをパターン化することにより，文をそのまま保持する場合に比べ，用例を圧縮することもできる．従来，このような句アライメント方法として，\shortciteA{Kaji:PhraseAlignment1992,Matsumoto:PhraseAlignment1993,Kitamura:PhraseAlignment1997j,Watanabe:PhraseAlignment2000,Meyers:PhraseAlignment1996}などが提案されてきた．これらに共通することは，\begin{enumerate}\labelwidth=25pt\itemsep=0mm\item構文解析(句構造解析または依存構造解析)と，単語アライメントを使用する\item構文解析器が最終的に出力した結果を元に句の対応を取る\item単語同士の対応は，内容語を対象とする\end{enumerate}\noindent点である．しかし，構文解析器が出力した結果のみを使用すると，句アライメントの結果が構文解析器の精度に直接影響を受ける．特に，従来提案されてきた方式は，構文解析が失敗するような文に関して，対策が取られていない．すなわち，本稿で念頭においている話し言葉のような，崩れた文が多く現れるものを対象とするには不適切であると考えられる．本稿では，構文解析と融合した階層的句アライメント方法を提案する．具体的には，構文解析失敗時においても部分解析結果を組み合わせることにより，部分的な句の対応を出力するよう，拡張する．また，内容語のみでなく，機能語の対応を取ることにより，句アライメント精度そのものの向上を目指す．以下，第\ref{sec-phrase-alignment}章では，句アライメントの基本手法について述べ，第\ref{sec-parsing-for-pa}章では，構文解析との融合を行う．第\ref{sec-word-alignment-for-pa}章では，本提案方式に適合した単語アライメントの機能について述べ，第\ref{sec-eval-alignment}章で提案方式と他の方式との比較などの評価を行う．なお，本稿は，\shortcite{Imamura:PhraseAlignment2001-2}を基に，加筆修正したものである．
V18N04-01	\subsection{背景と目的}我々が記述や発話によって伝える情報は客観的な事柄のみではない．事柄が真なのか偽なのか，事柄が望ましいか望ましくないか，といった心的態度も併せて伝達する．言語学，日本語学にはこのような心的態度に対応する概念として「モダリティ」または「様相」と呼ばれるものが存在する．モダリティは，文を構成する主要な要素として規定されている概念である．モダリティ論では「文は，客観的な事柄内容である『命題』と話し手の発話時現在の心的態度（命題に対する捉え方や伝達態度）である『モダリティ』からな」るという規定が多くの学者に受け入れられてきた\cite{Book_01}\footnote{以後，修飾語句なしに「心的態度」と記述するときは書き手の発話時現在の命題に対する捉え方や伝達態度のことを指す．}．そして，活用形と「べき（だ）」「だろう」「か」といった助動詞や終助詞および，それらの相当語句がモダリティに属する文法形式とされている．これらの文法形式はコーパスに心的態度の情報をアノテーションする上で有効な指標になると考えられる．ただし，前述の文法形式をアノテーションするだけでは心的態度を網羅することはできない．「ことを確信している」「と非常に良さそうだ」等，文法形式以外にも心的態度を表す表現は存在する．そのことは心的態度のアノテーションを目的とする既存研究で指摘されており，それらの研究では「拡張モダリティ」\cite{Article_01}「確実性判断」\cite{Article_02}といった文法形式以外も含む新たな概念が提案されている．しかし，このように対象を拡張すると，モダリティの持つアノテーションに有利な特徴が失われてしまう．モダリティであれば，文ごとに特定の文法形式の有無を目安にしてアノテーションの判定をすればよい．対して，拡張モダリティや確実性判断にはこのような明確な判断基準がない．よって，作業者によって基準がぶれてアノテーションが安定しない可能性がある．これに対し本論文では，「階層意味論」で規定される「モダリティ」の概念を用いることで，母語話者の判断による一貫したアノテーションが可能であると考える．階層意味論とは，言語普遍的な意味構造を規定する意味論上の概念であり，この意味構造によって従来の文法論では解釈が困難な複数の言語現象に自然な解釈を与えることができる．この階層意味論で規定される「モダリティ」は文法論上の概念ではない．拡張モダリティや確実性判断と同じく文法形式ではない心的態度も対象とするため，心的態度の網羅という目的に適う概念といえる．ただし，階層意味論の研究は主に英語の事例を扱っており，日本語の事例研究は限定的である．そのため日本語における普遍性が実証的に確かめられているとは言い難い．そこで，4名の母語話者に新聞の社説記事から「モダリティ」を読み取ってもらう調査を行い，母語話者間での回答の一致度を見る．本論文では「階層意味論の『モダリティ』が普遍性のある概念であれば母語話者間で『モダリティ』に対する認識の仕方に違いは出ない」という前提のもと，母語話者間の一致度を通して普遍性を評価する．以下，2節で，自然言語処理，言語学，日本語学それぞれにおける「モダリティ」の扱いを概観し，その違いが心的態度のアノテーションに及ぼし得る問題点を論じる．次に3節で，本論文で検討する階層意味論について説明する．そして4節で，日本語の母語話者を対象に，新聞の社説記事から階層意味論に基づき規定された心的態度を読み取ってもらう調査を行い，その判断に対する母語話者間の一致度を示すとともに不一致を引き起こす要因について論じる．最後に，5節でまとめと今後の課題について述べる．\vspace{-0.5\baselineskip}\subsection{用語に関する注意事項}「文」「命題」「モダリティ」といった用語は，特定の言語形式を指す場合と，その形式で表現される意味内容を指す場合とがある．文法論，意味論と自然言語処理との間で横断的な議論を行う場合は，どちらの用法で用いているのか明記しないと混乱を招く恐れがある．そこで，本論文における各用語の便宜的な用法をここで示す．まず，文については「書き言葉において句点\footnote{文体によっては改行や句点以外の記号で代用されることもある．}で区切られる統語上の言語単位」を指すことにする．話し言葉は本論文では取り上げない．次に，モダリティは「文法論でモダリティとして扱われている表現の集合\footnote{この集合を厳密に定義する既存研究はないが，日本語のモダリティについては，日本語学でモダリティを体系的に論じた書籍である宮崎他(2002)と日本語記述文法研究会(2003)のいずれかでモダリティとして扱われているかどうかを基準とする．}」を指すことにする．文法論では「モダリティ」が文法形式を指す場合とその機能を指す場合とがあるが，本論文ではもっぱら前者として用いる．この規定は心的態度とモダリティを明確に区別することを意図している．本論文では，心的態度はアノテーションすべき対象なのに対し，モダリティはあくまでアノテーションの目安となる統語上の特徴の1つということになる．そして，命題は「補足語＋述語」\inhibitglue\footnote{述語とは「動詞，形容詞，形容動詞または『名詞＋助動詞「だ」』（＋ヴォイス）（＋テンス）（＋アスペクト）」を指す．}，「補足語＋述語＋形式名詞」および「補足語＋述語＋形式名詞」に言い換え可能な「（連体修飾語＋）名詞」を指す\footnote{形式名詞の規定は\cite{Book_25}に従う．}．例えば「彼が渋谷まで買い物に行った」「A銀行の破たん」といった表現が挙げられる\footnote{名詞の言い換えは文脈に依存するため，ここで「A銀行の破たん」の言い換えを一意に定めることはできないが，文脈さえ定まれば母語話者は困難なく言い換えることができると考える．具体的には4.2の手順2で論ずる．}．ただし，階層意味論で「命題」や「モダリティ」と呼ばれているものは意味構造を記述するための概念であり，ここで述べた用法とは異なる．そこで「命題’」「モダリティ’」と，「’」をつけて区別する．
V10N05-06	我々はこれまで，多様なテキストを要約することのできる頑健な自動要約システムの開発をめざして，重要文抽出を基にした要約システムを作成・拡張してきた．その過程で，作成したシステムを用いて日本語・英語双方において新聞記事などの書き言葉を対象にした要約評価ワークショップに参加し，良好な評価結果を得た\cite{nobata:tsc2001,sekine:duc2001}．また，日本語の講演録を対象として重要文抽出データを人手によって作成し，そのデータに対して要約システムの実験・評価を行った\cite{nobata:orc2002}．日本語と英語など異なる言語や，書き言葉と話し言葉など異なる性質をもつテキストを要約するためには，どのような点が共通化できてどのような点を個別に対応する必要があるのかを，実際に要約データにあたって要約手法を適用し，その結果を検討する必要がある．本論文の目的は，これまで行ってきた日本語と英語，また書き言葉と話し言葉のデータそれぞれについて，共通の素性を用いた重要文抽出の結果について示すことと，それらのデータ間での各素性の分布がどのように共通しているか，異なるかを示すことである．我々のシステムは，重要文抽出をベースにして自動要約を行っている．これは，文章全体を1〜2割程度縮める要約ではなく文章を大きく縮めて要約するためには，重要文抽出もしくはそれに類する手法を用いることが必要であると考えたためである．重要文抽出は自動要約に用いられる主要な手法の一つである\cite{mani:aats,okumura:nlp1999-07}．文章から重要文を抽出するためには，各文がどの程度重要であるかを示す素性を用意する必要がある．文の位置情報，たとえば文章の先頭にあるものほど重要だとみなす手法は，単純ではあるが現在でも自動要約の主要な手法である．他にも記事中の単語の頻度などの統計的な情報や，文書構造を示す表現などの手がかりなどが用いられている．これらの素性を統合的に用いる手法も研究されており，例えば\cite{edmundson:acm1969}は人手で重み付けの値を与えることによって，\cite{watanabe:coling1996}は回帰分析，\cite{kupiec:sigir1995-s}や\cite{aone:colingacl1998}はベイズの規則，また\cite{nomoto:ipsj1997}，\cite{lin:cikm1999}らは決定木学習を用いて複数の情報を統合している．本論文では，これらの論文で示されているように素性を統合的に用いた要約システムの評価結果を示すだけでなく，自動要約に用いられる主な素性の振舞い・素性の組合せによる重要文の分布の違いなどを，性質の異なる3種類の要約データにおいて比較・分析した点に特徴がある．以下では，\ref{section:data}章において各要約データについて説明し，\ref{section:system}章において重要文抽出システムの概要を述べ，\ref{section:evaluation}章において各要約データにシステムを適用した結果の評価を示す．さらに，\ref{section:analysis}章においてシステムが用いた素性の各データにおける分布について考察する．
V10N02-04	\label{sec:hajime}実際に使用された文例を集めたコーパスは，コンピュータによって検索できる形で準備されることにより，自然言語の研究者にとって便利で重要な資料として利用価値が高まっている．コーパスの種類としては，文例のみを集めた生コーパス（新聞記事など多数がある），文例を単語分けして品詞情報などを付加したタグ付きコーパス（ここでは{\bf品詞タグ付きコーパス}と呼ぶ），さらに文の構文情報を付加した解析済みコーパス\cite{EDR2001}\cite{KyouDai1997}の三種類に分類される．付加情報を持つコーパスは，特にコンピュータによる自然語情報処理において重視されている．しかし，その作成には，対象言語の知識を持つ専門家を含む作成者の多大の時間と手間を要し，作成を容易にして量を揃えることが一つの課題である．最近，日本語の古典をCD-ROMなどに収容する「電子化」の動きが盛んである．これらの提供する古典テキストは生コーパスとして利用できる．さらに単語や品詞の条件による対話検索機能を含むものがあるが，通常は，品詞タグ付きコーパスとして利用することができない．つまり，古典文の品詞タグ付きコーパスはほとんど公開されていない．日本の古典の研究者が従来使用してきた研究補助手段として索引資料がある．特に，いわゆる{\bf総索引}は，「ある文献に出てくるすべての事項・字句とその所在箇所を示す索引」\cite{Nikkoku2001}であり，多数の古典に対して作成され利用されている\cite{Kobayashi2000}．総索引の多くは，単語とその品詞の組からそれを含む文を参照できるなど，言語の研究に必要な情報を含み，その情報内容は品詞タグ付きコーパスに匹敵する．しかし，品詞タグ付きコーパスは，単語・品詞などによる検索機能\cite{Oota1997}\cite{EDR1999}\cite{Suzuki1999}の実現が可能なほかに，単語の列，品詞の列，単語と品詞の対応などを網羅的に調べて統計的に処理する統計的（確率的）言語処理\cite{Kita1996}に利用することができることが重要である．総索引は単語と品詞からその本文での出現箇所を与えるが，単語や品詞の系列に関する情報を与えることはできない．そこで，古典の総索引を変換し品詞タグ付きコーパスを作成する方法を実現し，実際に，平安時代の歌物語三篇\cite{UTA1994}と日記五篇\cite{NIKKI1996}について実験した．品詞タグ付きコーパスの形式は,基本的には，{\bfEDR電子化辞書}の{\bf日本語コーパス}\cite{EDR2001}の形式に従った．使用した総索引資料は，本文編と索引編とから成り，後者は，単語の仮名表記・漢字表記・品詞情報を見出しとして，その単語の本文での出現位置の全てを行番号のリストとして与えている．索引語は，自立語・付属語を問わず全単語である．変換処理の条件と考慮事項は次の通りである．総索引の活用語の見出し表記は終止形で与えられ，その品詞情報として活用型と活用形の名称（ここでは，未然形などを「活用形の名称」と呼び，「活用形」は活用語が活用した具体的な文字列を示すものとする）が与えられるので，変換機能には活用表の知識を保持した．しかし，処理を簡単にするため，単語辞書や単語間の接続可能性などの文法知識は保持しないこととした．総索引は単語の出現位置情報を本文の行番号で与えるが，品詞タグ付きコーパスでは行内の単語位置にタグを付ける必要がある．そこで，ある単語の部分文字列が他の単語の文字列と一致することがあり，これらが同一行に出現する場合の行内の位置決めの問題が生ずる．これに対処するため一種の最長一致法を用いた．総索引の見出しの漢字表記が，まさに漢字のみの表現であり，送り仮名等の単語を構成する仮名文字部分を含んでいないため，本文との照合が完全には行なえないという問題に対しては，照合条件を緩める一種の先読み処理法を用いた．これらの対処によっても照合が完全でない部分については，変換途中に人手によるチェックと修正を行なうこととした．この作業を容易にするため，照合の不完全の部分を示す中間結果を出力した．総索引情報自体に誤りが皆無ではなく，そのための照合失敗もあり得るが，これも人手修正の対象である．この人手作業の結果を取入れて，最終的なコーパス形式の出力を行なう．タグ付きの日本語コーパスの作成例には，EDR電子化辞書の日本語コーパス\cite{EDR2001}や京大コーパス\cite{KyouDai1997}がある．これらは品詞タグの他に構文情報を含む．総索引からの品詞タグ付きコーパスの作成については発表を見ない．欧州では，{\bfコンコーダンス}(concordance)と呼ばれる索引資料が聖書や古典作品に対して作成されており，KWIC(KeyWordInContext)形式で単語の使用例と所在を示している．ただし，単語の品詞などの文法情報は与えられていない\cite{Witten1999}．そのため品詞タグ付きコーパスの変換には用いられないと考えられる．以下，まず\ref{sec:Conc&Corpus}節で総索引と品詞タグ付きコーパスの概要を記し，\ref{sec:trans}節で，実験に用いた総索引と品詞タグ付きコーパスの内容・形式と前者から後者への変換方法を示し，\ref{sec:result＆}節で変換実験の結果とその検討を記す．最後に\ref{sec:musubi}節で，まとめと課題を記す．
V14N04-04	近年，構文解析は高い精度で行うことができるようになった．構文解析手法は，ルールベースのもの(e.g.,\cite{Kurohashi1994})，統計ベースのもの(e.g.,\cite{Kudo2002})に大別することができるが，どちらの手法も基本的には，形態素の品詞・活用，読点や機能語の情報に基づいて高精度を実現している．例えば，\begin{lingexample}\single{弁当を食べて出発した}{Example::Simple}\end{lingexample}\noindentという文は，「弁当を$\rightarrow$食べて」のように正しく解析できる．これは，「〜を」はほとんどの場合もっとも近い用言に係るという傾向を考慮しているからである．このような品詞や機能語などの情報に基づく係り受け制約・選好を，ルールベースの手法は人手で記述し，統計ベースの手法はタグ付きコーパスから学習している．しかし，どちらの手法も語彙的な選好に関してはほとんど扱うことができない．\begin{lingexample}\label{Example::Undoable1}\head{弁当を出発する前に食べた}\sent{弁当は食べて出発した}\end{lingexample}(2a)では，「弁当を」が\ref{Example::Simple}と同じように扱われ，「弁当を$\rightarrow$出発する」のように誤って解析される．(2b)においては，「〜は」が文末など遠くの文節に係りやすいという傾向に影響されて，やはり「弁当は$\rightarrow$出発した」のように誤って解析されてしまう．これらの場合，「弁当を食べる」のような語彙的選好が学習されていれば正しく解析できると思われる．統計的構文解析器においては多くの場合，語彙情報が素性として考慮されているが，それらが用いている数万文程度の学習コーパスからでは，データスパースネスの影響を顕著に受け，語彙的選好をほとんど学習することができない．さらに，2項関係の語彙的選好が十分に学習されたとしても，次のような例を解析することは難しい．\begin{lingexample}\single{太郎が食べた花子の弁当}{Example::1}\end{lingexample}\noindent「弁当を食べる」「花子が食べる」という語彙的選好を両方とも学習しているとすると，「食べた」の係り先はこれらの情報からでは決定することができない．この例文を正しく解析するには，「食べた」は「太郎が」というガ格をもっており，ヲ格の格要素は被連体修飾詞「弁当」であると認識する必要がある．このように，語彙的選好を述語項構造としてきちんと考慮できれば構文解析のさらなる精度向上が期待できる．述語項構造を明らかにする格解析を実用的に行うためには，語と語の関係を記述した格フレームが不可欠であり，それもカバレージの大きいものが要求される．そのような格フレームとして，大規模ウェブテキストから自動的に構築したものを利用することができる\cite{Kawahara2006}．本稿では，この大規模格フレームに基づく構文・格解析の統合的確率モデルを提案する．本モデルは，格解析を生成的確率モデルで行い，格解析の確率値の高い構文構造を選択するということを行う．構文解析手法として，語彙的選好を明示的に扱うものはこれまでにいくつか提案されてきた．白井らと藤尾らは，数十〜数百万文のコーパスから語の共起確率を推定し利用している\cite{Shirai1998,Fujio1999}．本研究にもっとも関連している研究として，阿辺川らによる構文解析手法がある\cite{Abekawa2006}．阿辺川らは，同じ用言を係り先とする格要素間の従属関係と，格要素・用言間の共起関係を利用した構文解析手法を提案している．これら2つの関係を新聞記事30年分から収集し，PLSIを用いて確率推定を行っている．既存の構文解析器の出力するn-bestの構文木候補に対して，確率モデルに基づくリランキングを適用し，もっとも確率値の高い構文木を選択している．この手法は，PLSIを用いることによって潜在的な意味クラスを導入し，確率を中規模のコーパスから推定している．本研究は，これらの研究に対して次の点で異なる．\begin{itemize}\item明示的に意味，用法が分類された格フレームを用いている．解析時に格フレームを選択することにより，用言の意味的曖昧性を解消し，その意味，用法下において正確な格解析を行うことができる．\item非常に大規模なコーパスから構築された格フレームを用いることによって，用例の出現を汎化せずに用いている．\item阿辺川らの手法のようにn-best解をリランキングするのではなく，構文，格構造を生成する生成モデルを定義している．\end{itemize}
V14N01-03	コンピュータに自然言語の意味を理解させるためには，文の述語とその項の意味的な関係を表現する必要がある．竹内は，述語と項の深層関係を表現する手法としての語彙概念構造に着目，これに基づく辞書を提案している\cite{takeuchi04,takeuchi05}．語彙概念構造は述語と項の深層関係を抽象化するため，言い換えの分野で有効性が示されている\cite{furuhata04}．河原らは，用言とその直前の格要素の組を単位とした用例ベースの辞書，格フレーム辞書を提案し，それに基づく格解析モデルを提案している\cite[など]{kawahara05_1,kawahara05}．照応や省略の解析に格フレーム辞書の有効性が示されている\cite[など]{sasano04,kawahara04,kawahara03}．格フレーム辞書は表層格を表現・区別し，語彙概念構造は表層格および深層関係を抽象化するものであり，表層格で区別できない述語と項の意味関係を個々の項について詳細に表現することはできない．これに対し，述語と項との詳細な意味関係を典型的場面についての構造化された知識である意味フレームに即して表現した体系として，日本語フレームネットが提案されている\cite[など]{ohara05}．日本語フレームネットは英語語彙情報資源FrameNet\footnote{http://framenet.icsi.berkeley.edu}と同様にフレーム意味論\cite{fillmore82}に基づく日本語語彙情報資源で，意味フレーム別に，その意味要素である詳細な意味役割を定義し，その意味フレームに関与する述語項構造の述語となる語彙項目をリストアップしている．格フレーム辞書，語彙概念構造辞書および日本語フレームネットによる，述語「払う」に対する記述を図\ref{fig:resource_comparison}に示す．\begin{figure}[p]\setlength{\tabcolsep}{1.3mm}\begin{tabular}{llllllllllll}\hline\hline\vspace{-2mm}&&&&&&&&&&&\\\multicolumn{12}{l}{\normalsize{\bf格フレーム辞書}$^{1}$}\\&\multicolumn{11}{l}{払う:動1}\\&&\multicolumn{2}{r}{＊$\langle$ガ格$\rangle$}&\multicolumn{8}{l}{私:393,人:246,者:215,俺:168,自分:158,僕:101,あなた:38,$\langle$数量$\rangle$人:37,...}\\&&\multicolumn{2}{r}{＊$\langle$ヲ格$\rangle$}&\multicolumn{8}{l}{金:18570,料:7522,料金:4101,税金:2872,$\langle$数量$\rangle$円:2726,費:1643,税:1340,...}\\&&\multicolumn{2}{r}{＊$\langle$ニ格$\rangle$}&\multicolumn{8}{l}{$\langle$補文$\rangle$:336,人:250,者:233,会社:211,業者:127,店:95,ＮＴＴ:72,屋:68,...}\\&&\multicolumn{2}{r}{＊$\langle$デ格$\rangle$}&\multicolumn{8}{l}{レジ:106,$\langle$時間$\rangle$:75,受付:74,入り口:63,税金:63,$\langle$補文$\rangle$:56,コンビニ:55,...}\\&&\multicolumn{2}{r}{＊$\langle$無格$\rangle$}&\multicolumn{8}{l}{$\langle$数量$\rangle$円:2739,$\langle$数量$\rangle$ドル:371,$\langle$数量$\rangle$回:363,$\langle$数量$\rangle$元:102,$\langle$数量$\rangle$人:96,...}\\&&\multicolumn{2}{r}{$\langle$時間$\rangle$}&\multicolumn{8}{l}{$\langle$時間$\rangle$:677}\\&&\multicolumn{2}{r}{$\langle$ノ格$\rangle$}&\multicolumn{8}{l}{$\langle$数量$\rangle$円:963,$\langle$時間$\rangle$:499,$\langle$数量$\rangle$:260,$\langle$数量$\rangle$ドル:164,$\langle$数量$\rangle$倍:153,...}\\&\multicolumn{11}{l}{払う:動2}\\&&\multicolumn{10}{l}{$\vdots$}\\\vspace{-2mm}&&&&&&&&&&&\\\hline\vspace{-2mm}&&&&&&&&&&&\\\multicolumn{12}{l}{\normalsize{\bf語彙概念構造}$^{23}$}\\&\multicolumn{3}{l}{払う}&\multicolumn{8}{l}{[[~]xCONTROL[BECOME[[~]yBEAT[FILLED]z]]]}\\\vspace{-2mm}&&&&&&&&&&&\\\hline\vspace{-2mm}&&&&&&&&&&&\\\multicolumn{12}{l}{\normalsize{\bf日本語フレームネット}$^{45}$}\\&\multicolumn{11}{l}{払う.v}\\&&\multicolumn{2}{l}{Frame:}&\multicolumn{8}{l}{Commerce\_pay}\\&&\multicolumn{2}{l}{Definition:}&\multicolumn{8}{l}{IPAL:相手に受け取る権利のある金を渡す．}\\&&\multicolumn{10}{l}{FrameElements:}\\\cline{4-11}&&&\multicolumn{2}{l}{FrameElement}&\multicolumn{6}{l}{Realizations}&\\\cline{4-11}&&&\multicolumn{2}{l}{\itBuyer}&DNI.--.--&INC.--.--&INI.--.--&NP.Ext.--&NP.Ext.ガ&&\\&&&\multicolumn{2}{l}{\itCircumstances}&NP.Dep.デ&&&&&&\\&&&\multicolumn{2}{l}{\itGoods}&NP.Obj.ヲ&&&&&&\\&&&\multicolumn{2}{l}{\itMeans}&NP.Dep.デ&&&&&&\\&&&\multicolumn{2}{l}{\itMoney}&NP.Obj.ヲ&DNI.--.--&NP.Obj.ハ&NP.Dep.--&NP.Obj.--&NP.Obj.モ&\\&&&\multicolumn{2}{l}{\itPlace}&NP.Dep.ニ&NP.Dep.デ&NP.Dep.ハ&&&&\\&&&\multicolumn{2}{l}{\itRate}&AVP.Dep.--&&&&&&\\&&&\multicolumn{2}{l}{\itReason}&AVP.Dep.--&Sfin.Dep.--&NP.Dep.カラ&&&&\\&&&\multicolumn{2}{l}{\itSeller}&DNI.--.--&NP.Dep.ヘ&INI.--.--&NP.Ext.ハ&&&\\&&&\multicolumn{2}{l}{\itTime}&NP.Dep.ニ&NP.Dep.モ&&&&&\\\cline{4-11}&&&&&&&&&&&\\\hline\hline\multicolumn{12}{r}{\begin{minipage}[t]{0.8\textwidth}\footnotesize\begin{itemize}\item[\hspace{3mm}1]\texttt{http://reed.kuee.kyoto-u.ac.jp/cf-search/}で検索した結果の一部を引用した．\item[\hspace{3mm}2]\texttt{http://cl.it.okayama-u.ac.jp/rsc/lcs/}から引用した．\item[\hspace{3mm}3]この例では，\texttt{x，y，z}は表層ではそれぞれ「が」「を」「に」格，深層ではそれぞれAgent，Theme，Goalに対応している．\item[\hspace{3mm}4]ここに示した日本語フレームネットデータは2006年8月現在のものである．\item[\hspace{3mm}5]表において，``FrameElement''（フレーム要素）はいわゆる深層格に当たる．\end{itemize}\end{minipage}}\\\end{tabular}\vspace{4pt}\caption{格フレーム辞書，語彙概念構造および日本語フレームネットにおける述語「払う」の記述}\label{fig:resource_comparison}\end{figure}FrameNetは機械翻訳や語義曖昧性解消の分野で有効と考えられており，将来の適用に向けて，FrameNet意味役割を自動推定するタスクのコンテストも開催されている\footnote{http://www.lsi.upc.edu/$\tilde{~}$srlconll/home.htmlならびにhttp://www.senseval.org/}\cite{litkowski04}．FrameNetに基づく意味役割自動推定は，述語の各項に対し，詳細な意味役割に相当する，フレーム意味論における「フレーム要素(FrameElement)」を付与する試みである．この研究はGildeaらの提案に端を発する\cite{gildea02}．Gildeaらは，条件付き確率モデルを用いた意味役割推定に加え，確率モデルの学習に必要な訓練事例の自動生成手法も提案した．Gildeaらの提案は，形式意味論の枠組みに沿って述語と項の意味的な関係を表現するPropBank\cite[など]{kingsbury02}を背景とした意味役割推定手法においても参照され，その改良として，確率モデルの獲得手法に最大エントロピー(ME)法\cite{berger96}やサポートベクタマシン(SVM)\cite{vapnik99}を用いた意味役割推定が複数提案された\cite[など]{kwon04,pradhan04,bejan04}．また，文中のどの部分が項であるかを同定するため，形態素の品詞や句の文法機能を用いて項を抽象化し，頻出するものを項とする手法も提案された\cite{baldewein04}．日本語フレームネットではFrameNetの枠組や方法論をふまえ，日英の比較対照を考慮した日本語語義記述が実践されているが，日本語フレームネットを用いた，日本語を対象とした意味役割の自動推定に関する研究は行われていない．そこで本稿では，日本語フレームネットに基づき，述語項構造における項の意味役割を推定するモデルを提案する．日本語フレームネットは現在作成中であり，現時点では語彙資源の規模が非常に小さい\footnote{2006年8月現在，FrameNetの注釈付き事例数約150,000に対し，日本語フレームネットの注釈付き事例数は1,756．}．そのため，日本語の意味役割推定にはある程度規模の大きい英語FrameNetを対象とした既存の手法をそのまま適用できず，小規模の語彙資源でも十分な精度で推定可能な手法を新たに考える必要がある．本稿では以上を踏まえ，日本語フレームネットの注釈付き事例に基づく機械学習を用いて，意味役割を推定するモデルの獲得手法を提案する．意味役割推定モデルは，文と述語から述語項構造を同定，意味役割を付与すべき項を抽出し，それらに適切な意味役割を付与するという3つのタスクを担う．モデルの獲得には最大エントロピー法ならびにサポートベクタマシンを用い，項候補の獲得には構文情報を利用する．同時に，モデルの学習に必要な訓練事例の自動生成も行う．
V20N03-08	災害は，住居や道路などに対する物的損害だけでなく，被災地内外の住民に対する健康への影響も及ぼしうる．そこで，従来の防災における危機管理の考えを援用し，健康における危機管理という概念が発達しつつある．この「健康危機管理」は，わが国の行政において，災害，感染症，食品安全，医療安全，介護等安全，生活環境安全，原因不明の健康危機といった12分野に整理されており，厚生労働省を中心として，それぞれの分野において生じうる健康問題とその対応策に関する知見の蓄積が進められている\cite{tanihata2012}．こうした健康危機においては，適切な意思決定のためにできる限り効率的に事態の全体像を把握する必要性がある．しかし，2009年に生じた新型インフルエンザによるパンデミックでは，国内の発症者や疑い症例の急激な増加に対し，状況把握に困難が生じていた\cite{okumura2009}．2011年に生じた東日本大震災においては，被災地の行政機能が失われ，通信インフラへの被害も合わさって，被災地の基本的な状況把握すら困難な状態が生じた\cite{shinsai2012}．とりわけ，災害初期の混乱期においては，事態の全体像を迅速に把握する必要があり，情報の厳密性よりも行動に結びつく実用性や迅速性が優先されうる\cite{kunii2012}．この「膨大なテキスト情報が発生」し，また，「情報の厳密性よりも迅速性が優先される」という特徴は，自然言語処理が健康危機管理に大きく貢献しうる可能性を示している．そこで本稿では，健康危機における情報と自然言語処理との関係について整理し，自然言語処理が健康危機管理に果たしうる役割について検討する．まず，次章では，健康危機における情報とその特徴について整理する．3章では，筆者らが関わった東日本大震災に対する保健医療分野の情報と自然言語処理との関わりをまとめ，4章において提言を記す．
V12N03-03	近年のWroldWideWeb(WWW)の急速な普及により，世界中から発信された膨大な電子化文書へのアクセスが可能になった．しかしながら，そのような膨大な情報源から，必要な情報のみを的確に得ることは困難を極める．的確な情報を得るために，テキストを対象とした文書分類や情報の抽出などの様々な技術が注目され，研究されている．しかしながら，Web上に存在するのはテキスト情報だけではなく，表や画像など様々な表現形式が使用されている．ここで，表形式で記述された情報について着目する．従来の情報検索システムなどでは，表はテキストとして扱われることが多かった．表は属性と属性値によって構造化された情報であり，その特性を考えると，表をテキストとして扱うのではなく，テキスト部分と切り離し，表として認識し，利用することが情報検索システムなどの精度向上に繋がる．また表は情報間の関係を記述するのに適した表現形式であり，Web上に存在する文書から表を抽出することは，WebMiningや質疑応答システム，要約処理などのための重要なタスクの一つである\cite[など]{hurst,itai,pinto,shimada2,wang}．本稿では，電子化された情報の一つである，製品のスペック情報の抽出について議論する．一般に，パソコンやデジタルカメラ，プリンタなどの製品の機能や装備などのスペック情報は表形式で記述される．本稿ではこれらの表形式で記述されたスペック情報を性能表と呼ぶことにする．その例を図\ref{spec}に示す．性能表を扱う理由としては，\begin{itemize}\itemポータルサイトの存在\\現在，Web上には，数多くの製品情報に関するポータルサイトやオンラインショッピングサイトが存在する\footnote{価格.com(\verb+http://www.kakaku.com/+)やYahoo!Shopping(\verb+http://shopping.yahoo.co.jp/+)など．}．これらのサイトで，ユーザが製品を比較する際に最も重要な情報の一つが性能表である．多くの製品は頻繁に最新機種が発表され，その度に性能表を人手で収集するのはコストがかかる．膨大なWebページの中から製品のスペック情報を的確に抽出することは，そのようなポータルサイトの自動構築のために大きな意義を持つ．\item製品情報のデータベース化\\性能表は表形式で記述されているので，表領域が正しく特定されれば，属性と属性値の切り分けや対応付けなどの解析が比較的容易で，製品データベースの自動獲得が可能になる．これらのデータを利用し，ユーザの要求に合致した製品を選択するシステムなどの構築が可能になる\cite{shimada4}．\end{itemize}などが挙げられる．\begin{figure}\begin{center}\epsfile{file=base.eps,height=14.0cm}\end{center}\caption{パソコンの性能表の例}\label{spec}\end{figure}Web上での表の記述に関しては，いくつか問題点がある．その一つが，\verb+<+TABLE\verb+>+タグの一般的な使用方法である．Web上の表はHTMLの\verb+<+TABLE\verb+>+タグを用いて記述されるが，\verb+<+TABLE\verb+>+タグは表を記述する以外にも，レイアウトを整えたりする場合に頻繁に用いられる．ある特定の領域においては，\verb+<+TABLE\verb+>+の70\%がレイアウト目的で使われているとの報告もある\cite{chen}．そのため，HTML文書中の\verb+<+TABLE\verb+>+タグが表なのか，それとも他の目的で使用されているのかを判別する必要がある．また，実際のWeb文書では，\verb+<+TABLE\verb+>+の入れ子構造が頻繁に見られる．性能表抽出のタスクでは，入れ子構造になった\verb+<+TABLE\verb+>+の中で，どこまでが性能表を表しているかという表領域を特定する必要がある．提案手法では，(1)フィルタリング，(2)表領域抽出，の2つのプロセスによってWeb文書群から性能表を獲得することを試みる．処理の流れを図\ref{outline}に示す．ここで，フィルタリングとは，製品メーカのサイトからHTMLダウンローダで獲得したWeb文書群を対象とし，その中から性能表を含む文書を抽出することを指す．フィルタリング処理では，文書分類などのタスクで高い精度を収めているSupportVectorMachines(SVM)を用いる．また，少ない訓練データでもSVMと比較して高い精度を得ることができるといわれているTransductiveSVM(TSVM)とSVMを比較する．一方，表領域抽出とは，フィルタリング処理で得られた文書中から，性能表の領域のみを抽出することを意味する．表領域抽出処理では，フィルタリングの際にSVMおよびTSVMのための素性として選ばれた語をキーワードとし，それらを基に表領域を特定する．以下では，まず，2節で，本稿で扱う性能表抽出のタスクに最も関連のある表認識などの関連研究について説明する．3節では，フィルタリングに用いるSVMとTSVMについて述べ，学習に用いる素性選択の手法について説明する．続いて，4節で，各Web文書から表領域を特定する手法について述べ，5節で提案手法の有効性を検証し，6節でまとめる．\begin{figure}\begin{center}\epsfile{file=outline.eps}\end{center}\vspace{-3mm}\caption{処理の概要}\label{outline}\end{figure}
V18N02-01	確率的言語モデルは，統計的手法による仮名漢字変換\cite{確率的モデルによる仮名漢字変換}\cite{Google.IME}\cite{漢字かなのＴＲＩＧＲＡＭをもちいたかな漢字変換方法}や音声認識\cite{音声認識システム}\cite{Self-Organized.Language.Modeling.for.Speech.Recognition}などに広く用いられている．確率的言語モデルは，ある単語列がある言語でどの程度自然であるかを出現確率としてモデル化する\footnote{単語の定義に関しては様々な立場がある．本論文では，英語などの音声認識の言語モデル\cite{Self-Organized.Language.Modeling.for.Speech.Recognition}と同様に，ある言語においてなんらかの方法で認定される文字列と定義する．}．仮名漢字変換においては，確率的言語モデルに加えて，仮名漢字モデルが用いられる．仮名漢字モデルは，入力記号列と単語の対応を記述する．音声認識では，仮名漢字モデルの代わりに，発音と単語の対応を記述する発音辞書と音響モデルが用いられる．確率的言語モデルの推定のためには，システムを適応する分野の大量のテキストが必要で，その文は単語に分割されている必要がある．このため，日本語を対象とする場合には，自動単語分割や形態素解析が必要であるが，ある程度汎用性のあるツールが公開されており，辞書の追加などで一般的な分野の言語モデルが構築可能となっている．仮名漢字モデルや発音辞書における確率の推定には，実際の使用における単語の読みの頻度を計数する必要がある．しかしながら，読み推定をある程度の汎用性と精度で行うツールは存在しない\footnote{音声認識では発音が必要で，仮名漢字変換では入力記号列が必要である．これらは微妙に異なる．本論文では，この違いを明確にせず両方を意味する場合に「読み」という用語を用いる．}．したがって，仮名漢字モデルを比較的小さい読み付与済みコーパスから推定したり\cite{確率的モデルによる仮名漢字変換}，後処理によって，一部の高頻度語にのみ文脈に応じた発音を付与し，他の単語に関しては，各発音の確率を推定せずに一定値としている\cite{音声認識システム}のが現状である．一方で，単語（表記）を言語モデルの単位とすることには弊害がある．例えば，「…するや，…した」という発声が，「…する夜，…した」と書き起こされることがある．この書き起こし結果の「夜」は，この文脈では必ず「よる」と発音されるので，「夜」と書き起こすのは不適切である．この問題は，単語を言語モデルの単位とする仮名漢字変換においても同様に起こる．これは，単語の読みの確率を文脈と独立であると仮定して推定（あるいは一定値に固定）していることに起因する．このような問題を解決するために，本論文では，まず，すべての単語を読みで細分化し，単語と読みの組を単位とする言語モデルを利用することを提案する．仮名漢字変換や音声認識において，単語と品詞の組を言語モデルの単位とすることや，一部の高頻度語を読みで細分化することが行われている\cite{確率的モデルによる仮名漢字変換}\cite{音声認識システム}．提案手法は，品詞ではなく読みですべての単語を細分化することとみなすこともできるので，提案手法は既存手法から容易に類推可能であろう．しかしながら，提案手法を実現するためには，文脈に応じた正確な読みを様々な分野のテキストに対してある程度の精度で推定できる必要がある．このため，提案手法を実現したという報告はない．単語を単位とする言語モデルのパラメータは，自動単語分割の結果から推定される．自動単語分割の精度は十分高いとはいえ，一定の割合の誤りは避けられない．この問題による悪影響を避けるために，確率的単語分割\cite{確率的単語分割コーパスからの単語N-gram確率の計算}という考えが提案されている．この方法では，各文字の間に単語境界が存在する確率を付与し，その確率を参照して計算される単語$n$-gramの期待頻度を用いて言語モデルを構築する．計算コストの削減のために，実際には，各文字間に対してその都度発生させた乱数と単語境界確率の比較結果から単語境界か否かを決定することで得られる擬似確率的単語分割コーパスから従来法と同様に言語モデルが構築される\cite{擬似確率的単語分割コーパスによる言語モデルの改良}．単語と読みの組を単位とする言語モデルのパラメータは，自動単語分割および自動読み推定の結果から推定される．自動単語分割と同様に，自動読み推定の精度は十分高いとしても，一定の割合の誤りは避けられず，言語モデルのパラメータ推定に悪影響がある．これを回避するために，確率的タグ付与とその近似である擬似確率的タグ付与を提案する．実験では，タグとして入力記号列を採用し，単語と入力記号列の組を単位とする言語モデルを用いる仮名漢字変換器を構築し，単語を単位とする言語モデルを用いる場合や，決定的な単語分割や入力記号付与などの既存手法に対する提案手法の優位性を示す．
V25N04-04	作文中における誤りの存在や位置を示すことができる文法誤り検出は，第二言語学習者の自己学習と語学教師の自動採点支援において有用である．一般的に文法誤り検出は典型的な教師あり学習のアプローチによって解決可能な系列ラベリングのタスクとして定式化できる．例えば，BidirectionalLongShort-TermMemory(Bi-LSTM)を用いて英語の文法誤り検出の世界最高精度を達成している研究\cite{rei-yannakoudakis:2016:P16-1}がある．彼らの手法は，言語学習者コーパスがネイティブが書いた生コーパスと比較してスパースである問題に対処するために，事前に単語分散表現を大規模なネイティブコーパスで学習している．しかし，ReiとYannakoudakisの研究を含む多くの文法誤り検出の研究において用いられている分散表現学習のアルゴリズムのほとんどは，ネイティブコーパスにおける単語の文脈をモデル化するだけであり，言語学習者に特有の文法誤りを考慮していない．一方で，単語分散表現に言語学習者に特有の文法誤りを考慮することは，より文法誤り検出に特化した単語分散表現を作成可能であり有用であると考えられる．そこで，我々は文法誤り検出における単語分散表現の学習に正誤情報と文法誤りパターンを考慮する3つの手法を示す．ただし，3つ目の手法は最初に提案する2つの手法を組み合わせたものである．1つ目の手法は，学習者の誤りパターンを用いて単語分散表現を学習する\textbf{Errorspecificwordembedding}(EWE)である．具体的には，単語列中のターゲット単語と学習者がターゲット単語に対して誤りやすい単語を入れ替え負例を作成することで，正しい表現と学習者の誤りやすい表現が区別されるように学習する．2つ目の手法は，正誤情報を考慮した単語分散表現を学習する\textbf{Grammaticalityspecificwordembedding}(GWE)である．単語分散表現の学習の際に，n-gramの正誤ラベルの予測を行うことで，正文に含まれる単語と誤文に含まれる単語を区別するように学習する．この研究において，正誤情報とは周囲の文脈に照らしてターゲット単語が正しいまたは間違っているというラベルとする．3つ目の手法は，EWEとGWEを組み合わせた\textbf{Error\&grammaticalityspecificwordembedding}(E\&GWE)である．E\&GWEは正誤情報と誤りパターンの両方を考慮することが可能である．本研究における実験では，英語学習者作文の文法誤り検出タスクにおいて，E\&GWEで学習した単語分散表現で初期化したBi-LSTMを用いた結果，世界最高精度を達成した．さらに，我々は大規模な英語学習者コーパスであるLang-8\cite{mizumoto-EtAl:2011:IJCNLP-2011}を使った実験も行った．その結果，文法誤り検出においてノイズを含むコーパスからは誤りパターンを抽出して学習することが有効であることが示された．本研究の主要な貢献は以下の通りである．\begin{itemize}\item正誤情報と文法誤りパターンを考慮する提案手法で単語分散表現を初期化したBi-LSTMを使い，FirstCertificateinEnglish(FCE-public)コーパス\cite{yannakoudakis-briscoe-medlock:2011:ACL-HLT2011}において世界最高精度を達成した．\itemFCE-publicとNUCLEデータ\cite{dahlmeier2013building}にLang-8から抽出した誤りパターンを追加し，単語分散表現を学習することで文法誤り検出の精度が大幅に向上することを示した．\item実験で使用したコードと提案手法で学習された単語分散表現を公開した\footnote{https://github.com/kanekomasahiro/grammatical-error-detection}．\end{itemize}本稿ではまず第2章で英語学習者作文における文法誤り検出に関する先行研究を紹介する．第3章では従来の単語分散表現の学習方法について述べる．次に，第4章では提案手法である正誤情報と誤りパターンを考慮した単語分散表現の学習モデルについて説明する．そして第5章ではFCE-publicとNUCLEの評価データであるCoNLLデータセットを使い提案手法を評価する．第6章では文法誤り検出モデルと学習された単語分散表現における分析を行い，最後に第7章でまとめる．
V21N05-04	線形計画問題において全てもしくは一部の変数が整数値を取る制約を持つ（混合）整数計画問題は，産業や学術の幅広い分野における現実問題を定式化できる汎用的な最適化問題の1つである．近年，整数計画ソルバー（整数計画問題を解くソフトウェア）の進歩は著しく，現在では数千変数から数万変数におよぶ実務上の最適化問題が次々と解決されている．また，商用・非商用を含めて多数の整数計画ソルバーが公開されており，整数計画問題を解くアルゴリズムを知らなくても定式化さえできれば整数計画ソルバーを利用できるようになったため，数理最適化以外の分野においても整数計画ソルバーを利用した研究が急速に普及している．最適化問題は，与えられた制約条件の下で目的関数$f(\bm{x})$の値を最小にする解$\bm{x}$を1つ求める問題であり，線形計画問題は，目的関数が線形で制約条件が線形等式や線形不等式で記述される最も基本的な最適化問題である．通常の線形計画問題では，全ての変数は連続的な実数値を取るが，全ての変数が離散的な整数値のみを取る線形計画問題は整数（線形）計画問題と呼ばれる．また，一部の変数が整数値のみを取る場合は混合整数計画問題，全ての変数が$\{0,1\}$の2値のみを取る場合は0-1整数計画問題と呼ばれる．最近では非線形の問題も含めて整数計画問題と呼ばれる場合が多いが，本論文では線形の問題のみを整数計画問題と呼ぶ．また，混合整数計画問題や0-1整数計画問題も区別せずに整数計画問題と呼ぶ．整数変数は離散的な値を取る事象を表すだけではなく，制約式や状態を切り替えるスイッチとして用いることが可能であり，産業や学術の幅広い分野における現実問題を整数計画問題に定式化できる．組合せ最適化問題は，制約条件を満たす解の集合が組合せ的な構造を持つ最適化問題であり，解が集合，順序，割当て，グラフ，論理値，整数などで記述される場合が多い．原理的に，全ての組合せ最適化問題は整数計画問題に定式化できることが知られており，最近では，整数計画ソルバーの性能向上とも相まって，整数計画ソルバーを用いて組合せ最適化問題を解く事例が増えている．現実問題を線形計画問題や整数計画問題に定式化する際には，線形式のみを用いて目的関数と制約条件を記述する必要がある．こう書くと，扱える現実問題がかなり限定されるように思われる．実際に，線形計画法の生みの親であるDantzigもWisconsin大学で講演をした際に「残念ながら宇宙は線形ではない」と批判を受けている\cite{KonnoH2005}．しかし，正確さを失うことなく現実問題を非線形計画問題に定式化できても最適解を求められない場合も多く，逆に非線形に見える問題でも変数の追加や式の変形により等価な線形計画問題や整数計画問題に変換できる場合も少なくない．そのため，現実問題を線形計画問題や整数計画問題に定式化してその最適解を求めることは，実用的な問題解決の手法として受け入れられている．現在では，整数計画ソルバーは現実問題を解決するための有用な道具として数理最適化以外の分野でも急速に普及している．一方で，数理最適化の専門家ではない利用者にとって，線形式のみを用いて現実問題を記述することは容易な作業ではなく，現実問題を上手く定式化できずに悩んだり，強力だが専門家だけが使う良く分からない手法だと敬遠している利用者も少なくない．そこで，本論文では，数理最適化の専門家ではない利用者が，現実問題の解決に取り組む際に必要となる整数計画ソルバーの基本的な利用法と定式化の技法を解説する．なお，最近の整数計画ソルバーはアルゴリズムを知らなくても不自由なく利用できる場合が多いため，本論文では，線形計画法，整数計画法の解法および理論に関する詳しい説明は行わない．線形計画法については\cite{ChvatalV1983,KonnoH1987}，整数計画法については\cite{KonnoH1982,NemhauserGL1988,WolseyLA1998}が詳しい．また，線形計画法，整数計画法の発展の歴史については\cite{AchterbergT2013,AshfordR2007,BixbyR2007,KonnoH2005,KonnoH2014,LodiA2010}が詳しい．
V30N04-03	\label{sec:intro}近年，深層学習に基づく言語モデルは左右の文脈から単語の穴埋めをしたり\cite{devlin-etal-2019-bert}，テキストからテキストを生成したり\cite{Raffel2020t5}，次に続く単語を予測したり\cite{BrownGPT3NEURIPS2020_1457c0d6}して訓練することで，多くの自然言語処理タスクにおいて高性能を出せるような汎用的な表現を得ることができる．また，このようなモデルを元にファインチューニングを行うことで，数量推論のような複雑な処理が必要だと思われる問題においてもある程度高い性能を出せることが知られている\cite{geva-etal-2020-injecting}．数量推論の例を以下に示す．\begin{quote}Q.ジョンは5本ペンを持っていて、そのうち3本をマリーにあげた。ジョンは今ペンを何本持っている？A.2本\end{quote}このような問題に答えるためには，モデル内で「5」や「3」といった数や「あげる」という行為の意味を理解し，$5-3=2$という処理を行う必要がある．「数」は実社会の至る所に存在しているため数を用いて推論することは世界理解や経済的な知的活動のためにも必要不可欠であり，このようなモデルは実用的にも有用である\cite{thawani-etal-2021-representing,chen-etal-2019-numeracy}．では，そもそも言語モデルはどの程度数値計算ができるのだろうか．先ほどの例を以下のように単純化すると，純粋な数値計算能力を問う問題となる．\begin{quote}Q.$5-3=?$A.2\end{quote}複数の先行研究では線形代数や初等数学のような数値計算のタスクを通じて言語モデルが持つ潜在的な能力を測っており\cite{saxton2018analysing,Francois:2021}，現在のモデルによって解ける問題や解けない問題の性質が分かりつつある．言語モデルの数学的な能力を調査することは数量推論時に必要な数値計算能力を調査できるという意味で実用上役立つだけでなく，ニューラルネットワークの記号処理能力を理解するという科学的な興味にも繋がる．一方で，モデルがこのような問題を解く際，その内部で何が行われているかについての研究はほとんど行われていない．しかし，モデルの能力をよりよく理解するためには，入出力の結果だけでなくその内部での処理を分析することも非常に重要だと考えられる．内部処理を明らかにすることはモデルの解釈可能性を向上させ，実用的にはエンジニアやユーザが数量推論モデルをより信頼できるようにすることができる．また，科学的視点からは，ニューラルネットワークの記号処理能力を入出力を分析するだけでは判断できない部分まで詳細に理解することが可能になる．例えば，モデルはヒューリスティックではなく本当に数学的能力を獲得できているのか，すなわち汎化できているのかという議論\cite{Razeghi-etal-2022,patel-etal-2021-nlp}に対して新しい角度から証拠を提示することができる．モデル内部での処理を分析するため，本研究では数式とその\textbf{途中結果}に着目する．我々人間が$54-((258+314)-(143-96))$のような数式を解く時，まず$258+314=572,143-96=47$を計算して，次は$572-47=525$を計算して，というような\textbf{途中結果}を介した複数ステップに及ぶ推論を行っている．途中結果は任意の長さの数式を徐々に簡単化し，最終的な答えを出すための非常に重要な要素である．では，モデルはこのような途中結果を介した推論を行っているのだろうか？これを検証するためには，(a)モデル内部に途中結果が保存されていること(b)保存されているだけでなく，途中結果がモデルに使用されていることを示せば良いと考えられる．これを調べるため，本研究では数式が解けるモデル（これをニューラル数式ソルバーと呼ぶ）中の内部表現と数式の途中結果の相関関係，そして因果関係を分析する手法を提案する．本手法の概要を図~\ref{fig:overview}に示す．まず四則演算を学習したTransformer\cite{NIPS2017_3f5ee243}の内部状態から主成分分析を用いて途中結果と相関の高い，すなわち途中結果を符号化しているような方向を抽出したのち，その部分のアクティベーションを連続的に操作してモデルの予測結果が意図したように変化するかを観察する\footnote{先行研究にならい，本研究における``アクティベーション''は隠れ層のベクトルの要素の値だと定義する．}．これによって，途中結果を符号化している部分がモデルの推論に与える因果的な影響を調査する．その結果，途中結果を符号化しているような方向の中には実際にモデルの推論時にも途中結果としてはたらくものがあることを発見し，モデルが途中結果を介した推論を行っている因果的な証拠を示した．また，相関が高くてもモデルの推論には使用されていない方向も確認されたため，モデルの内部を分析する際に因果的な関係を調査することの重要性を示唆する結果となった．%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%fig.1\begin{figure}[t]\begin{center}\includegraphics{30-4ia2f1.pdf}\end{center}\hangcaption{途中結果の追跡(Tracing)と操作(Manipulation)の概要．Tracing（上部）ではPCAを用いて，数式中の途中結果と相関が高いモデル内の方向を追跡する．Manipulation（下部）では，Tracingで追跡された方向に沿ってアクティベーションの操作が行われたモデル（操作済みモデル）のモデル予測の変化を観察する．}\label{fig:overview}\end{figure}%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%本論文の貢献は，言語モデルが数学的な問題を途中結果を保存，使用しながら解いていることを明らかにした点である．また，数学的な問題を解く際のモデルの内部処理を詳細に分析できる手法を提案した，ということ自体も貢献である．%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
V06N02-04	日本語テキスト音声合成は，漢字かな交じりの日本語テキストに対して，読み，アクセント（韻律上の基本単位であるアクセント句の設定とそのアクセント型付与），ポーズ等の読み韻律情報\footnote{本論文では，読みと，アクセントやポーズなどの韻律情報をまとめて読み韻律情報とよぶ．}を設定し，これらを元に音声波形を生成して合成音声を出力する．自然で聞きやすい合成音声を出力するためには，この読み韻律情報を正しく設定する必要がある．読みは，形態素解析により認定された単語の読みにより得られるため，形態素解析の精度が読みの精度に直結する．ただし，数量表現の読み（例：11本→ジューイ\underline{ッポ}ン：\mbox{下線部分＝読み}が変化）と連濁化（例：子供＋部屋→コドモ\underline{ベ}ヤ：\mbox{下線部分＝連濁）については，すべてを単語}として辞書登録するのは困難であるため，規則により読みを付与する．数量表現の読みについては\cite{Miyazaki4}，連濁化については\cite{Sato}等により，その手法がほぼ確立されている．アクセント句のアクセント型設定については，\cite{Sagisaka}の付属語アクセント結合規則，複合単語（自立語）のアクセント結合規則，文節間アクセント結合規則により，その手法がほぼ確立されている．アクセント句境界とポーズの設定については，従来から多くの手法が提案されている．ヒューリスティックスベースの手法としては，係り受けの構造を利用する\cite{Hakoda1}，右枝分かれ境界等の統語情報を用いる\cite{Kawai}等がある．また，統計的手法によるポーズの設定としては，係り受け情報を利用した手法\cite{Kaiki}が提案されている．しかしこれらは，係り受けなどの言語的情報が既知であることを前提としており，これらの言語的情報の取得が課題となる．一方，\cite{Suzuki}ではN文節の品詞情報を用いて局所的な係り受け構造を推定し，また\cite{Fujio}では，品詞列を入力として確率文脈自由文法を用いて係り受けを学習し，アクセント句境界や韻律句境界，ポーズの設定を行う．しかし\cite{Suzuki}は，文節内の処理については言及しておらず，また，\cite{Fujio}では文節内での設定において，文節内構造の予測誤りによる精度の低下が問題点として挙げられている．我々は，\cite{Miyazaki1}の方式をベースとし，多段解析法による形態素解析を用いて得られた単語情報を利用して規則により読み韻律情報を設定し，\cite{Hakoda2}の音声合成部を用いて合成音声を出力する日本語テキスト音声合成システムAUDIOTEXを開発した．このAUDIOTEXには，現在，数多く開発されている音声合成システムと比較して以下の2つの特徴がある．\begin{itemize}\item単語辞書の登録単語数が多いため，形態素解析における未知語認定が少ない．\\（AUDIOTEX：約37万語，市販の主な音声合成システム：10〜14万語）\item単語辞書において，特に名詞と接辞は，他のシステムにはない意味カテゴリ等の意味情報をもち，これらの意味情報を用いた複合語の意味的係り受け解析により，複合語の構造を高精度に解析できるため，複合語の多用されるニュース文などに対しても，正しく読み韻律情報が設定できる．\end{itemize}本論文では，AUDIOTEXにおける読み韻律情報の設定，特に\cite{Miyazaki1}からの主な改良点として，形態素解析における読み韻律情報付与に対応した長単位認定，アクセント句境界設定における複数文節アクセント句の設定，ポーズ設定における多段階設定法の導入について述べ，さらに，これらの処理で用いる単語辞書の構成について説明する．この読み韻律情報の設定においては，文節間の係り受け解析は行わず，多段解析法の形態素解析により得られる複合語内意味的係り受け情報，品詞等の単語情報のみを用いる．文節間の係り受け解析を行わないのは，現状，係り受け解析の精度が十分でなく，コストがかかり，また，文節間係り受けの影響を大きく受けるポーズ設定においては，アクセント句境界前後の品詞情報等から得られるアクセント句結合力を導入することにより，実用上十分な精度が得られるためである．さらに，文節内の構造に対しては，複合語意味的係り受け情報を用いることにより，その局所構造を元に適切にポーズを設定できる．以下，\ref{sec:TTS-flow}節ではテキスト音声合成処理の流れ，\mbox{\ref{sec:morph}節では形態素解析における読み韻律情報設定}のための特徴，\ref{sec:dic}節では読み韻律情報設定のための単語辞書の情報，\ref{sec:assign}節では読み韻律情報の設定方法，\ref{sec:evaluation}節では読み韻律情報設定に対する評価と考察，\ref{sec:conclusion}節ではまとめを述べる．
V03N03-03	\vspace*{-1mm}機械翻訳システムは，巨大なルールベースシステムであり，NTTにおいて開発を進めている機械翻訳システムALT-J/E~\cite{Ikehara89,Ikehara90}でも，1万ルール以上のパタン対ルール(翻訳ルール)を利用している．他のルールベースシステムと同様，機械翻訳システムにおいても，ルールベースの作成・改良工数は大きな問題であり，特にそのルール数が巨大なだけに，その工数削減が強く望まれている．ルールベースの構築・保守を支援する手法として，近年，事例からの学習を利用する研究が活発となっている．機械翻訳システムにおいても，ルールベース構築への学習技術適用が試みられており，田中は，英日翻訳事例(コーパス)から語彙選択ルールを学習する手法を提案している\cite{Tanaka94}．また，Almuallimも，日英翻訳事例から，英語動詞選択ルール\footnote{パタン対ルールの主要部分である．}を学習している\cite{Almuallim94c}．更に，宇津呂は，日英翻訳事例から格フレームを獲得している\cite{Utsuro93}．これら既存のアプローチでは，ルールが全く存在しない状態からスタートして，事例のみに基づいてルールを作り出している．従って，未知事例に対して高い正解率を持つルールを学習するには，多くの翻訳事例(これを以下，{\bf実事例}と呼ぶ．)を必要とする．しかし，現実には，既存文書における動詞分布の偏り等の理由により，学習に必要な個数の実事例を，全動詞に対して収集する事は，極めて困難である．事例からの学習がルールベース構築に利用されるようになったのは，矛盾の無い完全なルールを生成する事が，人間には困難だからである．しかし，人間は，完全なルールを構成できなくとも，概略的あるいは部分的なルールは生成できる．そこで，人手作成の粗いルールと実事例とを融合してルールを学習できれば，人手作成ルール及び実事例のいずれよりも高い正解率を持つルールが作成でき，実事例のスパース性の問題を回避できる可能性がある．そこで，本論文では，人手作成のルールと実事例を統合して，より精度の高いルールを生成する，修正型の学習方法を提案する．具体的には，まず，人手作成のルールから逆に事例を生成(以下，この生成された事例を{\bf仮事例}と呼ぶ．)する．次に，仮事例と実事例を既存の学習アルゴリズム(これを，以下，{\bf内部学習アルゴリズム}と呼ぶ．)に入力する．内部学習アルゴリズムの出力が，最終的に獲得されたルールである．内部学習アルゴリズムは，属性ベクトル型の事例表現を持つ学習アルゴリズムなら任意の学習アルゴリズムを選択できる．尚，人手作成ルールの表現形式は，その表現能力の高さからHausslerによるIDE形式\cite{Haussler88}とした．提案手法では，仮事例と実事例の重要度を表現するために，重みを各事例に対して与える必要がある．即ち，人手作成のルールが非常に正確であれば，ルールから生成された仮事例に大きな重みを置くべきである．逆に，人手作成のルールが不正確であれば，小さい重みを置くべきである．提案手法では，この最適な重みの決定に，クロスバリデーションによるパラメータチューニングを利用する．本手法の有効性を評価するため，既存のドキュメントから抽出した実事例を用いて，ALT-J/Eの英語動詞選択ルールの獲得実験を行なった．内部学習アルゴリズムとしては，意味カテゴリーシソーラスのエンコーディング手法に特徴を持つAlmuallimによる学習手法\cite{Almuallim94c}を利用した．その結果，本手法により獲得された英語動詞選択ルールは，実事例のみから獲得されたルールや初期投入した人手作成のルールに比べて，高い正解率を示した．以下，第2章では，英語動詞選択ルールを説明する．第3章では，従来のアルゴリズムとその問題を概観する．新しい学習手法を第4章で提案する．第5章では，評価結果を示す．第6章では，他の修正型学習手法との差異について論ずる．第7章は本論文のまとめである．
V30N03-04	\label{purpose}医療分野には電子カルテや退院サマリといった症例テキストが蓄積されている．これらを新たな知識の発見に繋げるために，自然言語処理技術を応用する研究が試みられている．たとえば，英語では症例テキストを対象とした推論やテキストマイニング\cite{bethard-etal-2017-semeval,romanov-shivade-2018-lessons,EHRs2018}が活発に研究されつつある．日本語でも症例テキストを解析する研究が発展しつつあり，病名抽出\cite{DBLP:conf/medinfo/AramakiYW17,荒牧英治2018}や診療情報抽出\cite{東山翔平2015}，患者状態の表現抽出\cite{info:doi/10.2196/11021}，臨床医学表現の医学的関係抽出\cite{矢田竣太郎2022}など，固有表現抽出や関係抽出タスクを中心に，様々な解析技術が提案されている．一方で，これまでの日本語の症例テキストの解析技術は固有表現抽出のような文字列の表層的な情報のマッチングに基づく解析が中心であり，否定や量化といった構成素の構造を考慮した高度な意味解析については発展途上である．その理由の一つとして，日本語の症例テキストには症状や診断名などの複数の医療用語から構成される\textbf{複合語}が多く含まれており，複合語の構文解析や意味解析が難しいという問題がある．複合語を含む症例テキストの例を(\ref{ex:1})に示す．\begin{exe}\setlength{\parskip}{0pt}%\ex\label{ex:1}非持続性心室頻拍が認められたため，アミオダロン併用した．\ex\begin{xlist}\ex\label{ex:2}心室頻拍は持続性ではない．\ex\label{ex:3}アミオダロンを併用した．\end{xlist}\end{exe}(\ref{ex:1})の「非持続性心室頻拍」からは，「持続性ではない心室頻拍」が認められたこと，「アミオダロン併用」からは「アミオダロンを併用」したことがわかる．このように複合語には，複合語を構成する要素間の様々な意味関係が非明示的に含まれている．これらの意味関係を同定することができれば，複合語が現れる(\ref{ex:1})のような文から，複合語が現れない(\ref{ex:2})や(\ref{ex:3})のような文への含意関係が認識可能となる．これまで，日本語の高度な意味解析・推論システムとしてccg2lambda\cite{ccg2lambda}が提案されている．ccg2lambdaは，テキストに対して組合せ範疇文法\cite{steedman2000a}に基づく構文解析と，高階論理に基づく意味解析を行い，テキストの意味を高階論理式によって表現し，論理式間の含意関係を定理証明器を用いて自動判定する含意関係認識システムである．ccg2lambdaは否定や量化\cite{ccg2lambda}，時間関係\cite{sugimoto-yanaka-2022-compositional}と，構成素の構造にもとづく意味を広範囲に扱うことができ，近年では一般ドメインのテキストに限らず，%%%%金融テキスト\cite{hokazono2018}や供述文書\cite{koyano2021}の意味解析への応用研究も進められている．金融テキスト\cite{hokazono2018}や供述文書(小谷野他2021)\nocite{koyano2021}の意味解析への応用研究も進められている．ccg2lambdaを用いて症例テキストの意味解析と推論を実現できれば，症例テキストの複合語に含まれる否定や量化といった構成素の構造にもとづく意味を正しく扱い，症例テキスト間の含意関係を正しく計算することが可能となる．そこで本論文では，ccg2lambdaを改良して，症例テキストの高度な意味解析と推論を扱える推論システムMedc2l（メドシーツーエル）を提案する．具体的には，ccg2lambdaに複合語解析モジュールを追加することで，複合語を含む症例テキストに対して頑健に意味解析と推論ができるようにする．Medc2lの複合語解析モジュールは，\begin{enumerate}\item[(i)]症例テキストに含まれる複合語の抽出\item[(ii)]複合語を構成する形態素間の意味的な関係を表す意味現象タグの付与\item[(iii)]意味現象タグに基づく複合語の構文解析\item[(iv)]意味現象タグに基づく複合語の意味解析\end{enumerate}から構成される.(i)で抽出した複合語に対して意味現象タグのアノテーションを行い，(ii)では系列変換モデルを学習することによって構築した複合語意味現象タグ分類モデルを用いる．(iii)では予測された意味現象タグを元に複合語の構造をCFG解析したのちCCG部分木に変換し，(iv)では(iii)のCCG部分木に基づいて高階論理の意味表示を導出する．本研究の貢献は以下の3点である．\begin{itemize}\item症例テキストに含まれる複合語に対して複合語を構成する形態素間の意味関係を複合語意味現象タグとして定義し，アノテーションデータを構築した．\item複合語意味現象タグに従って複合語の構文解析・意味解析を行う複合語解析モジュールを提案し，ccg2lambdaと組み合わせて症例テキストの高度な意味解析と推論を実現する論理推論システムMedc2lを構築した．\item日本語の症例テキストのための評価用推論データセットを構築し，提案する論理推論システムと深層学習の含意関係認識モデルの比較実験を行った．\end{itemize}なお，本研究で構築した症例テキストの推論システム，複合語意味関係データセット，症例テキストの推論データセットは，それぞれ研究利用可能な形で公開予定である．%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
V25N01-02	言語に関する能力を，客観的かつ自動的に把握する需要が高まっている．言語能力把握の需要がある場面の一つに，認知症スクリーニングがある．日本は世界に先駆けて超高齢社会に突入した．2013年の高齢化率は25.1\%にのぼり\footnote{内閣府平成26年5月「選択する未来」委員会．\\http://www5.cao.go.jp/keizai-shimon/kaigi/special/future/chuukanseiri/04.pdf}，世界でも例を見ないスピードで高齢化が進行している．高齢化の進行に伴い，認知症高齢者の増加も見込まれる．2012年8月の厚生労働省発表によると，2010年における日常生活自立度II\footnote{「日常生活に支障を来すような症状・行動や意志疎通の困難さが多少みられても，誰かが注意していれば自立できる状態」を指す．}以上の認知高齢者数\footnote{65歳以上を指す．}は280万人にのぼり，将来推計として2025年には323万人，65歳以上の人口比率にして9.3\%にまで上昇するだろうと予測されている\footnote{認知症高齢者数について，http://www.mhlw.go.jp/stf/houdou/2r9852000002iau1.html}．また，日本における人口10万人当たりの若年性認知症者数（18〜64歳）は，47.6人にものぼるとされている\footnote{若年性認知症の実態等に関する調査結果の概要および厚生労働省の若年性認知症対策について．\\http://www.mhlw.go.jp/houdou/2009/03/h0319-2.html}．今や，認知症は我々にとって非常に身近なものとなっている．厚生労働省の調査によると\footnote{厚生労働省の認知症施策等の概要について．\\http://www.mhlw.go.jp/file/05-Shingikai-12301000-Roukenkyoku-Soumuka/0000031337.pdf}，最初に認知症に気づくきっかけとなる症状の一つとして，言語障害がある．言語能力は長期にわたる学習や経験によって発達するものであり，一定レベルまで発達した後は，加齢によっても衰えにくいとされる\cite{Hampshire}．一方で，構文をあやつる能力は，70代後半を境に低下しはじめるという報告もある\cite{Kemper}．Kemperによると，英文における認知症の進行度は語彙能力，構文能力ともに相関関係にあり，症状が進行するにつれ，構文能力の顕著な低下がみられるという．つまり，認知症は言語能力，とりわけ語彙能力に，加齢の影響ではない何らかの特徴が表出する可能性をもつものである．もし言語能力を測り，その兆候を捉えることができれば，早期発見や療養に役立つのではないかと考えた．また，留学生の日本語能力評価においても，言語能力の自動測定への期待が高まっている．現在，多くの留学生が日本語教育機関において日本語を学んでいる．学習者の習熟度に対し，適切な評価を与えることが各教育機関に求められているが，言語能力の評価は，一概に容易とは言えない．具体的には，作文課題やスピーチテストなどの，「書く能力」「話す能力」の評価は，評価者の主観によって行われることが一般的であるが\cite{Kimura,Torii,Kanakubo}，このような評価は評価者の能力や判断に大きく依存してしまうという問題を孕む．機械による客観的かつ自動的な評価が実現できれば，評価者による判断の揺れという問題を排除した尺度として活用できる可能性がある．近年，大規模なコホート研究によって，数十年の言語能力の経過を観察する試みが行われている．その結果，老化や認知症などと加齢によるさまざまな能力との関係は徐々に明らかになりつつある\cite{Kubo,Snowdon}．しかし，これらの取り組みには，人手でのテキストデータの作成・収集，テキストの分類，各評価スコアの算出などが必要であり，時間・金銭的コストが高い．また，テキストの分類には訓練をつんだ専門家が必要であるなど，言語能力測定のハードルが高い．そこで本研究では，言語能力測定システム「言秤（コトバカリ）」を提案する．言語能力測定における大きな課題の一つとして，分析対象となるテキストデータの作成がある．従来は，音声データの書き起こしなど，人手でのテキスト化が必要であり，多大な時間を要していた．提案システムでは，音声認識システムにより，言語能力の被測定者の発話データを自動的にテキスト変換することで，コストの大幅な軽減を行う．ただし，音声認識システムの認識精度には限界があり，常に正しい認識結果が得られるとは限らない．我々はこれまでに，テキストデータに基づいて定量的に言語能力を測定する指標（以降，言語能力指標と表記する）を提案してきた\cite{Aramaki2}．また，提案指標を用いたテキスト分析の結果，一部の指標（TTR（Type・Token割合）およびJEL（日本語学習語彙レベル））によって認知症者の特徴的な傾向などを観察できる可能性を示した\cite{Shikata,Aramaki2}．このうち，TTRは，Type（異なり語数）とToken（延べ語数）の比率(Type/Token)であるため，TTRスコアは語の内容ではなく，出現回数のみに基づいて算出される指標であり，発話されたのがどのような語であるかという点については関与しない．そのため，TTRを用いた場合，たとえ語の内容の認識結果が誤っていたとしても，算出されるスコアに問題は生じにくいと考えられる．よって，提案システムでは，先行研究における提案指標を採用し，特にTTRスコアに着目することで，音声認識による認識誤りの影響を受けにくく，さらに人手作業を排除した定量的なスコア算出を実現する．本提案のポイントを以下に整理する．\begin{description}\item[分析テキスト作成コストの軽減]音声認識システムを組み込むことにより，音声を録音／入力するだけで，言語能力の測定を可能にする．\item[スコアリングコストの軽減]定量的に算出可能な言語能力指標を採用することにより，認識誤りを許容し，さらにスコア算出のための人間の介在を省略可能にする．\end{description}本論文では，採用する言語能力測定指標と提案システムについて概説した後，低コストな言語能力測定の要となる音声認識システムの利用可能性について，検証実験の結果から議論する．
V06N04-02	本稿では，音声を用いて人間と機械が対話をする際の対話過程を，認知プロセスとしてとらえたモデルを提案する．対話システムをインタラクティブに動作させるためには，発話理解から応答生成までを段階的に管理する{\dg発話理解・生成機構}と，発話列をセグメント化し，焦点および意図と関連付けて構造的にとらえる{\dg対話管理機構}とが必要である．さらに，入力に音声を用いた音声対話システムでは，音声の誤認識によるエラーを扱う機構を組み込む必要がある．これらの機構は従来，比較的独立して研究されてきた．発話理解から応答生成までを通してモデル化したものに関しては，大きく分類して並列マルチエージェント(およびそれに付随する分散データベース)によるモデル\cite{peckham91}と，逐次的なモジュールの結合によるモデル\cite{jonsson91},\cite{airenti93}とが提案されている．並列マルチエージェントモデルは様々なレベルの制約を同時に発話理解・生成に用いているという人間の認知プロセスのモデル化になっているが，制御の難しさ・確実な動作保証の難しさから，対話システムの実現には逐次的なモジュール結合方式がよく用いられている．逐次的なモジュール結合方式において，音声対話システムに不可欠な発話の柔軟な解釈や次発話の予測を行うためには，個々のモジュールが常に参照できる情報を集中的に管理する対話管理機構が必要になる．対話管理機構に関して，Groszらは言語構造・意図構造・注意状態の3要素に分割してモデル化を行っている\cite{grosz86}．言語構造をとらえる方法としては，スタックによるモデル化\cite{grosz86},\cite{allen96},\cite{jonsson91}\footnote{\cite{jonsson91}ではやりとり(働き掛け＋応答)単位を対話木によって管理しているが，この対話木は働き掛け＋応答の2分木の中にあらたなやりとりが挿入できるという形式なので，本質的にはスタックと同機能であると考えられる．}とAND-OR木によるモデル化\cite{young89},\cite{smith94},\cite{smith95}がある．スタックによるモデル化は実現しやすく，注意状態との関係が明確であるという利点を持つ．しかし，入れ子構造をなさないような副対話が生じた場合にその管理が難しい．また，ユーザから主導権を取る発話(典型的にはユーザの誤った知識・方略を協調的に修正する発話)を生成した場合には，いくつかのスタック要素のポップを伴うことが多く，ユーザが主導権を改めて取ろうとしたときに必要な情報がスタックから消えているという状況が生じる．また，原則としてスタックからポップした情報にはアクセスできないので，音声の誤認識による誤解を(しばらく対話が進んだ後で)修正する必要のある音声対話システムに用いるには適していない．一方，AND-OR木によるモデル化は，基本的にタスクの問題構造の記述であり，Groszらの言語構造と意図構造とを混同してしまっているので，タスクの問題構造に従わない対話(例えば詳細化対話やシステムの能力に関するメタ的な質問など)は特別に扱わなければならないという欠点を持つ．これらのことを考え合わせると，音声対話に適した対話管理は，焦点とする範囲を適当に絞りながらも過去の対話履歴にアクセスする可能性を残した方法を用いて，言語構造と意図構造を区別して管理する必要があるといえる．\cite{airenti93}では言語構造と意図構造とを区別してモデル化し，これらを会話ゲームと行動ゲームと呼んでいる．しかし，それぞれのゲームがどのように表現されるかについては部分的にしか示されておらず，音声対話システムを構成するには不十分であるといえる．さらに，音声対話システムに適用する対話モデルには，音声の誤認識によるエラーに対処する機能が不可欠である．従来研究の多くは発話単位でのロバストな解析を実現することに目標が置かれ\cite{kawa95}，いくつかの例外を除いては，対話システムに入力される発話または意味表現はユーザの意図したものであることが前提になっていた．しかし，ある単語が同一カテゴリーの単語と置き換わった場合や選択格に関する情報が欠落していた場合などは，ロバストな解析では対処できないので，対話レベルでの対処が必要となる．以上の議論より，我々は音声対話システムのための対話モデルとして，逐次的なモジュール結合による発話理解・生成機構，言語構造と意図構造とを区別した対話管理機構，それら相互の密接な情報のやりとりによる頑健な処理の実現が必要であると考えた．本稿で提案するモデルは，(1)\cite{airenti93}で提案された伝達行為理解のプロセスモデルを音声対話システムに適用可能なレベルまで具体化し，(2)それらと言語構造を表現した会話空間，意図構造を表現した問題解決空間とのやりとりを規定し，(3)個々のプロセスで同定可能な誤りへの対処法を網羅的に記述したものである．このモデルを実装することによって，ある程度のエラーにも対処できる協調的な音声対話システムの実現が期待できる．以後本稿では，我々のモデルに関して発話理解・生成機構，会話レベルの管理機構，問題解決レベルの管理機構について順に説明し，最後に動作例を示す．
V06N02-03	近年，連続音声認識において，N-gram言語モデルによる言語制約を用いた手法が幅広く用いられている．N-gramは，大規模なテキストデータを統計的に解析し，直前の{\itN-1}個の単語から次の単語への遷移を確率的に与える非常に単純な言語モデルである．しかし，その構築・実装の容易さ，統計的音響モデルとの相性の良さ，認識率向上や計算時間の短縮の効果が大きい等の理由から，連続音声認識にはでは盛んに用いられている\cite{Bahl}\cite{Woodland}．N-gramは当初，英語の連続音声認識に対して適用され，その有効性が示された．英語の文章は，単語がスペースで区切られており，テキストデータから単語を単位としたN-gramが容易に構築できる．しかし，日本語の文章は文字が連続しており単語の境界が明らかではなく，テキストデータのみでは単語N-gramを構築することはできない．このため，我々は日本語の連続音声認識の認識単位として形態素を用いているが，その有効性について２章で明らかにしている．形態素を単位としたN-gramを構築する場合，テキストデータに形態素を付与する，いわゆる形態素解析を行う必要がある．しかし，N-gramを構築するのに必要な，大量のテキストデータを全て人手で形態素解析を行うには多大な労力と時間が必要であり，また，かなりの経験がある人が作業を行わなければ，付与された形態素の揺れも大きくなると考えられる．従って，大量のデータをより正確に形態素解析を行うためには，自動的に形態素解析する手法が望ましい．自動形態素解析は，従来人手で作成したルールにより解析を行う方法が主流であったが，ルールの作成の作業は相当の知識・経験が必要であり，また，話し言葉等のより自然な文を全てカバーできかつ矛盾のないルールを作成するのは困難であると考えられる．これに対し，本論文ではN-gram統計に基づく形態素解析手法を考える．N-gramを構築するためには，事前に形態素体系の構築や定義を行う必要はあるが，従来の形態素解析で必要であった形態素間の接続ルールの作成・重みの変更等の作業に代わり，ある程度の量の形態素データを収集するという比較的単純な作業で構築できる利点がある．また，より自然な発話文に対しても，データさえ収集できれば容易に適用可能である．３章では，N-gramを用いた形態素解析の原理を説明する．統計的モデルにより形態素解析を行うためには，通常は統計モデルの学習用として形態素解析済みの言語コーパスが整備されていることが前提となる．このため，山本らは\cite{Yamamoto}辞書と接続コストのみを用いて文コーパスから形態素ネットワークを生成し，生成された形態素ネットワークから隠れマルコフモデルを学習し形態素解析を行うことにより，形態素解析された言語コーパスが存在しない場合でも形態素解析が可能な手法を提案している．しかしこの方法では，形態素解析にかかるコストは非常に小さいという長所はあるが，形態素解析の結果はモデル化能力の低いとされる品詞Bigramと大きくは変わらず，形態素解析の正解率の適合率が93.5\%程度と報告されており，正しい形態素データを学習しない方法には精度に限度があると考えられる．形態素解析の精度は連続音声認識の精度にも大きく影響すると考えられるため，我々は高い精度でかつできるだけコストを抑えた形態素解析の手法を考える．このため，本論文では，形態素解析のためのN-gram言語モデルとして，より少ない量の形態素解析された言語コーパスから精度の高い予測精度の言語モデルを得るため，品詞と可変長形態素列の複合N-gram\cite{Masataki}を用いることを提案する．複合N-gramは，基本的には品詞を単位としたN-gramであるが，言語モデルとしての精度を高めるため，特定の形態素は品詞クラスから分離させ独立して扱い，さらに特定の形態素列を結合させて新たな単位として扱うモデルである．このため，品詞という単位では表現できない形態素独自の特徴を表現でき，かつ長い範囲の形態素間の連接関係を効率良く表現することができるモデルである．４章では，品詞と可変長形態素列の複合N-gramについて解説する．通常連続音声認識では，辞書に登録されている語いを対象とした認識が行われている．しかし形態素解析では，大量のテキストデータをまとめて処理するため，辞書に登録されていない未知語が含まれている場合も多く存在する．このため，形態素解析においては，未知語を含む文に対しても正確に処理が行えることが重要であると考える．本論文では，品詞から未知語が出現確率する確率を考えることにより，未知語の形態素解析も行えるよう，５章で定式化を行った．本論文で使用した複合N-gramは，品詞を基本単位としたN-gramであるため，このような未知語処理が容易である．第６章では，形態素解析実験により，形態素N-gramや品詞N-gramに対する複合N-gramの有効性を示し，最後の７章で本論文の結論を述べる．
V30N03-06	テキスト平易化\cite{shardlow-2014}とは，難解な文の意味を保持しつつ文法や語彙を変更し，平易な文に変換する言い換え生成タスクの一種である．この技術は，構文解析，文書要約，情報抽出，機械翻訳などの他の自然言語処理タスクの性能改善のために使われている\cite{chandrasekar-1996,xu-2009,evans-2011,stajner-2016}．また，子供や言語学習者への言語学習支援\cite{watanabe-2009,allen-2009}や，失読症の人々への文章読解支援\cite{canning-2000}にも役立てられている．本研究では英語母語話者に対する言語教育支援\cite{petersen-2007,watanabe-2009,allen-2009}を目的として，難易度制御可能なテキスト平易化に取り組む．インプット仮説\cite{krashen-1985}では，学習者の言語能力は，僅かに高い水準の教材で学習することで効果的に向上し，学習意欲を削ぐような過度に難易度の高い教材では向上しにくいとされている．そのため言語学習の教材は，学習者の言語能力や読解力に合わせて複雑な語彙や構文が少ないテキストに変換して作成される\cite{crossley-2007}．しかしその作業負荷は高く，教員の負担となっている．そこで適切な難易度の文を自動生成するために，多段階の難易度付きパラレルコーパスであるNewselaコーパス\footnote{\url{https://newsela.com/data/}}\cite{xu-2015}を用いて，目標とする難易度に合致した平易な文を生成する，テキスト平易化の難易度制御\cite{scarton-2018,nishihara-2020,agrawal-2021,yanamoto-2022}が研究されている．テキスト平易化は，文中の単語やフレーズに「削除」や「置換」の編集操作を施すことで実現される．また言語教育への応用を目的とした場合，文構造を複雑にし，文の難易度を上げる要因となる付加的な情報，すなわち文の主意に対する枝葉の情報，については省略することを許容する．本研究では難易度をK$12$に基づき幼稚園の年長から高等学校$3$年生までの$13$年間の学年に対応するものとする．表\ref{tbl:example}に本研究で用いるNewselaから抜粋したテキスト平易化の例を示す．ここではK$12$における$12$年生（高校$3$年生）向けのテキストを$7$年生（中学$1$年生）や$5$年生（小学$5$年生）向けに平易に書き換えている．$7$年生向けのテキストにおける\textbf{areas}や\textbf{emotion}は，$5$年生向けのテキストではそれぞれより平易な\textbf{parts}や\textbf{feelings}に「置換」されている．また$12$年生向けのテキストにおいて，付加的な情報である\textbf{noticeable}や\textbf{accordingto[...]BiobehavioralReviews}は，$7$年生および$5$年生向けのテキストでは省略されている．%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%table1\begin{table}[t]\input{05table01.tex}%\caption{Newselaにおける学年に応じたテキスト平易化の例}\label{tbl:example}\end{table}%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%深層学習に基づくテキスト平易化の手法には，ニューラル系列変換モデルを用いて文を生成する生成ベースのアプローチ\cite{nisioi-2017,zhang-2017,kriz-2019,martin-2022}がある．生成ベースのアプローチには，文全体を柔軟に言い換える利点がある．しかし入力文と出力文が同一言語というタスクの性質上，機械翻訳とは異なり，入力文を大幅に言い換える学習が難しく，積極的な言い換えを行いづらいという問題がある．一方，もう一つのアプローチとして各単語に対して編集操作を適用して入力文を言い換える編集ベースのアプローチ\cite{alva-2017,dong-2019,kumar-2020}がある．編集ベースのアプローチでは，各単語に対して行う操作が明示的であるため，生成ベースのアプローチの問題点である保守性は改善されるが，文全体を柔軟に言い換えることは難しい.生成ベースおよび編集ベースを組み合わせたハイブリッドなアプローチ\cite{kajiwara-2019,agrawal-2021,dehghan-2022}は，語彙に関する制約を生成ベースのモデルに与えることで，各アプローチの利点を活かす．ハイブリッドなアプローチでは，出力を避ける負の語彙制約として難解な単語を選択し平易な文を生成するが，平易な単語の出力を促す正の語彙制約を適用する試みは行われていない．正の語彙制約も用いることで，負の語彙制約のみを用いる場合よりも，難解な文から平易な文への言い換えを促進すると期待できる．そこで本研究では，テキスト平易化の難易度制御の品質を向上させるために，ハイブリッドなアプローチに対し正・負両方の語彙制約を導入する.具体的には，目標とする難易度と編集操作の予測に基づき，出力文に出現させない単語の制約（負の制約）と出力文に出現させる単語の制約（正の制約）を作成する．またこれらを用いて，正・負両方の語彙制約を事前訓練済み系列変換モデルに導入し，積極的かつ柔軟な文生成を促進させる.Newselaコーパス\cite{xu-2015}とNewsela-Autoコーパス\cite{jiang-2020}を用いた英語のテキスト平易化における評価実験の結果，提案手法が平易性に関する評価指標と制御性に関する評価指標を向上させることを確認できた.また，人手評価を行った結果，比較手法よりも，文法的に正しく，入力文の意味が保たれた文を生成できることを確認した．これは，提案手法の編集操作予測に基づく制約によって，文法的に正しい文構造や意味を保つことに寄与する単語の出力を促せているからだと考えられる．%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
V14N05-04	本論文では，ランダムな初期値を使ってNon-negativeMatrixFactorization(NMF)による文書クラスタリングを複数回行い，それらの結果をアンサンブルすることで，より精度\footnote{本論文において用いる「（クラスタリングの）精度」とは，クラスタリングの正解率(accuracy)と同義である．つまり，ここでは暗にクラスタリングの正解があることを想定しており，得られた結果がどの程度正解に近いかという尺度の意味で「（クラスタリングの）精度」という用語を用いる．}の高い文書クラスタリングの実現を目指す．複数のクラスタリング結果を統合する部分で，従来のハイパーグラフの代わりに重み付きハイパーグラフを用いることが特徴である．文書クラスタリングは，文書の集合に対して，知的な処理を行う基本的な処理であり，その重要性は明らかである．例えばテキストマイニングの分野では，文書クラスタリングは基本的な構成要素であるし\cite{TextMiningBook}，情報検索の分野では，検索結果の概観を視覚化するために検索された文書の集合をクラスタリングする研究が盛んに行われている\cite{hearst96reexamining}\cite{leuski01evaluating}\cite{zeng-learning}\cite{kummamuruwww2004}．文書クラスタリングでは，まずデータとなる文書をベクトルで表現する．通常，bagofwordsのモデルを用い，次にTF-IDFなどによって次元の重みを調整する．このようにして作成されたベクトルは高次元かつスパースになるために，文書クラスタリングではクラスタリング処理を行う前に主成分分析や特異値分解などの次元縮約の手法を用いることが行われる\cite{boley99document}\cite{deerwester90indexing}．次元縮約により高次元のベクトルが構造を保った状態で低次元で表現されるため，クラスタリング処理の速度や精度が向上する．NMFは次元縮約の手法を応用したクラスタリング手法である\cite{nmf}．今，クラスタリング対象の$m$次元で表現された$n$個の文書を$m$行$n$列の索引語文書行列$X$で表す．目的とするクラスタの数が$k$である場合，NMFでは$X$を以下のような行列$U$と$V^{T}$に分解する．そして行列$V$がクラスタリング結果に対応する．\[X=UV^{T}\]ここで$U$は$m$行$k$列，$V$は$n$行$k$列である．$V^{T}$は$V$の転置を表す．また$U$と$V$の要素は非負である．与えられた$X$と$k$から，ある繰り返し処理により$U$と$V$を得ることができる\cite{lee00algorithms}．しかしこの繰り返し処理は局所最適解にしか収束しない．つまりNMFでは，与える初期値によって得られるクラスタリング結果が異なるという問題がある．通常は適当な初期値を与える実験を複数回行い，それらから得た複数個のクラスタリング結果の中で$X$と$UV^{T}$の差\footnote{差は$\|\|X-UV^{T}\|\|_{F}$により測定する．}が最小のもの，つまり$X$の分解の精度が最も高いものを選ぶ．しかし分解の精度は，直接的にはクラスタリングの精度を意味してはいないため，最も精度の高いクラスタリング結果を選択できる保証がない．ここではNMFの分解の精度を用いて，複数個のクラスタリング結果から最終的なクラスタリング結果を選ぶのではなく，複数個のクラスタリング結果をアンサンブルさせて，より精度の高いクラスタリング結果を導くアンサンブルクラスタリングを試みる．一般にアンサンブルクラスタリングの処理は2段階に分けられる．まず第1段で複数個のクラスタリング結果を生成し，次の第2段でそれらを組み合わせ，最終的なクラスタリング結果を導く．複数個のクラスタリング結果を生成する手法としては，k-meansの初期値を変化させたり\cite{fred02data}，ランダムプロジェクションにより利用する特徴を変化させたり\cite{fern_clustensem03}，``weakpartition''を生成する研究などがある\cite{topchy03combining}．また複数個のクラスタリング結果を組み合わせる手法としては，データ間の類似度を新たに構築する手法\cite{fred02data}や，データの表すベクトルを新たに構築する手法\cite{strehl02}などがある．ここでは後者の手法を改良して用いる．論文\cite{strehl02}では，データの表すベクトルを新たに構築するために，複数個のクラスタリング結果から，データセットに対するハイパーグラフを作成する．このハイパーグラフは，データセットが表す行列に相当する．このハイパーグラフで表現されたデータに対してクラスタリングを行い，最終的なクラスタリング結果を得る．ただしこのハイパーグラフではエッジの重みが0か1のバイナリ値である．ハイパーグラフが行列に相当すると考えると，エッジの重みの意味は同じクラスタに属する度合いとなり，バイナリ値で表すよりも非負の実数で表す方がより適切と考えられる．そこで本論文ではハイパーグラフのエッジの重みに非負の実数値を与える．具体的には，NMFのクラスタリング結果が行列$V$で得られ，同じクラスタに属する度合いが$V$から直接求められることを利用する．またここでは，この実数値の重みを付けたハイパーグラフを重み付きハイパーグラフと呼ぶことにする．実験ではk-means，NMF，通常のハイパーグラフを用いたアンサンブル手法および重み付きハイパーグラフを用いたアンサンブル手法（本手法）の各クラスタリング結果を比較し，本手法の有効性を示す．
V03N04-05	自然言語処理のための言語リソースとして語彙辞書が最も基本となるが，構文構造の基本となる構成要素は，２文節間あるいは２単語間の係り受け構造である．係り受け関係は，CFG規則の最も単純な形式であるチョムスキ標準形と見なすことができる．通常この関係は共起関係と呼ばれている．本論文は，文法規則というよりは言語データの一種と見なせる共起関係を用いて日本語の係り受け解析を行い，かつ更新，学習機能を取り入れることにより，カナ漢字変換に見られるような操作性の良さを有する簡便な日本語係り受け解析エンジンを提示することを目的とする．これまで共起関係による自然言語解析には，\cite[など]{Yoshida1972,Shirai1986,TsutsumiAndTsutsumi1988,Matsumoto1992}の研究がある．\cite{Yoshida1972}は本論文に最も関係するもので係り受けによる日本語解析の基礎を与えるものである．\cite{Shirai1986}は日本語の共起関係の記述単位として品詞と個別単語との中間に位置すると見なせるクラスター分類で与えるとともに半自動的にインクリメンタルに共起辞書を拡大することを述べている．\cite{TsutsumiAndTsutsumi1988}は英語に関して動詞の格ペアーとして共起関係を捉えている．\cite{Matsumoto1992}は英語構文解析の規則に共起関係を抽出する補強項を付け加へ，２項以上の多項関係を解析時に自動的に抽出している．しかし，いずれのシステムも共起関係だけから実用規模の係り受け解析を構築したものはない．一般に共起関係は\cite{Yoshida1972}を除き係り側の自立語と付属語（機能語）列および受け側の自立語（終止形）で論じられることが多い．その際，係り側の付属語は両方の自立語の表層格（関係子）として考えられている．\cite{Yoshida1972}は二文節間の関係に着目して受け側も自立語と付属語列として考察した．さらに機械処理の観点から，付属語・補助用言・副詞などの語は個々の単語で記述し，他の語は品詞水準で扱った．これを準品詞水準と称している．本論文では，副詞も含めてすべて自立語は品詞で記述し，付属語列はリテラルで表現することにする．品詞に縮退させているためこれを縮退型共起関係あるいは省略して単に共起関係と呼ぶ．本論文では，実際の文章から機械的に抽出した係り受け関係を共起データとし，いわゆる文法規則の類を一切使用せずに係り受け解析システムを構築する．その際，共起関係の構文情報の中に連続性の概念を導入して，これまで文法的には曖昧であるとされていた構造も本質的に曖昧性が解消出来ているのではないが，実際の文章では出現頻度が少ないとか，分野を限定すれば同一文体が続く傾向があるために係り受けパターンを絞り込めるのではないかと予想して開発した．これは最近研究の盛んなコーパスに基づく統計的言語処理の一つの試みにもなる．また単純な形式の共起関係のみを用いて解析を行うため，日本語の係り受け解析で一文ごとに規則に相当する共起関係を学習する機能を持たせることができ，共起関係の更新機能と併用することで従来のものと比較して，柔軟性，拡張性に富んだシステムが得られる．以下，\ref{data-str}章では，構文構造と共起関係のデータ構造を定義する．\ref{new-ana}章では本共起関係を用いた学習機能付き日本語係り受け解析システムを説明する．\ref{eval}章では解析システムの実験結果を示し，評価を行う．
V04N03-03	\label{sec:intro}近年，膨大な電子化された情報の中から必要な情報を検索する技術の必要性が高まっている．インターネットの爆発的な普及に伴って，ユーザが求める情報を持つwwwサーバを検索するシステムが，実際，数多く出現してきている．しかし，これらの検索システムのほとんどは，ユーザが入力した検索キーワードそのものを含むテキスト(に対応したwwwサーバ)を検索するシステムである．検索キーワードに意味的に類似している単語まで考慮した\footnote{単に，キーワードを同義語・類義語のリストを使って展開する従来手法では，不十分であり，類似の度合に従って文書を整列させて上位のものだけユーザに提示出来なくてはならない．キーワード「画家」に対して，同義語「画伯」や類義語「イラストレーター」,「デザイナー」や上位概念である「絵描き」,「芸術家」などまでも含むものを検索し，類似度順に出力することが望まれる．}検索(以下，類似検索と呼ぶ)は出来ない．一方，シソーラスに基づく意味的類似性を使った，翻訳，解析，文書検索などの研究が行なわれてきている．ただ，これらの先行研究には(1)シソーラスの階層構造が平衡していると仮定しているという問題と(2)単語の多義性の解消を行なっていないという問題があった．本論文では，階層構造が平衡していないシソーラスにも適用できる，より一般的な単語間の意味的類似度を提案する．本提案では各単語が担う概念間の最下位共通上位概念が有する下位概念の総数が少ないほど，単語間の類似度が大きくなる．筆者らは，この意味的類似度と大規模シソーラスの一つであるEDRシソーラスを使って，類似検索システムを実装した．さらに，精度を向上させるために，単語の多義解消手法をこの検索システムに導入した．本類似検索システムは，単語間の物理的近さと単語の重要度を用いた拡張論理型の従来システムに基づいている．この従来システムとの比較実験を行ない，意味的類似性と多義解消を用いた提案の類似検索手法\footnote{本手法では，類義語を検索可能にすることによって再現率を上げ，その範囲内で，多義によるノイズを排除し適合率を上げることを目指している．さらに再現率を重視する場合には関連語まで含めて検索することが必要と考えられる．}によって再現率・適合率が向上したことを確認した．以下，\ref{sec:method}節で，提案した意味的類似度，採用した多義解消手法，それらを用いた類似検索，ベースとなる拡張論理型検索について示し，\ref{sec:experiment}節で前節で述べた類似検索手法による適合率・再現率の改善及び多義解消手法の比較について示し，\ref{sec:conclusion}節でまとめる．
V18N01-01	日本語非母語話者が日本語の作文をする場合，共起表現知識が不足するため，不自然な文を産出することがある．日本語に言語直観のない非母語話者にとって，共起表現の適切さの判断は難しい．\cite{杉浦}は，母語話者と非母語話者の知識の決定的な違いは，記憶しているコロケーション知識の量と質の違いではないかと考え，非母語話者の作文の不自然さを説明している．このような非母語話者の問題に対して，第二言語習得の研究では，文の産出には，例文の提示\cite{Summers}や，語の用法・共起関係の学習\cite{Granger}が重要であると考えられている．しかし，日本語学習者に対する日本語知識の情報源として，国語辞典はあまり役に立たない．国語辞典は，難しい言葉の意味を調べたり，表記を確かめたりするのに使用され，母語話者にとって自明である語の用法や例文については十分に説明されていない．このため，日本語非母語話者でも日本語—母語辞書を併用することで見出し語の主要な意味を確認することはできるが，産出しようとしている共起表現が自然であるかどうかを判断することは困難である．そこで，動詞の見出し語に対して，共起する名詞と例文が示された日本語学習者のためのコロケーション辞典が作成されている\cite{姫野}．しかし，辞書に記述できる情報は限られているため，やはり，学習者が産出しようとしている表現が自然であるかどうかを確認できるとは限らない．しかも，日本語非母語話者が作文をする場合，自分が表現したい事柄に適した日本語の表現を思いつかないことがしばしばある．名詞は母語—日本語辞書である程度選択できるが，特に，動詞は難しい．母語で思いついた動詞を母語—日本語辞書で調べる，あるいは，類語辞書を利用して単語を拡張するということも考えられるが，そうして得られた動詞$v$を用いた表現が自然な表現であるかどうかは不明である（動詞$v$を，国語辞典，あるいは（姫野2004）の辞書で調べても，$v$を用いた表現が用例として記載されている可能性は前述のように低い）．また，非母語話者の不自然なコロケーションは，辞書引きによる母語からの類推が原因で生じることがある\cite{滝沢}．さらに，そもそも母語からの類推による辞書引きで得られる単語は限られており，母語—日本語辞書および類語辞書を用いても適切な単語が見つからないことさえある．一方，\cite{Nishina}や\cite{Kilgariff}で提案されているシステムは，名詞から，その名詞との共起頻度の高い動詞や結びつきが強い（Dice係数などで判定）動詞を検索することができる．しかし，名詞と出現頻度の高い動詞や結びつきが強い動詞の中に自分が意図する動詞があるとは限らないため，そのような動詞の中から自分が意図する動詞を見つけるのは難しい．本研究では，コロケーションのうち日本語文を構成する最も基本的なものの一つである名詞$n$が格助詞\footnote{本稿では，動詞に係る名詞の格を表す可能性のある助詞として，「が」「を」「に」「で」「と」「へ」「から」「まで」を扱い，これを格助詞と呼ぶことにする．}$c$を伴って動詞\footnote{機能語「（さ）せる」（使役），「（ら）れる」（受身），「できる」（可能）については，動詞とこれらの機能語を合わせて一単語として扱う．}$v$に係っている共起表現$\tupple{n,c,v}$を対象とし，学習者が入力した共起表現$\tupple{n,c,v}$に対して，それから連想される適切な共起表現（代替共起表現\footnote{代替共起表現が入力された共起表現自身である場合もある．}と呼ぶ）の候補を提示する手法を提案する．本稿ではその手始めとして，共起表現$\tupple{n,c,v}$において$n,c$が正しいという前提の下，動詞のみを置き替えた代替共起表現の候補を提示する手法を扱う．これは，予備調査において，不自然な$\langle名詞—格助詞—動詞\rangle$共起表現を収集した結果，動詞の誤用が多かったため，学習者が作文する際，名詞の選択よりも動詞の選択の方が難しいと考えたからである．なお，代替共起表現中の置き替えられた動詞を代替動詞と呼ぶ．$n$，$c$が正しいという前提の下，学習者（日本語非母語話者）が適切な共起表現$\tupple{n,c,v'}$を産出する際の困難は，前述したように，\begin{itemize}\item辞書や自身の語彙知識に基づいて，自身が意図している意味を持つ動詞（表現したい内容を表す動詞）$v'$の候補を見つけること，\item候補動詞に対して，$\tupple{n,c,v'}$が共起として自然であるかどうかを判断すること\end{itemize}である．\ref{共起の自然さ}節で述べるように，共起表現が不自然であるという判断を下すことは難しいが，母語話者コーパスを利用すれば共起表現が自然であることはかなりの精度で判定することができる．一方，\ref{誤用と正用の関係}節で述べるように，「誤用共起表現$\tupple{n,c,v}$の$v$との出現環境が類似している順に全動詞を並べた場合，$v$の代替動詞はその上位にある傾向にある」と考えられる．これは，予備調査において，$v$と$v'$の共通点として，別の名詞—格助詞とであればどちらも共起できるケースがあることに気付いたからである．そこで本稿では，この仮説に基づき，母語話者コーパスを用いて$\tupple{n,c}$との共起が自然と判定される代替動詞候補を，学習者が入力した共起表現の動詞との出現環境の類似度の降順に提示する手法を提案する．これは，学習者が適切な共起表現を産出する際の二つの困難を克服するための情報を提供するものであり，作文支援システムとして有用と考えられる．なお，提示される候補動詞は，共起の自然さはある程度保証されるものの，学習者が意図した意味を持つ動詞とは限らないため，国語辞典や日本語—母語辞書を調べて，意図した意味を持つ動詞を学習者自身が候補動詞の中から選択する必要がある．日本語学習者の場合でも，国語辞典や日本語—母語辞書を用いることにより，候補動詞の主要な意味は把握でき，自身が意図した意味を持つ動詞かどうかの判断はできると考えているが，実際にそのような判断が可能かどうかは学習者の日本語能力にも依存する．このため，本研究では中級学習者をシステムの利用者として想定している．また，共起表現の誤用のうち，初級学習者に多い格助詞の誤りや中級学習者に多い動詞の自他の誤りなどの文法的誤りは，係り受け解析器の文法辞書を使って指摘・訂正が可能であるため対象としない．本稿では，学習者の作文から得られる誤用共起表現と，それを自然な表現に修正したもの（正用共起表現）の対からなるデータ（誤用・正用共起表現データ）を用いて，前述の仮説を検証する．同時に，シソーラスを用いた場合との比較から，誤用動詞に対する代替動詞候補を順序付けて提示するための尺度として，出現環境の類似度の方が意味的な類似度よりも有用であることを示す．また，同誤用・正用共起表現データを用いて，提案手法に基づいた共起表現に関する作文支援システムの実用性を検討する．
V32N01-06	label{sec:introduction}ニューラル機械翻訳(NeuralMachineTranslation,NMT)は従来の統計的機械翻訳(StatisticalMachineTranslation,SMT)を短期間で凌駕し，現在の機械翻訳技術の主流となった．SMTでは，句単位の翻訳仮説を組み合わせながら複数の独立したモデルを統合して探索を行っていてしばしば流暢性に難があったのに対し，NMTは単一の大規模ニューラルネットワークを用いて，入出力の文内コンテキストを柔軟に参照しながら入力文を出力文に直接変換することで，自然で流暢な翻訳を実現している．一方で，NMTにも様々な課題があることが議論されており\cite{koehn-knowles-2017-six}，その1つとして長文の入力に対する訳抜けや誤訳が発生が挙げられている．注意機構\cite{bahdanau2016neural,luong-etal-2015-effective}はその軽減に一定の役割を果たしたが，非常に長い文や複雑な構造を持つ文に対しては十分でなく，NMTのためのモデルの主流であるTransformer\cite{attention}でもこの問題は十分に解決できていないことが報告されている\cite{neishi-yoshinaga-2019-relation}．長文の翻訳精度低下の課題に対して，統計的機械翻訳では，長文を統語構造上の節に分割して翻訳し，並べ替えて結合する分割統治的手法が提案されている\cite{sudoh-etal-2010-divide}．また，\citeA{kano2022improving}はNMTにおける長文のための分割統治的手法を提案している．\citeA{kano2022improving}の手法による翻訳プロセスは大きく(1)節単位の翻訳と(2)節単位の翻訳結果の連結と書き換えの2つに分かれており，各プロセスはそれぞれ別のseq2seqモデルで実施される．しかしその性能向上は限定的であり，その理由として(1)節分割の方法，(2)節分割後の節の翻訳精度の2つの課題が挙げられている．(1)は，\citeA{sudoh-etal-2010-divide}によるプレースホルダを使った階層的な分割ではなくフラットな構造のまま分割を行ったことで埋め込み従属節を含む節が分断されてしまうことに起因している．また(2)は，(1)による節の分断に加え，NMTの利点である文内コンテキストの参照が節単位の翻訳で活用できないことが理由に挙げられる．本研究では，この2つの課題に注目し，英日翻訳における長文の翻訳精度の向上を試みる．具体的には，以下の2つを提案する．%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%\begin{enumerate}\item等位接続詞の前後に限定した節分割\item文内コンテキストを参照可能な節単位翻訳\end{enumerate}%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%これらにより，以下の効果が期待できる．%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%\begin{enumerate}\item埋め込み従属節による節の分断を避け，節としてほぼ完全な状態での翻訳\item各節を翻訳する際に，同一文内の他の節の情報を参照できることによる節翻訳の精度向上\end{enumerate}%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%提案手法は，多言語BARTモデル\cite{mbart}を利用しASPECを対象にした英日機械翻訳実験において，41単語以上の長い入力文に対してベースラインを上回るBLEUを達成した．また，提案手法が適用された文のみに限れば，より短い入力文に対してもベースラインを上回る翻訳精度が得られることが確認された．%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%S2
V24N02-04	近年Twitter等を代表とするマイクロブログが普及し，個人によって書かれたテキストを対象とした評判分析や要望抽出，興味推定に基づく情報提供など個人単位のマーケティングのニーズが高まっている．一方このようなマイクロブログ上のテキストでは口語調や小文字化，長音化，ひらがな化，カタカナ化など新聞等で用いられる標準的な表記から逸脱した崩れた表記（以下崩れ表記と呼ぶ）が多く出現し，新聞等の標準的な日本語に比べ形態素解析誤りが増加する．これらの崩れ表記に対し，辞書に存在する語にマッピングできるように入力表記を正規化して解析を行うという表記正規化の概念に基づく解析が複数提案され，有効性が確認されている\cite{Han2011,Han2012,liu2012}．日本語における表記正規化と形態素解析手法としては，大きく(1)ルールにもとづいて入力文字列の正規化候補を列挙しながら辞書引きを行う方法\cite{sasano-kurohashi-okumura2013IJCNLP,oka:2013,katsuki:2011}，(2)あらかじめ定めた崩れ表記に対し，適切な重みを推定するモデルを定義し，そのモデルを用いて解析を行う方法(KajiandKitsuregawa2014;工藤，市川，Talbot，賀沢2012)が存在する．\nocite{kaji-kitsuregawa:2014:EMNLP2014,kudo:2012}(1)では事前に定めた文字列レベルの正規化パタンに基づいて崩れた文字列に対し正規文字列を展開しながら解析するシンプルな方法が提案されている．(2)においては鍜治ら\cite{kaji-kitsuregawa:2014:EMNLP2014}は形態素正解データから識別モデルを学習し，崩れ表記を精度よく解析する方法を提案した．工藤ら\cite{kudo:2012}は崩れ表記の中でもひらがな化された語に着目し，教師なしでひらがな語の生成確率を求める手法を提案した．(1)，(2)いずれの手法においても，崩れ表記からの正規表記列挙に関しては人手によるルールやひらがな化などの自明な変換を用いているが，実際にWeb上で発生する崩れ表記は多様でありこれらの多様な候補も考慮するためには実際の崩れ表記を収集したデータを用いて正規化形態素解析に導入することが有効と考えられる．本研究では，基本的には従来法\cite{katsuki:2011,oka:2013}と同様の文字列正規化パタン（「ぅ→う」）等を用いて辞書引きを拡張するという考え方を用いるが，文字列正規化パタンを人手で作成するのではなく，正規表記と崩れ表記のアノテーションデータから自動的に推定される文字列アライメントから統計的に求める．また，文字列正規化パタンと，ひらがな化・カタカナ化などの異文字種展開を組み合わせることによって正規化の再現率を向上させる．さらに，今回の手法では可能性のある多数の正規化文字列を列挙するため，不要な候補も多く生成される．これらの不要な候補が解析結果に悪影響を及ぼさないようにするため，識別学習を用いて文字列正規化素性や文字種正規化素性，正規語言語モデルなどの多様な素性を考慮することにより，崩れ表記の正規化解析における再現率と精度の双方の向上を試みる．本研究の対象範囲は，音的な類似という点で特定のパタンが存在すると考えられる口語調の崩れ表記や，異表記（小文字化，同音異表記，ひらがな化，カタカナ化）とした．これらを対象とした理由は，\cite{saito-EtAl:2014:Coling,kaji-kitsuregawa:2014:EMNLP2014}などでも示されているように，音的な類似性のある崩れ表記が全体の中で占める割合が大きいとともに今回の提案手法で統一的に表現できる現象であったためである．
V23N05-02	日英間や日中間のような，文法構造の大きく異なる言語間における特許文書を対象とした統計的機械翻訳の精度は，利用可能な特許対訳コーパスのデータ量の増加に加え，構文解析にもとづく単語並べ替え技術(Isozaki,Sudoh,Tsukada,andDuh2010b;deGispert,Iglesias,andByrne2015)の進展によって大きく向上した(Goto,Utiyama,Sumita,andKurohashi2015)．しかし特許明細書中の請求項文は，特に重要性が高いにもかかわらず，明細書中の他の文と比較しても依然として翻訳が困難である．特許請求項文は，以下の2つの特徴を持つサブ言語(Buchmann,Warwick,andShann1984;Luckhardt1991)と考えることができる．1つ目の特徴は，非常に長い単一文で構成されることであり，2つ目の特徴は，対象言語に依存しない部品のセットから構成されるということである．特許請求項翻訳の困難さは，まさにこれらの2つの特徴に根差している．1つ目の特徴である特許請求項文の長さによって，事前並べ替え等で用いられる構文解析器が解析誤りを生じる可能性が高くなり，ひいては事前並べ替えの精度が下がる．2つ目の特徴であるサブ言語に特有の文構造は，特許明細書の他の部分で学習された統計的機械翻訳を用いるだけでは正確にとらえることができない．本稿では，特許請求項文に対する統計的機械翻訳の精度を向上させるための手法について述べる．なお以降の説明では，特許請求項を構成する要素を「構造部品」と呼ぶ．我々は，前述の特許請求項文の特徴に起因する問題を解決するためのモジュールを追加した統計的機械翻訳の枠組みを構築した．サブ言語に特有の文構造に基づく我々の手法は2つの狙いがある．(1)事前並べ替えおよび統計的機械翻訳処理を，入力文全体にではなく，文の構造部品を単位として実行する．この構成により事前並べ替えおよび機械翻訳への入力を実質的に短縮し，結果として翻訳精度を向上させる．(2)特許請求項文の文構造を明示的に捉えた上で翻訳を行うことにより構造的に自然な訳文を生成できるようにする．具体的には，言語非依存の構造部品を得るための同期文脈自由文法規則および正規表現を人手で構築し，これら構造部品を非終端記号とした同期文脈自由文法を用いることによって，原文の文構造を訳文の文構造に反映させる．我々は，英日・日英・中日・日中の4言語対の翻訳について上記提案手法を適用し，その効果を定量的に評価した．提案手法を事前並べ替えと併用した場合に，英日・日英・中日・日中の4言語方向すべての翻訳実験において翻訳品質がRIBES値(Isozaki,Hirao,Duh,Sudoh,andTsukada2010a)で25ポイント以上向上した．これに加えて，英日・日英翻訳ではBLEU値が5ポイント程度，中日・日中翻訳では1.5ポイント程度向上した．英中日3言語の請求項文構造を記述するための共通の構造部品は5種類のみであり，これら構造部品を単位として記述した英日・日英・中日・日中の4言語方向の同期文脈自由文法の規則はそれぞれ10個以内である．非常に少ない数で，この翻訳精度改善を実現することができた．
V24N01-03	\label{sec:introduction}機械翻訳システムの性能向上や大量のコーパスを伴なう翻訳メモリなどの導入により，機械支援翻訳(CAT)が広く行われるようになってきている．その一方で，翻訳の対象となる文書の内容が専門的である場合，その分野特有の専門用語や定型表現に関する対訳辞書が必要となる．そうした辞書を人手で作成することはコストが高いため，あらかじめ翻訳された対訳コーパスから専門用語や定型表現の対訳を自動抽出する研究が盛んである\cite{Matsumoto00}．しかし，自動抽出の結果は必ずしも正確ではなく，間違った対訳表現を抽出したり，対訳表現の一部だけを抽出する場合がある．また，一つの語に対して複数の対訳表現を抽出した場合には，訳し分けに関する知見が必要となる．そこで，対訳表現を抽出するだけでなく，対訳表現の各候補を，それが出現した文脈と一緒に表示することによって，ユーザによる対訳表現の選定を支援し，対訳辞書構築を支援するシステムBilingualKWIC\textsuperscript{\textregistered}を開発した．BilingualKWICは，対訳抽出の技術とKWIC(KeyWordInContext)表示\cite{luhn1960}を統合し，文単位で対応付けされたパラレル・コーパスから，与えられたキーワードとその対訳表現の候補をそれぞれ文脈付きで表示する．BilingualKWICの開発過程については\ref{sec:history}章において詳しく述べるが，最初は法律分野の対訳辞書構築を支援する目的で開発した．しかし，このシステムは対訳辞書構築だけでなく，翻訳支援にも有用であるため，その後に開発された法務省・日本法令外国語訳データベース・システム(JLT){\footnote{http://www.japaneselawtranslation.go.jp/}\cite{Toyama12}}においても採用されるに至った．JLTは，日本の主要法令とその英訳，法令用語日英標準対訳辞書，および日本法令の英訳に関する関連情報をインターネット上において無償で提供するウェブサイトである．また，BilingualKWICは名古屋大学が開発した学内情報翻訳データベースNUTRIAD\footnote{http://nutriad.provost.nagoya-u.ac.jp/}\cite{Fukuda}でも採用され，学内文書の英文化を支援し，大学の国際化に寄与している．NUTRIADのシステムは，九州大学・熊本大学・東北大学でも導入され，BilingualKWICも同様に利用されている．BilingualKWICの現在の目的は，対訳辞書のようにあらかじめ登録された訳語と少数の用例を提示するのではなく，任意の入力キーワードに対して対訳表現を計算し，豊富なパラレル・コーパスからの情報を一緒に提示することにより，従来の対訳辞書や翻訳メモリとは異なるアプローチでの翻訳支援を実現することである．以下に本論文の構成を示す．まず\ref{sec:summary}章においてBilingualKWICの概要について述べ，\ref{sec:character}章においてその特徴を紹介する．\ref{sec:spec}章において，BilingualKWICの技術的詳細を，\ref{sec:history}章においてその開発過程をそれぞれ述べる．\ref{sec:evaluation}章ではユーザによるBilingualKWICの評価について述べ，\ref{sec:compare}章では類似するシステムとの比較を行う．\ref{sec:conclusion}章は本論文のまとめである．
V10N03-06	\label{sec:introduction}単語の多義性解消は自然言語処理の重要な基本技術のひとつとして認識されている．単語の多義性というのは，例えば，「買う」という単語について「本を買う」と「反感を買う」とでは意味が違うというように，同じ単語でも文脈によって意味の違いがあるという性質のことを言う．そして，その意味の違いのことを単語の多義と言う．単語の多義は細かく定義すればきりがない．したがって，多義をどこまで区別するべきかはタスクの目的に依存して決めることになる．機械翻訳の問題では，適切な翻訳(訳語/訳句)が選択できればよく，単語の多義はその翻訳の異なりとして定義できる．機械翻訳における単語の多義性解消の方法，つまり，訳語選択の方法は，これまでにも数多く提案されてきた．それらの方法を，利用している言語資源という観点から分類すると，対訳コーパスを用いるもの\cite{Nagao81,Sato90,Brown:90,Brown:93,berger:cl96,Sumita:2000,Baldwin:2001}，対訳単語辞書と目的言語の単言語コーパスを用いるもの\cite{Dagan:cl94,Kikui:98}，対訳単語辞書と，原言語と目的言語の間で互いに対応関係がない各単言語コーパスを用いるもの\cite{Kikui:99,Koehn:2000}，原言語と目的言語の間で互いに対応関係がない各単言語コーパスを用いるもの\cite{Tanaka:96}に大別できる．我々は，多様な情報を用いれば用いるほど良い結果が得られると考え，対訳単語辞書，対訳コーパス，および，原言語と目的言語の間で互いに対応関係がない各単言語コーパスを用いる．対訳コーパスには大きくパラレルコーパスとコンパラブルコーパスの二種類があり，我々はそのうちパラレルコーパスを用いる．さらに，文対応をとる際の誤りを軽減するために，パラレルコーパスとして，対訳用例(句/文)集合(翻訳メモリ，トランスレーション・メモリー，以下TM)を用いる．我々のシステムは，入力文と対象単語が与えられると，その対象単語に関して入力文と対訳用例集合との類似度を求め，類似度が最大となる用例集合を用いて対象単語の訳語選択を行なう．類似度は，用例に基づく手法と機械学習モデルを用いて計算される．類似度の計算には，文字列の類似性，入力文における対象単語の前後の数単語，入力文中の内容語とその訳語候補のコーパスにおける出現頻度などを考慮する．このシステムで用いた訳語選択のためのモデルは次のような特徴を持つ．\begin{itemize}\item各対訳用例内の単語対応をとり，同じ対訳単語ペアを持つ対訳用例をまとめてひとつの用例集合とする．そして，そのペアの原言語(対象単語と同じ言語)の単語が同じである用例集合をまとめ，そのまとまりごとにモデルを作成する．以降で，各用例集合内で共通する対訳単語ペアを見出し語と呼ぶ．そして，そのペアの各単語をそれぞれ原言語見出し語，目的言語見出し語と呼ぶ(原言語が日本語，目的言語が英語の場合，それぞれ日本語見出し語，英語見出し語と呼ぶ)．\item対象単語に関して入力文と表層的にほぼ同じ用例が用例に基づく手法により見つかった場合にはその用例を優先的に翻訳に使う．見つからなかった場合には，機械学習モデルに基づく手法により対象単語に関して入力文と最も類似した用例集合を選択して翻訳に使う．\item言語資源としては，対訳単語辞書，対訳コーパス，および，原言語と目的言語の間で互いに対応関係がない各単言語コーパスを用いる．\end{itemize}2001年の春，単語の多義性解消のコンテスト第2回{\scSenseval}が開催された\cite{senseval2:homepage}．このコンテストは1998年に，英語と二つのヨーロッパ言語(イタリア語とフランス語)を対象として始まったものである．2001年には新たに他のいくつかの言語に関するタスクが追加された．我々はそのうち日本語に関して追加された翻訳タスクに参加した．本論文では，そのコンテストでの結果をもとに，我々が本論文で提案する手法の有効性および精度向上にどのような情報が有効であったかについて述べる．
V07N01-01	まず，言い間違いの原因について考察してみる．フロイト\cite{freud1917a}は言い間違いの原因として身体的理由と精神的理由を挙げている．フロイトは身体的理由として，\begin{enumerate}\item気分が悪い・疲れ気味である\itemあがっている\item注意が他にそれている\end{enumerate}\noindentを挙げている．1は確かに身体的理由であるが，2と3はむしろその場の精神的理由である．フロイトが言いたいことは，確かに上記のような身体的理由があるにしろ，言い間違いが生じている時は必ず何らかの深層心理的・無意識的理由があるということである．フロイトは深層心理的・無意識的理由のない言い間違いはありえない，つまり偶然生じる言い間違いはあり得ないと断言している．さらにフロイトは言い間違いで探索すべき概念の範囲として，似た言葉(発音・言語類似・言語連想)と反対の意味の言葉を挙げている．しかしながら，あまりよく知らない単語であったり，関心が薄い単語であれば言い間違えることが考えられる．また，ラカンの流れを汲むNasioは，無意識は相互作用であり，コミュニケーションあるいは精神分析の中でしか無意識は存在しないと言っている\cite{nasio1995a}．これは精神分析者が被精神分析者の無意識を被精神分析者に示し，理解させ，相互に了解しながら精神分析が進んでいくということを意味しているものと思われる．その無意識の兆候の一つとして挙げられるのが言い間違いである．つまり言い間違いのすべてが無意識を顕現化しているものではない．このような無意識を第三者が観察することで見い出すことは可能であろうか?もし可能であれば，会議支援につながる．会議参加者が意識的には気づいていないが無意識的に重要だと思っていることを会議へフィードバックすることができるからである．しかるに言い間違いは無意識の兆候を示しているのであるから，言い間違いを調べることによって会議支援ができることが期待できる．しかし，前述のような精神分析的方法は分析者の解釈がどうしても必要であり，かなりの能力が必要となり，誰にでもできるというわけにはいかない．しかも，その解釈にはかなり主観的要素がつきまとう．実際の言い間違いの利用方法には，\begin{enumerate}\item解釈しない(客観的)\item解釈する(主観的)\end{enumerate}\noindentの二種類が考えられる．前者は言い間違えた事実だけを客観的に使う方法であり，後者は言い間違いを解釈して使う方法である．我々は，解釈には分析者にかなりの能力が必要であり，利用の条件が厳しくなり，また，分析者の主観性が強く現れすぎて，結果が恣意的になると考え，前者の方法を採用する．言い間違いに関する用語を定義しておく．言い間違いにはいわゆる言い間違い，言い淀み，言い直しなどが含まれる．本論文では，言い淀みとは不要な語句(感動詞を含む)が挿入された発話を指すことにし，言い直しとは途中で発言が中断され別の語句に発話し直したことを指すことにし，言い間違いとは言い淀み・言い直し以外の言い間違いのことを指すことにする．ソフトウエアの要求獲得会議のコーパスから言い間違いの例を挙げると，\begin{verbatim}言い淀み:「電話で何だけ，留守番電話みたいに」言い直し:「たとえば何らかのシステムが出て，出たとしても」言い間違い:「自分の手帳でやってや書くでしょう」\end{verbatim}\noindentのようになる．なお，言い直しの例で，「出て」を言い直す前の単語，「出た」を言い直した後の単語と呼ぶことにする．言い直し以外の言い間違いを利用するためにはどうしても解釈する必要が出てくる．我々は客観的に分析するという観点から，主として，言い直しに限って分析を進める．さらに言い直しは，客観的に判断できる，形態論的な観点から，\begin{enumerate}\item\label{どの文法単位の言い直しか?}どの文法単位の言い直しか?\begin{enumerate}\item\label{単語レベルの言い直し}単語レベルの言い直し\item\label{文節レベル以上の言い直し}文節レベル以上の言い直し\end{enumerate}\item\label{言い直しの間に他の発話が入っているか?}言い直しの間に他の発話が入っているか?\begin{enumerate}\item\label{直後の言い直し}直後の言い直し\item\label{他の発話が入った言い直し}他の発話が入った言い直し\end{enumerate}\end{enumerate}\noindentに分類される．もちろん，\ref{どの文法単位の言い直しか?}と\ref{言い直しの間に他の発話が入っているか?}の間には重複があり得るので，全体では四通りに分類できる．それぞれ，単独の場合の例を，実際の発話から挙げておく．まず，\ref{単語レベルの言い直し}の例としては，\begin{quote}あ，メ，電話の取り次ぎってことね．\end{quote}\noindentが挙げられる．この例は，文脈から「メモ」を「電話の取り次ぎ」に言い直したことがわかる．次に，\ref{文節レベル以上の言い直し}の例としては，\begin{quote}離席の，リフレッシュルームに電話番号はないわけだから，\end{quote}\noindentが挙げられる．この例は，「離席の」という名詞と格助詞からなる文節を「リフレッシュルームに」に言い直している．このように，\ref{単語レベルの言い直し}と\ref{文節レベル以上の言い直し}との違いは，言い直す前の語句が単語か文節かの違いである．次に，\ref{直後の言い直し}の例としては，先ほどの，\begin{quote}あ，メ，電話の取り次ぎってことね．\end{quote}\noindentが挙げられる．また，\ref{他の発話が入った言い直し}の例としては，\begin{quote}ファッ……だからＥ−ｍａｉｌからＦＡＸは簡単だよね．\end{quote}\noindentが挙げられる．この例では，「ファックス」が「Ｅ−ｍａｉｌ」に言い直され，両方の語句の間に「だから」が挿入されている．このように，\ref{直後の言い直し}と\ref{他の発話が入った言い直し}の違いは，言い直された語句の間に他の語句が挿入されたかどうかの違いによる．前述のように，言い直しのすべてが無意識の兆候になっているかどうかは若干の疑念がある．そこで本論文では，第2節で，言い直す前の単語と言い直した後の単語のどちらにより関心があるかを調べる．次に，第3節で，言い直しをソフトウエアの要求獲得に使う考え方について述べる．次に，第4節で，言い直しを利用した，要求獲得方法論について述べる．第5節では，本要求獲得方法論を例題を挙げて説明する．第6節では，全体のまとめと今後の課題について述べる．
V09N02-02	日本語の複文の従属節には，体言に係る連体修飾節と，用言に係る連用修飾節がある．連体修飾節は通常次の句の体言に係る場合が多く曖昧性は比較的少ない．ところが，連用修飾節は係り先に曖昧性があり，必ずしもすぐ次の節の用言に係るとは限らない．このような曖昧性を解消するために，接続助詞，接続詞など接続の表現を階層的に分類し，その順序関係により，連接関係を解析する方法\cite{shirai1995}が用いられてきた．また，連接関係を，接続の表現を基に統計的に分析し，頻度の高い連接関係を優先する方法\cite{utsuro1999}も用いられてきた．しかし，接続の表現には曖昧性があり，同じ接続の表現でも異なる意味で用いられるときは異なる係り方をする．従って，接続の表現の階層的な分類を手がかりとする方法では，達成できる精度に限界がある．本論文では，従属節の動詞と主体の属性を用いて連接関係の関係的意味を解析し，連接構造を解析する方法を用いる．本方法によりモデルを作成し，解析した結果と従来から行われてきた接続の表現の表層的な分類を用いた方法とを同じ例文を用いて比較する．ここで，主体は「複文の研究」\cite{jinta1995}で使っているのと同じ意味で使っており，後述の解析モデルでは「が格」として処理している．
V06N07-05	日本語や中国語等においては，単語間に空白を入れる習慣がないため，これらの言語の計算機処理では，まず文を単語列に分割する処理が必要となる．単語分割は日本語処理における最も基本的かつ重要な技術であり，精度・速度ともに高い水準の性能が要求される．単語分割と品詞付けから成る日本語形態素解析法の多くは，単語辞書の登録語との照合を行い，複数の形態素解析候補がある場合はヒューリスティクス(heuristics)を用いて候補間の順位付けを行うというものである．しかし，実際に，辞書中にすべての単語を網羅するのは不可能であるため，未知語(辞書未登録語)という重大な問題が生ずる．また，ヒューリスティクスでは扱うことのできない例外的な言語現象の存在や，例外現象に対処するための規則の複雑化が問題となる．その結果，一部の規則修正が全体に与える影響を人間が把握することが困難になり，規則の保守・管理に大きな労力を必要とすることとなる．一方，英語の品詞付けでは，タグ付きコーパスを用いた確率的手法が確立されている\cite{Church88,Cutting92,Charniak93}．言語表現の出現頻度に基づく確率的言語モデルを用いる方法には，対象領域のテキストからモデルのパラメータを学習する方法が存在するという大きな利点があり，タグ付きコーパスが整備されている領域では，実験的に最も高い精度が報告されている．英語の正書法は単語間で分かち書きするため，これらの手法は，単語モデル(word-basedmodel)を用いている．英語の品詞付けは，日本語の単語分割と技術的に似ているため，英語の品詞付け手法の多くは日本語の単語分割にも適用可能となる．しかし，単語モデルを日本語に適用するためには，いくつかの問題がある．日本語では，未知語の存在が単語の同定に影響を与える上，分割が曖昧で，異なる長さの多くの分割候補があり，それらの候補を比較する必要がある\cite{Yamamoto97}．このため，単語モデルを用いるためには，分割候補の確率を正規化する必要が生じる．以上の点から，我々は文字モデル(character-basedmodel)に基づく単語分割法を提案した\cite{Oda99a,Oda99b}．文字モデルは，未知語モデルとしても機能するために，学習データに含まれていない単語に対しても対応が可能である．本論文では，より頑健な単語分割モデルを構築するために，日本語文字のクラスタリング(グループ化)を行うことを考える．日本語漢字は表意文字であり，一文字が何らかの意味を担っている．したがって，何らかの基準によりいくつかのグループ(クラス)に分類することが可能である．文献\cite{Yamamoto97}で示されている文字モデルの利点に加え，文字クラスモデルでは，文字モデルよりもさらにモデルのパラメータ数を少なくすることができるという大きな利点がある．したがって，より頑健なモデルである文字クラスモデルを単語分割へ適用した場合，未知語に対する頑健性がさらに向上すると考えられる．文字とクラスの対応関係を得るためのクラスタリング処理には，クロス・バリデーション法(cross-validation)の適用により求められる平均クロス・エントロピーを言語モデルの評価基準としたクラスタリング法\cite{Mori97}を用いる．平均クロス・エントロピーを評価基準として求められた単語bigramクラスモデルは，単語bigramモデルよりも予測力という点において優れていることが実験的に示されている\cite{Mori97,Mori98}．本論文では，この方法を日本語文字のクラスタリングに適用し，文字クラスモデルを構築する．以下，本論文では，文字クラスモデルに基づく新しい単語分割手法を提案する．まず，基本となる文字モデルに基づく単語分割モデルについて簡単に説明する．さらに，類似した文字を自動的にグループ化するクラス分類法について説明し，文字クラスモデルに基づいた単語分割モデルを提案する．ADD(ATRDialogueDatabase)コーパスを用いた評価実験において，文字モデルを用いた場合と，文字クラスモデルを用いた場合の単語分割精度を比較し，提案した手法の評価を行う．
V13N03-05	述語項構造とは述語とその項の間の意味的な関係を表現する構造の一つである．例えば，「彼が扉をひらく」という文中の述語「ひらく」の項構造は[agent,theme]のように表すことができる．agent,themeは項が述語に対してどのような意味的関係となっているかを表す意味役割である．また，所与の文章中の各述語に対して，(1)述語が取り得る項構造のうち最も文の解釈に適った項構造を選択し，(2)その構造の各項に対応する要素を同定することで述語項構造を出力する処理を項構造解析と呼ぶ．例えば，文「彼が扉をひらく」を述語項構造解析する場合には，述語「ひらく」に対して図\ref{fig:arg_dic}\,に示すような項構造辞書から対応する項構造を選択し，入力文の格要素を各項に割り当てて構造[agent:彼，theme:扉]を得る．項構造解析を高精度で実現すれば，「彼が扉をひらく」$\Leftrightarrow$「扉がひらく」のような交替に代表される表現の多様性を吸収でき，言い換えや情報抽出，質問応答などの自然言語処理技術を高度化できる．述語の項構造に関する研究は，\citeA{Fil:68}の格文法など古くから関心を集めている．これらの研究は，項構造辞書の作成，項構造タグ付きコーパスの作成，項構造解析の三つの研究に大別でき，項構造辞書作成の研究では，近年，\citeA{Dorr:97}によって項構造辞書作成の方法論が開発されている．この研究成果から大規模な項構造辞書を作成する基盤ができてきた．また項構造情報を含む詳細な動詞辞書FrameNet\cite{Frame:98}や項構造タグ付きコーパスPropBank\cite{Prop:02}も報告されている．項構造解析の研究は国際会議CoNLLにおけるSharedTask\footnote{http://www.lsi.upc.edu/\~{}srlconll/}として取り上げられるなど関心が集まっており，近年提案されている主な手法は教師なし手法と教師あり手法に大別できる．現状では，PropBankのような項構造タグ付きコーパスが作成されたこともあり，教師あり手法の研究が盛んである．教師なし手法では，\citeA{Lapata:Brew:99}のように項構造辞書の下位範疇化の構造を利用して擬似的に訓練事例を作成する手法などが提案されているが，一般に解析精度が低い．これに対して，\citeA{gildea:02:c}，Haciogluら\citeyear{Kadri:03}やThompsonら\citeyear{Cyn:03}の提案する教師あり手法では，項構造タグが付与された学習コーパスから述語と文章中の要素との構文構造における位置関係などを素性として利用しており，教師なし手法よりも精度が高いという利点を持つ．しかし学習に用いるコーパス中の各述語に対し(i)取り得る項構造と項構造辞書中の項構造の対応付け，および(ii)選択した項構造の各項と文章中の要素の対応付け，という人手による項構造タグ付与作業が必要であるため作業コストが高いという問題がある．そこで本研究では，項構造タグ付き事例を効率的に作成する方法について議論する．項構造タグ付き事例の効率的な作成方法にはさまざまな方法が考えられるが，本論文では，学習に用いるコーパス中の各述語に項構造タグを付与する過程で生じる類似用例への冗長なタグ付与作業の問題に着目する．具体的には，大規模平文コーパスから抽出した表層格パターンの用例集合をクラスタリングし，得られたクラスタに項構造タグを付与することでタグ付与コストを削減する手法を提案する．提案手法では，(A)表層格パターン同士の類似性と(B)動詞間の類似性という2種類の類似性を利用してクラスタリングを行う．評価実験では，実際に提案手法を用いて8つの動詞の項構造タグ付き事例を作成し，それを用いた項構造解析の実験を行うことによって，提案手法のクラスタリングの性能や，人手でタグ付き事例を作成するコストと項構造解析精度の関係を調査した．\begin{figure}[t]\begin{center}\includegraphics[width=0.85\hsize]{clip013.eps}\end{center}\caption{動詞項構造辞書の一例（「ひらく」について）}\label{fig:arg_dic}\end{figure}
V27N01-05	辞書は言葉に関するさまざまな特徴を集積したものである．発音・形態論情報・品詞・単語分類・統語情報・意味情報・位相・語源・語釈などにより整理される．単語の使用実態に基づく言葉の特徴として{\bf単語親密度}がある．単語親密度は，人々がどのくらいその単語を知っているのか・使うのかといった，人の主観的な評価に基づく指標である．NTTコミュニーケーション科学基礎研究所による『日本語の語彙特性』\cite{Amano-1999}は，単語親密度を含む情報を『新明解国語辞典第四版』の見出し項目約80,000語について付与した．また同データは朝日新聞の1985年から1998年の14年分の記事データにおける頻度情報も含む．しかしながら，評定情報の収集や頻度情報が20年以上前のものである．本研究では，最近の単語親密度を評定することを試みる．日本語のシソーラスである『分類語彙表増補改訂版』\cite{WLSP-2004}の電子化データ『分類語彙表増補改訂版データベース』（以下「分類語彙表DB」と呼ぶ）の語彙項目94,838語を対象に，単語親密度付与を行った．評定値の収集にあたっては，「知っている」の観点のほか，生産過程$\Leftrightarrow$受容過程や書記言語$\Leftrightarrow$音声言語の位相情報を含めるために，「書く」「読む」「話す」「聞く」の4つの位相情報についても質問事項に含めた．安価に，そして，継続的に調査を行うためにクラウドソーシングにより評定値の収集を行った．しかしながら，「日本語の語彙特性」の調査のように{研究協力者}に対する統制などに制約があり，研究協力者の個体差の影響を受ける問題がある．この問題を緩和するために，収集されたデータをベイジアン線形混合モデル(BayesianLinearMixedModel:BLMM)\cite{Sorensen-2016}によりモデル化を行う．またシソーラスに単語親密度を付与することにより，統語分類・意味分類に基づく親密度・位相情報の評価もできるようになった．本研究の貢献は以下の通りである：\begin{itemize}\item日本語の大規模シソーラスに対する単語親密度情報の網羅的収集を行った．\item単語親密度の評定にクラウドソーシングを用いた．\item単語親密度の観点において「知っている」だけでなく，「書く」「読む」「話す」「聞く」の4つの位相情報についても検討し，単語の位相情報も評価した．これにより，生産過程$\Leftrightarrow$受容過程や書記言語$\Leftrightarrow$音声言語の対照比較ができる．\item単語親密度の統計処理にベイジアン線形混合モデルを導入し，研究協力者の個体差の影響の軽減を行った．\item語彙項目は分類語彙表DBの見出し語を用いた．分類語彙表の統語・意味分類に対して親密度が推定できるほか，UniDicと分類語彙表の対応表\cite{Kondo-2018}と形態素解析器を用いて親密度を自動付与できる．さらに，『岩波国語辞典第五版』の語釈文と分類語彙表の対応表\cite{呉-2019}の整備も進んでおり，語釈文との対照できる．\end{itemize}本稿の構成は以下の通りである．2節では関連研究について示す．3節ではクラウドソーシングに基づく単語親密度推定手法について示す．4節で結果を示し，5節にまとめと今後の展開について示す．%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
V02N01-01	\label{sec:hajime}機械翻訳システムを使用する時,利用者はシステム辞書に登録されていない単語や,登録されているが,訳語が不適切な単語に対して,利用者辞書を作成して使用することが多い\cite{Carbonell:1992}.しかし,辞書に新しく単語を登録する際は,登録する語の見出し語,訳語の他に,文法的,意味的な種々の情報を付与する必要がある.高い翻訳品質を狙ったシステムほど,利用者辞書にも詳細で正確な情報を必要としており\cite{Ikehara:1993,Utsuro:1992},素人の利用者がそれらの情報を正しく付与するのは簡単でない\footnote{単語意味属性を付与するには,通常のシステムの意味属性を理解していることが必要であるが,一般の利用者には簡単でない.}.例えば,日英機械翻訳システムALT-J/Eでは,意味解析のため約3,000種の精密な意味属性体系\footnote{単語の意味的用法を分類したもので,各要素となる名詞に着目した動詞の訳し分けにおいて,ほぼ必要十分といえる意味属性分解能が約2,000種類であることを示し,実際に名詞の意味属性を3,000種に分類している.詳細は\cite{Ikehara:1993}を参照のこと.}を持っており,利用者辞書の単語を登録する際は,各単語にこの意味属性体系に従って意味的用法(一般に複数)を指定する必要がある\cite{Ikehara:1989b,Ikehara:1989a}.この作業は熟練を要し,一般の利用者には困難であるため,従来から自動化への期待が大きかった.そこで本論文では,利用者登録語の特性に着目し,利用者が登録したい見出し語(単一名詞または複合名詞)に対して英語訳語を与えるだけで,システムがシステム辞書の知識を応用して,名詞種別を自動的に判定し,名詞種別に応じた単語の意味属性を推定して付与する方法を提案する.また,自動推定した利用者辞書を使用した翻訳実験によって,方式の効果を確認する.具体的には,名詞を対象に,与えられた見出し語と訳語から主名詞と名詞種別(一般名詞,固有名詞)を判定し,それぞれの場合に必要な単語意味属性を自動推定する方法を示す.また,適用実験では,まず,本方式を,新聞記事102文とソフトウエア設計書105文の翻訳に必要な利用者辞書の作成に適用して,自動推定した単語意味属性と辞書専門家の付与した単語意味属性を比較し,精度の比較を行う.次に,これらの意味属性が翻訳結果に与える影響を調べるため,(1)意味属性のない利用者辞書を使用する場合,(2)自動推定した意味属性を使用する場合,(3)専門家が利用者登録語の見出し語と訳語を見て付与した意味属性を使用する場合,(4)正しい意味属性(専門家が翻訳実験により適切性を最終的に確認した意味属性)を使用した場合,の4つの場合について翻訳実験を行う.\vspace{-0.2mm}
V10N04-06	\label{sec:intro}\thispagestyle{empty}機械翻訳，言語横断的な検索や要約など複数の言語を同時に扱うシステムにおいて対訳辞書は必要不可欠であり，その品質がシステム全体の性能を左右する．これらに用いられる対訳辞書は現在，人手によって作成されることが多い．しかし，人手による作成には限界があり，品質を向上するためには膨大な労力が必要であること，辞書の記述の一貫性を保つことが困難であることが問題となる．このことからコーパスから自動的に対訳辞書を作成しようとする研究が近年盛んに行われている~\cite{tanaka_96,kitamura_97,melamed_97,yamamoto_01,kaji_01}．しかし，これらの研究の多くは対訳表現の対応度の計算に単語の共起関係を利用しているためにデータスパースネスに陥りやすく，そのため小規模なコーパスから対訳表現を抽出することは難しい．対訳コーパス自体があまり多くない現状では，小規模な対訳コーパスからでも対訳表現を抽出できることが望ましい．本論文では，サポートベクタマシン~\cite{vapnik_book_99}を用いて文対応付き対訳コーパスから対訳表現を抽出する手法を提案する．サポートベクタマシンは訓練事例と分割境界の距離(マージン)を最大化する戦略に基づく手法であり，従来からある学習モデルに比べて汎化能力が高く過学習しにくいために，データスパースネスに対して頑健であるという特徴を持つ．さらにカーネル関数を用いることによって非線形な分割境界を学習したり，素性同士の依存関係を自動的に学習することが可能である．このため，自然言語処理の分野でもテキスト分類~\cite{joachims_98,taira_99}，Chunk同定~\cite{kudo_00b}，構文解析~\cite{kudo_00a}などに応用されている．我々の手法は，訓練コーパスによって対訳モデルをあらかじめ学習する必要があるが，一旦モデルを学習してしまえば，訓練コーパスにおいて出現回数が少ない対訳表現あるいは訓練コーパスにおいて出現しなかった対訳表現でさえも抽出することができる．したがってある程度大規模な対訳コーパスから優れた対訳モデルを学習しておけば，サポートベクタマシンの高い汎化能力によって低頻度の対訳表現でも抽出が可能であるという特徴を持つ．本論文の構成は以下の通りである．\ref{sec:svm}~節ではサポートベクタマシンについて説明し，\ref{sec:SVMdict}~節ではサポートベクタマシンを用いて対訳表現を抽出する手法を述べる．\ref{sec:experiment_discussion}~節では我々が提案した手法の有効性を示すために行った実験の結果とそれに対する考察を述べる．\ref{sec:related_works}~節において関連研究との比較を行う．最後に\ref{sec:conclusion}~節で本論文のまとめを述べる．
V07N04-12	手話言語は，主に手指動作表現により単語を表出するため，手指動作特徴の類似性が意味の類似性を反映している場合がある．例えば，図\ref{amandpm}に示した「午前」と「午後」という日本語ラベルに対応する二つの手話単語の手話表現を比較すると，手の動きが逆方向，すなわち，線対称な関係にあることが分かる．ここで，手話単語の手指動作特徴を手の形，手の位置，手の動きとした場合\cite{Stokoe1976}，この単語対は，手の動きに関する手指動作特徴だけが異なる手話の単語対である．また，意味的には対義を構成し，動作特徴の類似性が意味の類似性を反映している単語対と捉えることができる．なお，手指動作特徴の一つだけが異なる単語対を特に，{\gt手話単語の最小対}と呼ぶ\cite{Deuchar1984}．明らかに，図\ref{amandpm}に示した単語対は，手の動きを対立観点とする手話単語の最小対を構成している．\begin{figure}[htbp]\begin{center}\begin{epsf}\epsfile{file=gozen.ps,scale=0.4}\end{epsf}\begin{draft}\atari(102.38094,79.09428,1pt)\end{draft}\begin{epsf}\epsfile{file=gogo.ps,scale=0.4}\end{epsf}\begin{draft}\atari(102.38094,79.09428,1pt)\end{draft}\end{center}\caption{手の動きを対立観点とする手話単語の最小対（午前，午後）}\label{amandpm}\end{figure}このように，類似した動作特徴を含む手話の単語対の抽出と収集は，言語学分野における，手話単語の構造と造語法を解明する手がかりとして，重要であるばかりでなく，手話言語を対象とする計算機処理にも有益な知識データの一つとなる．例えば，計算機による手話単語の認識処理においては，認識誤りを生ずる可能性が高い単語対の一つと捉えることができる．一般に，人間の認識過程においても非常に類似している（差異が小さい）二つのオブジェクトを認識する際に，何の情報トリガも無ければ，同一のオブジェクトとして認識してしまう傾向がある．しかし，「このペアは似ているけど違うよ」というような情報トリガが与えられると，認識をより精密に行おうと（差異を検出）する傾向が見られる．一方，手話表現の生成処理においては，ある手話単語の手指動作特徴パラメータの一部を変更することで，別の手話表現を生成できることを意味する．また，日本語と手話単語との対訳電子化辞書システムを核とする学習支援システムの検索処理においては，類似の動作特徴を含む他の手話単語と関連付けて検索できるなど，学習効果の向上に貢献できるものと考える．本論文では，類似した手指動作特徴を含む手話言語の単語対（以後，本論文では，{\gt類似手話単語対}と略記する．）を与えられた単語集合から抽出する方法を提案し，その有効性を検証するために行った実験結果について述べる．本手法の特徴は，市販の手話辞典に記述されている手指動作記述文を手指動作の特徴構造を自然言語文に写像した手指動作パターンの特徴系列と捉え，手指動作記述文間の類似度計算に基づき，類似手話単語対を抽出する点にある．なお，関連する研究として，音声言語\footnote{本論文では，手話言語と対比させる意味で書記言語としての特徴を持つ日本語や英語などを総称して，音声言語と呼ぶことにする．}を対象とした同様なアプローチとして，市販の国語辞典や英語辞書に記述されている語義文（あるいは定義文）の情報を利用した単語間の意味関係や階層関係を抽出する研究\cite[など]{Nakamura1987,Tomiura1991,Tsurumaru1992,Niwa1993}が報告されている．以下，２章では，本研究の対象言語データである手指動作記述文の特徴と，その特徴から導出される特徴ベクトル表現について，３章では，手指動作記述文間の類似性に基づく手話単語間の類似度の計算方法について，４章では，本提案手法の有効性を検証するために行った実験結果を示し，５章で考察を行う．
V21N03-02	計算機技術の進歩に伴い，大規模言語データの蓄積と処理が容易になり，音声言語コーパスの構築と活用が盛んになされている．海外では，アメリカのLinguisticDataConsortium(LDC)とヨーロッパのEuropeanLanguageResourcesAssociation(ELRA)が言語データの集積と配布を行う機関として挙げられる．これらの機関では，様々な研究分野からの利用者に所望のコーパスを探しやすくさせるために検索サービスが提供されている．日本国内においても，国立情報学研究所音声資源コンソーシアム(NII-SRC)や言語資源協会(GSK)などの音声言語コーパスの整備・配布を行う機関が組織され，コーパスの属性情報に基づいた可視化検索サービスが開発・提供されている(Yamakawa,Kikuchi,Matsui,andItahashi2009,菊池，沈，山川，板橋，松井2009)．コーパスの属性検索と可視化検索を同時に提供することで，コーパスに関する知識の多少に関わらず所望のコーパスを検索可能にできることも示されている(ShenandKikuchi2011)．検索に用いられるコーパスの属性情報として，収録目的や話者数などがあるが，speakingstyleも有効な情報と考えられる．郡はspeakingstyleと類似の概念である「発話スタイル」が個別言語の記述とともに言語研究として重要な課題であると指摘している(郡2006)．Jordenらによれば，どの言語にもスタイルの多様性があるが，日本語にはスタイルの変化がとりわけ多い(JordenandNoda1987)．しかしながら，現状では，前述の機関では対話や独話などの種別情報が一部で提供されているに過ぎない．また，同一のコーパスにおいても話者や収録条件によって異なるspeakingstyleが現れている可能性もある．そこで，本研究ではspeakingstyleに関心を持つ利用者に所望の音声言語コーパスを探しやすくさせるため，音声言語コーパスにおける部分的単位ごとのspeakingstyleの自動推定を可能にし，コーパスの属性情報としてより詳細なspeakingstyleの集積を提供することを目指す．Speakingstyleの自動推定を実現するためには，まずspeakingstyleの定義を明確にする必要がある．Joosは発話のカジュアルさでspeakingstyleを分類し(Joos1968)，Labovはspeakingstyleが話者の発話に払う注意の度合いとともに変わると示唆した(Labov1972)．Biberは言語的特徴量を用いて因子分析を行い，6因子にまとめた上で，その6因子を用いて異なるレジスタのテキストの特徴を評価した(Biber1988)．Delgadoらはアナウンサーの新聞報道や，教師の教室内での発話など，特定の職業による発話を``professionalspeech''として提案し(DelgadoandFreitas1991)，Cidらは発話内容が書かれたスクリプトの有無をspeakingstyleのひとつの指標にした(CidandCorugedo1991)．Abeらは様々な韻律パラメータとフォルマント周波数を制御することにより小説，広告文と百科事典の段落の3種類のspeakingstyleを合成した(AbeandMizuno1994)．Eskenaziは様々なspeakingstyle研究の考察からメタ的にspeakingstyleの全体像を網羅した3尺度を提案した(Eskenazi1993)．Eskenaziは，人間のコミュニケーションは，あるチャンネルを通じて，メッセージが話し手から聞き手へ伝達されることであり，speakingstyleを定義する際，このメッセージの伝達過程を考慮することが必要であると主張した．その上で，「明瞭さ」(Intelligibility-oriented,以降Iとする)，「親しさ」(Familiarity,以降Fとする)，「社会階層」(soCialstrata,以降Cとする)の3尺度でspeakingstyleを定義した．「明瞭さ」は話し手の発話内容の明瞭さの度合いであり，メッセージの読み取りやすさ・伝達内容の理解しやすさや，読み取りの困難さ・伝達内容の理解の困難さを示す．又これは，発話者が意図的に発話の明瞭さをコントロールしている場合も含んでいる．「親しさ」は話し手と聞き手との親しさにより変化する表現様式の度合いであり，家族同士の親しい会話や，お互いの言語や文化を全く知らない外国人同士の親しくない会話などに現れるspeakingstyleを示す．「社会階層」は発話者の発話内容の教養の度合いであり，口語的な，砕けた，下流的な表現（社会階層が低い）や，洗練された，上流的な表現（社会階層が高い）を示している．話し手と聞き手の背景や会話の文脈によって変化する場合もある．ここで，本研究が目指すコーパス検索サービスにとって有用なspeakingstyle尺度の条件を整理し，Eskenaziの尺度を採用する理由を述べる．まず，一つ目の条件として，幅広い範囲のデータを扱える必要がある．音声言語コーパスは，朗読，雑談，講演などの様々な形態の談話を含み，それらは話者ごと，話題ごとなどの様々な単位の部分的単位により構成される．限られた種類の形態のデータからボトムアップに構築された尺度では，一部のspeakingstyleがカバーできていない恐れがある．Eskenaziの尺度は，様々なspeakingstyle研究の考察からメタ的に構築されたものであり，幅広い範囲のデータを扱える点で本研究の目的に適している．データに基づいてボトムアップに構築された他の尺度（例えば(Biber1988)など）の方が信頼性の点では高いと言えるが，現段階では網羅性を重視する．次に，二つ目の条件として，上述した目的から，コーパスの部分的単位ごとに付与できる必要がある．新聞記事，議事録，講演などのジャンルごとにspeakingstyleのカテゴリを設定する方法では，一つの談話内でのspeakingstyleの異なり・変動を積極的に表現することが困難である．一方，Eskenaziの尺度は必ずしも大きな単位に対象を限定しておらず，様々な単位を対象にした多くの先行研究をカバーするように構築されているため，この条件を満たす．最後に三つ目の条件として，日本語にも有効であることが求められる．(郡2006)や(JordenandNoda1987)から，speakingstyleの種類は言語ごとに異なると言え，特定の言語の資料に基づいてボトムアップに構築された尺度では，他の言語にそのまま適用できない恐れがある．Eskenaziの尺度はコミュニケーションモデルに基づいて特定の言語に依存することなく構築されたものであるため，本研究で対象とする日本語にも他の言語と同様に適用して良いものと考える．したがって本研究では，Eskenaziの3尺度を用いて音声言語コーパスの部分的単位ごとのspeakingstyle自動推定を行い，推定結果の集積をコーパスの属性情報として提供することを目指す．これによって，推定された3尺度の値を用いて，例えばコーパス内の部分的単位のspeakingstyle推定結果を散布図で可視化したり，所定の明瞭さ，親しさ，社会階層のデータを多く含むコーパスを検索するなどの応用を可能にする．以降，2章では，speakingstyle自動推定の提案手法について述べる．Speakingstyleの推定に用いる学習データを収集するための評定実験については3章で説明する．4章では評定実験結果の分析，speakingstyleの自動推定をするための回帰モデルの構築および考察を述べる．最後の5章ではまとめおよび今後の方向性と可能性の検討を行う．
V31N04-09	%%%%%%%%%%%%%%%%%%%%%%%近年，雑談対話システムの需要は，研究および商業の両分野で高まっている\cite{onishi2014casual,adiwardana2020towards,shuster2022blenderbot}．雑談対話システムはその場限りの話し相手になるだけでなく，ユーザに合わせてパーソナライズしていくことで長期的なパートナーとしての役割も期待されている．さらに，長期的に利用される雑談対話システムは，体調管理\cite{bickmore2005establishing}や認知症検出\cite{luz2018method}，カウンセリング\cite{chawla2023social}など継続的な利用が必要なシステムやサービスにも活用できる可能性が高い．ユーザに長く利用される雑談対話システムを構築するためには，ユーザとシステムの良好な関係を築くことが重要である\cite{bickmore2005establishing,richards2014forgetmenot}．人間同士の対話では，対話相手との過去の対話，特に相手から開示された嗜好や経験などの情報を記憶し，対話に活用することが良好かつ親密な関係構築に有効である\cite{hall2019how}．このことから，ユーザとシステムの対話では，ユーザの発話に含まれるユーザ自身に関する情報（\textbf{ユーザ情報}と呼ぶ）をシステムが記憶し，対話に活用する手法がいくつか提案されている．\citeA{tsunomori2019chat}は，過去の対話から得られたユーザ情報を記憶し対話に活用する雑談対話システムを構築した．システム発話にユーザ情報を組み込むことで，ユーザの雑談対話システムへの親しみやすさが向上することを長期的な実験において確認した．しかしながら，この手法では固定的なテンプレートにユーザ情報を埋め込むことでシステム発話を生成しているため，文脈に対して不適切な発話がしばしば生じていた．\citeA{xu2022long}は，より自然な応答を生成するために，対話文脈とユーザ情報を入力とするニューラルベースの発話生成モデルを提案した．この手法では，対話文脈のトピックがユーザ情報と近い（類似している）場合において，ユーザ情報を発話に取り入れる．しかしながら，実世界で利用する上では現在のトピックに近いユーザ情報が常に利用可能であるとは限らないため，システムがユーザ情報を利用できる機会が制限されてしまうという問題がある．我々は，現在の対話文脈との近さに関係なく任意のユーザ情報を自然に対話に活用することで，ユーザと良好な関係を構築するパーソナライズ可能な雑談対話システムの実現を目指す．図\ref{fig:dialogue_sample}は，我々が目指す雑談対話システムの対話例である．システムはユーザとの過去の対話から抽出した任意のユーザ情報を参照し，ユーザ情報とは異なるトピックの対話文脈において自然に発話に取り込んでいる．これを実現するためには，対話文脈との近さが多様なユーザ情報を踏まえた発話からなるコーパスが必要である．%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%fig.1\begin{figure}[t]\begin{center}\includegraphics{31-4ia8f1.pdf}\end{center}\caption{任意のユーザ情報と対話文脈を踏まえたシステム発話の例．}\label{fig:dialogue_sample}\end{figure}%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%本研究では，パーソナライズ可能な雑談対話システムの実現に向けて，任意のユーザ情報と対話文脈を踏まえた発話からなるSUIコーパス(\textbf{S}ystemutterancebasedon\textbf{U}ser\textbf{I}nformationcorpus)を構築する．SUIコーパスは，$\langle$ユーザ情報，対話文脈，ユーザ情報と対話文脈を踏まえたシステム発話（\textbf{拡張システム発話}と呼ぶ）$\rangle$の三つ組からなる．SUIコーパスを用いて事前学習済み発話生成モデルをFine-tuningすることでベースラインモデルを構築し，任意のユーザ情報と対話文脈を踏まえたシステム発話を生成できるかどうかを評価する．さらに，SUIコーパスを使用して汎用的な大規模言語モデル(LLM)にIn-ContextLearning（文脈内学習；ICL）を行い，ICLにおけるSUIコーパスの有用性を評価する．最後に，発話生成ベースラインモデルをもとに雑談対話システムを構築し，ユーザとのインタラクティブな対話における任意のユーザ情報と対話文脈を踏まえた発話の有用性を評価する．本研究の主な貢献を以下に列挙する．\begin{itemize}\setlength{\itemsep}{1mm}%項目の隙間\setlength{\parskip}{1mm}%段落の隙間\item現在の対話文脈に関係なく，任意のユーザ情報を踏まえたシステム発話からなるSUIコーパスを構築した．本コーパスはGitHub上で公開している\footnote{\Turl{https://github.com/nu-dialogue/sui-corpus}}．\itemSUIコーパスを用いて(a)事前学習済み発話生成モデルに対するFine-tuning，(b)LLMに対するICLを行った．主観評価の結果，SUIコーパスを用いることで，モデルが現在のトピックに関係なく文脈への適切性を保持したまま任意のユーザ情報をシステム発話に取り込むことができることを確認した．\item発話生成ベースラインモデルをもとに雑談対話システムを構築し，ユーザとのインタラクティブな対話における任意のユーザ情報と対話文脈を踏まえた発話の有用性を実験により確認した．\end{itemize}本稿の構成は以下の通りである．\ref{sec:related_work}章では関連研究を紹介する．\ref{sec:sui_corpus}章では，SUIコーパスの構築方法について述べたのち，品質評価や分析結果をもとにコーパスの特徴について述べる．\ref{sec:utterance_generation}章では，SUIコーパスを用いた発話生成ベースラインモデルの構築および評価を行う．\ref{sec:apply_llm}章では，SUIコーパスを用いたICLによるLLMの学習および評価を行う．\ref{sec:dialogue_system}章では，発話生成ベースラインモデルを用いた雑談対話システムの構築および評価を行う．最後に，本研究のまとめと今後の課題を\ref{sec:conclusion}章にて述べる．%%%%%%%%%%%%%%%%%%%%%%%
V22N03-03	抽出型要約は現在の文書要約研究において最も広く用いられるアプローチである．このアプローチは，文書をある言語単位（文，節，単語など）の集合とみなし，その部分集合を選択することで要約文書を生成する．要約システムに必要とされる側面はいくつかあるが，特に重要なのが，一貫性(coherence)\cite{hobbs85,mann:88}と情報の網羅性が高い要約を生成することと，要約長に対し柔軟に対応できることである．一貫性の高い要約とは，原文書の談話構造（あるいは論理構造）を保持した要約を指す．要約が原文書の談話構造を保持していない場合，原文書の意図と異なる解釈を誘発する文書が生成されてしまうおそれがある．すなわち，原文書と似た談話構造を持つように要約文書を生成することは，要約を生成するために重要な要素である\footnote{原文書は常に一貫性を持った文書であることを仮定している．}．要約文書において談話構造を考慮するために修辞構造理論(RhetoricalStructureTheory;RST)\cite{mann:88}が利用可能である．RSTは文書の大域的な談話構造を木として表現するため，RSTの木構造を損なわぬように原文書中の抽出単位を選択することで，原文書の談話構造を保持した要約文書が生成できる\cite{marcu:98,daume:02,hirao:13}．従来のRSTを抽出型要約に組み込む従来の手法の問題点は，その抽出粒度にある．RSTで扱う文書中の最小単位はElementaryDiscourseUnit(EDU)と呼ばれ，おおよそ節に対応するテキストスパンである．従来手法は，抽出の単位をEDUとして要約の生成を行ってきたが，それが要約において必ずしも最適な単位であるとは限らない\footnote{これについては\ref{sec:unit}節で考察する．}．また，本節で後に説明するように，それなりの長さを持ったテキストスパンを抽出単位とする場合，要約長に対する柔軟性の面でも問題が生じる．情報の網羅性は，文書要約の目的そのものでもある非常に重要な要素である．要約文書は原文書の内容を簡潔にまとめている必要があり，原文書の重要な内容を網羅していることが要求される．近年，抽出型要約において，原文書から重要な抽出単位の部分集合を選択する問題を整数計画問題(IntegerLinearProgramming;ILP)として定式化するアプローチが盛んに研究されている．抽出された部分集合が原文書の情報をなるべく被覆するような目的関数を設定し，最適化問題として解くことで，原文書の情報を網羅した要約文書の生成が可能となる．実際にこれらの手法は要約文書の情報の網羅性の指標となる自動評価手法であるROUGE(Recall-OrientedUnderstudyforGistingEvaluation)\cite{lin:04}値の向上に大いに貢献してきた\cite{mcdonald:07,filatova:04,takamura:09}．RSTを要約に組み込む研究の多くはRSTで定義される修辞構造の構造木をそのまま利用したものが多かった\cite{marcu:98,daume:02}が，Hiraoら\cite{hirao:13}は，RSTの談話構造木をそのまま用いることの問題点を指摘し，EDUの依存構造木(DEP-DT)に変換し，依存構造木の刈り込みにより要約を生成する木制約付きナップサック問題\cite{johnson:83}として要約を定式化した．ILPの導入によって，高い網羅性を持った要約の生成が可能となった一方で，要約手法が持つ要約長に対する柔軟性は，情報の網羅性と密接な関係をもつようになった．文書要約では，要約文書が満たすべき上限の長さを指定することが一般的である．抽出型要約においてよく用いられる抽出単位は文であり，生成された要約の文法性が保証されるという利点がある．しかし，高い圧縮率，すなわち原文書の長さと比較して非常に短い長さの要約文書が求められている場合，文を抽出単位とすると十分な量の情報を要約文書に含めることが出来ず，情報の網羅性が低くなってしまうという問題\footnote{これは上述の通り，RSTに基づくEDUを抽出単位とした手法も同様である．EDUは文よりは細かいとはいえ，固定された抽出単位としてはかなり粗いテキストスパンである．}があった．この問題に対し，文抽出と文圧縮を組み合わせるアプローチが存在する．文圧縮とは，主に単語や句の削除により，対象となる文からより短い文を抽出する手法である．近年，こうした文圧縮技術と文抽出技術を逐次適用するのではなく，それらを同時に行うアプローチ（以降これらを同時モデルとよぶ）が盛んに研究されており，高い情報の網羅性と要約長への柔軟性を持った要約文書の生成が可能となっている．本研究の目的は，文書の談話構造に基づく，情報の網羅性と要約長への高い柔軟性を持った要約手法を開発することである．これまで，文書要約に談話構造を加える試みと，文抽出と文圧縮の同時モデルは，どちらも文書要約において重要な要素であるにもかかわらず，独立に研究されてきた．その大きな要因の一つは，両者の扱う抽出粒度の違いである．前者はEDUであり，後者の抽出粒度は文（圧縮され短くなった文も含む）である．抽出単位を文やEDUというそれなりの長さのテキストスパンにすると，ある要約長制約に対し，選択可能なテキストスパンの組合せは自ずと限られ，情報の網羅性を向上させることが困難な場合がある．我々は，文間の依存関係に基づく木構造と単語間の依存関係に基づく木構造が入れ子となった{\bf入れ子依存木}を提案し，その木構造に基いて要約を生成することでこの問題に取り組む．提案手法について，図\ref{fig:nested_tree}に示す例で説明する．本研究で提案する入れ子依存木は，文書を文間の依存関係で表した{\bf文間依存木}で表現する．文間依存木のノードは文であり，文同士の依存関係をノード間のエッジとして表現する．各文内では，文が単語間の依存関係に基づいた{\bf単語間依存木}で表現されている．単語間依存木のノードは単語であり，単語同士の依存関係をノード間のエッジとして表現する．このように，文間依存木の各ノードを単語間依存木とすることで，入れ子依存木を構築する．そして，この入れ子依存木を刈り込む，つまり単語の削除による要約生成をILPとして定式化する．生成された要約は，文間依存木という観点では必ず文の根付き部分木となっており，その部分木内の各文内，すなわち単語間依存木の観点では単語の部分木となっている．ここで，文間依存木からは必ず木全体の根ノードを含んだ根付き部分木が抽出されているのに対し，単語間依存木はそうでないものも存在することに注意されたい．従来，文圧縮を文書要約に組み込む研究では，単語間依存木の場合も必ず根付き部分木が選択されていたが，限られた長さで重要な情報のみを要約に含めることを考えると，単語の根付き部分木という制約が情報の網羅性の向上の妨げとなる可能性がある．そこで提案手法では，根付きに限らない任意の部分木を抽出するために，部分木の親を文中の任意の単語に設定できるよう拡張を加えた．\begin{figure}[t]\begin{center}\includegraphics{22-3ia3f1.eps}\end{center}\hangcaption{提案手法の概要．原文書は二種類の依存木に基づく入れ子依存木として表現される．提案手法は，文間依存木からは根付き部分木，その各ノードは単語間依存木の部分木となっているように単語を選択することで要約を生成する．}\label{fig:nested_tree}\end{figure}提案手法をRSTDiscourseTreebank\cite{carlson:01}における要約システムの評価セットで従来の同時モデルや木制約付きナップサック問題による要約手法と比較評価したところ，文書要約の自動評価指標であるROUGEにおいて最高精度が得られることを確認した．
V06N04-03	現代日本語で「うれしい」「悲しい」「淋しい」「羨ましい」などの感情形容詞を述語とする感情形容詞文には，現在形述語で文が終止した場合，平叙文の際，一人称感情主はよいが二人称，三人称感情主は不適切であるというような，人称の制約現象がある\footnote{本稿で言う「人称」とは，「人称を表す専用のことば」のことではない．ムードと関連する人称の制約にかかわるのは「話し手」か「聞き手」か「それ以外」かという情報である．よって，普通名詞であろうと，固有名詞であろうと，ダイクシス専用の名詞であろうと，言語化されていないものであろうと，それがその文の発話された状況において話し手を指していれば一人称，聞き手を指していれば二人称，それ以外であれば三人称という扱いをする．\\a.太郎は仕事をしなさい．\\b.アイちゃん，ご飯が食べたい．（幼児のアイちゃんの発言）\\a.の「太郎」は二人称，b.の「アイちゃん」は一人称ということである．}．\vspace{0.3cm}\begin{quote}\begin{itemize}\item[(1)]\{わたし/??あなた/??太郎\}はうれしい．\item[(2)]\{わたし/??あなた/??太郎\}は悲しい．\end{itemize}\end{quote}\vspace{0.3cm}このとき，話し手が発話時に文をどのようなものと捉えて述べているかを表す「文のムード」\footnote{文のムードとは，話し手が，文を述べる際，どのような「つもり」であるのかを示す概念である．文を聞き手に対してどのように伝えるか(例えば，命令，質問など)ということと共に，話し手が，発話内容に対してどのように判断しているか(例えば確信，推量，疑念など)も文のムードである．これを「モダリティ」と呼ぶこともあるが，本稿では，こういった文の述べ方に対する概念的区分を，「ムード」と呼び，ムードが具体的に言語化された要素を「モダリティ」と呼ぶ．例えば「明日は晴れるだろう．」という文では，発話内容に対して推量していることを聞き手に伝え述べるというムードを持つのが普通であり，「だろう」は推量を表すモダリティである．}によって，感情形容詞の感情の主体（感情主）が，話し手である一人称でしかありえない場合と，やや不自然さはあるものの文脈によっては，二人称，三人称の感情主をとることが可能な場合がある\cite{東1997,益岡1997}．(3)(4)のように，話し手の発話時の感情を直接的に表現している「感情表出のムード」を持つ「感情表出文」(\cite{益岡1991,益岡1997}で「情意表出型」とされる文の一部)では，感情主は一人称に限定される．「感情表出のムード」とは話し手が発話時の感情を「思わず口にした」ようなものであり，聞き手に対してその発話内容を伝えようというつもりはあってもなくてもよいものである\footnote{感情表出文は，「まあ」「きゃっ」「ふう」など，発話者が自分の内面の感情を聞き手に伝達する意図なく発露する際に用いられる感嘆語と共起することが多いことから，聞き手への伝達を要しないものであることが分かる．\\きゃっ，うれしい．\\ふう，つらい．\\一方，「さあ」「おい」「よお」など，聞き手に何らかの伝達を意図する感嘆語と共起した場合，感情形容詞述語文であっても，感情表出文にはならない．\\さあ，悲しい．\\おい，寂しい．\\ただし，「まあ」などの感嘆語は感情表出文にとって必須ではない．}．\vspace{0.3cm}\begin{quote}\begin{itemize}\item[(3)]まあ，うれしい．\item[(4)]ええ憎い，憎らしい・・・・・人の与ひょうを〔木下順二『夕鶴』〕\end{itemize}\end{quote}\vspace{0.3cm}一方，客観的に捉えた発話内容を述べ，聞き手に伝え述べるという「述べ立てのムード」(\cite{仁田1991}第１，２章参照)を持つ「述べ立て文」(\cite{益岡1997}で「演述型」とされる文)における人称の制約は弱い．一般的には，(益岡~1997(:4))で述べられている「人物の内的世界はその人物の私的領域であり，私的領域における事態の真偽を断定的に述べる権利はその人物に専属する．」という語用論的原則により，(5)(6)のような感情を表す形容詞（益岡によれば「私的領域に属する事態を表現する代表的なもの」）を述語にする文において「あなた」「彼女」に関する事態の真偽を断定的に述べることは不適格である\footnote{ここでは，語用論的に不適切であると考えられる文を，\#でマークし，文法的に不適切であることをあらわす*とは区別して用いる．}．\vspace{0.3cm}\begin{quote}\begin{itemize}\item[(5)]夫が病気になったら\{わたし/\#あなた/\#彼女\}はつらい.\item[(6)]海外出張は\{わたし/\#あなた/\#彼女\}には楽しい.\end{itemize}\end{quote}\vspace{0.3cm}しかし，このような語用論的原則は，文脈や文体的条件\footnote{文体的な条件によって人称制約が変わるというのは，小説などにおいて一般的な日常会話と語用論的原則が異なってくることから生じるものである．\cite{金水1989}参照}などにより，その原則に反した発話でも許される場合があるのである．(7)は感情主を数量子化したもの，(8)は小説という文体的条件による．\vspace{0.3cm}\begin{quote}\begin{itemize}\item[(7)]海外出張は誰にでも楽しい．\item[(8)]それをこさえるところを見ているのがいつも安吉にはたのしい．(中野重治『むらぎも』)\end{itemize}\end{quote}\vspace{0.3cm}こういった人称制約のタイプを語用論的な人称の制約とする．\cite{東1997}では，前者のように人称が限定されるタイプの人称制約を「必然的人称指定」，後者のように語用論的に限定される人称制約を「語用論的人称制限」と呼び区別した．(益~岡~1997(:2))でも情意表出型と演述型の人称制限の違いを，後者のみが日本語特有の現象と捉え，区別する必要を述べている．しかし，従来の研究においては，その「感情表出（情意表出）のムード」がどのようなものであるかということは明確に規定されておらず，また，どのように感情主が一人称に決定されるのかという人称決定のシステムも描かれてきていない\footnote{(益岡1997(:2))でも「悲しいなあ．」のような「内面の状態を直接に表出する文の場合，感情主が一人称に限られるのは当然のこと」とされている．}．そこで，本稿では，以下の手順で「感情表出文」について明らかにしていく．\vspace{0.3cm}\begin{quote}\begin{itemize}\item[(I)]人称の制約が文のムードと関係して生じていることを確認する(2.1)\item[(II)]感情表出文は，そのムードが述語主体を常に一人称に決定するものであることを定義づける．(2.2)\item[(III)]感情表出文として機能し解釈されるためには一語文でなければならないことを主張する．(3)\item[(IV)]感情表出文のムードの性質から(III)を導き出す．(4)\end{itemize}\end{quote}\vspace{0.3cm}また，ここでは，人称制約を受ける部分を「ガ格（主格）」ではなく，「感情主」という意味役割を伴うもので扱う．感情形容詞述語は「感情主」と「感情の対象」（時にはそれは「感情を引き起こす原因」）を意味役割として必要とするが，人称の制約を受ける感情主は，ガ格とニ格とニトッテ格で表される可能性があるからである．\vspace{0.3cm}\begin{quote}\begin{itemize}\item[(9)]\underline{\{私/\#彼\}は}仕事が楽しい．\end{itemize}\end{quote}\vspace{0.3cm}(9)の「は」によって隠されている格を表わそうとすれば，三つの可能性があるが，どれも意味役割は感情主であり等価である．\vspace{0.3cm}\begin{quote}\begin{itemize}\item[(10)]a\underline{私が}仕事が楽しいコト\\b\underline{私に}仕事が楽しいコト\\c\underline{私にとって}仕事が楽しいコト\end{itemize}\end{quote}\vspace{0.3cm}また，(10)aにおけるガ格「私が」「仕事が」で，人称の制約がかかるのは，感情主「私が」だけであり，意味役割が感情の対象である「仕事が」には人称の制約がかかることはない．さらに，(9)の主題は，感情主であるため人称の制約があるが，(11)の主題「仕事は」には人称の制約はない．\vspace{0.3cm}\begin{quote}\begin{itemize}\item[(11)]仕事は\{私/\#あなた\}は楽しい．\end{itemize}\end{quote}\vspace{0.3cm}このようなことから，本稿では人称制約に関わる名詞句と述語との関係を意味役割で捉える．
V03N01-01	文の意味を効率よく適切に理解するためには語義の曖昧性を文脈によって早期に絞り込むことが必要である．通常のボトムアップな手法による意味・構文解析方法では解の探索空間の広がりにより処理の爆発の問題が生じる．また局所的制約のみでは解を絞り切れず，誤った解を出力する問題もある．例としてしばしば引用される次の文\cite{Waltz85}について考えてみる．\begin{eqnarray}`John~shot~some~bucks.'\nonumber\end{eqnarray}shotとbucksの品詞および意味の曖昧性が各々数十通りあるため，数百通りの意味の組合せがあるとされている．しかし，Hunting(狩猟)やGamble(ギャンブル)などの文脈が与えられるとそれぞれ即座に意味が求まり，前者では「ジョンは牡鹿を銃で撃った．」という解釈がなされ，また後者では「ジョンは何ドルか賭けてすってしまった．」という解釈がなされる．文脈情報がないと効率的に解が得られないばかりか，正しい意味に収束さえしない可能性が大きい．近年この文脈依存性に関する二つの問題を解決するため，談話中の前後の脈絡としての一貫性，すなわち文脈を形成する知識の重要性が着目されつつある．それは文の表層から得られる文法的知識などの言語内知識，および一般常識や世界知識などの言語外知識に分けることができる．また意味が談話内の状況により制約を受けるか，発話された環境により制約を受けるかによって文脈情報を分けることもできる．たとえば，「昨日東京で雨が降った．」という発話がなされたとする．前者の「談話内の状況」は言及されている状況すなわち「昨日東京で」を指している．しかし，この発話が正直者によってなされたか，実際にはいつどこでなされたのか，緊急事態の発生の説明なのかなど，発話された時点の外界の状況が問題になる場合もある．このような「発話された環境による制約」は談話内の状況に加わり作用するもので重要ではあるものの，今後研究される部分としここでは扱わないという立場をとる．本研究ではテキストに絞り，特に物語を解釈する場合に限り，外界の状況によらない談話内の言語外知識による文脈情報の，曖昧性解消の処理効率への効果について絞り議論を行なう．言語外の知識に基づく文脈情報に依存したテキスト解釈の手法はいくつか提案されている．それらは知識の表現とそれにともなう処理方法の違いによって，文脈を記号的な知識として明示的に与える方法と，ネットワーク上の活性伝搬に基づくパターン的相互作用により文脈を非明示的に表現し曖昧性解消を効率的に実現する方法とに大きく分けることができる．前者の代表例としては，物語の一般的構成を文法規則として表す物語文法\cite{Rumelhart75}や，Schankらの文脈理解の研究\cite{Schank77,Schank81,Schank82}などがあげられる．特にSchankらは動詞を中心とした概念依存構造によって意味を表現し，文脈として場面に関する知識を予め持つスクリプトや，意図・目的と行動に関する知識としてのゴールとプラン，そして知識構造を抽象化し階層化して効率良く持つMOPsなどの重要性を論じている．また後者に関しては文ごとにネットワークを組み活性伝搬させる方法\cite{Waltz85,Tamura87}，曖昧性を要素の意味内容や要素間の関係に内在させ表現上の組合せ爆発を抑える方法\cite{Hirst88,Okumura89,Kojima91}，連想記憶による解の絞り込みと記号処理に基づく矛盾検出による曖昧性解消の効率化\cite{Tsunoda93}などが手法としてあげられる．これらの研究の問題点は，実際に知識を何から獲得し与えるかが不明確であること，実際のテキストにおける評価や問題点に対する考察がなされていないこと，そして他の手法との組合せに対する問題点，限界点が未整理であることである．これに対し，コーパスを利用し，多義性のある単語の周辺語の統計情報からシソーラス上のカテゴリのBayes確率を求め，意味を決定する方法\cite{Yarowsky92}がある．この研究では百科事典の中から知識を獲得し，百科事典の文中の単語に対する評価を行なっているが，一般のさまざまな種類のテキストに対してどの程度有用であるかは調査の余地がある．またトピックの入れ子の問題などの言語の複雑な事象に対応するためには，言語現象に応じて知識を分類し，適切な知識源を明らかにすることと，このような統計的手法を同時に研究することは意味があると思われる．したがって現在必要なことは，処理する知識の性質を想定した細分化，およびそれぞれの知識を用いた際の実際の文に対する効果の調査である．本論文では談話内の言語外知識をさらに連想処理の観点から分類し，その一部として場面知識を視覚辞書から構成し利用した場合の多義性解消の効率化に対する効果の評価および検討を行なう．視覚辞書は物の名前を，出てくる場面や対象物の形から引くことを目的に出版されている辞書である．日常生活に出てくる場面を網羅的に絵に描き，その中に登場する物の名前を対応づけて欄外に列挙してある．視覚辞書は数冊出版されているが，ここではOXFORD-DUDENのPictorialEnglishDictionaryを用いる．多義性解消機構の実装に際しては構文解析と意味解析は通常の記号処理手法を用いることを想定する．その中の意味辞書から語義を取り出す順番を決める方法の一つを提案する．場面を一つに固定した場合にそのような情報を使わない場合に比べ，正しい解にたどり着くまでの語義の検索回数(試行回数と定義する)がどの程度減少するかを物語文にて評価する．すなわち，各単語に意味が複数あったり，とりうる構文木が複数ある場合には，そのすべての組合せの数だけの解が候補となりうる．これらの組合せから解が一つずつ生成され，すべての制約条件を満たすかどうかが検証される．このため構文的曖昧性も考慮する必要があるが，他の方法あるいは本手法と他の方法を組み合わせることによって解決するものとして考え，ここでは陽には扱わないこととする．ここでは語の意味の選択の部分のみに着目し，一つの単語の複数の意味の中で，人間が正解と判断する解を出力するまでに検索された語義の数をここでの試行回数と定義する．実際の機械翻訳などのシステムでは，他に解を制約する知識によってシステム内部で検証を行なう場合に，前処理として尤もらしい語義を優先づけして出力するモジュールを目的としている．通常のパーザでは文脈情報が何もない場合には，各単語の意味はランダムに，あるいは静的に割り当てられている順番で辞書からとり出され検証される．これに対し，場面情報があれば，この取り出しの仕方を変え，場面の中でありそうな意味を先に取り出し，全体の処理の効率化をはかることができる．多義性解消などで文脈，特に場面情報の効果および問題点について調べた例は見当たらないようである．ここでは背景としての役割の部分に絞った場面の知識の構成方法を提案し，実験と考察を行なう．上のような語義検索の試行回数を減少させるということに対し，場面情報がどの位有効であるかを，物語文「赤毛のアン」の英語原作の中の台所の場面の中から抽出した単語に対して評価を行なう．以下，{\bf2.}では視覚辞書とシソーラスによる場面情報の構築方法について，{\bf3.}では場面情報を利用した多義語の優先順位づけの方法について，また{\bf4.}では例題にて試行回数の計算方法を示した後に実文中の単語にて有効性の評価を行なう．{\bf5.}では成功例，失敗例の原因についての考察を行なう．
V20N02-01	label{sc:introduction}Web上には出所が不確かな情報や利用者に不利益をもたらす情報などが存在するため，信頼できる情報を利用者が容易に得るための技術に対する要望が高まっている．しかしながら，情報の内容の真偽や正確性を自動的に検証することは困難であるため，我々は，情報の信憑性は利用者が最終的に判断すべきであると考え，そのような利用者の信憑性判断を支援する技術の実現に向けた研究を行っている．現在，ある情報の信憑性をWebのみを情報源として判断しようとした場合，Web検索エンジンにより上位にランキングされた文書集合を読んで判断することが多い．しかしながら，例えば，「ディーゼル車は環境に良いか？」というクエリで検索された文書集合には，「ディーゼル車は環境に良い」と主張する文書と「ディーゼル車は環境に悪い」と主張する文書の両方が含まれている場合があり，その対立関係をどのように読み解くべきかに関する手がかりを検索エンジンは示さない．ここでの対立関係の読み解き方とは，例えば，一方の内容が間違っているのか，それとも，両方の内容が正しく両立できるのか，といった点に関する可能性の示唆であり，もしも両立できるのであれば，何故対立しているようにみえるのかに関する解説を提示することである．互いに対立しているようにみえる関係の中には，一方が本当でもう一方が嘘であるという真に対立している関係も存在するが，互いが前提とする視点や観点が異なるために対立しているようにみえる関係も存在する．例えば，「ディーゼル車は環境に良い」と主張する文書を精読すると「$\mathrm{CO_2}$の排出量が少ないので環境に良い」という文脈で述べられており，「ディーゼル車は環境に悪い」と主張する文書を精読すると「$\mathrm{NO_x}$の排出量が多いので環境に悪い」という文脈で述べられている．この場合，前者は「地球温暖化」という観点から環境の良し悪しを述べているのに対して，後者は「大気汚染」という観点から述べており，互いの主張を否定する関係ではない．つまり，前提となる環境を明確にしない限り「ディーゼル車は環境に良いか？」というクエリが真偽を回答できるような問いではないことを示しており，「あなたが想定している『環境』が地球温暖化を指しているなら環境に良いが，大気汚染を指しているならば環境に悪い」といった回答が，この例では適切であろう．我々は，このような一見対立しているようにみえるが，実際はある条件や状況の下で互いの内容が両立できる関係を{\bf疑似対立}と定義し，疑似対立を読み解くための手掛かりとなる簡潔な文章を提示することで利用者の信憑性判断を支援することを目的としている．ところで，Web上には，こういった疑似対立に対して，「ディーゼル車は二酸化炭素の排出量が少ないので地球温暖化の面では環境に良いが，粒子状物質や窒素酸化物の排出量が多いので大気汚染の面では環境に悪い．環境に良いか悪いかは想定している環境の種類による．」といった第三者視点から解説した文章が少数ながら存在していることがある．このような文章を，Web文書中から抽出，整理して利用者に提示することができれば，上述の回答例と同様に「環境の種類を明確にしない限り単純に真偽を判断できない」ということを気付かせることができ，利用者の信憑性判断を支援することができる．我々は，この疑似対立を読み解くための手掛かりとなる簡潔な文章を{\bf調停要約}と定義し，利用者が信憑性を判断したい言明\footnote{本論文では，主観的な意見や評価だけでなく，疑問の表明や客観的事実の記述を含めたテキスト情報を広く{\bf言明}と呼ぶこととする．}（以降，{\bf着目言明}）が入力された場合に，着目言明の疑似対立に関する調停要約を生成するための手法を提案している\cite{Shibuki2011a,Nakano2011,Ishioroshi2011,Shibuki2010,Kaneko2009,Shibuki2011b}．なお，Kanekoetal.\citeyear{Kaneko2009}において，調停要約には，一つのパッセージで両立可能となる状況を明示的に説明する直接調停要約と，状況の一部を説明するパッセージを複数組み合わせて状況の全体を暗に示す間接調停要約の2種類が定義されているが，本論文では直接調停要約を対象としており，以後，直接調停要約を単に調停要約と記す．調停要約の生成は，調停という性質上，対立関係にある2言明の存在を前提として行われる．中野らの手法\cite{Nakano2011}では，着目言明と対立関係にある言明を見つけるために，着目言明中の単語を対義語で置換したり，用言を否定形にしたりすることで，対立言明を自動的に生成している．また，石下らの手法\cite{Ishioroshi2011}では，言論マップ\cite{Murakami2010}を利用することで対立言明を見つけている．しかしながら，検索された文書集合には，「ディーゼル車は環境に良いvs.ディーゼル車は環境に悪い」といった，着目言明を直截的に否定する対立点以外にも，例えば「ディーゼル車は黒煙を出すvs.ディーゼル車は黒煙を出さない」といった，異なる幾つかの対立点が存在することがあり，中野らや石下らによる従来の調停要約生成手法では，どの対立点に関する調停要約であるかを明示せずに調停要約を生成していた．利用者が信憑性を判断したい対立点（{\bf焦点}）であることを明確にした調停要約でなければ真に利用者の役には立たないと考えられる．それゆえ，この問題を解決するために，我々は，最初に検索された文書集合を利用者に提示し，それを読んだ利用者が焦点とする対立関係にある2文を明示した後に調停要約を生成するという対話的なアプローチを解決策の一つとして採ることとした．以上の背景から，本論文では，利用者が対立の焦点となる2文を対話的に明確化した状況下で調停要約を生成する手法を提案する．また，調停要約生成の精度を向上させるために，逆接，限定，結論などの手掛かり表現が含まれる位置と，調停要約に不要な文の数を考慮した新しいスコアリングの式を導入し，従来の調停要約生成手法と比較した結果について考察する．さらに，以下の理由から，利用者が焦点とする2文を明確化する方法に関しても考察する．利用者が焦点とする2文を明確化する方法として，以下の2つの方法が考えられる．一つは，利用者が自ら焦点とする2文を生成する方法であり，もう一つは，提示された文書集合から，焦点とする2文に相当する記述を抽出する方法である．前者の方法が利用者の焦点をより正確に反映できると考えられるが，明確化に要する利用者の負担を軽減するという観点からは後者の方法が望ましい．従って，焦点とする2文を明確化する方法として，どちらの方法が適しているかに関しても実験を行い考察する．本論文の構成は以下の通りである．まず，\ref{sc:relatedwork}章で関連研究について述べる．\ref{sc:concept}章で調停要約生成における基本的な考え方を説明する．\ref{sc:proposedmethod}章で提案する対話型調停要約生成手法を述べる．\ref{sc:corpus}章で本論文の実験で用いる{\bf調停要約コーパス}に関して説明する．\ref{sc:experiment}章で従来の調停要約生成手法との比較実験を行い，その結果について考察する．また，焦点とする2文を明確化する方法に関しても考察する．最後に\ref{sc:conclusion}章で本論文のまとめを行う．
V27N01-02	\label{intro}近年，文書情報に対する情報要求は複雑化，高度化しており，そのような要求を満たすアクセス技術として質問応答が注目されている．質問応答とは，利用者の自然言語による質問に対して情報源となる文書集合から解答そのものを抽出する技術であり，複雑高度な情報要求を自然言語で表現できる点に特徴がある．しかしながら，従来の質問応答に関する研究では，「アメリカの大統領は誰ですか？」といった比較的簡単な形式の質問を扱うものが多く，質問の確信に至るまでの背景や経緯を複数文にわたって説明したりする現実世界の質問状況とは異なる場合がある．そのような現実世界における質問に対する質問応答を目的とした取り組みは，TRECのLiveQA~\cite{trec}やNTCIRのQALab~\cite{shibuki2014,shibuki2016,shibuki2017}，「ロボットは東大に入れるか」プロジェクト（以下，「東ロボプロジェクト」）\cite{torobo}などで盛んに行われている．現実世界における質問のように，質問の背景を複数文にわたって説明する記述や，解答が複数文を含む文章となるような質問の例として，大学入試問題が挙げられる．大学入試問題には大学入試センター試験と二次試験があり，二次試験の世界史分野には数十字から数百字以内で解答を記述する論述問題が含まれていることがある．QALabでは，世界史の大学入試問題を対象としており，特に二次試験の論述問題への自動解答が挑戦的な課題として設定されている．先行研究\cite{sakamoto-system}では，情報要求の存在する抽出型の複数文書要約としてこの課題を位置づけ，教科書や用語集等の知識源から句点区切りの単位でテキストを抽出・整列して論述問題に解答する質問応答システムを提案している．知識源に使用される用語集は見出し語と語釈部に分かれて構成されており，語釈部には見出し語が明示されていないため，語釈部を句点で区切った文（以下，「語釈文」という）だけをそのまま解答文に含めてしまうと，何について述べているかわからない文になってしまう．また，論述問題において解答に含めなければならない指定語句が見出し語となっている場合，語釈文だけから解答を構成すると大きく減点されてしまう．このような背景から，上述の既存システムでは，用語集の語釈文を解答の材料として抽出した際には，見出し語を文頭に主題として付け加えた文を生成し，これを解答の一部とする手法を提案している．しかしながら，この手法によって生成された文は，文法的に誤りがある場合や，解答文に適していない場合がある\footnote{\ref{problem}節に後述する．}．これらの問題を解消するためには，\begin{enumerate}\renewcommand{\theenumi}{(\roman{enumi})}\renewcommand{\labelenumi}{(\roman{enumi})}\item見出し語を語釈文に埋め込むことができるか，否か，すなわち，語釈文の述語の省略された項をゼロ代名詞とみなした場合，見出し語がその先行詞となるか，否かを判定する．見出し語を埋め込むことができる，すなわち，見出し語が先行詞となるのであれば，見出し語の表層格を推定する．\label{enum:one-0}\item問題文ならびに論述文章の前後の文等から何を主題にするかを決定し，それに応じて格交替などを行い論述問題の解答の一部とする．\label{enum:two-0}\end{enumerate}ことが必要である．本稿では，\ref{enum:one-0}に掲げた課題を解決するために，語釈文中の各動詞に着目し，それが見出し語に照応するゼロ代名詞を持つか否かを判定するとともに，持つ場合にはその表層格を推定する手法を検討する．\ref{enum:two-0}については，今後の課題とする．また，提案手法は，教師あり学習に基づく手法となっているため，訓練事例を必要とするが，用語集の形式をした事例は数に限りがあり，特定の表層格で埋め込む場合の事例が限られていることが観察された．そのため，訓練事例数が少ないという問題を解消するために，擬似訓練事例の自動生成を行う．本稿の以降の章では次の内容を述べる．2章では既存の世界史論述解答システムの概要とその問題点を述べ，本研究で提案する解決策を述べる．3章では世界史用語集に関して予備調査を行った結果について述べる．4章では本研究の関連研究について述べる．5章では見出し語に照応するゼロ代名詞とその表層格を推定する手法を提案する．6章では実験結果を報告し，7章で考察，8章でまとめとする．%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%fig.1\begin{figure}[b]\vspace{-1\Cvs}\begin{center}\includegraphics{27-1ia2f1.eps}\end{center}\caption{東京大学2008年度入試二次試験における世界史の問1}\label{fg:2008question}\end{figure}%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%fig.2\begin{figure}[b]\begin{center}\includegraphics{27-1ia2f2.eps}\end{center}\caption{東京大学2008年度入試二次試験における世界史の問1に対する解答例}\label{fg:2008answer}\end{figure}%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%第2章%%%%%%%%%%
V15N03-02	自然言語処理研究は1文を処理対象として数多くの研究が行われてきたが，2文以上を処理対象とする談話処理の研究は依然として多いとは言えない．これは問題が大幅に難しくなることが一因であろう．例えば，構文解析の係り先同定などに見られるように解が文の中にある場合の選択肢は比較的少数であるが，照応・省略解析などのような問題となると解候補や考慮すべき情報が多大となるため正解を得るのは容易ではない．この結果，多くの報告が示すように概ねどのような談話処理の問題であっても十分な精度が得られることは比較的少ない．しかし，これによって談話処理の重要性は何ら変化することはなく，我々は継続的に取り組んでいかなければならない．本論文では，談話処理のうち文間の接続関係を同定する問題に取り組んだ．文間の接続関係同定は，文生成に関係する様々な応用処理，例えば対話処理，複数文書要約，質問応答などにおいて重要となる．例えば，人間の質問に対話的に答えるシステムを考えた場合，対話をスムーズに行うために，システムは伝えるべき情報を自然な発話になるように繋げなければならない．その際に，文間に適切な接続詞を補う必要が出てくる．また，文書要約では文章中から重要な文を選んで列挙する重要文抽出手法が依然として多く行われているが，飛び飛びになっている文が選ばれた際に接続詞を適切に修正（削除，追加，変更）する必要が出てくる．本研究では以下のように問題設定した．まず，入力は接続詞を持つ文とその前文の連続2文として，この接続詞を与えない場合にどの程度同定できるかというタスクとして問題設定した．タスクの入力を連続2文とすることの妥当性については3節で議論する．次に，同定するのは実在した接続詞そのものではなく，接続関係とした．最終的な文生成を考えると接続詞を選ぶことが最終的な目的となるが，例えば「しかし」と「けれども」のどちらかにするかを使い分けることが本研究の目的ではない．また，多くの場合は接続関係が同じであればその接続関係にある接続詞のどれを選んでも構わないと推察されることからこのようなタスク設定とした．我々の設定した接続関係については2節で議論する．ここで関連研究を概観する．日本語接続詞を利用した要約や文書分類の研究，あるいは接続詞そのものの分析の研究は多数あるが本論文の対象ではないので省略する．接続詞決定に関して，例えば高橋らが考察を行っているが(高橋他1987)，この入力は「文章の意味構造」であり，すなわち接続関係が与えられて接続詞を決める問題であるため本研究とは比較できない．一方，飯田らは気象情報文を生成する過程で「接続詞」\footnote{(飯田，相川2005)では「接続詞」を自動決定するとあるが，「…し，」と「…が，」しか出現しないことから「接続詞」とは接続助詞を指すものと推察される．}を自動同定する処理を行っている(飯田・相川2005)が，順接と逆接のどちらになるかを選択するタスクであり，これ以外の関係を全く想定していない．また，入力は時間，天気，気温，風力などの気象データであり，全く異なるタスクと考えてよい．以上のように，日本語で言語表現を入力として接続詞，もしくは接続関係を同定する研究は我々の知る限り存在しない．Marcuは大規模なテキストデータによる学習からNa\"{\i}veBayes分類器を用いてセグメント間の接続関係を同定する手法を提案している(Marcuetal.2002)．Marcuは接続関係をCONTRAST（逆接），CAUSE-EXPLANATION-EVIDENCE（因果，並列），CONDITION（条件），ELABORATION（累加）の4種類に限定し，さらに同じテキストから取り出した関係を持たない2つのセグメントと異なるテキストから取り出した関係を持たないセグメントを加えた6種類の接続関係を用いてそのうちの2つの関係間での2値分類を行っている．そこでは2つのセグメントからそれぞれ取り出した単語対を素性とし，大量のコーパスから取り出した単語対の情報がシステムに良い影響を与えていることを示している．さらに，コーパスの量が同じなら単語対に用いる品詞を限定した方が精度が良くなることも述べている．一方，Hutchinsonは機械学習により極性(polarity)，真実性(veridicality)，接続関係の種類(type)の3つの側面から接続関係を分類し，接続関係の分類構造の分析を行っている(Hutchinson2004b)．SporlederはMarcuの研究を受けて，単語の表層形だけでなく，対象とする文のドキュメント内での出現位置や文の長さ，単語のbigram，品詞，テンス・アスペクトなどを素性として用いて，機械学習器BoosTexterによる同定を行っている(Sporlederetal.2005)．ここで，SporlederはMarcuとは異なる5種類の接続関係を対象としている．本論文では大量のWeb文書を用いて，与えられた2文に最も近い用例を探すことで2文間の接続関係を推定する手法を提案する．すなわち，大量のWebテキストを用例として利用することで，接続関係を推定するための規則を作ることなく接続関係を同定する．これは，用例利用型(example-based)の手法と呼ばれ，主に機械翻訳の分野で手法の有効性が確認されている．本研究では，これを談話処理の問題に適用し，手法の有効性を検証する．
V16N02-02	英語教育の現場でもICT(InformationandCommunicationTechnology)の活用により様々な取り組みがなされている．近年ではE-learningのように学習者が教科書ではなく，まずはコンピュータ端末に向かうような形態での学習環境も一部で行われている．しかし大学を含め，CALL教室などが未整備となっている教育機関は少なくない．またE-learningのための教材作成が英語教育に直接関係する教師自身によって行われることは現実的にはほとんどなく，先進的な取り組みを行っている教育機関などにおいても既存のコースウェアが利用される場合が多い．教室で接する学習者のために教員自らがオーサリングソフトなどを利用して積極的に教材を作成するという事例は，英語教員全体の人数からすると極めて少数であると思われる．近年，パソコンは爆発的に普及してきており，現在ではほぼ全ての英語教員が日常の業務や教材作成でパソコンを利用することが当たり前のこととなった．しかし大多数の英語教員のパソコン利用スキルは基礎的なワープロ操作に限られると言っても過言ではない．結果，ワープロソフトによる教材作成と，E-learningやCALL環境のための教材作成の間にある溝はなかなか埋まりそうにないというのが現状である．一方，計算機科学の発展に伴い，言語処理技術に関する研究も急速に増加しつつある．そしてこれらの知見を教育や学習に生かすことを目標とする研究も盛んに行われている．しかしここで一つの疑問が浮かぶ．言語処理技術と教育・学習の連携は，いわゆる文系の一般の教員が，極端に言えば翌日の授業からでも応用可能な形で提供されていると言えるのだろうか．言語処理技術の教育・学習への応用を試みる際，まずはその方法論が優先される．そしてその実装は簡易なプロトタイプにとどまり，実際の使用に耐えうるシステムの構築は別途行わなければならない場合も多い．しかし，たとえどんなに軽微なものであったとしてもCUIベースの処理やプログラミング言語の知識を必要とする手法を一般の英語教員に求めることはほぼ絶望的である．例えばPerl言語を用いたテキスト処理などでさえも，その実行環境をインストールするといった時点で一般の英語教員のコンピュータ利用スキルからすれば十分にハードルが高いことは間違いない．また「UNIX環境」といった文言でさえ，一般の英語教員を遠ざけるには十分な材料となる．これらのアプリケーションがCGIなどを介してWeb上で提供される場合も同様である．通常これらは教育工学などの分野に関心がある一部の英語教員が，データ分析などの研究目的で利用することが多く，授業に生かすという用途からは残念ながらほど遠いという印象がある．それでは，仮に言語処理技術を教材作成に簡便に応用できるような仕組みが提供されていればどうなるであろうか．例えば教科書に準拠した補助プリントなどを作る場合など，少しでも教員の負担を減らすことができればきっと喜ばれるに違いない．そして草の根的であったとしても，言語処理技術と教育・学習の連携がこれまで以上に有機的に行われていくことが予想される．本研究では一般の英語教員でも簡単に使えることを念頭に，様々な状況での実際の英語授業や自習環境で利用できるプリント教材およびE-learning教材の作成支援を行う2種類のツールを開発した．これらのツールは無料で公開しており，GUI環境での簡単な操作で，任意の英文から様々な教材を短時間で作成することができる．利用者である一般の英語教員はこれらをダウンロード，解凍し，フォルダ内に含まれている実行ファイルを起動するだけでよい．つまり別途ソフトウェアを購入する必要もなく，プログラミング言語の実行環境をインストールするというような負担もない．また，これらのツールでは言語処理技術によるデータ処理結果をデータベース・ソフトウェアによって教材に加工するが，内部設計はツール利用者である一般の英語教員には見せない形になっている\footnote{ソースファイル相当以上の内容を知ることができるデータベースデザインレポートも公開している．FileMakerでの開発に通じている者であれば内部設計の把握や改変も可能．}．言語処理のアルゴリズムやデータベース・ソフトウェアについての知識は一切必要としない．以下，2節では，データベース・ソフトウェアの基本的な特徴を確認し，本研究で使用したFileMakerについて概観する．3節では連携事例Iとして，言語処理技術を活用したPhraseReading教材作成支援システムを紹介し，これを応用したプリント教材の自動作成について述べる．4節では連携事例IIとして，任意の英文テキストに対して語彙レベルタグや品詞タグを付与するプログラムを紹介し，この処理結果を用いたE-learning教材作成について述べる．
V20N03-07	label{sec:intro}近年，Twitter\footnote{http://twitter.com/}などのマイクロブログが急速に普及している．主に自身の状況や雑記などを短い文章で投稿するマイクロブログは，ユーザの情報発信への敷居が低く，現在，マイクロブログを用いた情報発信が活発に行われている．2011年3月11日に発生した東日本大震災においては，緊急速報や救援物資要請など，リアルタイムに様々な情報を伝える重要な情報インフラの1つとして活用された\cite{Book_Hakusho,Article_Nishitani,Book_Tachiiri}．マイクロブログは，重要な情報インフラとなっている一方で，情報漏洩や流言の拡散などの問題も抱えている．実際に，東日本大震災においても，様々な流言が拡散された\cite{Book_Ogiue}．{\bf流言}については，これまでに多くの研究が多方面からなされている．流言と関連した概念として{\bf噂}，{\bf風評}，{\bfデマ}といった概念がある．これらの定義の違いについては諸説あり，文献毎にゆれているのが実情である．本研究では，{\bf十分な根拠がなく，その真偽が人々に疑われている情報を流言と定義し，その発生過程（悪意をもった捏造か自然発生か）は問わない}ものとする．よって，最終的に正しい情報であっても，発言した当時に，十分な根拠がない場合は，流言とみなす．本論文では，マイクロブログの問題の1つである，流言に着目する．流言は適切な情報共有を阻害する．特に災害時には，流言が救命のための機会を損失させたり，誤った行動を取らせたりするなど，深刻な問題を引き起こす場合もある．そのため，マイクロブログ上での流言の拡散への対策を検討していく必要があると考えられる．マイクロブログの代表的なツールとして，Twitterがある．Twitterは，投稿する文章（以下，ツイート）が140字以内に制限されていることにより，一般的なブログと比較して情報発信の敷居が低く\cite{Article_Tarumi}，またリツイート(RT)という情報拡散機能により，流言が拡散されやすくなっている．実際に，東日本大震災においては，Twitterでは様々な流言が拡散されていたが，同じソーシャルメディアであっても，参加者全員が同じ情報と意識を持ちやすい構造を採用しているmixi\footnote{http://mixi.jp/}やFacebook\footnote{http://www.facebook.com/}では深刻なデマの蔓延が確認されていないという指摘もある\cite{Book_Kobayashi}．マイクロブログ上での流言の拡散への対策を検討するためには，まずマイクロブログ上の流言の特徴を明らかにする必要がある．そこで本論文では，マイクロブログとして，東日本大震災時にも多くの流言が拡散されていたTwitterを材料に，そこから481件の流言テキストを抽出した．さらに，どのような流言が深刻な影響を与えるか，有害性と有用性という観点から被験者による評価を行い，何がその要因となっているか，修辞ユニット分析の観点から考察を行った．その結果，震災時の流言テキストの多くは行動を促す内容や，状況の報告，予測であること，また，情報受信者の行動に影響を与えうる表現を含む情報は，震災時に高い有用性と有害性という全く別の側面を持つ可能性があることが明らかとなった．以下，2章において関連研究について述べる．3章では分析の概要について述べる．4章で分析結果を示し，マイクロブログ上での流言について考察する．5章で将来の展望を述べ，最後に6章で本論文の結論についてまとめる．
V03N04-01	\label{sec:1shou}最近，国文学の分野においても，文学作品のテキストをコンピュータに入力し，研究に活用しようとする動きが盛んである~\cite{dbwest:95}．これは日本語処理可能なパソコンなどの普及により，国文学の研究者が，自分の手でデータを作成する環境が整ってきたことによる．すでに，多くの文学作品が電子化テキストとして作成され，蓄積され，流通され始めてきている．例えば，村上ら~\cite{murakami:89}による語彙索引作成を目的とした幸若舞の研究は，最も初期のものである．これは田島ら~\cite{tazima:82}により，万葉集を始めとする多くの文学作品の電子化テキスト作成の試みに引き継がれている．最近では，内田ら~\cite{utida:92}は情報処理語学文学研究会の活動を通じて，パソコン通信などにより電子化テキストの交換を行っている．また，伊井，伊藤ら~\cite{ii:93,ito:92}による国文学データベースの作成と電子出版活動も注目されている．とくに，源氏物語諸本の８本集成データベースや国文学総合索引の研究成果がある．一方，長瀬~\cite{nagase:90}は源氏物語の和英平行電子化テキストを作成し，オックスフォード大学に登録し公開した．また，出版社による電子化テキストの提供サービスも始まっている~\cite{benseisha:93,iwanami:95}．しかしながら，大きな問題がある．一般に，研究者は自分のためのデータを作っている．そのため，システム，文字コ−ド，外字処理，データの形式や構造などに関しての仕様が，研究者個人に依存している．さらに，蓄積した情報資源の流通をあまり意識していない．すなわち，苦労して蓄積したデータが活用されにくく，また同じ作品の重複入力の問題などが指摘されている．したがって，データ入力の共通基盤の確立と適切な標準化が必要である．とくに，文学作品の電子化テキストを作るためのデータ記述ルールが必要である．現在，人文科学のための定まったデータ記述のルールは無い．SGML：StandardGeneralizedMarkupLanguage~\cite{JIS:94}に基礎をおくTEI:TextEncodingInitiativeなどの活動~\cite{burnard:94}があるが，その成果は未だ実用化に至っていない．とりわけ，人文科学領域の日本語テキストへの適用は，国文学における数例~\cite{hara:95}を除けばほとんど無い．国文学研究資料館において，電子化テキストのデータ記述についての試みがなされてきている~\cite{yasunaga:92,yasunaga:94,yasunaga:95b,kokubun:92}．例えば，日本古典文学大系（岩波書店），噺本大系（東京堂出版）などの全作品の全文データベースの開発が進められている．また，最近では正保版本歌集「二十一代集」を直接翻刻~\footnote{国文学の用語はまとめて，付録\ref{sec:furoku1}で解説している．なお，国文学ではテキストを本文（ホンモン）と言う．以下では本文を用いる．}しながら，データベースに構築している．これらはテキストのデータベース化を指向したものであるが，テキストデータの記述のための基準文法が定められている．この基準文法をKOKIN（KOKubungakuINformation）ルールと呼んでいる．KOKINルールは国文学作品を対象とする電子化テキスト記述用のマークアップ文法である．本稿は，国文学作品テキストのデータ記述文法について述べている．第２章では，電子化テキストの目的と研究対象をまとめ，データ記述の考察上不可欠と考えられる本とテキストの情報構造を分析し，まとめている．第３章では，データ記述のルール化のための基本原則を考察している．作品とテキストの構造記述が必要なこと，及びテキスト表記の記述が必要なことなどをまとめている．第４章では，KOKINルールを３つの基本ルールに分けて定義し，それぞれについて考察している．第５章では，実際のデータ作成とそれに基づくデータベース作成の事例などから，KOKINルールを評価している．研究成果としては，すでに国文学研究資料館において，本文データベースとして試験運用が開始されている．研究者による利用結果からは，文学研究に有用であるとの評価を得，概して評判がよい．最後に，問題点などを整理している．
V28N03-09	自然言語処理分野では，シンボルグラウンディング課題\cite{The.Symbol.Grounding.Problem}が注目を集めている．自然言語と画像や動画といった実世界を表すものを紐づけたコーパスが数多く公開され，利用可能となっている\cite{KUSK.Dataset:.Toward.a.Direct.Understanding.of.Recipe.Text.and.Human.Cooking.Activity,Flow.Graph.Corpus.from.Recipe.Texts,A.Survey.of.Current.Datasets.for.Vision.and.Language.Research}．このようなデータセットを活用したシステムの例として，画像や動画からの文生成\cite{Automatic.Sentence.Generation.from.Images,Corpus-Guided.Sentence.Generation.of.Natural.Images}などがある．我々は，チェスのような展開型ゲームへの解説文は真に知的なシステムを開発するためのテストベッドとなると考えており，特に将棋に着目している．典型的な画像キャプショニングと異なり，将棋解説文は過去や未来への言及を含む．一方で，ゲームの世界は明確に定義されており，解説文中の過去や未来への言及の多くはゲーム木の中に対応づけることができる．また，自然言語の曖昧性の一部は，その事象が実現するか否かをゲームの世界におけるゲーム木探索\cite{Tsuruoka02game-treesearch}を活用して評価することで解消が期待できる．この性質を活用し，我々はゲーム解説生成システムを機械学習ベースの手法により構築した\cite{Learning.a.Game.Commentary.Generator.with.Grounded.Move.Expressions}．本論文では，我々が構築したゲーム解説コーパスの説明を行う．我々は人間によるゲーム状態（将棋などのゲームにおいては\doubleQuote{局面}と呼ばれる）に紐づいた解説文を収集し，その一部に人手で以下の複数の層からなるアノテーションを行った．\begin{itemize}\item日本語テキストに対する単語分割アノテーション\item将棋ドメイン特有の固有表現(NamedEntity;NE)タグの定義とアノテーション\item過去・未来や非事実の事象への言及を認識する上での事象の事実性とそれを伝えるモダリティ表現を表すための3層のアノテーション\end{itemize}本コーパスに期待される活用ケースは以下の通りである．\begin{itemize}\itemゲーム世界は明確に定義されており，またこれらのゲームを解くAIプレイヤの中には人間トッププレイヤを上回る性能のものがある．これらのAIプレイヤは局面を理解したり解析するのに役立てられている．本コーパスはこれらのAIを活用したシンボルグラウンディング研究への活用が期待できる．\item解説文は現在の局面だけでなく過去や未来，あるいは仮定の局面への言及を含む．モダリティ情報を解析することは，これらの解説文を理解する上で重要である．本コーパスは，実世界を参照するモダリティ情報解析研究への活用が期待できる．\item本コーパスはNEとモダリティ表現のアノテーションの両方を含む，局面に対応する解説文からなる．これらの要素の間には強い相関がある．例として，モダリティ表現は時として局面と解説文中のNEとの関連性を表している．実世界の状態・NE・モダリティ情報の関連性を解析することは，自然言語を理解する上で非常に重要である．本コーパスは，このような解析課題におけるテストベッドとしての活用が期待できる．\end{itemize}%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
V31N02-14	\label{sec:intro}自然言語理解において，文が表す時間関係の理解は重要である．自然言語には時間表現だけでなく，テンスやアスペクト，時間副詞など様々な時間に関する言語現象がある．以下は時間に関する言語現象の例である．%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%\begin{exe}\ex\label{ex:1}彼は走っ\textbf{た}。（テンス）\ex\label{ex:2}彼は走っ\textbf{ている}。（アスペクト）\ex\label{ex:3}\textbf{昨日}、彼は走った。（時間副詞）\end{exe}%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%これらの言語現象は組み合わさって用いられることが多い．例えば(\ref{ex:3})では時間副詞とテンス・アスペクトが組み合わされている．したがって，時間関係を理解するためには個々の言語表現の意味を捉えた上で構成的に文全体の意味を捉える必要がある．そのため，時間関係の理解は挑戦的な課題である．自然言語処理において，時間に関する代表的なタスクとしては時間関係認識がある．これは，文に含まれるイベント間の時間関係を認識するタスクであり，モデルの時間理解を評価する際にしばしば用いられる．このタスクはモデルの時間認識能力を評価するのに適している．一方で，時間関係認識タスクを通じて自然言語理解能力，すなわち，モデルが時間を含む文全体の意味を正しく捉えられているかを分析できるかは自明ではない．自然言語理解能力を評価するタスクの1つに自然言語推論(NaturalLanguageInference:NLI)がある．自然言語推論は単一または複数の文からなる前提を真としたときに，単一の文からなる仮説が真となるか（含意），偽となるか（矛盾），どちらでもないか（中立）を判定する言語理解タスクである．時間推論は時間の理解が要求されるNLIであり，言語モデルの時間認識能力を，自然言語理解能力とともに評価するのに適したタスクである．以下に時間推論問題の例を示す．\begin{exe}\ex\begin{xlist}\exi{Premise(P):}彼は走っていた。\exi{Hypothesis(H):}彼は走った。\exi{GoldLabel(G):}\entailment\end{xlist}\ex\label{ex:6}\begin{xlist}\exi{P:}彼は彼女の前に走った。\exi{H:}彼は彼女の後に走った。\exi{G:}\contradiction\end{xlist}\end{exe}これらの問題では，どちらも前提文(Premise)と仮説文(Hypothesis)の表層形は類似している．そのため，表層形の類似度を推論の手がかりにすると同じラベルが予測される可能性が高い．しかし，実際には2つの問題の正解ラベルは異なっている．このように，類似度だけを手がかりに推論を行うと誤った予測が得られるケースが時間推論には多く存在する．その上，時間推論問題の正解ラベルは前述の言語現象の多様な組み合わせによって変化する．そのため，時間推論タスクは挑戦的であり，事前学習済み言語モデルにとっても課題である．言語モデルの時間推論能力を評価した既存研究には\citet{vashishtha-etal-2020-temporal}や\citet{thukral-etal-2021-probing}がある．しかし，これらの既存の分析や評価用データセットの多くは英語を対象としている上，時間に関する言語現象の一部しか扱っていない．一方で，日本語の多様な時間推論に関する分析や評価用データセットは少ない．そのため，言語モデルがどの程度日本語の時間推論パターンや時間表現を汎化できるかについての分析は十分には行われてこなかった．本研究の目的は，多様な時間推論に対する言語モデルの汎化能力を詳細に分析できる，形式意味論に基づいた日本語NLIベンチマーク\oursを構築することである．NLIベンチマークを構築する主な手法としては，クラウドソーシングを用いて構築する手法や，専門家が人手で構築する手法が挙げられる．しかし，前者の手法ではデータセット中のバイアスの制御が困難であり，後者の手法では言語モデルの分析に必要なデータ量を確保するためのコストが問題となる．また，人手による構築では，語彙や構文の選択がアノテータの事前知識に依存する．そのため，語彙や推論パターンを制御することが困難であり，未知の語彙や推論パターンに対する汎化性能を評価することが難しいという問題がある．本研究では，それらの問題を解決するために，推論テンプレートを用いた半自動構築アプローチを採用する．この手法では，理論言語学の知見に基づいて手動で設計した推論テンプレートに自動で多様な語彙を割り当てる．これにより，推論パターンと語彙の分布を制御したスケーリング可能なデータセットが構築できる．そして，構築したデータセットを推論パターンなどで制御し，その上でモデルを評価することで，\hl{理論言語学}に基づいた詳細なモデルの分析が可能になる．図\ref{fig:punch}は\oursの構築手法の概略図である．提案手法では，まずFraCaS\cite{FraCaS}の日本語版であるJSeM\cite{Ai_Kawazoe_2015}に含まれる時間推論問題を抽出し，その内容語と時間表現をマスクすることで推論テンプレートを作成する．次に，京都大学格フレーム\cite{kawahara-kurohashi-2006-fully}からChatGPT\cite{openai-2023-chatgpt}を用いて自然な格フレームを抽出する．そして，得られた格フレームに言語モデルを用いて自動でアスペクトをアノテーションする．その後，抽出した格フレームとランダムな時間表現を推論テンプレートに割り当てることで，自然な文からなる問題を生成する．問題の正解ラベルは，推論テンプレートだけでなく，問題に割り当てた時間表現や格フレームのアスペクトに応じて定める．%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%F1\begin{figure}[t]%%%%%\includegraphics[width=14cm]{figure/punch.pdf}\begin{center}\includegraphics{31-2ia13f1.pdf}\end{center}%\hangcaption{\oursのデータ生成手法のイメージ図．INTは「2時間」や「3ヶ月間」などの区間を表す語に対するプレースホルダである．$\dashrightarrow$は正解が不定であることを，$\rightarrow$は正解が\entailmentであることを，$\nrightarrow$は正解が\contradictionであることを表す．}\label{fig:punch}\end{figure}%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%本研究では，時間推論パターンや時間表現の形式に基づいて学習データを分割し，分割したデータセットを学習に用いることで，言語モデルの時間推論能力を詳細に分析する．実験では，構築したテストデータ上で3種類の識別系言語モデル（日本語言語モデル2種および多言語言語モデル1種）\cite{devlin-etal-2019-bert,liu-etal-2019-roberta,conneau-etal-2020-unsupervised}と3種類の生成系言語モデル\cite{openai-2023-chatgpt,openai-2023-gpt4}の時間推論能力を評価する．\rhl{構築したデータセットは研究利用可能な形式で公開している}\footnote{\url{https://github.com/ynklab/Jamp_sp}}．%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%2\setcounter{exx}{0}
V03N04-04	\label{sec:はじめに}照応や省略の問題は，言語学および言語工学の問題として広く研究されている．特に，日本語では，主語が省略される場合が多く，一方，英語では主語が必須であるため，日英機械翻訳において，省略された主語（ゼロ主語）の照応先を同定し，補完することが問題となる．主語を補完せず，受動文に翻訳することも考えられるが，受動文よりは能動文のままの方が望ましい．また，日英機械翻訳の別の問題として，文が長すぎるという問題がある．長い文は，翻訳に失敗することが多く，人手による前処理でも，長文の分割は大きな部分を占めている．この問題に対処する手段として，長文を複数の短文に自動的に分割する自動短文分割がある．しかし，分割された短文には，主語が含まれないことが多く，ここでもゼロ主語の補完の問題が発生する．このような背景の下で，筆者らは，自動短文分割を利用した放送ニュース文の日英機械翻訳システムの中で，ゼロ主語の補完の問題を研究している．その基本的な考え方は確率モデルを用いるものである．ここで述べるゼロ主語の補完の問題は，従来から行われてきた，ゼロ主語の補完の問題とは，完全には一致していない．つまり，従来手法は，初めから異なる文の間で発生するゼロ主語を取り扱っており，ここでの問題は，短文分割によって人工的に生ずるゼロ主語を扱うものである\footnote{例えば，従来手法は，「太郎は食べようとした」「しかし食べられなかった」のように２文からなる表現に対して，後方の文のゼロ主語を考察するものが多い．しかし，ここでは，「太郎は食べようとしたが，食べられなかった」のように元は１文から成る文を２文に自動的に分割した後の表現を扱うので，従来手法の考察範囲とはずれがある．そこで，本稿の手法が従来の問題にそのまま適用できることはない．}．しかし，共通する部分も多いので，まず従来手法に検討を加える．ゼロ主語の補完に対する従来のアプローチは大きく３種類に分類できる．第１の方法は，「焦点」，「Centering」など，言語学における談話理論から得られる知見を利用するものである\cite{Yoshimoto88,Nakagawa92,Nomoto93,Walker94,Takada95,清水95}．この方法は，理論的な基礎づけがあるものの，比較的単純な文が対象であり，放送ニュース文のような複雑な文に適用した例は見あたらない．ニュース文に対するゼロ主語の補完には，従来の談話理論から得られる情報だけでなく，意味的なものなどさまざまな情報を広く考慮する必要がある．第２の方法は，待遇表現など主として文末に現われる情報を利用するものである\cite{Yoshimoto88,堂坂89,鈴木92}．しかし，本方法は対話文には有効であるものの，ニュース文には不適当である．第３の方法は，ゼロ主語のまわりの文脈から得られた各種情報をヒューリスティック規則にまとめるものである\cite{Carbonell88,村田95}．この方法は，確率モデルによる方法と同様，様々な情報が利用できる利点があるが，ヒューリスティック規則の作成や規則適用の優先度の付与を人手で行っており，恣意性がある．これらの従来手法に対して，確率モデルによる方法は，以下のような特徴を持つ．\begin{itemize}\itemゼロ主語の補完に有効な様々な情報を統一的に取り扱うことができる．\itemいったん学習データを作成した後は，自動的にモデルが構築できるので客観的であり，恣意性がない．\item確率モデルは言語工学のみでなく，多くの分野で利用されており，そこで得られた理論的知見や適用事例が利用できる．\end{itemize}確率モデルを用いたゼロ主語補完の方法としては，従来，多次元正規分布が用いられていた\cite{金94}．本稿では，これをいくつかの分布に拡張する．そして，それらの分布を用いたモデルについて，主語補完の精度を評価するとともに，誤った事例について考察を加え今後の課題を明らかにする．以下，\ref{sec:主語補完の方法}章では，主語補完の基本的な手順の説明を行う．\ref{sec:確率モデル}章では，本稿で考察する４種の確率モデルについて述べる．\ref{sec:補完実験}章では，ゼロ主語の補完実験の方法と結果について述べ，誤事例について考察する．
V12N01-01	\label{sec:Introduction}近年，情報化が進むにつれて，大量の電子テキストが流通するようになった．これを有効活用するために，情報検索や情報抽出，機械翻訳など，計算機で自然言語を処理する技術の重要性が増している．この自然言語処理技術は様々な知識を必要とするが，その中で構文解析の際に最もよく用いられるものは文脈自由文法(CFG，以下，文法と略す)である．ところが，人手で作成した大規模な文法は，作成者の想定する言語現象にどうしても``もれ''があるため，網羅性に欠けるという問題がある．一方，最近では，コーパスから抽出した統計情報を用いて自然言語を解析するコーパスベースの研究が成果をあげており，それに伴い，(電子)コーパスの整備が進んでいる．このコーパスから文法を自動的に抽出する研究もあり\cite{charniak:96,shirai:97}，文法作成者に大きな負担をかけることなく，コーパス内に出現する多様な言語現象を扱える大規模な文法を作成することが可能である．しかし，コーパスから抽出した文法には問題がある．それは，コーパスから抽出した文法で構文解析を行うと，一般に，膨大な量の構文解析結果(曖昧性)\footnote{以降，特に断わらない限り，構文解析結果の曖昧性を単に曖昧性と呼ぶ．}が出力されることである．その要因については後述するが，これが，解析精度の低下や解析時間，使用メモリ量の増大の要因となる．コーパスから抽出した大規模文法がこれまで実用に供されなかった最大の理由はここにある．コーパスには意味を考慮した構文構造が付与されていることが普通であり，そのコーパスから抽出した文法で構文解析を行うと，意味解釈に応じた異なる構文解析結果が多数生成される．しかし，意味情報を用いない構文解析の段階では，意味的に妥当な少数の構文構造に絞り込めず，可能な構文構造を全て列挙せざるを得ない．我々は，構文解析結果(構文木)に沿って意味解析を進める構文主導意味解析(SyntaxDirectedSemanticAnalysis,SDSA)\cite{jurafsky:2000}を想定し，構文解析の段階で生じる曖昧性を極力抑え，次の意味解析の段階で意味的に妥当な意味構造を抽出するという2段階の解析手法を採用する(図\ref{fig:analysis_flow})．\begin{figure}[tp]\centering\epsfxsize=.9\textwidth\epsfbox{Introduction/figure/flow.eps}\caption{自然言語解析の流れ}\label{fig:analysis_flow}\end{figure}\if0\begin{figure}[tp]\centering\epsfxsize=.6\textwidth\epsfbox{Introduction/figure/procedure.eps}\caption{大規模日本語文法作成手順}\label{fig:procedure}\end{figure}\fi本論文では，構文解析の段階の曖昧性を極力抑え，その後の意味解析の段階にも有効な構文構造を生成する大規模日本語文法について検討する．\if0そこで，我々は，既存の構文構造付きコーパスを出発点とし，以下の手順で文法を作成することを試みている(図\ref{fig:procedure})．\begin{enumerate}\item既存の構文構造付きコーパスから文法を抽出する\item構文解析結果の曖昧性を増大させる要因を分析する\item分析結果をもとに構文構造付きコーパスの変更方針を作成する\item変更方針に従ってコーパスを変更し，そこから新しい文法を再抽出する\item(2)〜(4)を繰り返す\end{enumerate}ただし，文法の抽出は，Charniakによる``tree-bankgrammar''の抽出方法\cite{charniak:96}と同様の方法をとる．上述の文法作成手順では，構文構造付きコーパスの変更に重点が置かれ，文法の作成，変更というより，むしろコーパスの作成，変更のように思われるかもしれない．しかし，実際の変更過程では，抽出した文法を変更し，それをコーパス中の構文構造に反映させる方法をとっている．文法の変更をコーパスにまで反映させるのは，PCFGモデル等の確率モデルによる学習の際に訓練データとして必要であるからであり，文法の作成，変更とコーパスの作成，変更は同時に扱うべき問題である．つまり，「曖昧性を抑えた構文構造を出力するように文法を変更する」ことと，「コーパスに付与されている構文構造を曖昧性を抑えたものに変更する」ことは，結局のところ，同じことであると考えている．\fiその結果，検討前の文法と比較して，出力される解析木の数を$10^{12}$オーダから$10^5$オーダまで大幅に減少させることが可能になった．さらに，この文法から得た解析結果に対して，意味情報をまったく用いず，確率一般化LRモデル(PGLRモデル)\cite{inui:98}によるスコア付け1位の解析木の文の正解率は約60\%であった．一方，スコア付け1位の解析木に対し，機械的な方法で文節の係り受けの精度を測定したところ，意味情報を用いなくても，89.6\%という高い係り受け精度が得られた．意味情報を本格的に利用することで，さらなる精度向上が図れるという見通しを得ている．以下に本論文の構成を述べる．第\ref{sec:Related}節では，コーパスから文法を抽出する主な研究を二つ紹介する．第\ref{sec:Procedure}節では，我々が大規模日本語文法を作成する際の手順について述べる．第\ref{sec:Problem}節では，コーパスから抽出した文法が，構文解析において膨大な量の曖昧性を出力する要因を考察する．第\ref{sec:Modification}節では，構文解析結果の曖昧性の削減を考慮した具体的な文法とコーパスの変更方針を述べ，第\ref{sec:Evaluation}節，第\ref{sec:SDDA}節では，変更したコーパスから抽出した文法の有効性を実験により明らかにする．最後に，第\ref{sec:Conclusion}節で本研究を総括し今後の課題を述べる．
V14N05-03	存在文はいかなる言語にも存在し，人間のもっとも原始的な思考の言語表現の一つであって，それぞれの言語で特徴があり言語により異なりが現れてくる．日本語と中国語でも，前者が存在の主体が有情物か非情物かで使われる動詞が異なる（「ある／いる」）のに対し，後者では所在の意味か所有の意味かで使われる動詞が異なる（「在／有」）など，大きな違いがある．日本と中国の言語学の分野では，存在文について論述があるが（飯田隆2001，西山佑司2003，金水敏2006，儲澤祥1997)，日中機械翻訳の角度からの研究は殆ど見あたらない．また日中機械翻訳において現在の日中市販翻訳ソフトでは，存在文に関する誤りが多く見られる．本論文は言語学の側の文献を参考にしながら存在文に関する日中機械翻訳の方法について考察し，翻訳規則の提案，翻訳実験を行ったものである．\begin{itemize}\item[(1)]日中両言語における存在表現を対照的に分析し，異同を起こす原因に関しても検討を試みた．\item[(2)]中国語の存在動詞の選択とその位置の問題を中心に，機械翻訳における存在文の翻訳規則を提案した．\item[(3)]提案した翻訳規則を，手作業で及び我々が開発している翻訳システムで翻訳実験を行い，評価した．\item[(4)]関連する問題点と今後の課題について議論した．\end{itemize}
V16N01-02	本論文では，ベイズ識別と仮説検定に基づいて，英文書の作成者の母語話者／非母語話者の判別（母語話者性の判別）を高精度で行う手法を提案する．WWW上の英文書を英語教育や英文書作成支援に利用する研究が盛んに行われている\cite{大鹿,佐野,大武}．WWW上にはオーサライズされた言語コーパスとは比べものにならないくらいの大量の英文書が存在するため，これを言語データとして活用することで，必要な言語データの量の問題をかなり克服できる．しかし，WWW上の英文書の質は様々であり，英語を母語とする者あるいはそれと同等の英語運用能力を有する者が書いた英文書（本論文では母語話者文書と呼ぶ）と英語を母語としない者が書いた誤りや不自然な表現を含む英文書（本論文では非母語話者文書と呼ぶ）とが混在している．WWW上の英文書を英語学習教材として使用する場合，あるいは，英語表現の用例集として使用する場合は，使用する英文書を母語話者文書に制限するのが望ましい．また，非母語話者に特有の文法的特徴や使用語彙の傾向を調査したり，非母語話者が犯しがちな不自然な表現を収集するには，大量の母語話者文書および非母語話者文書を必要とする．したがって，英語教育や英文書作成支援を目的としてWWW上の英文書を使用する場合，英文書の母語話者性判別を行う技術は非常に重要である．本論文で提案する英文書の母語話者性判別手法では，品詞$n$-gramモデルを言語モデルとし，判別対象の文書の品詞列（文書中の単語をその品詞で置き換えた列）の母語話者言語モデルによる生起確率と非母語話者言語モデルによる生起確率との比に基づいて判別を行う．$n=5,6,7$といった比較的大きな$n$-gramモデルを言語モデルとすることで，母語話者／非母語話者固有の特徴をより良く扱うことが可能となり，判別精度の向上が期待できる．しかしその反面，両言語モデルのパラメタ（$n$-gram確率）を最尤推定した場合，母語話者／非母語話者文書間で品詞$n$-gramモデルのパラメタ値に大きな違いがあるのか，学習データの統計的な揺らぎに起因するものなのかが区別できない．$n=3$という条件部が短い$n$-gramモデルを用いて判別を行う場合でさえ，ゼロ頻度問題およびスパースネスの問題に対処するために，通常なんらかのスムージングを行う．これに対し，提案手法では，仮説検定に基づいた方法で両言語モデルにおける文書の生起確率の比を推定する．
V08N04-02	\label{sec:intro}ある程度の長さの文章は，一般的に，複数のトピックからなる．そのような文章を切り分けて，それぞれの切り分けた部分が一つのトピックになるようにすることを，テキスト分割と呼ぶ．テキスト分割は，情報検索や要約などにおいて重要である．まず，情報検索においては，文書全体ではなく，ユーザの検索要求を満す部分(トピック)だけを検索した方が効果的である\cite{hearst93:_subtop_struc_full_lengt_docum_acces,salton96:_autom_text_decom_using_text,mochizuki2000}．また，要約においては，長い文書をトピックに分ければ，それぞれのトピックごとに要約を作成することにより，文書全体の要約を作成できるし，重要なトピックだけを選んで要約を作成することもできる\cite{kan98:_linear_segmen_segmen_signif,nakao00:_algor_one_summar_long_text}．これらの目的のために，多くの手法が研究されている\cite[など]{kozima93:_text_segmen_simil_words,hearst94:_multi_parag_segmen_expos_text,okumura94:_word_sense_disam_text_segmen,salton96:_autom_text_decom_using_text,yaari97:_segmen_expos_texts_hierar_agglom_clust,kan98:_linear_segmen_segmen_signif,choi00:_advan,nakao00:_algor_one_summar_long_text,mochizuki2000}．これらの手法の主な共通点は，これらの手法が，分割対象のテキスト(および辞書やシソーラス)しか分割に利用しないことである．たとえば，\cite{hearst94:_multi_parag_segmen_expos_text}は，テキスト内の単語分布の類似度しか分割に利用しない．言い換えれば，これらの手法は，その手法をテキスト分割に使用するにあたって，訓練データを必要としない．そのため，これらの手法は，訓練データの存在する分野に限られることなく，どんな分野の文章でも分割対象とすることができる．この点は重要である．なぜなら，情報検索や要約が対象とする文書は，分野を限定しない文書であるので，そのような文書に対応するためには，分野を限定しないテキスト分割の手法が必要であるからである．本稿で述べる手法も，これらの従来手法と同様に，訓練データを利用せずに，テキスト内の単語分布のみを利用してテキストを分割する．我々が，訓練データを利用しないテキスト分割手法を採用した理由は，我々が，テキスト分割の結果を利用して，長い文書を要約したり，講演のディクテーション結果を要約することを目的としているからである．そのためには，分野を限定しない(訓練データを利用しない)テキスト分割の方法が必要であるからである．本稿で述べる手法は，テキストの分割確率が最大となるような分割を選択するというものである．このようなアプローチは，分野を限定しないテキスト分割としては，新しいアプローチである．なお，従来の研究で，分野を限定しないテキスト分割の研究では，主に，語彙的な結束性を利用してテキストを分割している．その例としては，意味ネットワーク上での活性伝播に基づく結束性を利用するもの\cite{kozima93:_text_segmen_simil_words}や，単語分布の類似度(コサイン)を結束性としたもの\cite{hearst94:_multi_parag_segmen_expos_text}や，単語の繰り返し状況に基づいて結束性を計るもの\cite{reynar94:_autom_method_findin_topic_bound}や，文間の類似度としてコサインを直接使うのではなくコサインの順位を結束性の指標とするもの\cite{choi00:_advan}などがある．なお，テキスト分割の方法としては，訓練データを利用しない(分野を限定しない)方法の他に，訓練データを利用する方法もある．そのような方法の応用としては，複数ニュースを個々のニュースに分割するものがある\cite{allan98:_topic_detec_track_pilot_study_final_repor}．この場合には，分野が明確であり，また，訓練データも多量にあるので，訓練データを利用したシステムにより，ニュースの境界を推定し分割する手法が主流である\cite[など]{mulbregt98:_hidden_markov_model_approac_text,beeferman99:_statis_model_text_segmen}．しかし，そのような方法は，訓練データが利用できない分野については適用できないので，我々の目的である，テキスト分割の結果を利用して，長い文書を要約したり，講演のディクテーション結果を要約するためのテキスト分割手法としては適さない．以下，\ref{sec:model}章では，テキスト分割のための統計的モデルを述べ，\ref{sec:algorithm}章で，最大確率の分割を選択するアルゴリズムを述べる．\ref{sec:experiments}章では，まず，我々の手法を公開データに基づいて評価することにより，我々の手法が他の手法よりも優れた分割精度を持つことを示し，次に，我々の手法を長い文書に適用した場合の分割精度を述べる．\ref{sec:discussion}章は考察，\ref{sec:conclusion}章は結論である．
V14N04-03	\label{はじめに}言語処理技術を利用した文章の推敲や校正の支援に関する研究が行われている．この研究分野を次の5段階に分けて考える．\begin{description}\item[表記レベル]誤字の検出と修正，表記揺れの指摘など．\item[統語レベル]統語構造の複雑さに起因する読みづらさの指摘など．\item[意味レベル1]欠落した格要素の推定や，照応先の特定が困難な場合の指摘．\item[意味レベル2]情報不足（論理の飛躍や説明が不足しているもの），情報過多（表現が冗長）の指摘．\item[文脈・構成レベル]文間のつながりに関する理解しづらさの指摘．文の構成による論旨の展開についての指摘など．\end{description}まず，「表記レベル」に関しては，自然言語処理の教科書\cite{tanaka}に詳しく解説されているように，研究開発が完成段階に達し\cite{ibuki}，コンピュータのアプリケーションソフトとして実装されている\cite{kasahara}．次の「統語レベル」に関しても，係り受けの複雑さに起因する読みづらさを指摘し，書き換え候補を生成する研究が行われ，応用段階に到達している\cite{yokobayashi}\cite{suganuma2006}．以上の「表記レベル」と「統語レベル」の課題に対しては，文を言語解析し，その際の解析困難性の程度を誤りや読みづらさの指標にするという手法が広く用いられている．この手法が使われる理由は，表記レベルと統語レベルに対応した言語解析である形態素解析および係り受け解析の現状の解析精度が十分に高いためであると考えられる．それに対し，次の「意味レベル1」では欠落した格要素の推定や照応詞の照応先の特定の困難さを算出する必要がある．しかしながら，それに対応した格解析や照応解析といった意味解析技術の精度が現状では不十分なため，解析困難の理由が，解析技術の精度不足に起因するのか，原文側の問題に起因するのか区別がつかず，指摘の要否判定ができない．さらに，「意味レベル2」に含まれる情報不足や情報過多の指摘に関しては，対応する言語解析技術も定まっておらず，今後の技術と考えられている．このように，「意味レベル1，2」やその先の「文脈・構成レベル」の検出・支援の技術は研究が進展していないのが現状である．本論文は，「意味レベル2」に含まれる情報不足と情報過多の指摘のうち情報不足の指摘を扱う．以下，文章作成の理論の中で，この課題の位置付けを考える．言語表現とそれを用いる使用者や文脈との関係を研究する分野である語用論\cite{Green}と会話における意志疎通の原理を扱ったGriceの理論\cite{Grice}がある．これはコミュニケーションが成り立つための原理と条件を与える協調の原理についての内容であり，仕事文（仕事に用いる文を仕事文と称する\footnote{本論文では，岩波新書「仕事文の書き方」\cite{高橋昭男}にならい，仕事の場面で用いる文を仕事文と呼ぶ．これに近い概念の「論説文」は，仕事目的以外の，例えば教育用の論説文もあるため，仕事文と完全には一致しない．}．）が満たすべき条件を与える基礎理論である．協調の原理に従うために，いくつかの特定の条件（格率という）に従わなければならない．格率は量，質，関係，様態の4カテゴリにまとめられる．そのうちの量に関して，次の2つの格率に従う必要がある．\begin{enumerate}\item要求に見合うだけの情報を与える発言を行う．\item要求されている以上の情報を与えるような発言を行ってはならない．\end{enumerate}(1)の格率を満たさなければ，情報不足の問題が生じ，(2)の格率を満たさなければ，情報過多の問題を生じる．このうち，本論文で扱う課題は，量に関する１つ目の格率を満たさないために生じる情報不足の課題である．文章講座に関する一般書籍にも情報不足に関する解説が見られる．例えば書籍「仕事文の書き方」\cite{高橋昭男}では，仕事文において正確な文章を書くために，情報不足に注意することを述べている．この書籍では情報不足による論理の飛躍の例として，次に示す入学用ランドセルの広告文を取り上げている．\vspace{10.5pt}\begin{center}\fbox{\parbox{38zw}{ここ数年，児童の数が急激に減っています．そのため，品不足になる恐れがありますので，お早めにお求めください．}}\end{center}\vspace{10.5pt}\noindent第1文と第2文の間に論理の飛躍があって読みづらいため，間に言葉を補い，次のように修正すべきと述べている．\vspace{10.5pt}\begin{center}\fbox{\parbox{38zw}{ここ数年，児童の数が急激に減っており，{\bfそれに対応して，メーカーでは，製造数を大幅に減らしています．このような事情から，人気商品については，}品不足になる恐れがありますので，お早めにお求めください．（文字強調筆者）}}\\\end{center}\vspace{10.5pt}量の格率の2条件を満足しないために生じる情報不足と情報過多の問題の中で，本研究では情報不足の問題のみを扱い，情報過多の問題は扱わない．その理由について述べる．本研究では，ビジネス分野の文章作成支援を目指して，仕事文を対象とする．そのため，情報不足の場合には，文が難解になることに加え，論理の飛躍によって誤解を生じさせると言う深刻な事態を招くのに対し，情報過多の場合には，冗長な情報を無視するのに読解の負担がかかるものの，誤解を生じる可能性は低いため，深刻さの程度は低い．したがって，コンピュータによる文章推敲支援の課題として，情報不足の検出と指摘の課題を扱うことが有用であると考える．本研究では，この課題を情報不足が読者に受容されるかどうかを判定する問題として扱い，コーパスベースの統計的言語処理に基づくアプローチを用いた手法を開発する．
V30N02-15	\label{sec:intro}複数の言語のテキストで学習したマルチリンガル事前学習モデルは，\pagebreak言語横断転移学習のタスクなどで高い性能を発揮しており\cite{conneau-etal-2020-unsupervised}，これはモデルが異なる言語にわたって共有できる知識を学習していることを示している．タスクを解くために役立つ言語の知識には，単語などの語彙に関する知識もあれば，文法に関する知識もある．ここで言う文法とは，外国語学習に見られるような具体的な文法事項というよりは，ニューラルネットワークが，トークンの系列から情報を集約して，タスクを解くために必要な「意味」を導き出す内部処理のことを指す．このニューラルネットワークの「文法」に，異なる言語にわたって共有できる部分が存在することが示唆されている．\citeA{artetxe-etal-2020-cross}は，英語のデータのみで重みを学習したTransformerエンコーダを，異なる言語にも転用できることを示した．つまり，英語のデータから学習した「文法」に言語非依存なものが存在するということである．言語間で共有できる文法事項のうち，マルチリンガル事前学習モデルが実際に捉えているものとして，UniversalDependencies\footnote{\url{https://universaldependencies.org/}}で定義されている係り受け関係\cite{chi-etal-2020-finding}や，主格の概念\cite{papadimitriou-etal-2021-deep}が存在することが今まで示されている．これらは，我々にとっても直感的な文法であるが，ニューラルネットワークはより抽象度が高い概念や処理を，異なる言語にわたって共有できることが示唆されている．たとえば\citeA{papadimitriou-jurafsky-2020-learning}は，楽譜やプログラミングコードといった非自然言語データでLSTM言語モデルを訓練し，そのモデルが自然言語の言語モデリングのタスクに転用できることを示した．つまり，自然言語間に限らず，外見の全く異なる系列データ間にも共通の構造があり，それに関して学習した知識をモデルが転用できることを示している．しかしながら，具体的にどのような構造的知識が転用されるのかに関しては，十分に明らかになっていない．この点について理解を深めることは，ニューラルネットワークの言語処理に関する洞察を与え，かつ，言語共通の知識を効率的に捉えるモデルの考案にも役立つ．本研究は，転移可能な知識を人工言語からの転移学習（\cref{fig:artificial_pretraining}）により分析する．%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%fig.1\begin{figure}[b]\begin{center}\includegraphics{30-2ia14f1.pdf}\end{center}\hangcaption{人工言語を用いた事前学習の概要．人工言語は何かしらの構造的特徴を持ち，そのデータから学習した知識が，自然言語のタスクへ転用できるかどうかを調べる．}\label{fig:artificial_pretraining}\end{figure}%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%本実験手法はTestforInductiveBiasviaLanguageModelTransfer\cite{papadimitriou-jurafsky-2020-learning}の実験手法から着想を得ており，転移元データで学習したモジュールを，異なる種類のデータへと転用した場合のタスク性能を評価することによって，転移元と転移先データで共有可能な知識が存在するかどうかを調べる．本研究では，系列データの持つ抽象的な構造に関する知識の転移可能性を調べるために，転移元データとして抽象的な構造以外の要素を捨象した人工言語を設計する．人工言語が持つ構造の転移可能性の評価として，事前学習した\Transformer{}を自然言語の言語モデリングへの転移した際の性能を測定した．本研究で着目する自然言語の構造的な性質は，単語の分布，単語の係り受け関係，ランダム性である．これらの構造について，自然言語に近いものを持つ人工言語，自然言語とは異なるものを持つ人工言語を設計し，比較実験を行った．得られた知見を以下にまとめる．\begin{itemize}\itemコーパス全体における単語分布そのものは転移可能な有用な知識になり得ず，自然言語へ転移できる\Transformer{}のパラメータを学習するためには，事前学習データの系列内の統計的依存関係が必要となる．この統計的依存関係から，\Transformer{}は入力中の文脈情報を集約するような学習をし，自然言語タスクに有用なものとなる．\item事前学習データとして，係り受け構造を持った人工言語を設計し，係り受け関係が入れ子状になる制約を持った言語と，そうでない言語を比較すると，入れ子制約を持っている方が高い自然言語への転移性能を示した．これは，トークン予測のタスクにおいて，入れ子構造が，自然言語の文法に見られるような，一貫した位置に依存する規則性を持っているからだと考えられる．\item人工言語にランダム性がなく，生成されたデータの系列の並びが決定的であったとしても，事前学習された\Transformer{}は自然言語に転移可能なものとなる．また，転移元の人工言語と転移先の自然言語の語彙サイズが近しいことそのものの有効性は確認されなかった．これら実験結果を踏まえると，転移学習の性能に影響を与える主たる要因は，系列データの統計的依存性であると考えられる．\end{itemize}%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
V09N05-07	インターネットの普及により，電子化されたテキストの入手が容易になってきた．それらのテキストをより効率的かつ効果的に利用するために，多くの言語処理技術が研究，提案されてきている．それに伴い，言語処理の研究分野は注目を浴び，言語処理学会でも年々会員が増加し，事務作業が増加する傾向にある．このような増加傾向から考えると，今の言語処理学会の状況では，事務処理の負担が処理能力を越えてしまい，その結果，事務作業が滞ることが予想される．もし，事務作業が滞れば，学会の活気や人気に水をさすことになってしまう可能性があり，その結果，学会の将来に悪影響を与えると考えられる．そのため，事務処理の効率化は必須である．学会の差別化，効率化を図るため，電子化された投稿論文の査読者への割り当てを行なう際に言語処理技術を利用した報告が出てきている．例えば，投稿論文を最適な査読者に割り当てることを試みたもの\cite{Susan1992,Yarowsky1999}などである．ただし，これらの論文は適切な査読者を決定することを目的としているだけであり，事務処理の効率化については論じられていない．そのような中で，2000年言語処理学会第\6回年次大会プログラムを作成する機会を得た．大会プログラム作成において作業効率向上に寄与する言語処理技術を明確にすることを目的として，いくつかの言語処理技術を用いて第\5回大会の講演参加申込データに対して，大会プログラム自動作成実験を行い，それらの技術の有効性を比較した．そして，その実験結果を基に第\6回年次大会プログラム原案を作成した．大会プログラムを作成するには，講演参加申込を適当なセッションに分割し，セッション名を決める作業が必要である．それには，講演参加申込の内容（タイトルとアブストラクト）をすべて確認してから作成作業をするのが一般的であるが，講演数が増加している現在，講演申込内容をすべて確認し，大会プログラムを手動で作成するのは大変な作業である．この作業を省力化するために，アブストラクトは読まずに，タイトルだけを利用し，大会プログラムを作成することも可能であると考えられるが，タイトルだけを利用した場合，たとえ講演参加申込に記述されている講演分野を利用したとしても適切なセッションに割り当てられない場合が存在すると考えられる．また，タイトルだけでは，適切なセッション名を決めることも困難である．我々はそのような作業を支援し，効率化する方法を本稿で提案する．我々の手法を利用すれば，大会の発表傾向にあったセッション名を決定できるだけでなく，適切なセッションに講演申込を割り振ることも可能となる．そのため，事務作業の負担を軽減することが可能となるだけでなく，講演者の興味にあうセッションを作成できる．以下，\ref{yaya}章でその一連の実験について報告する．\ref{gogo}章で第\6回年次大会プログラム作成の詳細について説明する．そして，\ref{haha}章で大会後に行なったアンケート調査の結果を報告し，\ref{mumu}章で今後の大会プログラム作成の自動化および事務処理の効率化に向けた考察を行なう．
V10N03-01	\label{sec:intro}語義曖昧性解消(WordSenseDisambiguation，以下WSD)は機械翻訳，情報検索など，自然言語処理の多くの場面で必要となる基礎技術である\cite{ide:98:a}．SENSEVALはWSDのコンテストであり，WSDの共通の評価データを作成し，その上で様々なシステム・手法を比較することによってWSDの研究・技術を向上させることを目的としている．SENSEVALは過去2回行われている．第1回のSENSEVAL~\cite{kilgarriff:00:a}は1998年夏に，第2回のSENSEVAL-2~\cite{senseval2:00:a}は2001年春に行われた．SENSEVAL-2では，9言語を対象に37研究グループが参加した．日本語を対象としたタスクとしては，辞書タスクと翻訳タスクの2つが行われた．辞書タスクでは語の意味の区別(曖昧性)を国語辞典によって定義し，翻訳タスクではこれを訳語選択によって定義した．本論文は，SENSEVAL-2の日本語辞書タスクについて，タスクの概要，データ，コンテストの結果について報告する．まず，日本語辞書タスクの概要について述べる．SENSEVAL-2では，タスクをlexicalsampletaskとallwordstaskに大別している．lexicalsampletaskは特定(数十〜数百)の単語だけをWSDの対象とし，allwordstaskでは評価テキスト中のすべての単語を対象とする．日本語辞書タスクはlexicalsampletaskである．以下，本論文では，評価の対象として選ばれた単語を評価単語と呼び，評価単語の評価データ中での実際の出現を評価インスタンス，または単にインスタンスと呼ぶ．辞書タスクでは，単語の語義を岩波国語辞典~\cite{nisio:94:a}の語義立てによって定義した．参加者は，テキスト中の評価インスタンスに対して，該当する語義を岩波国語辞典の語釈の中から選択し，その語釈に対応したID(以下，語義ID)を提出する．評価テキストは毎日新聞の1994年の新聞記事を用いた．語義を決定する評価単語の数は100と設定した．また，評価単語のそれぞれについて100インスタンスずつ語義を決めるとした．すなわち，評価インスタンスの総数は10,000である．本タスクには3団体，7システムが参加した．本論文の構成は以下の通りである．\ref{sec:data}節では，辞書タスクで用いたデータの概要を述べる．\ref{sec:goldstandard}節では，正解データの作成手順について述べる．また，正解データを作成する際，1つの評価インスタンスに対して二人の作業者が独立に正しい語義を選択したが，そのときの語義の一致率などについても報告する．\ref{sec:contest}節では，参加者のシステムの概要やスコアなどについて述べ，コンテストの結果に関する簡単な考察を行う．最後に\ref{sec:conclusion}節では，本論文のまとめを行う．
V30N02-19	label{sec:intro}対話において，話し手の発話に対して聞き手が質問や確認を行うことで，モノローグにおいては表出しづらい情報を引き出すことが可能である．本研究では，対話のこのような機能に着目し，特定分野の技能者からその技能者が持つコツをインタビューによって引き出すという設定を考え，そうしたインタビュー対話のコーパス構築に取り組む．なお，本稿ではコツを以下のように定義する．\begin{itemize}\item[]\begin{description}\item[コツ]自発的には言語化しづらい，特定ドメインに関する深い知識，感覚\end{description}\end{itemize}管見の限り，インタビュー対話によって技能者からコツを引き出すという目的で構築されたコーパスは存在しない．このようなコーパスの構築は，近年の産業界において課題となっている熟練者の技能伝承を支援する対話システムの開発に貢献する．しかし，産業界の技術者の対話を直接収集し，大規模なデータを作ることは難しい．そこで，比較的多くの人がコツを有する料理に着目する\footnote{近年，スマートスピーカーが普及し，料理のレシピやコツをスマートスピーカーに対話的に質問する場面も増えてきている．そのため，料理ドメインのインタビュー対話を収集することは，そういったアプリケーションの開発にも貢献することが期待される．}．本研究では，オンラインビデオ対話において料理の技能者からインタビュアーが特定の料理の調理方法を聞き出すという設定で，\textbf{料理インタビュー対話コーパス(CIDC:CulinaryInterviewDialogueCorpus)}を構築した．CIDCは，約6.4万発話の音声，その書き起こし，オンラインビデオ通話の画面映像のデータ（図\ref{fig:example}）と対話者の情報，技能者から収集した料理に関する情報，インタビュアーが事前に考えた質問内容をまとめたメタデータから構成される．%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%fig.1\begin{figure}[t]\begin{center}\includegraphics{30-2ia18f1.pdf}\end{center}\caption{料理インタビューコーパスの例．発話者の列の``E''は技能者を，``I''はインタビュアーを表す．}\label{fig:example}\end{figure}%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%インタビュー対話の収集にオンラインビデオ通話を利用したのは，視覚的情報が共有できる対面対話に近い環境で，時間的，金銭的コストを抑えた対話の収集が可能となるためである．日本語を対象とした既存の話し言葉対話コーパスのほとんどは，電話会話を使用したものか\cite{den-fry-2000}，参加者を実際に集め，その様子を録音・録画したもの\cite{maekawa-2004,fujimura-et-al-2012,den-enomoto-2014,koiso-et-al-2019}である．しかしながら，電話会話の場合は視覚的情報の共有ができないため，指示語の使用が減少する等，対面対話とは性質が大きく異なり，参加者をスタジオ等に集めて対話を収録する場合は時間的・金銭的コストがかかる．現在，COVID-19の世界的感染拡大の中で，以前はオンラインビデオ通話を利用していなかった人々も%Zoom,GoogleMeet,MicrosoftTeamsのような様々なウェブ会議システムを使用するようになった．オンラインビデオ対話であれば，参加者はいつも使っている自身の機器を用いて自宅から対話に参加することが可能である．さらに，ウェブ会議システムを使用することで，参加者はお互いの表情を見つつ，画面共有機能で視覚的文脈を共有することが可能となり，電話会話よりもより通常の対話に近いコミュニケーションを行うことができる．通信の遅延などのずれは生じうるものの，オンラインビデオ対話はこれらの視覚的情報を含めて対話の記録を行うことができる．本稿では，技能者からコツを引き出すインタビュー対話コーパスであるCIDCの構築方法とその詳細について述べる．\ref{sec:related}節で関連研究について述べたのち，\ref{sec:collection}節ではインタビュー対話の収集方法と書き起こしの方法について述べる．\ref{sec:statistics}節ではCIDCの統計と特徴について述べる．そして，\ref{sec:conclusion}節では全体をまとめ，CIDCの具体的な利用可能性について述べる．なお，CIDCは\url{https://nlp.ist.i.kyoto-u.ac.jp/?CIDC}にて公開中である\footnote{タスク実施前に全ての参加者には，タスクの参加による身体的な危険が伴うことはないということを説明し，(i)インタビュー対話の映像データ，(ii)インタビュー対話の音声データ（文字化情報も含む），(iii)参加者の役割・性別・年齢（10歳刻み）・使用するマイクの情報，(iv)インタビュー収録前に実施する事前調査の回答結果，(v)インタビュー収録後に実施するアンケートの回答結果を関連づけたデータベースを作成し，あらゆる研究者・研究機関が研究および研究成果の公表に用いることができるよう，利用目的を学術研究に限定した上で公開することに関して同意を得ている．また，タスク終了後であっても，この同意を撤回する権利を有することに関しても事前に説明している．}．%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
V12N05-02	近年，コーパスを利用した機械翻訳の研究においては，翻訳システムに不足している翻訳知識を人手で増強していく際のコストを軽減する目的で，対訳コーパスやコンパラブルコーパス等の多言語コーパスから様々な翻訳知識を獲得する手法の研究が行なわれてきた~\cite{Matsumoto00a}．これまでに研究されてきた翻訳知識獲得の手法は，大きく，対訳コーパスからの獲得手法とコンパラブルコーパスからの獲得手法に分けられる．通常，対訳コーパスからの獲得(例えば，\cite{Gale91a})においては，文の対応の情報を利用することにより，片方の言語におけるタームや表現について，もう一方の言語における訳の候補が比較的少数に絞られるため，翻訳知識の獲得は相対的には容易といえる．ただし，そのような対訳コーパスを人手で整備する必要がある点が短所である．一方，コンパラブルコーパスからの獲得(例えば，\cite{Rapp95a,Fung98a})では，各タームの周囲の文脈の類似性を言語横断して測定することにより，訳語対応の推定が行われる．情報源となるコーパスを用意するコストは小さくて済むが，対訳コーパスと比較すると，片方の言語のコーパス中のタームや表現の訳がもう一方の言語のコーパスに出現する可能性が相対的に低いため，翻訳知識の獲得は相対的に難しく，高性能に翻訳知識獲得を行うのは容易ではない．そこで，本論文では，翻訳知識獲得の目的において，人手で整備された対訳コーパスよりも利用可能性が高く，一般のコンパラブルコーパスよりも翻訳知識の獲得が容易である情報源として，日英二言語で書かれた報道記事に着目する．近年，ウェブ上の日本国内の新聞社などのサイトには，日本語だけでなく英語で書かれた報道記事も掲載されており，これらの英語記事においては，同一時期の日本語記事とほぼ同じ内容の報道が含まれている．これらの日本語および英語の報道記事のページにおいては，最新の情報が日々刻々と更新されており，分野特有の新出語(造語)や言い回しなどの翻訳知識を得るための情報源として，非常に有用である．そこで，本論文では，これらの報道記事のページから日本語および英語など，異なった言語で書かれた文書を収集し，多種多様な分野について，分野固有の人名・地名・組織名などの固有名詞(固有表現)や事象・言い回しなどの翻訳知識を自動または半自動で獲得するというアプローチをとる．本論文のアプローチは，情報源となるコーパスを用意するコストについては，コンパラブルコーパスを用いるアプローチと同等に小さく，しかも同時期の報道記事を用いるため，片方の言語におけるタームや表現の訳がもう一方の言語の記事の方に出現する可能性が高く，翻訳知識の獲得が相対的に容易になるという大きな利点がある．\begin{figure}\begin{center}\epsfile{file=FIG/pic01.ai,scale=0.6}\end{center}\vspace*{-.0cm}\caption{日英関連報道記事からの翻訳知識獲得のプロセス}\label{fig:pic01}\end{figure}本論文の翻訳知識獲得のアプローチにおいて，日英関連報道記事から翻訳知識を獲得するプロセスの一般的な流れを図~\ref{fig:pic01}に示す．まず，翻訳知識獲得のための情報源収集を目的として，同時期に日英二言語で書かれたウェブ上の新聞社やテレビ局のサイトから，報道内容がほぼ同一もしくは密接に関連した日本語記事および英語記事を検索する．この際には，既存の対訳辞書，翻訳ソフトの翻訳知識を利用することにより，日本語記事と英語記事の間の関連性を測定する．そして，取得された関連記事対に対し，内容的に対応する翻訳部分の推定を行い，その推定範囲から二言語間の訳語対応を推定し，訳語対の獲得を行う．ここで，従来のコンパラブルコーパスからの訳語対獲得のアプローチにおいては，原理的には，コンパラブルコーパスに出現する全ての日本語タームおよび英語タームの組を訳語対応の候補としていた．一方，本論文のアプローチでは，予備調査の結果~\cite{Utsuro03b,Horiuchi03aj}をふまえて，関連報道記事の組において共起した日本語ターム，および，英語タームの組を収集し，これを訳語対応の候補としており，この点が特徴的である\footnote{予備調査の結果~\cite{Utsuro03b,Horiuchi03aj}においては，関連報道記事の組において共起した日本語ターム，および，英語タームの組を訳語対応の候補とすることにより，不要な訳語対応の候補を大幅に削減できることが分かっており，本論文のアプローチが適切であることの裏付けとなっている．}．ただし，本論文で述べる手法の範囲では，現在のところ，関連記事中で内容的に対応する翻訳部分の推定は行なっておらず，関連記事対全体から訳語対応を推定している．また，訳語対応を推定する尺度としては，関連記事組における訳語候補の共起を利用する方法を適用し，評価実験を通して，この方法が有効であることを示す．特に，評価実験においては，訳語対応を推定すべき英語タームの出現頻度の分布に応じて，訳語対応推定性能がどのように変化するかを調査し，その相関を評価する．以下，\ref{sec:clir}~節では，翻訳知識獲得のための情報源収集を目的として，言語を横断して，報道内容がほぼ同一もしくは密接に関連した日本語記事および英語記事を検索する処理について述べる．次に，\ref{sec:msr}~節では，関連記事組の集合から訳語対応を推定する手法について述べる．\ref{sec:eval}~節において，実験を通して提案手法の評価を行ない，\ref{sec:related}~節において，関連研究について詳細に述べる．
V22N05-03	\label{sec_intro}近年，ブログ等の個人が自由に情報を発信できる環境の爆発的な普及に伴い，膨大なテキスト情報がWeb上に加速度的に蓄積され，利用できるようになってきている．これらの情報を整理し，そこから有益な情報を得るためには，「誰が」「いつ」「どこで」「何を」といった情報を認識するだけでなく，文に記述されている事象が，実際に起こったことなのかそうでないことなのかという情報を解析する必要がある．我々はこのような，文中の事象に対する，著者や文中の登場人物による成否の判断を表す情報を事実性と呼ぶ．\eenumsentence{\item[a.]\underline{\mbox{商品Aを使い}}始めた。\item[b.]\underline{\mbox{商品Aを使う}}のは簡単ではなかった。\item[c.]\underline{\mbox{商品Aを使っ}}てみたい。\item[d.]\underline{\mbox{商品Aを使っ}}ているわけではない。\item[e.]\underline{\mbox{商品Aを使っ}}ているはずだ。}\label{ex_ie}(\ref{ex_ie})に示す例は，いずれも「商品Aを使う」という事象が含まれるが，その事実性は異なる．(\ref{ex_ie}a)と(\ref{ex_ie}b)は，事象が成立していると解釈できる一方で，(\ref{ex_ie}c)と(\ref{ex_ie}d)は，事象は成立していないと解釈できる．さらに(\ref{ex_ie}e)は，事象の成立を推量していると解釈できる．評判分析などの文脈で，商品Aを使っているユーザの情報のみを抽出したい場合，(\ref{ex_ie})に示した全ての文に対して，「商品Aを使う」と照合するだけでは，(\ref{ex_ie}c)や(\ref{ex_ie}d)といった，商品Aを実際には使っていないユーザの情報まで抽出されてしまう．そこで事実性解析を用いると，(\ref{ex_ie}a)や(\ref{ex_ie}b)が実際に商品Aを使っており，(\ref{ex_ie}c)や(\ref{ex_ie}d)が使っていない，(\ref{ex_ie}e)は使っていない可能性がある，ということを区別することができる．事実性解析は，評判分析だけでなく，含意関係認識や知識獲得といった課題に対しても重要な技術である~\cite{Karttunen2005,Sauri2007,Hickl2008}．事実性解析は，事象が実際に起こったかを解析する技術ではあるが，真に起こったかどうかを与えられた文のみから判断することは不可能である．例えば，「太郎は先に帰ったはずです。」という文に対して，「太郎は帰った」という事象が真に事実か否かは，「太郎」にしか分からない．そこで本研究では，事実性を，文中の事象の成否について，著者の判断を表す情報と定義する．ただし，実際には著者の判断も真にはわからないため，著者の判断を読者がどう解釈できるかによって事実性を表す．前述の例では，著者は事象「太郎は帰った」の成立を推量していると読者は解釈できる．事実性の付与対象となる事象は，\citeA{Matsuyoshi2010}と同様に，行為，出来事，状態の総称であると定義する．\eenumsentence{\item[a.]雨が\event{降っ}$_{\mathrm{出来事}}$たら、バスで\event{行き}$_{\mathrm{行為}}$ます。\item[b.]\event{混雑}$_{\mathrm{状態}}$していたら、別のところに\event{行き}$_{\mathrm{行為}}$ます。}\label{ex:event}（\ref{ex:event}）に示す例では，「（雨が）降る」，「（バスで）行く」，「混雑する」，「（別のところに）行く」が全て事象である．\event{}で囲まれた述語は，それぞれの事象の中心となる語であり，事象参照表現（あるいは単に事象表現）と呼ぶ．アノテーションや解析において，事実性のラベルは事象表現に付与する．先行研究では，事実性だけでなく，時制などの関連情報についても，付与基準が議論されるとともに，コーパス構築が進められてきた~\cite{Sauri2009,Matsuyoshi2010,Kawazoe2011,Kawazoe2011_report}．日本語を対象とした事実性解析の研究は少なく，述部（本研究の事象表現に相当）に続く表現形式によるルールベースの解析~\cite{Umezawa2008SAGE}や，機械学習に基づく解析器~\cite{Eguchi2010_nlp}がある．前者はその性能は報告されていないが，後者の解析性能は，9種類の事実性ラベルの分類性能がマクロF値で48\%であり，実用上十分とはいえない．事実性解析の性能向上が困難である理由の一つは，事象表現に続く機能表現の多様性にある．詳しくは\ref{sec_factvalue}節で述べるが，例えば「\event{使わ}\underline{ない}」「\event{使う}\underline{わけない}」「\event{使わ}\underline{ねぇ}」「\event{使う}\underline{もんか}」のように，事象が成立しないことを示す機能表現（下線部）が多々ある．機能表現以外に，「\event{使う}のを\underline{やめた}」のように，文節境界を越えて事象の不成立を示唆する述語（下線部）の存在もあり，さらにこれらの要素の組み合わせが，事実性解析の性能向上を阻んでいる．本研究では，事実性解析の課題分析を行うために，機能表現のみを用いたルールベースの事実性解析器を構築し，1,533文に含まれる3,734事象に適用した結果の誤りを分析する．このとき全ての事象表現に続く機能表現に対して意味ラベルを人手で付与する．要素の組み合わせを解きほぐすために，3,734事象を，最も文末に近い主事象1,533事象と，それ以外の従属事象2,201事象に分割し，それぞれについて誤り分析を行う．誤り分析の結果，主事象の事実性解析については，機能表現の意味ラベルが正しく解析できれば，現在の意味ラベルの体系と本研究で用いた単純な規則だけでも，90\%に近い正解率が得られることがわかった．また，機能表現解析の問題を除けば，誤りの半数は副詞に起因するものであった．一方で，従属事象の事実性解析は，主事象に比べて考慮すべき要素が多いため，性能も低いことがわかった．従属事象でのみ考慮すべき要素は大きく二つあり，文節境界を越えて事実性に影響を与える述語と，従属事象に直接付随しない機能表現の影響である．前者は，既存の辞書のカバレッジを調査した結果，これを利用することで誤りの一部を解消できるものの，さらなる拡充が必要であることが分かった．後者は，問題となるケースは多様ではないことと，隣接する事象の機能表現が及ぼす範囲（スコープ）を精緻に判定することで概ね解決できることを確認した．
V25N01-03	オンラインショッピングでは出店者（以下，店舗と呼ぶ）と顔を合わせずに商品を購入することになるため，店舗とのやりとりは顧客満足度を左右する重要な要因となる．商品の購入を検討しているユーザにとって，商品を扱っている店舗が「どのような店舗か」という情報は，商品に関する情報と同じように重要である．例えば，以下に示す店舗A,Bであれば，多くのユーザが店舗Aから商品を購入したいと思うのではないだろうか．\begin{figure}[b]\begin{center}\includegraphics{25-1ia3f1.eps}\end{center}\hangcaption{楽天市場における店舗レビューの例．自由記述以外に6つの観点（品揃え，情報量，決済方法，スタッフの対応，梱包，配送）に対する購入者からの5段階評価（5が最高，1が最低）がメタデータとして付いている．自由記述部分を読むと，発送が遅れているにも関わらず，店舗から何の連絡も来ていないことがわかる．店舗からの連絡に関する評価は，評価対象となっている6つの観点では明確に捉えられていない．}\label{review}\end{figure}\begin{description}\item[店舗A:]こまめに連絡をとってくれ，迅速に商品を発送してくれる\item[店舗B:]何の連絡もなく，発注から1週間後に突然商品が届く\end{description}ユーザに対して店舗に関する情報を提供するため，楽天市場では商品レビューに加え，店舗に対するレビューの投稿・閲覧ができるようになっている．店舗レビューの例を図\ref{review}に示す．自由記述以外に6つの観点（品揃え，情報量，決済方法，スタッフの対応，梱包，配送）に対する購入者からの5段階評価（5が最高，1が最低）が閲覧可能である．この5段階評価の結果から店舗について知ることができるが，評価値からでは具体的にどう良かったのか，どう悪かったのかという情報は得られないのに加え，ここに挙がっている観点以外の情報も自由記述に含まれているため，店舗をより詳細に調べるには自由記述に目を通す必要がある．そのため，レビュー内の各文をその内容および肯定，否定といった評価極性に応じて分類することができれば，店舗の良い点，悪い点などユーザが知りたい情報へ効率良くアクセスできるようになり，今まであった負担を軽減することが期待できる．このような分類は，オンラインショッピングサイトの運営側にとっても重要である．例えば楽天では，より安心して商品を購入してもらえるように，ユーザに対する店舗の対応をモニタリングしており，その判断材料の1つとして店舗レビューの自由記述部分を用いている．そのため，レビューに含まれる各文を自動的に分類することで，問題となる対応について述べられた店舗レビューを効率良く発見できるようになる．こうした背景から，我々は店舗レビュー中の各文を記述されている内容（以下，アスペクトと呼ぶ）およびその評価極性（肯定，否定）に応じて分類するシステムの開発を行った．店舗レビュー中にどのようなアスペクトが記載されているのかは明らかでないため，まず無作為に選び出した店舗レビュー100件（487文）を対象に，各文がどのようなアスペクトについて書かれているのか調査した．その結果，14種類のアスペクトについて書かれていることがわかった．次いでこの調査結果に基づき，新しく選び出した1,510件の店舗レビュー（5,277文）に対して人手でアスペクトおよびその評価極性のアノテーションを行い，既存の機械学習ライブラリを用いてレビュー内の文をアスペクトおよびその評価極性に分類するシステムを開発した．アスペクト分類の際は，2つの異なる機械学習手法により得られた結果を考慮することで，再現率を犠牲にはするものの，1つの手法で分類する場合より高い精度を実現している．このように精度を重視した理由は，システムの結果をサービスや社内ツールとして実用することを考えた場合，低精度で網羅的な結果が得られるよりも，網羅的ではないが高精度で確実な結果が得られた方が望ましい場合が多いためである．例えば1つの機能として実サービスに導入することを考えた際，誤った分類結果が目立つと機能に対するユーザの信頼を失う要因となる．このような事態を回避するため，本手法では精度を重視した．以降，本稿では店舗レビュー中に記述されているアスペクト，機械学習を使ったアスペクト・評価極性の分類手法について述べた後，構築した店舗レビュー分析システムについて述べる．
V14N05-05	\label{sec:intro}日本語の解析システムは，1990年代にそれまでの研究が解析ツールとして結晶し，現在では，各種の応用システムにおいて，それらの解析ツールが入力文を解析する解析モジュールとして利用されるようになってきている．解析ツールを利用した応用システムの理想的な構成は，与えられた文を解析する解析ツールと，その後の処理を直列につなげた，図\ref{fig:cascade}に示すような構成である．例えば，情報抽出システムでは，応用モジュールは，解析ツールの出力データを受け取り，そのデータに抽出すべき情報が含まれているかどうかを調べ，含まれている場合にその情報を抽出する，という処理を行なうことになる．\begin{figure}[b]\input{05f1.txt}\end{figure}ここで，応用モジュールを，おおきく，次の2つのタイプに分類する．\begin{enumerate}\item{\bf言語表現そのもの（言語構造）を対象とする}応用モジュール例えば，目的格と述語の組を認識して，それらの数を数えるモジュール．\item{\bf言語表現が伝える情報（情報構造）を対象とする}応用モジュール例えば，「どのメーカーが，なんという製品を，いつ発売するか」という情報を抽出する情報抽出モジュール．\end{enumerate}後者のモジュールでは，どのような言語表現が用いられているのかが問題となるのではなく，どのような言語表現が用いられていようと，それが「どのメーカーが，なんという製品を，いつ発売するか」という情報を伝達しているのであれば，それを抽出することが要求される．われわれが想定する応用モジュールは，この後者のタイプである．応用システムにおいて，解析ツールは，「応用に特化しない言語解析処理をすべて担う」ことを期待される．しかしながら，現実は，そのような理想的な状況とは程遠く，応用モジュールを構築する際に，現在の解析ツールが放置しているいくつかの言語現象と向き合うことを余儀なくされる．そのような言語現象の具体例は，おおきく，以下の4種類に分類できる．\begin{description}\item[表記の問題]~~いわゆる「表記のゆれ」が放置されているので，これらを同語とみなす処理が必要となる．例えば，「あいまい」と「曖昧」，あるいは，「コンピューター」と「コンピュータ」．\item[単位の問題]~~複合語表現(multi-wordexpressions)の設定が不十分であるので，追加認定を行なう処理が必要となる．\item[外部情報源とのインタフェースの問題]~~語の認定が行なわれないので，他の外部情報源を利用する場合，文字列でインタフェースをとるしか方法がない．それぞれの情報源（例えば，一般の国語辞典）で，品詞体系や見出し表記が異なるので，かなりの辞書参照誤りが発生する．\item[異形式同意味の問題]~~言語表現は異なるが伝達する情報（意味）が同じものが存在するので，これらを同一化する処理が必要となる．\end{description}これらの問題に共通するキーワードは，「情報（意味）の基本単位」である．日本語の表現は，内容的・機能的という観点から，おおきく2つに分類できる．さらに，「表現を構成する語の数」という観点を加えると，表\ref{tab:classWord}のように分類できる．ここで，{\bf複合辞}とは，「にたいして」や「なければならない」のように，複数の語から構成されているが，全体として1つの機能語のように働く表現のことである．われわれは，機能的というカテゴリーに属する機能語と複合辞を合わせて{\bf機能表現}と呼ぶ．\begin{table}[b]\input{05t01.txt}\end{table}内容的表現に関しては，近年，上の4つの問題を解決するための研究が行なわれている．例えば，内容語に関しての研究\shortcite{Sato2004jc,JUMAN,asahara2005}や慣用表現に関しての研究\shortcite{Ojima2006,Hashimoto2006a,Hashimoto2006b}がある．その一方で，機能表現に関しては，大規模な数のエントリーに対して上記の問題を解決しようとする研究はほとんど存在しない．大規模な数の機能表現を扱ったものに，Shudoら\shortcite{Shudo2004}や兵藤ら\shortcite{Hyodo2000}による研究があるが，それらは，上記の問題を考慮していない．このような背景により，本研究では，自然言語処理において日本語機能表現を処理する基礎となるような{\bf日本語機能表現辞書}を提案する．この辞書は，大規模な数の機能表現に関して，上記の問題に対する1つの解決法を示す．本論文は，以下のように構成される．まず，第2章で，機能表現とその異形について述べる．次に，第3章において，日本語機能表現辞書の設計について述べる．第4章で，辞書の見出し体系として採用した，機能表現の階層構造について説明する．そして，第5章で，辞書の編纂手順について説明し，現状を報告する．第6章で，関連研究について述べ，最後に，第7章でまとめを述べる．
V27N02-07	機械翻訳は自然言語処理の初期から盛んに研究され，様々な手法が提案されてきているが，近年では，ニューラルネットワークを用いた機械翻訳(NeuralMachineTranslation;NMT)が高い精度を実現しており，主流となっている．NMTの中でも，特に，同一文内の単語間の関係を捉えるSelfAttentionという構造を用いたTransformer\cite{tf}に基づくNMTがstate-of-the-artの精度を達成し，注目を集めている．TransformerNMTは，従来の畳み込みニューラルネットワーク(ConvolutionalNeuralNetwork;CNN)に基づくNMT\cite{pmlr-v70-gehring17a}や再帰型ニューラルネットワーク(RecurrentNeuralNetwork;RNN)に基づくNMT\cite{NIPS2014_5346,D15-1166}と異なり，原言語文や目的言語文において，同一文中のすべての単語間の関連度をAttention(SelfAttention)で計算する．また，各単語の文中における位置情報はPositionalEncodingを用いて各単語の埋め込み表現に付随させることで，学習時に単語毎の並列処理を可能としている．Shawら\cite{relative}は，単語の位置情報として，2単語間の文中における相対的な位置関係の情報をSelfAttentionにおいて考慮することでTransformerNMTの翻訳精度の改善を実現した．これまで，統計的機械翻訳やNMT等では，原言語文や目的言語文，あるいはその両方の構文情報（句構造や係り受け構造など）を活用することで翻訳精度が改善されており\cite{syntax_smt,dep2seq,seq2dep,dep2dep}，近年，TransformerNMTにおいても構文情報が活用されてきている．しかし，Wuら\cite{dep2dep}やZhangら\cite{zhang-etal-2019-syntax}など，多くの従来研究ではTransformerNMTの外側に構文情報を考慮する機構を付加しており，TransformerNMTのモデル自体は改良されていない．本稿では，原言語側の係り受け構造に基づく2単語間の相対的位置情報をTransformerエンコーダのSelfAttentionで考慮する新たなTransformerNMTモデルを提案する．具体的には，Shawら\cite{relative}に倣い，原言語文を係り受け解析した結果得られる係り受け構造に基づく単語間の相対的位置関係を埋め込んだベクトルを単語埋め込みベクトルに付随させる．原言語側の係り受け構造に基づく2単語間の相対的位置情報を考慮することで，単語系列に対する位置情報のみを考慮するよりも正しく単語間の依存関係を捉えた目的言語文を生成できるようになり翻訳性能の改善が期待される．科学技術論文の概要から作成されたASPEC(AsianScientificPaperExcerptCorpus)\cite{aspec}データを用いた英日および日英翻訳実験により，原言語文の係り受け構造を相対的位置表現で考慮する提案モデルは，従来の係り受け構造を考慮しないTransformerNMTモデル\cite{tf,relative}よりも高い翻訳精度を達成できることを示す．特に，日英翻訳においては0.37ポイントBLEUスコアが上回ることを確認した．本稿の構成は以下の通りである．2節で本研究の関連研究について述べ，3節では提案モデルのベースとなる従来のTransformerNMTモデル\cite{tf,relative}について説明する．4節では本研究の提案モデルについて述べる．5節では本研究で行った実験とその結果の考察を行い，6節で本稿のまとめと今後の課題について述べる．%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
V08N01-01	近年，インターネットの普及とともに，個人でWWW(WorldWideWeb)を代表とするネットワーク上の大量の電子データやデータベースが取り扱えるようになり，膨大なテキストデータの中から必要な情報を取り出す機会が増加している．しかし，このようなデータの増加は必要な情報の抽出を困難とする原因となる．この状況を反映し，情報検索，情報フィルタリングや文書クラスタリング等の技術に関する研究開発が盛んに進められている．情報検索システムの中でよく使われている検索モデルに，ベクトル空間モデル\cite{salton}がある．ベクトル空間モデルは，文書と検索要求を多次元空間ベクトルとして表現する方法である．基本的には，文書集合から索引語とするタームを取り出し，タームの頻度などの統計的な情報により，文書ベクトルを表現する．この際，タームに重みを加えることにより，文書全体に対するタームの特徴を目立たせることが可能である．この重みを計算するために，IDF(InverseDocumentFreqency)\cite{chisholm}などの重みづけ方法が数多く提案されている．また，文書と検索要求を比較する類似度の尺度として，内積や余弦(cosine)がよく用いられている．この類似度計算により，類似度の高いものからランクづけを行い，ユーザに表示することができることもベクトル空間モデルの特徴のひとつである．ベクトル空間モデルを用いた検索システムを新聞記事などの大量の文書データに対して適用した場合，文書データ全体に存在するタームの数が非常に多くなるため，文書ベクトルは高い次元を持つようになる．しかし，ひとつの文書データに存在するタームの数は文書データ全体のターム数に比べると非常に少なく，文書ベクトルは要素に0の多い，スパースなベクトルになる．このような文書ベクトルを用いて類似度を計算する際には，検索時間の増加や文書ベクトルを保存するために必要なメモリの量が大きな問題となる．このため，単語の意味や共起関係などの情報を用いたり，ベクトル空間の構造を利用してベクトルの次元を圧縮する研究が盛んに行われている．このようなベクトルの次元圧縮技術には，統計的なパターン認識技術や線形代数を用いた手法などが用いられている\cite{Kolda}\cite{Faloutsos}．この中で，最も代表的な手法として，LSI(LatentSemanticIndexing)がある\cite{Deerwester}\cite{Dumais}．この手法は，文書・単語行列を特異値分解を用いて，低いランクの近似的な行列を求めるものであり，これを用いた検索システムは，次元圧縮を行わない検索モデルと比較して一般的に良い性能を示す．しかし，特異値分解に必要な計算量が大きいために，検索モデルを構築する時間が非常に長いことが問題となっている．上記の問題を解決するベクトル空間モデルの次元圧縮手法に，ランダム・プロジェクション\cite{Arriaga}が存在する．ランダム・プロジェクションは，あらかじめ指定した数のベクトルとの内積を計算することで次元圧縮を行う手法である．これまでに報告されているランダム・プロジェクションを用いた研究には，VLSI(VeryLarge-ScaleIntegratedcircuit)の設計問題への利用\cite{Vempala}や次元圧縮後の行列の特性を理論的に述べたものがある\cite{Papadimitriou}\cite{Arriaga}．しかし，これらの文献では，ランダム・プロジェクションの理論的な特性は示されているものの，情報検索における具体的な実験結果は報告されていない．そのため，情報検索に対するランダム・プロジェクションの有効性に疑問が残る．我々は，ランダム・プロジェクションを用いた情報検索モデルを構築し，評価用テストコレクションであるMEDLINEを利用した検索実験を行った．この検索実験より，情報検索における次元圧縮手法として，ランダム・プロジェクションが有効であることを示す．また，ランダム・プロジェクションを行う際にあらかじめ指定するベクトルとして，文書の内容を表す概念ベクトル\cite{Dhillon}の利用を提案する．概念ベクトルは文書の内容が似ているベクトル集合の重心で，この概念ベクトルを得る際，高次元でスパースな文書データ集合を高速にクラスタリングすることができる球面$k$平均アルゴリズム\cite{Dhillon}を用いる．これにより，文書集合を自動的にクラスタリングできるだけでなく，ランダム・プロジェクションに必要な概念ベクトルも同時に得ることができる．この概念ベクトルをランダム・プロジェクションで用いることにより，任意のベクトルを用いた検索性能と比較して，検索性能が改善されていることを示し，概念ベクトルを利用した次元圧縮の有効性を示す．
V15N05-08	多言語依存構造解析器に関して，CoNLL-2006\shortcite{CoNLL-2006}やCoNLL-2007\shortcite{CoNLL-2007}といった評価型SharedTaskが提案されており，言語非依存な解析アルゴリズムが多く提案されている．これらのアルゴリズムは対象言語の様々な制約---交差を許すか否か，主辞が句の先頭にあるか末尾にあるか---に適応する必要がある．この問題に対し様々な手法が提案されている．Eisner\shortcite{Eisner:1996}は文脈自由文法に基づくアルゴリズムを提案した．山田ら\shortcite{Yamada:2003}，およびNivreら\shortcite{Nivre:2003,Nivre:2004}はshift-reduce法に基づくアルゴリズムを提案した．Nivreらはのちに，交差を許す言語に対応する手法を提案した\shortcite{Nivre:2005}．McDonaldら\shortcite{McDonald:2005b}はChu-Liu-Edmondsアルゴリズム（以下「CLEアルゴリズム」）\shortcite{Chu:1965,Edmonds:1967}を用いた，最大全域木の探索に基づく手法を提案した．多くの日本語係り受け解析器は入力として文節列を想定している．日本語の書き言葉の係り受け構造に関する制約は他の言語よりも強く，文節単位には左から右にしか係らず，係り受け関係は非交差であるという制約を仮定することが多い．図\ref{fig_jpsen}は日本語の係り受け構造の例である．ここで係り受け関係は，係り元から係り先に向かう矢印で表される．文(a)は文(b)と似ているが，両者の構文構造は異なる．特に「彼は」と「食べない」に関して，(a)は直接係り受け関係にあるのに対して，(b)ではそうなっていない．この構文構造の違いは意味的にも，肉を食べない人物が誰であるかという違いとして現れている．\begin{figure}[b]\begin{center}\includegraphics{15-5ia8f1.eps}\end{center}\caption{日本語文の係り受け構造の例}\label{fig_jpsen}\end{figure}日本語係り受け解析では，機械学習器を用いた決定的解析アルゴリズムによる手法が，確率モデルを用いた，CKY法等の文脈自由文法の解析アルゴリズムによる手法よりも高精度の解析を実現している．工藤ら\shortcite{Kudo:2002}はチャンキングの段階適用（cascadedchunking，以下「CCアルゴリズム」）を日本語係り受け解析に適用した．颯々野\shortcite{Sassano:2004}はShift-Reduce法に基づいた時間計算量$O(n)$のアルゴリズム（以下「SRアルゴリズム」）を提案している．これらの決定的解析アルゴリズムは入力文を先頭から末尾に向かって走査し，係り先と思われる文節が見つかるとその時点でそこに掛けてしまい，それより遠くの文節は見ないので，近くの文節に係りやすいという傾向がある．\ref{sec:exp_acc}節で述べるように，我々はCLEアルゴリズムを日本語係り受け解析に適用した実験を行ったが，その精度は決定的解析手法に比べて同等あるいは劣っていた．実際CLEアルゴリズムは，左から右にしか係らないかつ非交差という日本語の制約に合っていない．まず全ての係り関係の矢印は左から右に向かうので，各ステップにおいて係り受け木にサイクルができることはない．加えて，CLEアルゴリズムは交差を許す係り受け解析を意図しているので，日本語の解析の際には非交差のチェックをするステップを追加しなければならない．工藤ら\shortcite{Kudo:2005j}は候補間の相対的な係りやすさ（選択選好性）に基づいたモデルを提案した．このモデルでは係り先候補集合から最尤候補を選択する問題を，係り元との選択選好性が最大の候補を選択する問題として定式化しており，京大コーパスVersion3.0に対して最も高い精度を達成している\footnote{ただし京大コーパスVersion2.0に対しては，颯々野の手法が最高精度を達成している．相対モデルと颯々野手法を同じデータで比べた報告はない．}．決定的手法においては候補間の相対的な係りやすさを考慮することはせず，単に注目している係り元文節と係り先候補文節が係り受け関係にあるか否かということのみを考える．また，この手法は，先に述べたCLEアルゴリズムに，左から右にのみ掛ける制約と非交差制約を導入した方法を拡張したものになっている．上にあげた手法はいずれも，係り元とある候補の係りやすさを評価する際に他の候補を参照していない\footnote{手法によっては係り元や候補に係っている文節や，周辺の文節の情報を素性として使用しているものもあるが，アクションの選択に重要な役割を果たす文節がこれらの素性によって参照される場所にあるとは限らない．}．これに対し内元ら\shortcite{Uchimoto:2000}は，（係り元，係り先候補）の二文節が係るか否かではなく，二文節の間に正解係り先がある・その候補に係る・その候補を越えた先に正解係り先がある，の3クラスとして学習し，解析時には各候補を正解と仮定した場合の確率が最大の候補を係り先として選択する確率モデルを提案している．また，金山ら\shortcite{Kanayama:2000}はHPSGによって係り先候補を絞り込み，さらに，三つ以下の候補のみを考慮して係り受け確率を推定する手法を提案している．本稿では，飯田ら\shortcite{Iida:2003}が照応解析に用いたトーナメントモデルを日本語係り受け解析に適用したモデルを提案する．同時に係り元と二つの係り先候補文節を提示して対決させるという一対一の対戦をステップラダートーナメント状に組み上げ，最尤係り先候補を決定するモデルである．2節ではどのようにしてトーナメントモデルを日本語係り受け解析に適用するかについて説明する．3節ではトーナメントモデルの性質について関連研究と比較しながら説明する．4節では評価実験の結果を示す．5節では我々の現在の仕事および今後の課題を示し，6章で本研究をまとめる．
V19N01-01	上位下位関係は自然言語処理の様々なタスクにおいて最も重要な意味的関係の一つであり，それゆえ盛んに研究されてきた\cite{hearst92,hovy09,oh09,ponzetto07,隅田:吉永:鳥澤:2009,suchanek07,nastase08,snow05}．これらの過去の研究では，上位下位関係を，「AはBの一種あるいはインスタンスであるAとBの関係」と定義している．本論文の上位下位関係もこの定義に従う．ただし，「概念」の詳細な表現を可能にするために，単一の語だけでなく，\xmp{黒澤明の映画作品}のような句や複合語も考慮する．このように制限を緩めることで，上位概念をより詳細に表現することが可能となる．上記の定義によれば，次のペアはいずれも上位下位関係にあると考えられる\footnote{本稿では上位下位関係を\isa{A}{B}のように表す．\xmp{A}が上位概念で\xmp{B}が下位概念である．}．\begin{enumerate}\item\isa{黒澤明の映画作品}{七人の侍}\label{enum:Kurosawa}\item\isa{映画作品}{七人の侍}\item\isa{作品}{七人の侍}\label{enum:work}\end{enumerate}質問応答等のアプリケーションを考えた場合，これらの上位下位関係の有用性は異なると考えられる．例えば，「``七人の侍''とは何ですか？」という質問に対して，上の3つの上位下位関係の上位概念のうち，答えとして適切なのは最も詳細な上位概念である(\ref{enum:Kurosawa})の「黒澤明の映画作品」と考えられる．一方，(\ref{enum:work})の上位概念「作品」は，「何の作品であるか」という必要な情報が欠落しているため「黒澤明の映画作品」という答えに比べて適切ではない．本論文では，以下の2つの条件を満たす場合に「下位概念Cに対して，AはBより詳細な上位概念」と呼ぶ．\begin{itemize}\itemAとBは同じ下位概念Cを持つ\itemBはAの上位概念である\end{itemize}上記の例では，全ての上位概念が「七人の侍」という同じ下位概念を持ち，かつ，上位概念間には，それぞれ上位下位関係が成り立つ．「黒澤明の映画作品」の上位概念は「映画作品」，または「作品」，さらに「映画作品」の上位概念は「作品」と考えられる．従って，下位概念「七人の侍」に対して「黒澤明の映画作品」は「映画作品」や「作品」より詳細な上位概念であり，「映画作品」は「作品」より詳細な上位概念と言うことができる．また，ある上位概念をより詳細な上位概念に置き換える処理を「上位概念の詳細化」と呼ぶ．本研究では，自動獲得した上位下位関係の上位概念と下位概念の間に，より具体的な上位概念を中間ノードとして追加することで，元の上位下位関係を詳細化する．中間ノードとして追加されるより具体的な上位概念は，元の上位下位関係が記述されているWikipedia記事のタイトルと元の上位概念を「AのB」の形式で連結することで自動獲得する．例として\isa{作品}{七人の侍}を挙げる．この上位下位関係は，タイトルが「黒澤明」のWikipedia記事の中に現れる．具体的には，当該記事の\xmp{作品}というセクションに\xmp{七人の侍}が記載されている．本手法では，この情報から，\xmp{七人の侍}は黒澤明の\xmp{作品}であると推測し，\isa{黒澤明の作品}{七人の侍}を新たに獲得する．さらに，\xmp{黒澤明}の上位概念が\xmp{映画監督}であることが獲得済みの上位下位関係から判明すれば，\isa{映画監督の作品}{七人の侍}も獲得できる．最終的に，元の\isa{作品}{七人の侍}から，\isaFour{作品}{映画監督の作品}{黒澤明の作品}{七人の侍}を得ることができる．本稿ではさらに，本手法により獲得した上位下位関係（例えば\isa{黒澤明の作品}{七人の侍}）が\attval{対象}{属性}{属性値}関係（例えば\attval{黒澤明}{作品}{七人の侍}）として解釈できることについて議論する．この解釈では，Wikipedia記事のタイトルが対象に，上位概念が属性に，下位概念が属性値に対応づけられる．実験で生成した上位下位関係2,719,441ペアは，94.0\%の適合率で，\attval{対象}{属性}{属性値}関係として解釈可能であることを確認した．以下，\ref{sec:hh-problems}節では，既存の手法で獲得された上位概念の問題点を例とともに述べる．\ref{sec:Base-hh}節では，Wikipediaからの上位下位関係獲得手法\cite{隅田:吉永:鳥澤:2009}について説明する．\ref{sec:proposed-method}節では，我々が開発した，Wikipediaを用いた詳細な上位下位関係の獲得手法について説明する．\ref{sec:evaluation}節では，提案手法の評価とエラー分析の結果について述べる．\ref{sec:discussion}節では，提案手法により獲得した詳細な上位概念をより簡潔に言い換える試みと，詳細な上位下位関係の\attval{対象}{属性}{属性値}関係としての解釈について議論する．\ref{sec:related-word}節で関連研究について述べる．最後に\ref{sec:conclusion}節で結論を述べる．
V26N01-01	\label{sec:intro}Universal\Dependencies\(UD)\\cite{mcdonald:2013}は，言語間で共通のアノテーション方式を用いて多言語の構文構造コーパス（ツリーバンク）を開発する国際プロジェクトである．多言語の構文構造コーパスを構築する試みはこれまでにも行われているが，言語ごとに独自のアノテーション方式（アノテーション対象，タグ，ラベルなど）が定義されていた\cite{hajivc-EtAl:2009:CoNLL-2009-ST}．UDは全ての言語で共通のアノテーション方式を用いるため，異なる言語間の構文的対応関係が明示的に記述される．したがって，多言語構文解析器の開発，構文解析器を用いた多言語アプリケーションの処理の共通化\cite{udpipe:2017}，コーパスを用いた言語間比較\cite{noji:2015}などさまざまな研究開発に利用されており，さらに2017年と2018年には国際会議において構文解析のsharedtaskが行われた\cite{zeman2017conll,udst2018:overview}．2018年6月現在，約60の言語で100以上のコーパスが開発・公開されており，国際的には構文解析研究においてもっとも重要なプロジェクトの一つと認識されている．日本語構文解析やその応用の研究を国際的な研究の俎上に載せ，国際的な研究の流れに取り残されないようにするためには，UDに基づく日本語コーパスの整備が必須である．UDでは，品詞（UniversalPOSTags;以降はUPOSと表記する）\cite{petrov:2012:lrec}や依存関係ラベル(UniversalTypedDependencyRelation)があらかじめ定義されており，全ての言語のコーパスはこれに従ったアノテーションを行うことが求められる．しかし，\ref{sec:japanese}節以降で示すように，UDの仕様を各言語に適用する際にタグやラベルが一意に決定できない事象が多数存在し，UPOSや依存関係ラベルで各言語の実際のテキストデータをどのようにアノテートすべきかは自明でない．日本語も例外ではなく，現在のUDの定義を適用するためには，日本語の構文構造の特性や他の言語との対応関係を考慮しながら，日本語用のアノテーション仕様を定義する必要がある．著者らは，UDにおいて日本語コーパスを開発することを目指して，品詞および依存関係ラベルの仕様を策定し，UDへの自動変換に必要な言語資源を整備し，既存の日本語コーパスをUDに準拠したコーパスに変換するプログラムの開発を進め，UDとしての正解データの構築に努めてきた．このような努力にもかかわらず，現在までに開発してきたデータは，仕様の策定・変換元の言語資源の整備・変換プログラムのいずれかに問題があるために，UDの仕様に完全に則したものに至っていない．残された問題については定量的に評価することは困難であるが，発見次第，仕様の変更・必要な言語資源の整備・変換プログラムの修正を行いながら，随時改善を行っている．本稿では，これまでに策定した日本語UDの定義と，それに至るまでの主要な論点を紹介し，特に問題となる並列構造の扱いについて議論しながら，今後の日本語UDあるいはUD全体の改善について展望を述べる．まず，\ref{sec:ud}節でUDの概要について解説する．\ref{sec:japanese}節では，UDに基づいた日本語の構文アノテーションを行うための，語の単位，品詞体系，依存構造ラベルの定義について述べる．しかしながら，UD本体の仕様が言語横断的に必ずしも整合していないために，日本語に適応する上で様々な問題がある．本稿で述べる定義に至るまでに主として議論されてきた点を\ref{sec:discussion}節にて列挙しながら，既存の言語資源やツールに情報が足りないものや，UDの基準を日本語に適用する際に問題が起きる事象について定義を与えていく．なお，未解決の問題について網羅的に言及することは困難であるため，コーパスにおける頻度が大きい代表的な問題についてのみ触れる．\ref{sec:coord}節では，依存構造木で本質的にそのスコープを表現できない並列構造の扱いについて議論する．以上の定義に従って開発されたUD日本語版の言語リソースや，その構築の手順や公開の状況を\ref{sec:resources}節にて紹介する．\ref{sec:related}節で本稿に散在する先行研究をまとめる．\ref{sec:summary}節で今後の展望について述べる．
V20N02-02	\label{First}ロボットと人間との関係は，今後大きく変化していくと考える．今までのような単純な機械作業だけがロボットに求められるのではなく，例えば施設案内や介護現場のサポート，愛玩目的，ひいては人間と同じようにコミュニケーションを行うパートナーとしての存在も要求されると考える．このとき，人間との円滑なコミュニケーションのために必要不可欠となるのが会話能力である．あいさつや質問応答，提案，雑談といった様々な会話を人間のように行えてこそ，自然なコミュニケーションが実現すると考える．ロボットがこういった会話，とくに提案や雑談といった能動的なものを行うためにはそのためのリソースが必要である．例えば日々の時事情報が詰まった新聞などは，情報量の多さや入手の手軽さ，話題の更新速度などから言っても適当なリソースといえる．この新聞記事によって与えられる時事情報を会話の話題として利用することは，ロボットに人間らしい会話を行わせるためには有効なのではないかと考えた．新聞記事を利用した会話をロボットに行わせる最も簡単な方法は，新聞記事表現を会話テンプレートに埋め込むといったものと考える．このとき問題になるのが新聞記事表現の難解さである．新聞のように公に対して公開される文章は短い文で端的に内容を表すため，馴染みの薄い難解な言葉，俗にいう「堅い」言葉を多く使う．これらの言葉は文章として読むには違和感はないが，会話に用いるには自然ではないことが多い．例えば「貸与する」という言葉は会話では「貸す」という言い方をするほうが自然である．また，一般的にはそう難解ではない言葉，例えば「落下した」という言葉も会話ということを考えると「落ちた」のような更に易しい表現の方が馴染みやすいと感じる．つまり会話に用いられる言葉と新聞といった公的な文中に用いられる言葉の間には，同じ意味を表すにしても難易度や馴染みの深さに違いがある．ロボットの発話リソースとして新聞を用いることを考えると，このような語の馴染みの違いに考慮しなければならない．そこで本稿ではロボットと人間との自然な会話生成を担う技術の一端として，新聞記事中の難解な語を会話表現に見あった平易な表現へと変換する手法を提案する．本稿では変換後の記事をより人間にとって違和感の無いものとするために，人間が自然に行う語の変換に則った処理を提案する．つまり，語をそれと同じもしくは近い意味の別の平易な1語に変換する1：1の変換処理（1語変換）および語を平易な文章表現に変換する1：$N$の変換処理（$N$語変換）の双方を併用することで人間が自然だと感じる語の変換を目指す．語の難解さ，平易さの判断には\cite{Book_01}で報告されている単語親密度を用いる．これは語の「馴染み深さ」を定量化した数値であり，新聞記事に用いられる語と一般的な会話に用いられる語の間にある単語親密度の差を調査することで新聞記事中の難解語を自動的に判断，平易な表現への変換を可能とする．また，変換処理を行う上で重要な意味の保持に関しては，人間の連想能力を模倣した語概念連想を用いることでそれを実現する．語と語，文と文の間の意味関係を柔軟に表現することを目指した語概念連想の機構を利用することで，変換前の記事が持つ意味を考慮した変換を行う．
V25N01-01	人工知能分野の手法や技術を，金融市場における様々な場面に応用することが期待されており，例えば，膨大な金融情報を分析して投資判断の支援を行う技術が注目されている．その一例として，日本銀行が毎月発行している「金融経済月報」や企業の決算短信，経済新聞記事をテキストマイニングの技術を用いて，経済市場を分析する研究などが盛んに行われている\cite{izumi,kitamori,Peramunetilleke,sakai1,sakaji}．日経リサーチでは，各種データを収集し，様々なデータベースを構築している．データ処理にあたっては，たとえばXBRL形式のように値に付与されたタグ等の付加情報を利用し，自動分類によるデータベース化を行っている．しかしデータ分類用付加情報が付与されているデータはまだ少数で，データベース構築の多くは自動分類化がすすんでおらず，人手をかけた作業による分類が大半を占めている．手作業で必要な情報を抽出するには，専門的知識や経験が必要となる．そのような環境の中，「株主招集通知の議案別開始ページの推定」を研究課題として設定した\footnote{株主招集通知から推定するべき情報は人事案件など他にもあり，そのような他テーマへの応用も可能である．}．企業が株主総会を開催する場合，企業は招集の手続きが必要になる．会社法では公開会社である株式会社が株主総会を招集する場合，株主総会の日の二週間前までに，株主に対してその通知を発しなければならないと定めている（会社法第二百九十九条）．また，株式会社が取締役会設置会社である場合，その通知は書面で行わなければならない（会社法第二百九十九条第二項）．この株主総会に関する書面通知が株主招集通知である．取締役会設置会社においては，定時株主総会の招集の通知に際し，取締役会の承認を受けた計算書類及び事業報告を提供しなければならない，株主総会の目的が役員等の選任，役員等の報酬等，定款の変更等に係る場合，当該事項に係る議案の概要を通知する必要がある等，会社法および株主招集通知にて通知する事項は会社法および会社法施行規則で定められている（会社法第二百九十八条，会社法施行規則第六十三条）．一般的な株式公開会社の株主招集通知は，株主総会の日時・場所・目的事項（報告事項・決議事項）が記載される他，参考書類・添付書類として決議事項の議案概要，事業内容等の株式会社の現況に関する事項，株式に関する事項，会社役員に関する事項，会計監査人の状況，計算書類，監査報告書等が記載される．記載内容が法令で定められている株主招集通知だが，有価証券報告書等のように様式が定められておらず，その形式は記載順序や表現方法を含め各社で異なっており，ページ数も数ページのものから100ページを超えるものもある．今回の研究の対象は，株主招集通知に記載されている決議事項に関する議案である．議案については，その記載がどのページにあるか，何の事項の前後に記載されるかは各社各様であり，多様なパターンを識別するには株主招集通知を読み解く経験を積む必要があった．従来は抽出したい議案（「取締役選任」「剰余金処分」などの項目）が報告書のどのページに記載されているか人手により確認し，データを作成していたが，各社で報告書のページ数や議案数が異なるため，確認に時間を要していた．現状は，株主招集通知を紙で印刷するとともに，PDFファイルで取得，人手にてデータベースに収録，校正リストの出力，チェックという流れで収録業務を行っている．ここで，抽出したい議案がその報告書にあるのか，どのページに記載されているのかが自動で推定できれば，時間の短縮やペーパーレス化などの業務の効率化につながる．したがって本研究の目標は，株主招集通知の各ページが議案の開始ページであるかそうでないかを判別し，さらに，開始ページであると判断されたページに記述されている議案が，どのような内容の議案であるかを自動的に分類することである\footnote{上記のようなアプローチを採用した理由は，最初に議案の開始ページを推定することで，議案分類に使用する文書を絞り込むためである．}．株主招集通知の開示集中時期には，短時間に大量の処理を進めるため，臨時的に収録作業者を配置し，データ入力を行う．臨時作業者には，株主招集通知の理解から始まり，収録定義に関する教育時間や練習時間が2日程度必要となる．この教育時間を経て，実際のデータ入力を始めると，慣れるまでは1社あたりのデータベース化に1時間半〜2時間を要し，本研究で対象としている議案分類のみの作業でも，慣れた作業者さえ数分かかる．特に議案など必要なページにたどりつくまでに株主招集通知を一枚一枚めくって探すこと，議案分類について議案タイトルやその詳細から対応する語を見つけ出すことに時間を要している．処理・判断が早くなるには，各社で異なる株主招集通知の構成を見極め，構造の特徴をつかむことが必要になる．しかし，これらの勘をつかむには，およそ1週間程度かかっている．さらに，信頼性の高いデータ収録ができるようになるには，3ヶ月以上を要している．本研究によるシステムによって，これらの構造理解と勘の習得が不要になると共に，議案の開始ページの推定や議案内容が分類されることにより，当該部分の1社あたりにかかる処理時間の短縮が期待される．さらに，理解の十分でない作業者の判断ミスや判断の揺れが減少し，信頼度の高いデータ生成を支えることとなる．その結果，データベース収録に係る人件費の削減と，データベース化に伴うデータ収録の早期化をはかることが可能となる．一般的に株主は，株主招集通知に掲載されている議案を確認し，「この議案に賛成もしくは反対」の判断をしている．多数の企業の株式を保有している株主は，これに時間がかかることが推測される．株主招集通知に載っている議案が分類されれば，議案の内容をより早く把握することができ，判断に集中できるようになると考える．ここで，本論文で提案するシステムの全体像について述べる．本論文で提案するシステムは，株主招集通知を入力として，表\ref{sc_miss}に示すような結果を返すシステムである．この結果を得るためには，まず議案が何ページから記載されているのかを推定する必要がある．そして推定したページに対して，議案がいくつ存在し，どの議案分類に分類されるかを自動で行う．\begin{table}[t]\caption{出力結果}\label{sc_miss}\input{01table01.tex}\end{table}本論文の第2章では議案がある開始ページの推定について述べる．第3章から第5章では各議案分類の手法について詳細な内容について述べる．第6章では各手法の評価を適合率，再現率，F値を用いて述べる．第7章では第6章の評価結果を踏まえて考察を述べる．第8章では応用システムについて述べる．第9章では関連研究について述べ，関連研究と本研究の違いについて述べる．\begin{figure}[b]\begin{center}\includegraphics{25-1ia1f1.eps}\end{center}\caption{株主招集通知のテキストデータ変換の例1}\label{expdf1}\end{figure}\begin{figure}[b]\begin{center}\includegraphics{25-1ia1f2.eps}\end{center}\caption{株主招集通知のテキストデータ変換の例2}\label{expdf2}\end{figure}
V31N04-07	\label{sec:intro}word2vec\cite{Mikolov2013}をはじめとする\emph{単語分散表現}やBERT\cite{Devlin2019-ri}に代表される\emph{事前学習済み言語モデル}\footnote{本研究では，BERTのようなマスク型言語モデルも含めて，広義の言語モデルとみなす．}など，大量の学習コーパスを用いて事前学習したニューラルネットワークのモデルの利活用が一般的になっている．研究者や実務者はこのような\emph{事前学習済みモデル}を，各々のタスクに合わせて利用し，必要に応じてファインチューニングする．公開されている事前学習済みモデルやAPIを起点とするのが一般的ではあるが，個別の用途に合わせた独自の事前学習済みモデルを構築することにも大きな利点がある\cite{Zhao2023-hy}．事前学習済み言語モデルに関しては，例えばドメイン特化のSciBERT\cite{Beltagy2019-wt}，BioBERT\cite{10.1093/bioinformatics/btz682}，FinBERT\cite{araci2019finbert}が提案され，下流のドメイン固有タスクで一般的なBERTに比べ優れた性能を発揮している．単語分散表現でも，独自コーパスでモデルを構築する研究や応用が数多くある\cite{lassner-etal-2023-domain}．独自の事前学習済みモデルを構築・運用する際には，事前学習時に存在しなかった新しいテキストに対する性能劣化に注意しなければならない\cite{ishihara-etal-2022-semantic}．言語は社会的事象の発生などを理由に常に変化し続けている\cite{Traugott2017-ui}．特に単語の通時的な意味変化は\textbf{セマンティックシフト(SemanticShift)}と呼ばれ，事前学習済みモデルの\emph{時系列性能劣化}\footnote{本研究では，事前学習済みモデルの性能が，事前学習時に存在しなかった新しいテキストに対して劣化する現象を時系列性能劣化と呼ぶ．}を引き起こすと指摘されている\cite{Loureiro2022-mj,Mohawesh2021-pc}．時系列性能劣化を計測する最も素朴な方法は，実際に新しいテキストを学習コーパスを加えて事前学習済みモデルを構築し，ファインチューニングをして新しいテキストに対する推論を行い，性能を評価し比較することである（図\ref{fig:project_overview}上）．しかし，大規模な事前学習済みモデルの構築・ファインチューニング・推論には膨大な計算量が必要なため，費用や時間の側面が実用上の課題となる．特に事前学習済み言語モデルは，性能に関する経験的なスケーリング則\cite{Kaplan2020-vr}の存在に後押しされて大規模化が加速しており，時系列性能劣化の計測にかかる費用・時間も増大している\footnote{たとえば175億のパラメータサイズを持つGPT-3\cite{NEURIPS2020_1457c0d6}は事前学習に数千petaflop/s-dayの計算資源を消費した．}．%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%F1\begin{figure}[t]\begin{center}\includegraphics{31-4ia6f1.pdf}\end{center}\hangcaption{本研究の問題設定の概要図．学習コーパス内の単語の通時的な意味変化に着目し，事前学習済みモデルの時系列性能劣化を，実際に計測する以前に監査するための手法を開発する．}\label{fig:project_overview}\end{figure}%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%本研究の目的は，事前学習済みモデルの時系列性能劣化を，事前学習・ファインチューニング・推論を実施することなく監査する枠組みの開発である（図\ref{fig:project_overview}下）．我々は事前学習済みモデルの時系列性能劣化は学習コーパス内の単語の通時的な意味変化に起因するという仮説を定め，セマンティックシフトの研究領域の知見を応用した監査指標\emph{SemanticShiftStability}を設計する（\ref{sec:proposed-method}節）．この指標は，異なる時間幅の学習コーパスを用いて作成された2つのword2vecモデルを比較することで計算される．word2vecモデルは比較的低コストで作成できる．事前学習済み言語モデルを追加で事前学習・ファインチューニング・推論することなく，時系列性能劣化を推測できれば，優れた監査の仕組みとなる．提案する監査の枠組みの有用性を検証するため，まず予備実験として事前学習済みモデルの時系列性能劣化を観察した（\ref{sec:degradation}節）．具体的には，日本語のRoBERTaモデル\cite{Liu2019-vu}と，日本語・英語のword2vecモデルを，学習コーパスの期間を変えてそれぞれ11ずつ作成した．その後，これらのモデルの時系列性能劣化を監査するという設定で，提案する指標を活用する実験を行った（\ref{sec:experiments}節）．この実験を通じて，学習用コーパス間の単語の通時的な意味変化も大きい際に，モデルの時系列性能劣化が発生していると分かった．提案する指標の利点を活かし，意味が大きく変化した単語から原因を推察した結果，2016年の米大統領選や2020年の新型コロナウイルス感染症の影響が示唆された．本研究の主要な貢献は，以下の通りである．\begin{enumerate}\setlength{\parskip}{0cm}%\setlength{\itemsep}{0cm}\itemセマンティックシフトの研究領域の新たな応用として，事前学習済みモデルの時系列性能劣化を監査する枠組みを提案した．さらにセマンティックシフトに関する既存研究を拡張し，効率的に計算可能な監査指標SemanticShiftStabilityを設計した.\item学習コーパスの期間が異なる英語と日本語の事前学習済みモデルを作成して，時系列性能劣化の存在を明らかにした上で，設計した監査の枠組みの有用性を検証・議論した．\end{enumerate}%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%S2
V26N02-06	登場人物（キャラクタ）は小説，コミック，アニメ，ドラマ，映画などの物語世界における重要な構成要素の一つであり，ライトノベルのように「キャラクタ中心の物語」(メイナード2012)\nocite{maynard:2012}すら存在する．近年は，ユーザの命令に従ってタスクを実行したり，会話をしたりする対話エージェントにおいても，エージェントのキャラクタが重視されるようになり，マイクロソフトの「りんな」\footnote{https://www.rinna.jp/}をはじめとして，特定のキャラクタを冠した対話エージェントが数多く作られている\footnote{https://www.nttdocomo.co.jp/service/shabette\_concier/shabette\_chara/}$^{,}$\footnote{http://line.froma.com/}$^{,}$\footnote{http://mezamane.com/}$^{,}$\footnote{https://narikiri-qa.jp/oreimo-ayase/login.html}．物語でも対話エージェントでも，それぞれのキャラクタの発話には，それぞれのキャラクタらしさが表れる．特定の人物像（キャラクタ）と結びついた話し方の類型は役割語\cite{kinsui:2011:nihongo}と呼ばれ，「老人語」「幼児語」「お嬢様言葉」など，どのようなキャラクタがどのような表現を使うのか，文法的な特徴はあるか\cite{kinsui:2011}などについて，様々な研究が行われてきた．我々が目指しているのは，キャラクタらしさを表す言語的特徴をうまく捉えて，その特徴を備えた発話テキストを自動生成する仕組みを実現すること，そして，その仕組みを対話エージェントの発話の自動生成や，小説の自動生成\cite{sato:2015}に適用することである．我々はこれまで，文末表現をはじめとする機能語の語彙選択に着目し，例えば，「これはひどい\underline{な}」という発話を「これはひどい\underline{わね}」のように変換する手法\cite{miyazaki:paclic29,miyazaki:jsai2016}を提案してきた．しかしながら，機能語の語彙選択による表現力には限界がある．具体的な課題としては，性別や年代といった大まかなキャラクタらしさを表現することはできても，それ以上に細かなキャラクタらしさを表現することが難しい点が挙げられる．例えば，「これはひどいな」の文末表現「な」を「や」に置き換えて「これはひどいや」とすると，「どちらかというと男性らしい」「それほど高齢ではなさそう」という程度のキャラクタらしさは表現できても，これに加えて「もう少し粗野な感じにしたい」といった細かな調整は難しい．そこで，キャラクタらしさの表現力を高める方策として新たに着目したのが，「こりゃひでえや」（元の形：「これはひどいや」）のような，発話テキストに文字として現れる{\em音変化}である．音変化を任意の発話テキストに対して人為的に施す仕組みを作れば，これを利用してキャラクタらしさの表現力を高めることができると考えられる．この仕組み作りに向け，本研究では，テキストに文字として現れる音変化を{\em音変化表現}と名付け，日本語のキャラクタの発話に現れる音変化表現にどのような種類が存在するのかを調査する．具体的には，音変化表現と呼ぶべき事例を収集し，どのような環境下でどのような音変化が起きるかを示すパターンとして整理する．音変化表現のパターンを分類する目的は2つある．1つ目は，音変化表現の生成のためである．具体的には，どのような環境下でどのような音変化が起きるかを示すパターンを作成すれば，「ひどい」から「ひでえ」や「ひどーい」を生成するなど，音変化のない表現から音変化のある表現を人為的に生成することができると考えている．人為的に生成された音変化表現は，形態素解析用の辞書に登録して利用するなどの用途も考えられる．2つ目は，発話テキストに表れるキャラクタらしさの分析，および，発話テキストへのキャラクタらしさの付与のためである．一口に音変化表現と言っても，「ひでえ」と「ひどーい」とでは，その言葉を発する人物として想像されるキャラクタが大きく違ってくる．音変化表現をパターンとして分類することは，この違いを捉えるうえで非常に意味がある．小説やコミックの発話テキストの分析においては，発話に現れる音変化表現のパターンを調べることで個々のキャラクタの特徴を捉えることができ，対話エージェントの発話や小説のセリフの自動生成においては，特定のパターンの音変化表現を使用することで，生成する発話やセリフにキャラクタらしさを付与できるようになると考えている．音変化は従来より音声学や音韻論の観点から分析されており，『現代言語学入門2日本語の音声』\cite{kubozono:1999}で取り上げられているように，「早う」のようなウ音便が子音+母音の連続から子音が消えて母音が残る現象(e.g.,haya+ku→hayau→hayoo)であること(p.~40)，幼児が「何ですか」を「何でちゅか」と言うのは発音器官が未発達なためにサ行の子音を破擦音の[t{\kern0em}\UTF{0283}{\kern-0.5em}]で代用する現象であること(p.~44)，「すごい」と「すげえ」のような丁寧な発音とぞんざいな発音の間に見られる音変化は母音融合とそれに伴う代償延長で構成される現象であること(pp.~182--183)，「書いておこう」が「書いとこう」に変化するのは母音で始まる音節を避けようとする現象であること(p.~218)，「めえ（目）」のように近畿方言の1モーラ語が2モーラの長さに発音されるのは1モーラの長さの語を避けようとする制約による現象であること(p.~224)など，様々な現象について既に知られている．これに対し，本研究で行いたいのはテキスト処理の観点からの分析であり，テキストに文字として現れる音変化をテキスト処理で利用しやすい知識として整理するのが本研究の目的である．本研究では，音変化表現のパターンを提案するとともに，小説やコミックのキャラクタの発話を対象とした検証実験を通して，本研究で提案するパターンの網羅性を確認する．さらに，発話文の話者（キャラクタ）を推定する実験を通して，音変化表現のパターンが，発話のキャラクタらしさを特徴付けるための有効な手段となることを示す．
V31N02-12	やさしい日本語とは，語彙や文法に制限を加えた，外国人や高齢者など多くの人にとってわかりやすい日本語のことである．現在の日本では，多様な国籍の在留外国人約300万人\footnote{\url{https://www.moj.go.jp/isa/content/001381744.pdf}}が生活しており，このような日本語非母語話者に対する情報伝達の手段として，やさしい日本語の活用およびやさしい日本語へのテキスト平易化の技術\cite{alva-manchego-etal-2020-data}が期待されている．テキスト平易化とは，文の意味を保持しつつ，難解な文を平易に言い換えるタスクのことである．テキスト平易化は，非母語話者\cite{wreo15332}や子ども\cite{belder-2010,kajiwara-2013}，失語症などの言語障害を持つ人々\cite{1998Practical,Dyslexia,autism}の文章読解を支援し，他の自然言語処理タスク\cite{chandrasekar-etal-1996-motivations,Silveira2012EnhancingMS,stajner-popovic-2016-text}の性能を改善する．近年の研究では，テキスト平易化を同一言語内の機械翻訳の問題として扱い\cite{alva-manchego-etal-2020-data}，難解な文と平易な文からなるパラレルコーパスを用いて，系列変換モデル\cite{vaswani-2017}を訓練する．本研究では，日本語を対象に，テキスト平易化モデルを訓練および評価するためのパラレルコーパスを構築する．パラレルコーパスに基づくデータ駆動のテキスト平易化は，英語を中心にドイツ語\cite{klaper-etal-2013-building,sauberli-etal-2020-benchmarking}やイタリア語\cite{brunato-etal-2016-paccss}など多くの言語で研究されている．英語では，非母語話者向けのSimpleWikipediaや専門家によって子供向けに書かれたニュース記事から，文アライメントによって自動構築されたパラレルコーパス\cite{coster-kauchak-2011-simple,xu-etal-2015-problems,jiang-etal-2020-neural}が公開されている．日本語では，学生やクラウドワーカにより平易化されたSNOW\footnote{\url{https://www.jnlp.org/GengoHouse/snow/t15}}\cite{maruyama-yamamoto-2018-simplified,katsuta-yamamoto-2018-crowdsourced}や，テキスト平易化の専門家によって平易化されたJADES\footnote{\url{https://github.com/naist-nlp/jades}}\cite{hayakawa-etal-2022-jades}がある．SNOWは，教科書などの日本語文\footnote{\url{http://www.edrdg.org/wiki/index.php/Tanaka_Corpus}}を，非専門家が文単位で平易化した大規模なパラレルコーパスである．SNOWの平易化は，作者らによって定義された基礎語彙2,000語\footnote{\url{https://www.jnlp.org/GengoHouse/list/語彙}}に基づくため，この語彙で網羅できない表現については，却ってわかりにくい言い回しが見られる．そのため，SNOWに含まれる低品質な文対を除外するパラレルコーパスフィルタリング\cite{hatagaki-etal-2022-parallel}が研究されている．JADESは，WMT20\cite{barrault-etal-2020-findings}日英ニュース翻訳タスクの検証・評価用サブセットを，専門家が文単位で平易化した小規模なパラレルコーパスである．表~\ref{tab:corpus_kind}に示すように，既存の日本語テキスト平易化パラレルコーパスには，高品質かつ大規模なコーパスは存在しない．本研究では，高品質かつ大規模な日本語のテキスト平易化パラレルコーパスを構築するために，日本語のWeb記事とその専門家による平易化版の記事対から人手で文アライメントをとる．我々が構築したテキスト平易化パラレルコーパスの1.6万文対について分析したところ，本コーパスは既存の大規模コーパスであるSNOWよりも多様な平易化操作を含み，専門家が構築したJADESよりも解釈性と正確性の高い平易化が行われていることを確認できた．また，MATCHAで訓練したテキスト平易化モデルは，SNOWで訓練したモデルに比べて，解釈性と正確性の高い平易化ができることを確認した．本研究で構築した日本語のテキスト平易化パラレルコーパスMATCHAはGitHub\footnote{\url{https://github.com/EhimeNLP/matcha}}で公開した．%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%table1\begin{table}[t]\input{11table01.tex}%\caption{日本語テキスト平易化コーパスの特徴}\label{tab:corpus_kind}\end{table}%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
V10N04-05	著者らは，実用に近い日本語--ウイグル語機械翻訳システムの実現を目指して一連の研究をしてきた\cite{NLC93,MSTHESIS,MUHPARAM,PRICAI94,MUH_OGA2001,OGAWA2000,MT_SUMMIT2001,MUH_NLT_2002}．その過程で，一定の語彙数を持つ日本語--ウイグル語電子辞書の開発が不可欠であると考え，その開発に着手した．その時点では，日本語--ウイグル語に関する通常の辞書さえない状況であった．最初は，日本語--ウイグル語機械翻訳実験用の基本的な辞書の開発を考えて，IPAの計算機用日本語基本動詞辞書IPAL\cite{IPAL}をベースに，名詞や形容詞などを含め，約1,200語の日本語--ウイグル語電子辞書を作成した\cite{NLC93,MSTHESIS}．IPAL動詞辞書には，日本語の動詞のうちで語彙体系上ならびに使用頻度上重要であると考えられる基本的な和語動詞861語が含まれている．両言語のなかで特に格助詞を含む名詞接尾辞と動詞接尾辞が動詞と密接な関係にあり，日本語--ウイグル語機械翻訳においても，動詞が重要であるため，IPAL動詞辞書を選んだ．しかし，1,200語前後の辞書では不十分であり，実用に近い機械翻訳システムの実現には，少なくとも日常使われる最低限の語彙を含む日本語--ウイグル語電子辞書の開発が必要であるとの考えに至った．そこで，我々はまずウイグル語--日本語辞書であるウイグル語辞典\cite{UJDIC}を電子化して機械可読にし，その逆辞書を自動的に生成するという方針で本格的な日本語--ウイグル語電子辞書の開発に着手した\cite{UJDICE,JUDICGEN}．辞書開発は，著者らが行なったが，その内の一人は十分な日本語能力を有するウイグル語ネイティブ話者である．日本語--ウイグル語電子辞書の開発作業は次のような段階に分けて行なった．\\\begin{enumerate}\itemウイグル語--日本語電子辞書の作成\begin{itemize}\item[1-1.]ウイグル語辞典\cite{UJDIC}のデータの電子化と項目タグの付与\item[1-2.]各項目の修正および品詞の付与\end{itemize}\item日本語--ウイグル語電子辞書の作成\begin{itemize}\item[2-1.]ウイグル語--日本語辞書から日本語--ウイグル語辞書を自動生成\item[2-2.]各見出し語の検査および修正\item[2-3.]機械翻訳システムで利用できる形式への変換\end{itemize}\end{enumerate}各作業の詳細については，2章以降で順次説明する．こうした一連の作業を行なった結果，語彙数約20,000語の日本語--ウイグル語電子辞書を作成することができた．著者らは，この辞書が日常よく使われる語彙をどの程度見出し語として採録しているかを調べるために，\\\begin{itemize}\item[a.]国立国語研究所の教育用基本語彙\cite{KOKKEN}6,104語中のより基本的とされている2,071語に対する収録率，\item[b.]EDRコーパス\cite{EDRCORPUS}の日本語テキスト文に含まれる単語の上位頻度2,056語に対する収録率\end{itemize}\mbox{}\\の2点に関して調査した．a.は，日本語基本語彙に対する調査で，b.は，新聞記事などからのテキストを対象とした調査であり，それぞれの特徴はあるが，全体として見ると，a.，b.ともに約80\,\%の収録率であった．さらに，a.とb.それぞれについて収録されていない単語一つ一つに関して，収録されなかった，すなわち見出し語として採録されなかった理由について詳細な分析を行ない，その理由を大きくA〜Eの5つに分類し，それぞれをさらに細分類して検討した．この結果は，本論文と同様の手法で辞書作成をする際，収録率を上げるために注意すべき点について，いくつかの知見を与えている．本論文は，次のような構成になっている．\ref{section:denshika}章では，ウイグル語辞典\cite{UJDIC}を機械可読にし，それに対して一連の編集作業を行なってウイグル語--日本語電子辞書を作成した過程について述べる．\ref{section:jidoseisei}章では，ウイグル語--日本語電子辞書からその逆辞書である日本語--ウイグル語辞書の自動生成について述べる．\ref{section:for_majo}章では，自動生成で得られた日本語--ウイグル語辞書の機械翻訳用辞書への変換について述べる．\ref{section:hyoka}章では，以上のようにして著者らが作成した日本語--ウイグル語辞書の収録率，および，収録されていない単語の調査とその結果について述べ，著者らが作成した日本語--ウイグル語辞書の評価とする．\ref{section:owari}章は本論文のまとめである．
V07N05-03	\label{はじめに}近年，カーナビゲーションシステムを初めとする種々の情報機器が自動車に搭載され，様々な情報通信サービスが始まりつつある．提供される情報には，交通情報，タウン情報，電子メール，ニュース記事等がある．自動車環境での情報提供では，文字表示よりも，音声による提示が重要との考えから\footnote{道路交通法第71条５の５で，運転中に画像表示用装置を注視することが禁じられている}，文章データを入力して音声波形に変換するテキスト音声合成技術の重要性が増している．テキスト音声合成技術は，近年，コンピュータの性能の大幅な向上や自動車用途でのニーズの増大に牽引され，研究開発が進んでいるものの，品質面で，現在まだ，いろいろな問題が残されている\cite{山崎1995,矢頭1996,塚田1996,広瀬1997}．そのうち，韻律の制御が良くないと，不自然で，棒読みな感じを与え，悪くすると意味を取り違えることにもなる．音声の韻律には，イントネーション，ポーズ，リズム，アクセントなどが含まれる．本論文は，入力文から，ポーズ挿入位置を判定する技術において中心的な役割を果たす係り受け解析法および解析結果に基づくポーズ挿入位置判定法に関するものである．まず，文から係り受け構造を求めるための，係り受け解析では，文全体を係り受け解析する方法\cite{佐藤1999}と，局所係り受け解析する方法\cite{鈴木1995}があるが，韻律制御用途には，後述のごとく局所係り受け解析で十分なことから，計算量の面からも有利な局所解析が得策と考えられる．言語処理分野において，係り受け解析はいろいろな処理のベースとなる基本的解析手法との位置付けから，多くの研究が継続されており，近年では，コーパスからの機械学習に基づく方法が盛んである\cite{藤尾1997,白井1998,春野1998,江原1998,内元1999}．機械学習方式の場合，対象とする文章のジャンルの変更や，係り受け解析の前処理である形態素解析と文節まとめ上げ処理の変更に伴って必要となる解析規則辞書の更新が容易なため，保守と移植のコストが低いという利点を持つ．機械学習の枠組みの中で，文節間の属性の共起頻度による統計的解析手法\cite{藤尾1997}や決定木による係り受け解析手法\cite{春野1998}に比べて，最大エントロピー法（以下，ME法と略記）による係り受け解析手法\cite{江原1998,内元1999}が，最も高精度な手法と考えられている．しかしながら，ME法による係り受け解析では，学習によって得られた統計モデルを蓄えた解析辞書の容量を，設計の現場において削減することによりメモリ量と計算速度を調整するということは容易ではなく，あるいは，素性を削減して統計モデルを再構築するには，学習に膨大な計算時間を必要とする\cite{内元1999}．そのため，車載情報機器や携帯情報端末など，小型化，低価格化に厳しい要求があり，しかも極めて短い開発サイクルで設計する必要のある設計現場に向かないという問題がある．そこで，ME法と同等の精度で，かつ，メモリ容量と実行速度の調整が容易で開発現場に受け入れられやすい，という特徴を持つ係り受け解析手法を開発するため，\begin{itemize}\itemポーズ挿入位置決定の目的にあった，局所係り受け解析\itemメモリ容量と実行速度に関して容易に設定変更ができ，アルゴリズムがシンプルで移植・保守の容易な決定リスト\cite{Yarowsky1994}\end{itemize}を採用することにした．係り受け解析結果に基づくポーズ挿入位置判定では，文の構文的な構造とポーズ，イントネーションとの関係に関する研究がなされ\cite{杉藤1997,杉藤1989a}，構文構造に基づいてポーズ挿入位置を決定する研究がなされている\cite{匂坂1993,海木1996,佐藤1999,清水1999}．その結果，近傍文節間の係り受け関係がポーズ挿入位置の決定に重要であることがわかってきている．近傍文節としてどの程度を考えるかに関しては，文節間距離を３文節分扱うもの\cite{鈴木1995}から距離=1,2,3,4以上の範囲を扱うもの\cite{佐藤1999}まである．また，ポーズ位置決定の要因は，係り受け構造の他にも，読点\cite{海木1996}，文節の種類\cite{清水1999}，生理的な息継ぎの必要性\cite{杉藤1989b}などがあり，ポーズ制御アルゴリズムの中に盛り込まれている．従来研究の中で，ポーズ挿入位置設定規則検討のための実験を最も大規模に行っているのは文献\cite{海木1996}の研究である．この研究では，アナウンサ10名によって発声させたATR音声データベースの503文のポーズ長を分析して，それに基づいてポーズ挿入規則を作成し，それを基にポーズ制御した合成音声100文と自然音声のポーズ長をそのまま使ってポーズ制御した合成音声100文を10名の被験者に提示してポーズ挿入規則の評価を行い，自然音声のポーズと同等なポーズ挿入規則が作成されたと報告されている．他の研究は，扱う文数が少なく，文献\cite{鈴木1995}では６文，文献\cite{河井1994}では５文などである．これらの従来研究では，係り受け関係を主要因としてその他いくつかの要因も加味した韻律規則が提案され，人間の発声する音声のポーズに比べて，８〜９割りの一致率を達成しているとされている．しかしながら，十分な文の数ではないため，言語構造の様々な面がポーズ制御規則に反映されているかどうかという疑問がある．本論文では，これらの研究から明らかになった，係り受け距離と句読点に基づくポーズ挿入規則をベースに作成した合成音声を用いて聴取実験を行い，悪い評価となった文を分析することによって，さらに追加すべき規則がないかどうか検討する．なお，聴取実験における文の数としては，従来研究で良好な制御と評価される文の割合が８〜９割であることを踏まえて，悪い評価となる文の数が分析に十分な数だけ得られるように，500文を用いることにする．
V07N02-04	\label{sec:introduction}固有表現(NE=NamedEntity)抽出は情報抽出における基礎技術として認識されているだけでなく，形態素，構文解析の精度向上にもつながる重要な技術である．米国では1980年代からMUC(MessageUnderstandingConference)\cite{Muc:homepage}のようなコンテストが行なわれ，その技術の向上が図られてきた．日本においても1998年からコンテスト形式のプロジェクト「IREX(InformationRetrievalandExtractionExercise)」が始められ，そのタスクの一つとして固有表現抽出が盛り込まれた．このタスクで固有表現として抽出するのは，「郵政省」のように組織の名称を表すもの，「小渕恵三」のように人名を表すもの，「神戸」のように地名を表すもの，「カローラ」のように固有物の名称を表すものおよび，「9月28日」，「午後3時」，「100万円」，「10\%」のように日付，時間，金銭，割合を表す表現である．このように，固有名詞的表現だけでなく，時間表現，数値表現も抽出の対象としているため，本論文ではそれらをすべてまとめて固有表現と呼ぶ．このような固有表現は多種多様で，次々と新たに生み出されるためそのすべてを辞書に登録しておくことは不可能である．また，同じ表現でも，あるときは地名としてまたあるときは人名として使われるというようにタイプに曖昧性がある．そのため，テキストが与えられたときその中でどの部分がどのタイプの固有表現であるかを同定するのは容易ではない．固有表現を抽出する方法には大きく分けると，人手で作成した規則に基づく方法と学習に基づく方法がある．固有表現の定義は抽出したものを何に応用するかによって異なってくるものであるため，前者の方法では定義が変わるたびに規則を人手で作成し直す必要がありコストがかかる．後者の方法は学習コーパスを作る必要があるが，データスパースネスに強い学習モデルを使えばそれほど大量のコーパスがなくても高い精度が得られる．そこで我々は後者の方法をとることにした．この学習に基づく方法は英語での固有表現抽出の研究でも用いられている．例えば，HMM\cite{Bikel:97,Miller:98}，決定木モデル\cite{Cowie:95}，ME(最大エントロピー)モデル\cite{Borthwick:98}，共起情報\cite{Lin:98}，誤り駆動の書き換え規則\cite{Aberdeen:95}などに基づくシステムがある．学習に基づく方法としてMUCのコンテストで最も精度が高かったのはHMMに基づくNymbleという名のシステムである．このシステムは基本的に以下のような手法をとっている．まず学習では，MUCのNEタスクで定義された「PERSON」や「ORGANIZATION」などの固有表現およびそれ以外を表す「NOT-A-NAME」をそれぞれ状態として持つ状態遷移図を用意し，ある状態で，ある単語が入力されたときにどの状態に移るかを状態遷移確率として求める．そして，解析する際には，ビタビアルゴリズムを用いて，入力された単語列が辿り得る状態のパスうち，最適なパスを探索し，順次，辿った状態を出力することで固有表現を抽出する．他の学習手法を用いたシステムも確率の計算方法は違うが同様の手法をとっていることが多い．Borthwickらは，この学習に基づくシステムおよび人手で作成した規則に基づくシステムの中から，それぞれMUCで比較的精度の高かったシステムを選びそれらを学習に基づく方法によって統合することによってより高い精度を得ている\cite{Borthwick:98}．あるデータに対しては人間のパフォーマンスを越えるような結果も得られている\cite{Borthwick_muc:98}．学習に基づく方法は固有表現抽出の研究以外に形態素解析や構文解析においてもよく用いられている\cite{Uchimoto99_jinbun}．学習モデルとしてはMEモデルを用いたものが優れた精度を得ていることが多く\cite{ratnaparkhi:emnlp96,ratnaparkhi:emnlp97,Uchimoto:eacl99}，データスパースネスに強いため，我々は固有表現抽出においてもこのMEモデルを用いることにした．さらに後処理として，誤り駆動により獲得した書き換え規則を用いる．この書き換え規則を用いる手法は形態素解析でも用いられている\cite{Brill:95,Hisamitsu:98}．固有表現の定義はIREX固有表現抽出タスク(IREX-NE)の定義\cite{irex:homepage}に基づくものとする．その定義によると，固有表現には「日本」や「国立／公文書／館」(／は形態素の区切りを表す)のように一つあるいは複数の形態素からなるもの，あるいは「在米」の「米」，「兵庫／県内」の「兵庫県」のように形態素単位より短い部分文字列を含むものの2種類がある．前者の固有表現は，固有表現の始まり，中間，終りなどを表すラベルを40個用意し，各々の形態素に対し付与すべきラベルを推定することによって抽出する．ラベルの推定にはMEモデルを用いる．このMEモデルでは学習コーパスで観測される素性と各々の形態素に付与すべきラベルとの関係を学習する．ここで素性とはラベル付与の手がかりとなる情報のことであり，我々の場合，着目している形態素を含む前後2形態素ずつ合計5形態素に関する見出し語，品詞の情報のことである．ラベルを推定する際には，入力文を形態素解析し，MEモデルを用いてそれぞれの形態素ごとにそこで観測される素性から各ラベルの尤もらしさを確率として計算し，一文全体における確率の積の値が高くなり，かつラベルとラベルの間の連接規則を満たすように各々の形態素に付与するラベルを決める．一文における最適解の探索にはビタビアルゴリズムを用いる．一方，後者の固有表現のように形態素単位より短い部分文字列を含む固有表現は上記の方法では抽出できないので，MEモデルを用いてラベルを決めた後に書き換え規則を適用することによって抽出する．書き換え規則は学習コーパスに対するシステムの解析結果とコーパスの正解データとの差異を調べることによって自動獲得することができる．一つあるいは複数の形態素からなる固有表現についても同様に書き換え規則を適用することは可能であるが，本論文ではMEモデルについてはラベル付けの精度に重点を置き，書き換え規則についてはできるだけ簡便な獲得方法を用いて効果をあげることに重点を置く．本論文ではIREX-NE本試験に用いられたデータに対し我々の手法を適用した結果を示し，さらにいくつかの比較実験からMEモデルにおける素性と精度の関係，学習コーパスの量と精度の関係，さらに簡便な方法を用いて自動獲得した書き換え規則がどの程度精度に貢献するかを明らかにする．
V04N02-02	自然言語処理における重要な問題の一つに,形態\hspace{-0.1mm}$\cdot$\hspace{-0.1mm}構文\hspace{-0.1mm}$\cdot$\hspace{-0.1mm}意味といった言語に関する様々な曖昧性の問題がある.一般に,意味的な曖昧性を解消するためには,意味に関するさまざまな情報を規則化し記述しておく必要がある.しかし,意味は文脈に依存して決まるため,あらゆる文脈に対応できるすべての意味を予め規則として網羅的に記述しておくことは難しい.CollinsEnglishDictionary,Rogetのシソーラス,分類語彙表など,機械可読辞書として電子化されたものがあるが,辞書の記述は語の定義が言語学者によりまちまちであるため,現実の文に対処できる有用な意味情報を得ることは難しい.そこで,意味的な曖昧性を解消するためには,解消手法と同時に,文脈に依存した情報をどのように獲得するかが重要となる.こうしたことを背景に,最近コーパスから意味的に近い語群の情報や,共起関係の情報などを抽出する研究が盛んに行なわれている\cite[など]{Church1991,Hindle1990,Tsujii1992,Sekine1992,Smadja1993}.これらのアプローチは知識獲得のためのアルゴリズムを提案することで,コーパスからその分野に依存した知識を自動的に抽出するというものである.本稿では,単一言語コーパスから抽出した動詞の語義情報を利用し,文中に含まれる多義語の曖昧性を解消する手法について述べる.2章では,関連した研究について述べる.3章ではコーパスから多義解消に必要な情報を抽出する手法について述べる.4章では得られた情報を基に,文中に含まれる多義語の曖昧性を解消する手法について述べる.5章では丹羽らの提案した文脈ベクトルを用いた名詞の多義解消手法\cite{Niwa1994}を動詞に適用した結果と比較することで,本手法の有効性を検証する.
V28N04-07	物質名や有機物名などの分野特有の用語（固有表現）を科学技術文献などのテキストから機械的に抽出する技術は，物質・有機物などが取り持つ関係性の抽出や検索などにおいて重要な基盤とされている．固有表現認識の手法は，人手による素性設計を必要としないニューラルネットワークの導入によって顕著に発展している\cite{lample-etal-2016-neural,ma-hovy-2016-end}が，従来の固有表現認識技術では抽出が困難な固有表現が存在し，専門分野における固有表現認識の精度改善と，情報検索・関係抽出などの応用のために解決が期待される．既存の固有表現認識手法で抽出が困難な固有表現の一つとして，複数の固有表現が並列関係にある表現が挙げられる．並列関係にある要素（並列句）は``and''や``or''などの等位接続詞によって連接されて並列構造を構成するが，並列句に共通して出現する接頭・接尾の要素はしばしば並列構造の外側に括り出される．例えば，``humanTandBlymphocytes''には``humanTlymphocyte''と``humanBlymphocyte''の二つの固有表現が並列関係にあり，それぞれの固有表現で共通して出現する``human''と``lymphocyte''が省略されている．このような固有表現は，生命科学分野の固有表現認識コーパスであるGENIAtermannotationで全体の3\%に含まれており，既存研究の評価実験では一つの固有表現(``humanTandBlymphocytes'')として扱うか，評価対象から除外されている．本研究では，並列構造及びその並列句に共有される隣接要素から構成される固有表現を，複合固有表現と呼ぶ\footnote{並列句に共有される隣接要素がない並列構造（例``[peripheralbloodmonocytes]and[Tcells]''）や並列構造それ自体が固有表現の一部になっている表現（例``signaltransducerandactivatoroftranscription''）を除く．}．例えば，上述の固有表現は名詞の並列構造(``TandB'')と並列句に共有される隣接要素(``human''，``lymphocyte'')から成り，これらの構成要素を連結することで``humanTandBlyphocytes''が表現されていると解釈できる．複合固有表現に内包される並列構造の範囲を同定し，並列句に共有される要素を特定することで，並列句とその共有要素によって表される個々の固有表現を復元することが可能であると考えられる．並列構造の範囲同定に関する多くの研究では，並列句が意味的・統語的に類似しているという特徴に着目しており，近年ニューラルネットワークの導入によって顕著に発展している．しかしながら，既存手法は分野に特化したコーパスを使用する教師あり学習による手法に基づいており，固有表現認識タスクへの応用を考慮すると固有表現と並列構造の両方のアノテーションにかかるコストが問題になる．本研究では，既存の固有表現認識器とのパイプライン処理が可能な，並列構造のアノテーションを用いない並列構造の範囲同定手法を提案する．また，複合固有表現に対して提案手法が同定した範囲から省略された要素を識別し，正規化する方法についても示す．提案手法では，近年自然言語処理タスクで広く利用されている事前学習された単語分散表現を用いて，等位接続詞前後の要素の対応関係を示すスコアを計算する．評価実験では，GENIATreebankにおける並列句の範囲同定のタスクにおいて，並列構造のアノテーションを用いない手法が教師ありの既存手法に近い再現率を得た．さらに，GENIAtermannotationを用いた固有表現認識のタスクにおいても，既存の固有表現認識手法の精度が改善されたことを示す．本研究の貢献は以下の三点である．\begin{itemize}\itemこれまで例外的に扱われてきた，複合固有表現に対応する抽出手法を提案した．\item事前学習された単語分散表現を用いて，並列構造の範囲のアノテーションデータを用いずに並列構造の範囲を同定する手法を開発した．\item提案手法が既存の並列構造解析の教師あり手法に近い性能を達成し，並列構造の範囲同定が固有表現認識に有用に働くことを示した．\end{itemize}%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%fig.1\begin{figure}[b]\begin{center}\includegraphics{28-4ia6f1.pdf}\end{center}\caption{提案手法の概要図}\label{fig:overview}\end{figure}%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
V07N05-01	\label{sec:introduction}係り受け解析は日本語解析の重要な基本技術の一つとして認識されている．係り受け解析には，日本語が語順の自由度が高く省略の多い言語であることを考慮して依存文法(dependencygrammar)を仮定するのが有効である．依存文法に基づく日本語係り受け解析では，文を文節に分割した後，それぞれの文節がどの文節に係りやすいかを表す係り受け行列を作成し，一文全体が最適な係り受け関係になるようにそれぞれの係り受けを決定する．依存文法による解析には，主にルールベースによる方法と統計的手法の二つのアプローチがある．ルールベースによる方法では，二文節間の係りやすさを決める規則を人間が作成する\cite{kurohashi:ipsj92,SShirai:95}．一方，統計的手法では，コーパスから統計的に学習したモデルをもとに二文節間の係りやすさを数値化して表す\cite{collins:acl96,fujio:nl97,Haruno:ipsj98,ehara:nlp98,shirai:jnlp98:1}．我々は，ルールベースによる方法ではメンテナンスのコストが大きいこと，また統計的手法で利用可能なコーパスが増加してきたことなどを考慮し，係り受け解析に統計的手法を採用することにした．統計的手法では二文節間の係りやすさを確率値として計算する．その確率のことを係り受け確率と呼ぶ．これまでよく用いられていたモデル(旧モデル)では，係り受け確率を計算する際に，着目している二つの文節が係るか係らないかということのみを考慮していた．本論文では，着目している二つの文節(前文節と後文節)だけを考慮するのではなく，前文節と前文節より文末側のすべての文節との関係(後方文脈)を考慮するモデルを提案する．このモデルは以下の二つの特徴を持つ．\begin{itemize}\item[(1)]二つの文節(前文節と後文節)間の関係を，「間」(前文節が二文節の間の文節に係る)か「係る」(前文節が後文節に係る)か「越える」(前文節が後文節を越えてより文末側の文節に係る)かの三カテゴリとして学習する．(旧モデルでは二文節が「係る」か「係らないか」の二カテゴリとして学習していた．)\item[(2)]着目している二つの文節の係り受け確率を求める際に，その二文節に対しては「係る」確率，二文節の間の文節に対しては前文節がその文節を越えて後文節に係る確率(「越える」の確率)，後文節より文末側の文節に対しては前文節がその文節との間にある後文節に係る確率(「間」の確率)をそれぞれ計算し，それらをすべて掛け合わせた確率値を用いて係り受け確率を求める．(旧モデルでは，着目している二文節が係る確率を計算し，係り受け確率としていた．)\end{itemize}このモデルをME(最大エントロピー)に基づくモデルとして実装した場合，旧モデルを同じくMEに基づくモデルとして実装した場合に比べて，京大コーパスに対する実験で，全く同じ素性を用いているにもかかわらず係り受け単位で1\%程度高い精度(88\%)が得られた．
V14N03-02	現代日本語の「です・ます」は，話手の感情・評価・態度に関わるさまざまな意味用法を持つことが指摘されている．従来の研究では，敬語および待遇表現，話し言葉/書き言葉の観点や，文体論あるいは位相論といった立場・領域から個別に記述されてきたが，「です・ます」の諸用法を有機的に結びつけようとする視点での説明はなされていない\footnote{「敬語」の一種であるという位置づけがなされている程度である．一例として，次のような記述がある．「「です・ます」は，一連の文章や話し言葉の中では，使うとすれば一貫して使うのが普通で，その意味で文体としての面をもちます．「です・ます」を一貫して使う文体を敬体，一貫して使わない文体を常体と呼びます．（中略）しかし，文体である以前に，「です・ます」はやはりまず敬語です」(菊地1996:90--91)}．本稿では「伝達場面の構造」を設定し，言語形式「です・ます」の諸用法を，その本質的意味と伝達場面との関係によって導かれるものと説明する．こうした分析は，「です・ます」個別の問題に留まらず，言語形式一般の記述を単純化しダイナミックに説明しうる汎用性の高いものと考える．本稿の構成は以下の通りである．まず，\ref{youhou}.で従来指摘されている「です・ます」の諸用法を確認し，\ref{model}.において「話手/聞手の「共在性」」に注目しつつ伝達場面の構造をモデル化する．さらに「共在性」を表示する形式を「共在マーカー」と名付け，なかでも「です・ます」のような聞手を前提とする言語形式の操作性に注目する．これを受けて\ref{meca}.では，「です・ます」の「感情・評価・態度」の現れが，伝達場面の構造モデルと「です・ます」の本質的機能および共在マーカーとしての性質から説明できることを述べ，\ref{matome}.のまとめにおいて今後の課題と本稿のモデルの発展性を示す．
V09N04-05	電子化されたテキストが世の中に満ち溢れる現状から，テキスト自動要約研究が急速に活発になり，数年が早くも経過している．研究の活発さは依然変わらず，昨年もNAACLに併設する形で要約に関するワークショップが6月に開催された．また，日本では，国立情報学研究所の主催する評価型ワークショップNTCIR-2のサブタスクの1つとしてテキスト自動要約(TSC:TextSummarizationChallenge)が企画され，日本語テキストの要約に関する初めての評価として，また，TipsterにおけるSUMMACに続く要約の評価として関心を集め，昨年3月にその第1回(TSC1)の成果報告会が開催された(http://research.nii.ac.jp/ntcir/index-ja.html)．一方，アメリカでは，SUMMACに続く評価プログラムとして，DUC(DocumentUnderstandingConference)が始まり，第1回の本格的な評価が昨年夏行なわれ，9月に開催されたSIGIRに併設する形でワークショップが開催された(http://www-nlpir.nist.gov/projects/duc/)．このような背景の元，本稿では，1999年の解説\cite{okumura:99:a}の後を受け，テキスト自動要約に関する，その後の研究動向を概観する．1999年の解説では，これまでのテキスト自動要約手法として，重要文(段落)抽出を中心に解説するとともに，当時自動要約に関する研究で注目を集めつつあった，いくつかの話題として，「抽象化，言い換えによる要約」，「ユーザに適応した要約」，「複数テキストを対象にした要約」，「文中の重要個所抽出による要約」，「要約の表示方法」について述べている．本稿では，その後の動向として，特に最近注目を集めている，以下の3つの話題を中心に紹介する．\begin{enumerate}\item単一テキストを対象にした要約における，より自然な要約作成に向けての動き，\item複数テキストを対象にした要約研究のさらなる活発化，\item要約研究における，要約対象の幅の広がり\end{enumerate}(1)の動きは，後述するように，1999年の解説における「抽象化，言い換えによる要約」，「文中の重要個所抽出による要約」という話題の延長線上にあると言うことができる．以下，2,3,4節でそれぞれの話題について述べる．なお，TSC1およびDUC2001にはそれぞれ多数の参加があり，興味深い研究も多い．しかし，TSC1の多くの研究は重要文抽出に基づくものであり，本稿に含めるのは適当でないと考えた．また，DUC2001に関しては，ワークショップが開催されたのが9月13,14日であり，本稿に含めるのは時間的余裕がなく断念せざるを得なかった．これらについては，稿を改めて，概観することとしたい．
V30N02-07	日本語では数量表現が多様な形で現れる．例えば，以下の3つの文は，形式は異なるが，いずれも同じ真理条件を持つ．\begin{exe}\ex\label{ex:1}学生が3人いる．\ex\label{ex:2}3人の学生がいる．\ex\label{ex:3}3名の学生がいる．\end{exe}(\ref{ex:1})と(\ref{ex:2})では，文中において数量表現が現れる位置が異なっており，(\ref{ex:2})と(\ref{ex:3})では助数辞が異なっている．こうした数量表現の出現形式や助数辞の多様性は，日本語の重要な特徴の一つであり，後述するように言語学での記述的・理論的研究が近年進んでいる．しかし，これまでのところ，これらの特徴に着目したコーパスの構築や，言語学的な知見をふまえて日本語の数量表現の理解を問うようなデータセットの構築は，管見の限り行われていない．自然言語理解の基礎をなすタスクの一つとして，自然言語推論(NaturalLanguageInference,NLI)がある\cite{cooper1994fracas,bowman-etal-2015-large}．自然言語推論は，含意関係認識(RecognizingTextualEntailment,RTE)とも呼ばれ，前提文が真であるとき，\todo{仮説文が必ず真なら含意(\entailment{})，必ず偽なら矛盾(\contradiction{})，どちらでもないなら中立(\neutral{})であることを判定する}タスクである．\todo{自然言語推論では一般に意味論的推論の判定が想定されているが，}自然言語処理分野では近年，意味論的推論だけでなく，語用論的推論も研究の対象となっている\cite{jeretic-etal-2020-natural}．この2種類の推論は，言語学の文献で議論されてきた含意(entailment)と推意(implicature)に対応する\cite{levinson1983,Horn1989,levinson2000presumptive}．例として，以下のような数量表現を含む前提文\textit{P}と仮説文\textit{H}のペアについて考えよう．\begin{exe}\ex\begin{xlist}\exi{\textit{P}:}\label{ex:4}男性が道端に4人座っていた．\exi{\textit{H}:}\label{ex:5}男性が道端に5人座っていた．\end{xlist}\end{exe}\todo{この\textit{P}に現れる数量表現「4人」の解釈には，「少なくとも4人座っていた」という解釈と，「ちょうど4人座っていた」という2種類の解釈が存在する．\textit{H}に現れる数量表現「5人」についても同様である．2種類の解釈のうち，前者は文の真理条件，後者は協調の原理に基づく解釈であり，ここではそれぞれ意味論的解釈，語用論的解釈\footnote{語用論的解釈は，標準的な説明では，いわゆるGriceの会話の格率\cite{Grice89,levinson1983}，特に「必要十分な量の情報を与えよ」という格率（量の格率）に基づいて，文脈や発話者の意図を考慮して，発話の真理条件には含まれない情報も考慮して導出される．}と呼ぶ．\textit{P}から\textit{H}への推論は，意味論的解釈のもとでは中立(\neutral{})であるのに対し，語用論的解釈のもとでは矛盾(\contradiction{})となる．このように数量表現を含む前提文と仮説文のペアが与えられたとき，数量表現の解釈の仕方によって判定が異なることがあるため，意味論的解釈と語用論的解釈を区別して考える必要がある．意味論的解釈に基づく推論を意味論的推論といい，語用論的解釈に基づく推論を語用論的推論という．「\elabel{}」は意味論的推論の判定，「\ilabel{}」は語用論的推論の判定を表し，それぞれ含意(\entailment{})，矛盾(\contradiction{})，中立(\neutral{})の3値をとる．}%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%table1\begin{table}[b]\input{06table01.tex}%\caption{否定文における含意ラベルの反転の例}\label{table:201}\end{table}%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%また，数量表現が否定文や条件節に現れる場合，通常の文脈に数量表現が現れる場合とは異なり，含意ラベルが変化することがある．表\ref{table:201}の例では，$P$から\hminusへの推論の含意ラベルは\entailment{}，$P$から\hplusへの推論の含意ラベルは\neutral{}である．つまり，「学生が4人以上いる（＝少なくとも4人いる）」は，「学生が3人以上いる」を含意するが，「学生が5人以上いる」を含意しない．一方，数量表現が否定文脈に現れる場合，$P$から\hminusへの推論の含意ラベルは\neutral{}であるのに対し，$P$から\hplusへの推論の含意ラベルは\entailment{}である．つまり，「学生が4人以上はいない」は「学生が5人以上はいない」を含意するが，「学生が3人以上はいない」を含意しない．このように，数量表現が否定文や条件節といった文脈に現れる場合（このような文脈は下方含意と呼ばれており，\ref{section:monotonicity}節で詳細を述べる），推論の判定に影響を与えることがある．本研究では，\todo{助数辞の種類，数量表現の出現形式，用法}をアノテーションした日本語の数量表現アノテーションコーパスを構築する．数量表現を含む文は，NPCMJ\cite{NPCMJ}から抽出する．NPCMJは，現代日本語の書き言葉と話し言葉に対して文の統語・意味解析情報が付与されているデータセットである．さらに，\todo{作成した日本語数量表現アノテーションコーパスをもとに，}\elabelと\ilabelを付与した数量表現の推論データセットを構築する．本稿では，数量表現コーパスおよび推論データセットの構築と，\todo{それを用いて現在の標準的な事前学習済み言語モデルの一つである日本語BERTモデル\cite{devlin-etal-2019-bert}が数量表現の理解を必要とする推論をどの程度扱えるかを調査する実験を行う．}構築した数量表現コーパスおよび推論データセットは研究利用可能な形式で公開している\footnote{\url{https://github.com/KanaKoyano/numeral-expressions-corpus}}．%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
V24N05-03	日本語は比較的語順が自由な言語であるとされるが，多くの研究において日本語にも基本語順が存在していることが示唆されている\cite{Mazuka2002,Tamaoka2005}．しかし，どの語順を基本語順とみなすかについては意見が分かれる場合があり，二重目的語構文についても，二つの目的語の基本語順に関し多くの説が提案されている．具体的な争点としては，二重目的語構文の基本語順は「がにを」である\cite{Hoji1985}か，「がにを」と「がをに」の両方である\cite{Miyagawa1997}かや，後者の立場の類型として基本語順は動詞の種類に関係するという説\cite{Matsuoka2003}や，ニ格の意味役割や有生性が関わっているとする説\cite{Miyagawa2004,Ito2007}などが存在している．また，これらの研究の分析方法に関しても，理論研究\cite{Hoji1985,Miyagawa2004}に加え，心理実験\cite{Koizumi2004,Nakamoto2006,Shigenaga2014}や脳科学\cite{Koso2004,Inubushi2009d}に基づく実証的研究など，多くの側面からの分析が行われている．しかし，これらの分析手法はいずれも分析の対象とした各用例について人手による分析や脳波等の計測が必要となるため，分析対象とした用例については信頼度の高い分析を行うことができるものの，新たな用例に対し分析を行う場合には改めてデータを収集する必要があり，多くの仮説の網羅的な検証には不向きである．一方，各語順が実際にどのような割合で出現するかの傾向は，コーパスから大規模に収集することが可能である．コーパス中の個別の事例から，それが基本語順なのか，かき混ぜ語順なのかを自動的に判定するのは容易でないものの，大規模に収集した用例において多数を占める語順であるならば，その語順が基本語順である可能性が高いと考えられる．たとえば，(\ref{EX::Kanjiru})に示すように\footnote{(\ref{EX::Kanjiru})，(\ref{EX::Sasou})に示した用例数は本研究で収集した各語順の用例数を表している．具体的な収集手順は\ref{SEC::CollectExamples}節で説明する．}，動詞が「感じる」，ニ格要素が「言葉」，ヲ格要素が「愛情」の場合，「にを」語順が97.5\%を占めていることから，この動詞と格要素の組み合わせの場合，「にを」語順が基本語順であると考えられる．一方，(\ref{EX::Sasou})に示すように，動詞が「誘う」，ニ格要素が「デート」，ヲ格要素が「女性」である場合は，「をに」語順が99.6\%を占めており，この語順が基本語順であると考えられる．\ex{{\bfにを}：言葉に愛情を感じる。［用例数：118(97.5\%)］\label{EX::Kanjiru}\\&{\bfをに}：愛情を言葉に感じる。［用例数：3(2.5\%)］}\vspace{-2ex}\ex{{\bfにを}：デートに女性を誘う。［用例数：4(0.4\%)］\label{EX::Sasou}\\&{\bfをに}：女性をデートに誘う。［用例数：923(99.6\%)］}そこで本研究では，二重目的語構文の基本語順はコーパス中の語順の出現割合と強く関係するとの仮定に基づき，100億文を超える大規模コーパスから収集した用例を用いた日本語二重目的語構文の基本語順に関する各種の仮説の検証を行う．日本語二重目的語構文の基本語順を解明することができれば，日本語二重目的語構文の統語構造や言語理解プロセスの解明における重要な手掛りとなることが期待できる．本研究で行う大規模コーパスに基づく分析は，コーパス中で多数を占める語順が基本語順と同じであるとは限らないことから，基本語順の解明に直結するとは言えないものの，心理実験や脳科学等などのよりコストの掛かる検証を行う前段階の検証として有用であると考えられる．
V19N05-01	オノマトペとは，「ハラハラ」，「ハキハキ」のような擬音語や擬態語の総称である．文章で物事を表現する際に，より印象深く，豊かで臨場感のあるものにするために利用される．日本語特有の表現方法ではなく，様々な言語で同じような表現方法が存在している\addtext{{\cite{Book_03}}}．このようなオノマトペによる表現は，その言語を\addtext{母語}としている人であれば非常に容易に理解することができる．また，オノマトペは音的な情報から印象を伝えるため，ある程度固定した表現もあるが，音の組み合わせにより様々なオノマトペを作ることも可能であり，実際様々なオノマトペが日々創出されている\addtext{{\cite{Book_05,Book_06}}}．そのため，国語辞書などにあえて記載されることは稀なケースであり，また，記載があったとしても，使用されているオノマトペをすべて網羅して記載していることはない\addtext{{\cite{Book_04}}}．そのため，その言語を\addtext{母語}としない人にとっては学習し難い言語表現である．特に，オノマトペを構成する文字が少し異なるだけでまったく異なる印象を与えることも学習・理解の難しさを助長していると考えられる．例えば先の例の「ハラハラ」という危惧を感じる様子を表現するオノマトペの場合，「ハ」を濁音にすると「バラバラ」となり，統一体が部分に分解される様子を表現し，また，半濁音の「パ」にすると「パラパラ」となり，少量しか存在しない様子を表現する．さらに，「ハラハラ」の「ラ」を「キ」にした「ハキハキ」では，物の言い方が明快である様子を表現するオノマトペになる．これらのオノマトペの特徴は，人が学習するときだけでなく，コンピュータで扱う際にも困難を生じさせる．そこで本稿では，オノマトペが表現する印象を推定する手法を提案する．日本語を対象に，オノマトペを構成する文字の種類やパターン，音的な特徴などを手がかりに，そのオノマトペが表現している印象を自動推定する．\addtext{例えば，「チラチラ」というオノマトペの印象を知りたい場合，本手法を用いたシステムに入力すると「少ない」や「軽い」などという形容詞でその印象を表現し出力することができる．}これにより，日本語を\addtext{{母語}}としない人に対して，日本語で表現されたオノマトペの理解の支援に繋がると考えられる．また，機械翻訳や情報検索・推薦の分野でも活用することができると考えられる．
V29N04-02	語彙制約付き機械翻訳は，翻訳文に含まれてほしいフレーズが指定された際に，それらのフレーズを含む文を生成するという制約の下で機械翻訳を行うタスクである．近年のニューラル機械翻訳(NeuralMachineTranslation;NMT)の発展\cite{luong-etal-2015-effective,vaswani:2017:NIPS}によって機械翻訳による翻訳文の品質は著しく向上したが，語彙制約付き機械翻訳のような，モデルの出力する翻訳文を人手でコントロールする手法に対するNMTの適用に関してはまだ課題が残されている．図~\ref{fig:task_overview}に語彙制約付き機械翻訳の例を示す．従来の機械翻訳モデルでは指定した語句を用いた翻訳が出来なかったのに対して，語彙制約付き機械翻訳モデルでは与えられた制約語句を反映させた翻訳を実現する．この際の制約語句は人手で与えられることが多い．訳語を指定した翻訳ができることで，法務や特許等における翻訳において非常に重要とされる専門用語や適切な名詞などの翻訳での訳語の一貫性を実現することができる．また，後編集のような人間が修正の指示を与えながら翻訳を行う，インタラクティブな翻訳にも応用可能である．さらに，近年複数のワークショップにおいて語彙制約付き機械翻訳のシェアードタスク\cite{nakazawa-etal-2021-overview,alam-etal-2021-findings}が開催されており，非常に注目を浴びているタスクである．%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%fig.1\begin{figure}[b]\begin{center}\includegraphics{29-4ia1f1.pdf}\end{center}\caption{語彙制約付き機械翻訳の例}\label{fig:task_overview}\end{figure}%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%語彙制約を満たすためにNMTモデルの出力をコントロールすることに取り組んだ研究はいくつか提案されており，\citeA{chen2020lexical_leca}に従うとそれらの手法は制約の取り扱い方によってハード制約とソフト制約の2種類に分けることができる．ハード制約による手法は，与えられたすべての制約語句がモデルの出力に含まれることを保証する．従来手法は，ビームサーチによる制約付きデコーディングで全ての制約語句を含む系列の候補を探索することで，このハード制約を満たすことを達成している\cite{hokamp-liu-2017-lexically,post-vilar-2018-fast}．これらの手法はすべての制約を満たすことを保証する一方で，従来のNMTと比べて大きい計算量を必要とする．また，入力される文によっては制約をすべて満たす出力系列の探索に失敗してしまい，従来のNMTよりも翻訳精度が低くなってしまう．一方で，ソフト制約による手法はすべての語彙制約が翻訳文に含まれることを保証しない．従来手法では，NMTモデルへ入力される原言語文を編集や拡張することで出力系列の探索などを用いずに制約語句を出力する方法が試みられている\cite{song-etal-2019-code,chen2020lexical_leca}．\citeA{song-etal-2019-code}はフレーズテーブルを用い，原言語文中の制約語句に対応する部分に対してその制約語句で置換したり挿入したりすることで，モデルの入力系列を編集する手法を提案している．また，\citeA{chen2020lexical_leca}は，原言語文の末尾に制約語句を結合してモデルの入力系列を拡張する手法を提案している．これらの手法は，出力候補を決定する際に探索アルゴリズムを用いないためハード制約の手法に比べて高速に動作する一方で，いくつかの制約語句が出力されない可能性がある．これらの従来手法に対し，我々は与えられた制約がすべて出力に含まれるという制約条件（ハード制約）の下で語彙制約付き機械翻訳の速度と精度を向上するために，翻訳モデルへの入力系列の拡張によって制約付きデコーディングの探索を改善する手法を提案する．本提案手法は，翻訳モデルにおいてソフト制約の下で語彙制約を実現する手法と探索アルゴリズムにおいてハード制約の下で語彙制約を実現する手法を組み合わせた初の試みである．日英および英日翻訳での実験により，提案手法がハード制約を満たした上で，従来手法と比べて少ない計算コストで高い翻訳精度を実現できることを確認した．なお，本手法は，WAT2021RestrictedTranslationTask\cite{nakazawa-etal-2021-overview}の日英/英日翻訳の両方において1位を獲得した．また，従来は人手で作成された語彙制約に対する語彙制約付き機械翻訳が主に研究されてきた．原言語文に対して事前に語彙制約を作成して語彙制約付き機械翻訳を行う場合には，制約語句を辞書などから自動的に抽出することで人手での作成に比べてコストが削減できると考えられる．しかし，自動抽出された制約語句にはノイズとなる語句が含まれることが考えられる．前述の語彙制約付き機械翻訳手法は与えられる制約語句が必ず翻訳文に含まれることを仮定しているため，自動抽出された語彙制約をそのまま用いると翻訳精度が低下することが想定される．そこで本論文では，自動抽出されたノイズを含む語彙制約に対しても語彙制約付き機械翻訳を適用するために，与えられた語彙制約の任意の組み合わせに対する翻訳候補にリランキング手法を用いることで最適な翻訳文を選択する手法を提案する．対訳辞書から自動抽出した語彙制約による日英翻訳での実験により，制約の与えられない一般的な機械翻訳手法に対して翻訳精度が改善できることを確認した．%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
V16N03-02	一般家庭にもPC，ブロードバンドが普及し，ユーザは手軽に情報を収集できるようになってきている．しかし一方では，情報が過度に溢れ過ぎ，利用者の要求に合った情報を探し出す必要性が高まっている．その中で要求に適合した情報のみを選出するのではなく，情報をランキング付けして提示することも重要となっている．ランキング付けは，検索要求と検索対象との間の類似性や関連性をもとに行われ，これらを定量化することが求められる．その際，従来の情報検索でよく用いられているベクトル空間モデル\cite{Salton:75}などでは文書における単語の出現頻度や統計情報などを利用して検索要求と文書間の類似性を判断し，文書を選別している．このような手法は検索要求と文書内の各単語の表記が一致しない場合は関連性がないとの仮定にもとづいている．しかし，実際の文書において，語の表記が同じでも異なる意味を有したり（多義性），同じ意味でも語の表記が異なる場合（表記揺れ，同類義語）がある．さらに単語間には，互いに意味的な関連性を持って存在しており，表記だけを頼りに検索を行う手法ではユーザが入力する語によって検索結果が異なってしまう．そのためユーザが適切なキーワードを考えなければならない．その問題を解消するために，ユーザが入力したキーワードの意味を捉えた検索手法が必要である．このような背景から，本研究では文書における意味を捉えた検索を実現すべく，単語の意味特徴を定義した概念ベース\cite{okumura:07}を用いた検索手法を提案する．概念ベースを用いることによって，単語の表記のみでの検索方式とは異なり，意味を捉えた検索が可能になる．つまり，ユーザの入力語の表記的揺らぎに影響されず，意味的近さを定量化できる手法である．具体的には，概念ベースによって単語間の意味的な関連性を0から1までの数値として算出する．そして，その値をもとに検索要求と検索対象との類似度を画像検索等の分野で注目されている距離尺度であるEarthMover'sDistance(EMD)\cite{Rubner:00}により求める方法を提案する．また，概念ベースに存在しない固有名詞や新語に対して，Webをもとに新概念として定義し概念ベースを自動的に拡張する手法を提案する．
V24N02-01	\label{sec:introduction}自然言語処理において高度な意味処理を実現する上で，同義語の自動獲得は重要な課題である\cite{inui}．例えば，近年の検索エンジンのクエリ拡張においては同義語辞書が用いられている\cite{utsumi}が，新出単語に対し全て人手で同義語辞書を整備することは現実的ではない．同義語の獲得には様々な手法が提案されている．例えば笠原ら\cite{kato}は国語辞典を用いて，見出し語に対して語義文により単語のベクトルを作成した後，シソーラスにより次元圧縮を行う方法で同義語の獲得を行った．また，渡部ら(渡部,Bollegala,松尾,石塚2008)は，\nocite{watanabe}検索エンジンを用いて，同義対を共に含むようなパターンを抽出し，得られたパターンから同義語の候補を得るという手法で同義語の抽出を行い，係り受け解析を行わずとも既存手法と同様の性能が得られることを示した．一方，これらの研究とは異なり「同じ文脈に現れる単語は類似した意味を持つ」という分布仮説(distributionalhypothesis)\cite{harris}に基づいたアプローチも存在する．実際に文脈情報が同義語獲得に有用であるとの報告\cite{hagiwara}もあり，加えてその他の手法と組み合わせて使用することが可能であるという利点もある．そこで，本研究では文脈情報を用いたアプローチを検討する．文脈情報の獲得にも手法が多数存在するが，近年では，分布仮説に基づきニューラルネットワーク的な手法を用いて単語の``意味''を表すベクトル（単語ベクトル）を求めるSkip-gramモデル\cite{mikolov1}が注目されている．Skip-gramモデルで得られた単語ベクトルを利用するとコサイン類似度により単語の意味の類似度が計算できることが知られており，その性能は既存手法より良いという報告\cite{roy}もある．しかし，Skip-gramモデルでは周辺単語の品詞や語順を無視したものを文脈情報として用いており，有用な情報を無視している可能性がある．実際に既存のSkip-gramモデルでは同義語獲得に失敗する例として，「カタカナ語」と「和語」からなる同義語対の場合，コサイン類似度が低くなることなどが知られており\cite{joko}，改善が望まれる．そこで，本研究では，Skip-gramを拡張し，周辺単語の品詞情報や語順情報を取り込み可能なモデル（文脈限定Skip-gram）を提案する．文脈限定Skip-gramでは，既存のSkip-gramと違い，周辺の単語のうち，ある条件を満たすもの（特定の単語分類属性（品詞等）や特定の相対位置）のみを文脈として利用し，単語ベクトルを学習する．たとえば，「カタカナ語」あるいは「カタカナ語」ではないもの（これを「非カタカナ語」と呼ぶ）のみに周辺単語を限定することによって，周辺の「カタカナ語」あるいは「非カタカナ語」との関係を強く反映した単語ベクトルを学習することができる．そして，そのような様々な限定条件ごとに単語ベクトル及びコサイン類似度を計算し，それらを線形サポートベクトルマシン(SVM)と同義対データを用いた教師あり学習による合成することで，同義語獲得を行った．その結果，日本語の言語特性を適切に抽出して利用できていることがわかった．たとえば，同義語の獲得精度が一番高かったモデルにおいては，「非カタカナ語」および「直後の単語」などの特定の限定条件から得られたコサイン類似度への重みが大きいことがわかった．また，これらの限定条件への重みを大きくすることは，既存のSkip-gramモデルでは獲得が難しかった「カタカナ語」と「和語」からなる同義対の獲得の精度へ大きな影響をあたえることもわかった．本論文の構成は以下のとおりである．第\ref{sec:related-work}節では，関連研究について述べる．第\ref{sec:method}節では，提案手法について述べる．\ref{subsec:method:skipgram}節では，既存のSkip-gramモデルについて概説し，\ref{subsec:method:limited-skipgram}節では，提案する文脈限定Skip-gramモデルについて説明する．第\ref{sec:data-and-preexperiment}節では，使用データと予備実験について述べる．\ref{subsec:ex:data}節では実験に使用したコーパス及び同義語対／非同義語対の教師データ作成方法について，\ref{preliminary-experiment}節ではSkip-gramにおける設定とSVMの素性作成方法に関する予備実験について述べる．第\ref{sec:experiment}節では提案手法による結果を示し，有効性を議論する．最後に第\ref{sec:conclusion}節において結論を述べる．
V11N02-03	音声認識研究の対象は、読み上げ音声から講演や会議などの話し言葉に移行している。このような話し言葉は日本語では特に、文章に用いる書き言葉と大きく異なり可読性がよくない。そのため、書き起こしや音声認識結果を講演録や議事録などのアーカイブとして二次利用する際には、文章として適切な形態に整形する必要がある。実際に講演録や議事録の作成の際には、人手によりそのような整形が行われている。これまでに、放送ニュースなどを対象とした自動要約の研究が行われている\cite{98-NL-126-10,98-NL-126-9,SP96-28,99-SLP-29-18,SP2000-116}。これらは主に、頻出区間や重要語句の抽出といった処理、つまり発話された表現をそのまま用いることによって要約を作成している。しかし、話し言葉表現が多く含まれる場合には、要約を作成する際にまず話し言葉から書き言葉へ変換する必要がある。実際に人間が要約を作成する際には、このような書き言葉表現への変換に加えて、不必要な部分の削除や必要な語の挿入、さらに1つの文書内での「ですます」調／「である」調などの文体の統一といった処理も行っている。本研究では講演の書き起こしに対してこのような整形を自動的に行うことを考える。現在、文章を整形するソフトウェアも存在しているが、これらはパターンマッチング的に規則ベースで変換を行っており、言語的な妥当性や前後との整合性はあまり考慮されていない。また、基本的に1対1の変換を行っているので、変換の候補が複数ある場合への対処が容易ではない。学会講演とその予稿集との差分をとることで書き言葉と話し言葉の変換規則を自動抽出する研究が村田らにより行われている\cite{murata_nl2002_diff,murata_nl2001_henkei}が、変換の際の枠組みは本質的に同じと考えられ、また実際に変換を行い文章を整形する処理は実現されていない。これに対して本研究では、規則に基づいて1対1の変換を行うのではなく、話し言葉と書き言葉を別の言語とみなした上で統計的な機械翻訳の手法を適用し、確率モデルによりもっともらしい表現に変換し実際に文章を整形することをめざす。

Subsets and Splits

No community queries yet

The top public SQL queries from the community will appear here once available.