ニューラルネットワークの歴史は？
ニューラルネットワーク 第二次世界大戦の最中の1943年のこと、ウォーレン・マカロックとウォルター・ピッツが神経回路網理論を提出したが（形式ニューロンを参照）、この理論は現実の脳と比べてあまりに単純化するものだったので当時はほとんど注目されなかった。また1949年にドナルド・ヘッブが神経回路の学習理論として発表した 「シナプスの可塑性の理論」 も " 単なる机上の空論 "　の扱いを受けてしまった[5]。
状況が変わりはじめたのはまた1949年にドナルド・ヘッブが神経回路の学習理論として発表した 「シナプスの可塑性の理論」 も " 単なる机上の空論 "　の扱いを受けてしまった[5]。
状況が変わりはじめたのは1967年のことで、同年に小脳の神経回路網の構造が明らかになり[6]、そのおかげで上述のマカロック、ピッツ、ヘッブらの理論が現実の小脳をうまくモデル化していることが分かり、すでに発表されて10年ほど経っていたパーセプトロンが俄然ブームとなった[5]。
ところが1970年代になるとマービン・ミンスキーとシーモア・パパートがパーセプトロンの限界を数学的に証明したことで、神経回路網的手法に対する期待が一気にしぼみ、その研究者の数が急激に減ってしまった[5]。それでも地道な研究を続けていた人はおり[5]、（1986年にデビッド・ラメルハートらがバックプロパゲーション（誤差 逆伝播法）を再発見（再提案）したことで、それまでの限界を突破する道がとうとう開け）　「ニューラルネットワーク」として多くの研究者の注目を浴びるようになった[5]。
ところが1970年代になるとマービン・ミンスキーとシーモア・パパートがパーセプトロンの限界を数学的に証明したことで、神経回路網的手法に対する期待が一気にしぼみ、その研究者の数が急激に減ってしまった[5]。それでも地道な研究を続けていた人はおり[5]、（1986年にデビッド・ラメルハートらがバックプロパゲーション（誤差 逆伝播法）を再発見（再提案）したことで、それまでの限界を突破する道がとうとう開け）　「ニューラルネットワーク」として多くの研究者の注目を浴びるようになった[5]。
ジェームズ・マクレランド ジェームズ・マクレランド(James L. McClelland, 1948年12月1日 - )は、アメリカの認知心理学者でニューラルネットワークの研究者。
ニューラルネットワークの研究では特にバックプロパゲーションと、デビッド・ラメルハートらとともに提唱したPDPモデルが知られる。2014年ハイネケン賞受賞。
人工神経 人工神経(じんこうしんけい)あるいは人工ニューロン(じんこうニューロン、英: artificial neuron)とは、ニューラルネットワークを構成する基本単位であり、モデル化された神経細胞(ニューロン)である。1つ以上の入力を受け取り(生物のニューロンの樹状突起群に相当)、それらの重み付け和から活性化関数を通して出力とする。
当記事ではニューラルネットワークの人工ニューロンに限って説明する。
ダートマス会議 提案書の序文には次のように書かれていた。
(McCarthy et al 1955)
提案書ではさらにコンピュータ、自然言語処理、ニューラルネットワーク、計算理論、抽象化と創造力について論じている。これらはいずれも今日でも研究が続いている分野である。
手書き文字認識 ニューラルネットワークによる認識エンジンは、まず訓練用イメージ群で学習する。そして、訓練済みネットワークを使って文字を認識する。ニューラルネットワークはそれぞれの訓練イメージを区別する属性を学んでおり、認識対象のイメージに同様の属性がないか捜す。ニューラルネットワークはセットアップが簡単だが、認識対象と傾向の異なる訓練イメージしか与えられていないと、認識率は低くなる。
特徴抽出もニューラルネットワークと似たような方式で機能するが、プログラマが重要と考える属性を決め、手動でそれらを設定する必要がある。
ここでいう属性とは次のようなものである。
CSNET ウィスコンシン大学マディソン校のローレンス・ランドウェバー(英語版)は、複数の大学(ジョージア工科大学、ミネソタ大学、ニューメキシコ大学、オクラホマ大学、パデュー大学、カリフォルニア大学バークレー校、ユタ大学、バージニア大学、ワシントン大学、ウィスコンシン大学、イェール大学)によるコンソーシアムのためにCSNETの元となる提案書を書いた。アメリカ国立科学財団 (NSF) はデラウェア大学のデビッド・J・ファーバー(英語版)にレビューを依頼した。ファーバーはその仕事を大学院生のデイブ・クロッカーに任せた。クロッカーは当時既に電子メールの開発に関わっていた。このプロジェクトは関心を集めたが、実現には大幅な改良が必要だった。その提案書は最終的にヴィントン・サーフとDARPAの支援を得ることになる。1980年、NSFはそのネットワーク立ち上げ資金として500万ドルを出した。当時のNSFにとってこれは極めて大規模なプロジェクトである。出資に際して、そのネットワークが1986年までに自立すること(つまり、それまでに資金を打ち切る)が規定に盛り込まれている。
ランドウェバー(ウィスコンシン大学)、ファーバー(デラウェア大学)、ピーター・J・デニング(パデュー大学)、アンソニー・ハーン(ランド研究所)、ビル・カーン (NSF) というメンバーからなる運営チームが結成される。1984年、CSNETが完全に運用を開始すると、そのシステムと運用はケンブリッジ (マサチューセッツ州) のBolt Beranek and Newman (BBN) に任されることになった。
1981年、3カ所が接続された。デラウェア大学、プリンストン大学、パデュー大学である。1982年、24カ所が接続され、1984年には84カ所に拡大しており、イスラエルの1カ所も含まれている。その後間もなく、オーストラリア、カナダ、フランス、ドイツ、韓国、日本の大学の計算機科学部門との接続がなされている。CSNETは最終的に180以上の学究機関を相互接続している。
通信技術の歴史 1940年9月11日、ベル研究所の研究員ジョージ・スティビッツは、テレタイプを使って、ニューヨーク州にある自作の複素数計算機に向けて問題を転送することに成功した。そして計算結果をニューハンプシャー州のダートマス大学に送り返すことにも成功した。この、メインフレーム(中心となる計算機)とダム端末との組み合わせという方式は、1950年代を通して一般的であった。1960年代に入ってはじめて、研究者らはパケット通信という技術に投資をし始めた。パケット通信は、データのかたまりを中央に置くメインフレームにまず送るという従来のやりかたを行わずに、異なる計算機に送信する技術である。そして1969年12月5日に、カリフォルニア大学ロサンゼルス校、スタンフォード・リサーチ・インスティチュート、ユタ大学、カリフォルニア大学サンタバーバラ校の間に、計4台のノードからなるネットワークが成立した。このネットワークがARPANETとなり、1981年には213台のノードからなるネットワークとなった。1973年6月には、ノルウェーのNORSAR(英語版)プロジェクトに属するノードがネットワークに参加し、はじめてアメリカ合衆国以外の場所からの参加ノードとなった。これにすぐ続いてロンドンからもノードが加わった。
ARPANETの開発は、 Request for Comment のプロセスに焦点を当て、1969年4月7日に RFC 1 として公開された。この公開仕様を定めるプロセスは重要である。なぜなら、ARPANETが結果的には他のネットワークを飲み込み、インターネットを形作ることとなったからである。また、今日のインターネットを支えている数多くの通信規約(プロトコル)が、このプロセスを通して定められるからである。1981年9月に、RFC 791 により Internet Protocol v4 (IPv4) が導入され、RFC 793 により Transmission Control Protocol (TCP) が導入された。つまり、今日のインターネットの基礎をなす TCP/IP プロトコルがこの時に定められた。User Datagram Protocol (UDP) と呼ばれるトランスポート層のプロトコルで、TCPとは異なり、指示を受けたパケットの転送を保証しない、制約が緩いプロトコルは、RFC 768 として1980年8月28日に
JUNET JUNET(ジェイユゥネット、Japan University NETwork)は、1984年から1991年に存在した日本の学術組織を結んだ研究用のコンピュータネットワーク。今日インターネットと呼ばれているネットワークの日本における実質的な起源。
Autism Network International ANIは1992年にジム・シンクレア(英語版)、キャシー・グラント、ドナ・ウィリアムズによって始められた。 このアドボカシー・グループは自閉の人々の為に自閉の人々によって組織されたものである。 ANIはまずペンパルグループとして出発したが、彼らが初めて直接会ったとき、「彼らは帰属意識を、理解されたという、同じ観念を持って言葉を共有していて、自分たちは普通なのだ、という感覚を抱いた」。 シンクレアとその他の創始者たちは、参加者たちが問題(issue)についてオンラインフォーラムで議論できるような、そうしたオンラインコミュニティを作った。 ANIは会報 "Our Voice"の出版を始めた。これはANIのウェブ管理者を通して頒布された。
ANIは「神経学的定型」(neurologically typical)という造語が為されるもとになった。 シンクレアは、自閉的であることの負の側面よりも、むしろ正の恩恵に視線を向けることを助けるものとして、ANIを用いた。 ANIは自閉の人々が「共有された自閉文化の中で楽しむという重要な教訓」を学ぶことを助けてきた。