スポンサーサイト

上記の広告は1ヶ月以上更新のないブログに表示されています。
新しい記事を書く事で広告が消せます。

意味検索エンジン

「NEC、文書の高速検索と分類表示を行う意味検索エンジンを開発」

開発した技術の特長は以下と。

1. 意味検索を高速に実行する圧縮インデックス管理技術を開発

上位・下位概念を含んだ検索キーワードと文書との関係を記載したインデックスのデータを圧縮保持する技術を開発。これにより、オンメモリ処理を実現し高速な意味検索が可能。

2. 代表的な事例を短時間で理解できる因果関係マップを開発

大量の検索結果から代表的な事例とその原因、解決方法を高速に分類してマップ表示する技術を開発。これにより、問い合わせの原因や対処方法をオペレーターが短時間で理解可能。

3. 絞り込み用検索キーワードを容易に発見できる重要語分類技術を開発

検索結果に含まれる重要語を高速に分類表示する技術を開発。これにより、大量の検索結果をさらに絞り込むための検索キーワードをオペレーターが容易に発見可能。


1はデータ圧縮による高速化で、2、3はコンタクトセンターのオペレーターのためのヒント集であり、「意味検索エンジン」というよりも「検索用データベース」のほうが合っている気がする。
「意味」の意味をどう定義しているかによるが、すくなくとも脚注にある

意味検索方式では、検索キーワード(例."OS")に対して、同義語("オペレーティングシステム")、上位概念("ソフトウェア")、下位概念("Linux")など意味的に関係のあるキーワードを含む文書も検索される。

は、定義が狭すぎると思う。



私が欲しい「意味検索エンジン」の能力は以下のようなもの。

・ 新知識の獲得時には、人手を介さずに、概ね適切に様々な観点から過去の知識と関連付けられる。
・ 新知識から、過去の知識が自動的に修正される場合もある。
・ 部分的手がかりから、全体の情報を再構成できる。
・ 100%の確信度をもって答えることができるものがある(IBMのワトソンでも100%の確信度で答えられるのはほぼ0%)。
・ 確信度0%に近いような見当はずれな候補を抽出しない。
・ 確信度が低い場合は、絞込みに必要な質問をすることが出来る。
・・・
挙げればきりがない。
スポンサーサイト

tag : 意味検索エンジン

遺伝的アルゴリズムの使い道

遺伝的アルゴリズムで歩行を学習させたそうです。とても面白が何か違うような気がする。



一般的にこのような学習には強化学習が用いられると思う。強化学習評価関数遺伝的アルゴリズムで進化させ、賢い評価関数を作るというのはどうだろうか。

tag : 強化学習 評価関数 遺伝的アルゴリズム

IBMのSyNAPSEプロジェクト

以前読んだ記事で、さして面白いと思わなかったが、やはり気になるのでメモしておく。

IBMがコグニティブ・コンピュータ向けチップを試作、脳の構造を再現

 米IBM社は2011年8月18日、「コグニティブ・コンピューティング・チップ」を試作したと発表した(発表資料)。コグニティブ・コンピューティングとは、人間の脳のように経験から学び、異なる事象間の関係性を見つけ、仮説を立て、記憶する機能を備えたコンピュータの概念。既存のフォン・ノイマン型コンピュータとは異なる、新しいコンピュータの開発を目指したもので、大幅に小型で低消費電力の演算回路の実現が狙いである。

 今回開発したチップは、神経生物学の知見に基づいて、ニューロン(神経細胞)とそれをつなぐ一種のスイッチであるシナプスから成る脳の構造を模した「ニューロシナプティック・コア」を備える。もっとも、有機材料などを用いているわけではない。Si材料でシナプスを再現することでメモリ機能を、ニューロンを再現することで演算機能を、そして軸策を再現することで通信機能を実現した。

 具体的には、IBM社は2種類の同コアを試作した。共に45nm SOI-CMOSプロセスに基づき、256本の「ニューロン」を備える。ただし、「シナプス」については、一方がプログラム性を備えたものを26万2144個実装したのに対し、もう一方は学習機能を備えたものを6万5536個実装した。

 そしてこれらにより、あらかじめ用意したプログラムなしに動作し、しかも分散処理、さらには並列処理を実行する脳の機能を実現した。既に、パターン認識、連想記憶、分類などの簡単なアプリケーションに使えることを確認したという。

 IBM社は将来的には、ニューロンを数百億個、シナプスを数百兆個備えながら、消費電力は1kW程度、体積は2リットル程度に収まるようにすることを目標とする。

・・・


ニューロンの数を256「本」だったり数百億「個」だったりと違う単位で記述している怪しい記事。
「あらかじめ用意したプログラムなしに動作」する生物は存在しないので、そんなチップはありえない。プログラムという言葉の意味するところが、私と違うのかも知れないが。
「パターン認識、連想記憶、分類などの簡単なアプリケーション」は、チップでなくてもソフトウェアで「使えることを確認」されている。


IBMが人間の脳を模倣して学習し環境に適応するコンピュータチップを発表

IBMが人間の脳を模倣して知覚や認知を行う、新世代のコンピュータチップを開発したことを発表しました。

高度なアルゴリズムとシリコン回路を使用して、人間のように経験から学習し、相関関係を発見し、仮説を立て、成果を記憶する「認知コンピュータ」をIBMは構想しているとのこと。今回の発表では、すでにそのプロトタイプのチップ2つが作成され、現在テストを受けていることが明らかにされています。

IBM Press room - 2011-08-18 IBM Unveils Cognitive Computing Chips - United States

現地時間の8月18日に発表されたプレスリリースによると、IBMは各大学の共同研究者とともに、ナノサイエンス、神経科学、スーパーコンピュータという複数分野の原理を組み合わせてこの開発を行ったとのこと。IBMは、この「SyNAPSE」と呼ばれるプロジェクトに対して、次の開発ステップのために、国防高等研究計画局(DARPA)から新たに2100万ドル(約16億円)の資金提供を受けたことも発表しています。

SyNAPSEは、複雑な処理を並行して同時に行うだけでなく、環境に適応するコンピュータを目指しているとのこと。しかもこの処理を、あたかも人間の脳のように、極めて低い消費電力によって可能にするそうです。

IBMリサーチのプロジェクトリーダーであるDharmendra Modha氏は、「(このチップは)半世紀以上もの間コンピュータのアーキテクチャを支配しているノイマン型のパラダイムをシフトさせる最初の一歩となるでしょう」と語っています。

Modha氏はさらに「コンピュータのアプリケーションは将来、従来のアーキテクチャでは効率的に処理のできない機能についての要求がますます高まっていくでしょう。これらのチップは、いわゆる『電卓』から『学習する装置』への進化の重要なステップであり、ビジネス、科学、政治におけるコンピューターとアプリケーションの新たな世代の始まりを示しています」と、その重要性を強調しています。

こうしたチップで具体的に何ができるかという点に関して、IBMは例として、「世界中の水の動きを監視する認知コンピューティングシステム」を挙げています。センサーと作動装置をネットワークで繋ぎ、温度、圧力、波の高さ、音響と潮汐の状況を常に記録し、レポートすることで、確実な津波警報を出すことができるとのこと。あるいは、食料品店の在庫整理において、認知コンピュータを搭載した手袋を使って、見た目や質感、匂いや温度から、不良在庫にフラグを立てることができるようにすることもできるそうです。このような、めまぐるしい早さでリアルタイムに行われる情報の入力を処理するのは、現在のコンピュータにとっては困難ですが、脳をモデルにしたシステムでは可能になるだろうとのこと。

・・・


この記事の内容から推測すると、「チップで具体的に何ができるかという点」は処理速度の向上のみで、アルゴリズムに関しては、ニューラルネットと何ら変わりがないと思われ、チップ自体もこれまでのニューロチップとどこが違うのであろうかと思わせる。


IBM、人間の脳を模した実験的な新チップを発表

 IBMは米国時間8月17日、人間の脳の認識力、認知力、行動力を模倣する新しい世代の実験的なプロセッサを発表した。これにより、人間の脳の働きに似た機能を備えたコンピュータは、これまでよりかなり実現に近づいた。

 今回の発表の3年近く前に、IBMおよび同社と提携する大学数校が米国防高等研究計画局(DARPA)から助成を受けて、人間の脳の認知力や認識力、知覚、相互作用、行動能力を再現し、大きさとエネルギー消費の面で脳の効率の良さを模倣する研究に取りかかった。

 この助成は、DARPAによる「Systems of Neuromorphic Adaptive Plastic Scalable Electronics(SyNAPSE)」プロジェクトの第2フェーズの一環だった。IBMによると、目標は「複数の感覚様相からの複雑な情報を瞬時に分析するだけでなく、環境との相互作用の中で動的に自らの配線もつなぎ換えるシステム、それも人間の脳並みに小型で消費電力も少ないシステムを開発すること」だという。

 IBM ResearchのプロジェクトリーダーであるDharmendra Modha氏によれば、DARPAによる助成と、IBMの6つの研究所、5つの大学の研究者による多大な取り組みの初めての具体的な結果を、ようやく世界に示す準備ができたという。

 「今話している私の手の中にあるのは、ニューロンのような計算方式と、シナプスのようなメモリ、軸索のようなコミュニケーションを組み合わせた、認識力を持つ初めてのコンピューティングコアだ・・・これは実際にシリコンチップに組み込まれて機能しており、単なる『PowerPoint』を使った紹介ではない」とModha氏は17日に、CNETとの電話インタビューで語った。

 新チップ開発の2年前、Modha氏のチームは、大脳皮質と皮質下の部位の結合をすべて調べ上げるためのアルゴリズム「BlueMatter」の開発を終えた。このマッピングは、脳が情報をやりとりして処理する仕組みを真に理解するのに不可欠なステップだ、とModha氏は言う。

・・・


「「BlueMatter」の開発を終えた」そうであるが、解析も終わったのだろうか。そちらの方に非常に興味がある。

tag : IBM SyNAPSE BlueMatter

ニューラルネットワークとカタストロフィック干渉

 ニューラルネットワークで、先に学習した項目の再認成績が、後続の学習によって著しく低下することを、カタストロフィック干渉と呼ぶ。いくつかの解決案が提案されているが、これといったものはない。「新生ニューロンと学習」という考え方をニューラルネットワークに応用できれば解決できるのではないだろうか。つまり今まさに活性化しているネットワーク部分の新生ニューロンが、そこに組み込まれることにより、先行学習に影響を与えずに学習を可能とするような。
 しかし、エピソード記憶のような一撃学習には更なる工夫が必要であろう。

「Ratcliffは、3層のネットワークを用い、先に学習した項目が、後続の学習によってどのような影響を受けるかを検討した。シミュレーションの結果、先に学習した項目の再認成績が後続の学習によって著しく低下することを見いだし、コネクショニストモデルが系列的な記憶のモデルとして適切でないと主張した。同様の傾向は、McCloskey & Cohenによるシミュレーションでも見いだされており、安定解が破壊されると言う意味で、彼らはこの効果をカタストロフィック干渉と名づけている。カタストロフィック干渉は、母国語の習得のように忘却が起こりにくい現象を扱う場合、特に問題となる。
 カタストロフィック干渉に対する方策として、先の学習で得られた結合強度を固定し、後続の学習の影響を回避する手続きや、学習によって得られた隠れ層の表象内で、活性化が最小のユニットの値を消去し、活性化が最大のユニットの値を増大させる活性値の先鋭化などが提案された。こうした手続きは、ある程度有効であるが、ネットワークの可塑性や一般化能力を低下させてしまう(安定性・可塑性のジレンマ)。このジレンマを克服するには、Carpenter & GrossbergによるART(Adaptive Resonance Theory:適応共鳴理論)などが有効であることが知られている。
 McClelland, McNaughton, & O'Reillyは、人間の記憶において、脳の大脳新皮質と海馬という2つのシステムが異なる役割を担うと仮定することによって、人間ではカタストロフィック干渉が生起しない理由の説明を試みている。
 つまり、大脳新皮質は情報の構造を漸次的に発見するシステムであるの対して、海馬は新しい情報の獲得を促進するだけでなく、ほかの部分に保持された古い情報を想起させる機能を持つと仮定し、新しい情報が新皮質の構造化された知識システムに徐々に統合される仕組みを説明している。
 Murreは、記憶のTraceLinkモデルを提案している。このモデルでは、長期的に記憶を保持し、潜在記憶に対応するトレースシステムと、その活性化パターンを連合することによって学習を行う、顕在記憶に対応したリンクシステムとが仮定されている。Murreは、トレースシステムは脳の大脳新皮質における処理を、リンクシステムは海馬における処理をそれぞれシミュレートしていると述べている。 」

高次認知のコネクショニストモデル―ニューラルネットワークと記号的コネクショニズム (認知科学の探究) より

テーマ : 自然科学
ジャンル : 学問・文化・芸術

tag : ニューラルネットワーク カタストロフィック干渉

新着図書情報

2017年8月発売

2017年4月発売

2016年11月発売

2015年10月発売
にほんブログ村
にほんブログ村 科学ブログ 脳科学へ
広告
最新記事
お勧めの本
カテゴリ
カレンダー
09 | 2017/10 | 11
1 2 3 4 5 6 7
8 9 10 11 12 13 14
15 16 17 18 19 20 21
22 23 24 25 26 27 28
29 30 31 - - - -
プロフィール

sai

Author:sai
宮城県出身。寅年生まれ。おうし座。B型。左利き。赤緑色盲。たそがれのプログラマー。

リンク
RSSリンクの表示
最新トラックバック
検索フォーム
ブロとも申請フォーム

この人とブロともになる

QRコード
QRコード
月別アーカイブ
上記広告は1ヶ月以上更新のないブログに表示されています。新しい記事を書くことで広告を消せます。