低消費電力の人工知能専用チップである "IBM TrueNorth"。 [テクノロジー]
IBM社が開発した、 " IBM TrueNorth " というプロセッサーは非常に少ない消費電力で動作する、人工ニューラル ネットワークを集積回路に実装したコンピューター チップです。
"GIGAZINE" の記事 "IBMの「脳」を模した超省電力チップ「TrueNorth」が着実に進化、ネズミの脳レベルに到達" のURL:
http://gigazine.net/news/20150820-ibm-truenorth-for-smartphone/
"IBM Corporation" のウェブサイトのページ "IBM Brain Power 脳からヒントを得たコンピューター・チップ" のURL:
http://www.ibm.com/smarterplanet/jp/ja/brainpower/
"IBM Research" のウェブサイトの PDF文書 "Cognitive Computing Systems: Algorithms and Applications for Networks of Neurosynaptic Cores" のURL:
http://www.research.ibm.com/software/IBMResearch/multimedia/IJCNN2013.algorithms-applications.pdf
現在までの一般的なコンピューターに用いられて来たノイマン型のアーキテクチャーに基づくシステムでは、処理装置(MPU)と主記憶装置(Main Memory)が別に配置されており、データの移動に非常に多くの時間とエネルギーが必要でした。
そしてCPUはGHz(ギガヘルツ / 10億ヘルツ)単位の超高速のクロックに基づいて動作し、各演算コアは情報処理中は常にコア全体で大きな電力を消費し続ける必要がありました。
こうしたアーキテクチャーに基づいたシステムで人間の知能に匹敵する様な演算処理性能を実現しようとした場合、現在よりも遥かに微細なトランジスターを遥かに大量に集積した上で遥かに高速に動作させる必要があります。
従来、ムーアの法則に従ってコンピューターのプロセッサーのトランジスターの集積度が向上して来ました。
ムーアの法則では、半導体集積回路のチップ上のトランジスター数は18か月で2倍、詰まり、15年で1,024倍 ( 2^( 15 / ( 18 / 12) ) = 2^10 = 1,024 ) になるとされていました。
ところが近年、集積回路上の電力密度が高過ぎて冷却出来なくなる問題や、原子の大きさによる制限、量子力学的なトンネル現象等による問題、高エネルギー粒子の衝突確率に起因する信頼性の問題、半導体集積回路製造でのフォトリソグラフィー用露光装置の光源波長の問題等からより高性能なプロセッサーの開発が極度に困難になって来ました。
技術的にはどうにか可能であっても費用の問題から開発速度は鈍化しつつあります。
そしてもしも近い将来に製造可能なプロセッサーを用いて人間の知能に匹敵する処理性能を有する程の大規模なスーパーコンピューターを建設したとしても、それを動作させる為に必要な電力を賄う為だけに専用の原子力発電所を建設する必要があると言われています。
人間の脳は同じ位の情報処理の為に僅か20[W]程度しか電力を消費しません。
ところで、動物の脳の神経細胞を参考にして作られた最初の簡単で基本的な人工神経のモデルが形式ニューロンと呼ばれるものだそうです。そしてそこから単層パーセプトロン、多層パーセプトロンの一種で学習アルゴリズムが改良され深層学習やディープ ラーニングと呼ばれている深層畳み込みニューラル ネットワーク (Deep Convolutional Neural Networks)へと発展して来たそうです。
オンライン百科事典サイト "Wikipedia" の "ニューラルネットワーク" のページのURL:
https://ja.wikipedia.org/wiki/ニューラルネットワーク
こうして実用化されつつある人工ニューラル ネットワークによる人工知能 (AI / Artificial Intelligence)ですが、従来はこれをノイマン型アーキテクチャーのシステム上でソフトウェアによりシミュレーションしていました。
また、人工ニューラル ネットワークは並列化に向いている為、グラフィックス アクセラレーターとして発展して来たGPUが載ったヴィデオ カードにより大規模並列処理を行う事で性能を稼いで来ました。
しかしながら、こうした人工知能の能力はまだ人間の知能には遠く及びません。
特定のタスクに於いてのみ、人間を上回るだけです。
そして前述の幾つもの問題から人間の知能に匹敵する性能を持つ人工知能の実現には長い年月が必要であると考えられて来ました。
この様な状況の中、アメリカ国防高等研究計画局 (DARPA / Defense Advanced Research Projects Agency)による " SyNAPSE " (Systems of Neuromorphic Adaptive Plastic Scalable Electronics) プログラムの中でIBMは人工ニューラル ネットワークをハードウェア化して集積回路上に実装する事に成功し、256個のニューロンと262,144個のシナプスを実装したシングル コアのチップを2011年に発表しました。
その後、このプロセッサーを改良して5,400,000,000個のトランジスターから成る4,096個のコアを集積し、1,000,000個のニューロンと256,000,000個のシナプスを実装した " TrueNorth " というチップが2014年の8月に発表されました。
このチップは、従来のノイマン型コンピューターとは異なります。演算回路と記憶回路が極めて近い位置にあり、データの移動に必要な時間と電力を大幅に削減出来ます。
このチップは実時間での処理に於いて驚くべき事に僅か70[mW]程度しか電力を消費しないそうです。
このチップは単体で昆虫の脳に匹敵する性能を有しており、このチップを16個搭載した基板で蛙の脳に匹敵する性能を実現し、更に2015年8月17日にはこの基板を多数連結して齧歯類の脳に匹敵する48,000,000個の神経細胞を実現した事が公表されたそうです。
但し、このチップには学習機能がありませんので、従来の高性能なノイマン型のコンピューター上で学習した結果をこのチップに入力しておく必要があるそうです。
"GIGAZINE" の記事 "IBMが人間の脳と同じ構造を持つプロセッサーの開発に成功" のURL:
http://gigazine.net/news/20140808-ibm-brain-similar-processor-chip/
この " TrueNorth " プロセッサーは非常に高速なクロックにプロセッサー全体が常に同期して処理が実行される従来のプロセッサーとは異なり、イヴェント駆動型と呼ばれる処理が行われるそうです。
低速な、1[kHz]、詰まり時間ステップが1[ms]のクロックに対する全体の同期はあるけれど、それぞれの部分は信号を受け取った時にのみ起動して処理を行い、処理を終えて信号を送出した後はまた待機状態になります。その為、多くの時間、多くの領域は待機状態で過ごす事が出来、その結果として優れた省電力性を実現出来るのです。
このプロセッサーではスパイキング ニューラル ネットワークと呼ばれるアーキテクチャーを採用しているようです。
動物の脳の神経回路では神経細胞のスパイクと呼ばれる活動電位の発火タイミングによる情報処理が行われており、これを模倣した情報処理を行うものだそうです。
具体的には、 " Leaky Integrate-and-Fire " (漏れ積分発火)モデルであるそうです。
スパイキング ニューラル ネットワークについては、更新日が2009年３月と古いですが次のページが参考になると思います。
"九州工業大学大学院生命体工学研究科脳情報専攻（脳型情報処理機械講座）脳型集積システム森江研究室" 様のページ "ニューロンのスパイク発火タイミングによる情報処理モデルとそのLSI化" のURL:
http://www.brain.kyutech.ac.jp/~morie/topics/spiking.shtml
" TrueNorth " プロセッサーは256本の入力線を軸索に対応させ、256本の出力線を樹状突起に対応させたクロス バー構造だそうです。
これらの交点をシナプスに対応させているようです。シナプスから見て信号は軸索から入力されて樹状突起へ出力されます。ニューロンから見ると信号は樹状突起から入力されて軸索から出力されます。
各コアには約100[kbit]のメモリーが備えられており、ニューロンの状態情報と信号の受信元と送信先のアドレス情報等が格納されます。
また、各シナプスに於ける接続の強さの値も記憶されます。
格子状に配置された各コアには通信の為の回路が備えられており、各コアは別の256個のコアから信号を受け取り、アドレス指定した256個のコアへと信号を伝達する事が出来るそうです。
擬似乱数生成器によって生成される乱数により、人工ニューロンの活動にノイズを与えているようです。
" IBM Systems - Japan " 様による " SyNAPSE " プロセッサーについての解説動画を掲載させていただきます。
2013年に録画された動画なので情報はやや古いものであり、また雑音が多くて聞き取り辛いですが、日本語で分かり易く説明して下さっております。
ところで、先にも述べましたが、このチップには学習機能が無いという欠点があるそうなのですが、他の研究開発組織により、同様の人工スパイキング ニューラル ネットワーク回路に汎用回路を統合して学習機能を実装する研究開発が行われているそうです。
もしこれがうまく実現出来たならば、意外に早く人間の知能に匹敵する人工知能が誕生するかもしれませんね。
"GIGAZINE" の記事 "IBMの「脳」を模した超省電力チップ「TrueNorth」が着実に進化、ネズミの脳レベルに到達" のURL:
http://gigazine.net/news/20150820-ibm-truenorth-for-smartphone/
"IBM Corporation" のウェブサイトのページ "IBM Brain Power 脳からヒントを得たコンピューター・チップ" のURL:
http://www.ibm.com/smarterplanet/jp/ja/brainpower/
"IBM Research" のウェブサイトの PDF文書 "Cognitive Computing Systems: Algorithms and Applications for Networks of Neurosynaptic Cores" のURL:
http://www.research.ibm.com/software/IBMResearch/multimedia/IJCNN2013.algorithms-applications.pdf
現在までの一般的なコンピューターに用いられて来たノイマン型のアーキテクチャーに基づくシステムでは、処理装置(MPU)と主記憶装置(Main Memory)が別に配置されており、データの移動に非常に多くの時間とエネルギーが必要でした。
そしてCPUはGHz(ギガヘルツ / 10億ヘルツ)単位の超高速のクロックに基づいて動作し、各演算コアは情報処理中は常にコア全体で大きな電力を消費し続ける必要がありました。
こうしたアーキテクチャーに基づいたシステムで人間の知能に匹敵する様な演算処理性能を実現しようとした場合、現在よりも遥かに微細なトランジスターを遥かに大量に集積した上で遥かに高速に動作させる必要があります。
従来、ムーアの法則に従ってコンピューターのプロセッサーのトランジスターの集積度が向上して来ました。
ムーアの法則では、半導体集積回路のチップ上のトランジスター数は18か月で2倍、詰まり、15年で1,024倍 ( 2^( 15 / ( 18 / 12) ) = 2^10 = 1,024 ) になるとされていました。
ところが近年、集積回路上の電力密度が高過ぎて冷却出来なくなる問題や、原子の大きさによる制限、量子力学的なトンネル現象等による問題、高エネルギー粒子の衝突確率に起因する信頼性の問題、半導体集積回路製造でのフォトリソグラフィー用露光装置の光源波長の問題等からより高性能なプロセッサーの開発が極度に困難になって来ました。
技術的にはどうにか可能であっても費用の問題から開発速度は鈍化しつつあります。
そしてもしも近い将来に製造可能なプロセッサーを用いて人間の知能に匹敵する処理性能を有する程の大規模なスーパーコンピューターを建設したとしても、それを動作させる為に必要な電力を賄う為だけに専用の原子力発電所を建設する必要があると言われています。
人間の脳は同じ位の情報処理の為に僅か20[W]程度しか電力を消費しません。
ところで、動物の脳の神経細胞を参考にして作られた最初の簡単で基本的な人工神経のモデルが形式ニューロンと呼ばれるものだそうです。そしてそこから単層パーセプトロン、多層パーセプトロンの一種で学習アルゴリズムが改良され深層学習やディープ ラーニングと呼ばれている深層畳み込みニューラル ネットワーク (Deep Convolutional Neural Networks)へと発展して来たそうです。
オンライン百科事典サイト "Wikipedia" の "ニューラルネットワーク" のページのURL:
https://ja.wikipedia.org/wiki/ニューラルネットワーク
こうして実用化されつつある人工ニューラル ネットワークによる人工知能 (AI / Artificial Intelligence)ですが、従来はこれをノイマン型アーキテクチャーのシステム上でソフトウェアによりシミュレーションしていました。
また、人工ニューラル ネットワークは並列化に向いている為、グラフィックス アクセラレーターとして発展して来たGPUが載ったヴィデオ カードにより大規模並列処理を行う事で性能を稼いで来ました。
しかしながら、こうした人工知能の能力はまだ人間の知能には遠く及びません。
特定のタスクに於いてのみ、人間を上回るだけです。
そして前述の幾つもの問題から人間の知能に匹敵する性能を持つ人工知能の実現には長い年月が必要であると考えられて来ました。
この様な状況の中、アメリカ国防高等研究計画局 (DARPA / Defense Advanced Research Projects Agency)による " SyNAPSE " (Systems of Neuromorphic Adaptive Plastic Scalable Electronics) プログラムの中でIBMは人工ニューラル ネットワークをハードウェア化して集積回路上に実装する事に成功し、256個のニューロンと262,144個のシナプスを実装したシングル コアのチップを2011年に発表しました。
その後、このプロセッサーを改良して5,400,000,000個のトランジスターから成る4,096個のコアを集積し、1,000,000個のニューロンと256,000,000個のシナプスを実装した " TrueNorth " というチップが2014年の8月に発表されました。
このチップは、従来のノイマン型コンピューターとは異なります。演算回路と記憶回路が極めて近い位置にあり、データの移動に必要な時間と電力を大幅に削減出来ます。
このチップは実時間での処理に於いて驚くべき事に僅か70[mW]程度しか電力を消費しないそうです。
このチップは単体で昆虫の脳に匹敵する性能を有しており、このチップを16個搭載した基板で蛙の脳に匹敵する性能を実現し、更に2015年8月17日にはこの基板を多数連結して齧歯類の脳に匹敵する48,000,000個の神経細胞を実現した事が公表されたそうです。
但し、このチップには学習機能がありませんので、従来の高性能なノイマン型のコンピューター上で学習した結果をこのチップに入力しておく必要があるそうです。
"GIGAZINE" の記事 "IBMが人間の脳と同じ構造を持つプロセッサーの開発に成功" のURL:
http://gigazine.net/news/20140808-ibm-brain-similar-processor-chip/
この " TrueNorth " プロセッサーは非常に高速なクロックにプロセッサー全体が常に同期して処理が実行される従来のプロセッサーとは異なり、イヴェント駆動型と呼ばれる処理が行われるそうです。
低速な、1[kHz]、詰まり時間ステップが1[ms]のクロックに対する全体の同期はあるけれど、それぞれの部分は信号を受け取った時にのみ起動して処理を行い、処理を終えて信号を送出した後はまた待機状態になります。その為、多くの時間、多くの領域は待機状態で過ごす事が出来、その結果として優れた省電力性を実現出来るのです。
このプロセッサーではスパイキング ニューラル ネットワークと呼ばれるアーキテクチャーを採用しているようです。
動物の脳の神経回路では神経細胞のスパイクと呼ばれる活動電位の発火タイミングによる情報処理が行われており、これを模倣した情報処理を行うものだそうです。
具体的には、 " Leaky Integrate-and-Fire " (漏れ積分発火)モデルであるそうです。
スパイキング ニューラル ネットワークについては、更新日が2009年３月と古いですが次のページが参考になると思います。
"九州工業大学大学院生命体工学研究科脳情報専攻（脳型情報処理機械講座）脳型集積システム森江研究室" 様のページ "ニューロンのスパイク発火タイミングによる情報処理モデルとそのLSI化" のURL:
http://www.brain.kyutech.ac.jp/~morie/topics/spiking.shtml
" TrueNorth " プロセッサーは256本の入力線を軸索に対応させ、256本の出力線を樹状突起に対応させたクロス バー構造だそうです。
これらの交点をシナプスに対応させているようです。シナプスから見て信号は軸索から入力されて樹状突起へ出力されます。ニューロンから見ると信号は樹状突起から入力されて軸索から出力されます。
各コアには約100[kbit]のメモリーが備えられており、ニューロンの状態情報と信号の受信元と送信先のアドレス情報等が格納されます。
また、各シナプスに於ける接続の強さの値も記憶されます。
格子状に配置された各コアには通信の為の回路が備えられており、各コアは別の256個のコアから信号を受け取り、アドレス指定した256個のコアへと信号を伝達する事が出来るそうです。
擬似乱数生成器によって生成される乱数により、人工ニューロンの活動にノイズを与えているようです。
" IBM Systems - Japan " 様による " SyNAPSE " プロセッサーについての解説動画を掲載させていただきます。
2013年に録画された動画なので情報はやや古いものであり、また雑音が多くて聞き取り辛いですが、日本語で分かり易く説明して下さっております。
ところで、先にも述べましたが、このチップには学習機能が無いという欠点があるそうなのですが、他の研究開発組織により、同様の人工スパイキング ニューラル ネットワーク回路に汎用回路を統合して学習機能を実装する研究開発が行われているそうです。
もしこれがうまく実現出来たならば、意外に早く人間の知能に匹敵する人工知能が誕生するかもしれませんね。
2016-05-25 19:54
コメント(0)
トラックバック(0)
御協力をお願い申し上げます。
分散型インターネット検索エンジンである "YaCy" の公式ウェブ サイトのURL:
http://yacy.net/en/index.html
一緒に公正公平なインターネット検索を実現しましょう!
私のブログ記事: YaCy
2017年9月1日時点に於ける
最新ヴァージョン: 1.921/9342
Java8以上が必要です。
ウェブ アプリケーション プログラム
自作のHTML5 ウェブ アプリケーション プログラムがございます。
Canvas要素とWeb Audio APIとJavaScriptで製作致しました。
ウェブアプリ専用ブログの記事: ウェブ音楽プレイヤー
音楽ファイルの再生、キーボード演奏などが出来ます。
ヴィジュアライザーを実装してあります。
プレイリスト自動保存可能です。
重低音プレイが出来ます。
こちらは迷路自動生成プログラムです。
ウェブアプリ専用ブログの記事: 迷路自動生成プログラム
迷路の規模を変えられます。
本ブログの記事: HTML5のCamvasと "JavaScript" で音声処理と画像描画。
音の生成と模様や図形の描画と幾つかの物理シミュレーションを実装してあります。
Canvas要素とWeb Audio APIとJavaScriptで製作致しました。
ウェブアプリ専用ブログの記事: ウェブ音楽プレイヤー
音楽ファイルの再生、キーボード演奏などが出来ます。
ヴィジュアライザーを実装してあります。
プレイリスト自動保存可能です。
重低音プレイが出来ます。
こちらは迷路自動生成プログラムです。
ウェブアプリ専用ブログの記事: 迷路自動生成プログラム
迷路の規模を変えられます。
本ブログの記事: HTML5のCamvasと "JavaScript" で音声処理と画像描画。
音の生成と模様や図形の描画と幾つかの物理シミュレーションを実装してあります。
コメント 0