SlideShare a Scribd company logo
1 of 21
Download to read offline
NPO法人 全脳アーキテ
クチャ・イニシアチブ	
株式会社ドワンゴ

ドワンゴ人工知能研究	 理化学研究所	
山川 宏 *1, *3 荒川 直哉 *1, *3 高橋 恒一 *2, *3	
全脳アーキテクチャに必要な
新皮質マスターアルゴリズム(MA)
の検討
JSAI 2017 3K1-OS-06a-5	
*1
	 *3	
	
*2
JSAI	2017	3K1-OS-06a-5
汎用性を支える新皮質の局所回路	
一様な機構で,多様な機能を獲得	
 ー> 知能の汎用性を支えている	
図の出典: http://bio1152.nicerweb.com/Locked/
media/ch48/48_27HumanCerebralCortex.jpg	
JSAI 2017 3K1-OS-06a-5 	
•  身体運動的知能	
•  言語的知能  	
•  論理数学的知能	
•  音楽的知能  	
•  対人的知能  	
•  内省的知能 	
•  空間的知能  	
局所回路	
Canonical cortical circuit
何故、今、新皮質MAのフレームワークか	
•  重要性:	
脳型AIにおいては汎用性の実現において、	
新皮質の局所回路を参照することが最重要	
•  実現可能性:	
神経科学、機械学習の進展で、そろそろ手の届
きそうなターゲットになってきた	
•  狙い(波及効果):	
機械学習専門家が理解可能なフレームワークを
提案し、研究参入できる状況を整える	
JSAI	2017	3K1-OS-06a-5
ANNで脳機能は実現は、手が届くターゲットに	
① 新皮質標準回路への理解が進んでいる	
② 多くの認知機能が人工ニューラルネットワーク
(ANN)で実現されてきた	
③ 上記二つを結合できることも増えてきた	
Yamins and DiCarlo, Nat Neurosci.19:356-65, 2016	
CNNと新皮質(側頭葉)の相同性高い物体認識機能	
①	 ③	
Kenneth D. Harris & Thomas D. Mrsic-Flogel, Cortical
connectivity and sensory coding, Nature 503, 51–58, 2013	
JSAI	2017	3K1-OS-06a-5
狙い: 機械学習専門家が理解できる新皮質	
機械学習専門家が理解可能な新皮質MAのフ
レームワークを提案し、

彼らが研究参入できる状況を整える(波及効果)	
今回
やっ
たこと	
ML研究者が理解できる

※詳細は次頁で	
神経科学者にしか理解できない	
JSAI	2017	3K1-OS-06a-5
L1	
L2/3	
L4	
L6	
L5	
状態	
	(ボトムアップ)	
入力元	 出力先	
状態	
	(トップダウン)	
制御	
(注意,	文脈など)	
隠れ状態	
出力制御	
状態	
隠れ状態	
	[行動出力]	
制御

(注意,	文脈など)	
新皮質	
高次のL2/3、	
海馬、小脳?	
低次のL2/3		
(基底核支配
の)視床	
高次のL6	
低次のL2/3	
基底核、	
[錐体路]	
低次のL6、	
低次のL1	
信号のセマンティクス	
情報選択(注意)	
活動度制御	
隠れ状態	
	(ボトムアップ)	
(低次L5起源)	
視床 	
視床	
高次のL2/3	
or	L4、海馬	
出力1	
出力2	
出力3	
入力1	
入力2	
入力3	
入力4	
入力5	
新皮質MAのフレームワーク	(結論)	
信号のセマンティクス	
状態: 外界信号に関わる信念や予測の内部状態全般を表す信号	
※ 「状態=最新の状態」、「隠れ状態=履歴を加味した状態」	
	
制御に関わる信号	
JSAI	2017	3K1-OS-06a-5
強化学習	
その前に「脳型アーキテクチャの全体像」とは	
JSAI	2017	3K1-OS-06a-5		
M2	
M1	 V1	S1	
EC	
触覚	 視覚	 聴覚	
海馬	
筋肉	
外部環境	
基底
核	 トップダウン情報	
ボトムアップ情報	
新皮質MA	
制御信号	
強化学習	
認識の	
取りまとめ	
第3回WBA
ハッカソン
(9月)
L1	
L2/3	
L4	
L6	
L5	
状態	
	(ボトムアップ)	
入力元	 出力先	
状態	
	(トップダウン)	
制御	
(注意,	文脈など)	
隠れ状態	
出力制御	
状態	
隠れ状態	
	[行動出力]	
制御

(注意,	文脈など)	
新皮質	
高次のL2/3、	
海馬、小脳?	
低次のL2/3		
(基底核支配
の)視床	
高次のL6	
低次のL2/3	
基底核、	
[錐体路]	
低次のL6、	
低次のL1	
信号の

セマンティクス	
信号の

セマンティクス	
情報選択(注意)	
活動度制御	
隠れ状態	
	(ボトムアップ)	
(低次L5起源)	
視床 	
視床	
高次のL2/3	
or	L4、海馬	
出力1	
出力2	
出力3	
入力1	
入力2	
入力3	
入力4	
入力5	
畳み込みNN(CNN)で利用される経路	
JSAI	2017	3K1-OS-06a-5
CNN:ボトムアップ直接経路のみ 	
JSAI	2017	3K1-OS-06a-5		
Project AGI (AGI.io ) [Kowadlo 15, Kowadlo 16]
Kowadloモデル中での入力セマンティクス	
JSAI	2017	3K1-OS-06a-5		
[Kowadlo 15, Kowadlo 16]	
状態	
	(ボトムアップ)	
状態	
	(トップダウン)	
入力3	 入力4	
制御	
(注意,	文脈など)	
入力1	
状態	
	(ボトムアップ)	
隠れ状態	
	(ボトムアップ)	
入力4	
入力5	
隠れ状態	
出力制御	
入力2
主な経路	
•  ボトムアップ直接路←すでに述べた	
•  ボトムアップ間接路	
•  トップダウン直接路	#1	
•  トップダウン直接路	#2	
•  トップダウン直接路	#3	
JSAI	2017	3K1-OS-06a-5
検討結果の全容	
JSAI	2017	3K1-OS-06a-5		
PredNet HTM BESOM
Stacked
Auto
Encoder
Ladder
Net
CNN
Frontal
cortex for
PBWM
N/A
1
2
3 ( )
4 ( )
5 (
1
2
3
Disentangle ?
N/A
既存のANNモデル	
入
出
力	
機
能	
神経科学知見
どの様に新皮質MAの枠組みを決定したか	
•  新皮質MAの標準的な入出力セマンティクス	
– 神経科学知見を統合する	
•  出力は層ごとに整理	
•  入力は入力源の性質から整理	
– 工学的に理解しうるセマンティクス付与	
•  新皮質MAの標準的な計算機能	
– 知能エージェントの機能のうち新皮質が担う部分	
•  新皮質の損傷で阻害される、	
•  他の脳部位が担うとは考えにくい部分	
– 新皮質に対応する既存計算モデルの整合性	
•  物体認識などに必要な機能	
JSAI	2017	3K1-OS-06a-5
参考とした神経科学(モデル)知見	
JSAI	2017	3K1-OS-06a-5
検討結果の全容	
JSAI	2017	3K1-OS-06a-5		
PredNet HTM BESOM
Stacked
Auto
Encoder
Ladder
Net
CNN
Frontal
cortex for
PBWM
N/A
1
2
3 ( )
4 ( )
5 (
1
2
3
Disentangle ?
N/A
既存のANNモデル	
入
出
力	
機
能	
神経科学知見
様々なモデルを比較した結果	
•  Project	AGI	[Kowadlo	15,	Kowadlo	16]が記述の
包括性が高い記述であった。	
– 他のモデルとの整合性が高かった	
– 視床からの入力を少し調整する必要があった	
•  ベイジアンフィルタは網羅性が低いが保守的	
•  川口仮説は、L5の記述が詳細で、他と整合的	
– L2/3とL5間のフィードバックの記述あり	
•  上記らは、CogniTve	consilienceの神経科学知見
ともともほぼ整合的	
JSAI	2017	3K1-OS-06a-5
オープンなAIG開発を支援するWBAI	
JSAI 2017 3K1-OS-06a-5 	
大久保敏男
後藤健太郎
さかき漣
スポンサー
Supports
開発環境の構築	
•  学習シミュレータ	
•  AGIの評価手法	
•  統合プラットフォーム
(BriCA) 	
•  神経科学への接地	
研究開発組織
Promote R&D
人材育成	
•  ハッカソン	
•  勉強会	
•  スクール	
慶應義塾大学	 玉川大学	
人工知能と脳科学の対照と融合	
産総研AIRC	
電通大 AIセンタ
全脳アーキテクチャ・アプローチ	
JSAI 2017 3K1-OS-06a-5 	
脳全体のアーキテクチャに学び
人間のような汎用人工知能を創る(工学)
新皮質について、機械学習専門家の参入を促す枠組みを整えた
おわりに	
•  新皮質MAのフレームワークは、脳型AIの構築
促進において重要な意義をもつ。	
•  本フレームワークの神経科学的妥当性などにつ
き、会場から意見を頂き、改良に結びつけたい。	
•  新皮質MAの構築に興味がある方ご連絡下さい	
	
	
JSAI	2017	3K1-OS-06a-5		
hXp://wba-iniTaTve.org/sig-wba	
全脳アーキテクチャ開発部
主な参考文献	
[船水	15]	船水章大,銅谷賢治:	"予測―大脳新皮
質のベイジアンフィルタ仮説,"	生体の科学.	66	
(1),	pp.33-37	(2015)	
[Kowadlo	15]	[Kowadlo	16]		hXp://agi.io/	(2016)	
[Solari	11]	Solari	SVH,	Stoner	R.:	"CogniTve	
Consilience:	Primate	Non-Primary	
Neuroanatomical	Circuits	Underlying	
CogniTon,"	Fron%ers	in	Neuroanatomy	(2011)	
[Numenta	10]	Numenta,	Inc.:	HIERARCHICAL	
TEMPORAL	MEMORY	including	HTM	CorTcal	
Learning	Algorithms	(2010)	
JSAI	2017	3K1-OS-06a-5

More Related Content

Featured

2024 State of Marketing Report – by Hubspot
2024 State of Marketing Report – by Hubspot2024 State of Marketing Report – by Hubspot
2024 State of Marketing Report – by HubspotMarius Sescu
 
Everything You Need To Know About ChatGPT
Everything You Need To Know About ChatGPTEverything You Need To Know About ChatGPT
Everything You Need To Know About ChatGPTExpeed Software
 
Product Design Trends in 2024 | Teenage Engineerings
Product Design Trends in 2024 | Teenage EngineeringsProduct Design Trends in 2024 | Teenage Engineerings
Product Design Trends in 2024 | Teenage EngineeringsPixeldarts
 
How Race, Age and Gender Shape Attitudes Towards Mental Health
How Race, Age and Gender Shape Attitudes Towards Mental HealthHow Race, Age and Gender Shape Attitudes Towards Mental Health
How Race, Age and Gender Shape Attitudes Towards Mental HealthThinkNow
 
AI Trends in Creative Operations 2024 by Artwork Flow.pdf
AI Trends in Creative Operations 2024 by Artwork Flow.pdfAI Trends in Creative Operations 2024 by Artwork Flow.pdf
AI Trends in Creative Operations 2024 by Artwork Flow.pdfmarketingartwork
 
PEPSICO Presentation to CAGNY Conference Feb 2024
PEPSICO Presentation to CAGNY Conference Feb 2024PEPSICO Presentation to CAGNY Conference Feb 2024
PEPSICO Presentation to CAGNY Conference Feb 2024Neil Kimberley
 
Content Methodology: A Best Practices Report (Webinar)
Content Methodology: A Best Practices Report (Webinar)Content Methodology: A Best Practices Report (Webinar)
Content Methodology: A Best Practices Report (Webinar)contently
 
How to Prepare For a Successful Job Search for 2024
How to Prepare For a Successful Job Search for 2024How to Prepare For a Successful Job Search for 2024
How to Prepare For a Successful Job Search for 2024Albert Qian
 
Social Media Marketing Trends 2024 // The Global Indie Insights
Social Media Marketing Trends 2024 // The Global Indie InsightsSocial Media Marketing Trends 2024 // The Global Indie Insights
Social Media Marketing Trends 2024 // The Global Indie InsightsKurio // The Social Media Age(ncy)
 
Trends In Paid Search: Navigating The Digital Landscape In 2024
Trends In Paid Search: Navigating The Digital Landscape In 2024Trends In Paid Search: Navigating The Digital Landscape In 2024
Trends In Paid Search: Navigating The Digital Landscape In 2024Search Engine Journal
 
5 Public speaking tips from TED - Visualized summary
5 Public speaking tips from TED - Visualized summary5 Public speaking tips from TED - Visualized summary
5 Public speaking tips from TED - Visualized summarySpeakerHub
 
ChatGPT and the Future of Work - Clark Boyd
ChatGPT and the Future of Work - Clark Boyd ChatGPT and the Future of Work - Clark Boyd
ChatGPT and the Future of Work - Clark Boyd Clark Boyd
 
Getting into the tech field. what next
Getting into the tech field. what next Getting into the tech field. what next
Getting into the tech field. what next Tessa Mero
 
Google's Just Not That Into You: Understanding Core Updates & Search Intent
Google's Just Not That Into You: Understanding Core Updates & Search IntentGoogle's Just Not That Into You: Understanding Core Updates & Search Intent
Google's Just Not That Into You: Understanding Core Updates & Search IntentLily Ray
 
Time Management & Productivity - Best Practices
Time Management & Productivity -  Best PracticesTime Management & Productivity -  Best Practices
Time Management & Productivity - Best PracticesVit Horky
 
The six step guide to practical project management
The six step guide to practical project managementThe six step guide to practical project management
The six step guide to practical project managementMindGenius
 
Beginners Guide to TikTok for Search - Rachel Pearson - We are Tilt __ Bright...
Beginners Guide to TikTok for Search - Rachel Pearson - We are Tilt __ Bright...Beginners Guide to TikTok for Search - Rachel Pearson - We are Tilt __ Bright...
Beginners Guide to TikTok for Search - Rachel Pearson - We are Tilt __ Bright...RachelPearson36
 

Featured (20)

2024 State of Marketing Report – by Hubspot
2024 State of Marketing Report – by Hubspot2024 State of Marketing Report – by Hubspot
2024 State of Marketing Report – by Hubspot
 
Everything You Need To Know About ChatGPT
Everything You Need To Know About ChatGPTEverything You Need To Know About ChatGPT
Everything You Need To Know About ChatGPT
 
Product Design Trends in 2024 | Teenage Engineerings
Product Design Trends in 2024 | Teenage EngineeringsProduct Design Trends in 2024 | Teenage Engineerings
Product Design Trends in 2024 | Teenage Engineerings
 
How Race, Age and Gender Shape Attitudes Towards Mental Health
How Race, Age and Gender Shape Attitudes Towards Mental HealthHow Race, Age and Gender Shape Attitudes Towards Mental Health
How Race, Age and Gender Shape Attitudes Towards Mental Health
 
AI Trends in Creative Operations 2024 by Artwork Flow.pdf
AI Trends in Creative Operations 2024 by Artwork Flow.pdfAI Trends in Creative Operations 2024 by Artwork Flow.pdf
AI Trends in Creative Operations 2024 by Artwork Flow.pdf
 
Skeleton Culture Code
Skeleton Culture CodeSkeleton Culture Code
Skeleton Culture Code
 
PEPSICO Presentation to CAGNY Conference Feb 2024
PEPSICO Presentation to CAGNY Conference Feb 2024PEPSICO Presentation to CAGNY Conference Feb 2024
PEPSICO Presentation to CAGNY Conference Feb 2024
 
Content Methodology: A Best Practices Report (Webinar)
Content Methodology: A Best Practices Report (Webinar)Content Methodology: A Best Practices Report (Webinar)
Content Methodology: A Best Practices Report (Webinar)
 
How to Prepare For a Successful Job Search for 2024
How to Prepare For a Successful Job Search for 2024How to Prepare For a Successful Job Search for 2024
How to Prepare For a Successful Job Search for 2024
 
Social Media Marketing Trends 2024 // The Global Indie Insights
Social Media Marketing Trends 2024 // The Global Indie InsightsSocial Media Marketing Trends 2024 // The Global Indie Insights
Social Media Marketing Trends 2024 // The Global Indie Insights
 
Trends In Paid Search: Navigating The Digital Landscape In 2024
Trends In Paid Search: Navigating The Digital Landscape In 2024Trends In Paid Search: Navigating The Digital Landscape In 2024
Trends In Paid Search: Navigating The Digital Landscape In 2024
 
5 Public speaking tips from TED - Visualized summary
5 Public speaking tips from TED - Visualized summary5 Public speaking tips from TED - Visualized summary
5 Public speaking tips from TED - Visualized summary
 
ChatGPT and the Future of Work - Clark Boyd
ChatGPT and the Future of Work - Clark Boyd ChatGPT and the Future of Work - Clark Boyd
ChatGPT and the Future of Work - Clark Boyd
 
Getting into the tech field. what next
Getting into the tech field. what next Getting into the tech field. what next
Getting into the tech field. what next
 
Google's Just Not That Into You: Understanding Core Updates & Search Intent
Google's Just Not That Into You: Understanding Core Updates & Search IntentGoogle's Just Not That Into You: Understanding Core Updates & Search Intent
Google's Just Not That Into You: Understanding Core Updates & Search Intent
 
How to have difficult conversations
How to have difficult conversations How to have difficult conversations
How to have difficult conversations
 
Introduction to Data Science
Introduction to Data ScienceIntroduction to Data Science
Introduction to Data Science
 
Time Management & Productivity - Best Practices
Time Management & Productivity -  Best PracticesTime Management & Productivity -  Best Practices
Time Management & Productivity - Best Practices
 
The six step guide to practical project management
The six step guide to practical project managementThe six step guide to practical project management
The six step guide to practical project management
 
Beginners Guide to TikTok for Search - Rachel Pearson - We are Tilt __ Bright...
Beginners Guide to TikTok for Search - Rachel Pearson - We are Tilt __ Bright...Beginners Guide to TikTok for Search - Rachel Pearson - We are Tilt __ Bright...
Beginners Guide to TikTok for Search - Rachel Pearson - We are Tilt __ Bright...
 

全脳アーキテクチャに必要な新皮質マスターアルゴリズム(MA)の検討