dn-1. ニューラルネットワーク
(ディープラーニング入門演習)
URL: https://www.kkaneko.jp/ai/dn/index.html
1
金子邦彦
アウトライン
1. 深層学習
2. ニューラルネットワーク
3. 活性化,伝搬
4. ニューラルネットワークでの学習
5. ニューラルネットワークを用いた分類
6. 画像画素
7. ニューラルネットワーク作成
8. 学習不足過学習
9. ニューラルネットワーク利用の流れ
2
大学の授業「人工知能」の前半部分の総まとめ+発展
ニューラルネットワークがどういうものか知りた
実際に動かしたい.研究してみたい
(この資料により,実際に動かしてみることも可
能)
3
1. 深層学習
4
人工知能
人工知能は,コンピュータが,知的な能力を持つこと
知能
知識
学習
5
さまざまな応用
いまの人工知能 (AI) で、できること
知識表現,知識の処理
人間の言葉に関する処理(自然言語処理)
認識や推論
分類
音声認識 (人の声を「文字」化する
物体検知,物体識別 (画像の中から、「もの」を見つける)
顔認識
合成
創作
欠損の補充
翻訳
6
種々の技術がオンラインで公開されており,
自分のパソコンで試すこともできるように.
人工知能の種類
7
知的な IT システム
ルールや知識人間が書いた
人工知能
機械学習
学習による上達の能力
持つ人工知能
人工知能
機械学習のメリット,デメリッ
8
知的な IT システム
ルールや知識人間が書いた
人工知能
機械学習
学習による上達の能力
持つ人工知能
デメリット
学習不足,過学習,
などの注意点がある.
完璧に学習が成功する
わけではない.
メリット
「ルールや知識を,人
間がプログラムで書か
ねばならないことの限
界を突破
深層学習(ディープラーニング)
できること
学習による上達の能力機械学習
仕組みはシンプル.最適化(誤差を自動で最小化
さまざまな応用:人間の言葉に関する処理,認識や推論(音
声,画像,顔,人体,3次元など),合成,翻訳,欠損の補
間など
【できないこと】
知識表現,人間が目に見える形での知識の獲得
「なぜ,ディープラーニングが正しく動くのか」は,
データによる検証が必要
9
2. ニューラルネットワーク
10
深層学習とニューラルネットワーク
ニューラルネットワーク(ニューロンのネットワーク)は,
深層学習ディープラーニング)の能力を持つ
11
ニューロン
ニューロン
ニューロン
間の結合
ニューロン
間の結合
ニューロン
ニューロンの機能
足し算
掛け算
合計
合計から出力値を算出
(活性化関数)
・メモリの機能も持つことも
ニューラルネットワークは,
コンピュータでシミュレーション可能
層が直列になっているニューラルネット
ワーク
12
入力データ
出力データ
データは入力から出力の方向へ
ニューロン
ニューロン
ニューロン
ニューロン
間の結合
ニューロン
間の結合
層が直列になっているニューラルネット
ワーク
13
入力データ
出力データ
データは入力から出力の方向へ
ニューロン
ニューロン
ニューロン
ニューロン
間の結合
ニューロン
間の結合
一層目
二層目
三層目
それぞれの
は、同じ種類
ニューロン
深層学習
層の数が多い(多層の)ニューラルネットワーク
は,深層学習の機能をもつ
深層学習のことをディープラーニングともいう
14
層数が少ない
層数が多い(=多層)
3. 活性化,伝搬
15
層が直列になっているニューラルネット
ワーク
16
入力データ
出力データ
データは入力から出力の方向へ
一層目
二層目
三層目
活性化と非活性化
17
ニューロン活性化したり、非活性化したりする
(入力に応じてダイナミックに変化)
伝搬
18
活性化したユニットは、
大きな値を出力
正の値で大
負の値で大
次の層のユニットに、大きな値が
伝搬される
・重みが正なら、正の大きな値
・重みが負なら、負の大きな値
4. ニューラルネットワークで
の学習
19
ニューラルネットワークの動作イメージ
20
活性度: 0.24
活性度: 0.83
本来ある
べき
0
1
誤差: 0.24
誤差: -0.17
活性度が下がるように
結合の重みを調整
活性度が上がるように
結合の重みを調整
より前の
層の結合の
重みも調整される