【ディープラーニング】最新のディープラーニングを一通りさらっておく

ぼけっと、色々な記事を読んでいたら、
先日AlphaGo（っぽい)レポジトリを紹介していた時に出てきた、
Kerasというモジュールの紹介記事を見かけた。

esu-ko.hatenablog.com

aidiary.hatenablog.com

色々なDeepLearningのKeras版レポジトリも元記事位は付いているので、
Chainerで書き直したら勉強になりそ−、とは思うんだけど、
そもそも何かを知っていないとお話にならないので、その調査メモ。

Gaussian-Bernoulli RBM

連続値を処理したいときの制約ボルツマンマシン
Chapter 8 ボルツマンマシン - 深層学習本読み会
補助関数法によるGaussian-Bernoulli RBMの 学習アルゴリズムの検討
制約つきボルツマンマシン (RBM; Restricted Boltzmann Machine) の私的まとめ

Deep dream

Googleが公開していた、
なんかキモチワルイ画像生成

悪夢画像の衝撃！ Googleの人工知能「Deep Dream」が見る夢がヤバすぎ
DeepDream 機械が見た夢

Neural style transfer

ある画像をベースに、他の画像の雰囲気を付け足す(っぽい)

画風を変換するアルゴリズム
上記記事が参考にしている論文
【Deep Learning 画風変換】ポケモンを大神の世界に連れて行ってみた

GANとDCGAN

画像生成手法。

Chainerを使ってコンピュータにイラストを描かせる
Chainerで顔イラストの自動生成
最新の画像生成技術に衝撃を受けたので、その基礎技術をTensorFlowで実装してみる

VGG-16

VGGというチームが考案した16層~19層のニューラルネット
画像判別の大会で好成績を残した。

以下のpdfの2.4参照
ディープラーニングに用いる畳み込み演算による概念操作の表現

Deep Q-learning

Deep Q Networkと同じっぽい
DeepLearningを用いた、強化学習。

Deep-Q-Learning
DQNの生い立ち　＋　Deep Q-NetworkをChainerで書いた

Music generation

音楽の旋律予測。
RNN-RBMというRNNの生成モデル版を使用している。

RNN-RBMによる旋律の予測と生成と音楽情報処理に関する紹介
GRUV: Algorithmic Music Generation using Recurrent Neural Networks

AlphaGo

説明いらないと思いますが、囲碁。

---

ちなみにKerasはTheanoのラッパー。
Chainer以上に簡潔にニューラルネットモデルをPythonで書けそう。
Keras版の上記DeepLearningのコードが見たい人は元記事をどうぞ。

---

そろそろ落ち着いてディープラーニングのコードを書きたい。

【ディープラーニング】AlphaGoの勉強でもするか

将棋でAIが勝ち始めたころ、
それでも囲碁でAIが勝つなんて未来の話だよwwww
というのが、定説だった。

もっともそんな話はこの一週間で崩れ去り、
にわかに人工知能の「凄さ」が多くの人間の中で
確信に変わり始めた気がする。

で、この囲碁のAIアルゴリズム、
AlphaGo、当然元ネタは論文らしいんだけど、
それを実装してる（っぽい）レポジトリみつけた。

ディープラーニングの勉強用参考書まとめ

ディープラーニングタノシイ!

イラストで学ぶ ディープラーニング

イラストで学ぶ ディープラーニング (KS情報科学専門書)

以前、『初めてのディープラーニング』を紹介した時に、
こっちのほうがおすすめだよ、と言われた書籍です。

私はあくまでも初めてのディープラーニングのが好きですけど!

レベルとしては初めてのディープラーニングとほとんど一緒。
こちらのほうが、Chainer,TensorFlowと多彩なフレームワークの説明あり。

初めてのディープラーニング

初めてのディープラーニング --オープンソース"Caffe"による演習付き

また?と言われそうなので、
おすすめです!だけ言っときます。

ディープラーニング、ビッグデータ、機械学習

ディープラーニング、ビッグデータ、機械学習　　あるいはその心理学

ディープラーニングが話題になり始めたころ、
最速で発売されてました。
実装は少なく、
数式、歴史背景、現状の社会状況メインです。

ディープラーニングすごいよ?世界変えちゃうよ?
君も乗らなきゃこのビッグウェーブに!

的な煽りは一切なく、むしろアンチな姿勢の書籍です。
流行りものに対してちゃんと警戒するスタンスの人は波長があるかもしれません。
（本に波長とかあんのか、てのは置いといて)
教養として学びたいけど理論もちょっとやりたい人向け。

深層学習

深層学習 (機械学習プロフェッショナルシリーズ)

初めてのディープラーニングの次はこれかな。
数式はそれなり。
でも、初めてのディープラーニングの知識を補強してくれます。

CNN,AutoEncoder,RNN,ボルツマンマシンが章で分かれてるのも良い。

昨年末にKindle化されました(Kindleで買いたかった・・・。)

深層学習

深層学習: Deep Learning

うん、タイトルがね・・・。被ってるんだよね・・・。

さっきの本なしで、こっちでもいいかもしれない。
こっちはさっきのには乗ってない知識も結構ある。

進化計算と深層学習

進化計算と深層学習 -創発する知能―

読んでいないので、読んだら書きます。

Caffeをはじめよう

Caffeをはじめよう

オライリー電子書籍のみ本。
おしゃれカフェのやり方ではない。
(オライリーだとそういうの出しかねないのが怖い
「年金で始めるGeek向けカフェ」みたいなの)

Caffe本で、ディープラーニングの理論は少ない。
が、実装部分が書かれている書籍は貴重です。
フレームワーク変わっても考えるべき所は似てるんで、
自分のフレームワークで再実装すると良い勉強になります。

LeNet-5やAlexNet,GoogleNet等の説明があるので、
論文より書籍でしょ!みたいな自分には良本です。

ここまで来るとあとは論文読んだりって話になるかと。

自分みたいに趣味でやってる人は
ネットの面白そうな実装をためしてればいいんじゃないか、
と個人的に思ってます。

おまけ

初めて見た。

ホステス娘~人工知能(無能)チャット・プログラミング入門マニュアル

ナニコレー
買ってみよ