[MySQL] rootなのにGRANTできない

MySQLの5.1を間違えて入れたあと、すぐ5.5にして、mysql_upgradeを叩いていなかったという凡ミス…。

参考:mysqlで適切な権限があるにも関わらずgrant文でエラーが出た場合の対処法 | Skyarch Broadcasting

PyCallで手書き数字認識のWebアプリ

一応動くところまで。
https://pycall-mnist.herokuapp.com

GIFではうまく言ってるようにみえるけど思ったより認識精度よくない。
参考アプリでは結構入力の画像をいじってたのでその辺りの工夫が必要かも。

参考

PyCallでMNISTの実データを使った学習・推論

今までは100個のサンプルデータとかでやってたんだけど、概ね動いてきたので実データで。

学習

https://github.com/oreilly-japan/deep-learning-from-scratch/blob/master/ch04/train_neuralnet.py とほぼ同じ処理をしているはず。

$ ruby train.rb 0 10000 100 data/params.json
10000 / 10000
      user     system      total        real
351.320000  38.590000 389.910000 (183.712062)

3分ぐらいかかった。

結果はいい感じ。

推論

$ ruby predict.rb 
7 == 7: o
2 == 2: o
1 == 1: o
0 == 0: o
4 == 4: o
1 == 1: o
4 == 4: o
9 == 9: o
6 == 5: x
9 == 9: o
      user     system      total        real
  0.040000   0.000000   0.040000 (  0.020253)

こちらは全然時間かからず。精度も大丈夫そう。

ゼロから作るDeep Learning: 第4章のgradientをRuby化

O'Reilly Japan - ゼロから作るDeep Learning

下のような感じで書き方が変わる。
第4章のバージョンについては説明がないので、誤差逆伝播法の理解を深めるためにもRuby化してみる。

ch04/two_layer_net.py

https://github.com/oreilly-japan/deep-learning-from-scratch/blob/master/ch04/two_layer_net.py

    def gradient(self, x, t):
        W1, W2 = self.params['W1'], self.params['W2']
        b1, b2 = self.params['b1'], self.params['b2']
        grads = {}

        batch_num = x.shape[0]

        # forward
        a1 = np.dot(x, W1) + b1
        z1 = sigmoid(a1)
        a2 = np.dot(z1, W2) + b2
        y = softmax(a2)

        # backward
        dy = (y - t) / batch_num
        grads['W2'] = np.dot(z1.T, dy)
        grads['b2'] = np.sum(dy, axis=0)

        da1 = np.dot(dy, W2.T)
        dz1 = sigmoid_grad(a1) * da1
        grads['W1'] = np.dot(x.T, dz1)
        grads['b1'] = np.sum(dz1, axis=0)

        return grads

ch05/two_layer_net.py

https://github.com/oreilly-japan/deep-learning-from-scratch/blob/master/ch05/two_layer_net.py

    def gradient(self, x, t):
        # forward
        self.loss(x, t)

        # backward
        dout = 1
        dout = self.lastLayer.backward(dout)

        layers = list(self.layers.values())
        layers.reverse()
        for layer in layers:
            dout = layer.backward(dout)

        # 設定
        grads = {}
        grads['W1'], grads['b1'] = self.layers['Affine1'].dW, self.layers['Affine1'].db
        grads['W2'], grads['b2'] = self.layers['Affine2'].dW, self.layers['Affine2'].db

        return grads

dはデルタ(δ)のd。

f(x, y) = x + yという関数があったら、
xの偏微分はδf/δx
yの偏微分はδf/δy
と書く。

Ruby化

Ruby版はこんな感じになった。
dがdeltaの頭文字ということがわかっていれば、やっていることはレイヤー版と何ら変わりないことがわかるので、あとは本を読めば良い。
sigmoid_gradはSigmoidレイヤーのbackwardメソッドと同じ意味。(レイヤー版ではself.outに保持していたものを引数で渡すようにした)

  def gradient(x, t)
    grads = {}

    batch_num = x.shape[0]

    forward = predict(x)
    w2, a1, z1, a2, y = forward[:w2], forward[:a1], forward[:z1], forward[:a2], forward[:y]

    dy = (y - t) / batch_num
    grads[:W2] = np.dot.(z1.T, dy)
    grads[:b2] = np.sum.(dy, 0)

    da1 = np.dot.(dy, w2.T)
    dz1 = Util.sigmoid_grad(z1) * da1
    grads[:W1] = np.dot.(x.T, dz1)
    grads[:b1] = np.sum.(dz1, 0)

    return grads
  end

参考

[読書メモ] ゼロから作るDeep Learning: 第5章

O'Reilly Japan - ゼロから作るDeep Learning

誤差逆伝播法

  • 数値微分は実装簡単だが遅い
  • 本書では数式ではなく計算グラフで説明

計算グラフ

  • メリット
    • 局所的な計算に集中できる
    • 途中の計算結果を保持できる
    • 逆方向の伝播によって微分を効率的に計算できる
  • リンゴの値段があがったら支払い金額はどうなる?
    • 100円のリンゴ2個、消費税10%
    • りんごの値段に対する支払い金額の微分
    • 逆方向の矢印をたどればすぐわかる
    • あがった値段の2.2倍増える
    • 途中までの計算を再利用して、消費税に対する微分もすぐわかる

連鎖率の原理

  • 合成関数の微分はそれぞれの関数の微分の積となる
  • 合成関数
    • 複数の関数で構成される関数
  • 計算グラフの逆伝播はこれによって成り立つ

ノード

  • 加算ノード
    • 値をそのまま流す
  • 乗算ノード
    • xとyをひっくり返して掛けて流す

単純なレイヤの実装

  • forward, backwordを持つ
  • forwardはx, yを受け取る
  • backwardはdout(微分)を受け取る

ニューラルネットのレイヤ実装

  • ReLU
  • Sigmoid
  • 中身はややこしいけど計算グラフ上は1つのノードで表せる
  • Affine
    • 行列の内積(アフィン変換)+バイアス
  • Softmax with Loss
    • Softmaxと損失関数(交差エントロピー誤差)を合わせたレイヤ
    • Softmaxは推論では省略される。省略されたAffineの生データのことをスコアと呼ぶ
    • 逆電波はSoftmaxの出力(y1, y2, y3)と教師データ(t1, t2, t3)の差分という綺麗な結果になる
    • 交差エントロピー誤差がそのために設計されたものだから
    • 恒等関数は2乗和誤差を使うと綺麗になる
    • 認識率が低いと大きな誤差が逆伝播していく、認識率が高いと小さな誤差が逆伝播

数値微分の必要性

  • 勾配確認
    • 誤差逆伝播法は実装複雑なのでバグの可能性
    • 数値微分と勾配を比べる

学習の全体図

  1. ミニバッチの抽出
  2. 勾配の算出
  3. パラメータの更新
  4. 繰り返す

誤差逆伝播法は2を効率化するもの。

そういえば積分は?

全然本書とは関係ない話。

数値積分(長方形近似)

  • 数式解く→ 解析的
  • 長方形を細かく分けて面積求める → 数値積分

積分も本書で扱ってる微分と同じ。
数値積分はわかりやすい。

誤差逆伝播法みたいに積分を効率的にやる手法もあるのかな?