O'Reilly Japan - ゼロから作るDeep Learning

# パーセプトロン

  • x（入力）にw（重み）を乗じて加算したものがθ（閾値）を超えると発火、y（出力）が1になるというアルゴリズム。
    • 名前は難しそうだけど単純。
  • 図で入力や出力を表す◯をニューロンやノードと呼ぶ。
  • 重みは電流の抵抗のような役割を果たす。（信号の流れやすさを制御するパラメータ）
  • この単純な同じ構造のパーセプトロンで、AND、NAND、OR回路が作れる。（ここではパラメータ決めを手動でやるが、本当は機械にやらせたい）
  • θを-b（バイアス）としてb + w1x1 + w2x2が0を超えるか、という式に変換する。重みは各信号の重要度、バイアスは発火しやすさ。
  • パーセプトロンは線形なので、非線形であるXORは表現できない。
  • 多層（2層）ならXORを作れる。
  • O'Reilly Japan - コンピュータシステムの理論と実装 NANDだけでコンピュータを作れることを解説してくれる本。