【Neural Network Console】学習データの出力方法

シェアする

  • このエントリーをはてなブックマークに追加
最近の記事
  • 9/7 【Neural Network Console】学習データの出力方法
  • 9/3 Deep Learning向け学習画像撮り込みソフト公開
  • 9/1 【Neural Network Console】新規画像のDataset作成方法
  • 8/28 【Neural Network Console】GUI表示スケールの変更
  • 8/22 【Neural Network Console】CPU/GPU処理の設定切替
  • 8/21 【Neural Network Console】Learning Rate(学習率)の設定
  • 8/20 ソニーの無償AIソフト Neural Network Consoleの入手ダウンロード、インストール
  • 8/20 Deep Learning
  • 8/20
  • 8/19 古いバージョンのVisual Studio Community/Expressの入手ダウンロード
  • 8/19 CUDAの入手、ダウンロード、インストール方法
  • 8/17 【C#.NET】マイクロソフト仕様のアフィン変換
  • 8/5 【C#】ファイルを開くダイアログボックスの表示
  • 8/2 キャノンプリンターのCDトレイはどこ?!
  • 7/6 【参考書籍】画像処理・機械学習プログラミング OpenCV 3対応
  • 6/20 【Python,matplotlib】動くグラフをAnimationGifに保存する方法
  • 6/17 シグモイド関数の微分
  • 6/15 シグモイド関数
  • 6/13 合成関数の微分
  • 6/12 WordPressで数式エディタ風に数式を入力したい
  • 6/11 PythonをVisual Studioでインストールする方法
  • 6/9 【Python】OpenCVをAnacondaでインストール(Windows編)
  • 6/6 【Python】Anacondaで複数バージョンの環境切り替え
  • 6/6 画像センシング展2017に出展します。
  • 6/1 【Office365】Web版Outlookのフォントサイズ変更
  • 6/1 【Anaconda】モジュールのアップデートでエラー発生
  • 6/1 【Anaconda】コマンドリストの表示
  • 5/29 Windows10パソコン購入
  • 5/24 Anacondaのアンインストール
  • 5/24 【Jupyter Notebook】新規プログラムの作成
  • 5/23 【Python】開発環境の構築
  • 5/23 Pythonはじめました
  • 4/6 【Office365】Web版Outlookのスレッド表示を解除する方法
  • 4/5 【Excel】フーリエ解析(FFT)
  • 3/20 Canny edge detection
  • 3/20 【Excel2016】分析ツールの表示
  • 3/5 【Visual Studio】黒い背景色を白に変更する方法
  • 2/8 【Windows10】拡張モニタに表示されたウィンドウを元に戻す
  • 2/7 複素数の計算
  • 1/18 【Excel】棒グラフの横軸の目盛を0始まりにする
  • 1/16 【Excel】フーリエ変換
  • 1/6 【OpenCV】疑似カラー(カラーマップ)
  • 11/8 【Visual Studio】検索結果のウィンドウ表示
  • 11/3 ニコン 一眼レフカメラ D5500レビュー
  • 10/26 カラーカメラはモノクロカメラを兼ねない
  • 9/6 (Free Soft)Animation GIF Builder
  • 8/30 【C#】タブの無いTabControlっぽいものを作る
  • 8/29 【OpenCvSharp】サンプルプログラムの公開
  • 8/28 【PowerPoint】部分的にカラーにする(セレクトカラー処理)
  • 8/27 【C#】引数の値渡し、参照渡し(ref, out)

  • Neural Network Consoleは、触っているとすぐに結果がわかる(小さいニューラルネットワークだと。。)ので、楽しいのですが、それもだんだん飽きてきたので、処理の中身を勉強しなきゃ!と思いつつも、Neural Network Consoleで学習させたデータをNeural Network Libraryを使ってプログラムに処理を組み込む方を先に検討しようかと思っています...

    まず、作成したニューラルネットワーク構造を保存するには、どこでもいいので、レイヤーの部分を右クリックします。

    Neural Network Console output learning data

    すると、Exportの部分があるので、Exportを選択すると、

    ・prototxt(Caffe用のファイル?)

    ・Python Code

    が表示されているので、どちらかを選択します。

    prototxtを選択すると、名前を付けて保存ダイアログが表示されるので、ファイルに保存すると、こんな感じ↓の内容のファイルが作成されます。

    layer {
      name: "Input"
      type: "Data"
      top: "Input"
    }
    layer {
      name: "Convolution"
      type: "Convolution"
      convolution_param {
        num_output: 16
        kernel_size: 5
        dilation: 1
      }
      bottom: "Input"
      top: "Convolution"
    }
    layer {
      name: "MaxPooling"
      type: "Pooling"
      pooling_param {
        pool: MAX
        kernel_size: 2
        stride: 2
      }
      bottom: "Convolution"
      top: "MaxPooling"
    }
    layer {
      name: "Tanh"
      type: "TanH"
      bottom: "MaxPooling"
      top: "Tanh"
    }
    layer {
      name: "Convolution_2"
      type: "Convolution"
      convolution_param {
        num_output: 8
        kernel_size: 5
        dilation: 1
      }
      bottom: "Tanh"
      top: "Convolution_2"
    }
    layer {
      name: "MaxPooling_2"
      type: "Pooling"
      pooling_param {
        pool: MAX
        kernel_size: 2
        stride: 2
      }
      bottom: "Convolution_2"
      top: "MaxPooling_2"
    }
    layer {
      name: "Tanh_2"
      type: "TanH"
      bottom: "MaxPooling_2"
      top: "Tanh_2"
    }
    layer {
      name: "Affine"
      type: "InnerProduct"
      inner_product_param {
        num_output: 10
      }
      bottom: "Tanh_2"
      top: "Affine"
    }
    layer {
      name: "Tanh_3"
      type: "TanH"
      bottom: "Affine"
      top: "Tanh_3"
    }
    layer {
      name: "Affine_2"
      type: "InnerProduct"
      inner_product_param {
        num_output: 1
      }
      bottom: "Tanh_3"
      top: "Affine_2"
    }
    layer {
      name: "Sigmoid"
      type: "Sigmoid"
      bottom: "Affine_2"
      top: "Sigmoid"
    }
    
    

    Python Codeを選択すると、こちらはファイルではなく、クリップボードにコピーされます。

    def network(x, y, test=False):
      # Input -> 1,28,28
      # Convolution -> 16,24,24
      with parameter_scope('Convolution'):
        h = PF.convolution(x, 16, (5,5), (0,0))
      # MaxPooling -> 16,12,12
      h = F.max_pooling(h, (2,2), (2,2), True)
      # Tanh
      h = F.tanh(h)
      # Convolution_2 -> 8,8,8
      with parameter_scope('Convolution_2'):
        h = PF.convolution(h, 8, (5,5), (0,0))
      # MaxPooling_2 -> 8,4,4
      h = F.max_pooling(h, (2,2), (2,2), True)
      # Tanh_2
      h = F.tanh(h)
      # Affine -> 10
      with parameter_scope('Affine'):
        h = PF.affine(h, (10,))
      # Tanh_3
      h = F.tanh(h)
      # Affine_2 -> 1
      with parameter_scope('Affine_2'):
        h = PF.affine(h, (1,))
      # Sigmoid
      h = F.sigmoid(h)
      # BinaryCrossEntropy
      h = F.binary_cross_entropy(h, y)
      return 
    

    ただ、一番知りたかったのは、学習データそのものなのですが、こちらは学習の画面(TRAINING)の左側に表示されている学習のログの部分を右クリック→Open Result Location もしくは ダブルクリックで学習データが保存されているフォルダが表示されます。

    Neural Network Console output learning data

    学習データの保存フォルダ↓

    Neural Network Console output learning data

    このフォルダには各種ログファイルと、重みやバイアスの値が格納されているファイル(*.h5)が保存されています。

    この*.h5ファイルは、個人的には全く馴染みの無いファイルだったのですが、このファイルのビューアソフトは、こちらのページ↓

    https://www.hdfgroup.org/downloads/hdfview/

    Neural Network Console output learning data

    よりダウンロードすることができます。

    ただし、初めての場合はメールを登録しないとダウンロードできません。

    メールを登録後、メールが来るのですが、私の場合は迷惑メールフォルダに振り分けられていたので、しばらくしてもメールが来ない場合は、迷惑メールフォルダも確認するとよいと思います。

    私の場合はWindows10 64bitなので、 HDFView – Windows のファイルをダウンロードしました。

    ファイル(HDFView-3.0-win7_64.zip)をダウンロード後、解凍するとセットアップファイル(HDFView-3.0.msi)があるので、このファイルをダブルクリックして実行します。

    あとは表示に従って次へ次へ進めていけば、インストールができます。

    最後に Launch HDFVie-3.0.0 の部分にチェックを入れ、Finishボタンをクリックすると、ビューアのプログラムが起動します。

    これで、先ほどの学習データの保存フォルダに格納されているh5ファイルを開こうとしたら、なぜか?失敗。。。

    試しに 01_logostic_regressionのファイルを開いたら開けたので、再度、 02_binary_cnn 作成されたh5ファイルを開いたら、今度は成功!

    そして、こちら↓がファイルを開いた画面

    Neural Network Console output learning data

    重みっぽいのがいる~!

    試しに最初のaffineWの部分をダブルクリックすると、その部分の重みがExcelのような画面で表示されます。

    Neural Network Console output learning data

    このパラメータはこの↓ニューラルネットの最初の Affine の部分の重みで

    Neural Network Console output learning data

    入力が8 x 4 x 4 = 128個で出力が10個になっているので、確かにつじつまも合う!

    このパラメータが分かってしまえば、層の浅いニューラルネットワークであれば、単純に画像のフィルタ処理のノリでプログラムに落とし込めそう!!

    とはいっても、次は、出力されたニューラルネットワークと、このh5ファイルを使って、プログラム(できればC++)に落とし込む方法を調べてみようと思っています。

    (詳しい方がいれば、参考になるページ等、教えて下さい!)