【Kinect SDK】RawBayerデータとは?

先日、Kinect for Windows SDK Ver1.6が公開されましたが、Ver1.6からRawBayerデータという物が取得できるようになりました。

 

そもそもRawBayerデータというのはRaw(生データ、何も加工されていないデータ)のBayerデータをさします。

 

Bayerデータというのは、カラーカメラの仕組みを知らないと分かりづらいのですが、一般的なカラーのCCDやCMOSのセンサでは、撮像素子1つ1つにR,G,Bのどれか1つだけの光を通す光学フィルタが、下図のようなR,G,Bのパターンで配置されています。

 

 

この配置パターンをBayer配列と言い、このBayer配列のフィルタを通して撮影された画像は、市松模様の入ったモノクロの画像データとなります。

 

KinectでRawBayerデータに設定し取得した画像はこんな感じ↓

 

 

部分拡大すると↓

 

 

このデータを元にカラー画像へ変換する処理をBayer変換RAW現像などと言います。

 

このカラーへ変換するアルゴリズムですが、最初のBayer配列の図を見て頂くと分かるように、例えば、赤のフィルタがかかった画素の位置では、R(赤)は取得できるものの、G(緑)とB(青)が不足しています。

そこで、Rの上下左右にはGの画素があるので、そこからGを補完し、Rの斜め方向にはBの画素があるので、Bを補完します。同様な全画素において行うと、全画素にR,G,Bのデータを補完できるので、カラー画像となります。

 

ただ、実際にはBayer変換できれいにカラーへ変換するのは難しく、Kinectでカラーで撮影した画像↓

 

 

これを拡大してみると↓

 

 

上図のように、市松模様的なパターンが残っていたり、擬色と呼ばれる本来の色とは異なる色になっていたりします。

 

この擬色などを手っ取り早く消すには、カラーに変換した画像にガウシアンフィルタをかけ、アンシャープマスキングを行うと、少しまともな感じになります。

 

(処理例)

 

部分拡大↓

 

この辺の味付けには人それぞれ好みの分かれるところなので、カラー画像を重視する場合はRawBayerデータからカラー画像への変換に挑戦してみるのも良いと思います。

 

ちなみに、OpenCVでもCvtColor関数を使えばBayer配列からカラー画像へ変換できますが、これもあまり綺麗には変換しれくれません。

 

【関連記事】

カラーエリアCCDセンサのしくみ(単板式、三板式)

ガウシアンフィルタ

アンシャープマスキング(鮮鋭化フィルタ)

●OpenCVのcvCvtColorcvtColor

Kinect SDK Ver1.6が公開されました

2012年10月8日の夜、Kinect for Windows SDK Ver.1.6が公開されました。

 

Kinect SDK Ver1.6の入手先はこちら↓

 

http://www.microsoft.com/en-us/kinectforwindows/develop/developer-downloads.aspx

 

インストール方法はいたって簡単で、リンク先のページにあるようにStep1のKinect for Windows SDKをインストールし、Step2のKinect for Windows Developer ToolkitをインストールすればOKです。

 

Ver1.5からVer1.6への変更点は、SDK公開後、爆速でまとめられている方々がいるので、そちらにお任せします。

 

Natural Software

http://www.naturalsoftware.jp/

Kinect for Windows SDK v1.6 1st Review

 http://www.slideshare.net/SugiuraTsukasa/kinect-for-windows-sdk-v16-1st-review

●MSDN

 http://msdn.microsoft.com/en-us/library/jj663803.aspx#SDK_1pt6_M2

 

個人的にはまったのは、公開されているSDKはVisual Studio2010のソリューションで公開されているので、ソリューションを作れないExpressでは開けないファイルがあります。

 

そのため、ソリューションの作れるVisual Studio 2012 for Desktopを使うとソリューションファイル(*.sln)を開けて実行する事ができました。

 

(参考記事)

Visual Studio 2012 Expressが公開されました

Kinect SDK Bitmapクラスを使ったC#サンプル

Kinect SDKには、最初からC#のサンプルプログラムはありますが、xamlファイルがあったりSystem.Windows.Mediaを使っていたり、いまいち慣れない書き方をしているので、なんとなく逆行するような気もしますが、SkeletalViewerのサンプルを慣れ親しんだBitmapクラスを使って書いてみました。

 

あちこち手を抜いていますが、サンプルは首ふり機能も追加して、こんな感じです。

 

 

サンプルプログラムはこちらです。

KinectSkeletalViewerCS.zip

動作させるにはKinect SDKがインストールされている事が必要です。

(Visual Studio 2010 C# Express版です。)

 

Kinect SDK + OpenCV2.2 サンプルプログラム作成

昨日公開されたKinect SDKですが、データをOpenCVに接続するサンプルを勉強がてら作ってみました。

 

やった事はKienct SDKのサンプルプログラム(SkeletalViewer)をベースに、画像表示部分のデータポインタをOpenCVのIplImageにコピーしています。

 

とりあえずこんな感じ↓

あ~~ 部屋が狭い、汚い、ボロイ。

 

もともとのサンプルでは、Playerの部分はDepthデータに合わせてカラーで表示しているのですが、この部分は別ウィンドウに分けました。

 

ご興味があればサンプルプログラムはこちら↓よりダウンロードできます。

 

KinectSDK_OpenCV22.zip

 

上記ファイルをダウンロード、解凍し、解凍したフォルダ(OpenCV)をKinectSDKのサンプルフォルダ

 

C:\Users\Public\Documents\Microsoft Research KinectSDK Samples\NUI\SkeletalViewer

 

に入れて下さい。(インクルードディレクトリ設定の都合上)

 

プログラムの終了は Skeletal Viewer のウィンドウの×ボタンで。

 

動作環境は

  • Kinect SDKが動作する事。
  • OpenCV2.2がインストールされている事。

です。

 

もう少しサンプルをスッキリさせたい気もしますが、もうすぐしたら、OpenCV2.3が公開されるでしょうから、ちょっと様子見で...


(2011.06.21追記)
と思ったら、kaorun55さんが、シンプルなソースコードを公開していました。
Kinect for Windows SDK beta で遊んでみた・その2(C++でOpenCV対応、OpenNIっぽく)
さすがですね。


 

ソースコードを見ていて気になったのが、深度データは16bitのバッファに格納されているのですが、16bit中の上位13bitが実際の深度データで、下位3bitにPlayerの番号が各画素ごとに割り振られていました。

 

また、深度データの解像度(320×240)を変えようと思ったのですが、出来ないのか???

(2011.06.21追記)

80×60にはできるらしい。ってデカくはできない!