Ｃ言語です。
Ｃ＋＋は当然、楽をするために利用するべきでしょうね。
VisualStudioで、MFCをつかってプログラムすると楽できます。
画像処理の中身は、基本的には信号処理になります。例えば、周波数フィルターを理解しておいででしょうか？
恐らく、具体例としては、ステレオのイコライザーはご存知でしょうね。
高音と、低音、中音の強度を変化させて音楽の音色を変えます。
これが、フィルターです。
画像でも、同じフィルターを作成します。というと難しく聞こえますが、要するに足し算して平均する画素の数が増えると低音、１画素ずつ処理すると高音になります。
中間は、その間の画素数を平均化することになります。
こうすることで、必要な映像を抽出して二値化しエッジを検出すれば処理は大半が終了です。
この程度を自作するようであれば、Matroxを使うことが出来ます。
http://im.canon-its.jp/topics/~NO08-04/new_index.html
６０万円くらいするライブラリです。フレームグラバー（数万円）と組み合わせて初回のみ、７０万円くらいになるかもしれません。
HALCONもあります。こちらは多少値段が高くなります。それと、HALCON専用環境を使いこなす必要があります。
FASTは、日本語ですので、一番とっつきやすいでしょう。
特殊なものとしては、SHARPの画像処理機に開発環境が販売されています。６０～万円 プラス２０万円のICE,２０万円（バンドルだと１０万円）のHEWをつけて８０～９０万円くらいで開発できます。
最新版はLINUXらしいので、多少環境が異なります。また装置が高くなります。
という感じでしょうか・・
当然、カメラも必要になってきますが、ラインセンサーにするか、エリアセンサー（普通のカメラ）にするかによって、処理が違ってくる部分もあります。
ラインセンサーですと、OSを６４ビットにして、メモリを大量に積まないと処理ができないようです。
