もっと詳細な情報を示していただいたほうが、回答しやすいのですが……。
最初に確認ですが、このエラーは毎回出るものですか? それともTVが映るときもあればエラーのときもある、ということでしょうか?
CanopusのFAQ ID 000386では6つの可能性が示唆されてます。
最も可能性が高いのは1番で、この場合は正常動作のときもあれば真っ黒のときもあります。
エラーメッセージの額面どおりに、本当に「オーバーレイが表示できない解像度、または環境」になっている(2番)ことを疑っておられるようですが、そうであればFEATHERを起動する度に必ずエラーが出ます。またMedia PlayerやWinDVD、PowerDVDなどでも動画再生できない筈ですよ?
お使いのFEATHERのバージョンが不明ですが、私はFEATHER2004 Ver6.06.010にバージョンアップしてからこの症状が出始めたので、FEATHERのバグを疑っています。
これが原因なら、FEATHERをアンインストールして、環境クリーナーをかけた上で、旧バージョンをインストールすれば解決するかもしれません(←試していません)。
さて、ご質問にあるビデオカードの設定については、「画面のプロパティ」→「設定」から解像度と色数を変更します。
「画面の領域」で800x600程度に解像度を落とし、「画面の色」で24ビット(この設定がなければ16ビット)に下げてみてください。
昨今のビデオカードなら、この解像度でオーバーレイできないということはないと思います。
あっ、質問の中でnViewについて触れらていますが、もしかしてマルチディスプレイでお使いでしょうか? この場合、5番に当たると思いますが、シングルディスプレイに戻して解決するか確認してください。
お礼
毎回の丁寧な回答ありがとうございます。 マルチモニタは無理ですか。 シングルではと思い、ケーブルを抜いて起動してみましたけど、結果は一緒でした。 諦めるしかないようです。 昔買った、高価なボードも使えないとなると、 さみしいものです。 最新のボードを買うしかないのかな。 どうもありがとうございました。