Login| Sign Up| Help| Contact|

Patent Searching and Data


Title:
EXERCISE SUPPORTING METHOD
Document Type and Number:
WIPO Patent Application WO/2008/126419
Kind Code:
A1
Abstract:
[PROBLEMS] To provide an exercise supporting method for guiding a person to do a specific exercise. [MEANS FOR SOLVING PROBLEMS] The exercise supporting method for inducing a user to make a specific motion comprises: a step of displaying paper sliding doors (35) imitating paper sliding doors on the screen of a TV monitor (5); a detection step of capturing an image and detecting the movement of the user according to the captured image; a step of moving cursors (70) displayed on the screen of the TV monitor (5) according to the movement of the user; and an effect step of displaying so as to make the paper sliding doors(35) in an order like that of opening real paper sliding doors, that is on condition that a cursor (70R) moves rightward and a cursor (70L) moves leftward after the cursors (70R, 70L) respectively move onto handles (33R, 33L).

Inventors:
IIJIMA YOSHIHIRO (JP)
Application Number:
PCT/JP2008/000950
Publication Date:
October 23, 2008
Filing Date:
April 10, 2008
Export Citation:
Click for automatic bibliography generation   Help
Assignee:
SSD CO LTD (JP)
IIJIMA YOSHIHIRO (JP)
International Classes:
A63B69/00; A63B71/06
Foreign References:
JP2006320706A2006-11-30
JP2004049436A2004-02-19
JP2005230534A2005-09-02
JP2006320707A2006-11-30
Download PDF:
Claims:
 ユーザに特定の動作を促すための運動支援方法であって、
 表示装置のスクリーンに実在の物体を模したオブジェクトを表示するステップと、
 撮像を行い、撮像の結果得られた画像に基づいて、ユーザの動きを検出する検出ステップと、
 前記ユーザの動きに応じて、表示装置のスクリーンに表示されたカーソルを移動させるステップと、
 前記実在の物体に対して行われる実際の操作と同じ手順で前記オブジェクト上を前記カーソルが移動したことを条件に、前記オブジェクトに対して前記実際の操作が行われたように表示を行うエフェクトステップと、を含む運動支援方法。
 前記エフェクトステップでは、少なくとも、前記オブジェクトに前記カーソルが重なった状態で、前記カーソルが第1の所定方向に動くことを条件に、前記オブジェクトを第2の所定方向に移動する、請求項1に記載の運動支援方法。
 前記オブジェクトが所定位置まで移動した後、再び前記オブジェクトを前記移動前の位置に表示するステップをさらに含む請求項2に記載の運動支援方法。
 前記オブジェクトは、複数の要素画像を含み、前記複数の要素画像は、所定方向に並んで配置され、
 前記エフェクトステップでは少なくとも、前記要素画像に前記カーソルが重なった状態で、前記カーソルが前記所定方向に動くことを条件に、前記所定方向に前記オブジェクトを移動する、請求項1に記載の運動支援方法。
 前記エフェクトステップでは、少なくとも、前記カーソルが前記オブジェクト上を移動することを条件に、前記オブジェクトの前記カーソルの移動軌跡に対応する部分の形状、模様、色彩のうち少なくとも一つを変化させる、請求項1に記載の運動支援方法。
 前記オブジェクトは、第1の画像を含み、
 前記エフェクトステップでは、少なくとも、前記カーソルが前記第1の画像上を移動することを条件に、前記第1の画像のうち、前記カーソルの移動軌跡に対応する部分を、第2の画像に変更する、請求項5に記載の運動支援方法。
Description:
運動支援方法

 本発明は、ユーザに運動を行うことを促 ための運動支援方法及びその関連技術に関 る。

 本出願人が出願した特許文献1は、カメラを 使った入力システムに関するものである。引 用文献1では、プレイヤのスポーツの動作又 模擬的な動作を検出し、その検出結果を入 に用いる体感ボールゲームシステムが開示 れている。

特開2004-85524号公報

 引用文献1に開示されている体感ボールゲ ームシステムは、実際のスポーツを疑似体験 することを目的に開発されたものであるため 、プレイヤはゲーム内の状況に応じて、実際 のスポーツのように動作の強度、動作の速度 、動作を行う位置及び動作を行う向きなどを 自由に変えて、ゲームを進行することができ た。このため、上記の体感ボールゲームシス テムは、プレイヤの動作の自由度が重視され ており、ユーザに対して特定の動作だけを促 すという観点からは設計されていない。しか し、リハビリテーションや訓練の分野では、 ユーザに対して特定の動作だけを反復して実 行させたい場合がある。

 そこで、本発明の目的は、ユーザに対し 特定の動作を促すための運動支援方法及び れらの関連技術を提供することである。

 本発明の第1の形態によれば、運動支援方 法は、ユーザに特定の動作を促すための運動 支援方法であって、表示装置のスクリーンに 実在の物体を模したオブジェクトを表示する ステップと、撮像を行い、撮像の結果得られ た画像に基づいて、ユーザの動きを検出する 検出ステップと、前記ユーザの動きに応じて 、表示装置のスクリーンに表示されたカーソ ルを移動させるステップと、前記実在の物体 に対して行われる実際の操作と同じ手順で前 記オブジェクト上を前記カーソルが移動した ことを条件に、前記オブジェクトに対して前 記実際の操作が行われたように表示を行うエ フェクトステップと、を含む。

 この構成によれば、ユーザの動作に連動す カーソルを動かす手順が、実在の物体に対 て行われる操作と同じ手順であるため、特 指示しなくてもユーザは直感的にカーソル 動かすための動作の手順を知ることができ 。結果ユーザに特定の動作を促すことがで る。
 さらに、手順どおりに動作を行い、カーソ を移動させると、オブジェクトの表示に実 の物体に対する実際の操作が行われたよう 反応があるため、ユーザは自分のカーソル 動かす手順が正しいか否か、すなわち自分 動作が正しいか否かを自分でもチェックす ことができる。
 さらに、実在の物体を操作することによる 業療法やトレーニングを、オブジェクトに するカーソルの移動のための特定の動作を うという形で、擬似的に実施することがで る。ユーザはカーソルを動かすために特定 動作を行うだけなので、実際の作業療法や レーニングに比べて負荷が小さく、安静が 要な場合や機材がない場合など、何らかの 由で実際の作業療法やトレーニング等を行 ことが難しいユーザのためのリハビリテー ョンやイメージトレーニングとしても利用 きる。また、特定の動作を行った場合、実 の物体に対する実際の操作が行われたよう オブジェクトの表示が変化するため、ユー に対して特定の動作を行うことによる刺激 けでなく、同時に映像によって視覚的な刺 を与えることができ、ユーザに実際の作業 法やトレーニングを行っているかのような メージを与えることもできる。脳科学の分 では、動作による刺激だけでなく、動作の メージを強く持つことによる刺激によって 、脳の機能の一部が失われたり低下したり た場合に健在な脳の他の部分が失われた部 の機能を補おうとする脳の代替機能(脳の可 塑性ともいう。)が発揮されて、機能が回復 ていく場合があるとされているので、この 定の動作による擬似的な作業療法やイメー トレーニングにも、リハビリテーションと ての効果は期待できる。
 さらに、プログラムによって様々な実在の 体を模したオブジェクトを表示し、それら オブジェクトに対するカーソルの移動手順 、正しいカーソル移動が行われた場合のオ ジェクトの表示を設定しておくことができ ので、ユーザに対して様々な特定の動作を 導することが可能となる。

 前記実在の物体は、ユーザが見るだけで 記実際の操作が分かるようなユーザにとっ 身近な物体であるとなおよい。

 この運動支援方法の、前記エフェクトス ップでは、少なくとも、前記オブジェクト 前記カーソルが重なった状態で、前記カー ルが第1の所定方向に動くことを条件に、前 記オブジェクトを第2の所定方向に移動する

 この場合、前記オブジェクトが所定位置 で移動した後、再び前記オブジェクトを前 移動前の位置に表示するステップをさらに んでもよい。

 この構成によれば、オブジェクトが移動 た後、移動前の位置に再びオブジェクトが 示されるので、ユーザに対して、オブジェ トの位置にカーソルを移動させるための動 と、第1の所定方向にカーソルを移動させる ための動作を反復させることができる。ここ で、移動前の位置に再びオブジェクト表示す る方法は、所定位置に移動後のオブジェクト を再び元の位置に移動させるような表示方法 でもよいし、所定位置に移動後のオブジェク トの表示は消去し、移動前の位置に新たにオ ブジェクトを出現させるような表示方法でも よい。

 上記の運動支援方法の、前記オブジェク は、複数の要素画像を含み、前記複数の要 画像は、所定方向に並んで配置され、前記 フェクトステップでは少なくとも、前記要 画像に前記カーソルが重なった状態で、前 カーソルが前記所定方向に動くことを条件 、前記所定方向に前記オブジェクトを移動 る。

 この構成によれば、カーソルを移動する とによって並んだ複数の要素画像が次々に れるので、ユーザに対して、要素画像の位 にカーソルを移動させるための動作と、カ ソルを所定方向に動かすための動作とを反 させることができる。

 この場合、前記複数の要素画像は、所定 間隔で並んで配置されていてもよい。

 この構成によれば、反復されるユーザの 定の動作の幅が一定になる。

 上記の運動支援方法の、前記エフェクト テップでは、少なくとも、前記カーソルが 記オブジェクト上を移動することを条件に 前記オブジェクトの前記カーソルの移動軌 に対応する部分の形状、模様、色彩のうち なくとも一つを変化させる。

 この場合、前記オブジェクトは、第1の画 像を含み、前記エフェクトステップでは、少 なくとも、前記カーソルが前記第1の画像上 移動することを条件に、前記第1の画像のう 、前記カーソルの移動軌跡に対応する部分 、第2の画像に変更してもよい。

 これらの構成によれば、オブジェクトの 示位置にカーソルを重ね、カーソルでなぞ ていくような動作をユーザに促すことがで る。

 本発明の第2の形態によれば、運動支援方 法は、ユーザに特定の動作を促すための運動 支援方法であって、撮像を行い、撮像の結果 得られた画像に基づいて、ユーザの動きを検 出する検出ステップと、前記ユーザの動きに 応じて、表示装置のスクリーンに表示された カーソルを移動させるステップと、前記スク リーンに、所定のオブジェクトを表示するス テップと、少なくとも、前記オブジェクトに 前記カーソルが重なった状態で、前記カーソ ルが第1の所定方向に動くことを条件に、前 オブジェクトを第2の所定方向に移動するス ップと、を含む。

 この場合、前記オブジェクトが所定位置 で移動した後、再び前記オブジェクトを前 移動前の位置に表示するステップをさらに んでもよい。

 この構成によれば、オブジェクトが移動 た後、移動前の位置に再びオブジェクトが 示されるので、ユーザに対して、オブジェ トの位置にカーソルを移動させるための動 と、第1の所定方向にカーソルを移動させる ための動作を反復させることができる。

 本発明の第3の形態によれば、運動支援方 法は、ユーザに特定の運動を促すための運動 支援方法であって、撮像を行い、撮像の結果 得られた画像に基づいて、ユーザの動きを検 出する検出ステップと、前記ユーザの動きに 応じて、表示装置のスクリーンに表示された カーソルを移動させるステップと、前記スク リーンに、所定方向に並んで配置された複数 の要素画像を含む所定のオブジェクトを表示 するステップと、前記要素画像に前記カーソ ルが重なった状態で、前記カーソルが前記所 定方向に動くことを条件に、前記所定方向に 前記オブジェクトを移動するステップと、を 含む。

 この構成によれば、カーソルを移動する とによって並んだ複数の要素画像が次々に れるので、ユーザに対して、要素画像の位 にカーソルを移動させるための動作と、カ ソルを所定方向に動かすための動作とを反 させることができる。

 この場合、前記複数の要素画像は、所定 間隔で並んで配置されていてもよい。

 この構成によれば、反復されるユーザの 定の動作の幅が一定になる。

 本発明の第4の形態によれば、ユーザに特 定の運動を促すための運動支援方法であって 、撮像を行い、撮像の結果得られた画像に基 づいて、ユーザの動きを検出する検出ステッ プと、前記ユーザの動きに応じて、表示装置 のスクリーンに表示されたカーソルを移動さ せるステップと、前記スクリーンに所定のオ ブジェクトを表示するステップと、少なくと も、前記カーソルが前記オブジェクト上を移 動することを条件に、前記オブジェクトの前 記カーソルの移動軌跡に対応する部分の形状 、模様、色彩のうち少なくとも一つを変化さ せるエフェクトステップと、を含む。

 この場合、前記オブジェクトは、第1の画 像を含み、前記エフェクトステップでは、少 なくとも、前記カーソルが前記第1の画像上 移動することを条件に、前記第1の画像のう 、前記カーソルの移動軌跡に対応する部分 、第2の画像に変更するようにしてもよい。

 これらの構成によれば、オブジェクトの 示位置にカーソルを重ね、カーソルでなぞ ていくような動作をユーザに促すことがで る。また、オブジェクトの形状、模様、色 の変化又は第1画像から第2画像への変化に って、ユーザに対して、特定の動作を行う とによる刺激だけでなく、映像による視覚 な刺激を与えることができる。

 本発明の新規な特徴は、特許請求の範囲に 載されている。しかしながら、発明そのも 及びその他の特徴と効果は、添付図面を参 して具体的な実施例の詳細な説明を読むこ により容易に理解される。
本発明の実施の形態による運動支援方 を実行するための情報処理システムの全体 成を示す図である。 図1の入力装置3の斜視図である。 図1の入力装置3L及び3Rの使用状態の一 を示す説明図である。 図1の情報処理装置1の電気的構成を示 図である。 図1の情報処理システムによる襖開きモ ードでの画面の例示図である。図5(a)は襖35が 両方閉じた状態を示す画面を説明する図、図 5(b)は右開き入力があった場合の画面を説明 る図、図5(c)両開き入力があった場合の画面 説明する図、そして図5(d)は右開き入力及び 左開き入力が順次行われたか、両開き入力が 行われた場合の画面を示す図である。 図1の情報処理システムによる梯子登り モードでの画面の例示図である。 図1の情報処理システムによる窓拭きモ ードでの画面の例示図である。 図4のマルチメディアプロセッサ50によ 全体処理の流れの一例を示すフローチャー である。 図8のステップS3のアプリケーションプ グラムが実行する処理の1つである撮影処理 の流れを示すフローチャートである。 図8のステップS3のアプリケーションプ ログラムが実行する処理の1つであるシート 出処理を示すフローチャートである。 差分画像DIから再帰反射シート15L及び1 5Rのそれぞれの注目点を検出する方法の説明 る図である。 図4のマルチメディアプロセッサ50が実 行する情報処理の流れを示す遷移図である。 図12のステップS53の襖開きモードでマ チメディアプロセッサ50が行う処理の流れ 説明するフローチャートである。 図13のステップS67の左入力判定前処理 、マルチメディアプロセッサ50が実行する 理を説明するフローチャートである。 図13のステップS71の左入力判定処理の ローチャートである。 閾値x1からx4について説明する図であ 。 図12の遷移図のステップS55の梯子登り ードの処理を説明するフローチャートであ 。 図11の遷移図のステップS57の窓拭きモ ドの処理を説明するフローチャートである

符号の説明

1…情報処理装置、3,3L,3R…入力装置、5…テ レビジョンモニタ、9…赤外発光ダイオード 15,15L,15R…再帰反射シート、70,70L,70R…カーソ ル、33,33L,33R…引手、35,35L,35R…襖、36…背景 像。

 以下、本発明の実施の形態について、図 を参照しながら説明する。なお、図中、同 又は相当部分については、同一の参照符号 付してその説明を援用する。

 図1は、本発明の実施の形態による運動支 援方法を実行するための情報処理システムの 全体構成を示す図である。図1に示すように この情報処理システムは、情報処理装置1、 力装置3L及び3R、並びにテレビジョンモニタ 5を備える。ここで、入力装置3L及び3Rを区別 る必要がないときは、入力装置3と表記する 。情報処理装置1は、AVケーブル7により、テ ビジョンモニタ5に接続される。さらに、情 処理装置1には、図示していないが、ACアダ タあるいは電池により電源電圧が供給され 。情報処理装置1の背面には、電源スイッチ (図示せず)が設けられる。

 図2は、図1の入力装置3の斜視図である。 2に示すように、入力装置3は、透明体17の底 面側にベルト19を通して、そのベルト19を透 体17の内部で固定してなる。透明体17の内面 体にわたって(底面側を除く)、再帰反射シ ト15が取り付けられる。入力装置3の使用方 は後述する。

 図1に戻って、情報処理装置1は、その前面 に、赤外光のみを透過する赤外線フィルタ20 が設けられ、さらに、赤外線フィルタ20を囲 ように、赤外光を発生する4つの赤外発光ダ イオード9が露出している。赤外線フィルタ20 の背面側には、後述のイメージセンサ54が配 される。
 4つの赤外発光ダイオード9は、間欠的に赤 光を発光する。そして、赤外発光ダイオー 9からの赤外光は、入力装置3に取り付けられ た再帰反射シート15により反射され、赤外線 ィルタ20の背面側に設けられたイメージセ サ54に入力される。このようにして、イメー ジセンサ54により、入力装置3が撮影される。
 赤外光は間欠的に照射されるところ、赤外 の非照射時においても、イメージセンサ54 よる撮影処理は行われている。情報処理装 1は、ユーザにより動かされた入力装置3の、 赤外光照射時の画像信号と非照射時の画像信 号との差分を求めて、この差分信号DI(差分画 像DI)を基に、再帰反射シート15の位置、つま 入力装置3の位置を算出する。このように、 差分を求めることで、再帰反射シート15から 反射光以外の光によるノイズを極力除去で 、精度良く再帰反射シート15を検出できる

 図3は、図1の入力装置3L及び3Rの使用状態 一例を示す説明図である。図1及び図3に示 ように、ユーザは、中指を図2のベルト19に して、入力装置3を装着する。この場合、透 体17及び再帰反射シート15が、手の平の側に くるようにする。図1のように、ユーザが、 報処理装置1に向けて、つまり、イメージセ サ54に向けて手を開くと、透明体17及び再帰 反射シート15が現れ、この再帰反射シート15 撮影される。一方、透明体17を握り締めると 、再帰反射シート15は手の中に隠れてしまい イメージセンサ54に撮影されない。従って ユーザは、手を開いたり閉じたりする動作 よって、再帰反射シート15を撮影させたり撮 影させなかったりすることにより、情報処理 装置1に対する入力の制御を行うこともでき 。以下、この入力方法を握り入力と呼ぶ。

 図4は、図1の情報処理装置1の電気的構成を す図である。図4に示すように、情報処理装 置1は、マルチメディアプロセッサ50、イメー ジセンサ54、赤外発光ダイオード9、外部メモ リ52、及びバス56を含む。外部メモリ52には、 例えば、ROM(read only memory)、RAM(randam access me mory)、フラッシュメモリ等が利用できる。
 マルチメディアプロセッサ50は、バス56を通 じて、外部メモリ52にアクセスできる。従っ 、マルチメディアプロセッサ50は、外部メ リ52に格納されたプログラムを実行でき、ま た、外部メモリ52に格納されたデータをリー して処理することができる。この外部メモ 52に、後述の各種画面の制御、再帰反射シ ト15L及び15Rの位置検出、並びに入力状態及 非入力状態の判定等の各処理を行うプログ ム、画像データ、及び音声データ等が予め 納される。

 このマルチメディアプロセッサ50は、図示 ないが、中央演算処理装置(以下、「CPU」と ぶ。)、グラフィックスプロセシングユニッ ト(以下、「GPU」と呼ぶ。)、サウンドプロセ ングユニット(以下、「SPU」と呼ぶ。)、ジ メトリエンジン(以下、「GE」と呼ぶ。)、外 インタフェースブロック、メインRAM、及びA /Dコンバータ(以下、「ADC」と呼ぶ。)などを 備する。
 CPUは、外部メモリ52に格納されたプログラ を実行して、各種演算やシステム全体の制 を行う。グラフィックス処理に関するCPUの 理として、外部メモリ52に格納されたプログ ラムを実行して、各オブジェクトの拡大・縮 小、回転、及び/又は平行移動のパラメータ 視点座標(カメラ座標)、並びに視線ベクトル の算出等を行う。ここで、1または複数のポ ゴン又はスプライトから構成され、同じ拡 ・縮小、回転、及び平行移動の変換が適用 れる単位を「オブジェクト」と呼ぶ。
 GPUは、ポリゴン及びスプライトから構成さ る三次元イメージをリアルタイムに生成し アナログのコンポジットビデオ信号に変換 る。SPUは、PCM(pulse code modulation)波形データ 、アンプリチュードデータ、及びメインボリ ュームデータを生成し、これらをアナログ乗 算して、アナログオーディオ信号を生成する 。GEは、三次元イメージを表示するための幾 演算を実行する。具体的には、GEは、行列 、ベクトルアフィン変換、ベクトル直交変 、透視投影変換、頂点明度/ポリゴン明度計 (ベクトル内積)、及びポリゴン裏面カリン 処理(ベクトル外積)などの演算を実行する。
 外部インタフェースブロックは、周辺装置( 本実施の形態ではイメージセンサ54及び赤外 光ダイオード9)とのインタフェースであり 24チャンネルのプログラマブルなデジタル入 出力(I/O)ポートを含む。ADCは、4チャンネルの アナログ入力ポートに接続され、これらを介 して、アナログ入力装置(本実施の形態では メージセンサ54)から入力されたアナログ信 をデジタル信号に変換する。メインRAMは、CP Uのワーク領域、変数格納領域、および仮想 憶機構管理領域等として利用される。

 入力装置3L及び3Rは、赤外発光ダイオード9 赤外光に照射され、その赤外光を再帰反射 ート15L及び15Rで反射する。この再帰反射シ ト15L及び15Rからの反射光がイメージセンサ54 によって撮影され、したがって、イメージセ ンサ54からは再帰反射シート15L及び15Rを含む 像信号が出力される。上記のように、マル メディアプロセッサ50は、ストロボ撮影の めに、赤外発光ダイオード9を間欠的に点滅 るので、赤外光消灯時の画像信号も出力さ る。イメージセンサ54からのこれらのアナ グ画像信号はマルチメディアプロセッサ50に 内蔵されたADCによってデジタルデータに変換 される。
 マルチメディアプロセッサ50は、イメージ ンサ54からADCを介して入力されるデジタル画 像信号から上記の差分信号DI(差分画像DI)を生 成して、これに基づき、入力装置3L及び3Rに る入力/非入力の判定、さらに入力装置3L及 3Rの位置等を検出して、演算、グラフィック 処理、及びサウンド処理等を実行し、ビデオ 信号およびオーディオ信号を出力する。ビデ オ信号およびオーディオ信号は、AVケーブル7 によりテレビジョンモニタ5に与えられ、応 て、テレビジョンモニタ5に映像が表示され そのスピーカ(図示せず)から音声が出力さ る。

 マルチメディアプロセッサ50は、検出し 入力装置3L及び3Rの位置に応じて、カーソル7 0L及び70Rの移動を制御する。まずマルチメデ アプロセッサ50は、差分画像DIから再帰反射 シート15L及び15Rの像を抽出して、それぞれの 注目点の差分画像DI上の座標を算出する。注 点の検出の仕方については、差分画像DIを キャンして、再帰反射シート15L及び15Rの像 最も輝度が高いピクセルを注目点とする方 等周知の様々な方法が利用できる。本実施 形態での方式は、図10及び図11を用いて後述 る。

 マルチメディアプロセッサ50は、差分画 DI上の2つの注目点の差分画像DI上の座標を、 テレビジョンモニタ5に映像を表示する際に いられる座標系であるスクリーン座標系の 標に変換する。以下、スクリーン座標系は 画面左上角を原点、ユーザから見て画面の 方向をx軸正方向、ユーザから見て画面の下 向をy軸正方向とするxy平面を想定して説明 る。マルチメディアプロセッサ50は、上記 2つの注目点(再帰反射シート15L及び15Rに対応 )のスクリーン座標系での座標(以下、カーソ 座標という。)に、それぞれカーソル70L及び 70Rを表示する。また、スクリーン座標系にお けるカーソル座標、画像又は各種オブジェク トの位置や動きを説明する場合に、x軸正方 を単に右、x軸負方向を単に左、y軸正方向を 単に下、y軸負方向を単に上として説明する 合がある。さらに、2つのカーソル座標のう 、画面中左にあるカーソル座標を左カーソ 座標(再帰反射シート15Lに対応)、画面中右 あるカーソル座標を右カーソル座標(再帰反 シート15Rに対応)として分けて説明する場合 がある。

 次に、本実施の形態の情報処理システムに り実行される各種モードでの画面を例示し 、マルチメディアプロセッサ50による処理 容を説明する。
 [襖開きモード]
 図5は、図1の情報処理システムによる襖開 モードでの画面の例示図である。襖とは、 本の部屋と部屋とを仕切る引き戸の一種で 引手に手を掛けて左右にスライドさせて開 ものである。マルチメディアプロセッサ50は 、テレビジョンモニタ5に、引手33L及び33Rを れぞれ備えた襖35L及び35Rを含む画面を表示 る。以下、引手33L及び33Rを包括して引手33と 表現し、襖35L及び35Rを包括して襖35と表現す 場合がある。

 この襖開きモードでは、ユーザは、入力 置3Lを、カーソル70が引手33L上に移動するよ うに動かし、その後入力装置3Lをユーザから て左に所定量以上動かすと、襖35Lを開くこ ができる。また、ユーザは、入力装置3Rを カーソル70Rが引手33R上に移動するように動 し、その後入力装置3Rをユーザから見て右に 一定量以上動かすと、襖35Rを開くことができ る。ユーザは一定時間内に何枚の襖を開ける かに挑戦する。

 図5(a)は襖35が両方閉じた状態を示す画面を 明する図である。マルチメディアプロセッ 50は、襖開きモードを開始すると、図5(a)の 面をまず表示する。マルチメディアプロセ サ50は、左カーソル座標に応じてカーソル70 Lを、右カーソル座標に応じてカーソル70Rを 示する。マルチメディアプロセッサ50は、カ ーソル座標の動き、すなわちイメージセンサ 54によって検知したユーザの手の動きに応じ 、右開き入力、左開き入力、両開き入力を 別し、画面表示を変更していく。以下、右 き入力、左開き入力、及び両開き入力につ て説明する。
 図5(b)は、右開き入力があった場合の画面を 説明する図である。図5(b)を参照して、マル メディアプロセッサ50は、カーソル70Rが引手 33R上に移動すると、以降右開き入力又は両開 き入力が入力されるまで、カーソル70Rを右カ ーソル座標の位置ではなく引手33Rの傍に固定 表示する。この後、マルチメディアプロセッ サ50は、右カーソル座標が所定量右に移動す のを検知すると、右開き入力があったと判 し、カーソル70R、引手33R及び襖35Rを右方向 画面外までスクロールし、背景画像36の右 域を表示する。このため、ユーザには襖35R 開いていくように見える。
 同様に、マルチメディアプロセッサ50は、 ーソル70Lが引手33L上に移動すると、以降左 き入力又は両開き入力が入力されるまで、 ーソル70Lを左カーソル座標の位置ではなく 手33Lの傍に固定表示する。このとき、マル メディアプロセッサ50は、左カーソル座標が 所定量左に移動するのを検知すると、左開き 入力があったと判断し、カーソル70L、引手33L 及び襖35Lを左方向の画面外に移動させ、背景 画像36の左領域を表示する。このため、ユー には襖35Lが開いていくように見える。なお 左開き入力がなされた場合の画面表示につ ては、図5(b)を左右対称にしたものであるの で、図示を省略する。また、右開き入力と、 左開き入力とが実質的に同時に行われた場合 、マルチメディアプロセッサ50は両開き入力 あったと判断する。
 図5(c)は両開き入力があった場合の画面を説 明する図である。図5(c)のように、マルチメ ィアプロセッサ50は、両開き入力があると、 カーソル70R、引手33R及び襖35Rを右に移動させ 、同時にカーソル70L、引手33L及び襖35Lを左に 移動させ、背景画像36を表示する。このため ユーザには襖35R及び襖35Lが同時に開いてい ように見える。
 図5(d)は、襖35R及び35Lが両方開いた状態の画 面を示す図である。図5(d)を参照して、襖35を 両方とも開くと、マルチメディアプロセッサ 50は、背景画像36だけが表示された画面を表 する。背景画像36には次の襖35が画面奥に描 れている。マルチメディアプロセッサ50は 襖を開いた回数をインクリメントし、次の 35に近づいていくようにアニメーション表示 を行い、再び、図(a)で示したのと同じ、襖35 び引手33を含む画面を表示し、再びカーソ 座標に応じてカーソル70を表示する。以降マ ルチメディアプロセッサ50は、一定時間が経 するまで上述の処理を繰り返し、一定時間 経過すると、ユーザが一定時間内に何枚襖 開いたかを表示する結果表示画面(図示せず )を表示し、襖開きモードを終了する。

 [梯子登りモード]
 図6は、図1の情報処理システムによる梯子 りモードでの画面の例示図である。図6を参 して、マルチメディアプロセッサ50は、梯 37を含む画面をテレビジョンモニタ5に表示 せる。梯子37は、縦棒と横棒39とからなる。
 まずマルチメディアプロセッサ50は、横棒39 の表示位置に、カーソル70R又は70Lの何れかが 重なると、当該横棒39に重なったカーソル70 下方向への動きに合わせて、梯子37の画像も 下方向にスクロールさせる。梯子37には、画 に表れていない部分も存在する。マルチメ ィアプロセッサ50は、梯子37の画像をループ させて表示するので、梯子37の画像がスクロ ルしても、画像37の画像の端部が表示され ことは無く、常に横棒39が等間隔に並んだ状 態で梯子37が画面下にスクロールしていく。 ルチメディアプロセッサ50は、梯子37のスク ロール量に応じて、高さパラメータを増加さ せ、高さ表示部40に表示する。なお、高さパ メータに応じて背景の画像を変えるように てもよい。

 ユーザはカーソル70が重なった横棒39が、 カーソル70に伴って画面下までスクロールし ら、ユーザは、実際に梯子を登るときに上 棒に手を伸ばす動作のようにカーソル70を 面上方向に動かし、カーソル70を上に表示さ れた横棒39に重ね、再び横棒39に重なったカ ソル70を画面下方向に移動させることで、次 々に梯子37をスクロールさせ、高さパラメー を増やすことができる。梯子37が下方向に クロールしていく様子は、ユーザから見る 梯子を登っているように見える。マルチメ ィアプロセッサ50は、一定時間上記の処理を 実行し、一定時間経過後、高さパラメータと 評価を表示するための結果表示画面(図示せ )を表示し、梯子登りモードを終了する。

 [窓拭きモード]
 図7は、図1の情報処理システムによる窓拭 モードでの画面の例示図である。図7を参照 て、マルチメディアプロセッサ50は、窓44を 含む画面を表示する。
 マルチメディアプロセッサ50は、図7に示す うに、窓44の内部に、窓の曇りを表現した り画像46を表示する。次に、曇り画像46の表 位置に、カーソル70が重なると、マルチメ ィアプロセッサ50は、重なった部分の曇り画 像46を、風景画像48に変更する。このように るとユーザからは、カーソル70を動かすこと によって曇りが取れて、窓の向こうの風景が 現れるように見える。
 マルチメディアプロセッサ50は、曇り画像46 が全て風景画像48に変更されたと判断すると 風景画像48が内部に表示された窓44の表示を 止め、拭き終わった窓の数をインクリメント し、新たに曇り画像46が内部に表示された窓4 4を表示する。以上の処理をマルチメディア ロセッサ50は、一定時間繰り返す。一定時間 が経過すると、マルチメディアプロセッサ50 、拭き終わった窓の数を表示する結果表示 面(図示せず)を表示し、窓拭きモードを終 する。

 次に、マルチメディアプロセッサ50が外部 モリ52に格納されたプログラムを実行するこ とにより行う処理を、フローチャートを用い て説明する。
 図8は、図4のマルチメディアプロセッサ50に よる全体の処理の流れの一例を示すフローチ ャートである。図8に示すように、ステップS1 にて、マルチメディアプロセッサ50は、各種 数(フラグやカウンタを含む。)の初期化等 システムの初期設定を実行する。ステップS3 にて、マルチメディアプロセッサ50は、外部 モリ52に格納されたアプリケーションプロ ラムに従った処理を実行する。ステップS5に て、マルチメディアプロセッサ50は、ビデオ 期信号による割り込みが発生するまで待機 る。つまり、マルチメディアプロセッサ50 、ビデオ同期信号による割り込みが発生し いない場合は、同じステップS5に戻り、ビデ オ同期信号による割り込みが発生した場合は 、ステップS7に進む。例えば、ビデオ同期信 による割り込みは、1/60秒ごとに発生する。 この割り込みに同期して、ステップS7及びス ップS9にて、マルチメディアプロセッサ50は 、テレビジョンモニタ7に表示する画像を更 すると共に、音声の再生を行う。そして、 ルチメディアプロセッサ50は、ステップS3に る。
 ステップS3の処理を制御するアプリケーシ ンプログラムは、複数のプログラムを含む この複数のプログラムに、再帰反射シート15 の撮影処理を実行するためのプログラム、差 分画像DI上の注目点の抽出処理を実行するた のプログラム、検出された2つの注目点に左 右を割り当てる左右決定処理を実行するため のプログラム、及び各種画面表示を生成する ためのプログラム等が含まれる。以下、これ らの処理をフローチャートを用いて説明する 。

 図9は、図8のステップS3のアプリケーション プログラムが実行する処理の1つである撮影 理の流れを示すフローチャートである。図9 示すように、ステップS21において、マルチ ディアプロセッサ50は、赤外発光ダイオー 9を点灯する。ステップS23で、マルチメディ プロセッサ50は、イメージセンサ54から、赤 外光点灯時の画像データを取得して、メイン RAMに格納する。
 ここで、本実施の形態では、イメージセン 54の例として、32ピクセル×32ピクセルのCMOS メージセンサを使用する。従って、イメー センサ54からは、画像データとして、32ピク セル×32ピクセルのピクセルデータが出力さ る。このピクセルデータは、A/Dコンバータ より、デジタルデータに変換されて、メイ RAM上の二次元配列P1[X][Y]の要素として格納さ れる。
 ステップS25で、マルチメディアプロセッサ5 0は、赤外発光ダイオード9を消灯する。ステ プS27にて、マルチメディアプロセッサ50は イメージセンサ54から、赤外光消灯時の画像 データ(32ピクセル×32ピクセルのピクセルデ タ)を取得して、メインRAMに格納する。この 合、このピクセルデータは、メインRAM上の 次元配列P2[X][Y]の要素として格納される。
 以上のようにして、ストロボ撮影が行われ 。ここで、イメージセンサ54による画像を 成する各ピクセルの位置を表す二次元座標 では、水平方向をX軸、垂直方向をY軸とし、 原点Oを画像の左上角とする。本実施の形態 は、32ピクセル×32ピクセルのイメージセン 54を用いているため、X=0~31、Y=0~31である。こ の点、差分画像DIについても同じである。ま 、ピクセルデータは輝度値である。

 マルチメディアプロセッサ50は、図10の撮影 処理で得られた赤外光点灯時の画像と赤外光 消灯時の画像とから、差分画像DIを算出して 差分画像DIに映り込んだ再帰反射シート15L び15Rのそれぞれの注目点を抽出する。詳細 次の通りである。
 図10は、図8のステップS3のアプリケーショ プログラムが実行する処理の1つであるシー 検出処理を示すフローチャートである。図1 0を参照して、ステップS41にて、マルチメデ アプロセッサ50は、赤外光点灯時のピクセル データP1[X][Y]と、赤外光消灯時のピクセルデ タP2[X][Y]と、の差分を算出して、配列Dif[X][Y ]に代入する。ステップS43にて、マルチメデ アプロセッサ50は、32×32ピクセル分の差分を 算出した場合は、ステップS45に進み、そうで なければ、ステップS41に戻る。このように、 マルチメディアプロセッサ50は、ステップS41 処理を繰り返して、赤外光発光時の画像デ タと、赤外光消灯時の画像データと、の差 画像データを生成する。このように、差分 像データ(差分画像DI)を求めることで、入力 装置3L及び3Rの再帰反射シート15L及び15Rから 反射光以外の光によるノイズを極力除去で 、左右の再帰反射シート15L及び15Rを精度良 検出できる。なお、この場合、差分データ 固定閾値又は可変閾値とを比較して、閾値 超えた差分データだけを有効なデータとし 扱い、以降の処理を行うこともできる。こ 場合、例えば、閾値以下の差分データを「0 とする。
 ステップS45~S49を説明する前に、再帰反射シ ート15L及び15Rの像からそれぞれの注目点、つ まり、左注目点及び右注目点を検出する方法 について具体例を挙げて説明する。

 図11は、差分画像DIから再帰反射シート15L 及び15Rの像から、それぞれの注目点を検出す る方法の説明図である。図11には、赤外光点 時及び消灯時の画像データから生成した差 画像データに対応する差分画像DI(32×32ピク ル)が図示されている。図中、小さい正方形 は1ピクセルを示す。また、左上角をXY座標軸 の原点Oとする。この画像には、輝度値が大 い2つの領域251及び253が含まれる。領域251及 253は、再帰反射シート15L及び15Rである。た し、この時点では、どの領域がどちらの再 反射シート15に対応するかは判別できない

 まず、マルチメディアプロセッサ50は、Y=0 出発点として、X=0からX=31まで、差分画像デ タをスキャンし、次に、Yをインクリメント し、X=0からX=31まで、差分画像データをスキ ンする。このような処理をY=31まで行い、32× 32ピクセルの差分画像データをスキャンして 閾値ThLより大きいピクセルデータの上端位 minY、下端位置maxY、左端位置minX、及び右端 置maxXを求める。
 次に、マルチメディアプロセッサ50は、座 (minX,minY)を出発点として、X軸の正方向にス ャンを実行して、最初に閾値ThLを超えるピ セルまでの距離LTを算出する。また、マルチ メディアプロセッサ50は、座標(maxX,minY)を出 点として、X軸の負方向にスキャンを実行し 、最初に閾値ThLを超えるピクセルまでの距 RTを算出する。さらに、マルチメディアプ セッサ50は、座標(minX,maxY)を出発点として、X 軸の正方向にスキャンを実行して、最初に閾 値ThLを超えるピクセルまでの距離LBを算出す 。さらに、マルチメディアプロセッサ50は 座標(maxX,maxY)を出発点として、X軸の負方向 スキャンを実行して、最初に閾値ThLを超え ピクセルまでの距離RBを算出する。
 マルチメディアプロセッサ50は、距離LT>RT のときは、座標(maxX,minY)を再帰反射シート15R 注目点、つまり右注目点とし、距離LT≦RTの ときは、座標(minX,minY)を再帰反射シート15Lの 目点、つまり左注目点とする。また、マル メディアプロセッサ50は、距離LB>RBのとき は、座標(maxX,maxY)を再帰反射シート15Rの注目 、つまり右注目点とし、距離LB≦RBのときは 、座標(minX,maxY)を再帰反射シート15Lの注目点 つまり左注目点とする。

 図10に戻って、ステップS45にて、マルチ ディアプロセッサ50は、図11で説明した左右 下端(minX、maxX、minY、maxY)の検出処理を実行 る。ステップS47にて、マルチメディアプロ ッサ50は、図11で説明した左注目点及び右注 目点の決定処理を実行する。ステップS49にて 、マルチメディアプロセッサ50は、左注目点 び右注目点のXY座標をスクリーン座標系に 換し、カーソル座標を取得する。

 図12は、図4のマルチメディアプロセッサ50 実行する情報処理の流れを示す遷移図であ 。図12を参照して、マルチメディアプロセッ サ50は、図5~7で説明した各種モードを選択す ための選択画面(図示せず)を、テレビジョ モニタ5に表示する。本実施の形態では、前 の通り3つのモードが設けられる。
 ステップS51で、マルチメディアプロセッサ5 0は、選択画面において、ユーザがカーソル70 を操作して3つのモードのうち、何れかを選 するための画面である選択画面(図示せず)を 表示する。マルチメディアプロセッサ50は、 テップS51で襖開きモードが選ばれた場合、 テップS53に進み、襖開きモードのための処 を実行し、ステップS51に戻る。また、マル メディアプロセッサ50は、ステップS51で梯 登りモードが選ばれた場合、ステップS55に み、梯子登りモードのための処理を実行し ステップS51に戻る。また、マルチメディア ロセッサ50は、ステップS51で窓拭きモードが 選ばれた場合、ステップS57に進み、窓拭きモ ードのための処理を実行し、ステップS51に戻 る。
 以下、襖開きモード、窓拭きモード及び梯 登りモード実行時に、マルチメディアプロ ッサ50が行う処理をフローチャートを用い 説明する。なお、これらの処理もまた、図8 ステップS3の処理として行われるが、説明 便宜のため、ビデオ同期信号に同期した形 のフローチャートではなく、図12の遷移図に 含まれる形のフローチャートで説明する。

 図13は、図12のステップS53の襖開きモードで マルチメディアプロセッサ50が行う処理の流 を説明するフローチャートである。図13を 照して、ステップS61でマルチメディアプロ ッサ50は、襖開きモードのための画面を表示 し、各種変数(フラグ及びソフトウェアカウ タを含む。)を初期化などの初期設定をおこ う。
 ステップS63に進み、マルチメディアプロセ サ50は、計時を開始する。ステップS65に進 、図10のステップS49で取得したカーソル座標 をチェックし、ステップS67の左入力判定前処 理に進む。この左入力判定前処理は、カーソ ル70Lをどの位置に表示するかを判定するため の処理である。マルチメディアプロセッサ50 、カーソル70Lが引手33Lに重なるまでは、カ ソル座標に応じてにカーソル70Lを表示し、 ーソル70Lが引手33Lに重なると、カーソル70L 引手33Lの傍に固定し、以降左開き入力の有 の判定のために、カーソル座標のx座標の値 を変数xLとして格納し、カーソル座標のx座標 に変化がある都度更新する。図14のフローチ ートを用いて、左入力判定前処理を説明す 。

 図14は、図13のステップS67の左入力判定前 処理で、マルチメディアプロセッサ50が実行 る処理を説明するフローチャートである。 14を参照して、ステップS81で、マルチメデ アプロセッサ50は、左開きフラグがオンかオ フかを判断し、オフならステップS83へ、オン ならばリターンする。左開きフラグは、図15 後述するが、スクリーン上で襖35Lがスクロ ルした後で、代わりに背景画像36の左領域 表示されている状態の時にオンになるフラ である。マルチメディアプロセッサ50は、図 5(a)で示した状態から左開き入力があった場 に、右開き入力が入力されるまで、この左 きフラグをオンにする。同様に、マルチメ ィアプロセッサ50は、襖35Rのみが開いた状態 の場合、左開き入力が入力されるまで、右開 きフラグがオンにする。左開きフラグがオン の間は、カーソル70Lは画面に表示されないた め、マルチメディアプロセッサ50は、カーソ 70を表示するための設定を特に行わずリタ ンする。

 ステップS83で、マルチメディアプロセッサ5 0は、左フラグがオンか否かをチェックし、 ンならばステップS93へ、オフならばステッ S85へ進む。ステップS85でマルチメディアプ セッサ50は、カーソル70Lが引手33L上に来たか 否かをチェックし、来た場合はステップS87に 進んで左フラグをオンにした後、カーソル70L を引手33Lの傍に表示するように設定し、リタ ーンする。ステップS85で、カーソル70Lが引手 33L上に来ていない場合、マルチメディアプロ セッサ50は、左カーソル座標にカーソル70Lを 示する設定を行い、リターンする。
 ステップS83で、左フラグがすでにオンであ 場合、マルチメディアプロセッサ50は、ス ップS93でカーソル70Lを引手33Lの傍に表示す ように設定し、ステップS95で、左カーソル 標のx座標の値を変数xLに格納してリターン る。

 図13のフローに戻って、マルチメディア ロセッサ50は、ステップS69の右入力判定前処 理に進む。ステップS69の右入力判定前処理で は、カーソル70Rをスクリーン上のどこに表示 するかについての判定処理が行われる。ステ ップS69の処理はステップS67の処理の左右を入 れ替えた以外は、実質的に同一の処理が行わ れるため、図14の説明を援用し、説明を省略 る。ただし適宜、左開きフラグを右開きフ グに、左カーソル座標を右カーソル座標に カーソル70Lをカーソル70Rに、引手33Lを引手3 3Rに、変数xLを変数xRに、左フラグを右フラグ に、読み替えるものとする。なお、変数xLは 左フラグがオンになった以降の左カーソル 標のx座標の値が格納されるのと同様、変数 xRは、右フラグがオンになった以降の右カー ル座標のx座標の値が格納される。

 図13のフローのステップS71に進んで、マル メディアプロセッサ50は、左入力判定処理を 行う。この処理は、前述の左開き入力又は両 開き入力が行われたか否かを判定し、入力に 応じた表示を行う処理である。左入力判定処 理について、図15のフローチャートを利用し 説明する。
 図15は、図13のステップS71の左入力判定処理 のフローチャートである。ステップS101で、 ルチメディアプロセッサ50は、左フラグがオ ンか否かをチェックし、オンならばステップ S103へ進み、オフならば左開き入力又は両開 入力はまだ行われないのでリターンする。 テップS103で、マルチメディアプロセッサ50 、右開きフラグがオンかオフか、すなわち 35Rが既に開いているか否かをチェックし、Ye sならばステップS117へ、NoならばステップS105 すすむ。

 ステップS105でマルチメディアプロセッサ 50は、変数xLをチェックし、閾値x1と比較し、 xL<x1であればステップS107に進み、xL>x1で れば何もせずにリターンする。左フラグが ンになって以降の左注目点のx座標である変 数xLが閾値x1より小さくなったということは スクリーン座標系で、左カーソル座標が一 引手33L上に移動した後、x座標がx1のライン りも左側の領域まで移動したことを意味す 。さらに、マルチメディアプロセッサ50は、 ステップS107で変数xRが閾値x3より大きいか否 を判別し、大きければステップS109に進み、 小さければステップS113に進む。右フラグが ンになって以降の右注目点のx座標である変 xRが閾値x3より大きくなるということは、xy 標上で、右注目点が一度引手33R上に移動し 後、x座標がx3のラインよりも右側の領域ま 移動したことを意味する。ここで閾値x1及 x3並びに後述の閾値x2及びx4とその位置関係 ついて、図16を用いて説明する。

 図16は、閾値x1~x4について説明する図であ る。図16では、襖開きモードの図5(a)で示した 状態の画面のスクリーン座標(xy座標)を用い 、閾値x1からx4について説明する。図16を参 して、閾値x1<閾値x2<引手33Lの表示位置 x座標<引手33Rの表示位置のx座標<閾値x3&l t;閾値x4となっている。また、引手33Lからx座 がx1のラインまでの距離と、引手33Rからx座 がx4のラインまでの距離は等しく、引手33L らx座標がx2のラインまでの距離と引手33Rか x座標がx3のラインまでの距離は等しい。な 、ステップS107で、変数xRを閾値x4ではなく、 閾値x3と比較するのは、ユーザが同時に、同 手を動かしているつもりでも、マルチメデ アプロセッサ50には、動き始めの時点も、 きの量も異なって検出される場合が多いの 、このように左右で、後から移動を始めた 考えられる側の手の移動量の閾値を少なく 定することで、マルチメディアプロセッサ50 は、ユーザの意図どおり両開き入力を判別し ている。

 図15に戻って、ステップS109で、マルチメ ィアプロセッサ50は、両開き入力があった 判断し、襖35L及び35Rが同時に開くアニメー ョンを表示する。すなわち、カーソル70、引 手33及び襖35が左右画面外に移動し、背景画 36が表示される(図5(c)参照。)。ステップS110 左フラグをオフにして変数xLをリセットし、 ステップS111で右フラグをオフにして変数xRを リセットし、ステップS112で次の襖35を表示す る、つまり、背景画像36に書かれた襖の部分 拡大していき、再び引手33及び襖35を含む画 面(図5(a)参照。)を表示する。

 ステップS107からステップS113に進んだ場 、マルチメディアプロセッサ50は、左開き入 力のみがあったと判定し、襖35Lのみが開くア ニメーションを表示し、背景画像36の左領域 表示する。ステップS115に進んで、マルチメ ディアプロセッサ50は、左フラグをオフにし 変数xLをリセットし、ステップS116で左開き ラグをオンにし、リターンする。この状態 、襖35Lだけが開き、襖35Rはいまだ表示され いる状態である。

 ステップS103からステップS117に進んだ場 、マルチメディアプロセッサ50は、変数xLが 値x2より小さいか否かを判定し、大きい場 はリターンし、小さい場合はステップS118に む。前述の通りx1<x2であるため、マルチ ディアプロセッサ50は、既に襖35Rが開いてい る場合、襖35Rが開いていない場合に比べて、 ユーザの手の左方向への動きが比較的小さい 段階で、左開き入力があったと判断し、襖35L が開く。ステップS118でマルチメディアプロ ッサ50は、襖35Lが開くアニメーションを表示 し、背景画像36の左領域を表示する。この状 は、図5(d)に示したような、襖35が両方開き 背景画像36だけが表示された状態である。 テップS119に進んでマルチメディアプロセッ 50は左フラグをオフにして変数xLをリセット し、ステップS120に進んで右開きフラグをオ にし、前述のステップS112の処理の後、リタ ンする。

 図13に戻って、マルチメディアプロセッ 50は、ステップS73の右入力判定処理を行う。 この処理は、右開き入力又は両開き入力が行 われたか否かを判定する処理である。ステッ プS71の左入力判定処理と、左右が入れ替わる 以外は、実質的に同様の処理であるので、図 15で行った説明を援用し、説明を省略する。 だし、右と左とを読み替え、xL<x1をxR>x4 に、xR>x3をxL<x2に、xL<x2をxR>x3に、読 替えるものとする。

 ステップS75に進み、マルチメディアプロ ッサ50は、ステップS63の計時開始から、一 時間が経過したか否かをチェックし、まだ 定時間が経過していなかった場合は、ステ プS65に戻る。つまりマルチメディアプロセ サ50は、一定時間が経過するまでステップS65 、S67、S69、S71、S73及びS75の処理を繰り返す。 ステップS75で、一定時間が経過していた場合 はステップS77に進み、襖を開いた枚数を表示 するための結果表示画面(図示せず)を表示し 図12の遷移図にリターンする。

 図17は、図12の遷移図のステップS55の梯子登 りモードの処理を説明するフローチャートで ある。図17を参照して、ステップS131で、マル チメディアプロセッサ50は、このモードのた の画面を表示し、各種変数(フラグ及びソフ トウェアカウンタを含む。)を初期化などの 期設定をおこない、ステップS133で計時を開 する。
 マルチメディアプロセッサ50は、ステップS1 35からステップS143までの処理を、カーソル70L 及びカーソル70Rについてそれぞれ行う。ステ ップS135に進み、カーソル座標に応じてカー ル70を移動させる。マルチメディアプロセッ サ50は、ステップS137で、カーソル70が横棒39 重なっているか否かをチェックし、重なっ いる場合、ステップS139に進み、横棒39と重 っているカーソル70が下方向へ移動したか否 かを判断し、YesならばステップS140で、梯子37 の画像を下方向に移動させてから、ステップ S141で下方向に移動した量に比例して高さパ メータを増加させて高さ表示部40の表示を更 新し、ステップS143に進む。ステップS137で、 ーソル70と横棒39が重なっていないと判断し た場合及びステップS139でカーソル70が下方向 へ移動していないと判断した場合は、直接ス テップS143に進む。

 ステップS143で、マルチメディアプロセッサ 50は、カーソル70L及びカーソル70Rの両方につ て、ステップS135からステップS141の処理を ったか否かを判定し、いずれか一方のカー ル70ついてまだ処理が行われていない場合は 、ステップS135に戻り、ステップS135からステ プS143までの処理を実行する。
 ステップS143で、カーソル70R及び70Lについて ここまでの処理が終了したら、ステップS145 進み、マルチメディアプロセッサ50は、ステ ップS133の計時開始から一定時間が経過した 否かを判断し、経過している場合はステッ S147へ進み、経過していない場合はステップS 135へ戻る。ステップS147で、マルチメディア ロセッサ50は、高さパラメータとその評価を 表示するための結果表示画面(図示せず)を表 し、図12の遷移図にリターンする。

 図18は、図12の遷移図のステップS57の窓拭き モードの処理を説明するフローチャートであ る。
 図18を参照して、マルチメディアプロセッ 50は、ステップS151で、このモードのための 面を表示し、各種変数(フラグ及びソフトウ アカウンタを含む。)を初期化などの初期設 定をおこない、ステップS153で計時を開始す 。
 マルチメディアプロセッサ50は、ステップS1 55で、カーソル座標に応じてカーソル70を移 させ、ステップS157で、曇り画像46と、カー ル70とが、重なっているか否かを判定する。 重なっていた場合、ステップS159に進み、マ チメディアプロセッサ50は、カーソル70と重 った部分の曇り画像46を、風景画像48に変更 し、ステップS161に進む。マルチメディアプ セッサ50は、ステップS159で、重なっていな と判断した場合、ステップS161に進む。

 ステップS161で、マルチメディアプロセッ サ50は、画面上の曇り画像46が全て風景画像48 に変更されたか否かを判断し、変更されてい た場合、ステップS163に進み、風景画像48が内 部に表示された窓44を消して、曇り画像46が 部に表示された窓44を新たに表示し、ステッ プS165で、拭き終わった窓の数をインクリメ トし、ステップS167へ進む。ステップS161で、 マルチメディアプロセッサ50は、曇り画像46 、まだ全て変更されていないと判断した場 、ステップS167へ進む。

 ステップS167で、マルチメディアプロセッ サ50は、ステップS153の計時開始から一定時間 が経過したか否かを判断し、経過した場合は ステップS169へ進み、経過していなかった場 は、ステップS155へ戻る。ステップS169で、マ ルチメディアプロセッサ50は、拭き終わった 44の数を表示するための結果表示画面(図示 ず)を表示し、図12の遷移図にリターンする

 さて、以上のように本実施の形態の構成に れば、カーソル70を動かす手順が、実在の 体に対して行われる操作、すなわち襖を開 ような操作、梯子を登るような操作、窓を くような操作と同じ手順であるため、特に 示しなくてもユーザは直感的にカーソル70を 動かすための動作の手順がわかる。結果、ユ ーザに特定の動作、すなわち手を左右に開く ような動作や、手を上下に動かす動作、所定 の位置に手をかざし前後左右に動かす動作を 行わせることができる。
 さらに、手順どおりに動作を行い、カーソ 70を移動させると、オブジェクトの表示に 在の物体に対する実際の操作が行われたよ な反応、すなわち襖が開く、梯子に上れる 窓の曇りが取れるといった反応があるため ユーザは自分のカーソル70を動かす手順が正 しいか否か、すなわち自分の動作が正しいか 否かを映像によって自分でもチェックするこ とができる。
 さらに、実在の物体を操作することによる 業療法やトレーニングを、例えば襖を開、 子を上る、窓を拭くといった行為を、オブ ェクトに対するカーソル70の移動のための 作を行うという形で、擬似的な作業療法や メージトレーニングとして実施することが きる。ユーザはカーソルを動かすために特 の動作を行うだけなので、実際の作業療法 トレーニングに比べて負荷が小さく、安静 必要な場合や機材がない場合など、何らか 理由で実際の作業療法やトレーニング等を うことがまだ難しい段階のユーザのための ハビリテーションやイメージトレーニング しても利用しやすい。また、特定の動作を った場合、実在の物体に対する実際の操作 行われたようにオブジェクトの表示が変化 るため、ユーザに対して特定の動作を行う とによる刺激だけでなく、同時に映像によ て視覚的な刺激を与えることができ、ユー に実際の作業療法やトレーニングを行って るようなイメージを与えることができる。 科学の分野では、動作による刺激だけでな 、動作のイメージを強く持つことによる刺 によっても、脳の機能の一部が失われたり 下したりした場合に健在な脳の他の部分が われた部分の機能を補おうとする脳の代替 能(脳の可塑性ともいう。)が発揮されて、機 能が回復していく場合があるとされているの で、この特定の動作による擬似的な作業療法 やイメージトレーニングにも、リハビリテー ションとしての効果は期待できる。

 襖開きモードのような構成では、引手33 び襖35が画面外までスクロールすると、スク ロール前の位置に新たに引手33及び襖35が出 するので、ユーザに対して、引手33の位置に カーソルを戻すために両手を閉じる動作と、 左右方向にカーソル70を移動させるために両 を開く動作とを反復させることができる。

 梯子登りモードのような構成では、梯子3 7をスクロールすることによって所定間隔で んだ横棒39が画面の上側から次々に現れるの で、ユーザに対して、横棒39の位置にカーソ を移動させるために腕を上げる動作と、そ 後カーソルを下方向に動かし梯子37をスク ールするための腕を下ろす動作とを反復さ ることができる。また、横棒39は所定間隔で 並んでいるので、反復されるユーザの腕の上 げたり下ろしたりする動作の幅がほぼ一定に なる。

 窓拭きモードのような構成では、曇り画 46が背景画像48に置き換わるように、所定の 位置で手をかざし、前後左右に動かすような 動作をユーザに促すことができる。

 以上、本発明を実施例により詳細に説明 たが、当業者にとっては、本発明が本願中 説明した実施例に限定されるものではない いうことは明らかである。本発明は、特許 求の範囲の記載により定まる本発明の趣旨 び範囲を逸脱することなく修正及び変更態 として実施することができる。例えば下記 ような変更も可能である。

(1)透明体17の透明には、半透明や有色透明が まれる。
(2)再帰反射シート15を、透明体17の表面に取 付けることもできる。この場合は、透明体17 は、透明である必要はない。
(3)上記では、入力装置3に、中指を通す例を げたが、挿入する指及びその数はこれに限 されない。
(4)入力装置の形状は、上記した入力装置3の 状に限定されない。
(5)入力装置3に、再帰反射シート15のような反 射部材を取り付ける代わりに、赤外発光ダイ オードのような自発光装置を取り付けること もできる。この場合は、情報処理装置1には 赤外発光ダイオード9は不要である。また、 力装置を使用せずに、イメージセンサやCCD どの撮像装置により、被験者を撮影し、画 解析して、動きを検出することもできる。
 また、入力装置にイメージセンサ等の撮像 子を搭載し、テレビジョンモニタ5等の表示 装置(例えば、スクリーンの若干外側)に再帰 射シート(1個、2個、あるいはそれ以上)のよ うな反射部材を取り付けることもできる。こ の場合、撮像素子に撮影された反射部材の像 から、入力装置がスクリーン上のどの位置を 指しているかを求め、指された位置にカーソ ルを表示することにより、カーソルを操作す ることもできる。なお、入力装置が指し示す スクリーン上の位置は、入力装置にMCU等のコ ンピュータを搭載して求めることもできるし 、撮影画像を情報処理装置1に送信して、情 処理装置1で求めることもできる。この場合 入力装置にストロボ撮影のための赤外発光 イオードを搭載する。なお、表示装置に反 部材を取り付ける代わりに、赤外発光ダイ ードのような自発光装置を表示装置に取り けることもできる(例えば、一定間隔で2個 赤外発光ダイオードを表示装置の上面に載 )。この場合は、入力装置には、ストロボ撮 のための赤外発光ダイオードは不要である
(6)上記の実施の形態では、ユーザの空間での 動きを検出する手段として、ユーザに入力装 置3を装着させ、入力装置3の再帰反射シート1 5をストロボ撮影した像の動きを解析するこ によって、カーソルの移動量を決定してい が、ユーザの空間での動きを検出する手段 、別にこのような撮像結果を解析する方法 限定されない。例えば、ハウジング内に加 度センサやジャイロセンサを搭載し、ユー の手の動きを検出して情報処理装置1にユー の動きを表す信号を送るような入力装置を 用する構成にして、検出結果に応じてカー ルを動かすような構成でもよい。その場合 報処理装置1に、イメージセンサ54や、赤外 光ダイオード9を設ける必要は無い。

(7)上記の実施の形態の、襖開きモードでは、 引手33にカーソル70を移動させることを入力 ラグがオンになる条件として設定されてい が、引手33にカーソルを移動させた後、何か 他の入力があった場合に入力フラグがオンに なるような構成でもよい。例えば引手33にカ ソルを移動させた後、さらに前述の握り入 があったことを条件に、入力フラグがオン なるような設定でもよい。同様に梯子登り ードで、横棒39にカーソル70を重ねたあと、 さらに前述の握り入力があったことを条件に 、カーソル70の下方向への移動に応じて梯子3 7が下方向に移動するような設定でもよい。 たは、入力装置に押すと情報処理装置に入 信号を送る入力ボタンを新たに設け、握り 力の代わりに、当該入力ボタンが押下され ことを条件としてもよい。
 また、カーソル70を引手33に移動させた後、 カーソル座標の移動量が所定の閾値を越える まで襖35は動かず、閾値を越えた場合に一気 動くようにしていたが、これは演出として が一気に開いた方が気持ちいいという理由 よるのみで、別にカーソル座標に応じて少 ずつ襖35が動くような設定にしてもかまわ い。
(8)入力装置に重りなどの負荷を設けてもよい 。または、入力装置自体がユーザの手の動き を検知し、情報処理装置1に検知結果に応じ 入力を与える手段を備えた、ユーザの動作 負荷を与えるタイプの筋力トレーニング装 であってもよい。上記の実施例は高齢者用 老化防止のための運動や軽度のリハビリ運 を支援することを主眼としているが、この うに構成すれば、若者用の筋力トレーニン などにも使える。
(9)上記の実施の形態の、梯子登りモードでは 、特に左右の手を動かす順番に条件は設定さ れていなかったが、ユーザに実際の梯子を登 る動作のような、右手と左手とを交互に動か す運動をさせたい場合は、マルチメディアプ ロセッサ50が、左注目点と右注目点が、交互 差分画像DI上で交互に上下に移動した場合 、梯子37が下方向に移動させるような構成で もよい。
(10)上記の実施の形態では、3つのモードを説 したが、情報処理装置1が実行するアプリケ ーションはこれらに限定されず、本発明の趣 旨及び範囲を逸脱しない範囲で、他にもユー ザを誘導したい特定の動きに応じて、適宜オ ブジェクト、特定の動きに応じたカーソルの 移動を行った場合の表示の変化、そのための プログラムを設定し、様々なアプリケーショ ンを提供できる。この際オブジェクトの形状 は、ユーザの属する文化圏に応じてユーザに 操作法が分かりやすいものに変更したほうが よい。例えば西洋文化圏で襖開きモードでの 動作を誘導したいのであれば、オブジェクト を襖35ではなくスライドドアのオブジェクト にするとよい。
 このように本発明の変形例によれば、プロ ラムによって様々な実在の物体を模したオ ジェクトを表示し、それらのオブジェクト 対するカーソルの移動手順と、正しいカー ル移動が行われた場合のオブジェクトの表 を設定しておくことができるので、ユーザ 対して様々な特定の動作を誘導することが 能となる。
(11)上記の襖開きモードや梯子登りモードで 、カーソル70の移動方向と同じ方向に襖35や 子37が移動したが、別のモードを作る場合 カーソル70の移動方向とは違う方向にオブジ ェクトが移動するような構成であってもよい 。例えば井戸の水汲みをモチーフにしたモー ドで、ロープのオブジェクトにカーソル70を ねて下に移動させると、水汲みバケツのオ ジェクトが上に移動していくようなモード 作ってもよい。
(12)上記の窓拭きモードでは、窓44のうち、曇 り画像46の部分をカーソル70でなぞると背景 像48に変化するというオブジェクトの模様・ 色彩が変化する構成であったが、別のモード を作る場合、オブジェクトをカーソル70でな ると、オブジェクトの形状の少なくとも一 が変化するような構成でもよい。例えば陶 をモチーフにしたモードで、粘土オブジェ トをカーソル70でなぞると粘土オブジェク の形状が壺のような形状に変化していくよ な構成でもよい。
(13)上記の実施の形態では手の動作を支援す 運動支援方法を開示したが、足やその他の 体の部位の動きに応じてカーソルを動かす うな構成であってもよい。