Interactive Proximal Navigation with Situation-Adaptive Multimodal Inducement

• Human-aware navigation is essential for autonomous robots in human-coexisting environments. The goal of conventional navigation is to find a path for a robot to pass through safely and efficiently without colliding with human. Note that if such a path cannot be found, the robot stops until a path is clear. Thus, such collision-avoidance based passive navigation does not work in a congested or narrow space. To avoid this freezing problem, the robot should induce humans to make a space for passing by an adequate inducement method, such as body movement, speech, and touch, depending on the situation. A robot that deliberately clears a path with such actions may make humans uncomfortable, so the robot should also utilize inducements to avoid causing negative feelings. 

• We propose a framework of interactive navigation with situation-adaptive multimodal inducement. For a preliminary study, we target a passing scenario in a narrow corridor where two humans are standing and adopt a model-based approach focusing on common parameters. The suitable inducement basically varies depending on the largest space through which a robot can pass, distance between the robot and a human, and human behavior such as conversing. We thus develop a situation-adaptive inducement selector on the basis of the relationship between human–robot proximity and allowable inducement strength, considering robot efficiency and human psychology. The proposed interactive navigation system was tested across some contextual scenarios and compared with a fundamental path planner. 

• The experimental results indicated that the proposed system solved freezing problems, provided a safe and efficient trajectory, and improved humans’ psychological reaction although the evidence was limited to robot planner and hardware design we used as well as certain scenes, contexts, and participants.

接触を含めた働きかけに基づく協調移動フレームワーク

• 人間共存環境における自律型ロボットにとって、人間を意識したナビゲーションは必須である。従来の経路計画の目的は、ロボットが人間と衝突することなく、安全かつ効率的に通過できる経路を見つけることである。そのような経路が見つからない場合、ロボットは経路が確保されるまで停止する。したがって、このような衝突回避に基づくパッシブナビゲーションは、混雑した空間や狭い空間では機能しない。このようなフリーズ問題を回避するためには、ロボットは状況に応じて、体の動き、発話、触覚など適切な誘導方法によって、人間が通行できる空間を作るように誘導する必要がある。このような動作で意図的に道を空けるロボットは、人間に不快感を与える可能性があるため、負の感情を与えないような誘導も必要となる。

• 本研究では、状況適応的なマルチモーダル誘導を用いた対話型ナビゲーションの基本的な枠組みを提案する。予備研究として、2人の人間が立っている狭い廊下での通過シナリオを対象とし、共通のパラメータに着目したモデルベースのアプローチを採用する。ロボットが通過可能な最大空間、ロボットと人間の距離、会話などの人間の行動によって、基本的に適切な誘導は異なる。そこで我々は、ロボットの効率と人間の心理を考慮し、人間とロボットの近接性と許容誘導強度の関係に基づいて、状況に適応した誘導セレクタを開発する。提案する対話型ナビゲーションシステムをいくつかの状況シナリオでテストし、基本的なパスプランナーと比較した。

• 実験の結果、提案システムは、使用したロボットプランナーやハードウェア設計、特定のシーン、コンテキスト、参加者に限定されるものの、フリーズ問題を解決し、安全で効率的な軌道を提供し、人間の心理的反応を改善することが示された。

Dynamic Waypoint Navigation (DWN)

• Path planning in dynamic environments is still a challenging issue with autonomous mobile robots. Current methods lack adaptability to various passing scenarios, a variety of passing trajectories including an acceleration path, or immediacy in planning time, which require human-aware navigation. 

• This study proposes Dynamic Waypoint Navigation (DWN), which is a model-based adaptive real-time trajectory planning method. DWN first predicts human-robot path interference and the time and position of the interference on the basis of the measured velocity of humans. It then dynamically designates several waypoints considering the time delay of both calculation time and robot travel time. Then, DWN generates several trajectories by combining different speeds (default, acceleration, and deceleration) and paths (default, right, and left) and selects the best trajectory in terms of an interference-avoidance energy cost based on the degree of velocity-vector change. DWN can also output a trajectory within 0.5 s to immediately adapt to changes in human behavior and adopt a simple mathematical model and algorithm to enable easy expansion. 

• Simulation and experimental results reveal that the DWN can adequately select a time-efficient trajectory in real-time and adaptively change a trajectory depending on human movement.

動的ウェイポイントナビゲーション

• 自律移動ロボットにおいて、動的環境下での経路計画は依然として困難な課題である。現在の手法では、様々な通過シナリオへの適応性、加速経路を含む多様な通過軌道、計画時間の即時性などが不足しており、人間を意識したナビゲーションが必要である。

• 本研究では、モデルベースの適応的リアルタイム軌道計画手法であるDynamic Waypoint Navigation (DWN)を提案する。DWNは、まず、人間の計測速度に基づいて、人間とロボットの経路干渉と干渉の時間と位置を予測する。そして、計算時間とロボットの移動時間の両方の時間遅れを考慮して、複数のウェイポイントを動的に指定する。そして、DWNは異なる速度（デフォルト、加速、減速）と経路（デフォルト、右、左）を組み合わせて複数の軌道を生成し、速度ベクトルの変化度合いに基づいて干渉回避エネルギーコストの観点から最適な軌道を選択する。また、DWNは、人間の行動の変化に即座に適応できるように0.5秒以内に軌道を出力することができ、拡張が容易なシンプルな数学モデルとアルゴリズムを採用している。

• シミュレーションと実験の結果、DWNはリアルタイムで時間効率の良い軌道を適切に選択でき、人の動きに応じて軌道を適応的に変更できることが明らかになった。

Inducible Social Force Model (i-SFM)

• To smoothly and efficiently enable autonomous mobile robots to move in human crowd environments, path planning based on human movement-prediction, reactive movement toward human movement, and active motion-inducing physical interaction to avoid getting stuck are required. 

• This study proposes a reactive, proactive, and inducible proximal crowd navigation (PCN) method that is based on a newly developed inducible social force model (i-SFM). The PCN first reactively generates multiple paths including avoidance, proximal, and inducible physical-touch paths based on the waypoint-i-SFM fused-path planning method, proactively predicts human movement based on i-SFM, selects an optimal path based on the movement cost including robot-movement efficiency and the crowd-invasion index (impulsive and touch forces applied to the humans), and finally reactively moves in the crowd based on the forces applied on it. The proposed PCN method works not only when the robot enters crowds but also when it is already in a crowd and avoids humans who enter the crowd, so we also applied our PCN method to both situations. 

• Simulation and experimental results indicated that our PCN method can adequately predict the movement of human crowds and achieve higher movement efficiency without stuck, compared with a conventional non-proximal navigation method using the SFM.

能動的働きかけが可能なソーシャルフォースモデル

• 混雑環境において自律移動ロボットが円滑かつ効率的に移動するためには、人の動き予測に基づく経路計画、人の動きに対する反応的な移動、立ち往生を回避するための能動的な運動誘導型物理インタラクションが必要である。

• 本研究では、新たに開発した能動的働きかけが可能なソーシャルフォースモデル（i-SFM）に基づく、反応的、積極的、誘導可能な近接群衆ナビゲーション（PCN）手法を提案する。PCNは、waypoint-i-SFM融合経路計画法に基づいて、回避経路、近接経路、誘導可能な物理的接触経路を含む複数の経路をリアクティブに生成し、i-SFMに基づいて人間の動きをプロアクティブに予測し、ロボットの移動効率と群衆侵入指数（人間に加わる衝動的な力と接触する力）を含む移動コストに基づいて最適な経路を選択し、最後に群衆に加わる力に基づいて群衆内をリアクティブに移動する。提案したPCN法は、ロボットが群衆に進入する場合だけでなく、すでに群衆の中にいて、群衆に進入する人間を避ける場合にも有効であるため、両方の状況にも本PCN法を適用した。

• シミュレーションと実験の結果、我々のPCN法は、SFMを用いた従来の非近接ナビゲーション法と比較して、人間の群衆の動きを適切に予測し、スタックすることなく高い移動効率を達成できることが示された。 

Error-Tolerant Robot Navigation

• Human symbiotic mobile robots are required to smoothly reach destinations while avoiding humans. Human-intent information must be carefully estimated since its lack leads to the hesitation and repetitious avoidance. Conventional studies address human intent estimation and conveyance but do not consider cases of failing communication as a systematic framework, even though the intent is essentially difficult for humans to estimate due to its interiority. 

• We propose a framework of error-tolerant navigation (ETN) with a process to actively estimate the human intent by iterative interaction from the robot. We focus on the intent conveyance from robot to human and its achievement as core information. The ETN estimates interference possibility to determine the need for inducement, human awareness (HA) to select an inducement method, and inducement achievement (IA) to judge the need for action again. If the ETN estimates the interference, the robot provides inducements according to HA, e.g., route indication when HA is high or voice/physical interaction when HA is low. Each inducement corresponds to an expected behavior change in the human. IA is calculated from the difference between the expected and actual changes. If the robot observes no change within a specified time after the inducement, it executes inducements with a stronger intent conveyance. When IA is none after the strongest action, it selects another route. This error-collection loop in the ETN could prevent a fatal mistake by recognizing a small mistake and recovering it. 

• The static and dynamic experimental results indicated that the ETN could achieve smoother human movement and reduce psychological burden by correcting the robot behaviors, compared with a conventional navigation system, which can contribute to constructing a practical ETN framework.

連続的な働きかけによる協調移動手法

• 人間共生型移動ロボットには、人間を避けながら目的地にスムーズに到達することが求められる。人間の意図情報の欠落は、迷いや回避の繰り返しにつながるため、人間の意図情報を慎重に推定する必要がある。従来の研究では、人間の意図の推定や伝達は扱われているが、意図の推定はその内面性から本来人間には困難であるにもかかわらず、体系的な枠組みとしてコミュニケーションに失敗した場合を考慮していない。

• そこで、ロボットからの反復的なインタラクションにより、人間の意図を能動的に推定するプロセスを備えたエラー耐性ナビゲーション(ETN)の枠組みを提案する。そのコア情報として、ロボットから人間への意図伝達とその達成度に着目する。ETNは、干渉の可能性を推定して誘導の必要性を判断し、人間の意識（HA）を推定して誘導方法を選択し、誘導達成度（IA）を推定して再度行動の必要性を判断する。ETNが干渉の可能性を推定した場合、ロボットはHAに応じた誘引を行います。例えば、HAが高い場合は経路案内を行い、HAが低い場合は音声や物理的なインタラクションを行います。各誘導は人間に期待される行動変化に対応する。IAは、期待される変化と実際の変化の差から計算される。誘導後、一定時間内に変化が見られない場合、ロボットはより強い意図伝達を伴う誘導を実行する。最も強い行動後、IAがゼロであれば、別ルートを選択する。ETNのエラー収集ループにより、小さなミスを認識し、それをリカバリーすることで、致命的なミスを防げる。

• 静的・動的実験の結果、ETNは従来のナビゲーションシステムと比較して、人間の動作をよりスムーズにし、ロボットの動作を修正することで心理的負担を軽減できることが示され、実用的なETNフレームワークの構築に貢献できることが示された。

Multiagent Deep Reinforcement Learning

• To avoid inefficient movement or the freezing problem in crowded environments, we previously　proposed a human-aware interactive navigation method that uses inducement, i.e., voice reminders or　physical touch. However, the use of inducement largely depends on many factors, including human attributes,　task contents, and environmental contexts. Thus, it is unrealistic to pre-design a set of parameters such　as the coefficients in the cost function, personal space, and velocity in accordance with the situation.

• To understand and evaluate if inducement (voice reminder in this study) is effective and how and when it must　be used, we propose to comprehend them through multiagent deep reinforcement learning in which the robot　voluntarily acquires an inducing policy suitable for the situation. Specifically, we evaluate whether a voice　reminder can improve the time to reach the goal by learning when the robot uses it. 

• Results of simulation experiments with four different situations show that the robot could learn inducing policies suited for each situation, and the effectiveness of inducement is greatly improved in more congested and narrow situations.

深層強化学習を用いた能動的働きかけポリシーの獲得

• 混雑した環境下での非効率な移動やフリーズ問題を回避するために、我々は以前、音声によるリマインダーや物理的なタッチなどの誘導を利用した、人間を意識した対話型ナビゲーション手法を提案した。しかし、誘導の使用は、人間の属性、タスクの内容、環境コンテキストを含む多くの要因に大きく依存する。したがって、コスト関数の係数、パーソナルスペース、速度などのパラメータを状況に応じてあらかじめ設計することは非現実的である。

• 本研究では、誘導（本研究では音声による注意喚起）が効果的かどうか、どのような場合にどのように用いるべきかを理解・評価するために、ロボットが状況に適した誘導方針を自発的に獲得するマルチエージェント深層強化学習を通じて、それらを理解することを提案する。具体的には、音声リマインダーをロボットが使用するタイミングを学習することで、ゴール到達時間を改善できるかどうかを評価する。

• 4つの異なる状況を用いたシミュレーション実験の結果、ロボットはそれぞれの状況に適した誘導方針を学習でき、より混雑した狭い状況では誘導の効果が大きく向上することが示された。

Human Velocity Estimation

• For autonomous mobile robots to work safely in human-coexistent environments, human-velocity estimation is essential. However, the human body periodically fluctuates to the front, rear, right, and left while walking. Also, a significant  estimation error occurs due to the vibration of sensors installed in the robot. Quick trajectory adjustment requires high-accuracy and low-latency estimation, but these are in a trade-off relationship. 

• We thus propose a human velocity estimation system (VES) using the Kalman filter (KF) and least squares (LS) with adjustable window size (AWS) to control the accuracy and latency. The VES adjusts two window sizes to calculate a system noise distribution for KF and a velocity vector for LS using a newly proposed cost function, including accuracy (direction and magnitude) and latency (time delay) costs. To select window sizes suitable for walking trajectories and individual gaits, we collected human walking data, calculated the three costs, and selected the window sizes with the minimum cost. 

• The results of experiments using a laser range finder installed on a mobile robot indicate that the cost function could reveal window sizes to increase accuracy or reduce latency depending on walking trajectories and individual gaits, and the VES with AWS could enhance the performance of estimating human walking velocity for mobile robots.

歩行者の速度ベクトル推定

• 人間が存在する環境において、自律移動ロボットが安全に作業するためには、人間の速度推定が不可欠である。しかし、人体は歩行中に前後左右に周期的に変動する。また、ロボットに搭載されたセンサの振動により大きな推定誤差が発生する。迅速な軌道修正には高精度かつ低遅延な推定が必要であるが，これらはトレードオフの関係にある．

• そこで我々は、カルマンフィルタ（KF）と最小二乗法（LS）を用いて、精度とレイテンシを制御するためのウィンドウサイズ（AWS）を調整可能な人間速度推定システム（VES）を提案する。VESは、2つのウィンドウサイズを調整し、KFではシステムノイズ分布を、LSでは速度ベクトルを、精度（方向と大きさ）コストと遅延（時間遅れ）コストを含む新たに提案されたコスト関数を用いて計算する。歩行軌跡や個々の歩行に適した窓サイズを選択するために、人間の歩行データを収集し、3つのコストを計算し、最小のコストを持つ窓サイズを選択した。

• 移動ロボットに搭載したレーザレンジファインダを用いた実験の結果、歩行軌跡や個々の歩行形態に応じて、精度を向上させたり、遅延を低減させたりするウィンドウサイズをコスト関数から明らかにすることができ、AWSを搭載したVESは、移動ロボットの人間の歩行速度推定性能を向上させることができることがわかった。