力学系における非遊走集合（ひゆうそうしゅうごう、）は、ある点に周囲にどれだけ小さな近傍を取っても、有限回の写像の反復で必ずそこに戻ってくるような点の集まりである。非遊走集合を構成する各点を非遊走点という。力学系の力学系の軌道の回帰性（再帰性）を表すための概念の一つ。非遊走点ではない点を遊走点という。遊走点およびその近傍では力学系的にあまり興味深い現象が発生せず、力学系としての本質的な現象は主に非遊走集合上で見られる。
定義と一般的性質
を完備距離空間とし、 をその上の連続写像 とし、 を の 回反復とする。ある点 が非遊走点であるとは、 の任意の近傍 に対して、適当な を取れば を満たすことをいう。 の全ての非遊走点の集合を非遊走集合という。 の非遊走集合は と表される。
非遊走点ではない点は遊走点という。すなわち、ある点 が遊走点であるとは、任意の に対して、適当な近傍 を取れば を満たすことをいう。 に対する流れ (数学) の場合は、 の任意の近傍 に対して、適当な を取れば を満たすときの が非遊走点として定義される。
一般に、非遊走集合 は閉集合かつ不変集合である。 の遊走点全体の集合は と補集合の関係にあり、こちらは開集合かつ不変集合である。また、 がコンパクトであれば、 は空集合ではない。
非遊走集合を、力学系における他の回帰性の概念である不動点、周期点、極限集合、鎖回帰集合と比較すると、 という包含関係となっている。ここで、 は の不動点全体の集合、 は の周期点全体の集合、 は の極限集合（不可逆の場合は -極限集合）、 は の鎖回帰集合である。
利用 力学系の大域的な構造の安定性を表す概念として、非遊走集合に基づく -安定性がある。 級可微分多様体 上の 級可微分同相写像 の全体を集めた集合を とする。 が -安定であるとは、 において の適当な近傍 を取れば、任意の微分可同相写像 について、 の非遊走集合 へ制限 が の へ制限 と位相共役であることをいう。すなわち、 を満たすような同相写像 が存在する。
馬蹄形写像とは、2次元多様体上で、正方形を横方向に縮小・縦方向に伸長して180°折り曲げるような変形を行う写像で、非遊走集合を持つ力学系の一例である。馬蹄形写像を とし、正方形領域を とすれば、 という または を何回施しても 上に留まる不変集合が存在する。任意の とその近傍 において、 を充分大きく取れば、 上の横方向1辺である の局所安定多様体は に含まれ、 上の縦方向1辺である の局所不安定多様体は に含まれるので、 である。よって、 を満たすため は非遊走点で、 は非遊走集合である。さらに、馬蹄形写像 は、以上のような非遊走集合において -安定でもある。
非遊走集合の概念が定義に組み込まれた力学系のクラスとして公理A力学系がある。可微分同相写像 が公理Aを満たすとは、 が双曲型集合で、 が において稠密であることをいう。 が閉多様体上の 級可微分同相写像で、公理Aを満たし、なおかつ のスペクトル分解の基本集合がサイクルを持たないときは は-安定であるという結果が得られている。また、公理Aを満たす の任意の において、 の安定多様体と の不安定多様体が横断的に交わるようであれば、 は 構造安定であるという結果も得られている。
出典
参照文献