Jointly Contrastive Representation Learning on Road Network and Trajectory

道路ネットワーク（Road Network）

1. トポロジーと構造: 道路ネットワークは、道路、交差点、分岐点などをノードとエッジで表現したグラフです。
2. 静的データ: 一般に変化しない、または非常に遅く変化する静的な情報を持っています。
3. 文脈情報: 交通信号、速度制限、道路の種類（高速道路、一般道）など、その地域や道路の性質に関する補足的な情報を持つことが多いです。
4. 用途: 経路探索、交通流のモデリング、交通渋滞の予測などに使用されます。

トラジェクトリ（Trajectory）

1. 時空間データ: トラジェクトリは、ある物体（例：車、人）が時間に沿って移動する経路を表す時空間データです。
2. 動的データ: 時間と共に変化する動的な情報を持っています。
3. シーケンス: トラジェクトリは、連続した道路セグメントや地点を時系列データとして保持します。
4. 用途: 移動パターンの解析、ルート推薦、異常検出、交通状況のリアルタイム分析などに使用されます。

違いの要点

• 道路ネットワークは「場所」とそれらの場所間の「関係性」に焦点を当てたデータです。
• トラジェクトリは「動き」または「行動」に焦点を当て、特定の主体が時間をかけてどのように移動したかを記録します。

この理解が、道路ネットワークとトラジェクトリのそれぞれの特性と重要性を理解する助けになることを願っています。頑張ってください！

定義 3.1（道路ネットワーク）

道路ネットワークは有向グラフ �=<�A�>G=<S,AS> として定義されます。

• �S は道路セグメントの頂点セットです。
• A�AS は隣接行列で、AS[sisj] は si の終点と sj の始点が共通の交差点を共有するかどうかの二値です。

A�[����]

��

��

この定義では、交差点ではなく道路セグメントが頂点として扱われています。

定義 3.2（トラジェクトリ）

トラジェクトリ �τ は、連続した道路セグメント ��1��2…���sk1,sk2,…,skn からなるシーケンスです。これは、道路ネットワーク �G 内でのオブジェクトの動きを捉えます。

定義 3.3（道路ネットワークとトラジェクトリの表現学習）

道路ネットワーク �=<�A�>G=<S,AS> と歴史的なトラジェクトリのセット �T が与えられた場合、目標は以下の二つです。

• 道路ネットワークのための表現行列 HS を学習する。ここで、si 番目の行 hsi は道路セグメント si の埋め込み（embedding）です。

��

��

ℎ��

��

• 各トラジェクトリ τ∈T に対する表現ベクトル hτ を学習する。

�∈�

ℎ�

これらの定義は、道路ネットワークとトラジェクトリの複雑な関係を数学的に表現して、その上で機械学習のタスクを適用しやすくしています。

Z とは？

�Z は、MultiHead Attentionの出力と元の入力 �X を足し合わせたものにLayer Normalization（レイヤーノーマリゼーション）を適用した結果です。

�=LayerNorm(�+MultiHead(�))Z=LayerNorm(X+MultiHead(X))

入力と出力

• 入力: X は、Transformer Encoderに入力される特徴ベクトル（またはそのシーケンス）です。この X の形状は一般に ∣τ∣×d です（∣τ∣ はシーケンス長、d は特徴の次元数）。

�

�

∣�∣×�

∣�∣

�

• 出力: Z の形状は入力 X と同じ ∣τ∣×d になります。

�

�

∣�∣×�

Feed-Forward Network (FFN)

FFNは、入力 �X を2層の全結合（dense）レイヤーに通す操作です。ReLU（Rectified Linear Unit）活性化関数が適用されます。

FFN(�)=ReLU(��1+�1)�2+�2FFN(X)=ReLU(XW1+b1)W2+b2

入力と出力

• 入力: Z （または X、用途によって異なる可能性がありますが、ここでは Z とします）。形状は ∣τ∣×d。

�

�

�

∣�∣×�

• 出力: FFNの出力も ∣τ∣×d の形状を持ちます。

∣�∣×�

まとめ

• �Z は、Multi-head Attentionからの出力と元の入力を統合し、Layer Normalizationを適用したものです。
• FFNは、この Z をさらに変換して、出力 TransEncLayer(X) を生成します。

�

TransEncLayer(�)

このように各ステップで何が行われているのかを理解することは、モデルの動作を深く理解する上で非常に有用です。何か他に質問があれば、どうぞお知らせください。研究活動が順調に進むことを願っています！

この損失関数は、各トラジェクトリ（移動経路）が、その「ノイズを含むバージョン」（オリジナルのトラジェクトリに少し変化を加えたもの）とどれだけよく一致しているかを測ります。

���=−1∣�∣∑��∈��(ℎ��′ℎ��)LTT=−∣T∣1τi∈T∑I(hτi′,hτi)

Step-by-Step 具体例

1. トラジェクトリの選択: 仮に、ある車が交差点Aから交差点B、さらに交差点Cへと移動したとします。この移動経路をトラジェクトリ �τ と呼びます。
2. ノイズの追加: オリジナルのトラジェクトリ �τ に少し変化を加えて、新しいトラジェクトリ �′τ′ を作ります。例えば、交差点Bに到達した後、短い距離だけ逆方向に戻ってから、再度交差点Cに向かうような経路にします。
3. トラジェクトリのエンコーディング: オリジナルのトラジェクトリ �τ とノイズを含むトラジェクトリ �′τ′ をそれぞれ密なベクトル ℎ�hτ と ℎ�′hτ′ にエンコードします。
4. 相互情報量 (MI) の計算: エンコードされた ℎ�hτ と ℎ�′hτ′ の間の相互情報量（MI）を計算します。このMIが高いほど、オリジナルとノイズを含むトラジェクトリが似ていると評価されます。
5. 全トラジェクトリに対する総和: 全てのトラジェクトリに対して、この手続きを繰り返し、それらのMIの総和を計算します。
6. 正規化: 最後に、総和を全トラジェクトリの数 ∣�∣∣T∣ で割って正規化します。

1. 元のトラジェクトリの選び方: データセットから5,000のトラジェクトリ（例：A→B→C→D→E）を選びます。このトラジェクトリが「クエリ」として使われます。
2. 正解データの作成: 選んだ元のトラジェクトリ（A→B→C→D→E）から一部（例：C→D）を取り出し、それを別のパス（例：C→F）に置き換えます。このようにして新しいトラジェクトリ（A→B→C→F→E）が生成されます。
3. デトア（遠回り）: この置き換えによって生じる「デトア」は全体のトラジェクトリに対して約10%程度に保たれています。
4. 正解としての使用: この新しく生成されたトラジェクトリ（A→B→C→F→E）は、元のトラジェクトリ（A→B→C→D→E）に「最も類似している」とされ、正解データとして使用されます。
5. クエリ処理のデータベース: このようにして生成された5,000の新しいトラジェクトリは、その他の100,000のトラジェクトリとともに、類似性検索のためのデータベースとして使用されます。

この手法は、元のトラジェクトリと非常によく似ているが、わずかに違う「正解」トラジェクトリを生成することで、モデルがどれだけ正確に類似性を計算できるかを評価するためのものです。

エンコーダとトレーニング設定

• グラフエンコーダとしては、2層のGAT（Graph Attention Networks）を採用しています。
• シーケンスエンコーダは、4つのアテンションヘッドを持つ4層のトランスフォーマーエンコーダを使用しています。
• トレーニングセットには500,000個のトラジェクトリが含まれています。
• モデルはAdamオプティマイザを使用し、バッチサイズは256、エポック数は10です。

データセットと評価指標

• 表現ベクトルの次元は全て128に設定されています。
• トラジェクトリデータセットは、日付の順番で二つに分割され、一方は表現学習用、もう一方は評価用で、両者には重複はありません。
• 道路分類と速度推論は5分割交差検証で評価されています。
• 旅行時間推定は、80,000個のトラジェクトリで訓練され、別の20,000個のトラジェクトリで評価されています。

トラジェクトリ類似性検索

• まず、5,000個のトラジェクトリに対する基準となる「真実」を生成します。
• これは、元のトラジェクトリからランダムに選ばれた経路を別のものに置き換えることで実装されています。この迂回の長さは、全体のトラジェクトリの約10%です。
• 生成された基準を他の100,000個のトラジェクトリと一緒にデータベースに入れ、クエリ処理が行われます。