論文題目：基于深度學習的人群移動軌跡表示學習及預測模型研究
摘要：人群移動軌跡反應了人們的出行規律,而軌跡表示學習和預測是時空數據挖掘領域的重要研究方向之一,對理解人類的行為模式、研究無人駕駛技術、城市規劃建設、緩解城市交通擁堵和重點人群管理等方面具有重要意義。近年來,隨著人工智能的發展,諸多軌跡建模方法使用深度學習模型從復雜的移動軌跡數據中提取內在規律的特征表示以提高軌跡預測準確性。目前,深度學習在交通流量預測、交通擁堵識別、目的地預測等領域取得了一定的成果。然而,基于深度學習的軌跡建模方法大多直接從自然語言處理或者圖像處理領域遷移過來,不能魯棒的表示軌跡數據的內在規律。一方面,軌跡數據包含了坐標內部特征和軌跡上下文特征,需要考慮這兩部分特征的統一表示方法。另一方面,軌跡數據具有長序列時空交互的特性,需要考慮時空演變的過程。因而,研究時空交互特征與軌跡內部規律的融合表示方法,不僅能提升深度學習模型對軌跡的預測能力,更有助于探究軌跡在地理空間上的規律,為探索軌跡的時空交互過程提供科學的研究方法。本文以基站采集到的人群移動軌跡為研究對象。研究了軌跡時空特征的構成,包括坐標序列、人群交互關系、不同尺度下的遠程依賴關系,進而構建了基于深度學習的軌跡預測模型。本文的主要研究內容如下。（1）針對在實空間下坐標與軌跡上下文特征無法聯合表示的問題,提出了一種在復空間下基于Skip-gram的軌跡表示學習方法（Trajectory Representation Learning Method in Complex Space Based on Skip-gram,TRMC+Skipgram）。首先,將軌跡上下文關系轉化為圖結構來解決軌跡上下文不連續問題。其次,基于歐拉公式推導出復向量距離計算方法,結合Skip-gram和圖采樣方法學習在復空間下的坐標與軌跡上下文特征聯合表示向量。最后,在節點連接預測任務中,TRMC+Skipgram可以有效的對特征相似的坐標進行聚合;在軌跡用戶連接任務中,也可以有效的提高軌跡用戶連接的準確性。（2）針對基站不規則采樣導致的軌跡缺失問題,結合兩個標準的長短時記憶神經網絡（Long Short-term Memory,LSTM）,提出了一種復空間下的長短時記憶神經網絡（Complex LSTM,CLSTM）,構建了一種缺失軌跡數據推斷模型（Missing Trajectory Data Inference Model Based on CLSTM,MTDIC）。首先,MTDIC在坐標嵌入層加載了TRMC+Skipgram學習的坐標預訓練向量,并且融入了軌跡的長短周期特征,通過CLSTM提取軌跡預訓練向量的交互特征,結合非線性映射層實現缺失軌跡的補全。其次,基于低維潛在子空間的非線性映射和schatten范數,推導出了一種核正則化損失函數,保證了MTDIC恢復的軌跡數據滿足低秩性。最后,在某市十萬人一年的軌跡數據和一個公共數據集Gowalla中驗證了MTDIC可以學習到人群的移動模式,提高恢復軌跡的準確性。（3）針對傳統軌跡目的地預測模型沒有考慮人群交互特征的問題,提出了一種基于時空注意力的深度學習預測模型（Spatio-temporal Attention Deep Learning Prediction Model,STAM）。該模型包含時間注意力模塊、空間注意力模塊、時空特征融合模塊和目的地預測模塊。首先,基于多頭注意力設計了時間注意力模塊來提取軌跡的時間交互特征。其次,基于圖注意力神經網絡設計了空間注意力模塊來提取人群的空間交互特征,進而構建了一個時空特征融合模塊來自適應的控制時間交互特征和空間交互特征的融合。最后,軌跡目的地預測模塊將時空交互特征映射為軌跡目的地。在ETH和UCY兩個公開數據集上驗證了STAM可以有效的提取軌跡的時間交互特征和人群的空間交互特征,降低真實軌跡目的地與預測軌跡目的地的誤差。（4）針對強制教學（Teacher forcing）訓練軌跡多步預測模型導致的曝光誤差（Exposures bias）高的問題,提出了一種嵌套迭代解碼算法,結合Seq2Seq（Sequence to Sequence,Seq2Seq）框架構建了一種基于嵌套迭代的軌跡多步預測模型（Trajectory Multi-step Prediction Model Based on Nested Iteration,TPNI）。首先,TPNI采用并列的時間特征提取模塊和空間特征提取模塊提取低耦合的時空交互特征,進而通過多個解碼器在時間軸上以不同的時間起點嵌套解碼生成多條軌跡,實現其參數的更新。最后,在MTDIC補全的軌跡數據上驗證了TPNI能夠有效降低軌跡多步預測的誤差。（5）研究的方法應用于智慧城市人員管理平臺。通過基于軌跡表示學習方法TRMC+Skipgram和軌跡缺失數據推斷模型MTDIC獲得完整的人群軌跡數據,構建了人群熱力圖模塊用于區域人員密度分析。同時為了管理人員高密度區域,基于軌跡單步預測模型STAM,構建了軌道交通人流管理模塊,預測乘坐軌道交通人群的下車站點,結合人群熱力圖信息,實現了各站點的超負荷預警。最后,為了監測重點管理人群的行為軌跡,基于軌跡多步預測模型TPNI構建了重點人群管理模塊,結合人群熱力圖模塊和軌道交通人流管理模塊提供的人口高密度區域信息,對行為模式異常的人群進行預警,實現了智慧城市人員的智能管理。
關鍵詞：深度學習;軌跡表示學習;復空間;核正則化;時空注意力;軌跡預測;智慧城市人員管理
學科專業：控制科學與工程
摘要
ABSTRACT
第一章 緒論
1.1 課題背景和意義
1.2 國內外研究現狀
1.2.1 軌跡表示學習概述
1.2.2 缺失坐標推斷概述
1.2.3 軌跡預測概述
1.3 課題研究內容
1.4 論文組織結構
第二章 在復空間下的軌跡表示學習方法研究
2.1 引言
2.2 軌跡表示學習方法
2.2.1 軌跡表示學習問題定義
2.2.2 復向量距離計算方法
2.2.3 圖采樣方法
2.2.4 在復空間下基于Skip-gram的軌跡表示學習方法
2.3 軌跡表示學習方法驗證
2.3.1 實驗數據集
2.3.2 表示學習的基準模型
2.3.3 實驗結果
2.3.4 結果討論
2.4 本章小結
第三章 基于CLSTM的缺失軌跡推斷模型
3.1 引言
3.2 缺失軌跡推斷模型的研究
3.2.1 傳統LSTM
3.2.2 CLSTM模型的推導
3.2.3 在復空間下的全連接網絡和Relu激活函數
3.2.4 一種新的核正則化方法
3.2.5 基于CLSTM的缺失軌跡推斷模型結構
3.3 基于CLSTM的缺失軌跡推斷模型驗證
3.3.1 實驗數據集
3.3.2 MTDIC模型驗證
3.3.3 結果討論
3.4 本章小結
第四章 基于時空注意力的軌跡單步預測深度學習模型
4.1 引言
4.2 時空注意力模型
4.2.1 軌跡單步預測的問題定義
4.2.2 時空注意力模型結構
4.2.3 坐標與位置嵌入
4.2.4 時間注意力模塊
4.2.5 空間注意力模塊
4.2.6 時空特征融合模塊
4.2.7 軌跡目的地預測模塊
4.3 基于時空注意力的軌跡目的地預測模型驗證
4.3.1 實驗數據集
4.3.2 軌跡單步預測的基準模型
4.3.3 評價指標
4.3.4 實驗結果
4.3.5 軌跡預測結果展示
4.3.6 結果討論
4.4 本章小結
第五章 基于嵌套迭代的軌跡多步預測深度學習模型
5.1 引言
5.2 TPNI模型
5.2.1 軌跡多步預測的問題定義
5.2.2 數據集劃分
5.2.3 TPNI模型結構
5.2.4 坐標嵌入模塊
5.2.5 時間特征提取模塊和空間特征提取模塊
5.2.6 軌跡生成模塊
5.3 基于嵌套迭代的軌跡多步預測模型驗證
5.3.1 軌跡多步預測的基準模型
5.3.2 實驗結果
5.3.3 結果討論
5.4 本章小結
第六章 軌跡建模方法在智慧城市人群管理平臺中的應用
6.1 引言
6.2 智慧城市人員管理平臺架構
6.3 應用模塊
6.3.1 人群熱力圖模塊
6.3.2 軌道交通人流管理模塊
6.3.3 重點人群管理模塊
6.4 本章小結
第七章 總結與展望
7.1 總結
7.2 展望
參考文獻
致謝
作者和導師簡介
北京化工大學博士研究生學位論文答辯委員會決議書