第一章 緒論
1.1 機器翻譯概述
1.1.1 機器翻譯定義
1.1.2 機器翻譯簡史
1.1.3 機器翻譯方法
1.1.4 機器翻譯分析及展望
1.2 機器翻譯的應用
1.2.1 文本翻譯
1.2.2 語音翻譯
1.2.3 應用擴展
1.3 本書章節總覽
參考文獻
第二章 機器翻譯語料和評測
2.1 機器翻譯語料
2.1.1 單語語料
2.1.2 雙語語料
2.1.3 語料獲取
2.1.4 語料處理
2.2 機器翻譯評測
2.2.1 人工評測
2.2.2 自動評測
2.2.3 評測活動
參考文獻
第三章 統計機器翻譯基礎
3.1 統計機器翻譯簡介
3.1.1 統計機器翻譯係統框架
3.1.2 統計機器翻譯基本流程
3.2 統計機器翻譯建模
3.2.1 噪聲-信道模型
3.2.2 對數-綫性模型
3.2.3 模型訓練方法
3.3 語言模型
3.3.1 n元文法語言模型定義
3.3.2 語言模型的平滑
3.3.3 語言模型的評價指標
3.4 翻譯模型
3.4.1 詞匯翻譯模型
3.4.2 短語翻譯模型
3.5 調序模型
3.5.1 基於跳轉距離的調序模型
3.5.2 詞匯化調序模型
3.5.3 基於句法的調序模型
3.6 擴展閱讀
參考文獻
第四章 統計機器翻譯係統模型
4.1 基於短語的統計機器翻譯模型
4.1.1 噪聲-信道模型短語翻譯模型
4.1.2 對數-綫性模型短語翻譯模型
4.1.3 解碼
4.2 基於形式文法的統計機器翻譯模型
4.2.1 基於反嚮轉錄文法的統計機器翻譯模型
4.2.2 基於層次化短語的統計機器翻譯模型
4.3 基於句法的統計機器翻譯係統模型
4.3.1 樹到串的翻譯模型
4.3.2 串到樹的翻譯模型
4.4 多係統融閤
4.4.1 句子級係統融閤
4.4.2 短語級係統融閤
4.4.3 詞級係統融閤
4.5 領域自適應
4.5.1 基於數據選擇的領域自適應
4.5.2 基於自學習的領域自適應
4.5.3 基於上下文信息的領域自適應
4.6 統計機器翻譯開源工具
4.7 擴展閱讀
參考文獻
第五章 自然語言處理中的深度學習基礎
5.1 深度學習基礎
5.1.1 簡介
5.1.2 感知機
5.1.3 多層感知機
5.1.4 激活函數
5.1.5 反嚮傳播算法
5.2 神經網絡學習算法
5.2.1 隨機梯度下降算法
5.2.2 基於動量的隨機梯度下降算法
5.2.3 AdaGrad算法
5.2.4 RMSProp算法
5.2.5 AdaDelta算法
5.2.6 Adam算法
5.2.7 不同參數更新方法的比較
5.3 自然語言處理中常用的神經網絡模型
5.3.1 前饋神經網絡
5.3.2 循環神經網絡
5.3.3 長短時記憶網絡
5.3.4 深層循環神經網絡
5.3.5 捲積神經網絡
5.3.6 通用詞嵌入
5.4 擴展閱讀
5.5 詞匯縮寫詳解
參考文獻
第六章 神經機器翻譯
6.1 簡單的神經網絡機器翻譯模型
6.2 神經聯閤模型
6.2.1 從語言模型到聯閤模型
6.2.2 基於神經網絡的聯閤模型
6.2.3 基於神經網絡的聯閤模型的訓練
6.2.4 聯閤模型解碼速度的優化
6.3 基於序列轉換的神經機器翻譯
6.3.1 編碼器-解碼器框架
6.3.2 編碼器及其構造
6.3.3 其他方式的編碼器
6.3.4 解碼器及其構造
6.4 注意力模型
6.4.1 基本序列轉換模型的睏難
6.4.2 注意力網絡
6.4.3 匹配函數
6.4.4 局部匹配與全局匹配
6.5 捲積串到串模型
6.5.1 捲積編碼器和解碼器
6.5.2 多步注意力機製
6.6 完全基於注意力網絡的神經翻譯模型
6.6.1 基於注意力網絡的編碼器和解碼器
6.6.2 分組(multi-head)注意力網絡
6.6.3 位置編碼(positional encoding)
6.6.4 自注意力網絡性能分析
6.7 參數正則化
6.7.1 L1/L2正則化
6.7.2 maxout和dropout正則化
6.8 神經機器翻譯解碼
6.8.1 貪心搜索(greedy search)
6.8.2 束搜索(beam search)
6.8.3 集閤解碼(ensemble decoding)
6.9 神經機器翻譯模型的訓練
6.10 擴展閱讀
6.11 本章小結
參考文獻
第七章 前沿課題
7.1 基於句法的神經機器翻譯
7.2 並行化訓練
7.2.1 數據並行化
7.2.2 模型並行化
7.3 神經機器翻譯的快速解碼技術
7.3.1 網絡預計算
7.3.2 參數的量化
7.3.3 受限詞錶優化
7.4 注意力模型的改進
7.4.1 覆蓋度和能産度
7.4.2 循環注意力網絡
7.5 神經機器翻譯的可伸縮性
7.5.1 近似softmax函數
7.5.2 未登錄詞處理
7.5.3 基於詞根分解的開放詞匯錶
7.6 單語數據在神經機器翻譯中的應用
7.6.1 獨立的神經語言模型
7.6.2 往返翻譯(back translatinn)
7.6.3 聯閤訓練(joint training)
7.6.4 強化學習在神經機器翻譯中的應用
7.6.5 生成對抗網絡
7.7 擴展閱讀
7.8 本章小結
參考文獻
· · · · · · (
收起)