|
-- 會員 / 註冊 --
|
|
|
|
自然語言處理入門 ( 簡體 字) |
作者:何? | 類別:1. -> 程式設計 -> 自然語言 |
譯者: |
出版社:人民郵電 | 3dWoo書號: 52073 詢問書籍請說出此書號!【有庫存】 NT售價: 495 元 |
出版日:10/1/2019 |
頁數:366 |
光碟數:0 |
|
站長推薦: |
印刷:黑白印刷 | 語系: ( 簡體 版 ) |
|
加入購物車 │加到我的最愛 (請先登入會員) |
ISBN:9787115519764 |
作者序 | 譯者序 | 前言 | 內容簡介 | 目錄 | 序 |
(簡體書上所述之下載連結耗時費功, 恕不適用在台灣, 若讀者需要請自行嘗試, 恕不保證) |
作者序: |
譯者序: |
前言: |
內容簡介:務實的入門書,助你零起點上手自然語言處理。
HanLP 作者何?匯集多年經驗,從基本概念出發,逐步介紹中文分詞、詞性標注、命名實體識別、信 息抽取、文本聚類、文本分類、句法分析這幾個熱門問題的算法原理與工程實現。書中通過對多種算法的講解,比較了它們的優缺點和適用場景,同時詳細演示生產級成熟代碼,助你真正將自然語言處理應用在生產環境中。
隨著本書的學習,你將從普通程序員晉級為機器學習工程師,最后進化到自然語言處理工程師。 |
目錄:第 1 章 新手上路 1 1.1 自然語言與編程語言 . 2 1.1.1 詞匯量 . 2 1.1.2 結構化 . 2 1.1.3 歧義性 . 3 1.1.4 容錯性 . 3 1.1.5 易變性 . 4 1.1.6 簡略性 . 4 1.2 自然語言處理的層次 . 4 1.2.1 語音、圖像和文本 .. 5 1.2.2 中文分詞、詞性標注和命名實體 識別 . 5 1.2.3 信息抽取 . 6 1.2.4 文本分類與文本聚類 .. 6 1.2.5 句法分析 . 6 1.2.6 語義分析與篇章分析 .. 7 1.2.7 其他**任務 7 1.3 自然語言處理的流派 . 8 1.3.1 基于規則的專家系統 .. 8 1.3.2 基于統計的學習方法 .. 9 1.3.3 歷史 . 9 1.3.4 規則與統計 . 11 1.3.5 傳統方法與深度學習 11 1.4 機器學習 .. 12 1.4.1 什么是機器學習 13 1.4.2 模型 .. 13 1.4.3 特征 .. 13 1.4.4 數據集 .. 15 1.4.5 監督學習 .. 16 1.4.6 無監督學習 . 17 1.4.7 其他類型的機器學習算法 .. 18 1.5 語料庫 19 1.5.1 中文分詞語料庫 19 1.5.2 詞性標注語料庫 19 1.5.3 命名實體識別語料庫 20 1.5.4 句法分析語料庫 20 1.5.5 文本分類語料庫 20 1.5.6 語料庫建設 . 21 1.6 開源工具 .. 21 1.6.1 主流NLP 工具比較 .. 21 1.6.2 Python 接口 23 1.6.3 Java 接口 . 28 1.7 總結 . 31 第 2 章 詞典分詞 32 2.1 什么是詞 .. 32 2.1.1 詞的定義 .. 32 2.1.2 詞的性質--齊夫定律 .. 33 2.2 詞典 . 34 2.2.1 HanLP 詞典 . 34 2.2.2 詞典的加載 . 34 2.3 切分算法 .. 36 2.3.1 **切分 .. 36 2.3.2 正向*長匹配 . 37 2.3.3 逆向*長匹配 . 39 2.3.4 雙向*長匹配 . 40 2.3.5 速度評測 .. 43 2.4 字典樹 46 2.4.1 什么是字典樹 . 46 2.4.2 字典樹的節點實現 47 2.4.3 字典樹的增刪改查實現 .. 48 2.4.4 首字散列其余二分的字典樹 . 50 2.4.5 前綴樹的妙用 . 53 2.5 雙數組字典樹 55 2.5.1 雙數組的定義 . 55 2.5.2 狀態轉移 .. 56 2.5.3 查詢 .. 56 2.5.4 構造* 57 2.5.5 全切分與*長匹配 60 2.6 AC 自動機 .. 60 2.6.1 從字典樹到AC 自動機 61 2.6.2 goto 表 61 2.6.3 output 表 .. 62 2.6.4 fail 表 63 2.6.5 實現 .. 65 2.7 基于雙數組字典樹的AC 自動機 . 67 2.7.1 原理 .. 67 2.7.2 實現 .. 67 2.8 HanLP 的詞典分詞實現 71 2.8.1 DoubleArrayTrieSegment 72 2.8.2 AhoCorasickDoubleArrayTrie- Segment . 73 2.9 準確率評測 . 74 2.9.1 準確率 .. 74 2.9.2 混淆矩陣與TP/FN/FP/TN .. 75 2.9.3 **率 .. 76 2.9.4 召回率 .. 76 2.9.5 F1 值 .. 77 2.9.6 中文分詞中的P、R、F1 計算 .. 77 2.9.7 實現 .. 78 2.9.8 第二屆**中文分詞評測 .. 79 2.9.9 OOV Recall Rate 與IV Recall Rate . 81 2.10 字典樹的其他應用 . 83 2.10.1 停用詞過濾 .. 83 2.10.2 簡繁轉換 87 2.10.3 拼音轉換 90 2.11 總結 . 91 第3 章 二元語法與中文分詞 . 92 3.1 語言模型 .. 92 3.1.1 什么是語言模型 92 3.1.2 馬爾可夫鏈與二元語法 .. 94 3.1.3 n 元語法 .. 95 3.1.4 數據稀疏與平滑策略 96 3.2 中文分詞語料庫 . 96 3.2.1 1998 年《人民日報》語料庫PKU . 97 3.2.2 微軟亞洲研究院語料庫MSR 98 3.2.3 繁體中文分詞語料庫 98 3.2.4 語料庫統計 . 99 3.3 訓練 . 100 3.3.1 加載語料庫 .. 101 3.3.2 統計一元語法 .. 101 3.3.3 統計二元語法 .. 103 3.4 預測 .. 104 3.4.1 加載模型 104 3.4.2 構建詞網 107 3.4.3 節點間的距離計算 111 3.4.4 詞圖上的維特比算法 . 112 3.4.5 與用戶詞典的集成 115 3.5 評測 .. 118 3.5.1 標準化評測 .. 118 3.5.2 誤差分析 118 3.5.3 調整模型 119 3.6 日語分詞 122 3.6.1 日語分詞語料 .. 122 3.6.2 訓練日語分詞器 . 123 3.7 總結 .. 124 第4 章 隱馬爾可夫模型與序列標注 . 125 4.1 序列標注問題 . 125 4.1.1 序列標注與中文分詞 . 126 4.1.2 序列標注與詞性標注 . 127 4.1.3 序列標注與命名實體識別 128 4.2 隱馬爾可夫模型 .. 129 4.2.1 從馬爾可夫假設到隱馬爾可夫 模型 129 4.2.2 初始狀態概率向量 . 130 4.2.3 狀態轉移概率矩陣 . 131 4.2.4 發射概率矩陣 .. 132 4.2.5 隱馬爾可夫模型的三個基本用法 .. 133 4.3 隱馬爾可夫模型的樣本生成 133 4.3.1 案例--醫療診斷 . 133 4.3.2 樣本生成算法 .. 136 4.4 隱馬爾可夫模型的訓練 .. 138 4.4.1 轉移概率矩陣的估計 . 138 4.4.2 初始狀態概率向量的估計 139 4.4.3 發射概率矩陣的估計 . 140 4.4.4 驗證樣本生成與模型訓練 141 4.5 隱馬爾可夫模型的預測 .. 142 4.5.1 概率計算的前向算法 . 142 4.5.2 搜索狀態序列的維特比算法 .. 143 4.6 隱馬爾可夫模型應用于中文分詞 . 147 4.6.1 標注集 148 4.6.2 字符映射 149 4.6.3 語料轉換 150 4.6.4 訓練 151 4.6.5 預測 152 4.6.6 評測 153 4.6.7 誤差分析 154 4.7 二階隱馬爾可夫模型* 154 4.7.1 二階轉移概率張量的估計 155 4.7.2 二階隱馬爾可夫模型中的維特比 算法 156 4.7.3 二階隱馬爾可夫模型應用于中文 分詞 158 4.8 總結 .. 159 第5 章 感知機分類與序列標注 . 160 5.1 分類問題 160 5.1.1 定義 160 5.1.2 應用 161 5.2 線性分類模型與感知機算法 161 5.2.1 特征向量與樣本空間 . 162 5.2.2 決策邊界與分離超平面 164 5.2.3 感知機算法 .. 167 5.2.4 損失函數與隨機梯度下降* 169 5.2.5 投票感知機和平均感知機 171 5.3 基于感知機的人名性別分類 174 5.3.1 人名性別語料庫 . 174 5.3.2 特征提取 174 5.3.3 訓練 175 5.3.4 預測 176 5.3.5 評測 177 5.3.6 模型調優 178 5.4 結構化預測問題 .. 180 5.4.1 定義 180 5.4.2 結構化預測與學習的流程 180 5.5 線性模型的結構化感知機算法 .. 180 5.5.1 結構化感知機算法 . 180 5.5.2 結構化感知機與序列標注 182 5.5.3 結構化感知機的維特比解碼算法 .. 183 5.6 基于結構化感知機的中文分詞 .. 186 5.6.1 特征提取 187 5.6.2 多線程訓練 .. 189 5.6.3 特征裁剪與模型壓縮* . 190 5.6.4 創建感知機分詞器 . 192 5.6.5 準確率與性能 .. 194 5.6.6 模型調整與在線學習* . 195 5.6.7 中文分詞特征工程* . 197 5.7 總結 .. 199 第6 章 條件隨機場與序列標注 . 200 6.1 機器學習的模型譜系 200 6.1.1 生成式模型與判別式模型 201 6.1.2 有向與無向概率圖模型 202 6.2 條件隨機場 .. 205 6.2.1 線性鏈條件隨機場 . 205 6.2.2 條件隨機場的訓練* 207 6.2.3 對比結構化感知機 . 210 6.3 條件隨機場工具包 . 212 6.3.1 CRF++ 的安裝 212 6.3.2 CRF++ 語料格式 213 6.3.3 CRF++ 特征模板 214 6.3.4 CRF++ 命令行訓練 215 6.3.5 CRF++ 模型格式* 216 6.3.6 CRF++ 命令行預測 217 6.3.7 CRF++ 代碼分析* 218 6.4 HanLP 中的CRF++ API 220 6.4.1 訓練分詞器 .. 220 6.4.2 標準化評測 .. 220 6.5 總結 .. 221 第7 章 詞性標注 . 222 7.1 詞性標注概述 . 222 7.1.1 什么是詞性 .. 222 7.1.2 詞性的用處 .. 223 7.1.3 詞性標注 223 7.1.4 詞性標注模型 .. 223 7.2 詞性標注語料庫與標注集 . 224 7.2.1 《人民日報》語料庫與PKU 標注集 .. 225 7.2.2 **語委語料庫與863 標注集 . 231 7.2.3 《誅仙》語料庫與CTB 標注集 .. 234 7.3 序列標注模型應用于詞性標注 .. 236 7.3.1 基于隱馬爾可夫模型的詞性標注 .. 237 7.3.2 基于感知機的詞性標注 238 7.3.3 基于條件隨機場的詞性標注 .. 240 7.3.4 詞性標注評測 .. 241 7.4 自定義詞性 .. 242 7.4.1 樸素實現 242 7.4.2 標注語料 243 7.5 總結 .. 244 第8 章 命名實體識別 . 245 8.1 概述 .. 245 8.1.1 命名實體 245 8.1.2 命名實體識別 .. 245 8.2 基于規則的命名實體識別 . 246 8.2.1 基于規則的音譯人名識別 247 8.2.2 基于規則的日本人名識別 248 8.2.3 基于規則的數詞英文識別 249 8.3 命名實體識別語料庫 .. 250 8.3.1 1998 年《人民日報》語料庫 . 250 8.3.2 微軟命名實體識別語料庫 251 8.4 基于層疊隱馬爾可夫模型的角色 標注框架 252 8.4.1 基于角色標注的中國人名識別 .. 252 8.4.2 基于角色標注的地名識別 .. 257 8.4.3 基于角色標注的機構名識別 .. 258 8.5 基于序列標注的命名實體識別 .. 260 8.5.1 特征提取 261 8.5.2 基于隱馬爾可夫模型序列標注的 命名實體識別 .. 262 8.5.3 基于感知機序列標注的命名實體 識別 264 8.5.4 基于條件隨機場序列標注的命名 實體識別 265 8.5.5 命名實體識別標準化評測 265 8.6 自定義領域命名實體識別 . 266 8.6.1 標注領域命名實體識別語料庫 .. 267 8.6.2 訓練領域模型 .. 267 8.7 總結 .. 268 第9 章 信息抽取 . 270 9.1 新詞提取 270 9.1.1 概述 270 9.1.2 基本原理 270 9.1.3 信息熵 271 9.1.4 互信息 272 9.1.5 實現 273 9.2 關鍵詞提取 .. 276 9.2.1 詞頻統計 277 9.2.2 TF-IDF .. 278 9.2.3 TextRank .. 280 9.3 短語提取 283 9.4 關鍵句提取 .. 284 9.4.1 BM25 . 284 9.4.2 TextRank .. 285 9.5 總結 .. 287 第 10 章 文本聚類 . 288 10.1 概述 .. 288 10.1.1 聚類 288 10.1.2 聚類的應用 .. 290 10.1.3 文本聚類 290 10.2 文檔的特征提取 291 10.2.1 詞袋模型 291 10.2.2 詞袋中的統計指標 . 293 10.3 k 均值算法 293 10.3.1 基本原理 294 10.3.2 初始質心的選取 . 294 10.3.3 *快的準則函數 . 297 10.3.4 實現 298 10.4 重復二分聚類算法 .. 300 10.4.1 基本原理 300 10.4.2 自動判斷聚類個數k .. 301 10.4.3 實現 302 10.5 標準化評測 .. 303 10.5.1 P、R 和F1 值 .. 303 10.5.2 語料庫 304 10.5.3 評測試驗 305 10.6 總結 .. 305 第 11 章 文本分類 . 306 11.1 文本分類的概念 306 11.2 文本分類語料庫 307 11.3 文本分類的特征提取 . 308 11.3.1 分詞 309 11.3.2 卡方特征選擇 .. 309 11.3.3 詞袋向量 312 11.4 樸素貝葉斯分類器 .. 312 11.4.1 樸素貝葉斯法原理 . 312 11.4.2 樸素貝葉斯文本分類器實現 .. 314 11.5 支持向量機分類器 .. 317 11.5.1 線性支持向量機* .. 317 11.5.2 線性支持向量機文本分類器 實現 319 11.6 標準化評測 .. 320 11.6.1 評測指標P、R、F1 320 11.6.2 試驗結果 321 11.7 情感分析 321 11.7.1 ChnSentiCorp 情感分析語 料庫 322 11.7.2 訓練情感分析模型 . 322 11.7.3 拓展試驗 323 11.8 總結 .. 323 第 12 章 依存句法分析 . 324 12.1 短語結構樹 .. 324 12.1.1 上下文無關文法 . 324 12.1.2 短語結構樹 .. 325 12.1.3 賓州樹庫和中文樹庫 . 326 12.2 依存句法樹 .. 327 12.2.1 依存句法理論 .. 327 12.2.2 中文依存句法樹庫 . 328 12.2.3 依存句法樹的可視化 . 331 12.3 依存句法分析 . 333 12.3.1 基于圖的依存句法分析 333 12.3.2 基于轉移的依存句法分析 333 12.4 基于轉移的依存句法分析 .. 334 12.4.1 Arc-Eager 轉移系統 . 334 12.4.2 特征提取 336 12.4.3 Static 和Dynamic Oracle 337 12.4.4 Dynamic Oracle 與感知機在線 學習 . 338 12.4.5 柱搜索 339 12.5 依存句法分析API 340 12.5.1 訓練模型 340 12.5.2 標準化評測 .. 341 12.6 案例:基于依存句法樹的意見 抽取 .. 342 12.7 總結 .. 344 第 13 章 深度學習與自然語言處理 345 13.1 傳統方法的局限 345 13.1.1 數據稀疏 345 13.1.2 特征模板 347 13.1.3 誤差傳播 348 13.2 深度學習與優勢 348 13.2.1 深度學習 348 13.2.2 用稠密向量解決數據稀疏 352 13.2.3 用多層網絡自動提取特征表示 .. 352 13.2.4 端到端的設計 .. 353 13.3 word2vec .. 353 13.3.1 語言學上的啟發 . 354 13.3.2 CBOW 模型 . 354 13.3.3 訓練詞向量 .. 355 13.3.4 單詞語義相似度 . 357 13.3.5 詞語類比 358 13.3.6 短文本相似度 .. 359 13.4 基于神經網絡的高性能依存句法 分析器 . 360 13.4.1 Arc-Standard 轉移系統 .. 360 13.4.2 特征提取 361 13.4.3 實現與接口 .. 361 13.5 自然語言處理進階 .. 363 自然語言處理學習資料** . 365 |
序: |
|