網(wǎng)頁噪聲包括為了增強用戶交互性而加入的各種腳本標記, 加強網(wǎng)頁視覺效果的各種動畫, 為了方便用戶瀏覽而添加的導航鏈接、廣告鏈接。這些信息跟文本分類沒有實質(zhì)性關(guān)系。
Python作為一種網(wǎng)頁文本的爬蟲程序開發(fā)語言, 可以完成很多復雜的網(wǎng)頁文本提取。使用urlib2模塊下的簡單代碼就能爬取目標網(wǎng)頁的全部源代碼, 獲得整個網(wǎng)頁的內(nèi)容。使用BeautifulSoup模塊自帶的html.parse庫, 去掉所爬網(wǎng)頁源代碼中的html標記, 即可提取網(wǎng)頁標簽中的文本內(nèi)容。
本文地址:http://m.cdrpkj.cn//article/20622.html