采集地址:
http://lib.cqvip.com/Qikan/Search/Index?from=Qikan_Search_Index
采集字段:
標題,摘要、作者、出處、作者簡介、郵箱。
采集結(jié)果:
使用“互聯(lián)網(wǎng)”作為關鍵詞進行搜索,采集搜索結(jié)果,并保存到Excel。
首先先點擊下一頁,發(fā)現(xiàn)網(wǎng)址沒有改變,說明這個網(wǎng)址需要通過抓包來獲取真實地址。
打開fiddler,點擊下一頁進行抓包,使用Ctrl + F 查找有數(shù)據(jù)的網(wǎng)址,點擊進去發(fā)現(xiàn)確實是我們需要的真實網(wǎng)址。
5、接下來開始采內(nèi)容,要采集的幾個字段內(nèi)容源碼中都存在,直接從源碼獲取即可,這里標題標簽可以先用h1截取,然后用內(nèi)容替換和HTML標簽過濾將不需要的內(nèi)容去除,其他幾個標簽設置方法類似。
6、值得一提的是,郵箱是從作者簡介里提取的,這里可以使用組合標簽來獲取作者簡介的內(nèi)容,在數(shù)據(jù)處理里使用智能提取郵箱功能來自動獲取內(nèi)容里的郵箱信息。
7、最后,保存到本地Excel。