python翻頁(yè)抓取 python怎么抓取一個(gè)無(wú)論怎么跳轉(zhuǎn)其url都不變的網(wǎng)頁(yè)?
python怎么抓取一個(gè)無(wú)論怎么跳轉(zhuǎn)其url都不變的網(wǎng)頁(yè)?在您獲得頁(yè)面地址后,您可以解析出地址中的ID。這個(gè)ID是productid,然后您可以根據(jù)該接口逐頁(yè)掃描。頁(yè)面結(jié)構(gòu)可能會(huì)改變,但界面通常不會(huì)經(jīng)
python怎么抓取一個(gè)無(wú)論怎么跳轉(zhuǎn)其url都不變的網(wǎng)頁(yè)?
在您獲得頁(yè)面地址后,您可以解析出地址中的ID。這個(gè)ID是productid,然后您可以根據(jù)該接口逐頁(yè)掃描。頁(yè)面結(jié)構(gòu)可能會(huì)改變,但界面通常不會(huì)經(jīng)常改變
首先,我們需要弄清楚,我們能看到的所有網(wǎng)頁(yè),無(wú)論是文本、圖片還是動(dòng)畫(huà),都是HTML如果我們想成為一個(gè)網(wǎng)絡(luò)爬蟲(chóng),那么我們的爬蟲(chóng)就沒(méi)有視覺(jué),只有邏輯。在爬蟲(chóng)的眼中,只有HTML標(biāo)記。其他的樣式是爬蟲(chóng)眼中的浮云。所以爬蟲(chóng)其實(shí)是在讀取HTML標(biāo)簽,需要用到的一個(gè)庫(kù)就是請(qǐng)求庫(kù),通過(guò)網(wǎng)絡(luò)請(qǐng)求得到HTML元素),然后把HTML標(biāo)簽提取出來(lái),這是一個(gè)web爬蟲(chóng)。邏輯就這么簡(jiǎn)單。如果您有使用python的經(jīng)驗(yàn),建議您使用crawler框架scratch