做垂直爬蟲用GO JAVA PYTHON哪個(gè)比較好?各有什么優(yōu)勢(shì)？這主要取決于你所熟悉的語(yǔ)言和你所熟悉的語(yǔ)言。這是最好的選擇。如果你需要學(xué)習(xí)新單詞，推薦python，crawler框架成熟，使用方便的

做垂直爬蟲用GO JAVA PYTHON哪個(gè)比較好?各有什么優(yōu)勢(shì)？

這主要取決于你所熟悉的語(yǔ)言和你所熟悉的語(yǔ)言。這是最好的選擇。如果你需要學(xué)習(xí)新單詞，推薦python，crawler框架成熟，使用方便的語(yǔ)言，是最常用的crawler語(yǔ)言

！爬蟲選擇什么工具？

1. Crawler是一個(gè)網(wǎng)絡(luò)蜘蛛機(jī)器人，它能自動(dòng)地抓取數(shù)據(jù)并根據(jù)我們的規(guī)則獲取數(shù)據(jù)

2。為什么使用爬蟲？私人定制搜索引擎獲取更多數(shù)據(jù)的時(shí)代不再是互聯(lián)網(wǎng)時(shí)代，而是大數(shù)據(jù)時(shí)代

3。爬蟲的原理：控制節(jié)點(diǎn)（URL分配器）、爬蟲節(jié)點(diǎn)（根據(jù)算法抓取數(shù)據(jù)并存儲(chǔ)在數(shù)據(jù)庫(kù)中）、資源庫(kù)（存儲(chǔ)爬蟲數(shù)據(jù)庫(kù)提供搜索）。爬蟲的設(shè)計(jì)思想：爬蟲的網(wǎng)絡(luò)地址，通過(guò)HTTP協(xié)議得到相應(yīng)的HTML頁(yè)面

5。爬蟲語(yǔ)言選擇：

PHP:雖然被評(píng)為“世界上最好的語(yǔ)言”，但作為爬蟲的缺點(diǎn)：沒(méi)有多線程的概念，對(duì)異步的支持很少，并發(fā)性不足，爬蟲對(duì)效率的要求很高

C/C Java:python最大的競(jìng)爭(zhēng)對(duì)手，它非常龐大和笨重。爬蟲需要經(jīng)常修改代碼

Python：語(yǔ)言優(yōu)美，代碼介紹，多方功能模塊，調(diào)用替代語(yǔ)言接口，成熟的高分布式策略

PYT Java]Java有很多解析器，非常支持網(wǎng)頁(yè)解析。缺點(diǎn)是有很多Java開(kāi)源爬蟲，比如nutch，中國(guó)有優(yōu)秀的webmagicjava解析器，比如Htmlparser和jsoup，可以滿足Java和python的通用需求。如果需要模擬登陸和反采集，選擇python更方便。如果需要處理復(fù)雜的網(wǎng)頁(yè)，解析網(wǎng)頁(yè)內(nèi)容生成結(jié)構(gòu)化數(shù)據(jù)或精細(xì)解析網(wǎng)頁(yè)內(nèi)容，可以選擇Java。

寫爬蟲用什么語(yǔ)言好？

1. 爬行動(dòng)物的經(jīng)濟(jì)價(jià)值是什么？只有在有經(jīng)濟(jì)價(jià)值的情況下，才有必要開(kāi)發(fā)這種爬行動(dòng)物。不幸的是，在今天的許多情況下，爬行動(dòng)物并沒(méi)有太大的價(jià)值。僅：采用比價(jià)、數(shù)據(jù)統(tǒng)計(jì)、搜索引擎、信用爬蟲等有限的場(chǎng)合，這些場(chǎng)合基本被大公司壟斷?，F(xiàn)在很少有人寫爬行動(dòng)物。

2. 寫爬行動(dòng)物有多難？一天早上，就這樣。所以沒(méi)有什么困難。最多，設(shè)置useragent，設(shè)置refer，首先獲取cookie，設(shè)置延遲等等。從錢的角度看，估計(jì)值三四百元左右?；ㄙM(fèi)不多。

3. 爬行動(dòng)物能活多久？長(zhǎng)期以來(lái)，只要爬網(wǎng)系統(tǒng)不升級(jí)，就可以一直使用。換句話說(shuō)，寫爬蟲半年是很常見(jiàn)的。這是很常見(jiàn)的，這意味著它不有趣，也沒(méi)有注意到

你可以先評(píng)估你的爬蟲是Io密集型還是CPU密集型。

IO密集型：程序?qū)⒋蟛糠謺r(shí)間用于等待IO，如網(wǎng)絡(luò)IO，即HTTP請(qǐng)求、磁盤IO，即文件讀寫等

CPU密集型：程序?qū)⒋蟛糠謺r(shí)間用于CPU計(jì)算，如文本處理、數(shù)值計(jì)算等

如果是IO密集型，然后您可以通過(guò)線程池或協(xié)程池來(lái)使用函數(shù)的這一部分來(lái)實(shí)現(xiàn)并發(fā)，從而提高了速度。

但是，這里的網(wǎng)絡(luò)IO有一個(gè)前提。你的帶寬不是你的爬蟲的瓶頸。

如果這是CPU密集型的，那么這部分工作可以通過(guò)進(jìn)程池（多進(jìn)程）并行處理，從而提高速度。多處理意味著你的機(jī)器是多核的。

不過(guò)，還是有一些地方值得優(yōu)化，比如一些庫(kù)的選擇，比如靚湯。雖然它非常方便，但是有更快的實(shí)現(xiàn)方法，比如selectolax，它要快得多。

如果你不能判斷，先多線程，然后多進(jìn)程。

如果單臺(tái)機(jī)器無(wú)法解決，請(qǐng)使用工作隊(duì)列，例如cell。多機(jī)并行，當(dāng)然可以提高速度，而且是橫向擴(kuò)展，當(dāng)然這也要讓你的任務(wù)可以分布。