新人想學編程，如何入門？我的觀點是，首先，我們需要有Python的基礎。在有了基礎的前提下，使用框架是最快的，可以在短時間內(nèi)實現(xiàn)爬蟲。這里我推薦scratch，它是一個基于python的開源web爬蟲

新人想學編程，如何入門？

我的觀點是，首先，我們需要有Python的基礎。在有了基礎的前提下，使用框架是最快的，可以在短時間內(nèi)實現(xiàn)爬蟲。這里我推薦scratch，它是一個基于python的開源web爬蟲框架。其易用性、靈活性、易擴展性和跨平臺性等特點使其受到廣大用友的歡迎。

使用刮削也非常簡單。您只需要關注spider文件，它實際上是web頁面上數(shù)據(jù)處理的一部分。以《詩詞王-爬行詩》為例。我們可以在spider中這樣寫：

上面的代碼整體上分為兩部分，一部分是提取網(wǎng)頁中的URL，另一部分是從詩歌細節(jié)頁面中提取需要爬網(wǎng)的內(nèi)容。我選擇在這里爬行的數(shù)據(jù)是詩歌作者、內(nèi)容、網(wǎng)站標簽等等。

很方便嗎？如果不需要存儲數(shù)據(jù)，這里就足夠了。定義項字段以爬網(wǎng)數(shù)據(jù)。如果需要在數(shù)據(jù)庫中存儲數(shù)據(jù)，需要在管道中定義一個類來存儲數(shù)據(jù)

如上圖所示，定義了mongodb的類，這樣我們就可以在mongodb中存儲數(shù)據(jù)了。