主要就是設定爬取規(guī)則定向爬取:
(1)清晰地定義好爬蟲的爬取目標，規(guī)劃好主題。
(2)建立好爬取網址的過濾篩選規(guī)則以及內容的過濾篩選規(guī)則。
(3)建立好URL排序算法。 而深度爬取(深度優(yōu)先算法)就是從起始頁開始，一個鏈接一個鏈接跟蹤下去，處理完這條線路之后再 轉入下一個起始頁，繼續(xù)追蹤鏈接，scrapy默認就是 使用的深度優(yōu)先算法。
相關推薦HOT
【Python面試題】談談你對“猴子補丁”（monkey patching）的理解
“猴子補丁”是動態(tài)類型語言的一個特性，代碼運行時在不修改源代碼的前提下改變代碼中的方法、屬性、函數等以達到熱補丁（hot patch）的效果。詳情>>
2022-08-23 10:29:17
【Python面試題】使用Python代碼實現遍歷一個文件夾的操作
Python標準庫os模塊的walk函數提供了遍歷一個文件夾的功能，它返回一個生成器。import os g = os.walk('/Users/Hao/Downloads/') for path, dir...詳情>>
2022-08-23 10:29:09
【Python面試題】如何理解python中的封裝,繼承,多態(tài)的
封裝：封裝就是把對象的屬性和行為結合成一個獨立的整體，把內部的實現細節(jié)隱藏起來，不能被外界所看見，調用的人只能執(zhí)行，而看不到實現的細節(jié)...詳情>>
2022-08-23 10:29:06
【Python面試題】運行下面的代碼是否會報錯
擴展：如果不希望代碼運行時動態(tài)的給對象添加新屬性，可以在定義類時使用__slots__魔法。例如，我們可以在上面的A中添加一行__slots__ = ('__va...詳情>>
2022-08-23 10:29:03
【Python面試題】閱讀下面的代碼說出運行結果。
在沒有多重繼承的情況下，向對象發(fā)出一個消息，如果對象沒有對應的方法，那么向上（父類）搜索的順序是非常清晰的。如果向上追溯到object類（所...詳情>>
2022-08-23 10:29:00
京公網安備 11010802030320號