什么是網(wǎng)絡(luò)爬蟲(chóng)?

網(wǎng)絡(luò)爬蟲(chóng)是一個(gè)自動(dòng)提取網(wǎng)頁(yè)的程序，它為搜索引擎從萬(wàn)維網(wǎng)上下載網(wǎng)頁(yè)，是搜索引擎的重要組成。傳統(tǒng)爬蟲(chóng)從一個(gè)或若干初始網(wǎng)頁(yè)的URL開(kāi)始，獲得初始網(wǎng)頁(yè)上的URL，在抓取網(wǎng)頁(yè)的過(guò)程中，不斷從當(dāng)前頁(yè)面上抽取新的URL放入隊(duì)列,直到滿(mǎn)足系統(tǒng)的一定停止條件

爬蟲(chóng)有什么用?

做為通用搜索引擎網(wǎng)頁(yè)收集器。(google,baidu)做垂直搜索引擎.科學(xué)研究：在線人類(lèi)行為，在線社群演化，人類(lèi)動(dòng)力學(xué)研究，計(jì)量社會(huì)學(xué)，復(fù)雜網(wǎng)絡(luò)，數(shù)據(jù)挖掘，等領(lǐng)域的實(shí)證研究都需要大量數(shù)據(jù)，網(wǎng)絡(luò)爬蟲(chóng)是收集相關(guān)數(shù)據(jù)的利器。偷窺，hacking，發(fā)垃圾郵件……

爬蟲(chóng)是搜索引擎的第一步也是最容易的一步

用什么語(yǔ)言寫(xiě)爬蟲(chóng)?

C，C++。高效率，快速，適合通用搜索引擎做全網(wǎng)爬取。缺點(diǎn)，開(kāi)發(fā)慢，寫(xiě)起來(lái)又臭又長(zhǎng)，例如：天網(wǎng)搜索源代碼。腳本語(yǔ)言：Perl,Python,Java,Ruby。簡(jiǎn)單，易學(xué)，良好的文本處理能方便網(wǎng)頁(yè)內(nèi)容的細(xì)致提取，但效率往往不高，適合對(duì)少量網(wǎng)站的聚焦爬取C#?(貌似信息管理的人比較喜歡的語(yǔ)言)

選擇Python做爬蟲(chóng)的原因：

跨平臺(tái)，對(duì)Linux和windows都有不錯(cuò)的支持。

科學(xué)計(jì)算，數(shù)值擬合：Numpy，Scipy

可視化：2d：Matplotlib(做圖很漂亮),3d:Mayavi2

復(fù)雜網(wǎng)絡(luò)：Networkx統(tǒng)計(jì)：與R語(yǔ)言接口：Rpy

交互式終端

網(wǎng)站的快速開(kāi)發(fā)

以上內(nèi)容為大家介紹了為什么選擇用python做爬蟲(chóng)，希望對(duì)大家有所幫助，如果想要了解更多Python相關(guān)知識(shí)，請(qǐng)關(guān)注IT培訓(xùn)機(jī)構(gòu):千鋒教育。http://www.parentadvocate.org/