什么是網絡爬蟲?

網絡爬蟲是一個自動提取網頁的程序，它為搜索引擎從萬維網上下載網頁，是搜索引擎的重要組成。傳統爬蟲從一個或若干初始網頁的URL開始，獲得初始網頁上的URL，在抓取網頁的過程中，不斷從當前頁面上抽取新的URL放入隊列,直到滿足系統的一定停止條件

爬蟲有什么用?

做為通用搜索引擎網頁收集器。(google,baidu)做垂直搜索引擎.科學研究：在線人類行為，在線社群演化，人類動力學研究，計量社會學，復雜網絡，數據挖掘，等領域的實證研究都需要大量數據，網絡爬蟲是收集相關數據的利器。偷窺，hacking，發垃圾郵件……

爬蟲是搜索引擎的第一步也是最容易的一步

用什么語言寫爬蟲?

C，C++。高效率，快速，適合通用搜索引擎做全網爬取。缺點，開發慢，寫起來又臭又長，例如：天網搜索源代碼。腳本語言：Perl,Python,Java,Ruby。簡單，易學，良好的文本處理能方便網頁內容的細致提取，但效率往往不高，適合對少量網站的聚焦爬取C#?(貌似信息管理的人比較喜歡的語言)

選擇Python做爬蟲的原因：

跨平臺，對Linux和windows都有不錯的支持。

科學計算，數值擬合：Numpy，Scipy

可視化：2d：Matplotlib(做圖很漂亮),3d:Mayavi2

復雜網絡：Networkx統計：與R語言接口：Rpy

交互式終端

網站的快速開發

以上內容為大家介紹了為什么選擇用python做爬蟲，希望對大家有所幫助，如果想要了解更多Python相關知識，請關注IT培訓機構:千鋒教育。http://www.kei0345678.cn/