python爬蟲入門教程:爬取網頁圖片

来源:https://www.cnblogs.com/tuixiulaozhou/archive/2022/09/28/16734851.html
-Advertisement-
Play Games

在現在這個信息爆炸的時代,要想高效的獲取數據,爬蟲是非常好用的。而用python做爬蟲也十分簡單方便,下麵通過一個簡單的小爬蟲程式來看一看寫爬蟲的基本過程: 首先是要用到的庫,因為是剛入門最簡單的程式,我們主要就用到下麵這兩: import requests //用於請求網頁 import re / ...


在現在這個信息爆炸的時代,要想高效的獲取數據,爬蟲是非常好用的。而用python做爬蟲也十分簡單方便,下麵通過一個簡單的小爬蟲程式來看一看寫爬蟲的基本過程:

 

首先是要用到的庫,因為是剛入門最簡單的程式,我們主要就用到下麵這兩:

import requests //用於請求網頁
import re  //正則表達式,用於解析篩選網頁中的信息

其中re是python自帶的,requests庫需要我們自己安裝,在命令行中輸入pip install requests即可。

然後隨便找一個網站,註意不要嘗試爬取隱私敏感信息,這裡找了個表情包網站:

註:此處表情包網站中的內容本來就可以免費下載,所以爬蟲只是簡化了我們一個個點的流程,註意不能去爬取付費資源。

 

 

 

我們要做的就是通過爬蟲把這些表情包下載到我們電腦里。

 

編寫爬蟲程式

 首先肯定要通過python訪問這個網站,代碼如下:
headers = {
    'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64; rv:98.0) Gecko/20100101 Firefox/98.0'
    }
response = requests.get('https://qq.yh31.com/zjbq/',headers=headers)  //請求網頁

其中之所以要加headers這一段是因為有些網頁會識別到你是通過python請求的然後把你拒絕,所以我們要換個正常的請求頭。可以隨便找一個或者f12從網路信息里複製一個。

 

 

 

然後我們要找到我們要爬取的圖片在網頁代碼里的位置,f12查看源代碼,找到表情包如下:

 

 

 

 然後建立匹配規則,用正則表達式把中間那串替換掉,最簡單的就是.*?

t = '<img src="(.*?)" alt="(.*?)" width="160" height="120">'

 

 像這樣。

然後就可以調用re庫里的findall方法把相關內容爬下來了:

result = re.findall(t, response.text)

 

返回的內容是由字元串組成的列表,最後我們經由爬到的地址通過python語句把圖片下下來保存到文件夾里就行了。

   
 
 

程式代碼

import requests
import re
import os
 
image = '表情包'
if not os.path.exists(image):
    os.mkdir(image)
headers = {
    'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64; rv:98.0) Gecko/20100101 Firefox/98.0'
    }
response = requests.get('https://qq.yh31.com/zjbq/',headers=headers)
response.encoding = 'GBK'
response.encoding = 'utf-8'
print(response.request.headers)
print(response.status_code)
t = '<img src="(.*?)" alt="(.*?)" width="160" height="120">'
result = re.findall(t, response.text)
for img in result:
    print(img)
    res = requests.get(img[0])
    print(res.status_code)
    s = img[0].split('.')[-1]  #截取圖片尾碼,得到表情包格式,如jpg ,gif
    with open(image + '/' + img[1] + '.' + s, mode='wb') as file:
        file.write(res.content)

最後結果就是這個樣子:

 

 

 


您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • 1.問題分析 1.1. 公司雲桌面win7系統把之前C盤中自帶的py3.7環境給還原了,之前跑得好好的PlayWright案例不能運行了 2.解決過程 2.1. 參考網上的解決方案,說是node的版本問題,但是我將之前可以運行的V12.22.12版本回退到V12.9.1以後,還是不行,但是我發現我的 ...
  • Mac下protobuf生成文件報錯問題解決辦法,windows下就不會這麼麻煩了,如果linux下出現類似報錯信息按照下麵的解決邏輯依然適用。 1、由--go_out引發的報錯 1.報錯信息: user@C02FP58GML7H pbfile % protoc --go_out=./ ./user ...
  • 1.property 裝飾器:裝飾器是在不修改被裝飾對象源代碼以及調用方式的前提下為被裝飾對象添加新功能的可調用對象 property是一個裝飾器,是用來綁定給對象的方法偽造成一個數據屬性 裝飾器property,可以將類中的函數“偽裝成”對象的數據屬性,對象在訪問該特殊屬性時會觸發功能的執行,然後 ...
  • 摘要:本文講解基於傅里葉變換的高通濾波和低通濾波。 本文分享自華為雲社區《[Python圖像處理] 二十三.傅里葉變換之高通濾波和低通濾波》,作者:eastmount 。 一.高通濾波 傅里葉變換的目的並不是為了觀察圖像的頻率分佈(至少不是最終目的),更多情況下是為了對頻率進行過濾,通過修改頻率以達 ...
  • HashMap源碼深度剖析 * HashMap底層數據結構(為什麼引入紅黑樹、存儲數據的過程、哈希碰撞相關問題) * HashMap成員變數(初始化容量是多少、負載因數、數組長度為什麼是2的n次冪) * HashMap擴容機制(什麼時候需要擴容? 怎麼進行擴容?) * JDK7 與 Jdk8比較,J ...
  • 作者:小小____ 來源:segmentfault.com/a/1190000023052493 思維導圖如下 RBAC許可權分析 RBAC 全稱為基於角色的許可權控制,本段將會從什麼是RBAC,模型分類,什麼是許可權,用戶組的使用,實例分析等幾個方面闡述RBAC 思維導圖 繪製思維導圖如下 什麼是RBA ...
  • 如果你有機會跟一些技術大牛接觸的話,你會發現別人不僅是技術上比一般人強很多,而且在做事方面也有許多不一樣的習慣,在職場捲了這麼多年依然保持的習慣,往往是值得我們借鑒和學習的。 今天給大家分享幾個優秀程式員的好習慣,養成這6個習慣,你也能成為編程老司機。 第一,代碼自測再交付 寫完代碼不要急於交付,先 ...
  • 序言 作為數據分析師,我們需要經常製作統計分析圖表。但是報表太多的時候往往需要花費我們大部分時間去製作報表。這耽誤了我們利用大量的時間去進行數據分析。但是作為數據分析師我們應該儘可能去挖掘表格圖表數據背後隱藏關聯信息,而不是簡單的統計表格製作圖表再發送報表。既然報表的工作不可免除,那我們應該如何利用 ...
一周排行
    -Advertisement-
    Play Games
  • 在C#中使用SQL Server實現事務的ACID(原子性、一致性、隔離性、持久性)屬性和使用資料庫鎖(悲觀鎖和樂觀鎖)時,你可以通過ADO.NET的SqlConnection和SqlTransaction類來實現。下麵是一些示例和概念說明。 實現ACID事務 ACID屬性是事務處理的四個基本特征, ...
  • 我們在《SqlSugar開發框架》中,Winform界面開發部分往往也用到了自定義的用戶控制項,對應一些特殊的界面或者常用到的一些局部界面內容,我們可以使用自定義的用戶控制項來提高界面的統一性,同時也增強了使用的便利性。如我們Winform界面中用到的分頁控制項、附件顯示內容、以及一些公司、部門、菜單的下... ...
  • 在本篇教程中,我們學習瞭如何在 Taurus.MVC WebMVC 中進行數據綁定操作。我們還學習瞭如何使用 ${屬性名稱} CMS 語法來綁定頁面上的元素與 Model 中的屬性。通過這些步驟,我們成功實現了一個簡單的數據綁定示例。 ...
  • 是在MVVM中用來傳遞消息的一種方式。它是在MVVMLight框架中提供的一個實現了IMessenger介面的類,可以用來在ViewModel之間、ViewModel和View之間傳遞消息。 Send 接受一個泛型參數,表示要發送的消息內容。 Register 方法用於註冊某個對象接收消息。 pub ...
  • 概述:在WPF中,通過EventHandler可實現基礎和高級的UI更新方式。基礎用法涉及在類中定義事件,併在UI中訂閱以執行更新操作。高級用法藉助Dispatcher類,確保在非UI線程上執行操作後,通過UI線程更新界面。這兩種方法提供了靈活而可靠的UI更新機制。 在WPF(Windows Pre ...
  • 概述:本文介紹了在C#程式開發中如何利用自定義擴展方法測量代碼執行時間。通過使用簡單的Action委托,開發者可以輕鬆獲取代碼塊的執行時間,幫助優化性能、驗證演算法效率以及監控系統性能。這種通用方法提供了一種便捷而有效的方式,有助於提高開發效率和代碼質量。 在軟體開發中,瞭解代碼執行時間是優化程式性能 ...
  • 概述:Cron表達式是一種強大的定時任務調度工具,通過配置不同欄位實現靈活的時間規定。在.NET中,Quartz庫提供了簡便的方式配置Cron表達式,實現精準的定時任務調度。這種靈活性和可擴展性使得開發者能夠根據需求輕鬆地制定和管理定時任務,例如每天備份系統日誌或其他重要操作。 Cron表達式詳解 ...
  • 概述:.NET提供多種定時器,如System.Windows.Forms.Timer適用於UI,System.Web.UI.Timer用於Web,System.Diagnostics.Timer用於性能監控,System.Threading.Timer和System.Timers.Timer用於一般 ...
  • 問題背景 有同事聯繫我說,在生產環境上,訪問不了我負責的common服務,然後我去檢查common服務的health endpoint, 沒問題,然後我問了下異常,timeout導致的System.OperationCanceledException。那大概率是客戶端的問題,會不會是埠耗盡,用ne ...
  • 前言: 在本篇 Taurus.MVC WebMVC 入門開發教程的第四篇文章中, 我們將學習如何實現數據列表的綁定,通過使用 List<Model> 來展示多個數據項。 我們將繼續使用 Taurus.Mvc 命名空間,同時探討如何在視圖中綁定並顯示一個 Model 列表。 步驟1:創建 Model ...