>網(wǎng)絡(luò)刮擦：有效從網(wǎng)頁(yè)上提取數(shù)據(jù)
本教程解釋了網(wǎng)頁(yè)內(nèi)容的渲染方式以及如何使用Python，請(qǐng)求，美麗的湯和硒來(lái)刮擦它。 我們將專(zhuān)注于刮擦動(dòng)態(tài)內(nèi)容，特別是評(píng)論。
>何時(shí)需要網(wǎng)絡(luò)刮擦？
> Web刮擦?xí)詣?dòng)檢索，解析和從網(wǎng)頁(yè)中提取信息，通常是為人類(lèi)互動(dòng)而設(shè)計(jì)的。 當(dāng)沒(méi)有API時(shí)，這是最后的手段。 考慮以下缺點(diǎn)：
- 脆弱性：網(wǎng)頁(yè)頻繁更改，打破刮板。
- 限制：許多網(wǎng)站禁止刮擦。>
- 性能：
刮擦大量數(shù)據(jù)可能會(huì)很慢且昂貴。> 了解現(xiàn)代網(wǎng)頁(yè)
>讓我們檢查典型的Web應(yīng)用程序的結(jié)構(gòu)。 我們將以“流浪介紹”文章為例。 要刮擦內(nèi)容，我們必須首先找到相關(guān)的HTML元素。
查看頁(yè)面源瀏覽器允許查看HTML源。 “流浪者簡(jiǎn)介”來(lái)源揭示了與文章內(nèi)容本身無(wú)關(guān)的縮小JavaScript的很大一部分。 下面顯示了一個(gè)小摘錄：
以下是實(shí)際HTML的樣本：
靜態(tài)與動(dòng)態(tài)刮擦
靜態(tài)刮擦
忽略JavaScript，獲取原始服務(wù)器端HTML。 如果目標(biāo)內(nèi)容直接在源中，則可以使用。 但是，對(duì)于由JavaScript（動(dòng)態(tài)內(nèi)容）生成的內(nèi)容，此方法失敗了。>動(dòng)態(tài)刮擦使用硒等工具作為瀏覽器會(huì)與頁(yè)面交互，呈現(xiàn)JavaScript并使動(dòng)態(tài)內(nèi)容可用。 >用硒刮擦動(dòng)態(tài)評(píng)論 >讓我們從網(wǎng)站上刮擦評(píng)論（示例：Codecanyon評(píng)論）。我們將使用Selenium導(dǎo)航到注釋URL：
找到注釋元素需要檢查頁(yè)面（右鍵單擊，“檢查”）。 Selenium's
有助于處理異步加載：
from selenium import webdriver
driver = webdriver.Chrome()
driver.get('https://codecanyon.net/item/whatshelp-whatsapp-help-and-support-plugin-for-javascript/42202303/comments')
結(jié)論WebDriverWait
當(dāng)必要的數(shù)據(jù)不容易通過(guò)API提供時(shí)，
from selenium.webdriver.common.by import By
from selenium.webdriver.support.wait import WebDriverWait
from selenium.webdriver.support import expected_conditions as EC
driver = webdriver.Chrome()
url = 'http://www.c2.com/loading-page'
driver.get(url)
element = WebDriverWait(driver, 5).until(
EC.presence_of_element_located((By.ID, "loaded_element"))
)
>
本教程結(jié)合了Esther Vaati的貢獻(xiàn)，Esther Vaati是Envato Tuts的軟件開(kāi)發(fā)人員兼作者。以上是現(xiàn)代網(wǎng)絡(luò)用美麗的湯和硒刮擦的詳細(xì)內(nèi)容。更多信息請(qǐng)關(guān)注PHP中文網(wǎng)其他相關(guān)文章！
熱AI工具
Undress AI Tool
免費(fèi)脫衣服圖片
Undresser.AI Undress
人工智能驅(qū)動(dòng)的應(yīng)用程序，用于創(chuàng)建逼真的裸體照片
AI Clothes Remover
用于從照片中去除衣服的在線人工智能工具。
Clothoff.io
AI脫衣機(jī)
Video Face Swap
使用我們完全免費(fèi)的人工智能換臉工具輕松在任何視頻中換臉！
熱門(mén)文章
熱工具
記事本++7.3.1
好用且免費(fèi)的代碼編輯器
SublimeText3漢化版
中文版，非常好用
禪工作室 13.0.1
功能強(qiáng)大的PHP集成開(kāi)發(fā)環(huán)境
Dreamweaver CS6
視覺(jué)化網(wǎng)頁(yè)開(kāi)發(fā)工具
SublimeText3 Mac版
神級(jí)代碼編輯軟件(SublimeText3)
Python類(lèi)中的多態(tài)性
Jul 05, 2025 am 02:58 AM
多態(tài)是Python面向?qū)ο缶幊讨械暮诵母拍?，指“一種接口，多種實(shí)現(xiàn)”，允許統(tǒng)一處理不同類(lèi)型的對(duì)象。1.多態(tài)通過(guò)方法重寫(xiě)實(shí)現(xiàn)，子類(lèi)可重新定義父類(lèi)方法，如Animal類(lèi)的speak()方法在Dog和Cat子類(lèi)中有不同實(shí)現(xiàn)。2.多態(tài)的實(shí)際用途包括簡(jiǎn)化代碼結(jié)構(gòu)、增強(qiáng)可擴(kuò)展性，例如圖形繪制程序中統(tǒng)一調(diào)用draw()方法，或游戲開(kāi)發(fā)中處理不同角色的共同行為。3.Python實(shí)現(xiàn)多態(tài)需滿(mǎn)足：父類(lèi)定義方法，子類(lèi)重寫(xiě)該方法，但不要求繼承同一父類(lèi)，只要對(duì)象實(shí)現(xiàn)相同方法即可，這稱(chēng)為“鴨子類(lèi)型”。4.注意事項(xiàng)包括保持方
Python函數(shù)參數(shù)和參數(shù)
Jul 04, 2025 am 03:26 AM
參數(shù)（parameters）是定義函數(shù)時(shí)的占位符，而傳參（arguments）是調(diào)用時(shí)傳入的具體值。1.位置參數(shù)需按順序傳遞，順序錯(cuò)誤會(huì)導(dǎo)致結(jié)果錯(cuò)誤；2.關(guān)鍵字參數(shù)通過(guò)參數(shù)名指定，可改變順序且提高可讀性；3.默認(rèn)參數(shù)值在定義時(shí)賦值，避免重復(fù)代碼，但應(yīng)避免使用可變對(duì)象作為默認(rèn)值；4.args和*kwargs可處理不定數(shù)量的參數(shù)，適用于通用接口或裝飾器，但應(yīng)謹(jǐn)慎使用以保持可讀性。
解釋Python發(fā)電機(jī)和迭代器。
Jul 05, 2025 am 02:55 AM
迭代器是實(shí)現(xiàn)__iter__()和__next__()方法的對(duì)象，生成器是簡(jiǎn)化版的迭代器，通過(guò)yield關(guān)鍵字自動(dòng)實(shí)現(xiàn)這些方法。1.迭代器每次調(diào)用next()返回一個(gè)元素，無(wú)更多元素時(shí)拋出StopIteration異常。2.生成器通過(guò)函數(shù)定義，使用yield按需生成數(shù)據(jù)，節(jié)省內(nèi)存且支持無(wú)限序列。3.處理已有集合時(shí)用迭代器，動(dòng)態(tài)生成大數(shù)據(jù)或需惰性求值時(shí)用生成器，如讀取大文件時(shí)逐行加載。注意：列表等可迭代對(duì)象不是迭代器，迭代器到盡頭后需重新創(chuàng)建，生成器只能遍歷一次。
python`@classmethod'裝飾師解釋了
Jul 04, 2025 am 03:26 AM
類(lèi)方法是Python中通過(guò)@classmethod裝飾器定義的方法，其第一個(gè)參數(shù)為類(lèi)本身(cls)，用于訪問(wèn)或修改類(lèi)狀態(tài)。它可通過(guò)類(lèi)或?qū)嵗{(diào)用，影響的是整個(gè)類(lèi)而非特定實(shí)例；例如在Person類(lèi)中，show_count()方法統(tǒng)計(jì)創(chuàng)建的對(duì)象數(shù)量；定義類(lèi)方法時(shí)需使用@classmethod裝飾器并將首參命名為cls，如change_var(new_value)方法可修改類(lèi)變量；類(lèi)方法與實(shí)例方法(self參數(shù))、靜態(tài)方法(無(wú)自動(dòng)參數(shù))不同，適用于工廠方法、替代構(gòu)造函數(shù)及管理類(lèi)變量等場(chǎng)景；常見(jiàn)用途包括從
如何處理Python中的API身份驗(yàn)證
Jul 13, 2025 am 02:22 AM
處理API認(rèn)證的關(guān)鍵在于理解并正確使用認(rèn)證方式。1.APIKey是最簡(jiǎn)單的認(rèn)證方式，通常放在請(qǐng)求頭或URL參數(shù)中；2.BasicAuth使用用戶(hù)名和密碼進(jìn)行Base64編碼傳輸，適合內(nèi)部系統(tǒng)；3.OAuth2需先通過(guò)client_id和client_secret獲取Token，再在請(qǐng)求頭中帶上BearerToken；4.為應(yīng)對(duì)Token過(guò)期，可封裝Token管理類(lèi)自動(dòng)刷新Token；總之，根據(jù)文檔選擇合適方式，并安全存儲(chǔ)密鑰信息是關(guān)鍵。
什么是python魔法方法或dunder方法？
Jul 04, 2025 am 03:20 AM
Python的magicmethods（或稱(chēng)dunder方法）是用于定義對(duì)象行為的特殊方法，它們以雙下劃線開(kāi)頭和結(jié)尾。1.它們使對(duì)象能夠響應(yīng)內(nèi)置操作，如加法、比較、字符串表示等；2.常見(jiàn)用例包括對(duì)象初始化與表示（__init__、__repr__、__str__）、算術(shù)運(yùn)算（__add__、__sub__、__mul__）及比較運(yùn)算（__eq__、__lt__）；3.使用時(shí)應(yīng)確保其行為符合預(yù)期，例如__repr__應(yīng)返回可重構(gòu)對(duì)象的表達(dá)式，算術(shù)方法應(yīng)返回新實(shí)例；4.應(yīng)避免過(guò)度使用或以令人困惑的方
Python內(nèi)存管理如何工作？
Jul 04, 2025 am 03:26 AM
Pythonmanagesmemoryautomaticallyusingreferencecountingandagarbagecollector.Referencecountingtrackshowmanyvariablesrefertoanobject,andwhenthecountreacheszero,thememoryisfreed.However,itcannothandlecircularreferences,wheretwoobjectsrefertoeachotherbuta
python`@property`裝飾師
Jul 04, 2025 am 03:28 AM
@property是Python中用于將方法偽裝成屬性的裝飾器，允許在訪問(wèn)屬性時(shí)執(zhí)行邏輯判斷或動(dòng)態(tài)計(jì)算值。1.它通過(guò)@property裝飾器定義getter方法，使外部像訪問(wèn)屬性一樣調(diào)用方法；2.搭配.setter可控制賦值行為，如校驗(yàn)值合法性，不定義.setter則為只讀屬性；3.適用于屬性賦值校驗(yàn)、動(dòng)態(tài)生成屬性值、隱藏內(nèi)部實(shí)現(xiàn)細(xì)節(jié)等場(chǎng)景；4.使用時(shí)注意屬性名與私有變量名不同名，避免死循環(huán)，適合輕量級(jí)操作；5.示例中Circle類(lèi)限制radius非負(fù)，Person類(lèi)動(dòng)態(tài)生成full_name屬
