完美世界辰东,小说阅读网免费小说

主頁 > 知識庫 > Python使用Selenium自動進(jìn)行百度搜索的實(shí)現(xiàn)

Python使用Selenium自動進(jìn)行百度搜索的實(shí)現(xiàn)

我們今天介紹一個(gè)非常適合新手的python自動化小項(xiàng)目，項(xiàng)目雖小，但是五臟俱全。它是一個(gè)自動化操作網(wǎng)頁瀏覽器的小應(yīng)用：打開瀏覽器，進(jìn)入百度網(wǎng)頁，搜索關(guān)鍵詞，最后把搜索結(jié)果保存到一個(gè)文件里。這個(gè)例子非常適合新手學(xué)習(xí)Python網(wǎng)絡(luò)自動化，不僅能夠了解如何使用Selenium，而且還能知道一些超級好用的小工具。

當(dāng)然有人把操作網(wǎng)頁，然后把網(wǎng)頁的關(guān)鍵內(nèi)容保存下來的應(yīng)用一律稱作網(wǎng)絡(luò)爬蟲，好吧，如果你想這么爬取內(nèi)容，隨你。但是，我更愿意稱它為網(wǎng)絡(luò)機(jī)器人。

我今天介紹的項(xiàng)目使用Selenium，Selenium 是支持 web 瀏覽器自動化的一系列工具和庫的綜合項(xiàng)目。Selenium 的核心是 WebDriver，這是一個(gè)編寫指令集的接口，可以在許多瀏覽器中互換運(yùn)行。

閑言少敘，硬貨安排。

安裝 Selenium

可以使用 pip 安裝 Python 的 Selenium 庫：pip install selenium

（可選項(xiàng)：要執(zhí)行項(xiàng)目并控制瀏覽器，需要安裝特定于瀏覽器的 WebDriver 二進(jìn)制文件。

下載 WebDriver 二進(jìn)制文件并放入系統(tǒng) PATH 環(huán)境變量中.）

由于本地瀏覽器版本升級，引起的版本不一致問題，和系統(tǒng)PATH環(huán)境變量的設(shè)置比較繁瑣，所以我使用webdriver_manager，

安裝 Install manager:

pip install webdriver-manager

寫代碼

引入模塊：

from selenium import webdriver
from webdriver_manager.chrome import ChromeDriverManager
from selenium.webdriver.common.by import By
from selenium.webdriver.support.ui import WebDriverWait
from selenium.webdriver.support import expected_conditions as EC
from selenium.webdriver.common.keys import Keys

首先我們定義一個(gè)類Search_Baidu，它主要用于初始化；定義自動化步驟的方法；結(jié)束關(guān)閉瀏覽器。

class Search_Baidu:
def __init__(self):
def search(self, keyword):
def tear_down(self):

接下來我們分別介紹每個(gè)方法的實(shí)現(xiàn)過程。

   def __init__(self): #類構(gòu)造函數(shù)，用于初始化selenium的webdriver
        url = 'https://www.baidu.com/' #這里定義訪問的網(wǎng)絡(luò)地址
        self.url = url

        options = webdriver.ChromeOptions()
        options.add_experimental_option("prefs", {"profile.managed_default_content_settings.images": 2}) # 不加載圖片,加快訪問速度
        options.add_experimental_option('excludeSwitches', ['enable-automation']) # 此步驟很重要，設(shè)置為開發(fā)者模式，防止被各大網(wǎng)站識別出來使用了Selenium
# 這里使用chrome瀏覽器，而且使用我們剛才安裝的webdriver_manager的chrome driver，并賦值上面的瀏覽器設(shè)置options變量
        self.browser = webdriver.Chrome(ChromeDriverManager().install(), options=options)
        self.wait = WebDriverWait(self.browser, 10) #超時(shí)時(shí)長為10s，由于自動化需要等待網(wǎng)頁控件的加載，所以這里設(shè)置一個(gè)默認(rèn)的等待超時(shí)，時(shí)長為10秒

    def tear_down(self):
        self.browser.close() #最后，關(guān)閉瀏覽器

接下來是重頭戲，寫我們操作瀏覽器的步驟，打開瀏覽器，進(jìn)入百度網(wǎng)頁，輸入搜索關(guān)鍵字：Selenium，等待搜索結(jié)果，把搜索結(jié)果的題目和網(wǎng)址保存到文件里。

def search(self, keyword):
    # 打開百度網(wǎng)頁
    self.browser.get(self.url)
    # 等待搜索框出現(xiàn)，最多等待10秒，否則報(bào)超時(shí)錯誤
    search_input = self.wait.until(EC.presence_of_element_located((By.XPATH, '//*[@id="kw"]')))
    # 在搜索框輸入搜索的關(guān)鍵字
    search_input.send_keys(keyword)
    # 回車
    search_input.send_keys(Keys.ENTER)
    # 等待10秒鐘
    self.browser.implicitly_wait(10)
    # 找到所有的搜索結(jié)果
    results = self.browser.find_elements_by_css_selector(".t a , em , .c-title-text")
    # 遍歷所有的搜索結(jié)果
    with open("search_result.txt","w") as file:            
        for result in results:
            if result.get_attribute("href"):
                print(result.get_attribute("text").strip())
                # 搜索結(jié)果的標(biāo)題
                title = result.get_attribute("text").strip()
                # 搜索結(jié)果的網(wǎng)址
                link = result.get_attribute("href")
                # 寫入文件
                file.write(f"Title: {title}, link is: {link} \n")

點(diǎn)位網(wǎng)頁元素

這里頭有個(gè)關(guān)鍵點(diǎn)，就是如何點(diǎn)位網(wǎng)頁元素：

比如：

search_input = self.wait.until(EC.presence_of_element_located((By.XPATH, '//*[@id="kw"]')))

還有：

self.browser.find_elements_by_css_selector(".t a , em , .c-title-text")

打個(gè)比方，快遞員通過地址找到你家，給你送快遞，這里的XPATH和CSS Selector就是網(wǎng)頁元素的地址，那么如何得到呢？
第一個(gè)就是Chrome自帶的開發(fā)者工具，可以快捷鍵F12，也可以自己在下圖中找到：

然后在百度搜索框，右鍵：

找到輸入框的HTML元素，

在HTML元素右鍵，拷貝XPath地址。

這是比較簡單的定位網(wǎng)頁元素的方法。接下來我們定位搜索結(jié)果元素的時(shí)候，就遇到了麻煩，如下圖：

我們不能單獨(dú)的定位每個(gè)元素，而是要找到規(guī)律，一次把所有的搜索結(jié)果找到，然后返回一個(gè)list，我們好遍歷這個(gè)list，這個(gè)怎么實(shí)現(xiàn)呢？

接下來，我們請出一大神器：SelectorGadget

SelectorGadget是一個(gè)CSS Selector生成器，大家可以在他的官方文檔找到具體的使用說明，我這里簡單介紹一下：
首先啟動SelectorGadget，點(diǎn)擊一下圖標(biāo)

瀏覽器會出現(xiàn)下面的框框：

然后我們在網(wǎng)頁用鼠標(biāo)左鍵，點(diǎn)擊我們要定位的元素

然后頁面會變成下面的樣子：

所有黃色的部分說明都被選擇了，如果我們不想要的元素，右鍵點(diǎn)擊，使它變?yōu)榧t色，說明它被去掉了。如果沒有被選擇我們又需要的元素，我們左鍵選擇它，使它變?yōu)榫G色。最后我們希望選擇的頁面元素都變成了綠色或者黃色，如下圖：

我們就可以拷貝框框里的內(nèi)容作為CSS Selector了。

通過CSS Selector找到所有的搜索結(jié)果。

results = self.browser.find_elements_by_css_selector(".t a , em , .c-title-text")

到此，我們就實(shí)現(xiàn)了這么個(gè)簡單的小應(yīng)用了，其實(shí)selenium就是幫助我們自動操作網(wǎng)頁元素，所以我們定位網(wǎng)頁元素就是重中之重，希望本文給你帶來一點(diǎn)幫助。

下面我附上代碼：

from datetime import time
from selenium import webdriver
from webdriver_manager.chrome import ChromeDriverManager
from selenium.webdriver.common.by import By
from selenium.webdriver.support.ui import WebDriverWait
from selenium.webdriver.support import expected_conditions as EC
from selenium.webdriver.common.keys import Keys

class Search_Baidu:
    def __init__(self):
        url = 'https://www.baidu.com/'
        self.url = url

        options = webdriver.ChromeOptions()
        options.add_experimental_option("prefs", {"profile.managed_default_content_settings.images": 2}) # 不加載圖片,加快訪問速度
        options.add_experimental_option('excludeSwitches', ['enable-automation']) # 此步驟很重要，設(shè)置為開發(fā)者模式，防止被各大網(wǎng)站識別出來使用了Selenium

        self.browser = webdriver.Chrome(ChromeDriverManager().install(), options=options)
        self.wait = WebDriverWait(self.browser, 10) #超時(shí)時(shí)長為10s

    def search(self, keyword):
        # 打開百度網(wǎng)頁
        self.browser.get(self.url)
        # 等待搜索框出現(xiàn)，最多等待10秒，否則報(bào)超時(shí)錯誤
        search_input = self.wait.until(EC.presence_of_element_located((By.XPATH, '//*[@id="kw"]')))
        # 在搜索框輸入搜索的關(guān)鍵字
        search_input.send_keys(keyword)
        # 回車
        search_input.send_keys(Keys.ENTER)
        # 等待10秒鐘
        self.browser.implicitly_wait(10)
        # 找到所有的搜索結(jié)果
        results = self.browser.find_elements_by_css_selector(".t a , em , .c-title-text")
        # 遍歷所有的搜索結(jié)果
        with open("search_result.txt","w") as file:            
            for result in results:
                if result.get_attribute("href"):
                    print(result.get_attribute("text").strip())
                    # 搜索結(jié)果的標(biāo)題
                    title = result.get_attribute("text").strip()
                    # 搜索結(jié)果的網(wǎng)址
                    link = result.get_attribute("href")
                    # 寫入文件
                    file.write(f"Title: {title}, link is: {link} \n")

    def tear_down(self):
        self.browser.close()

if __name__ == "__main__":
    search = Search_Baidu()
    search.search("selenium")
    search.tear_down()

到此這篇關(guān)于Python使用Selenium自動進(jìn)行百度搜索的實(shí)現(xiàn)的文章就介紹到這了,更多相關(guān)Python Selenium自動百度搜索內(nèi)容請搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家！

您可能感興趣的文章:

詳解Python 使用 selenium 進(jìn)行自動化測試或者協(xié)助日常工作
Python利用Selenium實(shí)現(xiàn)網(wǎng)站自動簽到功能
Selenium+Python自動化腳本環(huán)境搭建的全過程
利用Python+Selenium破解春秋航空網(wǎng)滑塊驗(yàn)證碼的實(shí)戰(zhàn)過程
python Selenium等待元素出現(xiàn)的具體方法
Python中Selenium對Cookie的操作方法
python+opencv+selenium自動化登錄郵箱并解決滑動驗(yàn)證的問題
用Python selenium實(shí)現(xiàn)淘寶搶單機(jī)器人
教你用Python+selenium搭建自動化測試環(huán)境
Python selenium的這三種等待方式一定要會!
Python爬蟲實(shí)戰(zhàn)之用selenium爬取某旅游網(wǎng)站
教你如何使用Python selenium
python Web應(yīng)用程序測試selenium庫使用用法詳解

標(biāo)簽：盤錦上饒西寧湖北佳木斯宜昌潮州珠海

巨人網(wǎng)絡(luò)通訊聲明：本文標(biāo)題《Python使用Selenium自動進(jìn)行百度搜索的實(shí)現(xiàn)》，本文關(guān)鍵詞 Python,使用,Selenium,自動,；如發(fā)現(xiàn)本文內(nèi)容存在版權(quán)問題，煩請?zhí)峁┫嚓P(guān)信息告之我們，我們將及時(shí)溝通與處理。本站內(nèi)容系統(tǒng)采集于網(wǎng)絡(luò)，涉及言論、版權(quán)與本站無關(guān)。