chinese直男口爆体育生外卖, 99久久er热在这里只有精品99, 又色又爽又黄18禁美女裸身无遮挡, gogogo高清免费观看日本电视,私密按摩师高清版在线,人妻视频毛茸茸,91论坛 兴趣闲谈,欧美 亚洲 精品 8区,国产精品久久久久精品免费

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

居然有比requests更強大Python庫出現(xiàn)

阿銘linux ? 來源:努力編程小伙 ? 作者:努力編程小伙 ? 2021-07-27 10:43 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

最近公司 Python 后端項目進行重構(gòu),整個后端邏輯基本都變更為采用“異步”協(xié)程的方式實現(xiàn)。看著滿屏幕經(jīng)過 async await(協(xié)程在 Python 中的實現(xiàn))修飾的代碼,我頓時感到一臉懵逼,不知所措。

雖然之前有了解過“協(xié)程”是什么東西,但并沒有深入探索,于是正好借著這次機會可以好好學(xué)習(xí)一下。

什么是協(xié)程?

簡單來說,協(xié)程是一種基于線程之上,但又比線程更加輕量級的存在。對于系統(tǒng)內(nèi)核來說,協(xié)程具有不可見的特性,所以這種由 程序員自己寫程序來管理 的輕量級線程又常被稱作 “用戶空間線程”。

協(xié)程比多線程好在哪呢?

1. 線程的控制權(quán)在操作系統(tǒng)手中,而 協(xié)程的控制權(quán)完全掌握在用戶自己手中,因此利用協(xié)程可以減少程序運行時的上下文切換,有效提高程序運行效率。

2. 建立線程時,系統(tǒng)默認(rèn)分配給線程的 棧 大小是 1 M,而協(xié)程更輕量,接近 1 K 。因此可以在相同的內(nèi)存中開啟更多的協(xié)程。

3. 由于協(xié)程的本質(zhì)不是多線程而是單線程,所以不需要多線程的鎖機制。因為只有一個線程,也不存在同時寫變量而引起的沖突。在協(xié)程中控制共享資源不需要加鎖,只需要判斷狀態(tài)即可。所以協(xié)程的執(zhí)行效率比多線程高很多,同時也有效避免了多線程中的競爭關(guān)系。

協(xié)程的適用 & 不適用場景

適用場景:協(xié)程適用于被阻塞的,且需要大量并發(fā)的場景。

不適用場景:協(xié)程不適用于存在大量計算的場景(因為協(xié)程的本質(zhì)是單線程來回切換),如果遇到這種情況,還是應(yīng)該使用其他手段去解決。

初探異步 http 框架 httpx

至此我們對 “協(xié)程” 應(yīng)該有了個大概的了解,但故事說到這里,相信有朋友還是滿臉疑問:“協(xié)程” 對于接口測試有什么幫助呢?不要著急,答案就在下面。

相信用過 Python 做接口測試的朋友都對 requests 庫不陌生。requests 中實現(xiàn)的 http 請求是同步請求,但其實基于 http 請求 IO 阻塞的特性,非常適合用協(xié)程來實現(xiàn) “異步” http 請求從而提升測試效率。

相信早就有人注意到了這點,于是在 Github 經(jīng)過了一番探索后,果不其然,最終尋找到了支持協(xié)程 “異步” 調(diào)用 http 的開源庫: httpx

什么是 httpx

httpx 是一個幾乎繼承了所有 requests 的特性并且支持 “異步” http 請求的開源庫。簡單來說,可以認(rèn)為 httpx 是強化版 requests。

下面大家可以跟著我一起見識一下 httpx 的強大

安裝

httpx 的安裝非常簡單,在 Python 3.6 以上的環(huán)境執(zhí)行

pip install httpx

最佳實踐

俗話說得好,效率決定成敗。我分別使用了 httpx 異步 和 同步 的方式對批量 http 請求進行了耗時比較,來一起看看結(jié)果吧~

首先來看看同步 http 請求的耗時表現(xiàn):

import asyncioimport httpximport threadingimport time

def sync_main(url, sign): response = httpx.get(url).status_code print(f‘sync_main: {threading.current_thread()}: {sign}: {response}’)

sync_start = time.time()[sync_main(url=‘http://www.baidu.com’, sign=i) for i in range(200)]sync_end = time.time()print(sync_end - sync_start)

代碼比較簡單,可以看到在 sync_main 中則實現(xiàn)了同步 http 訪問百度 200 次。

運行后輸出如下(截取了部分關(guān)鍵輸出。。。):

sync_main: 《_MainThread(MainThread, started 4471512512)》: 192: 200sync_main: 《_MainThread(MainThread, started 4471512512)》: 193: 200sync_main: 《_MainThread(MainThread, started 4471512512)》: 194: 200sync_main: 《_MainThread(MainThread, started 4471512512)》: 195: 200sync_main: 《_MainThread(MainThread, started 4471512512)》: 196: 200sync_main: 《_MainThread(MainThread, started 4471512512)》: 197: 200sync_main: 《_MainThread(MainThread, started 4471512512)》: 198: 200sync_main: 《_MainThread(MainThread, started 4471512512)》: 199: 20016.56578803062439

可以看到在上面的輸出中, 主線程沒有進行切換(因為本來就是單線程啊喂?。┱埱蟀凑枕樞驁?zhí)行(因為是同步請求)。

程序運行共耗時 16.6 秒

下面我們試試 “異步” http 請求:

import asyncioimport httpximport threadingimport time

client = httpx.AsyncClient()

async def async_main(url, sign): response = await client.get(url) status_code = response.status_code print(f‘a(chǎn)sync_main: {threading.current_thread()}: {sign}:{status_code}’)

loop = asyncio.get_event_loop()tasks = [async_main(url=‘http://www.baidu.com’, sign=i) for i in range(200)]async_start = time.time()loop.run_until_complete(asyncio.wait(tasks))async_end = time.time()loop.close()print(async_end - async_start)

上述代碼在 async_main 中用 async await 關(guān)鍵字實現(xiàn)了“異步” http,通過 asyncio ( 異步 io 庫請求百度首頁 200 次并打印出了耗時。

運行代碼后可以看到如下輸出(截取了部分關(guān)鍵輸出。。。)

async_main: 《_MainThread(MainThread, started 4471512512)》: 56: 200async_main: 《_MainThread(MainThread, started 4471512512)》: 99: 200async_main: 《_MainThread(MainThread, started 4471512512)》: 67: 200async_main: 《_MainThread(MainThread, started 4471512512)》: 93: 200async_main: 《_MainThread(MainThread, started 4471512512)》: 125: 200async_main: 《_MainThread(MainThread, started 4471512512)》: 193: 200async_main: 《_MainThread(MainThread, started 4471512512)》: 100: 2004.518340110778809

可以看到順序雖然是亂的(56,99,67.。。) (這是因為程序在協(xié)程間不停切換) 但是主線程并沒有切換 (協(xié)程本質(zhì)還是單線程 )。

程序共耗時 4.5 秒

比起同步請求耗時的 16.6 秒 縮短了接近 73 %!

俗話說得好,一步快,步步快。 在耗時方面,“異步” http 確實比同步 http 快了很多。當(dāng)然,“協(xié)程” 不僅僅能在請求效率方面賦能接口測試, 掌握 “協(xié)程”后,相信小伙伴們的技術(shù)水平也能提升一個臺階,從而設(shè)計出更優(yōu)秀的測試框架。

編輯:jq

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • python
    +關(guān)注

    關(guān)注

    57

    文章

    4858

    瀏覽量

    89588

原文標(biāo)題:比 requests 更強大 Python 庫,讓你的爬蟲效率提高一倍

文章出處:【微信號:aming_linux,微信公眾號:阿銘linux】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。

收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關(guān)推薦
    熱點推薦

    Python調(diào)用API教程

    兩個不同系統(tǒng)之間的信息交互。在這篇文章中,我們將詳細介紹Python調(diào)用API的方法和技巧。 一、用Requests發(fā)送HTTP請求 使用Python調(diào)用API的第一步是發(fā)送HTTP
    的頭像 發(fā)表于 11-03 09:15 ?328次閱讀

    目前最新版的userapps如何安裝D1s環(huán)境?

    recent call last): File \"/usr/lib/python3/dist-packages/requests/adapters.py\", line 439
    發(fā)表于 09-25 07:33

    termux如何搭建python游戲

    效率提升 為提升編碼體驗,需配置終端工具與遠程連接: 1. Shell與主題配置 - 切換至zsh:功能更強大的命令行解釋器,支持插件擴展: ```bash sh -c \"
    發(fā)表于 08-29 07:06

    C++ 與 Python:樹莓派上哪種語言更優(yōu)?

    Python是樹莓派上的首選編程語言,我們的大部分教程都使用它。然而,C++在物聯(lián)網(wǎng)項目中同樣廣受歡迎且功能強大。那么,在樹莓派項目中選擇哪種語言更合適呢?Python因其簡潔性、豐富的
    的頭像 發(fā)表于 07-24 15:32 ?645次閱讀
    C++ 與 <b class='flag-5'>Python</b>:樹莓派上哪種語言更優(yōu)?

    linux虛擬環(huán)境中調(diào)用Linux 版matlab編譯的python時出錯

    matlab代碼編譯為CAO_pythonpython,其中cp_Main_python.m為入口文件,編譯后生成的文件有mccExcludedFiles.log、setup.py
    發(fā)表于 07-18 10:40

    python入門圣經(jīng)-高清電子書(建議下載)

    和Pygal 等強大Python 和工具介紹,以及列表、字典、if 語句、類、文件與異常、代碼測試等內(nèi)容; 第二部分將理論付諸實踐,講解如何開發(fā)三個項目,包括簡單的Python
    發(fā)表于 04-10 16:53

    ?如何在虛擬環(huán)境中使用 Python,提升你的開發(fā)體驗~

    。RaspberryPiOS預(yù)裝了Python3。干擾系統(tǒng)Python的安裝可能會給你的操作系統(tǒng)帶來問題。安裝第三方Python時,請務(wù)必使用正確的包管理工具。在Lin
    的頭像 發(fā)表于 03-25 09:34 ?631次閱讀
    ?如何在虛擬環(huán)境中使用 <b class='flag-5'>Python</b>,提升你的開發(fā)體驗~

    Python在嵌入式系統(tǒng)中的應(yīng)用場景

    你想把你的職業(yè)生涯提升到一個新的水平?Python在嵌入式系統(tǒng)中正在成為一股不可缺少的新力量。盡管傳統(tǒng)上嵌入式開發(fā)更多地依賴于C和C++語言,Python的優(yōu)勢在于其簡潔的語法、豐富的和快速的開發(fā)周期,這使得它在某些嵌入式場景
    的頭像 發(fā)表于 03-19 14:10 ?1197次閱讀

    Python Connector for InterBase連接解決方案

    適用于 InterBase 的 Python 連接器 Python Connector for InterBase 是一種可靠的連接解決方案,用于從 Python 應(yīng)用程序訪問 InterBase
    的頭像 發(fā)表于 01-22 14:34 ?713次閱讀

    使用Python實現(xiàn)xgboost教程

    裝: bash復(fù)制代碼conda install -c conda-forge xgboost 2. 導(dǎo)入必要的 在你的Python腳本或Jupyter Notebook中,導(dǎo)入必要的
    的頭像 發(fā)表于 01-19 11:21 ?2224次閱讀

    適用于MySQL和MariaDB的Python連接器:可靠的MySQL數(shù)據(jù)連接器和數(shù)據(jù)

    和 MariaDB 數(shù)據(jù)服務(wù)器以及托管數(shù)據(jù)服務(wù),以對存儲的數(shù)據(jù)執(zhí)行創(chuàng)建、讀取、更新和刪除操作。該解決方案完全實現(xiàn)了 Python DB API 2.0 規(guī)范,并作為 Windows、macOS
    的頭像 發(fā)表于 01-17 12:18 ?845次閱讀
    適用于MySQL和MariaDB的<b class='flag-5'>Python</b>連接器:可靠的MySQL數(shù)據(jù)連接器和數(shù)據(jù)<b class='flag-5'>庫</b>

    適用于Oracle的Python連接器:可訪問托管以及非托管的數(shù)據(jù)

    適用于 Oracle 的 Python 連接器 適用于 Oracle 的 Python 連接器是一種可靠的連接解決方案,用于從 Python 應(yīng)用程序訪問 Oracle 數(shù)據(jù)服務(wù)器和
    的頭像 發(fā)表于 01-14 10:30 ?739次閱讀

    Flexus 云服務(wù)器 X:Python 安裝的極致便捷之旅

    前言 ????????Python 作為一種高級編程語言,因其簡潔易讀的語法和強大支持,在數(shù)據(jù)科學(xué)、人工智能、Web 開發(fā)等領(lǐng)域得到了廣泛應(yīng)用。然而,不同平臺上的安裝過程可能會有所不同,尤其是在
    的頭像 發(fā)表于 01-07 17:00 ?547次閱讀
    Flexus 云服務(wù)器 X:<b class='flag-5'>Python</b> 安裝的極致便捷之旅

    華為云 Flexus X 實例下的場景體驗——小企業(yè)使用 Python 語言——超迅速搭建簡單公網(wǎng) API 接口服務(wù)

    與 flask_cors 添加安全組 公網(wǎng)訪問測試 總結(jié) ? 環(huán)境說明 這里我重新重置一下鏡像,使得大家的環(huán)境肯定都是一樣的,免得出現(xiàn)不統(tǒng)一的情況。
    的頭像 發(fā)表于 12-27 13:46 ?859次閱讀
    華為云 Flexus X 實例下的場景體驗——小企業(yè)使用 <b class='flag-5'>Python</b> 語言——超迅速搭建簡單公網(wǎng) API 接口服務(wù)

    數(shù)據(jù)事件觸發(fā)的設(shè)置和應(yīng)用

    數(shù)據(jù)無論對于生產(chǎn)管理還是很多的實際應(yīng)用都非常重要。小編這次聊一下數(shù)據(jù)事件觸發(fā)的應(yīng)用。示例使用了postgresql和Python。
    的頭像 發(fā)表于 12-13 15:14 ?1020次閱讀