當前位置:首頁 » 編程語言 » bs4forpython3

bs4forpython3

發布時間: 2022-07-26 04:30:46

① from bs4 import BeautifulSoup在python3用什麼替代了

不變,仍用 from bs4 import BeautifulSoup
如果沒有安裝bs4,需要在命令行工具中使用pip命令進行安裝,pip install bs4

② python爬蟲時,bs4無法讀取網頁標簽中的文本

稍微說一下背景,當時我想研究蛋白質與小分子的復合物在空間三維結構上的一些規律,首先得有數據啊,數據從哪裡來?就是從一個涵蓋所有已經解析三維結構的蛋白質-小分子復合物的資料庫裡面下載。這時候,手動一個個去下顯然是不可取的,我們需要寫個腳本,能從特定的網站選擇性得批量下載需要的信息。python是不錯的選擇。

import urllib #python中用於獲取網站的模塊
import urllib2, cookielib

有些網站訪問時需要cookie的,python處理cookie代碼如下:
cj = ***.cookiejar ( )
opener = ***.build_opener( ***.httpcookieprocessor(cj) )
***.install_opener (opener)

通常我們需要在網站中搜索得到我們需要的信息,這里分為二種情況:

1. 第一種,直接改變網址就可以得到你想要搜索的頁面:

def GetWebPage( x ): #我們定義一個獲取頁面的函數,x 是用於呈遞你在頁面中搜索的內容的參數
url = 'http://xxxxx/***.cgi?&' + 『你想要搜索的參數』 # 結合自己頁面情況適當修改
page = ***.urlopen(url)
pageContent = ***.read( )
return pageContent #返回的是HTML格式的頁面信息

2.第二種,你需要用到post方法,將你搜索的內容放在postdata裡面,然後返回你需要的頁面

def GetWebPage( x ): #我們定義一個獲取頁面的函數,x 是用於呈遞你在頁面中搜索的內容的參數
url = 'http://xxxxx/xxx' #這個網址是你進入搜索界面的網址
postData = ***.urlencode( { 各種『post』參數輸入 } ) #這裡面的post參數輸入需要自己去查
req= ***.request (url, postData)
pageContent = ***.urlopen (req). read( )
return pageContent #返回的是HTML格式的頁面信息

在獲取了我們需要的網頁信息之後,我們需要從獲得的網頁中進一步獲取我們需要的信息,這里我推薦使用 BeautifulSoup 這個模塊, python自帶的沒有,可以自行網路谷歌下載安裝。 BeautifulSoup 翻譯就是『美味的湯』,你需要做的是從一鍋湯裡面找到你喜歡吃的東西。

import re # 正則表達式,用於匹配字元
from bs4 import BeautifulSoup # 導入BeautifulSoup 模塊

soup = BeautifulSoup(pageContent) #pageContent就是上面我們搜索得到的頁面

soup就是 HTML 中所有的標簽(tag)BeautifulSoup處理格式化後的字元串,一個標準的tag形式為:

hwkobe24

通過一些過濾方法,我們可以從soup中獲取我們需要的信息:

(1) find_all ( name , attrs , recursive , text , **kwargs)
這裡面,我們通過添加對標簽的約束來獲取需要的標簽列表, 比如 ***.find_all ('p') 就是尋找名字為『p』的 標簽,而***.find_all (class = "tittle") 就是找到所有class屬性為"tittle" 的標簽,以及***.find_all ( class = ***.compile('lass')) 表示 class屬性中包含『lass』的所有標簽,這里用到了正則表達式(可以自己學習一下,非常有用滴)

當我們獲取了所有想要標簽的列表之後,遍歷這個列表,再獲取標簽中你需要的內容,通常我們需要標簽中的文字部分,也就是網頁中顯示出來的文字,代碼如下:

tagList = ***.find_all (class="tittle") #如果標簽比較復雜,可以用多個過濾條件使過濾更加嚴格

for tag in tagList:
print ***.text
***.write ( str(***.text) ) #將這些信息寫入本地文件中以後使用

(2)find( name , attrs , recursive , text , **kwargs )

它與 find_all( ) 方法唯一的區別是 find_all() 方法的返回結果是值包含一個元素的列表,而 find() 方法直接返回結果

(3)find_parents( ) find_parent( )

find_all() 和 find() 只搜索當前節點的所有子節點,孫子節點等. find_parents() 和 find_parent() 用來搜索當前節點的父輩節點,搜索方法與普通tag的搜索方法相同,搜索文檔搜索文檔包含的內容

(4)find_next_siblings() find_next_sibling()

這2個方法通過 .next_siblings 屬性對當 tag 的所有後面解析的兄弟 tag 節點進代, find_next_siblings() 方法返回所有符合條件的後面的兄弟節點,find_next_sibling() 只返回符合條件的後面的第一個tag節點

(5)find_previous_siblings() find_previous_sibling()

這2個方法通過 .previous_siblings 屬性對當前 tag 的前面解析的兄弟 tag 節點進行迭代, find_previous_siblings()方法返回所有符合條件的前面的兄弟節點, find_previous_sibling() 方法返回第一個符合條件的前面的兄弟節點

(6)find_all_next() find_next()

這2個方法通過 .next_elements 屬性對當前 tag 的之後的 tag 和字元串進行迭代, find_all_next() 方法返回所有符合條件的節點, find_next() 方法返回第一個符合條件的節點

(7)find_all_previous() 和 find_previous()

這2個方法通過 .previous_elements 屬性對當前節點前面的 tag 和字元串進行迭代, find_all_previous() 方法返回所有符合條件的節點, find_previous()方法返回第一個符合條件的節點

具體的使用方法還有很多,用到這里你應該可以解決大部分問題了,如果要更深入了解可以參考官方的使用說明哈!

③ python3.5怎麼安裝beautifulsoup4

For python2.x:
sudo pip install BeautifulSoup4

For python3:
sudo apt-get install python3-bs4

④ Python2 和 Python3下安裝BeautifulSoup4

Windows鍵+R 輸入cmd

⑤ ubuntu16.04python怎麼添加bs4包

1、Ctrl+Alt+T 打開命令終端,輸入: vim –version |grep Python 查看vim是否支持python我這個vim只支持python3,不支持python。
2、安裝py2包,在命令終端下輸入: sudo apt-get install vim-nox-py2。
3、可以再次用vim –version|grep python 查看此時vim是否支持python,若支持到此為止,若不支持,請執行第四步。
4、在命令終端輸入:sudo update-alternatives –config vim
我這里是第三項屬於python,第二項屬於python3,故想打開哪一項支持就輸入它的編號就可以了(0,1,2,3)。

⑥ Python3.4怎麼安裝pip,lxml,bs4和requests求大神解答!!!Window

先下一個pip,再用命令指示符進入該目錄,看到一個setup.py的文件 輸入Python34 install setup.py 就OK👌😁

⑦ 為什麼Python安裝了bs4之後還是不能使用,用了多種方法安裝都不行。求大神指點

I guess the reason is:
You use the python3, but the mole is installed at python2.
I suggest you to use virtualenv to manage your projects.

⑧ python如何利用requests和bs4爬取圖片

目標網站網址呢?網址發出來我看一下

每個網站的HTML結構不一樣,解析代碼就不一樣,要針對不同的網站編寫不同的代碼

編寫爬蟲代碼前還要評估目標網站是否需要登錄,數據是否有加密等諸多問題

⑨ python3如何安裝bs4

在python官網找到beautifulsoup模塊的下載頁面,點擊"downloap"將該模塊的安裝包下載到本地。
相關推薦:《Python教程》
將該安裝包解壓,然後在打開cmd,並通過cmd進入到該安裝包解壓後的文件夾目錄下。
在該文件目錄下輸入"python install setup.py",進行beautifulsoup4模塊的安裝,當安裝完成後會看到有"Finished"字樣。
安裝完成後,在cmd中運行Python,然後輸入"from bs4 import BeautifulSoup" 導入該模塊,如果成功安裝的話將沒有任何列印信息,否則會有相應的錯誤信息列印。
直接通過pip安裝
打開cmd,然後在cmd中輸入命令「pip install beautifulsoup4」,就可以成功安裝beautifulsoup4,不過該版本不一定會是4.4.1,版本會是當前python庫中的最新版本。

熱點內容
怎麼更改蘋果密碼怎麼辦 發布:2025-01-26 17:15:55 瀏覽:272
char在c語言中是什麼意思 發布:2025-01-26 16:54:13 瀏覽:68
sqllabview 發布:2025-01-26 16:53:11 瀏覽:647
如何成為安卓用戶 發布:2025-01-26 16:41:23 瀏覽:966
宋祖兒小學生編程 發布:2025-01-26 16:39:35 瀏覽:632
殺手3重慶如何得到密碼 發布:2025-01-26 16:27:10 瀏覽:803
小米5傳文件夾 發布:2025-01-26 16:10:58 瀏覽:539
哪裡可以看無線密碼 發布:2025-01-26 16:04:41 瀏覽:264
代碼分析編譯器 發布:2025-01-26 15:56:34 瀏覽:678
cf彈道腳本 發布:2025-01-26 15:36:40 瀏覽:57