當前位置:首頁 » 編程軟體 » zookeeper腳本

zookeeper腳本

發布時間: 2022-08-18 13:45:16

A. linux怎麼啟動zookeeper

使用shell腳本啟動zookeeper

步驟:

採用shell腳本啟動zookeeper,首先新建文件start.sh
寫入內容(rh1 rh2 rh3 分別是主機名。此處需要ssh):#!/bin/sh
echo 「start zkServer…」
for i in rh1 rh2 rh3
do
ssh $i 「/usr/local/zookeeper3.4/bin/zkServer.sh start」
done
寫好後保存,加上執行許可權:chmod u+x start.sh
運行:./start.sh看見啟動成功了,有輸出。但是輸入jps查看的時候,會發現沒有QuorumPeerMain 進程。說明沒有啟動成功。

分析原因

首先知道互動式shell和非互動式shell、登錄shell和非登錄shell是有區別的
在登錄shell里,環境信息需要讀取/etc/profile和~ /.bash_profile, ~/.bash_login, and ~/.profile按順序最先的一個,並執行其中的命令。除非被 —noprofile選項禁止了;在非登錄shell里,環境信息只讀取 /etc/bash.bashrc和~/.bashrc
手工執行是屬於登陸shell,腳本執行數據非登陸shell,而我的linux環境配置中只對/etc/profile進行了jdk1.6等環境的配
置,所以腳本執行/usr/local/zookeeper3.4/bin/zkServer.sh start 啟動zookeeper失敗了

解決方法

把profile的配置信息echo到.bashrc中 echo 『source /etc/profile』 >> ~/.bashrc
在/zookeeper/bin/zkEnv.sh的中開始位置添加 export JAVA_HOME=/usr/local/jdk1.6(就像hadoop中對hadoop-env.sh的配置一樣)

採用shell腳本啟動zookeeper,首先新建文件start.sh
寫入內容(rh1 rh2 rh3 分別是主機名。此處需要ssh):#!/bin/sh
echo 「start zkServer就可以了。
,

B. zookeeper啟動為什麼佔用8080埠,修改哪個配置文件可以改變埠

(1).刪除jetty。

(2)修改埠。

修改方法的方法有兩種,一種是在啟動腳本中增加 -Dzookeeper.admin.serverPort=你的埠號.一種是在zoo.cfg中增加admin.serverPort=沒有被佔用的埠號。

(3)停用這個服務,在啟動腳本中增加"-Dzookeeper.admin.enableServer=false"。

C. 怎樣在本地開啟zookeeper

使用shell腳本啟動zookeeper

步驟:

採用shell腳本啟動zookeeper,首先新建文件start.sh
寫入內容(rh1 rh2 rh3 分別是主機名。此處需要ssh):#!/bin/sh
echo 「start zkServer…」
for i in rh1 rh2 rh3
do
ssh $i 「/usr/local/zookeeper3.4/bin/zkServer.sh start」
done
寫好後保存,加上執行許可權:chmod u+x start.sh
運行:./start.sh看見啟動成功了,有輸出。但是輸入jps查看的時候,會發現沒有QuorumPeerMain 進程。說明沒有啟動成功。

分析原因

首先知道互動式shell和非互動式shell、登錄shell和非登錄shell是有區別的
在登錄shell里,環境信息需要讀取/etc/profile和~ /.bash_profile, ~/.bash_login, and ~/.profile按順序最先的一個,並執行其中的命令。除非被 —noprofile選項禁止了;在非登錄shell里,環境信息只讀取 /etc/bash.bashrc和~/.bashrc
手工執行是屬於登陸shell,腳本執行數據非登陸shell,而我的linux環境配置中只對/etc/profile進行了jdk1.6等環境的配
置,所以腳本執行/usr/local/zookeeper3.4/bin/zkServer.sh start 啟動zookeeper失敗了

解決方法

把profile的配置信息echo到.bashrc中 echo 『source /etc/profile』 >> ~/.bashrc
在/zookeeper/bin/zkEnv.sh的中開始位置添加 export JAVA_HOME=/usr/local/jdk1.6(就像hadoop中對hadoop-env.sh的配置一樣)

採用shell腳本啟動zookeeper,首先新建文件start.sh
寫入內容(rh1 rh2 rh3 分別是主機名。此處需要ssh):#!/bin/sh
echo 「start zkServer就可以了。

D. zookeeper怎麼用腳本啟動

使用shell腳本啟動zookeeper

步驟:

採用shell腳本啟動zookeeper,首先新建文件start.sh
寫入內容(rh1 rh2 rh3 分別是主機名。此處需要ssh):#!/bin/sh
echo 「start zkServer…」
for i in rh1 rh2 rh3
do
ssh $i 「/usr/local/zookeeper3.4/bin/zkServer.sh start」
done
寫好後保存,加上執行許可權:chmod u+x start.sh
運行:./start.sh看見啟動成功了,有輸出。但是輸入jps查看的時候,會發現沒有QuorumPeerMain 進程。說明沒有啟動成功。

分析原因

首先知道互動式shell和非互動式shell、登錄shell和非登錄shell是有區別的
在登錄shell里,環境信息需要讀取/etc/profile和~ /.bash_profile, ~/.bash_login, and ~/.profile按順序最先的一個,並執行其中的命令。除非被 —noprofile選項禁止了;在非登錄shell里,環境信息只讀取 /etc/bash.bashrc和~/.bashrc
手工執行是屬於登陸shell,腳本執行數據非登陸shell,而我的linux環境配置中只對/etc/profile進行了jdk1.6等環境的配
置,所以腳本執行/usr/local/zookeeper3.4/bin/zkServer.sh start 啟動zookeeper失敗了

解決方法

把profile的配置信息echo到.bashrc中 echo 『source /etc/profile』 >> ~/.bashrc
在/zookeeper/bin/zkEnv.sh的中開始位置添加 export JAVA_HOME=/usr/local/jdk1.6(就像hadoop中對hadoop-env.sh的配置一樣)

採用shell腳本啟動zookeeper,首先新建文件start.sh
寫入內容(rh1 rh2 rh3 分別是主機名。此處需要ssh):#!/bin/sh
echo 「start zkServer就可以了。

E. 如何利用pykafka遠程消費 zookeeper+kafka集群 python腳本

#從kafka消費
#consumer_area = topic_area.get_simple_consumer(auto_offset_reset=OffsetType.LATEST)

#從ZOOKEEPER消費
consumer_area = topic_area.get_balanced_consumer(
consumer_group=b'zs_download_04', # 自己命令
auto_offset_reset=OffsetType.LATEST,#在consumer_group存在的情況下,設置此變數,表示從最新的開始取
#auto_offset_reset=OffsetType.EARLIEST,
#reset_offset_on_start=True,
auto_commit_enable=True,
#auto_commit_interval_ms=1,
zookeeper_connect=ZK_LIST
)

F. 如何使用zookeeper實現程序重啟

Apache Zookeeper是我最近遇到的最酷的技術,我是在研究Solr Cloud功能的時候發現的。Solr的分布式計算讓我印象深刻。你只要開啟一個新的實例就能自動在Solr Cloud中找到。它會將自己分派到某個分片中,並確定出自己是一個Leader(源)還是一個副本。不一會兒,你就可以在你的那些伺服器上查詢到了。即便某些伺服器宕機了也可以繼續工作。非常動態、聰明、酷。

將運行多個應用程序作為一個邏輯程序並不是什麼新玩意。事實上,我在幾年前就已寫過類似的軟體。這種架構比較讓人迷惑,使用起來也費勁。為此Apache Zookeeper提供了一套工具用於管理這種軟體。

為什麼叫Zoo?「因為要協調的分布式系統是一個動物園」。

在本篇文章中,我將說明如何使用php安裝和集成Apache ZooKeeper。我們將通過service來協調各個獨立的PHP腳本,並讓它們同意某個成為Leader(所以稱作Leader選舉)。當Leader退出(或崩潰)時,worker可檢測到並再選出新的leader。

ZooKeeper是一個中性化的Service,用於管理配置信息、命名、提供分布式同步,還能組合Service。所有這些種類的Service都會在分布式應用程序中使用到。每次編寫這些Service都會涉及大量的修bug和競爭情況。正因為這種編寫這些Service有一定難度,所以通常都會忽視它們,這就使得在應用程序有變化時變得難以管理應用程序。即使處理得當,實現這些服務的不同方法也會使得部署應用程序變得難以管理。

雖然ZooKeeper是一個Java應用程序,但C也可以使用。這里就有個PHP的擴展,由Andrei Zmievski在2009創建並維護。你可以從PECL中下載,或從GitHub中直接獲取PHP-ZooKeeper。
要使用該擴展你首先要安裝ZooKeeper。可以從官方網站下載。
$ tar zxfv zookeeper-3.4.5.tar.gz
$ cd zookeeper-3.4.5/src/c
$ ./configure --prefix=/usr/
$ make
$ sudo make install

這樣就會安裝ZooKeeper的庫和頭文件。現在准備編譯PHP擴展。

$ cd$ git clone https://github.com/andreiz/php-zookeeper.git
$ cd php-zookeeper
$ phpize
$ ./configure
$ make
$ sudo make install

將「zookeeper.so」添加到PHP配置中。

$ vim /etc/php5/cli/conf.d/20-zookeeper.ini

因為我不需要運行在web服務環境下,所以這里我只編輯了CLI的配置。將下面的行復制到ini文件中。

extension=zookeeper.so

使用如下命令來確定擴展是否已起作用。

$ php -m | grep zookeeper
zookeeper

現在是時候運行ZooKeeper了。目前唯一還沒有做的是配置。創建一個用於存放所有service數據的目錄。
$ mkdir /home/you-account/zoo
$ cd$ cd zookeeper-3.4.5/
$ cp conf/zoo_sample.cfg conf/zoo.cfg
$ vim conf/zoo.cfg

找到名為「dataDir」的屬性,將其指向「/home/you-account/zoo」目錄。

$ bin/zkServer.sh start
$ bin/zkCli.sh -server 127.0.0.1:2181[zk: 127.0.0.1:2181(CONNECTED) 14] create /test 1
Created /test[zk: 127.0.0.1:2181(CONNECTED) 19] ls /[test, zookeeper]

此時,你已成功連到了ZooKeeper,並創建了一個名為「/test」的znode(稍後我們會用到)。ZooKeeper以樹形結構保存數據。這很類似於文件系統,但「文件夾」(譯者註:這里指非最底層的節點)又和文件很像。znode是ZooKeeper保存的實體。Node(節點)的說法很容易被混淆,所以為了避免混淆這里使用了znode。

因為我們稍後還會使用,所以這里我們讓客戶端保持連接狀態。開啟一個新窗口,並創建一個zookeeperdemo1.php文件。

<?php
class ZookeeperDemo extends Zookeeper {

public function watcher( $i, $type, $key ) {
echo "Insider Watcher\n";

// Watcher gets consumed so we need to set a new one
$this->get( '/test', array($this, 'watcher' ) );
}
}
$zoo = new ZookeeperDemo('127.0.0.1:2181');$zoo->get( '/test', array($zoo, 'watcher' ) );
while( true ) {
echo '.';
sleep(2);}

現在運行該腳本。

$ php zookeeperdemo1.php

此處應該會每隔2秒產生一個點。現在切換到ZooKeeper客戶端,並更新「/test」值。

[zk: 127.0.0.1:2181(CONNECTED) 20] set /test foo

這樣就會靜默觸發PHP腳本中的「Insider Watcher」消息。怎麼會這樣的?

ZooKeeper提供了可以綁定在znode的監視器。如果監視器發現znode發生變化,該service會立即通知所有相關的客戶端。這就是PHP腳本如何知道變化的。Zookeeper::get方法的第二個參數是回調函數。當觸發事件時,監視器會被消費掉,所以我們需要在回調函數中再次設置監視器。

現在你可以准備創建分布式應用程序了。其中的挑戰是讓這些獨立的程序決定哪個(是leader)協調它們的工作,以及哪些(是worker)需要執行。這個處理過程叫做leader選舉,在ZooKeeper Recipes and Solutions你能看到相關的實現方法。

這里簡單來說就是,每個處理(或伺服器)緊盯著相鄰的那個處理(或伺服器)。如果一個已被監視的處理(也即Leader)退出或者崩潰了,監視程序就會查找其相鄰(此時最老)的那個處理作為Leader。

在真實的應用程序中,leader會給worker分配任務、監控進程和保存結果。這里為了簡化,我跳過了這些部分。
創建一個新的PHP文件,命名為worker.php。

<?php
class Worker extends Zookeeper {

const CONTAINER = '/cluster';

protected $acl = array(
array(
'perms' => Zookeeper::PERM_ALL,
'scheme' => 'world',
'id' => 'anyone' ) );
private $isLeader = false;

private $znode;

public function __construct( $host = '', $watcher_cb = null, $recv_timeout = 10000 ) {
parent::__construct( $host, $watcher_cb, $recv_timeout );
}

public function register() {
if( ! $this->exists( self::CONTAINER ) ) {
$this->create( self::CONTAINER, null, $this->acl );
}

$this->znode = $this->create( self::CONTAINER . '/w-',
null,
$this->acl,
Zookeeper::EPHEMERAL | Zookeeper::SEQUENCE );

$this->znode = str_replace( self::CONTAINER .'/', '', $this->znode );

printf( "I'm registred as: %s\n", $this->znode );

$watching = $this->watchPrevious();

if( $watching == $this->znode ) {
printf( "Nobody here, I'm the leader\n" );
$this->setLeader( true ); }
else {
printf( "I'm watching %s\n", $watching );
}
}

public function watchPrevious() {
$workers = $this->getChildren( self::CONTAINER );
sort( $workers );
$size = sizeof( $workers );
for( $i = 0 ; $i < $size ; $i++ ) {
if( $this->znode == $workers[ $i ] ) {
if( $i > 0 ) {
$this->get( self::CONTAINER . '/' . $workers[ $i - 1 ], array( $this, 'watchNode' ) );
return $workers[ $i - 1 ];
}

return $workers[ $i ];
}
}

throw new Exception( sprintf( "Something went very wrong! I can't find myself: %s/%s",
self::CONTAINER,
$this->znode ) );
}

public function watchNode( $i, $type, $name ) {
$watching = $this->watchPrevious();
if( $watching == $this->znode ) {
printf( "I'm the new leader!\n" );
$this->setLeader( true );
}
else {
printf( "Now I'm watching %s\n", $watching ); }
}

public function isLeader() {
return $this->isLeader;
}

public function setLeader($flag) {
$this->isLeader = $flag;
}

public function run() {
$this->register();

while( true ) {
if( $this->isLeader() ) {
$this->doLeaderJob();
}
else {
$this->doWorkerJob();
}

sleep( 2 );
}
}

public function doLeaderJob() {
echo "Leading\n";
}

public function doWorkerJob() {
echo "Working\n";
}
}
$worker = new Worker( '127.0.0.1:2181' );$worker->run();

打開至少3個終端,在每個終端中運行以下腳本:

# term1
$ php worker.php
I'm registred as: w-0000000001Nobody here, I'm the leader
Leading
# term2
$ php worker.php
I'm registred as: w-0000000002I'm watching w-0000000001
Working
# term3
$ php worker.php
I'm registred as: w-0000000003I'm watching w-0000000002
Working

現在模擬Leader崩潰的情形。使用Ctrl+c或其他方法退出第一個腳本。剛開始不會有任何變化,worker可以繼續工作。後來,ZooKeeper會發現超時,並選舉出新的leader。

雖然這些腳本很容易理解,但是還是有必要對已使用的Zookeeper標志作注釋。
$this->znode = $this->create( self::CONTAINER . '/w-', null, $this->acl, Zookeeper::EPHEMERAL | Zookeeper::SEQUENCE );

每個znode都是EPHEMERAL和SEQUENCE的。

EPHEMRAL代表當客戶端失去連接時移除該znode。這就是為何PHP腳本會知道超時。SEQUENCE代表在每個znode名稱後添加順序標識。我們通過這些唯一標識來標記worker。

在PHP部分還有些問題要注意。該擴展目前還是beta版,如果使用不當很容易發生segmentation fault。比如,不能傳入普通函數作為回調函數,傳入的必須為方法。我希望更多PHP社區的同仁可以看到Apache ZooKeeper的好,同時該擴展也會獲得更多的支持。

ZooKeeper是一個強大的軟體,擁有簡潔和簡單的API。由於文檔和示例都做的很好,任何人都可以很容易的編寫分布式軟體。讓我們開始吧,這會很有趣的。

熱點內容
銀行更改密碼紅色預警是什麼意思 發布:2025-02-07 02:54:22 瀏覽:551
androiddomain 發布:2025-02-07 02:46:04 瀏覽:843
埠掃描源碼 發布:2025-02-07 02:31:01 瀏覽:470
androidurl獲取圖片 發布:2025-02-07 02:22:11 瀏覽:482
調用上傳 發布:2025-02-07 02:19:53 瀏覽:84
aix編譯安裝 發布:2025-02-07 02:19:52 瀏覽:906
android界面設計尺寸 發布:2025-02-07 02:16:25 瀏覽:898
zenly安卓為什麼會一直閃 發布:2025-02-07 02:12:02 瀏覽:358
為什麼安卓手機界面總出廣告 發布:2025-02-07 02:10:33 瀏覽:244
plc數據塊怎麼編譯 發布:2025-02-07 02:09:44 瀏覽:98