php數據處理
『壹』 php處理大量數據時,運行到一定時間就中斷了,請問如何解決
php處理數據時會有一個等待時間,就是所說的超時時間,而且如果使用mysql的話,它也有一個超時時間,運行一串代碼時間如果超過配置文件的時間,會被中斷不運行。第一種你可以修改php配置文件timeout的運行時間,第二你可以分批處理大量數據,注意是分批處理,就OK了。
『貳』 如何在php中處理protocol buffers數據
步驟如下:
第一步,安裝Google的protoc編譯器,這個工具可以把proto文件中定義的Message轉換為各種編程語言中的類。下載release版本直接編譯純敏安裝。
第二步,安裝protoc的PHP plugin,需要使用composer安裝,這個插件可以將proto文件轉換到PHP文件,在PHP應用中引用後,可以將二進制格式的Protocol Buffers數據轉換為PHP的對象。
第三步,安裝php-protocolbuffers,這是一個PHP擴展,在第二步中已經完成了proto文件到PHP文件的轉換,但是對PHP對象的各種操作還需要這個擴展中的API方法。
第四步,藉助上面提到的擴展的各種API方法,可以簡單地get出自己需要的欄位嘩野完亂褲喊成後續工作
require "....../kingso.proto.php"
$ks_result = KSResult::parseFromString($kingso_res);
$ks_result->get('xxx_name');
『叄』 php 處理上百萬條的資料庫如何提高處理查詢速度
1.對查詢進行優化,應盡量避免全表掃描,首先應考慮在 where 及 order by 涉及的列上建立索引。
2.應盡量避免在 where 子句中對欄位進行 null 值判斷,否則將導致引擎放棄使用索引而進行全表掃描,如:
select id from t where num is null
可以在num上設置默認值0,確保表中num列沒有null值,然後這樣查詢:
select id from t where num=0
3.應盡量避免在 where 子句中使用!=或<>操作符,否則將引擎放棄使用索引而進行全表掃描。
4.應盡量避免在 where 子句中使用 or 來連接條件,否則將導致引擎放棄使用索引而進行全表掃描,如:
select id from t where num=10 or num=20
可以這樣查詢:
select id from t where num=10
union all
select id from t where num=20
5.in 和 not in 也要慎用,否則會導致全表掃描,如:
select id from t where num in(1,2,3)
對於連續的數值,能用 between 就不要用 in 了:
select id from t where num between 1 and 3
6.下面的查詢也將導致全表掃描:
select id from t where name like '%abc%'
若要提高效率,可以考慮全文檢索。
7.如果在 where 子句中使用參數,也會導致全表掃描。因為SQL只有在運行時才會解析局部變數,但優化程序不能將訪問計劃的選擇推遲到運行時;它必須在編譯時進行選擇。然而,如果在編譯時建立訪問計劃,變數的值還是未知的,因而無法作為索引選擇的輸入項。如下面語句將進行全表掃描:
select id from t where num=@num
可以改為強制查詢使用索引:
select id from t with(index(索引名)) where num=@num
8.應盡量避免在 where 子句中對欄位進行表達式操作,這將導致引擎放棄使用索引而進行全表掃描。如:
select id from t where num/2=100
應改為:
select id from t where num=100*2
9.應盡量避免在where子句中對欄位進行函數操作,這將導致引擎放棄使用索引而進行全表掃描。如:
select id from t where substring(name,1,3)='abc'--name以abc開頭的id
select id from t where datediff(day,createdate,'2005-11-30')=0--『2005-11-30'生成的id
應改為:
select id from t where name like 'abc%'
select id from t where createdate>='2005-11-30' and createdate<'2005-12-1'
10.不要在 where 子句中的「=」左邊進行函數、算術運算或其他表達式運算,否則系統將可能無法正確使用索引。
11.在使用索引欄位作為條件時,如果該索引是復合索引,那麼必須使用到該索引中的第一個欄位作為條件時才能保證系統使用該索引,否則該索引將不會被使用,並且應盡可能的讓欄位順序與索引順序相一致。
12.不要寫一些沒有意義的查詢,如需要生成一個空表結構:
select col1,col2 into #t from t where 1=0
這類代碼不會返回任何結果集,但是會消耗系統資源的,應改成這樣:
create table #t(...)
13.很多時候用 exists 代替 in 是一個好的選擇:
select num from a where num in(select num from b)
用下面的語句替換:
select num from a where exists(select 1 from b where num=a.num)
14.並不是所有索引對查詢都有效,SQL是根據表中數據來進行查詢優化的,當索引列有大量數據重復時,SQL查詢可能不會去利用索引,如一表中有欄位sex,male、female幾乎各一半,那麼即使在sex上建了索引也對查詢效率起不了作用。
15.索引並不是越多越好,索引固然可以提高相應的 select 的效率,但同時也降低了 insert 及 update 的效率,因為 insert 或 update 時有可能會重建索引,所以怎樣建索引需要慎重考慮,視具體情況而定。一個表的索引數最好不要超過6個,若太多則應考慮一些不常使用到的列上建的索引是否有必要。
16.應盡可能的避免更新 clustered 索引數據列,因為 clustered 索引數據列的順序就是表記錄的物理存儲順序,一旦該列值改變將導致整個表記錄的順序的調整,會耗費相當大的資源。若應用系統需要頻繁更新 clustered 索引數據列,那麼需要考慮是否應將該索引建為 clustered 索引。
17.盡量使用數字型欄位,若只含數值信息的欄位盡量不要設計為字元型,這會降低查詢和連接的性能,並會增加存儲開銷。這是因為引擎在處理查詢和連接時會逐個比較字元串中每一個字元,而對於數字型而言只需要比較一次就夠了。
18.盡可能的使用 varchar/nvarchar 代替 char/nchar ,因為首先變長欄位存儲空間小,可以節省存儲空間,其次對於查詢來說,在一個相對較小的欄位內搜索效率顯然要高些。
19.任何地方都不要使用 select * from t ,用具體的欄位列表代替「*」,不要返回用不到的任何欄位。
20.盡量使用表變數來代替臨時表。如果表變數包含大量數據,請注意索引非常有限(只有主鍵索引)。
21.避免頻繁創建和刪除臨時表,以減少系統表資源的消耗。
22.臨時表並不是不可使用,適當地使用它們可以使某些常式更有效,例如,當需要重復引用大型表或常用表中的某個數據集時。但是,對於一次性事件,最好使用導出表。
23.在新建臨時表時,如果一次性插入數據量很大,那麼可以使用 select into 代替 create table,避免造成大量 log ,以提高速度;如果數據量不大,為了緩和系統表的資源,應先create table,然後insert。
24.如果使用到了臨時表,在存儲過程的最後務必將所有的臨時表顯式刪除,先 truncate table ,然後 drop table ,這樣可以避免系統表的較長時間鎖定。
25.盡量避免使用游標,因為游標的效率較差,如果游標操作的數據超過1萬行,那麼就應該考慮改寫。
26.使用基於游標的方法或臨時表方法之前,應先尋找基於集的解決方案來解決問題,基於集的方法通常更有效。
27.與臨時表一樣,游標並不是不可使用。對小型數據集使用 FAST_FORWARD 游標通常要優於其他逐行處理方法,尤其是在必須引用幾個表才能獲得所需的數據時。在結果集中包括「合計」的常式通常要比使用游標執行的速度快。如果開發時間允許,基於游標的方法和基於集的方法都可以嘗試一下,看哪一種方法的效果更好。
28.在所有的存儲過程和觸發器的開始處設置 SET NOCOUNT ON ,在結束時設置 SET NOCOUNT OFF 。無需在執行存儲過程和觸發器的每個語句後向客戶端發送 DONE_IN_PROC 消息。
29.盡量避免大事務操作,提高系統並發能力。
30.盡量避免向客戶端返回大數據量,若數據量過大,應該考慮相應需求是否合理。
『肆』 php弄資料庫一般怎麼處理CREATE語句的
1:可以在自己在文本裡面寫好相關的建表語句,然後用phpmyadmin之類的工具導入到你的資料庫,然後在通過程序連接資料庫,插入,修改,刪除,查詢。一般開發流程都是在程序開發之前就需要規劃數據表的結構的。(個人和企業自身用這樣就可以了)
2:就像你說的那樣創建一個文件專門用來創建資料庫和表,也就是程序的安裝模塊,當然也是需要在文本中寫相關的sql語句的,之後通過程序導入到資料庫去,創建好了之後可以把他刪除。(這種一般給別人開發的時候用,像那些開源的cms都是這樣的)
『伍』 PHP-大數據量怎麼處理優化
php跟數據量大好像沒有直接的關系,應該優化的資料庫
『陸』 如何在PHP中處理Protocol Buffers數據
第一步安裝Googleprotoc編譯器工具proto文件定義Message轉換各種編程語言類載release版本直接編譯安裝
第二步安裝protocPHP plugin需要使用composer安裝插件proto文件轉換PHP文件PHP應用引用二進制格式Protocol Buffers數據轉換PHP象
第三步安裝php-protocolbuffersPHP擴展第二步已經完proto文件PHP文件轉猛慧換PHP象各種操作需要擴展API
第四步藉助面提擴帆碧展各種API簡單get自需要欄位完續工作
require "....../kingso.proto.php"
$ks_result = KSResult::parseFromString($kingso_res);
$ks_result->get('xxx_name');
具體可枝轎答以參考 http://www.cnblogs.com/chunguang/p/5618588.html
『柒』 在PHP中怎麼解決大量數據處理的問題
mysql_query函數查詢的方式是查詢出全部結果後緩存到內存中,這樣就會出現超內存的現象,使用另外一個函數mysql_unbuffered_query可以解決這個問題,mysql_unbuffered_query不會緩存結果集,而是查詢出來數據後立馬對結果集進行操作,也就是便查詢邊返回,這樣就不會出現超出內存的現象,但是使用mysql_unbuffered_query的是時候不能使用 mysql_num_rows() 和 mysql_data_seek()。並且向 MySQL 發送一條新的 SQL 查詢之前,必須提取掉所有未緩存的 SQL 查詢所產生的結果行。例如:
使用緩存結果集的代碼:
function selecttest()
{
try {
$pdo = new PDO("mysql:host=localhost;dbname=test", 'root', '123456');
// 不使用緩存結果集方式
// $pdo->setAttribute(PDO::MYSQL_ATTR_USE_BUFFERED_QUERY, false);
$sth = $pdo->prepare('select * from test');
$sth->execute();
echo '最初佔用內存大小:' . memory_get_usage() . "\n";
$i = 0;
while ($result = $sth->fetch(PDO::FETCH_ASSOC)) {
$i += 1;
if ($i > 10) {
break;
}
sleep(1);
print_r($result);
echo '佔用內存大小:' . memory_get_usage() . "\n";
}
} catch (Exception $e) {
echo $e->getMessage();
}
}
執行時將會報超出內存的錯誤:
Fatal error: Allowed memory size of 134217728 bytes exhausted (tried to allocate 204800000 bytes) in E:\ProgramDevelopment\RuntimeEnvironment\xampp\htdocs\test\test.php on line 56
Call Stack:
0.0005 135392 1. {main}() E:\ProgramDevelopment\RuntimeEnvironment\xampp\htdocs\test\test.php:0
0.0005 135568 2. test->selecttest() E:\ProgramDevelopment\RuntimeEnvironment\xampp\htdocs\test\test.php:85
0.0050 142528 3. PDOStatement->execute() E:\ProgramDevelopment\RuntimeEnvironment\xampp\htdocs\test\test.php:56
將上面代碼中的$pdo->setAttribute(PDO::MYSQL_ATTR_USE_BUFFERED_QUERY, false);一行的注釋去掉後將不在緩存結果集,這時運行該函數的結果如下:
最初佔用內存大小:144808
Array
(
[id] => 1
[a] => v
[b] => w
[c] => i
)
佔用內存大小:145544
Array
(
[id] => 2
[a] => b
[b] => l
[c] => q
)
佔用內存大小:145544
Array
(
[id] => 3
[a] => m
[b] => p
[c] => h
)
佔用內存大小:145536
Array
(
[id] => 4
[a] => j
[b] => i
[c] => b
)
佔用內存大小:145536
可以看到,這時返回一條數據內存佔用非常的小,也就700多位元組,這樣就不會出現超出內存的錯誤了。
『捌』 php寫漂流瓶發送的數據怎樣處理
可以使用xml處理,微信漂流瓶默認接賀磨收的數戚拍槐據就是xml。可以通過高友php的xml擴展來處理xml文件,處理消息的發送,接收
『玖』 PHP處理資料庫
請檢查一下$WB對應的表是否已經定義?提示的是(indexx附近有語法錯誤。是你的SQL語句有問題,
建議將執首敏行哪毀的SQL單獨賦值。
$sql="insert into $WB (indexx,id,mid,uid,parent,t,reposts_count,attitudes_count,comments_count,text,original_text,user_created_at,followers_count,
bi_followers_count,favourites_count,statuses_count,friends_count,username,screen_name,user_description,gender,province,city,verified,verified_reason,verified_type,
user_location,user_avatar,user_geo_enabled,picture,geo) values $data_values");";
echo $sql."<br/>";/者緩枝/測試輸出,然後檢查該SQL語句的語法是否正確。
$query=mysqli_query($sql);
『拾』 PHP數據處理,排序問題
1. 伺服器端排序, 你的方法是其中之一
2. 瀏覽器端排序, 可以衫行用jsp實現. 我曾經用jquery做過類似的功能, 挺簡單的:
方法:
保存數據到二維表,
定義click事件:
按點擊的欄位排序, 按順序生成每一散塌鬧行的html代碼, 清空原來的html代碼沖罩, 加入新生成的順序html代碼