php多线程curl
1. php如何使用CURL复用连接
HTTP1.0与HTTP1.1的一个很大的差别是HTTP1.1支持长连接。现实中有很多这个场景,就是请求了一个页面,然后这个页面的其他内容,例如CSS文件,JS文件都要从同一个服务(相同服务器,相同端口)上面获取。这些向相同服务器的请求如果能够复用连接,是很有利于提供网络性能。
总的来说,复用HTTP连接有两个好处:
1.节省系统端口资源(每一次连接都要使用端口,端口的资源是有限的)
2.节省创建socket连接的时间。
下面讲讲在PHP下面,如何使用CURL来复用连接:
curl是在一个handle里面复用连接的,所以这样就可以复用连接了:
$ch=curl_init();
$ret=curl_exec($ch);
......
$ret2=curl_exec($ch);
....
curl_close($ch);
在初始化跟关闭$ch资源时即可复用连接。
我这里写了两个函数,可以支持GET跟POST的请求,大家感兴趣可以看看。
functioncurl_get($url,$timeout=5){
global$g_handle;
if(empty($g_handle))$ch=curl_init();
$options=array(
CURLOPT_URL=>$url,
CURLOPT_RETURNTRANSFER=>true,
CURLOPT_FRESH_CONNECT=>false,
CURLOPT_FORBID_REUSE=>false,
CURLOPT_TIMEOUT=>$timeout
);
curl_setopt_array($g_handle,$options);
$ret=curl_exec($g_handle);
return$ret;
}
//可以支持POST数据,$post是一个数组,$timeout是超时时间。
functioncurl_post($url,$post=array(),$timeout=10){
global$g_handle;
if(empty($g_handle))$g_handle=curl_init();
$options=array(
CURLOPT_URL=>$url,
CURLOPT_POST=>true,
CURLOPT_RETURNTRANSFER=>true,
CURLOPT_FRESH_CONNECT=>false,
CURLOPT_FORBID_REUSE=>false,
CURLOPT_TIMEOUT=>$timeout,
CURLOPT_POSTFIELDS=>http_build_query($post)
);
if(empty($post))$options[CURLOPT_POST]=false;
curl_setopt_array($g_handle,$options);
$ret=curl_exec($g_handle);
return$ret;
}
2. 求助,PHP CURL的问题.curl
cURL 是一种功能强大的库,支持很多不同的协议、选项,能提供 URL 请求相关的各种细节信息。
在学习更为复杂的功能之前,先来看一下在PHP中建立cURL请求的基本步骤:
初始化
设置变量
执行并获取结果
释放cURL句柄
// 1. 初始化
$ch = curl_init();
// 2. 设置选项,包括URL
curl_setopt($ch, CURLOPT_URL, "http://www.nettuts.com");
curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1);
curl_setopt($ch, CURLOPT_HEADER, 0);
// 3. 执行并获取HTML文档内容
$output = curl_exec($ch);
// 4. 释放curl句柄
curl_close($ch);
第二步(也就是 curl_setopt() )最为重要,一切玄妙均在此。有一长串cURL参数可供设置,它们能指定URL请求的各个细节。要一次性全部看完并理解可能比较困难,所以今天我们只试一下那些更常用也更有用的选项。
检查错误
你可以加一段检查错误的语句(虽然这并不是必需的):
// ...
$output = curl_exec($ch);
if ($output === FALSE) {
echo "cURL Error: " . curl_error($ch);
}
// ...
请注意,比较的时候我们用的是“=== FALSE”,而非“== FALSE”。因为我们得区分 空输出 和 布尔值FALSE,后者才是真正的错误。
3. 紧急求助,关于PHP中curl的
cURL可以使用URL的语法模拟浏览器来传输数据,
因为它是模拟浏览器,因此它同样支持多种协议,
FTP, FTPS, HTTP, HTTPS, GOPHER, TELNET, DICT, FILE 以及 LDAP等协议都可以很好的支持,包括一些:
HTTPS认证,HTTP POST方法,HTTP PUT方法,FTP上传,keyberos认证,HTTP上传,代理服务器,cookies,用户名/密码认证,
下载文件断点续传,上传文件断点续传,http代理服务器管道,甚至它还支持IPv6,scoket5代理服务器,通过http代理服务器上传文件
到FTP服务器等等。
这就是我们为什么要使用cURL的原因!
使用cURL完成简单的请求主要分为以下四步:
1.初始化,创建一个新cURL资源
2.设置URL和相应的选项
3.抓取URL并把它传递给浏览器
4.关闭cURL资源,并且释放系统资源
我们来采集一个页面,通常情况下,我们会使用file_get_contents()函数来获取:
像这样:
<?php
$str = file_get_contents('http://bbs.lampbrother.net');
//或者是:
$str = file("http://bbs.lampbrother.net");
//或者是:
readfile("http://bbs.lampbrother.net");
?>
这样我们会发现,我们没有办法有效地进行错误处理,更重要的是我们没有办法完成一些高难度的任务:
如:处理cookies,验证,表单提交,文件上传等等。
好,现在我们来用代码完成上述cURL的四步:
<?php
//1.初始化,创建一个新cURL资源
$ch = curl_init();
//2.设置URL和相应的选项
curl_setopt($ch, CURLOPT_URL, "http://www.lampbrother.net/");
curl_setopt($ch, CURLOPT_HEADER, 0);
//3.抓取URL并把它传递给浏览器
curl_exec($ch);
//4.关闭cURL资源,并且释放系统资源
curl_close($ch);
?>
上述四步中,其中第二步最为关键,可以设置一些高级选项:
例如上例中的CURLOPT_URL和CURLOPT_HEADER,分别代表“需要获取的URL地址”和“启用时会将头文件的信息作为数据流输出”,这些只是冰山一角,我们还可以设置很多选项:
选项 可选value值 备注
CURLOPT_AUTOREFERER 当根据Location:重定向时,自动设置header中的Referer:信息。
CURLOPT_BINARYTRANSFER 在启用CURLOPT_RETURNTRANSFER的时候,返回原生的(Raw)输出。
CURLOPT_COOKIESESSION 启用时curl会仅仅传递一个session cookie,忽略其他的cookie,默认状况下cURL会将所有的cookie返回给服务端。session cookie是指那些用来判断服务器端的session是否有效而存在的cookie。
CURLOPT_CRLF 启用时将Unix的换行符转换成回车换行符。
CURLOPT_DNS_USE_GLOBAL_CACHE 启用时会启用一个全局的DNS缓存,此项为线程安全的,并且默认启用。
CURLOPT_FAILONERROR 显示HTTP状态码,默认行为是忽略编号小于等于400的HTTP信息。
CURLOPT_FILETIME 启用时会尝试修改远程文档中的信息。结果信息会通过curl_getinfo()函数的CURLINFO_FILETIME选项返回。 curl_getinfo().
CURLOPT_FOLLOWLOCATION 启用时会将服务器服务器返回的"Location: "放在header中递归的返回给服务器,使用CURLOPT_MAXREDIRS可以限定递归返回的数量。
CURLOPT_FORBID_REUSE 在完成交互以后强迫断开连接,不能重用。
CURLOPT_FRESH_CONNECT 强制获取一个新的连接,替代缓存中的连接。
CURLOPT_FTP_USE_EPRT 启用时当FTP下载时,使用EPRT (或 LPRT)命令。设置为FALSE时禁用EPRT和LPRT,使用PORT命令 only.
CURLOPT_FTP_USE_EPSV 启用时,在FTP传输过程中回复到PASV模式前首先尝试EPSV命令。设置为FALSE时禁用EPSV命令。
CURLOPT_FTPAPPEND 启用时追加写入文件而不是覆盖它。
CURLOPT_FTPASCII CURLOPT_TRANSFERTEXT的别名。
CURLOPT_FTPLISTONLY 启用时只列出FTP目录的名字。
CURLOPT_HEADER 启用时会将头文件的信息作为数据流输出。
CURLINFO_HEADER_OUT 启用时追踪句柄的请求字符串。 从 PHP 5.1.3 开始可用。CURLINFO_前缀是故意的(intentional)。
CURLOPT_HTTPGET 启用时会设置HTTP的method为GET,因为GET是默认是,所以只在被修改的情况下使用。
CURLOPT_HTTPPROXYTUNNEL 启用时会通过HTTP代理来传输。
CURLOPT_MUTE 启用时将cURL函数中所有修改过的参数恢复默认值。
CURLOPT_NETRC 在连接建立以后,访问~/.netrc文件获取用户名和密码信息连接远程站点。
CURLOPT_NOBODY 启用时将不对HTML中的BODY部分进行输出。
CURLOPT_NOPROGRESS
启用时关闭curl传输的进度条,此项的默认设置为启用。
Note:
PHP自动地设置这个选项为TRUE,这个选项仅仅应当在以调试为目的时被改变。
CURLOPT_NOSIGNAL 启用时忽略所有的curl传递给php进行的信号。在SAPI多线程传输时此项被默认启用。 cURL 7.10时被加入。
CURLOPT_POST 启用时会发送一个常规的POST请求,类型为:application/x-www-form-urlencoded,就像表单提交的一样。
CURLOPT_PUT 启用时允许HTTP发送文件,必须同时设置CURLOPT_INFILE和CURLOPT_INFILESIZE。
CURLOPT_RETURNTRANSFER 将curl_exec()获取的信息以文件流的形式返回,而不是直接输出。
CURLOPT_SSL_VERIFYPEER 禁用后cURL将终止从服务端进行验证。使用CURLOPT_CAINFO选项设置证书使用CURLOPT_CAPATH选项设置证书目录 如果CURLOPT_SSL_VERIFYPEER(默认值为2)被启用,CURLOPT_SSL_VERIFYHOST需要被设置成TRUE否则设置为FALSE。 自cURL 7.10开始默认为TRUE。从cURL 7.10开始默认绑定安装。
CURLOPT_TRANSFERTEXT 启用后对FTP传输使用ASCII模式。对于LDAP,它检索纯文本信息而非HTML。在Windows系统上,系统不会把STDOUT设置成binary模式。
CURLOPT_UNRESTRICTED_AUTH 在使用CURLOPT_FOLLOWLOCATION产生的header中的多个locations中持续追加用户名和密码信息,即使域名已发生改变。
CURLOPT_UPLOAD 启用后允许文件上传。
CURLOPT_VERBOSE 启用时会汇报所有的信息,存放在STDERR或指定的CURLOPT_STDERR中。
对于下面的这些option的可选参数,value应该被设置一个integer类型的值:
选项 可选value值 备注
CURLOPT_BUFFERSIZE 每次获取的数据中读入缓存的大小,但是不保证这个值每次都会被填满。 在cURL 7.10中被加入。
CURLOPT_CLOSEPOLICY 不是CURLCLOSEPOLICY_LEAST_RECENTLY_USED就是CURLCLOSEPOLICY_OLDEST,还存在另外三个CURLCLOSEPOLICY_,但是cURL暂时还不支持。
CURLOPT_CONNECTTIMEOUT 在发起连接前等待的时间,如果设置为0,则无限等待。
CURLOPT_CONNECTTIMEOUT_MS 尝试连接等待的时间,以毫秒为单位。如果设置为0,则无限等待。 在cURL 7.16.2中被加入。从PHP 5.2.3开始可用。
CURLOPT_DNS_CACHE_TIMEOUT 设置在内存中保存DNS信息的时间,默认为120秒。
CURLOPT_FTPSSLAUTH FTP验证方式:CURLFTPAUTH_SSL (首先尝试SSL),CURLFTPAUTH_TLS (首先尝试TLS)或CURLFTPAUTH_DEFAULT (让cURL自动决定)。 在cURL 7.12.2中被加入。
CURLOPT_HTTP_VERSION CURL_HTTP_VERSION_NONE (默认值,让cURL自己判断使用哪个版本),CURL_HTTP_VERSION_1_0 (强制使用 HTTP/1.0)或CURL_HTTP_VERSION_1_1 (强制使用 HTTP/1.1)。
CURLOPT_HTTPAUTH
使用的HTTP验证方法,可选的值有:CURLAUTH_BASIC、CURLAUTH_DIGEST、CURLAUTH_GSSNEGOTIATE、CURLAUTH_NTLM、CURLAUTH_ANY和CURLAUTH_ANYSAFE。 可以使用|位域(或)操作符分隔多个值,cURL让服务器选择一个支持最好的值。
CURLAUTH_ANY等价于CURLAUTH_BASIC | CURLAUTH_DIGEST | CURLAUTH_GSSNEGOTIATE | CURLAUTH_NTLM. CURLAUTH_ANYSAFE等价于CURLAUTH_DIGEST | CURLAUTH_GSSNEGOTIATE | CURLAUTH_NTLM.
CURLOPT_INFILESIZE 设定上传文件的大小限制,字节(byte)为单位。
CURLOPT_LOW_SPEED_LIMIT 当传输速度小于CURLOPT_LOW_SPEED_LIMIT时(bytes/sec),PHP会根据CURLOPT_LOW_SPEED_TIME来判断是否因太慢而取消传输。
CURLOPT_LOW_SPEED_TIME 当传输速度小于CURLOPT_LOW_SPEED_LIMIT时(bytes/sec),PHP会根据CURLOPT_LOW_SPEED_TIME来判断是否因太慢而取消传输。
CURLOPT_MAXCONNECTS 允许的最大连接数量,超过是会通过CURLOPT_CLOSEPOLICY决定应该停止哪些连接。
CURLOPT_MAXREDIRS 指定最多的HTTP重定向的数量,这个选项是和CURLOPT_FOLLOWLOCATION一起使用的。
CURLOPT_PORT 用来指定连接端口。(可选项)
CURLOPT_PROTOCOLS
CURLPROTO_*的位域指。如果被启用,位域值会限定libcurl在传输过程中有哪些可使用的协议。这将允许你在编译libcurl时支持众多协议,但是限制只是用它们中被允许使用的一个子集。默认libcurl将会使用全部它支持的协议。参见CURLOPT_REDIR_PROTOCOLS. 可用的协议选项为:CURLPROTO_HTTP、CURLPROTO_HTTPS、CURLPROTO_FTP、CURLPROTO_FTPS、CURLPROTO_SCP、CURLPROTO_SFTP、CURLPROTO_TELNET、CURLPROTO_LDAP、CURLPROTO_LDAPS、CURLPROTO_DICT、CURLPROTO_FILE、CURLPROTO_TFTP、CURLPROTO_ALL 在cURL 7.19.4中被加入。
CURLOPT_PROXYAUTH HTTP代理连接的验证方式。使用在CURLOPT_HTTPAUTH中的位域标志来设置相应选项。对于代理验证只有CURLAUTH_BASIC和CURLAUTH_NTLM当前被支持。 在cURL 7.10.7中被加入。
CURLOPT_PROXYPORT 代理服务器的端口。端口也可以在CURLOPT_PROXY中进行设置。
CURLOPT_PROXYTYPE 不是CURLPROXY_HTTP (默认值) 就是CURLPROXY_SOCKS5。 在cURL 7.10中被加入。
CURLOPT_REDIR_PROTOCOLS CURLPROTO_*中的位域值。如果被启用,位域值将会限制传输线程在CURLOPT_FOLLOWLOCATION开启时跟随某个重定向时可使用的协议。这将使你对重定向时限制传输线程使用被允许的协议子集默认libcurl将会允许除FILE和SCP之外的全部协议。这个和7.19.4预发布版本种无条件地跟随所有支持的协议有一些不同。关于协议常量,请参照CURLOPT_PROTOCOLS。 在cURL 7.19.4中被加入。
CURLOPT_RESUME_FROM 在恢复传输时传递一个字节偏移量(用来断点续传)。
CURLOPT_SSL_VERIFYHOST 1 检查服务器SSL证书中是否存在一个公用名(common name)。译者注:公用名(Common Name)一般来讲就是填写你将要申请SSL证书的域名 (domain)或子域名(sub domain)。2 检查公用名是否存在,并且是否与提供的主机名匹配。
CURLOPT_SSLVERSION 使用的SSL版本(2 或 3)。默认情况下PHP会自己检测这个值,尽管有些情况下需要手动地进行设置。
CURLOPT_TIMECONDITION 如果在CURLOPT_TIMEVALUE指定的某个时间以后被编辑过,则使用CURL_TIMECOND_IFMODSINCE返回页面,如果没有被修改过,并且CURLOPT_HEADER为true,则返回一个"304 Not Modified"的header, CURLOPT_HEADER为false,则使用CURL_TIMECOND_IFUNMODSINCE,默认值为CURL_TIMECOND_IFUNMODSINCE。
CURLOPT_TIMEOUT 设置cURL允许执行的最长秒数。
CURLOPT_TIMEOUT_MS 设置cURL允许执行的最长毫秒数。 在cURL 7.16.2中被加入。从PHP 5.2.3起可使用。
CURLOPT_TIMEVALUE 设置一个CURLOPT_TIMECONDITION使用的时间戳,在默认状态下使用的是CURL_TIMECOND_IFMODSINCE。
对于下面的这些option的可选参数,value应该被设置一个string类型的值:
选项 可选value值 备注
CURLOPT_CAINFO 一个保存着1个或多个用来让服务端验证的证书的文件名。这个参数仅仅在和CURLOPT_SSL_VERIFYPEER一起使用时才有意义。 .
CURLOPT_CAPATH 一个保存着多个CA证书的目录。这个选项是和CURLOPT_SSL_VERIFYPEER一起使用的。
CURLOPT_COOKIE 设定HTTP请求中"Cookie: "部分的内容。多个cookie用分号分隔,分号后带一个空格(例如, "fruit=apple; colour=red")。
CURLOPT_COOKIEFILE 包含cookie数据的文件名,cookie文件的格式可以是Netscape格式,或者只是纯HTTP头部信息存入文件。
CURLOPT_COOKIEJAR 连接结束后保存cookie信息的文件。
CURLOPT_CUSTOMREQUEST
使用一个自定义的请求信息来代替"GET"或"HEAD"作为HTTP请求。这对于执行"DELETE" 或者其他更隐蔽的HTTP请求。有效值如"GET","POST","CONNECT"等等。也就是说,不要在这里输入整个HTTP请求。例如输入"GET /index.html HTTP/1.0 "是不正确的。
Note: 在确定服务器支持这个自定义请求的方法前不要使用。
CURLOPT_EGDSOCKET 类似CURLOPT_RANDOM_FILE,除了一个Entropy Gathering Daemon套接字。
CURLOPT_ENCODING HTTP请求头中"Accept-Encoding: "的值。支持的编码有"identity","deflate"和"gzip"。如果为空字符串"",请求头会发送所有支持的编码类型。 在cURL 7.10中被加入。
CURLOPT_FTPPORT 这个值将被用来获取供FTP"POST"指令所需要的IP地址。"POST"指令告诉远程服务器连接到我们指定的IP地址。这个字符串可以是纯文本的IP地址、主机名、一个网络接口名(UNIX下)或者只是一个'-'来使用默认的IP地址。
CURLOPT_INTERFACE 网络发送接口名,可以是一个接口名、IP地址或者是一个主机名。
CURLOPT_KRB4LEVEL KRB4 (Kerberos 4) 安全级别。下面的任何值都是有效的(从低到高的顺序):"clear"、"safe"、"confidential"、"private".。如果字符串和这些都不匹配,将使用"private"。这个选项设置为NULL时将禁用KRB4 安全认证。目前KRB4 安全认证只能用于FTP传输。
CURLOPT_POSTFIELDS 全部数据使用HTTP协议中的"POST"操作来发送。要发送文件,在文件名前面加上@前缀并使用完整路径。这个参数可以通过urlencoded后的字符串类似'para1=val1¶2=val2&...'或使用一个以字段名为键值,字段数据为值的数组。如果value是一个数组,Content-Type头将会被设置成multipart/form-data。
CURLOPT_PROXY HTTP代理通道。
CURLOPT_PROXYUSERPWD 一个用来连接到代理的"[username]:[password]"格式的字符串。
CURLOPT_RANDOM_FILE 一个被用来生成SSL随机数种子的文件名。
CURLOPT_RANGE 以"X-Y"的形式,其中X和Y都是可选项获取数据的范围,以字节计。HTTP传输线程也支持几个这样的重复项中间用逗号分隔如"X-Y,N-M"。
CURLOPT_REFERER 在HTTP请求头中"Referer: "的内容。
CURLOPT_SSL_CIPHER_LIST 一个SSL的加密算法列表。例如RC4-SHA和TLSv1都是可用的加密列表。
CURLOPT_SSLCERT 一个包含PEM格式证书的文件名。
CURLOPT_SSLCERTPASSWD 使用CURLOPT_SSLCERT证书需要的密码。
CURLOPT_SSLCERTTYPE 证书的类型。支持的格式有"PEM" (默认值), "DER"和"ENG"。 在cURL 7.9.3中被加入。
CURLOPT_SSLENGINE 用来在CURLOPT_SSLKEY中指定的SSL私钥的加密引擎变量。
CURLOPT_SSLENGINE_DEFAULT 用来做非对称加密操作的变量。
CURLOPT_SSLKEY 包含SSL私钥的文件名。
CURLOPT_SSLKEYPASSWD
在CURLOPT_SSLKEY中指定了的SSL私钥的密码。
Note: 由于这个选项包含了敏感的密码信息,记得保证这个PHP脚本的安全。
CURLOPT_SSLKEYTYPE CURLOPT_SSLKEY中规定的私钥的加密类型,支持的密钥类型为"PEM"(默认值)、"DER"和"ENG"。
CURLOPT_URL 需要获取的URL地址,也可以在curl_init()函数中设置。
CURLOPT_USERAGENT 在HTTP请求中包含一个"User-Agent: "头的字符串。
CURLOPT_USERPWD 传递一个连接中需要的用户名和密码,格式为:"[username]:[password]"。
对于下面的这些option的可选参数,value应该被设置一个数组:
对于下面的这些option的可选参数,value应该被设置一个流资源 (例如使用fopen()):
对于下面的这些option的可选参数,value应该被设置为一个回调函数名:
选项 可选value值
CURLOPT_HEADERFUNCTION 设置一个回调函数,这个函数有两个参数,第一个是cURL的资源句柄,第二个是输出的header数据。header数据的输出必须依赖这个函数,返回已写入的数据大小。
CURLOPT_PASSWDFUNCTION 设置一个回调函数,有三个参数,第一个是cURL的资源句柄,第二个是一个密码提示符,第三个参数是密码长度允许的最大值。返回密码的值。
CURLOPT_PROGRESSFUNCTION 设置一个回调函数,有三个参数,第一个是cURL的资源句柄,第二个是一个文件描述符资源,第三个是长度。返回包含的数据。
CURLOPT_READFUNCTION 拥有两个参数的回调函数,第一个是参数是会话句柄,第二是HTTP响应头信息的字符串。使用此函数,将自行处理返回的数据。返回值为数据大小,以字节计。返回0代表EOF信号。
CURLOPT_WRITEFUNCTION 拥有两个参数的回调函数,第一个是参数是会话句柄,第二是HTTP响应头信息的字符串。使用此回调函数,将自行处理响应头信息。响应头信息是整个字符串。设置返回值为精确的已写入字符串长度。发生错误时传输线程终止。
看到了吧,只要在第二个函数之内设置这些选项就可以完成相应的功能,cURL的功能是灰常强大滴,大家可以尝试一下哦!
例如,我们只想把获取到的内容输入到文件,而不是直接输出给浏览器,我们就可以使用CURLOPT_RETURNTRANSFER选项!
这样在curl执行的时候,就会把页面的内容输出到文件当中,我们就可以完成采集等功能
4. PHP-php 怎么实现类似多线程
php本身不支持多线程,但可以通过curl_multi_*系列函数来模拟多线程,以下是我用过的一个函数,但请求不能过多,否则会出现一些难以解释的问题。希望对你有帮助。
<?php
function rolling_curl($urls, $delay) {
$queue = curl_multi_init();
$map = array();
foreach ($urls as $url) {
$ch = curl_init();
curl_setopt($ch, CURLOPT_URL, $url);
curl_setopt($ch, CURLOPT_TIMEOUT, 1);
curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1);
curl_setopt($ch, CURLOPT_HEADER, 0);
curl_setopt($ch, CURLOPT_NOSIGNAL, true);
curl_multi_add_handle($queue, $ch);
$map[(string) $ch] = $url;
}
$responses = array();
do {
while (($code = curl_multi_exec($queue, $active)) == CURLM_CALL_MULTI_PERFORM) ;
if ($code != CURLM_OK) { break; }
// a request was just completed -- find out which one
while ($done = curl_multi_info_read($queue)) {
// get the info and content returned on the request
$info = curl_getinfo($done['handle']);
$error = curl_error($done['handle']);
$results = callback(curl_multi_getcontent($done['handle']), $delay);
$responses[$map[(string) $done['handle']]] = compact('info', 'error', 'results');
// remove the curl handle that just completed
curl_multi_remove_handle($queue, $done['handle']);
curl_close($done['handle']);
}
// Block for data in / output; error handling is done by curl_multi_exec
if ($active > 0) {
curl_multi_select($queue, 0.5);
}
} while ($active);
curl_multi_close($queue);
return $responses;
}
function callback($data, $delay) {
preg_match_all('/<h3>(.+)<\/h3>/iU', $data, $matches);
usleep($delay);
return compact('data', 'matches');
}
$urls = array();
for($i=0;$i<5;$i++)
{
array_push($urls,"http://localhost/Push/demo/hello2.php");
}
rolling_curl($urls, 0.5);
?>
5. 多IP服务器,用php里的curl如何指定ip出口
Swoole可以广泛应用于互联网、移动通信、企业软件、网络游戏、物联网、车联网、智能家庭等领域。 使用PHP+Swoole作为网络通信框架,可以使企业IT研发团队的效率大大提升,更加专注于开发创新产品。
Swoole底层内置了异步非阻塞、多线程的网络IO服务器。PHP程序员仅需处理事件回调即可,无需关心底层。与Nginx/Tornado/Node.js等全异步的框架不同,Swoole既支持全异步,也支持同步。
6. php curl选项列表(超详细)
本篇文章是对php中的curl选项列表进行了详细的分析介绍 需要的朋友参考下第一类 对于下面的这些option的可选参数 value应该被设置一个bool类型的值 选项 可选value值 备注 CURLOPT_AUTOREFERER 当根据Location:重定向时 自动设置header中的Referer:信息 CURLOPT_BINARYTRANSFER 在启用CURLOPT_RETURNTRANSFER的时候 返回原生的(Raw)输出 CURLOPT_COOKIESESSION 启用时curl会仅仅传递一个session cookie 忽略其他的cookie 默认状况下cURL会将所有的cookie返回给服务端 session cookie是指那些用来判断服务器端的session是否有效而存在的cookie CURLOPT_CRLF 启用时将Unix的换行符转换成回车换行符 CURLOPT_DNS_USE_GLOBAL_CACHE 启用时会启用一个全局的DNS缓存 此项为线程安全的 并且默认启用 CURLOPT_FAILONERROR 显示HTTP状态码 默认行为是忽略编号小于等于 的HTTP信息 CURLOPT_FILETIME 启用时会尝试修改远程文档中的信息 结果信息会通过 curl_getinfo()函数的CURLINFO_FILETIME选项返回 curl_getinfo() CURLOPT_FOLLOWLOCATION 启用时会将服务器服务器返回的"Location: "放在header中递归的返回给服务器 使用CURLOPT_MAXREDIRS可以限定递归返回的数量 CURLOPT_FORBID_REUSE 在完成交互以后强迫断开连接 不能重用 CURLOPT_FRESH_CONNECT 强制获取一个新的连接 替代缓存中的连接 CURLOPT_FTP_USE_EPRT 启用时当FTP下载时 使用EPRT (或 LPRT)命令 设置为FALSE时禁用EPRT和LPRT 使用PORT命令 only CURLOPT_FTP_USE_EPSV 启用时 在FTP传输过程中回复到PASV模式前首先尝试EPSV命令 设置为FALSE时禁用EPSV命令 CURLOPT_FTPAPPEND 启用时追加写入文件而不是覆盖它 CURLOPT_FTPASCII CURLOPT_TRANSFERTEXT的别名 CURLOPT_FTPLISTONLY 启用时只列出FTP目录的名字 CURLOPT_HEADER 启用时会将头文件的信息作为数据流输出 CURLINFO_HEADER_OUT 启用时追踪句柄的请求字符串 从 PHP 开始可用 CURLINFO_前缀是故意的(intentional) CURLOPT_HTTPGET 启用时会设置HTTP的method为GET 因为GET是默认是 所以只在被修改的情况下使用 CURLOPT_HTTPPROXYTUNNEL 启用时会通过HTTP代理来传输 CURLOPT_MUTE 启用时将cURL函数中所有修改过的参数恢复默认值 CURLOPT_NETRC 在连接建立以后 访问~/ netrc文件获取用户名和密码信息连接远程站点 CURLOPT_NOBODY 启用时将不对HTML中的BODY部分进行输出 CURLOPT_NOPROGRESS 启用时关闭curl传输的进度条 此项的默认设置为启用 Note: PHP自动地设置这个选项为TRUE 这个选项仅仅应当在以调试为目的时被改变 CURLOPT_NOSIGNAL 启用时忽略所有的curl传递给php进行的信号 在SAPI多线程传输时此项被默认启用 cURL 时被加入 CURLOPT_POST 启用时会发送一个常规的POST请求 类型为 application/x form urlencoded 就像表单提交的一样 CURLOPT_PUT 启用时允许HTTP发送文件 必须同时设置CURLOPT_INFILE和CURLOPT_INFILESIZE CURLOPT_RETURNTRANSFER 将 curl_exec()获取的信息以文件流的形式返回 而不是直接输出 CURLOPT_SSL_VERIFYPEER 禁 用后cURL将终止从服务端进行验证 使用CURLOPT_CAINFO选项设置证书使用CURLOPT_CAPATH选项设置证书目录 如果CURLOPT_SSL_VERIFYPEER(默认值为 )被启用 CURLOPT_SSL_VERIFYHOST需要被设置成TRUE否则设置为 FALSE 自cURL 开始默认为TRUE 从cURL 开始默认绑定安装 CURLOPT_TRANSFERTEXT 启用后对FTP传输使用ASCII模式 对于LDAP 它检索纯文本信息而非HTML 在Windows系统上 系统不会把STDOUT设置成binary模式 CURLOPT_UNRESTRICTED_AUTH 在使用CURLOPT_FOLLOWLOCATION产生的header中的多个locations中持续追加用户名和密码信息 即使域名已发生改变 CURLOPT_UPLOAD 启用后允许文件上传 CURLOPT_VERBOSE 启用时会汇报所有的信息 存放在STDERR或指定的CURLOPT_STDERR中 第二类 对于下面的这些option的可选参数 value应该被设置一个integer类型的值 选项 可选value值 备注 CURLOPT_BUFFERSIZE 每次获取的数据中读入缓存的大小 但是不保证这个值每次都会被填满 在cURL 中被加入 CURLOPT_CLOSEPOLICY 不是CURLCLOSEPOLICY_LEAST_RECENTLY_USED就是CURLCLOSEPOLICY_OLDEST 还存在另外三个CURLCLOSEPOLICY_ 但是cURL暂时还不支持 CURLOPT_CONNECTTIMEOUT 在发起连接前等待的时间 如果设置为 则无限等待 CURLOPT_CONNECTTIMEOUT_MS 尝试连接等待的时间 以毫秒为单位 如果设置为 则无限等待 在cURL 中被加入 从PHP 开始可用 CURLOPT_DNS_CACHE_TIMEOUT 设置在内存中保存DNS信息的时间 默认为 秒 CURLOPT_FTPSSLAUTH FTP验证方式 CURLFTPAUTH_SSL (首先尝试SSL) CURLFTPAUTH_TLS (首先尝试TLS)或CURLFTPAUTH_DEFAULT (让cURL自动决定) 在cURL 中被加入 CURLOPT_HTTP_VERSION CURL_HTTP_VERSION_NONE (默认值 让cURL自己判断使用哪个版本) CURL_HTTP_VERSION_ _ (强制使用 HTTP/ )或CURL_HTTP_VERSION_ _ (强制使用 HTTP/ ) CURLOPT_HTTPAUTH 使用的HTTP验证方法 可选的值有 CURLAUTH_BASIC CURLAUTH_DIGEST CURLAUTH_GSSNEGOTIATE CURLAUTH_NTLM CURLAUTH_ANY和CURLAUTH_ANYSAFE 可以使用|位域(或)操作符分隔多个值 cURL让服务器选择一个支持最好的值 CURLAUTH_ANY等价于CURLAUTH_BASIC | CURLAUTH_DIGEST | CURLAUTH_GSSNEGOTIATE | CURLAUTH_NTLM CURLAUTH_ANYSAFE等价于CURLAUTH_DIGEST | CURLAUTH_GSSNEGOTIATE | CURLAUTH_NTLM CURLOPT_INFILESIZE 设定上传文件的大小限制 字节(byte)为单位 CURLOPT_LOW_SPEED_LIMIT 当传输速度小于CURLOPT_LOW_SPEED_LIMIT时(bytes/sec) PHP会根据CURLOPT_LOW_SPEED_TIME来判断是否因太慢而取消传输 CURLOPT_LOW_SPEED_TIME 当传输速度小于CURLOPT_LOW_SPEED_LIMIT时(bytes/sec) PHP会根据CURLOPT_LOW_SPEED_TIME来判断是否因太慢而取消传输 CURLOPT_MAXCONNECTS 允许的最大连接数量 超过是会通过CURLOPT_CLOSEPOLICY决定应该停止哪些连接 CURLOPT_MAXREDIRS 指定最多的HTTP重定向的数量 这个选项是和CURLOPT_FOLLOWLOCATION一起使用的 CURLOPT_PORT 用来指定连接端口 (可选项) CURLOPT_PROTOCOLS CURLPROTO_* 的位域指 如果被启用 位域值会限定libcurl在传输过程中有哪些可使用的协议 这将允许你在编译libcurl时支持众多协议 但是限制只是用它们 中被允许使用的一个子集 默认libcurl将会使用全部它支持的协议 参见CURLOPT_REDIR_PROTOCOLS 可用的协议选项 为 CURLPROTO_HTTP CURLPROTO_HTTPS CURLPROTO_FTP CURLPROTO_FTPS CURLPROTO_SCP CURLPROTO_SFTP CURLPROTO_TELNET CURLPROTO_LDAP CURLPROTO_LDAPS CURLPROTO_DICT CURLPROTO_FILE CURLPROTO_TFTP CURLPROTO_ALL 在cURL 中被加入 CURLOPT_PROXYAUTH HTTP代理连接的验证方式 使用在CURLOPT_HTTPAUTH中的位域标志来设置相应选项 对于代理验证只有CURLAUTH_BASIC和CURLAUTH_NTLM当前被支持 在cURL 中被加入 CURLOPT_PROXYPORT 代理服务器的端口 端口也可以在CURLOPT_PROXY中进行设置 CURLOPT_PROXYTYPE 不是CURLPROXY_HTTP (默认值) 就是CURLPROXY_SOCKS 在cURL 中被加入 CURLOPT_REDIR_PROTOCOLS CURLPROTO_* 中的位域值 如果被启用 位域值将会限制传输线程在CURLOPT_FOLLOWLOCATION开启时跟随某个重定向时可使用的协议 这将使你对重定向 时限制传输线程使用被允许的协议子集默认libcurl将会允许除FILE和SCP之外的全部协议 这个和 预发布版本种无条件地跟随所有支持 的协议有一些不同 关于协议常量 请参照CURLOPT_PROTOCOLS 在cURL 中被加入 CURLOPT_RESUME_FROM 在恢复传输时传递一个字节偏移量(用来断点续传) CURLOPT_SSL_VERIFYHOST 检查服务器SSL证书中是否存在一个公用名(mon name) 译者注 公用名(Common Name)一般来讲就是填写你将要申请SSL证书的域名 (domain)或子域名(sub domain) 检查公用名是否存在 并且是否与提供的主机名匹配 CURLOPT_SSLVERSION 使用的SSL版本( 或 ) 默认情况下PHP会自己检测这个值 尽管有些情况下需要手动地进行设置 CURLOPT_TIMECONDITION 如 果在CURLOPT_TIMEVALUE指定的某个时间以后被编辑过 则使用CURL_TIMECOND_IFMODSINCE返回页面 如果没有被修改 过 并且CURLOPT_HEADER为true 则返回一个" Not Modified"的header CURLOPT_HEADER为false 则使用CURL_TIMECOND_IFUNMODSINCE 默认值为 CURL_TIMECOND_IFUNMODSINCE CURLOPT_TIMEOUT 设置cURL允许执行的最长秒数 CURLOPT_TIMEOUT_MS 设置cURL允许执行的最长毫秒数 在cURL 中被加入 从PHP 起可使用 CURLOPT_TIMEVALUE 设置一个CURLOPT_TIMECONDITION使用的时间戳 在默认状态下使用的是CURL_TIMECOND_IFMODSINCE 第三类 对于下面的这些option的可选参数 value应该被设置一个string类型的值 选项 可选value值 备注 CURLOPT_CAINFO 一个保存着 个或多个用来让服务端验证的证书的文件名 这个参数仅仅在和CURLOPT_SSL_VERIFYPEER一起使用时才有意义 CURLOPT_CAPATH 一个保存着多个CA证书的目录 这个选项是和CURLOPT_SSL_VERIFYPEER一起使用的 CURLOPT_COOKIE 设定HTTP请求中"Cookie: "部分的内容 多个cookie用分号分隔 分号后带一个空格(例如 "fruit=apple; colour=red") CURLOPT_COOKIEFILE 包含cookie数据的文件名 cookie文件的格式可以是Netscape格式 或者只是纯HTTP头部信息存入文件 CURLOPT_COOKIEJAR 连接结束后保存cookie信息的文件 CURLOPT_CUSTOMREQUEST 使 用一个自定义的请求信息来代替"GET"或"HEAD"作为HTTP请求 这对于执行"DELETE" 或者其他更隐蔽的HTTP请求 有效值如"GET" "POST" "CONNECT"等等 也就是说 不要在这里输入整个HTTP请求 例如输 入"GET /index HTTP/ rnrn"是不正确的 Note: 在确定服务器支持这个自定义请求的方法前不要使用 CURLOPT_EGDSOCKET 类似CURLOPT_RANDOM_FILE 除了一个Entropy Gathering Daemon套接字 CURLOPT_ENCODING HTTP请求头中"Accept Encoding: "的值 支持的编码有"identity" "deflate"和"gzip" 如果为空字符串"" 请求头会发送所有支持的编码类型 在cURL 中被加入 CURLOPT_FTPPORT 这个值将被用来获取供FTP"POST"指令所需要的IP地址 "POST"指令告诉远程服务器连接到我们指定的IP地址 这个字符串可以是纯文本的IP地址 主机名 一个网络接口名(UNIX下)或者只是一个 来使用默认的IP地址 CURLOPT_INTERFACE 网络发送接口名 可以是一个接口名 IP地址或者是一个主机名 CURLOPT_KRB LEVEL KRB (Kerberos ) 安全级别 下面的任何值都是有效的(从低到高的顺序) "clear" "safe" "confidential" "private" 如果字符串 和这些都不匹配 将使用"private" 这个选项设置为NULL时将禁用KRB 安全认证 目前KRB 安全认证只能用于FTP传输 CURLOPT_POSTFIELDS 全 部数据使用HTTP协议中的"POST"操作来发送 要发送文件 在文件名前面加上@前缀并使用完整路径 这个参数可以通过urlencoded后的字符 串类似 para =val ¶ =val & 或使用一个以字段名为键值 字段数据为值的数组 如果value是一个数 组 Content Type头将会被设置成multipart/form data CURLOPT_PROXY HTTP代理通道 CURLOPT_PROXYUSERPWD 一个用来连接到代理的"[username]:[password]"格式的字符串 CURLOPT_RANDOM_FILE 一个被用来生成SSL随机数种子的文件名 CURLOPT_RANGE 以"X Y"的形式 其中X和Y都是可选项获取数据的范围 以字节计 HTTP传输线程也支持几个这样的重复项中间用逗号分隔如"X Y N M" CURLOPT_REFERER 在HTTP请求头中"Referer: "的内容 CURLOPT_SSL_CIPHER_LIST 一个SSL的加密算法列表 例如RC SHA和TLSv 都是可用的加密列表 CURLOPT_SSLCERT 一个包含PEM格式证书的文件名 CURLOPT_SSLCERTPASSWD 使用CURLOPT_SSLCERT证书需要的密码 CURLOPT_SSLCERTTYPE 证书的类型 支持的格式有"PEM" (默认值) "DER"和"ENG" 在cURL 中被加入 CURLOPT_SSLENGINE 用来在CURLOPT_SSLKEY中指定的SSL私钥的加密引擎变量 CURLOPT_SSLENGINE_DEFAULT 用来做非对称加密操作的变量 CURLOPT_SSLKEY 包含SSL私钥的文件名 CURLOPT_SSLKEYPASSWD 在CURLOPT_SSLKEY中指定了的SSL私钥的密码 Note: 由于这个选项包含了敏感的密码信息 记得保证这个PHP脚本的安全 CURLOPT_SSLKEYTYPE CURLOPT_SSLKEY中规定的私钥的加密类型 支持的密钥类型为"PEM"(默认值) "DER"和"ENG" CURLOPT_URL 需要获取的URL地址 也可以在 curl_init()函数中设置 CURLOPT_USERAGENT 在HTTP请求中包含一个"User Agent: "头的字符串 CURLOPT_USERPWD 传递一个连接中需要的用户名和密码 格式为 "[username]:[password]" 第四类 对于下面的这些option的可选参数 value应该被设置一个数组 选项 可选value值 备注 CURLOPT_HTTP ALIASES 响应码数组 数组中的响应吗被认为是正确的响应 否则被认为是错误的 在cURL 中被加入 CURLOPT_HTTPHEADER 一个用来设置HTTP头字段的数组 使用如下的形式的数组进行设置 array( Content type: text/plain Content length: ) CURLOPT_POSTQUOTE 在FTP请求执行完成后 在服务器上执行的一组FTP命令 CURLOPT_QUOTE 一组先于FTP请求的在服务器上执行的FTP命令
lishixin/Article/program/PHP/201311/21090
7. PHP语言中php curl的几种应用方式
今天我们向大家介绍的是在PHP中的php curl的几种使用方式,希望对有需要的朋友有所帮助。
2. 设置http header支持php curl访问lighttpd服务器
3. 设置curl,只获取http header,不获取body:
或者只获取body:
4. 访问虚拟主机,需设置Host
5. 使用post, put, delete等REStful方式访问url
6. php curl保存下载内容为文件