标点符(钱魏 Way)

cURL基础教程

cURL 是一个支持包括HTTP、FTP、TELNET等多种协议使用URL语法规定来传输文件和数据的工具。令人高兴的是,cURL(supported by PHP)被PHP支持。下面将介绍一些在PHP中使用cURL的方法。

为什么要使用cURL

采用上述方法也可以,获取文件。但是用PHP自带的函数却无法处理coockies、验证、表单提交、文件上传等操作。

基本结构

在实现更高技能的功能前,我们先来学习下cURL在PHP中使用的基本步骤:

  1. Initialize(初始化)
  2. Set Options(设置参数)
  3. Execute and Fetch Result(执行和获取结果)
  4. Free up the cURL handle(释放cURL句柄)

第二步,将会是我们这篇文章最重要的部分,英文下面就是见证奇迹的时刻。我们有一大堆用来指定URL请求的cURL(long list of cURL options )选项可以设置。想一下子把所有的设置项学习完事有些困难的,今天我们只学习一些常用的功能。

监测错误

注意:我们比较的时候用的是“=== FALSE”,而非“== FALSE”。因为我们得区分空输出和布尔值FALSE。

获取信息

另外一个设置是在执行以后,获取curl请求信息。

返回信息包含在下面的数组里:

  • “url” //资源网络地址
  • “content_type” //内容编码
  • “http_code” //HTTP状态码
  • “header_size” //header的大小
  • “request_size” //请求的大小
  • “filetime” //文件创建时间
  • “ssl_verify_result” //SSL验证结果
  • “redirect_count” //跳转技术
  • “total_time” //总耗时
  • “namelookup_time” //DNS查询耗时
  • “connect_time” //等待连接耗时
  • “pretransfer_time” //传输前准备耗时
  • “size_upload” //上传数据的大小
  • “size_download” //下载数据的大小
  • “speed_download” //下载速度
  • “speed_upload” //上传速度
  • “download_content_length”//下载内容的长度
  • “upload_content_length” //上传内容的长度
  • “starttransfer_time” //开始传输的时间
  • “redirect_time”//重定向耗时

基于浏览器的重定向

在第一个示例中,我们将写一段监测不同浏览器重定向的代码。例如有些网站会重定向手机浏览器,或者一些不同国家的访问者。

我们准备使用CURLOPT_HTTPHEADER 选项来设定我们发送出的HTTP请求头信息(http headers),包括user agent信息和默认语言。然后我们来看看这些网站是否会把我们重定向到不同的URL。

首先,建立一组测试URL,接着建立一组测试浏览器信息。最后通过循环测试各种URL和浏览器匹配可能产生的情况。

因为指定了cURL选项,所以返回的输出内容只包括HTTP头信息(被存放于 $output 中)。利用一个简单的正则表达式,检查这个头信息中是否包含了“Location:”。

运行这段代码会返回如下结果:

POST方式提交数据

当使用GET方式提交数据时,数据可以通过“查询字串”(query string)传递给URL。例如,在google中搜索时,搜索关键即为URL的查询字串的一部分:

这种情况下你可能并不需要cURL来进行处理。“file_get_contents()”这个函数就能搞定所有的事情。

对于一些使用POST方法提交的表单。数据是通过 HTTP请求体(request body) 发送,而不是查询字串。例如,在使用CodeIgniter论坛的表单,无论你输入什么关键字,总是被POST到如下页面:

我们写一段PHP脚程序来模拟这种URL请求。首先,我们新建一个可以接受并显示POST数据的文件,我们把它命名为post_output.php:

接下来,写一段PHP程序来执行cURL请求:

当您运行上面的程序以后,会得到以下结果:

文件上传

上传文件和上面的POST十分相似。因为所有的文件上传表单都是通过POST方法提交的。

首先新建一个接收文件的页面,命名为 upload_output.php:

下面是一段上传程序:

如果你想上传一个文件,只需要把文件路径像post变量一样传过去,不过需要在前面加上@符号。执行上面的程序会得到以下结果:

cURL多线程处理

cURL的一个高级特性是多线程处理,批处理句柄(handle)。这一特性允许你同时或异步地打开多个URL连接。

Let’s look at this

这个是来自php.net的示例代码(sample code from php.net):

这里做的就是打开多个cURL句柄并指派给一个批处理句柄。然后你就只需在一个while循环里等待它执行完毕。

这个示例中有两个主要循环。第一个 do-while 循环重复调用 curl_multi_exec() 。这个函数是无隔断(non-blocking)的,但会尽可能少地执行。它返回一个状态值,只要这个值等于常量CURLM_CALL_MULTI_PERFORM ,就代表还有一些刻不容缓的工作要做(例如,把对应URL的http头信息发送出去)。也就是说,我们需要不断调用该函数,直到返回值发生改变。

而接下来的 while 循环,只在 $active 变量为 true 时继续。这一变量之前作为第二个参数传给了 curl_multi_exec() ,代表只要批处理句柄中是否还有活动连接。接着,我们调用 curl_multi_select() ,在活动连接(例如接受服务器响应)出现之前,它都是被“屏蔽”的。这个函数成功执行后,我们又会进入另一个 do-while 循环,继续下一条URL。

接下来我们要看看是否可以把我们学到的应用到我们的工作中:

WordPress 链接检测

想象一下你有一个文章数目庞大的博客,这些文章中包含了大量外部网站链接。一段时间之后,因为这样那样的原因,这些链接中相当数量都失效了。下面我们建立一个程序,分析所有这些链接,找出打不开或者404的网站/网页,并生成一个报告。

请注意,以下并不是一个真正可用的WordPress插件,仅是一段提供演示的独立程序。

好,开始吧。首先,从数据库中读取所有这些链接:

我们首先配置好数据库,设置一系列要排除的域名($excluded_domains),以及最大并发连接数($max_connections)。然后,连接数据库,获取文章和包含的链接,把它们收集到一个数组中($url_list)。

下面的代码有点复杂,因此将一步一小步地详细解释:

下面解释一下以上代码。列表的序号对应着代码注释中的顺序数字。

  1. 新建一个批处理器。Created a multi handle.
  2. 稍后我们将创建一个把URL加入批处理器的函数 add_url_to_multi_handle() 。每当这个函数被调用,就有一个新url被加入批处理器。一开始,我们给批处理器添加了10个URL(这一数字由 $max_connections 所决定)。
  3. 运行 curl_multi_exec()  进行初始化工作是必须的,只要它返回 CURLM_CALL_MULTI_PERFORM 就还有事情要做。这么做主要是为了创建连接,它不会等待完整的URL响应。
  4. 只要批处理中还有活动连接主循环就会一直持续。
  5. curl_multi_select() 会一直等待,直到某个URL查询产生活动连接。
  6. cURL的活儿又来了,主要是获取响应数据。
  7. 检查各种信息。当一个URL请求完成时,会返回一个数组。
  8. 在返回的数组中有一个 cURL 句柄。我们利用其获取单个cURL请求的相应信息。
  9. 如果这是一个死链或者请求超时,不会返回http状态码。
  10. 如果这个页面找不到了,会返回404状态码。
  11. 其他情况我们都认为这个链接是可用的(当然,你也可以再检查一下500错误之类…)。
  12. 从该批次移除这个cURL句柄,因为它已经没有利用价值了,关了它!
  13. 很好,现在可以另外加一个URL进来了。再一次地,初始化工作又开始进行…
  14. 嗯,该干的都干了。关闭批处理器,生成报告。
  15. 回过头来看给批处理器添加新URL的函数。这个函数每调用一次,静态变量 $index 就递增一次,这样我们才能知道还剩多少URL没处理。

我把这个脚本在我的博客上跑了一遍(测试需要,有一些错误链接是故意加上的),结果如下:

共检查约40个URL,只耗费两秒不到。当需要检查更加大量的URL时,其省心省力的效果可想而知!如果你同时打开10个连接,还能再快上10倍!另外, 你还可以利用cURL批处理的无隔断特性来处理大量URL请求。

一些其他有用的cURL选项

HTTP Authentication(HTTP登录)

如果遇到有需要登录的URL,你可以使用如下方法:

FTP Upload(FTP上传)

PHP自带 FTP library,不过你也可以使用cURL的方法实现:

Using a Proxy(使用代理)

你可以通过代理提交你的URL

Callback Functions

It is possible to have cURL call given callback functions during the URL request, before it is finished. 例如,在请求内容在下载的时候,a在数据没有全部下载完前,就可以使用这些数据。

为了能正常的工作,callback function必须返回字符串的长度,每次URL请求被获取,一个数据包就会被接收,callback function被请求。

原文地址(英文):http://net.tutsplus.com/tutorials/php/techniques-and-resources-for-mastering-curl/

码字很辛苦,转载请注明来自标点符《cURL基础教程》

评论