抓取防盗链图片显示
我们网站有一个“日志聚合”的功能,可以导入用户自己其他博客的文章,文字可以保存到数据库,图片没有存储而是直接引用原图片地址,而大部分图片都做了防盗链处理,为了能保证用户正常浏览,对抓取后的图片地址做了引用处理。
办法很多,参考鲜果和GoogleReader的方式,实际上就是通过伪装Referer信息来实现,这种方式的代码量以及图片下载响应速度的效果是最好的,还有用WebRequest和Iframe的方式也都可以达到我们的目的。
效果对比
图(1)采用“伪装Referer”的方式

图(2)采用"WebRequest"的方式

核心代码
1.伪装Referer方式
view source print
01 |
MSXML2.XMLHTTPClass oxmlHttp = new MSXML2.XMLHTTPClass(); |
03 |
oxmlHttp.open("Get", url, false, null, null); |
04 |
oxmlHttp.setRequestHeader("Referer", url); |
07 |
if (oxmlHttp.readyState == 4 && oxmlHttp.status == 200) |
09 |
return (Byte[])oxmlHttp.responseBody; |
2.WebRequest方式
view source print
1 |
WebRequest request = WebRequest.Create(url); |
2 |
WebResponse response = request.GetResponse(); |
3 |
Stream reader = response.GetResponseStream(); |
3.Iframe方式
view source print
1 |
$amp;script>var im = "$amp;img src="图片URL" /$amp;>quot;$;</script> |
3 |
$amp;iframe id="im" style="border: 0px; overflow: hidden;" scrolling="no" frameborder="0" src="javascript:parent.im;" onload="javascript:var x=document.getElementById('im').contentWindow.document.images[0];this.width=x.width+10;this.height=x.height+10;"$amp;>amp;$lt;/iframe> |
总结
一开始使用的是WebRequest的方式,将获取到的内容写入到MemoryStream中,再输出到页面,但是速度从上面图(2)可见,而且对于BlogBus会返回505的错误。如果有空会再次研究一下这种方式为什么这么慢,瓶颈在哪儿。
使用XMLHTTPClass的方式,注意要返回的属性是responseBody,常见的抓取文本返回的属性是responseText,因为没有注意这个细节,导致始终无法输出图片,关于该类的说明,参考了博客园“一个呆子”同学的文章。网上有一些ASP和PHP的版本,差不多都是用的这种方式。当然这两种方式的代码不仅仅可以做这些,还可以做更多事情。 |