php采集类snoopy2.0使用说明

news2025/9/19 0:49:39

我们经常采集一些网站数据时会被识别为机器人被网页被拒绝访问，类似这种：

  • failed to open stream: HTTP request failed! HTTP/1.1 403 Forbidden
  • 网宿云安全平台检测到您当前的访问行为存在异常，请稍后重试...

 
云安全平台检测到您当前的访问行为存在异常，请稍后重试...

URL ： https://mbd.baidu.com/newspage/_from=-1
事件ID ： bd2f68fc2b17096201630ac
客户端IP ： 422.128.142.36
当前时间 ： 2024/3/5 GMT+8 14:29:23

这就是我们的请求被识别为恶意请求，Snoopy可以完美的帮我们模拟浏览器行为进行请求，以下是介绍和使用：

Snoopy的一些功能特点：

  • 抓取网页的内容 fetch()

  • 抓取网页的文本内容 (去除HTML标签) fetchtext()

  • 抓取网页的链接，表单 fetchlinks() fetchform()

  • 支持代理主机

  • 支持基本的用户名/密码验证

  • 支持设置 user_agent, referer(来路), cookies 和 header content(头文件)

  • 支持浏览器重定向，并能控制重定向深度

  • 能把网页中的链接扩展成高的url(默认)

  • 提交数据并且获取返回值

  • 支持跟踪HTML框架

  • 支持重定向的时候传递cookies

一、官网下载Snoopy：

http://sourceforge.net/projects/snoopy/

 二、类方法

1. fetch($uri)

这是为了抓取网页的内容而使用的方法。$URI参数是取网页的URL地址。抓取的结果被存储在 $this->results 中。

如果你正在抓取的是一个框架，Snoopy将会将每个框架追踪后存入数组中，然后存入 $this->results。

<?php
$url = "http://www.lovean.com/";
include("./Snoopy.class.php");

$snoopy = new Snoopy;
$snoopy->fetch($url); 		//获取所有内容
echo $snoopy->results; 		//显示结果
?>

2. fetchtext($URI)

本方法类似于fetch()，唯一不同的就是本方去除HTML标签和其他的无关数据，只返回网页中的文字内容。

<?php
$url = "http://www.lovean.com/";
include("./Snoopy.class.php");

$snoopy = new Snoopy;
$snoopy->fetchtext($url);         //获取文本内容
echo $snoopy->results;         //显示结果
?>

3. fetchform($URI)

本方法类似于fetch()，唯一不同的就是本方去除HTML标签和其他的无关数据，只返回网页中表单内容(form)。

4. fetchlinks($URI)

本方法类似于fetch()，唯一不同的就是本方去除HTML标签和其他的无关数据，只返回网页中链接(link)。默认情况下，相对链接将自动补全，转换成完整的URL。

5. submit($URI,$formvars)

本方法向$URL指定的链接地址发送确认表单。$formvars是一个存储表单参数的数组。

6. submittext($URI,$formvars)

本方法类似于submit()，唯一不同的就是本方去除HTML标签和其他的无关数据，只返回登陆后网页中的文字内容。

7. submitlinks($URI)

本方法类似于submit()，唯一不同的就是本方去除HTML标签和其他的无关数据，只返回网页中链接(link)。默认情况下，相对链接将自动补全，转换成完整的URL。

三、Demo和常用场景示例

<?php
include "Snoopy.class.php";
$snoopy = new Snoopy;

$snoopy->proxy_host = "127.0.0.1";
$snoopy->proxy_port = "80";

$snoopy->agent = "(compatible; MSIE 4.01; MSN 2.5; AOL 4.0; Windows 98)";
$snoopy->referer = "http://www.lovean.com";

$snoopy->cookies["SessionID"] = 238472834723489;
$snoopy->cookies["favoriteColor"] = "RED";

$snoopy->rawheaders["Pragma"] = "no-cache";

$snoopy->maxredirs = 2;
$snoopy->offsiteok = false;
$snoopy->expandlinks = false;

$snoopy->user = "joe";
$snoopy->pass = "bloe";

if($snoopy->fetchtext("http://www.lovean.com"))
{
echo "<PRE>".htmlspecialchars($snoopy->results)."</PRE>n";
}
else
echo "error fetching document: ".$snoopy->error."n";
?>

获取指定url内容：

<?
$url = "http://www.lovean.com/";
include("snoopy.php");
$snoopy = new Snoopy;
$snoopy->fetch($url); //获取所有内容
echo $snoopy->results; //显示结果
//可选以下
//$snoopy->fetchtext //获取文本内容（去掉html代码）
//$snoopy->fetchlinks //获取链接
//$snoopy->fetchform  //获取表单
?>

表单提交：

<?php
$formvars["username"] = "admin";
$formvars["pwd"] = "admin";
$action = "http://www.***.net/**";//表单提交地址
$snoopy->submit($action,$formvars);//$formvars为提交的数组
echo $snoopy->results; //获取表单提交后的 返回的结果
//可选以下
$snoopy->submittext; //提交后只返回 去除html的 文本
$snoopy->submitlinks;//提交后只返回 链接
?>

既然已经提交的表单，那就可以做很多事情。接下来我们来伪装ip，伪装浏览器：

<?php
$formvars["username"] = "admin";
$formvars["pwd"] = "admin";
$action = "http://www.***.com";
include "snoopy.php";
$snoopy = new Snoopy;
$snoopy->cookies["PHPSESSID"] = 'fc106b1918bd522cc863f36890e6fff7'; //伪装sessionid
$snoopy->agent = "(compatible; MSIE 4.01; MSN 2.5; AOL 4.0; Windows 98)"; //伪装浏览器
$snoopy->referer = http://www.baidu.com; //伪装来源页地址 http_referer
$snoopy->rawheaders["Pragma"] = "no-cache"; //cache 的http头信息
$snoopy->rawheaders["X_FORWARDED_FOR"] = "127.0.0.101"; //伪装ip
$snoopy->submit($action,$formvars);
echo $snoopy->results;
?>

原来我们可以伪装session 伪装浏览器 ，伪装ip， haha 可以做很多事情了。例如 带验证码，验证ip 投票， 可以不停的投。

ps:这里伪装ip ，其实是伪装http头，所以一般的通过 REMOTE_ADDR 获取的ip是伪装不了，反而那些通过http头来获取ip的(可以防止代理的那种) 就可以自己来制造ip。

关于如何验证码 ，简单说下：首先用普通的浏览器， 查看页面 ， 找到验证码所对应的sessionid，同时记下sessionid和验证码值，接下来就用snoopy去伪造 。

原理：由于是同一个sessionid 所以取得的验证码和第一次输入的是一样的。

有时我们可能需要伪造更多的东西，snoopy完全为我们想到了：

<?php
$snoopy->proxy_host = "127.0.0.1";
$snoopy->proxy_port = "8080"; //使用代理
$snoopy->maxredirs = 2; //重定向次数
$snoopy->expandlinks = true; //是否补全链接 在采集的时候经常用到
// 例如链接为 /images/taoav.gif 可改为它的全链接
$snoopy->maxframes = 5 //允许的最大框架数
//注意抓取框架的时候 $snoopy->results 返回的是一个数组
$snoopy->error //返回报错信息
?>

比较完整的示例：

/**
* You need the snoopy.class.php from 
* http://snoopy.sourceforge.net/
*/
include("snoopy.class.php");
 
$snoopy = new Snoopy;
// need an proxy?:
//$snoopy->proxy_host = "my.proxy.host";
//$snoopy->proxy_port = "8080";
 
// set browser and referer:
$snoopy->agent = "Mozilla/4.0 (compatible; MSIE 6.0; Windows NT 5.1)";
$snoopy->referer = "http://www.jonasjohn.de/";
 
// set some cookies:
$snoopy->cookies["SessionID"] = '238472834723489';
$snoopy->cookies["favoriteColor"] = "blue";
 
// set an raw-header:
$snoopy->rawheaders["Pragma"] = "no-cache";
 
// set some internal variables:
$snoopy->maxredirs = 2;
$snoopy->offsiteok = false;
$snoopy->expandlinks = false;
 
// set username and password (optional)
//$snoopy->user = "joe";
//$snoopy->pass = "bloe";
 
// fetch the text of the website www.google.com:
if($snoopy->fetchtext("http://www.google.com")){ 
    // other methods: fetch, fetchform, fetchlinks, submittext and submitlinks
 
    // response code:
    print "response code: ".$snoopy->response_code."<br/>n";
 
    // print the headers:
 
    print "<b>Headers:</b><br/>";
    while(list($key,$val) = each($snoopy->headers)){
        print $key.": ".$val."<br/>n";
    }
 
    print "<br/>n";
 
    // print the texts of the website:
    print htmlspecialchars($snoopy->results)."n";
}
else {
    print "Snoopy: error while fetching document: ".$snoopy->error."n";
}

用Snoopy类完成一个简单的图片抓取：

<meta http-equiv='content-type' content='text/html;charset=utf-8'>
<?php    
include 'Snoopy.class.php';   //加载Snoopy类     
$snoopy = new Snoopy();       //实例化一个对象
$sourceURL = "http://www.***.com/***/";    //要抓取的网页
$snoopy->fetchlinks($sourceURL);        //获得网页的链接
$a = $snoopy->results;     //得到网页链接的结果
$re = "/d+.html$/";     //匹配的正则
//过滤获取指定的文件地址请求  
foreach ($a as $tmp) { 
    if (preg_match($re, $tmp)) {
        $aa=$tmp;        
     }    
}  
getImgURL($aa);
function getImgURL($siteName) 
{        
     $snoopy = new Snoopy();        
     $snoopy->fetch($siteName);                
     $fileContent = $snoopy->results;    //获取过滤后的页面的内容            
     //匹配图片的正则表达式        
     $reTag = "/<img[^s]+src="(http://[^"]+).(jpg|png|gif|jpeg)"[^/]*/>/i";                
    if (preg_match($reTag, $fileContent)) {  
           //过滤图片
        $ret = preg_match_all($reTag, $fileContent, $matchResult);                     
        for ($i = 0, $len = count($matchResult[1]); $i < $len; ++$i) 
        {      
            saveImgURL($matchResult[1][$i], $matchResult[2][$i]);            
        }        
    }    
}        
function saveImgURL($name, $suffix) { 
    $url = $name.".".$suffix;                
     echo "请求的图片地址：".$url."<br/>";                
     $imgSavePath = "E:/ABC/images/";  //图片保存地址      
     $imgId =mt_rand(); //产生一个随机的文件名
     if ($suffix == "gif") { 
        //根据图片类型，放入不同的文件夹下面           
          $imgSavePath .= "emotion";        
     } 
    else 
    {            
          $imgSavePath .= "topic";        
     }        
     $imgSavePath .= ("/".$imgId.".".$suffix);  //组装要保存的文件名
     if (is_file($imgSavePath)) {   
        //判断文件名是否存在，存在则删除         
          unlink($imgSavePath);            
          echo "<p style='color:#f00;'>文件".$imgSavePath."已存在，将被删除</p>";        
     }  
     $imgFile = file_get_contents($url); //读取网络文件     
     $flag = file_put_contents($imgSavePath,$imgFile);   //写入到本地 
     if ($flag) {            
          echo "<p>文件".$imgSavePath."保存成功</p>";        
     }    
}
?>

本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如若转载，请注明出处：http://www.coloradmin.cn/o/1504141.html

如若内容造成侵权/违法违规/事实不符，请联系多彩编程网进行投诉反馈，一经查实，立即删除！

相关文章

攻防世界——elrond32

攻防世界——elrond32

运行得到Access deny 我第一次尝试是 修改判断条件&#xff0c;jz改为jnz&#xff0c;jle改为jg&#xff0c; 这个思路运行后&#xff0c;代码因为缺少一个输入&#xff0c;而导致程序运行错误&#xff0c;所以我们只能静态分析 我们想进入Access grant 有两个函数&#xf…
阅读更多...
一篇搞懂什么是LRU缓存｜一篇搞懂LRU缓存的实现｜LRUCache详解和实现

一篇搞懂什么是LRU缓存｜一篇搞懂LRU缓存的实现｜LRUCache详解和实现

LRUCache 文章目录 LRUCache前言项目代码仓库什么时候会用到缓存(Cache)缓存满了&#xff0c;怎么办&#xff1f;什么是LRUCacheLRUCache的实现LRUCache对应的OJ题实现LRUCache对应的STL风格实现 前言 这里分享我的一些博客专栏&#xff0c;都是干货满满的。 手撕数据结构专栏…
阅读更多...
代码理解 pseudo_labeled = outputs.max(1)[1]

代码理解 pseudo_labeled = outputs.max(1)[1]

import torchls torch.Tensor([[0.2,0.4],[0.3,0.2]]) print(ls.max(1))
阅读更多...
电子数字灯LED管变化数量

电子数字灯LED管变化数量

第二种方法
阅读更多...
银河麒麟服务器ky10 server wvp镜像制作

银河麒麟服务器ky10 server wvp镜像制作

在线安装docker yum install docker -y cat >/etc/docker/daemon.json<<EOF{"registry-mirrors": ["https://registry.docker-cn.com","https://dockerhub.azk8s.cn","https://hub-mirror.c.163.com"]} EOF systemctl start …
阅读更多...
Kubernetes 安全秘籍：5 个你必须知道的知识点

Kubernetes 安全秘籍：5 个你必须知道的知识点

Kubernetes 安全和身份验证是确保集群和应用安全的关键。今天将深入探讨 Service Account、身份验证和RBAC的关键概念和实践&#xff0c;帮助您构建安全可靠的应用。今天本文将着重于安全相关的内容&#xff0c;并提供更详细的示例和配置说明&#xff0c;帮助兄弟们更深入地理解…
阅读更多...
北京智源表示大模型推断少用几层也可以，节省15%算力资源

北京智源表示大模型推断少用几层也可以，节省15%算力资源

在人工智能领域&#xff0c;大语言模型&#xff08;LLMs&#xff09;已经在各种下游任务中展现出了绝佳的性能。通常采用零次学习、少次学习和微调等多种评估协议。然而&#xff0c;LLMs的推理阶段非常昂贵&#xff0c;需要大量的计算资源。理想情况下&#xff0c;LLMs的推理阶…
阅读更多...
java-ssm-jsp-基于ssm的宝文理学生社团管理系统

java-ssm-jsp-基于ssm的宝文理学生社团管理系统

java-ssm-jsp-基于ssm的宝文理学生社团管理系统 获取源码——》公主号&#xff1a;计算机专业毕设大全
阅读更多...
贝叶斯优化CNN-LSTM回归预测（matlab代码）

贝叶斯优化CNN-LSTM回归预测（matlab代码）

贝叶斯优化CNN-LSTM回归预测matlab代码 贝叶斯优化方法则采用贝叶斯思想&#xff0c;通过不断探索各种参数组合的结果&#xff0c;根据已有信息计算期望值&#xff0c;并选择期望值最大的组合作为最佳策略&#xff0c;从而在尽可能少的实验次数下达到最优解。 数据为Excel股票…
阅读更多...
python 基础知识点（蓝桥杯python科目个人复习计划61）

python 基础知识点（蓝桥杯python科目个人复习计划61）

今日复习内容&#xff1a;想到什么复习什么 因为比赛用到的编辑器是IDLE&#xff0c;所以从现在开始&#xff0c;我就不用pycharm了。 例题1&#xff1a; 从1到2020的所有数字中&#xff0c;有多少个2&#xff1f; 这个题是一个填空题&#xff0c;我用的方法是先在编辑器上…
阅读更多...
基于YOLOv8深度学习的葡萄病害智能诊断与防治系统【python源码+Pyqt5界面+数据集+训练代码】深度学习实战

基于YOLOv8深度学习的葡萄病害智能诊断与防治系统【python源码+Pyqt5界面+数据集+训练代码】深度学习实战

《博主简介》 小伙伴们好&#xff0c;我是阿旭。专注于人工智能、AIGC、python、计算机视觉相关分享研究。 ✌更多学习资源&#xff0c;可关注公-仲-hao:【阿旭算法与机器学习】&#xff0c;共同学习交流~ &#x1f44d;感谢小伙伴们点赞、关注&#xff01; 《------往期经典推…
阅读更多...
华为新发布磁电存储“王炸”，到底是什么？

华为新发布磁电存储“王炸”，到底是什么？

最近&#xff0c;在巴塞罗那举行的2024年世界移动通信大会&#xff08;MWC24&#xff09;上&#xff0c;华为数据存储产品线总裁周彼得博士介绍了这款即将面世的产品。他向听众表示&#xff0c;与磁带存储相比&#xff0c;该设备可以降低20%的总连接成本&#xff0c;而与硬盘相…
阅读更多...
C# 中 Math.Round 数学函数

C# 中 Math.Round 数学函数

在 C# 中&#xff0c;Math.Round 是一个数学函数&#xff0c;用于对一个浮点数进行四舍五入操作。它接受一个浮点数作为输入&#xff0c;并返回一个最接近输入值的整数或指定小数位数的浮点数。 Math.Round 方法有多个重载&#xff0c;其中最常用的重载有以下两种形式&#xf…
阅读更多...
OpenTenBase 开发环境搭建及Debug设置

OpenTenBase 开发环境搭建及Debug设置

最近有个 OpenTenBase开源核心贡献挑战赛 领导建议大家都去试试&#xff0c;我也去凑了下热闹&#xff0c;发现能力有限一时半会是搞不明白了&#xff0c;最多也就是能搞搞文档翻译&#xff0c;或者写点操作手册啥的。 不过不管怎么样&#xff0c;先把开发环境搭上&#xff0c;…
阅读更多...
cannot import name ‘Flask‘ from partially initialized module ‘flask‘

cannot import name ‘Flask‘ from partially initialized module ‘flask‘

bug&#xff1a; ImportError: cannot import name Flask from partially initialized module flask (most likely due to a circular import) (G:\pythonProject6\flask.py) 这个是因为包的名字和文件的名字一样 修改文件名&#xff1a; 结果 &#x1f923;&#x1f923;&…
阅读更多...
基于PyTorch深度学习实战入门系列-(2)Numpy基础上

基于PyTorch深度学习实战入门系列-(2)Numpy基础上

导入Numpy模块 import numpy as np创建数组&#xff08;一维数组、小数数组、二维数组&#xff09; # 创建一个一维数组 n1 np.array([1, 2, 3]) # 创建一个含有小数的一维数组 n2 np.array([0.1, 0.2, 0.3]) # 创建一个简单的二维数组 n3 np.array([[1, 2], [3, 4]]) print…
阅读更多...
Rust教程：How to Rust-从开始之前到Hello World

Rust教程：How to Rust-从开始之前到Hello World

本文为第0篇 专栏简介 本专栏是优质Rust技术专栏&#xff0c;推荐精通一门技术栈的蟹友&#xff0c;不建议基础的同学&#xff08;无基础学Rust也是牛人[手动捂脸]&#xff09; 感谢Rust圣经开源社区的同学&#xff0c;为后来者提供了非常优秀的Rust学习资源 本文使用&…
阅读更多...
力扣由浅至深 每日一题.01 两数之和

力扣由浅至深 每日一题.01 两数之和

万物惊鸿&#xff0c;唯我澄明 —— 24.3.9 1. 两数之和https://leetcode.cn/problems/two-sum/ 给定一个整数数组 nums 和一个整数目标值 target&#xff0c;请你在该数组中找出 和为目标值 target 的那 两个 整数&#xff0c;并返回它们的数组下标。 你可以假设每种输入只会…
阅读更多...
C语言转义字符：一文打尽

C语言转义字符：一文打尽

转义字符 1. 前言2. 预备知识2.1 打印格式2.2 进制转换2.3 ASCII码 3. 什么是转义字符4. 常见的转义字符4.1 \?4.2 \4.3 \"4.4 \\4.5 \dddddd表示1到3个八进制数字4.6 \xdddd表示1到2个十六进制数字4.7 其他转义字符 5. 一道笔试题6. 一个小插曲 1. 前言 大家好&#xf…
阅读更多...
giffgaff怎么充值？giffgaff怎么续费？

giffgaff怎么充值？giffgaff怎么续费？

-性价比高&#xff1a;0月租&#xff0c;免费接收短信&#xff0c;充值一次&#xff0c;接码可以用20年以上&#xff08;仅需半年保号一次&#xff09;&#xff0c;可能是国内性价比最高的接码实体卡&#xff01;-安全&#xff1a;实体卡无须担心因号码被风控&#xff0c;还可以…
阅读更多...
推荐文章
最新文章

Copyright @ 2022~2023