网站robots.txt探测工具Parsero
2023-09-11 14:17:01 时间
网站robots.txt探测工具Parsero
robots.txt文件是网站根目录下的一个文本文件。robots.txt是搜索引擎中访问网站的时候要查看的第一个文件。当搜索引擎访问一个站点时,它会首先检查该站点根目录下是否存在robots.txt。如果存在,搜索引擎就会按照该文件中的内容来确定访问的范围;如果该文件不存在,则会够访问网站上所有没有被口令保护的所有页面。
网站为了防止搜索引擎访问一些重要的页面,会把其所在的目录放入robots.txt文件中。所以,探测该文件,也可以获取网站的重要信息。Kali Linux提供一个小工具Parsero,可以探测指定网站的robots.txt文件,并确认实际可访问性。
PS:该工具需要用户使用apt-get命令手动安装。
相关文章
- phonegap(cordova) 自己定义插件代码篇(六)----android ,iOS 微信支付工具整合
- Linux Command tcpdump 抓包工具
- pyDash:一个基于 web 的 Linux 性能监测工具
- ASM 翻译系列第三十二弹:自制数据抽取小工具
- Joomla!网站扫描工具joomscan
- 《网站情感化设计与内容策略》一第10章 工具和技术10.1 我们所创作的东西
- Mozilla网站安全分析工具Observatory已发布
- JMeter学习-036-JMeter调试工具之三---Debug Sampler
- 创业前需要知道的5个编程谬论(如果错将工具当作了目标,那么注定你将一败涂地。客户不关心你的代码,只关心效果)
- 工具 | 常用各学科 学习网站直达
- 商业数据可视化分析工具种类汇总
- docsify网站文档工具用法总结
- 如何生成Android签名证书、安卓签名获取工具获取APP签名报错:NameNotFoundException: Signs is null的问题
- Java虚拟机:性能监控与故障处理工具
- 美国大数据产业地图和数据科学家必备工具-数据源
- 本地运行ASP.NET 网站组件CYQ.IIS发布--网站项目展示必备工具
- 秋色园QBlog技术原理解析:博客一键安装工具技术实现[附源码下载]
- Windows 7环境下网站性能测试小工具 Apache Bench 和 Webbench使用和下载
- Redis可视化工具 Redis Desktop Manager