python脚本实现分析dns日志并对受访域名排行
前段时间有个需求是要求查一段时间的dns上的域名访问次数排行(top100),没办法,只好慢慢的去解析dns日志呗,正好学习了python,拿来练练手。
1.原始数据分析:
首先看下原始数据文件,即dns日志内容,下面是抽取的几条有代表性的日志,2×8.2×1.2x.1×5这种中间的x是相应的数字被我抹去了。
13-08-3003:11:34,226INFO:queries:?|1×3.2×8.2×0.2×0|config.dengluqi.net||config.34245.com.;127.0.0.1;||A|success|+|?G—-qrrdra|1|
13-08-3003:11:34,229INFO:queries:?|1×3.2×8.2x.2×8|p19.qhimg.com|default|2×8.2×1.2x.1×5;|default;|A|success|+|—w—qraardra|8061|
13-08-3003:11:34,238INFO:queries:?|1×3.2×8.x.9x|shu.taobao.com|default|2×8.2×1.2x.1×5;|default;|A|success|+|—w—qraardra|59034|
13-08-3003:11:34,238INFO:queries:?|1×3.2×8.2×7.1×2|cncjn.phn.live.baofeng.net|default|2×8.2×1.2x.17x;|default;|A|success|+|—w—qraardra|3004|
可以看出中间的日志采用的是| 分割的,shu.taobao.com即为我们想要的数据域名,至于域名访问次数统计,则每个域名的一条记录算一次访问。由此我们可以确定一下两点:
a)采用|作为分割符
b)第二个字段domain为目标数据,我们用作键值,即字典的key
c)domain[key]存储相应域名的访问次数
2.脚本构思:
a)我们的dns日志都是隔一段时间自动切割、压缩为gz文件,因此首先必须采用gzip.open去打开gz文件,这里需要导入gz库。
b)要求查找的是一段时间的域名排行,所以必须有得过滤一段时间,这里我采用了正则的方式去过滤,so导入re正则库。
c)排序,必须对结果进行排序,然后输出topXX的结果,由于是采用字典保存的,而字典是乱想的,所以必须有合适的办法去排序,字典的iteritems正好适用。
3.脚本编写:
明白了大致要点,脚本写起来就很easy了。
代码如下:
#writebysiashero
importgzip
importre
file=gzip.open("e:\python_programs\queries.log.CBN-XA-1-3N3.20130803160052.gz")
domain_list={}
print"timeformatis13-08-0419:1{1,2,3,4,5}"
time=raw_input("pleaseenteratimeyouwanttoanalysis")
whileTrue:
line=file.readline()
ifnotline:
break
ifre.search(time,line):
domain=line.split(‘|")[2]
ifdomainindomain_list:
domain_list[domain]+=1
else:
domain_list[domain]=1
count=0
forvinsorted(domain_list.iteritems(),key=lambdax:x[1],reverse=True):
printv[1],v[0]
#toprinttheonlytop20domain
ifcount>20:
break
count+=1
raw_input("enterawordtofinish")
file.close
稍微说下脚本内容,queries.log.CMN-CQ.20130830031330.gz为具体的一个目标文件,脚本主要是采用字典存储,以domain字段作为key,domain[key]存储访问次数。
稍后调用字典的iteritems方法生产迭代器进行排序,最后输入top100的域名。
最后的raw_input(“enterawordtofinish”)是因为我在win7下测试的,默认执行完就一闪而过了,加入这行纯碎是为了观察结果,linux下可以删去。
这里稍微别扭的是时间的过滤采用的是正则去过滤的,所以要求输入必须是正则的方式,这点麻烦。
3.执行
说了大半天了,还是先跑下看看效果吧。
可以看出正常输出了top20的域名。
4.总结:
大致实现了相应的要求,只是很多的文件处理的不大好。例如采用正规去过滤时间段,在数据量很大的情况下会对性能有影响。同时感谢同事,最后的字典的排序方法我是抄他的,感谢个~
相关文章
- 自动化神器!Python 批量读取身份证信息写入 Excel
- Python包管理必备–pip命令&设置镜像源[通俗易懂]
- python中矩阵的转置_[转]Python中的矩阵转置[通俗易懂]
- python中的int函数_python int()
- 【说站】python密码生成器的使用
- 【说站】python dump方法的序列化
- 【说站】python中pdb有哪些调试命令
- python lambda表达式 if_Python学习-lambda表达式
- python中copy.deepcopy_Python eval
- Python绘制旭日图_python绘制散点图
- Python读写LMDB文件「建议收藏」
- 数据结构与算法Python_数据结构与算法python语言实现
- 你真的会整理文件吗(FindDupFile去重+Python批量重命名)
- Python速查表大全
- 小试Python(二)
- Python 异步执行 Threading
- Python数据分析库Pandas
- python-Python与SQLite数据库-SQLite数据库的基本知识(二)
- python-Python与MongoDB数据库-处理MongoDB查询结果
- Python collections.OrderedDict解决dict元素顺序问题详解编程语言
- 用Python简化Linux指令:从繁琐变简单(python运行linux命令)
- 开发Linux下Python编程:实现自己的开发梦想(linux下python)
- Linux升级:升级Python到最新版本(linux升级python版本)
- 安装Python MySQL驱动之快速指南(python安装mysql驱动)
- 从Python连接Oracle数据库介绍(python连接oracle)
- Python轻松连接SQL Server数据库(python连接sqlserver)
- Python中的异常处理学习笔记