(数据科学学习手札144)使用管道操作符高效书写Python代码
本文示例代码已上传至我的
Github
仓库https://github.com/CNFeffery/DataScienceStudyNotes
1 简介
大家好我是费老师,一些比较熟悉pandas
的读者朋友应该经常会使用query()
、eval()
、pipe()
、assign()
等pandas
的常用方法(相关知识详见我的pandas
专题教程https://www.cnblogs.com/feffery/tag/pandas/
),书写可读性很高的链式数据分析处理代码,从而更加丝滑流畅地组织代码逻辑。
但在原生Python
中并没有提供类似shell
中的管道操作符|
、R
中的管道操作符%>%
等语法,也没有针对列表等数组结构的可进行链式书写的快捷方法,譬如javascript
中数组的map()
、filter()
、some()
、every()
等。
正所谓“标准库不够,三方库来凑”,Python
原生对链式写法支持不到位没关系,我们可以使用一些简单方便且轻量的第三方库来协助我们在Python
代码中大面积实现链式写法,今天的文章中费老师我就将带大家一起学习相关的知识技巧~
2 在Python中配合pipe灵活使用链式写法
我们将使用到pipe
这个第三方库,它不仅内置了很多实用的管道操作函数,还提供了将常规函数快捷转换为管道操作函数的方法,使用pip install pipe
对其进行安装即可。
pipe
的用法非常方便,类似shell
中的管道操作:以你的数组变量为起点,使用操作符|
衔接pipe
内置的各个常见管道操作函数,组装起自己所需的计算步骤即可,譬如,我们筛选输入数组中为偶数的,再求平方,就可以写作:
import pipe
list(
range(10) |
pipe.filter(lambda x: x % 2 == 0) |
pipe.select(lambda x: x ** 2)
)
因为pipe
搭建的管道默认都是惰性运算的,直接产生的结果是生成器类型,所以上面的例子中我们最外层套上了list()
来取得实际计算结果,更优雅的方式是配合pipe.Pipe()
,将list()
也改造为管道操作函数:
from pipe import Pipe
(
range(10) |
pipe.filter(lambda x: x % 2 == 0) |
pipe.select(lambda x: x ** 2) |
Pipe(list)
)
在上面的简单例子中我们使用到的filter()
、select()
等就是pipe
中常见的管道操作函数,事实上pipe
中的管道操作函数相当的丰富,下面我们来展示其中一些常用的:
2.1 pipe中常用的管道操作函数
2.1.1 使用traverse()展平嵌套数组
如果你想要将任意嵌套数组结构展平,可以使用traverse()
:
(
[1, [2, 3, [4, 5]], 6, [7, 8, [9, [10, 11]]]] |
pipe.traverse |
Pipe(list)
)
2.1.2 使用dedup()进行顺序去重
如果我们需要对包含若干重复值的数组进行去重,且希望保留原始数据的顺序,则可以使用dedup()
,其还支持key
参数,类似sorted()
中的同名参数,实现自定义去重规则:
(
[-1, 0, 0, 0, 1, 2, 3] |
pipe.dedup |
Pipe(list)
)
(
[-1, 0, 0, 0, 1, 2, 3] |
# 基于每个元素的绝对值进行去重
pipe.dedup(key=abs) |
Pipe(list)
)
2.1.3 使用filter()进行值过滤
我们最开始的例子中使用过它,用法就是基于传入的lambda
函数对每个元素进行条件判断,并保留结果为True
的,与javascript
中的filter()
方法非常相似:
(
[1, 4, 3, 2, 5, 6, 8] |
# 保留大于5的元素
pipe.filter(lambda x: x > 5) |
Pipe(list)
)
2.1.4 使用groupby()进行分组运算
这个函数非常实用,其功能相当于管道操作版本的itertools.groupby()
,可以帮助我们基于lambda
函数运算结果对原始输入数组进行分组,通过groupby()
操作后直接得到的结果是分组结果的二元组列表,每个元组的第一个元素是分组标签,第二个元素是分到该组内的各个元素:
基于此,我们可以衔接很多其他管道操作函数,譬如衔接select()
对分组结果进行自定义运算:
2.1.5 使用select()对上一步结果进行自定义遍历运算
这个函数是pipe()
中核心的管道操作函数,通过前面的若干例子也能弄明白,它的功能是基于我们自定义的函数,对上一步的运算结果进行遍历运算。
2.1.6 使用sort()进行排序
相当于内置函数sorted()
的管道操作版本,同样支持key
、reverse
参数:
上述内容足以支撑大部分日常操作需求,你也可以在https://github.com/JulienPalard/Pipe
中查看pipe
的更多功能介绍。
以上就是本文的全部内容,欢迎在评论区与我进行讨论~
相关文章
- 快速入门Python机器学习(27)
- 快速入门Python机器学习(34)
- python中pygame怎么安_Python中pygame安装方法图文详解
- 浙江新增python编程_9月起,浙江省八年级新增Python编程课,未来编程是处理大数据的手段…「建议收藏」
- python解压bz2文件命令,在Python中解压缩.bz2文件
- python中dtype什么意思_NumPy Python中的数据类型对象(dtype)
- python数据分析、可视化、Scikit-learn、数据科学、机器学习、深度学习的区别2021.8.17
- Python 技巧篇-pip卸载python库实例演示,查看pip命令大全方法[通俗易懂]
- python输出unicode编码_Python以utf8编码读取文件
- python zipfile_Python 学习入门(16)—— zipfile
- python django 数据库_Apache+Mysql+PHP/Python简单项目
- python lambda表达式举例_Python中lambda表达式[通俗易懂]
- Python中用PyTorch机器学习神经网络分类预测银行客户流失模型|附代码数据
- 遥感数据机器学习的准备工作:python将栅格数据提取至EXCEL
- PYTHON银行机器学习:回归、随机森林、KNN近邻、决策树、高斯朴素贝叶斯、支持向量机SVM分析营销活动数据|数据分享|附代码数据
- PYTHON银行机器学习:回归、随机森林、KNN近邻、决策树、高斯朴素贝叶斯、支持向量机SVM分析营销活动数据|数据分享|附代码数据
- python-Python与PostgreSQL数据库-使用Python执行PostgreSQL查询(二)
- python实现爬虫数据存到 MongoDB
- Python 中使用 MongoDB 存储爬虫数据详解编程语言
- Python玩转Redis:提升缓存效率(python使用redis)
- python用Redis与Python实现大数据收集与分析(redis 联合)
- 学习python(2)
- Python学习笔记_数据排序方法