数据大师Olivier Grisel给志向高远的数据科学家的指引
摘要:几周前,作者写了一篇关于旁听Florian Douetteau(FD)采访Olivier Grisel的博文。此篇是采访的第二部分,主要讨论初级数据科学家可以使用的一些技巧和诀窍。
Olivier Grisel(OG)本人在InriaParietal工作,主要研发scikit-learn,使用Python语言编写的最流行的机器学习库之一。OG是机器学习、文本挖掘和自然语言处理领域的专家。大概在几周前,我们的Florian Douetteau (FD)对OG进行了一次访谈,很幸运,我得到这个机会去旁听。
今天,Olivier深入到技术层面进行探讨,他回答了数据科学初学者提出的问题。
不要等待,数据科学从现在开始!
明智地选择大规模
FD:这个问题来自某个机器学习初学者,他不知道该使用哪个框架和算法可以获得更强的扩展能力,你有什么建议呢?
OG:一个很好的规则就是根据你最终必需处理的数据量来抉择,当然还要把未来数据的增量考虑进去。最近,一台配置很好的机器可以有上百G的RAM。当然,原始数据集可能比这更大。一旦你提取了特征并将其转为数值表,你就可以得到更小的数据集,那样你就可以在内存中处理数据并使用scikit-learn运行预测模型。实际上,想要你的系统具有可扩展性,并不意味着你就必须使用MLlib。
大数据基础设施的挑战
FD:人们开始考虑如何管理大量的数据,对于如何得到一个很好的衡量标准,你的建议是什么呢?
OG:在你开始做机器学习之前,从一个基本模型开始很重要。比如,你可以对这些基本模型计算平均值。当你在Spark中做这些基本计算时,你可以看看管道和处理时间,确保在你的模型变得复杂之前,你没有设置一些多余的东西。
我建议他们选择自己数据中的一个子样本,在内存中能装得下,这样就可以使用所有可用的算法来做比较机器学习的分析结果,甚至是那些永远不能部署到整个集群的算法。你要记住,MLlib是通过限制它的算法面板来达到可扩展性功能。这表示它们如今的库并不像R或Python包那样多。子样本总归还是好的,回到小数据世界能确保你遵循正确的方法。
事实上,你也应该这样做,这样你就可以确保当你向你的样本添加更多的数据时,实际上你是在提高你的模型性能。这有利于检查。
将工作分析流程从一种语言(如Python)复制到另一种(如R或Scale),也是个不错的想法。像Data Science Studio这种工具,它使得在同一个数据上使用不同的编程语言设计两个管道变得更加容易。有些操作可能在另一些框架上表现的更自然或者更加高效,而且做这种管道转变训练是建立实践直觉的快速方式。一旦你的两个管道产生了一致的输出,那么你可以去请教经验丰富的同事或者专家朋友来帮你快速地检查下代码。他(她)应该知道如何使你的代码更加高效或更加精简并且避免语法错误。
FD:你可以给出一些你或者你的团队使用scikit-learn运行大数据集的例子么?
OG:这真的取决于我们正在研究和试验中的模型。当样本上升到数以万计的时候,一些模型就会失效。我们团队研究的数据集大概有百万兆字节,但是他们做了大量的预处理和降维操作。
对于缺乏经验的用户,这一点真的必须考虑。如果他们研究的数据集真的足够大,他们可能自然而然地选择使用Spark。但这种方法最终可能会以效率较低而失败告终。如果他们多给予一点思考,原本使用Spark需要消耗CPU几个小时来计算的任务,在笔记本上使用scikit-learn可能5分钟就完成了。实际上每种新的技术都是一把双刃剑。
Python VS R
FD:对于数据科学初学者而言,应该如何选择学习哪种语言和框架呢,你有好的建议么?
OG:个人认为,你必须根据你的喜好来选择,如果你身边有这方面的专家,你还可以依据他的情况而定。在数据科学中,交流可以让你学到更多的知识。如果你去参加聚会或者与其他人报名参加Kaggle比赛,那么你一定要抓住与专家互动交流的机会,这真的很重要。与他们相互交流学习的技巧和诀窍是学习数据科学很好的方式。
之后,将分析思路用另一个框架来表达就更加容易了。如果你掌握了一种语言,这种学习语言的方法是一样的。这一点最重要。这对于像Data Science Studio这种工具也是很有用的。你可以用它在一个环境下尝试不同的语言和技术。当你能轻松的比较结果时,将分析思路从一种语言翻译成另一种语言其实很简单,比如Python和R。
原文发布时间为:2015-10-17
本文来自云栖社区合作伙伴“大数据文摘”,了解相关信息可以关注“BigDataDigest”微信公众号
相关文章
- 玩转 GPU 实例之终结篇 – 深度学习的工具与框架
- 参加 FORMULA 1 DeepRacer ProAm 特别活动
- Amazon Sagemaker 与 NVIDIA Jetson 平台结合打造智能边缘
- 基于 Amazon SageMaker 进行汽车型号的图像识别——一个基于深度学习迁移学习的端到端图像分类器
- 利用深度强化学习实现金融决策自动化
- 使用 AWS Neuron SDK 在 AWS Inferentia 芯片上进行机器学习推理
- AWS DeepRacer League:虚拟赛道开放,2020 赛季如火如荼!
- 使用 Amazon SageMaker Ground Truth 执行语义分割添加标签时自动分割对象
- 使用 Amazon SageMaker 降低机器学习的总体拥有成本并提高工作效率
- 为共享和协作而优化的现代分析平台 –使用 Mode 和 Amazon Redshift建设分析堆栈
- 回顾第一部分 – 2019 年 re:Invent 大会上的开源
- Amazon SageMaker Debugger – 调试机器学习模型
- Amazon SageMaker Experiments – 组织、跟踪和比较机器学习训练
- python logging模块学习
- 如何结合使用 ProxySQL 和开源平台来拆分 Amazon Aurora 集群上的 SQL 读写操作
- 物联网设备在 OTA 场景下利用证书方式进行 AWS 平台资源的授权访问
- python | np.eye()函数
- GE Aviation 如何转型为以原生云为本的敏捷软件组织 | AWS 云企业战略博客
- python httplib学习笔记
- 来见见最新的 AWS 精英吧! 2019 年 6 月