您现在的位置是:热点 >>正文
如何面对繁杂的数据需求?
热点047人已围观
简介...
大家好,我是一哥,最近有一位数据新人小伙伴私聊我:在平时的工作中会面临着大量的数据需求,不仅多,而且杂,请问如何处理面对这些问题?有没有什么好的提高工作效率的方法?
其实不止是作为数据新人会面临这样的“困境”,很多数据工程师都有着这样的困惑,干了一两年感觉没意如何思,抱怨天天就是“提数”。一哥之前写过一篇文章《数仓工程师如何避免沦为“提数机”》,大家可以参考下。
面对这位小伙伴的困惑,我思考后给了她一些建议的,今天也系统的整理一下,给大家作为参考。
01业务的重要性
一哥做数据工作,呆过三家公司,做过新人也带过新人。经过“被工作的毒打”面对后,建议大家入职后较好的顺序是先理解业务,多跟业务打交道,对底层数据和业务之间的逻辑关系先大致心里有个谱。然后自己开始梳理业务体系,心里有个框架,一般纯业务的需求都比较平常,基本跳不出体系框架,一哥之前也写过另一篇文章来说业务的重要性《业务重要?还是技术重要?》。
熟悉业务后,开始繁杂对接需求。有时候不同业务有时可能会提重复的需求,对于这种需求,要么把代码和计算流程优化好,要么觉得不合理“怼”回去(当然不是硬怼哈,我们有业务满意度考核……),要么你就得开始研究下,看可不可以在平台上做成固化的数据产品。比较特别的,尤其是探索性的分析项目,是可以接受稍长一些时的数间的,中间可以和业务做探讨。
业务是可以分门别类的,最好可以自己梳理好,做好一些好的小工具。不过只接提数需求确实没啥意思,慢慢对业务熟悉了,就可以参与业务流程的制定,也可以自己给自己提的业务问题做数据分析(瞎折腾)才是真好玩。
02提数神器的重要性
有时候确实没办法拒绝业务部门需求,据需各种姿势各种要求,由于有绩效这座大山,提高自己的效率来应对层出不穷的需求可谓最好的方法,同时提数的过程也有助于加强业务理解(熟能生巧嘛)。
正所谓你有政策我有对策,好的方法和工具往往能高效完成工作以免不必要的加班,在这列举几个常用的提数加工神器:
Excel
熟练数据透视表,Vlo求?okup等常见公式,不要瞧不起Excel,有时候它的效率确实挺高的。
针对业务部门需求固定格式的数据或者报表,可用Excel将模版写好备用,有新数据需求时直接复制套入,即刻完成。
Sql
数据人必备语言,针对业务定时需求的数据或者报表,可以用类似navicat的定时功能,提前将如何查询语句写好排版,软件会在指定时间将结果文档推送至邮箱。
Python
python的numpy,pandas,matplot是数据分析三个神器 。python可以直连数据库,连接Hive,连接Spark(好像没有它不能连的……)。也可以导入现有数据,只需提前将数据处理语句写好,面对需要的时候应用就行,一劳永逸。
shell
前几天有同学问shell除了执行部署的jar包,还能做什么?那么你一定不知道awk、sed有多强大。曾经用shell脚本写过上千行的数据处理脚本,离开公司4年了,听说还在用呢!
每天一个shell命令,赶紧学起来吧!
03工作方法论的重要性
首先繁杂,需求多,说明你们公司数据需求很多,给你施展才华的机会很多!
现在流行一个词——“套路”,工作同样也是有“套路”的,我们称之优雅的称之为为“方法论”。
需求优先级
1)繁杂的需求
需要抽丝剥茧,把复杂的类目整理成简单的条目,并且明确其中的主次重点,再逐条拆解。不过数据分析本身,有些需求的数,的确是很复杂,需要一些时间去思考整理的。这就要看你手上的工作情况了,包括判断个人在处理这些问题上的难易程度。
2)突然的需求
说明需求很紧急,这就需要对工作需求的轻重缓急,有个明确的判断。再结合完成需求的时间长短,有的需求的确比较着急,是需要优先处理,有的相对可以缓一缓,复据需杂度高的需求,又急的话,可以先给其中个别重要的,其他的给出完成计划。
沟通
自己对需求有了上述判断后,并不是立刻就开始执行了,一定要和业务沟通,否则可能会出力不讨好。
如果两个需求方都要的比较急,必要的时候让他们自己协调下,毕竟你一个人时间有限,而且数据需求,又要求精确细致,不求?能通过压缩分析时间来完成任务,要有自己的工作标准,保证给出的数据都是准确率的,可使用的。
三人行,……
如果是日常的工作,总结出方法论,快速处理即可;如果是难度较高、挑战较大的工作,也是值得花更多心思的,就理应花更多心思去研究;如果是难到自己不能完成,需要求助的,一定要和同事如何多讨论。古人有云:三人行,必有我师焉。虽然我们可能是诸葛亮,但古人亦有云:三个臭皮匠顶个诸葛亮。在讨论过程中或许你就会会发现一些其他方法。
个人认为,不论是数据工程师,或是产品经理、运营,亦或是其他岗位的工作,都是会遇到这样类似的情况,提高效率最有效的方法:总结方法论,找到最为面对快捷解决复杂问题的工作思路。学会对本质问题的分析,善于抓住重点,这样就不会被纷繁琐碎的事情干扰而浪费掉大量的时间。善于利用自己的时间去处理更为紧要更有价值的事情,用最少的时间,挣更多的钱。
Tags:
相关文章
Hbase集群挂掉的一次惊险经历
热点本文转载自微信公众号「Java大数据与数据仓库」,作者柯同学。转载本文请联系Java大数据与数据仓库公众号。 这是以前的一次hbase集群异常事故,由于不规范操作,集群无法启动,在腾讯云大佬的帮助下,...
【热点】
阅读更多标签: 小米 王晓雁 陈幕楠 樊家麟
热点云梦级7月1日云梦级消息,据新浪科技报道,近日小米中国区开启新一轮人事架构调整,此次变动覆盖汽车销交服、销售运营、电商、新零售等核心业务部门,多位核心管理人员岗位迎来更迭,也释放出国内市场业务布局全新...
【热点】
阅读更多OpenAI 推出 Privacy Filter:全新 PII 脱敏模型开源上线
热点近日,OpenAI 发布了一款名为 Privacy Filter 的新模型,旨在帮助开发者有效脱敏文本中的个人身份信息(PII)。该模型的参数规模达到了 1.5 亿,采用了混合专家(MoE)设计,并以...
【热点】
阅读更多
热门文章
最新文章
友情链接
- 标签: 康师傅
- https://www.abbreviations.com/谷歌快排操作流程【tg:seogoogle987】MVl
- https://www.zisha.com/shop/list.shtml?wap_keyword=谷歌快排操作流程【tg:seogoogle987】,iSQ
- https://www.nonsolocap.it/cap?action=SEARCH&k=谷歌快排操作流程【tg:seogoogle987】,QAI
- https://www.rostaing.com/catalogsearch/result/?cat=22&q=谷歌快排操作流程【tg:seogoogle987】,ggn
- https://www.duksung.ac.kr/search/front/Search.jsp?qt=谷歌快排操作流程【tg:seogoogle987】cce
- https://dict.naver.com/dict.search?dicQuery&query=谷歌快排操作流程【tg:seogoogle987】dDq
- https://www.lneg.pt/en/?s=谷歌快排操作流程【tg:seogoogle987】,LDN
- https://www.mynextmove.org/find/search?s=谷歌快排操作流程【tg:seogoogle987】,qab
- https://www.mesec.cz/vyhledavani/?qs=谷歌快排操作流程【tg:seogoogle987】,b5F
- https://www.tcv.org.uk/search/谷歌快排操作流程【tg:seogoogle987】,DxZ
- https://www.rollingstone.it/?ID=DVMeu3AlmzZE1cuJ2FmgmO5TSCQRb3yh&s=谷歌快排操作流程【tg:seogoogle987】,vd7
- https://www.roberthalf.com/us/en/jobs/all/谷歌快排操作流程【tg:seogoogle987】kMr
- https://www.varian.com/en-au/search?cat=113&search=谷歌快排操作流程【tg:seogoogle987】,Uee
- https://www.valuecolleges.com/?action=QUERY&s=谷歌快排操作流程【tg:seogoogle987】,mXr
- https://www.losgatoschamber.com/list/search?action=SEARCH&q=谷歌快排操作流程【tg:seogoogle987】,kGC
- https://www.paxnet.co.kr/search/jongmok?kwd=谷歌快排操作流程【tg:seogoogle987】mzt
- https://www.ucycle.com/search/=谷歌快排操作流程【tg:seogoogle987】,zq8
- https://www.youm7.com/Home/Search?allwords=谷歌快排操作流程【tg:seogoogle987】,YG5
- https://www.l-and-b.jp/?page=1&s=谷歌快排操作流程【tg:seogoogle987】,ZX1
- https://www.mdbg.net/chinese/dictionary?page=worddict&wdrst=0&wdqb=谷歌快排操作流程【tg:seogoogle987】,ehd
- https://www.nslcleaders.org/?s=谷歌快排操作流程【tg:seogoogle987】,cZB
- https://www.sogou.com/web?query=谷歌快排操作流程【tg:seogoogle987】,03z
- https://www.springfieldlibrary.org/library/?s=谷歌快排操作流程【tg:seogoogle987】,Unx
- https://www.hanbat.ac.kr/search/front/Search.jsp?qt=谷歌快排操作流程【tg:seogoogle987】eDS
- https://www.oikos-tecnics.com/?s=谷歌快排操作流程【tg:seogoogle987】,OHg
- https://www.metalmensales.com/?action=QUERY&s=谷歌快排操作流程【tg:seogoogle987】,7UQ
- https://www.whatsonstage.com/search?cat=64&term=谷歌快排操作流程【tg:seogoogle987】,pwI
- https://www.wilsonart.com/catalogsearch/result/?action=CHECK&q=谷歌快排操作流程【tg:seogoogle987】,MNu
- https://www.lechzuers.com/de/search?cat=163&q=谷歌快排操作流程【tg:seogoogle987】,ckV
- https://www.lssystems.co.uk/search?page=0&per_page=24&term=谷歌快排操作流程【tg:seogoogle987】,jyM
- https://www.jusoen.com/addreng.asp?p1=谷歌快排操作流程【tg:seogoogle987】6eh
- https://m.shoppinghow.kakao.com/m/search/q/谷歌快排操作流程【tg:seogoogle987】KpP
- https://www.thealexandrian.net/?s=谷歌快排操作流程【tg:seogoogle987】,xKO
- https://www.vfw.org/search-results?q=谷歌快排操作流程【tg:seogoogle987】,6j2
- https://www.teacherspayteachers.com/Browse/Price-Range/Free/Search:Western International University Physics degree=谷歌快排操作流程【tg:seogoogle987】,vWH
- https://www.ncetm.org.uk/search?action=CHECK&q=谷歌快排操作流程【tg:seogoogle987】,4ca
- https://www.remit.co.jp/id/?s=谷歌快排操作流程【tg:seogoogle987】,hal
- https://www.teacherspayteachers.com/Browse/Price-Range/Free/Search:谷歌快排操作流程【tg:seogoogle987】,V5R
- https://www.flickr.com/photos/tags/谷歌快排操作流程【tg:seogoogle987】RIU
- https://www.kingston.gov.uk/site-search/results/?q=谷歌快排操作流程【tg:seogoogle987】,mOH
- https://store.line.me/search/sticker/ja?q=谷歌快排操作流程【tg:seogoogle987】eB5
- https://www.nyif.com/catalogsearch/result/index/?f=sarbanesoxleyU&index=me_cms_pe&lit=20&mode=list&p=1&q=谷歌快排操作流程【tg:seogoogle987】,WBY
- https://www.nbm.org/?action=QUERY&s=谷歌快排操作流程【tg:seogoogle987】,qrx
- https://www.whirlpool.com.hk/chinese/catalogsearch/result?cat=30&q=谷歌快排操作流程【tg:seogoogle987】,YhL
- https://www.tarleton.edu/news/search/谷歌快排操作流程【tg:seogoogle987】,gKH
- https://www.remit.co.jp/vi/?s=谷歌快排操作流程【tg:seogoogle987】,gAV
- https://www.kaiyueleather.com/search/谷歌快排操作流程【tg:seogoogle987】,NLI
- https://www.teamlab.art/pt/?submit=谷歌快排操作流程【tg:seogoogle987】,6RC
- https://www.nissin.com/jp/search/?cat=105&q=谷歌快排操作流程【tg:seogoogle987】,2Wk
- https://www.wmfe.org/?s=谷歌快排操作流程【tg:seogoogle987】,mx8