数据处理工程师岗位职责 第1篇
1、3年以上etl开发经验,熟悉etl开发规范和流程;
2、熟练使用datastage、informatica、kettle、hive、plsql、spark、mapreduce等工具中的一个或多个,有开发、维护经验;
3、熟练编写存储过程,擅长sql优化;
4、熟悉oracle、sqlserver等常用数据库中的`一个或多个;
5、熟悉perl、shell脚本,linux操作系统;
6、有大型数据仓库、bi相关项目的开发经验,精通架构、建模者优先;
7、熟练使用erwin或powerdesigner等进行数据建模;
8、以下经验优先考虑:流式处理、日志处理、数据仓库全日制本科以上学历(985/211),计算机科学与技术/软件工程/数据相关专业
1、3年以上etl开发经验,熟悉etl开发规范和流程;
2、熟练使用datastage、informatica、kettle、hive、plsql、spark、mapreduce等工具中的一个或多个,有开发、维护经验;
3、熟练编写存储过程,擅长sql优化;
4、熟悉oracle、sqlserver等常用数据库中的一个或多个;
5、熟悉perl、shell脚本,linux操作系统;
6、有大型数据仓库、bi相关项目的开发经验,精通架构、建模者优先;
7、熟练使用erwin或powerdesigner等进行数据建模;
8、以下经验优先考虑:流式处理、日志处理、数据仓库
数据处理工程师岗位职责 第2篇
数据处理工程师(大数据项目)全成通信上海全成通信技术有限公司,全成通信,全成岗位职责:
1、负责大数据平台的日常维护和监控
2、负责大数据项目日报发布工作
3、负责日报数据的统计
4、负责大数据项目日常数据的计算、分析和维护
任职要求:
1、一年以上相关工作经验,有电信行业经验者优先
2、熟悉linux和excel,熟练使用perl或者其他的'脚本语言
3、具有oracledll/dml技术的使用经验
4、具有良好的团队合作精神,有较强的学习能力、适应能力、沟通能力
数据处理工程师岗位职责 第3篇
职责描述:
1、负责poi数据的属性分析、处理和关系挖掘,构建地图领域的知识图谱。
2、负责nlp、数据挖掘、深度学习等方向的前沿算法研发,并结合地图场景优化。
任职要求:
1、计算机、数学或相关专业,三年以上工作经验。
2、熟悉数据结构和算法设计,熟练使用c++、python。
3、熟悉nlp、机器学习、数据挖掘领域的常用算法与工具,对前沿技术保持热情。
4、良好的.分析和解决问题能力,能独立承担研发工作。
5、有地图数据优化工作背景优先。
团队介绍
主要支持北京岗位
对地图(无人驾驶)、广告(广点通)、快报感兴趣的欢迎勾搭
数据处理工程师岗位职责 第4篇
数据处理工程师岗位职责
数据处理工程师1)直接面对客户,参与项目运作中数据处理,了解客户软硬件要求;
2)参与、协助数据收集和模型建构;
3)安装、调试公司软件在客户端上线;
4)开发常用数据处理功能,帮助业务团队提高工作效率;
5)与香港、新加坡和纽约团队合作,为亚太地区技术服务提供支持。·计算机或软件相关专业,本科及以上学历;
·掌握两门以及常见数据库设计开发技术,mysql、oracle、sqlserver、hive等;
·具有参加过etl开发项目,处理过(大)数据经验优先;
·工作细心、认真负责且善于沟通,能快速理解业务,对数据敏感,并能主导项目的进度,保证团队产出。1)直接面对客户,参与项目运作中数据处理,了解客户软硬件要求;
2)参与、协助数据收集和模型建构;
3)安装、调试公司软件在客户端上线;
4)开发常用数据处理功能,帮助业务团队提高工作效率;
5)与香港、新加坡和纽约团队合作,为亚太地区技术服务提供支持。
数据处理工程师岗位职责 第5篇
职责描述:
1、负责文本数据处理,如格式转换、分词处理、实体抽取、专业词典整理等;
2、自然语言处理相关工具开发;
3、协助训练nlp模型。
任职要求:
1、计算机相关专业(本科2年以上);
2、精通c/c++或java,熟悉python、bash?shell等脚本语言;
3、熟悉正则表达式,了解常用分类、聚类算法及相应工具;
4、熟悉使用基本分类、聚类算法及相应工具;
5、具备nlp相关工作(特别是数据处理与分析)经验,了解nlp基本知识;
6、其他:耐心、细致;较强的逻辑思维能力;性格踏实稳定,抗压能力强。
数据处理工程师岗位职责 第6篇
岗位职责:
深入研究业内领先的技术思路,输出具有创新价值的预研项目可行性分析报告以及相关实验数据;
负责产品、销售、供应链、电商等公司数据的海量挖掘,并建立和优化用户标签、特征模型、产品精准匹配、异常预警等;
负责大数据下传统机器学习算法的并行化实现及应用,并提出改进方法和思路;
参与公司大数据架构,负责BI实施中的数据挖掘模块算法研究、模型建立和优化,帮助实现数据挖掘和分析平台的建设;
负责相关数据挖掘项目的需求收集、项目建立、项目设计开发和结果输出质量把控,通过数据挖掘结果驱动业务执行;
配合技术进行数据挖掘模型开发和模型封装,例如决策规则模型、预警模型、流失模型、效果标杆模型、客户生命周期管理模型等;
任职要求:
大学本科及以上学历,统计学、计算机、信息技术、数学相关专业;
两年以上数据建模经验;
数据主流数据库,mysql、oracle、DB2等传统结构化数据仓库,熟悉HBase、MongoDB等非结构化数据库;
熟悉常用的聚类、分类、回归、关联、时间序列等监督式和非监督式学习算法;
熟悉R、Python、MLlib等数据挖掘工具中至少一种。
熟悉spark、storm等大数据计算框架者优先。
数据处理工程师岗位职责 第7篇
1、基于大数据平台的海量数据,负责业务相关的数据挖掘研发,及定向相关技术研发;
2、负责大数据可视化研究及平台构建及优化工作;
3、负责数据挖掘分析体系的建设,并建立和规范数据挖掘模型标准;
4、协助项目团队做好数据和应用的对接,完成项目的执行及交付;
5、配合架构师进行技术攻关和核心挖掘算法改善。
数据处理工程师岗位职责 第8篇
1、负责数据接入、数据提取、数据清洗、底层重构、业务主题建模等工作;
2、参与数据集市开发,用户画像标签开发;
3、负责接口平台、自助分析平台等系统的建设和维护;
4、针对具体大数据应用场景,提供有效解决方案,并针对具体模型落地实施;
数据处理工程师岗位职责 第9篇
岗位职责:
1.从事数学建模及数据挖掘应用方法研究;
2.与开发部门配合实现相应的数据分析模块的开发;
3.制定公司数据可管理体系,建产研究用数据平台。
任职要求:
1.应用数学、统计学、计算机等专业硕士以上学历;
2.具备常用机器学习、数据挖掘相关知识,会spark;
3.具备一种或多种开发语言(如scalapython java等)的.程序和算法开发能力,掌握常用数据结构和算法;
4.有视频、地图、文本、社交等大数据分析能力;
5.有工业数据分析工作经验者优先。
数据处理工程师岗位职责 第10篇
1.负责工业设备组网及数据采集方案设计;
2.负责设计方案所需传感器、仪表选型,布线图、数据存储方式、数据表等详细设计;
3.负责与设备厂商、数控系统厂商进行业务协议、通信协议及接口协调;
4.负责现场数据采集相关软硬件安装调试;
5.负责和用户现场对口协调、技术指导及现场培训。
数据处理工程师岗位职责 第11篇
1、负责数据仓库(HADOOP)ETL工作以及数据运营;
2、负责数据产品的业务需求梳理、数据开发以及维护;
3、负责数据仓库的'维度建模以及设计相关的脚本调度;
4、负责维度模型的数据处理的脚本开发,程序开发以及接口对接。
数据处理工程师岗位职责 第12篇
1、针对具体的业务场景需求、定义数据分析及挖掘问题;
2、使用统计学分析方法、挖掘算法、构建有效且通用的数据分析模型,对数据挖掘方案进行验证、开发、改进和优化,实现数据挖掘的功能应用;
3、搭建高扩展高性能的数据分析模型库,作为数据分析团队的基础工具;
4、完成领导安排的其他工作。
数据处理工程师岗位职责 第13篇
•在行业担任数据工程师或后端工程师超过4年
•您将了解数据仓库的概念(建模,调整,维护)
•您非常精通SQL,并渴望指导和教其他SQL
•您精通Python或任何其他脚本语言和软件开发
•您在分布式数据处理/传统RDBMS / MPP / NoSQL系统和数据建模方面有很强的低估/经验
•您在Spark / Kafka / HBase / Redis / Kettle方面拥有丰富的经验
•您受到探索数据的好奇心和动力的驱动
•您具有处理数据管道的DevOps问题的经验
•对数据驱动业务,关键思想家,问题解决者和自我启动者的热情
•获得认可大学的相关学科的学士学位
数据处理工程师岗位职责 第14篇
1、参与部门项目的售前工作,参与现场交流,深入挖掘用户需求,编写投标方案,参与投标;
2、完成所负责项目的需求规格说明书的编写,并向项目组开发人员和测试人员讲解需求,如需求发生变化及时调整需求。
3、完成所负责项目的概要设计,并解决项目进展过程中的需求与设计问题;
4、可承担部分项目经理的职责,组织相关资源对项目工作进行计划/控制/调整;
数据处理工程师岗位职责 第15篇
1.数据库软件安装、系统搭建、测试环境同步数据等;
2.数据库日常检查及维护,并形成文档登记归档;
3.数据库故障排除与应急处理;
4.数据库性能分析及优化;
5.为各应用部门提供技术支持。
数据处理工程师岗位职责 第16篇
•识别,分析和解决计划支持问题。
•与BU利益相关者合作,确定并优先考虑数据和统计要求,包括要收集的特定数据元素。
•协助开发和实施数据库,数据收集系统/工具,数据分析以及其他优化统计效率和质量的策略(包括确定流程改进以更好地满足业务需求)。
•分析大量数据集,提出有见地的业务建议。
•通过查看报告和绩效指标来确定和纠正数据收集问题,从而确保数据的准确性和完整性。
•识别,分析,解释和建模数据湖中数据的趋势或模式。
•为各种受众设计和生成准确有效的统计数据可视化产品和报告。
•通过促进技术和非技术利益相关者之间的沟通,确保技术团队了解计划和业务工作的短期和长期目标
•准时交付优质,易懂,明确的产品。
•参与构建机器学习策略平台。
•对数据驱动业务,关键思想家,问题解决者和自我启动者的热情
•促进技术和非技术利益相关者之间交流的能力
•出色的书面和口头交流能力。
数据处理工程师岗位职责 第17篇
岗位职责:
业务数据的收集整理和分析;
负责公安、交通领域的业务建模和算法设计;
分析项目数据需求,完成系统中数据分析模块的设计、实现和测试;
设计、构建和优化基于大数据的存储平台架构,编写相关技术文档;
设计并实现基于开源项目(Cobar,Spark等)的海量数据集成与处理平台;
为其他部门提供数据分析支撑。
任职资格:
计算机相关专业;
熟悉数据挖掘算法,对分类、聚类、时序、图等算法有很深了解;
熟练掌握Hadoop、Spark生态系统组件(MR、HBase、Hive、ZooKeeper、Spark SQL、Spark Mlib等),有相关大数据架构,开发成功案例;
熟练的使用、开发ETL工具经验,有数据库建模ER建模经验优先;
有海量数据BI或数据挖掘项目实施和管理经验,对数据挖掘理论方法有一定了解者优先;
熟悉的Bash Shell和Python等脚本编程能力;
强烈的责任心和工作热情,良好的团队合作精神。
数据处理工程师岗位职责 第18篇
岗位职责:
1.参与金融大数据平台系统和算法的研发和优化;
2.基于大数据金融场景,进行信用风险模型,风控模型,营销模型的创新设计;
3.与业务部门沟通合作,将数据模型应用于实际业务。
任职要求:
1.计算机相关专业硕士及以上学历,至少7年以上相关工作经验;;
2.具有良好的商业敏感度和优秀的数据分析技能,能够开发创新而实际的.分析方法以解决复杂的商业问题。
3.熟悉机器学习的一般模型;例如分类.聚类.预测,理解一些常用的特征选择和矩阵分解算法。
4.熟悉深度神经网络和常用模型(如CNN,DBN,sparseconding,RNN等),有Caffe或Theano或ConvNet的实践经验。
5.在语义理解检索(如知识图谱表示.结构化预测.语义解析.信息检索.知识挖掘等)有过深入的工作与研究。
6.较强的自学能力.优秀的逻辑思维能力和良好的沟通表达能力和敬业精神。
7.具备良好的系统分析能力,良好的抽象思维和逻辑思维能力,独立分析问题解决问题的能力;
8.可承受较大压力,有责任感,较强的沟通协调能力,具有团队合作精神;
9.有互联网公司.大型金融企业和大型IT企业工作经历的优先。
数据处理工程师岗位职责 第19篇
1、进行GIS数据建库和数据处理方案的设计和实现;
2、运用相关GIS软件进行数据空间化处理建库;
3、进行影像识别及处理;
4、进行数据采集处理建库项目管理。
数据处理工程师岗位职责 第20篇
1.负责海量数据的分析开发工作;
2.完成数据挖掘模型,跟踪模型的实施和效果,定期优化算法和分析策略,分析研究后提供建设性建议;
3.优化大数据存储、计算等各方面性能,确保能从海量大数据信息里,有效进行数据分析和挖掘;
4.根据用户的活动记录进行特征筛选和关联挖掘。提高关联准确性;
5.参与相关数据标准和规范的制定。
数据处理工程师岗位职责 第21篇
1.负责直播业务相关数据仓库的数据模型设计;
3.参与数据仓库ETL流程设计、开发和优化,解决ETL过程相关技术问题;
3.参与项目规划,数据采集设计,数据仓库开发,模型开发,报表开发等;
4. 总结数据仓库建模的方法,负责数据产品平台化和系统化;
数据处理工程师岗位职责 第22篇
1.根据项目经理或高级数据挖掘工程师要求独立完成项目的数据搜集和数据处理;
2.能够快速根据项目需要学习并理解行业知识,并能在项目经理或高级数据挖掘工程指导下完成部分数据分析工作;
3.能够使用SAS,SPSS,或R,Python等开源平台根据用户需求定制开发相应的算法;
4.理解数据挖掘模型及预测分析结果,撰写相关分析报告;
5.了解数据仓库及商务智能背景,熟练掌握一类数据展现分析工具,如:Tableau,Cognos等;
数据处理工程师岗位职责 第23篇
相关文件的定义和编写
2.生产良率和抛料率的监控和改善
3.生产异常的分析解决
4.技术人员的班别安排
5.设备保养的'安排和作业follow
6.设备故障维修&coordinator
7.配合新产品导入或者其他需求的试产验证
8.主管交付的其他事项
数据处理工程师岗位职责 第24篇
1、维护数据库稳定运行,持续发现和解决潜在的问题;
2、负责数据库的性能优化,使用新技术和新架构满足日益增长的业务需求;
3、负责数据库的监控系统设计,为开发团队提供平台支持;
4、负责数据库的运维方面的相关工作,包括数据库的安装部署、压力测试、备份恢复、知识库管理等
5、负责数据库进行容量规划、架构设计,提高业务高可用性和容灾能力;
6、负责数据库相关工作的整体规划,提供决策建议。
数据处理工程师岗位职责 第25篇
岗位职责:
1.负责衔接大数据平台与前端的数据传输;
2.根据客户需求设计大数据业务平台架构、配置组件;
3.负责后台服务的调试与测试,梳理接口文档、开发文档与测试文档。
任职资格:
1.硕士以上,或较为优秀的本科生;后端开发经验2年以上;
2.有基于b/s架构进行实际业务平台开发的经验,有to b软件开发经验更佳;
3.通用软件开发基础、软件架构基础、scrum敏捷开发方法,有大数据基础更佳;
4.精通java或python语言,有rcp框架经验更佳;熟练掌握mybatis、springcloud / springboot、node.js等框架,精通sql技术;了解以太网通信协议,熟悉websocket技术。熟练使用git,svn等工具;
5.学习能力强,勇于挑战,代码质量意识强,笃信“工程即魔法”。
数据处理工程师岗位职责 第26篇
1、空间数据采集、内业处理;
2、电子地图制作、配图以及地图服务发布;
3、编制空间数据建库工作文档;
4、对成果数据的分类整理、归档;
5、领导安排的其他工作任务。
数据处理工程师岗位职责 第27篇
岗位职责:
1、对通信和金融业务数据进行分析和挖掘,满足研发和运营等部门的业务需求和决策需求;
2、能根据业务特点选择最合适的数据挖掘算法,并做调优;
3、支持数据分析、挖掘算法平台的部署和日常运营;
4、撰写分析类报告。
任职资格:
1、大学本科或本科以上统计学、数学或其他相关专业,对数据结构熟悉;
2、熟练使用python进行数据分析、处理、可视化。熟悉numpy/pandas/matplotlib等常用模块。熟练使用sql,最好用过hive-sql或spark-sql;
3、对hadoop/spark有一定了解。能够简单使用hadoop系列命令;
4、对线性回归,决策森林,xgboost,评分卡等数据挖掘相关算法有一定了解;
5、做过web接口调试,熟悉json者优先;
6、熟练掌握PPT和EXCEL制作;
7、具备良好的学习、沟通与表达能力,具有较强的团队合作精神,对工作富有热情,能承受工作压力;
8、有运营商或金融类相关数据经验工作优先考虑;
9、能适应中长期现场出差。
数据处理工程师岗位职责 第28篇
1、对海量业务数据进行分析,并利用算法挖掘用户行为特征,发现潜在规律,建立机器学习算法并优化;
2、利用数据挖掘技术分析、预测用户的消费行为;
3、建立各种业务逻辑模型和数学模型,帮助公司改善运营管理,节省成本。
任职要求:
1、大学本科及以上学历;
2、统计学、会计学、数学、物理等相关专业;
3、本科5年以上同岗位工作经验,研究生3年以上同岗位工作经验;
4、对统计学和数据挖掘算法原理有较为深刻的理解,了解数据仓库思想,熟悉SPSS、SAS、R、MAHOUT等数据挖掘软件之一;
5、熟悉决策树、聚类、逻辑回归,关联分析、SVM,贝叶斯等数据挖掘算法,有海量数据挖掘的项目经验;
6、有用户行为分析、用户建模、业务建模、数学建模经验优先;
7、良好的逻辑分析能力、分析问题和解决问题的`能力,对数据敏感,良好的沟通能力。
数据处理工程师岗位职责 第29篇
1、负责产品数据库研发,参与系统整体架构设计;
2、根据产品目标负责相关业务的数据分析、建模、设计评审,跟进产品过程中数据库设计;
3、负责产品模块的数据层分析、设计、编码、测试;
4、能够独立完成产品数据层开发任务,负责各类数据接口开发;
5、负责各类型数据操作处理和兼容问题;数据库复杂SQL开发和调优。
数据处理工程师岗位职责 第30篇
岗位职责:
1.按产品功能需求说明,设计相应数据库业务逻辑及规则,并完成脚本封装。
2.根据产品适配计划,进行新适配数据库的预研。
3.根据业务需求,提供数据库元数据创建语句。
4.协助产品内容、数据库知识体系、业务算法模型等研发。
技能要求:
1.熟悉Oracle、SQL Server、MySQL数据库架构及原理,并有实际运维经验。
2.熟悉MySQL、PostgreSQL和MongoDB等开源数据库架构及原理,并有实际运维经验。
3.熟悉RDS for MySQL、PostgreSQL等云数据库架构及原理,并有实际运维经验。
4.熟悉达梦、人大金仓、南大通用、神州通用、高斯、热璞、巨杉等国产数据库架构及原理,并有实际运维经验。
5.熟悉PolarDB、OceanBase、Tidb等数据库架构及原理,并有实际运维经验。
6.深刻理解数据库原理及架构,有二线dba经验者优先。
7.熟悉Unix、Linux、Windows等操作系统架构及原理,并能熟练使用。
8.熟悉主流自动化运维、监控产品,有实际开发及使用经验的优先。
9.熟练使用shells、Python等脚本语言。
10.熟悉脚本开发规范,具有数据库开发背景的`优先。
11.深入理解数据库的数据字典,并熟悉对象定义,有自定义对象开发经验的优先。
12.善于沟通,皮实,良好的学习能力。
13.本科(含)以上学历,计算机或相关专业的优先。
数据处理工程师岗位职责 第31篇
1.负责企业级数据仓库设计、规划、建设、实施、管理,数据仓库架构设计与数据开发,创建数据仓库、数据集市
2.熟悉数据仓库领域知识,从架构和技术层面参与建设数据仓库,包括元数据管理、数据质量、主数据管理、性能优化和调优。
3.负责数据仓库平台相关数据管理工作,如研发规范、质量规范、保障规范的制定与推动实施落地
4.配合和协助数据分析/数据挖掘形成底层/中间层的业务逻辑切片