2017-07-12 13:52
岗位要求:
1、参与企业数据建设,专注于基础数据采集平台建设,负责各类外部数据接入,清洗等技术研发。
2、负责数据平台持续集成相关工具平台的架构设计与产品开发等工作。
3、帮助团队攻克各种高并发、数据隔离、系统解耦等方面的技术难关,保障和提升海量数据应用系统的性能。
4、持续的创新和优化能力,提升产品整体质量,改善用户体验。
任职资格:
1、熟练掌握至少一门及以上开发语言,熟悉语言特性,如java,c++,python等;
2、对网络编程,http协议,web开发有一定了解,熟练掌握正则表达式、CSS 选择器、XPath中的一种或几种。
3、善于学习新事物,善于沟通和表达,有良好的团队合作意识。
4、至少3年以上一线爬虫或网络机器人开发经验,精通第三方登陆,对ip封锁处理,浏览器伪装和app行为伪装有大量实际经验。
5、对浏览器内核,安卓和ios操作系统有深入认识,熟悉客户端应用,能独立分析源码,找到各类参数逻辑和加密方式。
6、精通tcp协议以及其他高级协议,能够独立抓包解析通讯过程并进行模拟。
7、有大规模分布式应用开发经验,对保证数据一致性,高性能和稳定有实际经验。
8、熟悉selenium,phantomjs,adb和zookeeper。
9、熟悉垂直搜索爬虫、分布式网络爬虫,有过网络爬虫、浏览器抓取项目经验者优先。
10、有较强数据分析与建模能力,精通至少一种关系数据库系统,熟悉MongoDB优先。