JAVA爬虫架构师

介末数据

2017-07-12 13:52

20-40 K

投递简历

上海/3-5年经验/本科 /全职

岗位要求:

1、参与企业数据建设,专注于基础数据采集平台建设,负责各类外部数据接入,清洗等技术研发。

2、负责数据平台持续集成相关工具平台的架构设计与产品开发等工作。

3、帮助团队攻克各种高并发、数据隔离、系统解耦等方面的技术难关,保障和提升海量数据应用系统的性能。

4、持续的创新和优化能力,提升产品整体质量,改善用户体验。

 

任职资格:

1、熟练掌握至少一门及以上开发语言,熟悉语言特性,如java,c++,python等;

2、对网络编程,http协议,web开发有一定了解,熟练掌握正则表达式、CSS 选择器、XPath中的一种或几种。

3、善于学习新事物,善于沟通和表达,有良好的团队合作意识。

4、至少3年以上一线爬虫或网络机器人开发经验,精通第三方登陆,对ip封锁处理,浏览器伪装和app行为伪装有大量实际经验。

5、对浏览器内核,安卓和ios操作系统有深入认识,熟悉客户端应用,能独立分析源码,找到各类参数逻辑和加密方式。

6、精通tcp协议以及其他高级协议,能够独立抓包解析通讯过程并进行模拟。

7、有大规模分布式应用开发经验,对保证数据一致性,高性能和稳定有实际经验。

8、熟悉selenium,phantomjs,adb和zookeeper。

9、熟悉垂直搜索爬虫、分布式网络爬虫,有过网络爬虫、浏览器抓取项目经验者优先。

10、有较强数据分析与建模能力,精通至少一种关系数据库系统,熟悉MongoDB优先。


数据伯乐温馨提示 :
如在投递及面试过程中遇到招聘方的任何收费行为(如培训费、体检费、资料费、置装费、押金等),则存在诈 骗风险,请您务必提高警惕!

改版

反馈