数据采集平台开发工程师
岗位摘要
参与数据团队数据采集平台架构设计和开发工作;负责设计和开发分布式网络爬虫系统、技术选型;持续对系统进行架构改造和优化,提升系统的稳定性与可扩展性,保障系统稳定,高效,安全;负责多平台信息(视频、音频、图片、文章等)爬取,包括APP端采集,agent相关数据采集等
登录后保留你的岗位线索
邮箱登录后可继续查看完整职责、任职要求和原岗位入口,并使用收藏与浏览记录沉淀适合自己的机会。
岗位职责
- 参与数据团队数据采集平台架构设计和开发工作
- 负责设计和开发分布式网络爬虫系统、技术选型
- 持续对系统进行架构改造和优化,提升系统的稳定性与可扩展性,保障系统稳定,高效,安全
- 负责多平台信息(视频、音频、图片、文章等)爬取,包括APP端采集,agent相关数据采集等
任职要求
- 本科及以上学历,计算机相关专业
- 3年及以上网络爬虫相关、采集平台、rpa相关开发经验
- 熟练掌握Python编程语言及常用采集框架,深入了解框架提供的特性及其实现原理细节
登录后查看完整岗位详情
使用邮箱验证码登录后,可查看完整职责、任职要求、原岗位入口,并继续使用收藏和浏览记录。列表摘要保持公开,完整详情用于保护数据质量和降低恶意抓取。