[发明专利]一种基于python的大数据分布式任务处理装置在审
| 申请号： | 201810048206.X | 申请日： | 2018-01-18 |
| 公开（公告）号： | CN108153595A | 公开（公告）日： | 2018-06-12 |
| 发明（设计）人： | 朱鹏;张瑞冬;马永霄;何立人 | 申请（专利权）人： | 成都无糖信息技术有限公司 |
| 主分类号： | G06F9/50 | 分类号： | G06F9/50 |
| 代理公司： | 暂无信息 | 代理人： | 暂无信息 |
| 地址： | 610000 四川省成都市成都高*** | 国省代码： | 四川;51 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | 本发明公开了一种基于python的大数据分布式任务处理装置，包括用户任务提交模块、任务信息格式化模块、分布式处理队列模块、任务处理引擎和子任务处理单元，所述用户任务提交模块连接任务信息格式化模块，任务信息格式化模块还连接分布式处理队列模块，分布式处理队列模块还连接任务处理引擎，任务处理引擎还连接子任务处理单元。本发明可以提供分布式处理python任务，任务类型包括爬虫及其他处理任务。在现有基础上，按照插件模板编写新的任务处理插件即可分布式处理大量相同类型的任务。并且可以有效的控制不同worker的处理时效，处理并发数。亦可实时监控每一项任务的处理状态、进度和结果。 | ||
| 搜索关键词： | 分布式处理 任务处理 格式化 队列模块 任务信息 引擎 分布式任务处理 任务提交模块 大数据 任务处理单元 子任务处理 爬虫 插件模板 处理状态 任务类型 实时监控 并发数 连接子 插件 进度 | ||
【主权项】：
一种基于python的大数据分布式任务处理装置，包括用户任务提交模块、任务信息格式化模块、分布式处理队列模块、任务处理引擎和子任务处理单元，其特征在于，所述用户任务提交模块连接任务信息格式化模块，任务信息格式化模块还连接分布式处理队列模块，分布式处理队列模块还连接任务处理引擎，任务处理引擎还连接子任务处理单元。
下载完整专利技术内容需要扣除积分，VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于成都无糖信息技术有限公司，未经成都无糖信息技术有限公司许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/patent/201810048206.X/，转载请声明来源钻瓜专利网。
