CN103473129B - 线程数目可伸缩的多任务队列调度系统及其实现方法 - Google Patents
线程数目可伸缩的多任务队列调度系统及其实现方法 Download PDFInfo
- Publication number
- CN103473129B CN103473129B CN201310428355.6A CN201310428355A CN103473129B CN 103473129 B CN103473129 B CN 103473129B CN 201310428355 A CN201310428355 A CN 201310428355A CN 103473129 B CN103473129 B CN 103473129B
- Authority
- CN
- China
- Prior art keywords
- task
- working thread
- thread
- queue
- working
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Landscapes
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
本发明公开了一种线程数目可伸缩的多任务队列调度系统及其实现方法，该系统主要由任务派发者、工作线程池和任务队列构成；其中，所述的任务派发者为一个独立的进程或线程；所述的工作线程池创建有一个以上的工作线程，且工作线程不与任务队列直接相关联；所述的任务队列是根据任务类型创建的任务排队序列；所述的任务派发者根据任务队列情况决定是否分配新的工作线程。本发明系统结构组成及其逻辑设计合理、可行、易实现；不需要为每个任务类型创建一个独立的工作进程或线程，可以极大的有效的节省系统资源。
Description
技术领域
本发明属于计算机工程技术领域，涉及了一种基于工作线程池而设计的多任务队列调度系统及其实现方法。
背景技术
RTOS(Realtime operation system，实时操作系统)是嵌入式应用软件的基础和开发平台，是一个可靠性和可信性很高的实时内核。RTOS将CPU时间、中断、I/O、定时器等资源都包装起来，留给用户一个标准的API(Application Program Interface，应用程序接口)，并根据各个任务的优先级，合理地在不同任务之间分配CPU时间。
RTOS通常设置于嵌入式系统中实时地完成各种功能，这些嵌入式系统通常具有实时性很好、系统体积小、资源有限和没有图形界面等特点。典型的RTOS有：Vxworks、pSOS、Nucleus、eCos、uC/OS-II等。
GUI(Graphic User Interface，图形用户接口)系统以图形的方式实现人机交互，调度机制是GUI系统的核心，管理GUI系统的驱动和各个应用程序，实现各个应用程序对CPU资源的共享使用。高性能的GUI调度机制不仅占用很少的CPU资源，而且能够快速响应用户请求。
上述GUI调度机制不是指操作系统内核层面的任务调度，而是指具有界面显示的各个应用程序之间的调度机制。例如，开机便进入待机模块，摘机就进入拨号模块，不摘机按功能键就进入功能菜单模块，从功能菜单中选择照相机从而进入拍照模块，此时如果有来电，则进入语音通话模块，在通话完毕挂机后又返回拍照模块。
当前典型的GUI系统为Windows操作系统的GUI，在嵌入式系统中比较常见的GUI系统为Qtopia和MiniGUI。下面分别介绍上述三个GUI系统。
1.Windows CE(Control System，控制系统)
Windows CE是嵌入式操作系统，提供完整的GUI界面和调度系统，与PC版的Windows在界面上几乎完全一致。
2.MiniGUI
MiniGUI是针对嵌入式设备的、跨操作系统的图形界面支持系统，属于一种“嵌入式图形中间件”软件产品。在近八年的发展历程中，MiniGUI已经从一个仅仅是为了在Linux显示中文而开发的小技术，发展成为一个跨操作系统的、完善的嵌入式图形用户界面支持系统。MiniGUI最理想地平台是Linux操作系统，也可以支持uCOSII等RTOS。
3.Qtopia
Qtopia由Qt/Embedded发展而来，是面向嵌入式系统的Qt版本。因为Qt是KDE等项目使用的GUI支持库，因此有许多基于Qt的X Window程序可以非常方便地移植到Qtopia版本上。Qtopia是一个C++函数库，它提供的控件集风格沿用了PC风格。
上述现有技术中的GUI系统的缺点为：上述GUI系统的调度完全使用内核提供的线程调度，每个应用程序不管是否需要界面显示都有独立的线程来接收操作系统的调度。基于底层强大的操作系统做支撑，各个应用程序的设计虽然具有极大的灵活性，但是，各个应用程序对底层操作系统的依赖太重，通常需要平台化的操作系统的支持，比如Windows或者Linux操作系统。
上述GUI系统的资源开销巨大，不能适应功能明确的小型嵌入式系统的应用需求，一般不支持RTOS作为底层的操作系统。另外，对于嵌入式应用也不需要复杂的GUI系统，过于复杂的GUI事实上会降低用户操作的简便性。
上述GUI系统的各个应用程序之间是一种松散关系，导致需要实现多个应用程序时可能会出现如下的两个问题：
1、如果将要实现的多个应用程序作为不同的应用程序功能模块，则要求这些应用程序功能模块之间不要有太多的相互联系。一旦这些应用程序功能模块之间有复杂的联系，这些应用程序功能模块对系统的资源和设备(比如Camera、内存)的需求必然会产生冲突，实现起来很难维护；
2、如果将要实现的多个应用程序作为一个单独应用程序功能模块，则会给多个程序员的协同开发带来巨大的维护难度，将会导致多个程序员去开发同一个模块或者一个程序员完成一个规模宏大的模块。
发明内容
本发明的目的在于针对现有技术的不足，提供了一种基于操作系统内置的工作线程池以及开发语言提供的队列数据结构而设计的线程数目可伸缩的多任务队列调度系统及其实现方法。该系统特别适用于拥有大量不同类型任务，且所有任务都需要能够即时并有序处理的情景。本系统的特点在于其拥有良好的进程或线程数可伸缩性；因为其不需要为每个任务类型创建一个独立的工作进程或线程，所以它可以极大的节省系统资源。
为了实现上述目的，本发明采取了以下技术方案：
一种线程数目可伸缩的多任务队列调度系统，主要由任务派发者、工作线程池和任务队列构成；其中，所述的任务派发者为一个独立的进程或线程；所述的工作线程池创建有一个以上的工作线程，且工作线程不与任务队列直接相关联；所述的任务队列是根据任务类型创建的任务排队序列；所述的任务派发者根据任务队列情况决定是否分配新的工作线程。
上述的线程数目可伸缩的多任务队列调度系统的实现方法，包括系统初始化设计、任务派发者的逻辑设计和工作线程的逻辑设计；其特征在于，所述的系统初始化设计包括：
（1）为每种任务类型创建一个对应的任务队列，并分别记为TQ1，TQ2，…，TQn；
（2）创建一个或者两个以上任务派发者，接收任务并根据任务类型派发到相应的任务队列中；
（3）初始化工作线程池，空闲状态的工作线程进入睡眠状态；
所述的任务派发者的逻辑设计包括：
（1）任务派发者接收到某一类型的任务Ti时，找到其对应的任务队列TQi，并判断该任务队列的待执行任务是否为空；
（2）如果该任务队列TQi的待执行任务为空，则将任务Ti放入到该任务队列TQi中，并执行以下操作：
a.在工作线程池中查找空闲状态的工作线程，如果工作线程池中无空闲状态的工作线程，则创建一个新的工作线程，并将其加入到工作线程池中；
b.用找到的空闲状态的工作线程或是新建的工作线程来执行任务Ti；
（3）如果该任务队列TQi的待执行任务不为空，则将任务Ti放在任务队列TQi的末尾，等待任务执行；
所述的工作线程的逻辑设计包括：
（1）当工作线程被分配一个任务Ti时，其执行该任务；
（2）当工作线程执行完一个任务Ti后，其查找Ti对应的队列TQi，然后执行以下操作：
a.将任务Ti从TQi中移除；
b.如果TQi不为空，继续执行队头的任务；
c.如果TQi为空，终止执行，工作线程回归工作线程池。
在多任务队列调度系统的实现方法中，所述的任务派发者为一个独立的进程或线程。
在多任务队列调度系统的实现方法中，所述的工作线程池创建有一个以上的工作线程，且工作线程不与任务队列直接相关联。
在多任务队列调度系统的实现方法中，所述的待执行任务包括未执行任务和正在执行但未完成的任务。
在多任务队列调度系统的实现方法中，所述的工作线程回归工作线程池后，工作线程池将销毁该工作线程或是将该工作线程分配给其他任务队列执行任务。
本发明的优点：
1.在本发明中，创建有多个任务队列，这样该系统就可以适用于拥有大量不同类型任务且所有任务都需要能够即时并有序处理的情景。
2.在本发明中，任务队列与工作线程池的工作线程没有直接关联，因此，不需要为每个任务类型创建一个独立的工作进程或线程，可以极大的有效的节省系统资源。
3.在本发明中，工作线程池内的工作线程可以根据实际情况创建或销毁，这样使得本系统拥有良好的进程或线程数可伸缩性。
4.本发明系统结构组成及其逻辑设计合理、可行、易实现。
附图说明
图1是本发明中的系统组成结构示意图。
图2是本发明中的任务派发者的逻辑设计流程图。
图3是本发明中的工作线程的逻辑设计流程图。
具体实施方式
下面结合附图和实施例对本发明进一步说明。
实施例：
如图1所示，一种线程数目可伸缩的多任务队列调度系统，主要由任务派发者、工作线程池和任务队列构成；其中，所述的任务派发者为一个独立的进程或线程；所述的工作线程池创建有一个以上的工作线程，且工作线程不与任务队列直接相关联；所述的任务队列是根据任务类型创建的任务排队序列；所述的任务派发者根据任务队列情况决定是否分配新的工作线程。
如图2、3所示，上述的线程数目可伸缩的多任务队列调度系统的实现方法，包括系统初始化设计、任务派发者的逻辑设计和工作线程的逻辑设计；其中，
所述的系统初始化设计包括：
（1）为每种任务类型创建一个对应的任务队列，并分别记为TQ1，TQ2，…，TQn；
（2）创建一个或者两个以上任务派发者，接收任务并根据任务类型派发到相应的任务队列中；
（3）初始化工作线程池，空闲状态的工作线程进入睡眠状态；
所述的任务派发者的逻辑设计包括：
（1）任务派发者接收到某一类型的任务Ti时，找到其对应的任务队列TQi，并判断该任务队列的待执行任务是否为空；所述的待执行任务包括未执行任务和正在执行但未完成的任务；
（2）如果该任务队列TQi的待执行任务为空，则将任务Ti放入到该任务队列TQi中，并执行以下操作：
a.在工作线程池中查找空闲状态的工作线程，如果工作线程池中无空闲状态的工作线程，则创建一个新的工作线程，并将其加入到工作线程池中；
b.用找到的空闲状态的工作线程或是新建的工作线程来执行任务Ti；
（3）如果该任务队列TQi的待执行任务不为空，则将任务Ti放在任务队列TQi的末尾，等待任务执行；
所述的工作线程的逻辑设计包括：
（1）当工作线程被分配一个任务Ti时，其执行该任务；
（2）当工作线程执行完一个任务Ti后，其查找Ti对应的队列TQi，然后执行以下操作：
a.将任务Ti从TQi中移除；
b.如果TQi不为空，继续执行队头的任务；
c.如果TQi为空，终止执行，工作线程回归工作线程池。所述的工作线程回归工作线程池后，工作线程池将销毁该工作线程或是将该工作线程分配给其他任务队列执行任务。
Claims (1)
1.一种线程数目可伸缩的多任务队列调度系统的实现方法，包括系统初始化设计、任务派发者的逻辑设计和工作线程的逻辑设计；其特征在于，所述的系统初始化设计包括：
（1）为每种任务类型创建一个对应的任务队列，并分别记为TQ1，TQ2，…，TQn；
（2）创建一个或者两个以上任务派发者，接收任务并根据任务类型派发到相应的任务队列中；
（3）初始化工作线程池，空闲状态的工作线程进入睡眠状态；
所述的任务派发者的逻辑设计包括：
（1）任务派发者接收到某一类型的任务Ti时，找到其对应的任务队列TQi，并判断该任务队列的待执行任务是否为空；
（2）如果该任务队列TQi的待执行任务为空，则将任务Ti放入到该任务队列TQi中，并执行以下操作：
a.在工作线程池中查找空闲状态的工作线程，如果工作线程池中无空闲状态的工作线程，则创建一个新的工作线程，并将其加入到工作线程池中；
b.用找到的空闲状态的工作线程或是新建的工作线程来执行任务Ti；
（3）如果该任务队列TQi的待执行任务不为空，则将任务Ti放在任务队列TQi的末尾，等待任务执行；
所述的工作线程的逻辑设计包括：
（1）当工作线程被分配一个任务Ti时，其执行该任务；
（2）当工作线程执行完一个任务Ti后，其查找Ti对应的队列TQi，然后执行以下操作：
a.将任务Ti从TQi中移除；
b.如果TQi不为空，继续执行队头的任务；
c.如果TQi为空，终止执行，工作线程回归工作线程池；
所述的任务派发者为一个独立的进程或线程；所述的工作线程池创建有一个以上的工作线程，且工作线程不与任务队列直接相关联；所述的待执行任务包括未执行任务和正在执行但未完成的任务；所述的工作线程回归工作线程池后，工作线程池将销毁该工作线程或是将该工作线程分配给其他任务队列执行任务。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201310428355.6A CN103473129B (zh) | 2013-09-18 | 2013-09-18 | 线程数目可伸缩的多任务队列调度系统及其实现方法 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201310428355.6A CN103473129B (zh) | 2013-09-18 | 2013-09-18 | 线程数目可伸缩的多任务队列调度系统及其实现方法 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN103473129A CN103473129A (zh) | 2013-12-25 |
| CN103473129B true CN103473129B (zh) | 2017-01-18 |
Family
ID=49797998
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN201310428355.6A Active CN103473129B (zh) | 2013-09-18 | 2013-09-18 | 线程数目可伸缩的多任务队列调度系统及其实现方法 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN103473129B (zh) |
Families Citing this family (12)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN106407197B (zh) * | 2015-07-28 | 2020-06-30 | 北京京东尚科信息技术有限公司 | 遍历数据的方法及装置 |
| CN105117284B (zh) * | 2015-09-09 | 2020-09-25 | 厦门雅迅网络股份有限公司 | 一种基于优先级比例队列的工作线程的调度方法 |
| CN105653365A (zh) * | 2016-02-22 | 2016-06-08 | 青岛海尔智能家电科技有限公司 | 任务处理方法及装置 |
| CN107341050B (zh) * | 2016-04-28 | 2022-12-27 | 北京京东尚科信息技术有限公司 | 基于动态线程池的服务处理方法和装置 |
| CN105912386A (zh) * | 2016-05-03 | 2016-08-31 | 深圳市永兴元科技有限公司 | 线程管理方法及系统 |
| CN106095546A (zh) * | 2016-06-01 | 2016-11-09 | 深圳市永兴元科技有限公司 | 云计算平台的任务管理方法及装置 |
| CN107526632B (zh) * | 2016-06-20 | 2021-06-29 | 咪咕互动娱乐有限公司 | 进程池扩充方法和装置 |
| CN106681840A (zh) * | 2016-12-30 | 2017-05-17 | 郑州云海信息技术有限公司 | 一种云操作系统的任务调度方法及装置 |
| CN108153596A (zh) * | 2017-12-15 | 2018-06-12 | 珠海金山网络游戏科技有限公司 | 一种基于无锁队列的消息处理方法和装置 |
| CN111176856A (zh) * | 2018-11-09 | 2020-05-19 | 商派软件有限公司 | 一种智能控制消费脚本通道的方法 |
| CN109558255A (zh) * | 2018-12-13 | 2019-04-02 | 广东浪潮大数据研究有限公司 | 一种任务处理的方法及任务处理装置 |
| CN112527488A (zh) * | 2020-12-21 | 2021-03-19 | 浙江百应科技有限公司 | 一种分布式高可用任务调度方法及系统 |
Citations (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN101599027A (zh) * | 2009-06-30 | 2009-12-09 | 中兴通讯股份有限公司 | 一种线程池管理方法及其系统 |
| CN102262564A (zh) * | 2011-08-16 | 2011-11-30 | 天津市天祥世联网络科技有限公司 | 视频监控平台系统的线程池结构及实现方法 |
| CN102541653A (zh) * | 2010-12-24 | 2012-07-04 | 新奥特（北京）视频技术有限公司 | 一种多任务线程池调度方法和系统 |
| CN102591721A (zh) * | 2011-12-30 | 2012-07-18 | 北京新媒传信科技有限公司 | 一种分配线程执行任务的方法和系统 |
| CN102902573A (zh) * | 2012-09-20 | 2013-01-30 | 北京搜狐新媒体信息技术有限公司 | 一种基于共享资源的任务的处理方法及装置 |
-
2013
- 2013-09-18 CN CN201310428355.6A patent/CN103473129B/zh active Active
Patent Citations (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN101599027A (zh) * | 2009-06-30 | 2009-12-09 | 中兴通讯股份有限公司 | 一种线程池管理方法及其系统 |
| CN102541653A (zh) * | 2010-12-24 | 2012-07-04 | 新奥特（北京）视频技术有限公司 | 一种多任务线程池调度方法和系统 |
| CN102262564A (zh) * | 2011-08-16 | 2011-11-30 | 天津市天祥世联网络科技有限公司 | 视频监控平台系统的线程池结构及实现方法 |
| CN102591721A (zh) * | 2011-12-30 | 2012-07-18 | 北京新媒传信科技有限公司 | 一种分配线程执行任务的方法和系统 |
| CN102902573A (zh) * | 2012-09-20 | 2013-01-30 | 北京搜狐新媒体信息技术有限公司 | 一种基于共享资源的任务的处理方法及装置 |
Also Published As
| Publication number | Publication date |
|---|---|
| CN103473129A (zh) | 2013-12-25 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN103473129B (zh) | 线程数目可伸缩的多任务队列调度系统及其实现方法 | |
| CN103473138A (zh) | 基于线程池的多任务队列调度方法 | |
| EP2316091B1 (en) | Protected mode scheduling of operations | |
| CN102934085B (zh) | 在多环境操作系统中多个环境之间切换的系统和方法 | |
| CN104598294B (zh) | 用于移动设备的高效安全的虚拟化方法及其设备 | |
| US8261284B2 (en) | Fast context switching using virtual cpus | |
| EP3425502A1 (en) | Task scheduling method and device | |
| EP2807555B1 (en) | Para-virtualized asymmetric gpu processors | |
| CN104598426A (zh) | 用于异构多核处理器系统的任务调度方法 | |
| US9104500B1 (en) | Lock-free job scheduler for multi-processor systems | |
| CN102890643A (zh) | 基于应用效果即时反馈的显卡虚拟化下的资源调度系统 | |
| CN101556545A (zh) | 一种实现进程支持的方法、装置和多线程系统 | |
| CN102792274A (zh) | 多环境操作系统 | |
| CN103425225A (zh) | 便携数据设备操作系统中的应用程序装置及其运行方法 | |
| CN105550040B (zh) | 基于kvm平台的虚拟机cpu资源预留算法 | |
| CN101464810A (zh) | 服务程序处理方法及服务器 | |
| US9959134B2 (en) | Request processing using VM functions | |
| CN113032152B (zh) | 用于深度学习框架的调度方法、调度装置、电子设备、存储介质和程序产品 | |
| CN106339257B (zh) | 使客户机操作系统轻量化的方法及系统和虚拟化操作系统 | |
| CN105204933A (zh) | 基于单进程的多任务切换执行方法、系统及处理器 | |
| CN102135903A (zh) | 基于硬件虚拟化的Xen实时性增强系统及其方法 | |
| CN101968749B (zh) | 虚拟机过度分配环境下的mpi消息接收方法 | |
| Jia et al. | Skyloft: A General High-Efficient Scheduling Framework in User Space | |
| CN109840137B (zh) | 一种跨核调度方法和装置 | |
| CN117539598A (zh) | 任务处理方法、装置、电子设备及存储介质 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| C06 | Publication | ||
| PB01 | Publication | ||
| C10 | Entry into substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| C41 | Transfer of patent application or patent right or utility model | ||
| CB03 | Change of inventor or designer information |
Inventor after: Gu Yufeng Inventor before: Qin Zhu Mao Inventor before: Liu Wei Inventor before: Yuan Zengwei Inventor before: Du Yiman Inventor before: He Jia Inventor before: Li Donge Inventor before: Liu Xiao Inventor before: Huang Yinong Inventor before: Huang Huafeng |
|
| COR | Change of bibliographic data | ||
| TA01 | Transfer of patent application right |
Effective date of registration: 20161208 Address after: 518052 Guangdong city of Shenzhen province Qianhai Shenzhen Hong Kong cooperation zone before Bay Road No. 1 building 201 room A Applicant after: SHENZHEN QIANHAI DASHU FINANCE SERVICE Co.,Ltd. Address before: 545006 the Guangxi Zhuang Autonomous Region hi tech Road, No. 1, science and Technology Industrial Park, layer 1005, No. 15, No. 10, Liuzhou Applicant before: LIUZHOU BOYUAN HUANKE SCIENCE & TECHNOLOGY Co.,Ltd. |
|
| C14 | Grant of patent or utility model | ||
| GR01 | Patent grant | ||
| CP01 | Change in the name or title of a patent holder | ||
| CP01 | Change in the name or title of a patent holder |
Address after: 518052 Room 201, building A, 1 front Bay Road, Shenzhen Qianhai cooperation zone, Shenzhen, Guangdong Patentee after: Shenzhen Dashu Xinke Technology Co.,Ltd. Address before: 518052 Room 201, building A, 1 front Bay Road, Shenzhen Qianhai cooperation zone, Shenzhen, Guangdong Patentee before: SHENZHEN QIANHAI DASHU FINANCE SERVICE Co.,Ltd. |