<基于Qt与POSIX线程>多线程下载器的简易搭建

原创博客,转载请联系博主!

本项目已托管到本人Git远程库: https://github.com/yue9944882/Snow

项目目标 

Major Functionality

开发环境: CentOS7-Qt4

实现一个基于 LINUX 多线程下载器,功能上仿造迅雷,主要有如下几个功能:

(仅限 HTTP 协议)多线程下载远程资源

(暂停 / 继续功能)断点续传

项目主要技术 

Major Technique

POSIX 线程及其协作

TCP 协议套接字编程

Qt 界面实现

Qt  信号槽机制 SIGNAL/SLOT

// Linux 信号处理

项目构思

Major Architecture

贯穿整个使用过程的 Qt 的主界面对全局的若干个队列进行操作,从而实现系统协作,其过程中使用若个同步调配线程之间的协作与竞争。

为什么这么设计?

这么设计最大的原因是为了实现 POSIX 线程与 Qt 封装类之间的互动, POSIX 线程是基于 LINUX 下的 C 语言实现的,其调用创建的入口必须是 C-style 声明的函数,如果直接将这些函数声明为 Qt 控件继承类内静态函数会破坏其封装性(个人实践证明,这么做也是 不可行的)。经过几次彻底失败之后,这个方法也是目前不多可行解决办法之一。  

为什么使用 POSIX 线程?

Qt 是可移植的项目环境,如果使用 linux 下独有的 FORK/VFORK 系列函数,会局限程序运行环境, POSIX 标准下的线程更通用,更广泛。至于为什么没有使用QThread,我只能说不想用- -|||

下图所示是整体模块之间的联系:

&lt;基于Qt与POSIX线程&gt;多线程下载器的简易搭建

网络及动态显示控件部分架构 如下图所示:

&lt;基于Qt与POSIX线程&gt;多线程下载器的简易搭建

逻辑任务线程不直接参与下载,附属线程封装进逻辑任务中,对其他任务不可见,动态控件队列随着用户的操作长度和顺序会不断发生改变,而逻辑下载任务队列只会不断生长,并且通过索引与动态控件一对一对应。

Qt 主界面应用类架构  分别在与之对应的  *.ui  文件中定义,这里暂不赘述,各个类之间的沟通是通过 Qt SIGNAL/SLOT  信号槽机制完成的。

POSIX 锁类架构  如下图所示:

&lt;基于Qt与POSIX线程&gt;多线程下载器的简易搭建

— Declaration ——  global.h      extern 声明外部全局变量

|            |

|             —  global_t.h    C 风格结构体定义,主要用于 POSIX 线程传参

|            |

|             —  global_f.h    extern 声明外部全局函数

|            |

|             —  missionbar.h  missioncheck.h    C++ 风格声明动态控件

|            |

|             —  mainwindow.h  newdialog.h    C++ 风格声明静态控件

|

|

|

— Defination  —–  global.cpp    :全局变量定义

|            |

|             —  global_f.cpp   POSIX 线程及日志系统 - C 风格函数定义

|            |

|             —  main.cpp     :程序入口,程序环境初始化 ..

|            |

|             —  *.cpp        Qt 库继承类定义

|

|

— Makefile   ——  SnowLINUX.pro    QMake  脚本

|

—  Makefile          自动化编译脚本

代码实现

Implementation

网络下载部分

1. TCP 套接字:

由于多线程下载器需要保证文件的完整性,我们选择 TCP 协议下的套接字进行下载,每次下载首先发送一个 HTTP-HEAD 请求得到文件的长度和完整名称并且声明不使用 gzip 格式压缩,否则无法多线程写入!得到了文件完整的长度之后,根据线程数量为文件划分段落,然后由若干个 POSIX 线程使用随机上长的端口号和服务器 80 号端口进行 TCP 连接,再使用 Linux 内核提供的接口进行下载,每个任务维护一个更新写入进程锁,以更新当前进度 / 速度的实时信息,并竞争全局锁刷新全局统计变量。

2.  无锁数据结构:

使用 Linux 的原子文件读 / 写操作而不是标准文件操作,以保证多线程写入的原子性和完整性, pwrite/pread 函数是我们的最终选择,由于读写原子性,文件描述符不需要锁类保护同步性。

3.  日志系统

日志系统原本的设计是通过 Linux-signal 库进行定时的任务日志更新,但是这样给 CPU 带来了太多额外的任务消耗,下载的速度也会造成不同程度减少,更重要的是这样实现会破坏 Qt 继承类的封装性,因为 signal_handler 风格的函数必须是全局函数。我们采用的是 ”单次”日志,在用户有需要的时候触发日志记录系统,相关函数见  global_f.cpp 中的:

Init_log(),write_log(),read_log() 系列函数,日志格式暂不赘述,为纯 ASCii 编码文件。

Qt 类与全局锁部分

1.  全局竞争锁:

时间 ( timeMutex ) 是为了主界面定时调用函数在获取任务队列中不断异步更新进度的任务的执行时间,时间锁是为了保证主界面和动态控件之间数据的同步,其中动态控件的数据由动态控件封装的锁保证其内部 POSIX 线程刷新数据的同步性。

表锁 (tableMutex)   是为了保证我们在进行删除 / 重启任务而导致全局表修改的同时,程序不会因为定时刷新曲线而错误访问任务表导致的程序崩溃。

状态锁 ( finishMutex )   是为了防止动态控件和任务表之间相互通过记录对方索引而相互访问时表内容修改导致的程序崩溃。

2.  全局协作锁:

在启动新任务的时候弹出的小 QDialog 窗口是个独立的窗口,其内部空间 SIGNAL 分别绑定到了主界面的槽( SLOT )和动态控件的槽中,然而两边的槽默认是同时进行调用的,而我们必须要求其顺序,不然程序会崩溃。例如,在我们选择文件路径后开始下载任务,我们需要先调用主界面的槽来更新表做预备工作,然后才能创建动态控件及下载任务 .

程序操作

Demostration

操作方式非常简明:

&lt;基于Qt与POSIX线程&gt;多线程下载器的简易搭建

&lt;基于Qt与POSIX线程&gt;多线程下载器的简易搭建

&lt;基于Qt与POSIX线程&gt;多线程下载器的简易搭建

PS:如果您想和业内技术大牛交流的话,请加qq群(527933790)或者关注微信公众 号(AskHarries),谢谢!

转载请注明原文出处:Harries Blog™ » <基于Qt与POSIX线程>多线程下载器的简易搭建

赞 (0)

分享到:更多 ()

评论 0

  • 昵称 (必填)
  • 邮箱 (必填)
  • 网址