操作系统
重点学习内容
进程、线程
并发、锁
内存管理和调度
一、概述
1.1 OS图谱
1.2 OS四个特性
并发:同一段时间内多个程序执行(注意区别并行和并发,前者是同一时刻的多个事件,后者是同一时间段内的多个事件)
共享:系统中的资源可以被内存中多个并发执行的进/线程共同使用
虚拟:通过时分复用(如分时系统)以及空分复用(如虚拟内存)技术,实现把一个物理实体虚拟为多个
异步:系统中的进程是以走走停停的方式执行的,且以一种不可预知的速度推进
1.3 OS主要功能
- (重点)进程管理:包括进程控制,进程同步,进程通信和进程调度。
- (重点)内存管理:内存分配,内存保护,地址映射,内存扩充。
- 设备管理:管理所有外围设备,包括完成用户的IO请求;为用户进程分配IO设备;提高IO设备利用率;提高IO速度;方便IO的使用
- 文件管理:管理用户文件和系统文件,方便使用同时保证安全性。包括:磁盘存储空间管理,目录管理,文件读写管理以及文件共享和保护
1.4 系统调用
如果一个进程在用户态需要使用内核态的功能,就进行系统调用从而陷入内核,由操作系统代为完成。
Linux 的系统调用主要有以下这些:
Task | Commands |
---|---|
进程控制 | fork(); exit(); wait(); |
进程通信 | pipe(); shmget(); mmap(); |
文件操作 | open(); read(); write(); |
设备操作 | ioctl(); read(); write(); |
信息维护 | getpid(); alarm(); sleep(); |
安全 | chmod(); umask(); chown(); |
1.5 用户态和核心态
当程序运行在3级特权级上时,就可以称之为运行在用户态,因为这是最低特权级,是普通的用户进程运行的特权级,大部分用户直接面对的程序都是运行在用户态;反之,当程序运行在级特权级上时,就可以称之为运行在内核态。
运行在用户态下的程序不能直接访问操作系统内核数据结构和程序,因为这样是不安全的。当我们在系统中执行一个程序时,大部分时间是运行在用户态下的,在其需要操作系统帮助完成某些它没有权力和能力完成的工作时就会切换到内核态。
用户态切换到内核态的3种方式
1) 系统调用:这是用户态进程主动申请切换到内核态的一种方式,用户态进程通过系统调用申请使用操作系统提供的服务程序完成工作。而系统调用的机制其核心还是使用了操作系统为用户特别开放的一个中断来实现,例如Linux的int 80h中断。
2) 异常:当CPU在执行运行在用户态下的程序时,发生了某些事先不可知的异常,这时会触发由当前运行进程切换到处理此异常的内核相关程序中,也就转到了内核态,比如缺页异常
。
3) 外围设备的中断:当外围设备完成用户请求的操作后,会向CPU发出相应的中断信号,这时CPU会暂停执行下一条即将要执行的指令转而去执行与中断信号对应的处理程序,如果先前执行的指令是用户态下的程序,那么这个转换的过程自然也就发生了由用户态到内核态的切换。比如硬盘读写操作完成,系统会切换到硬盘读写的中断处理程序中执行后续操作等。
1.6 中断分类
- 外中断
由 CPU 执行指令以外的事件引起,如 I/O 完成中断,表示设备输入/输出处理已经完成,处理器能够发送下一个输入/输出请求。此外还有时钟中断、控制台中断等。
- 异常
由 CPU 执行指令的内部事件引起,如非法操作码、地址越界、算术溢出等。
- 陷入
在用户程序中使用系统调用。
二、进程管理
2.1 进程和线程
进程:进程是进程实体的运行过程,是系统进行资源分配
的基本单位(具有动态、并发、独立、异步的特性,以及就绪、执行、阻塞3种状态);
进程 = 资源 + 指令执行序列
- 引入进程是为了使多个程序可以并发的执行,以提高系统的资源利用率和吞吐量。
线程:是CPU调度的基本单位,可以看做是轻量级的进程(具有轻型实体,独立调度分派单位,可并发执行,共享进程资源等属性);
QQ 和浏览器是两个进程,浏览器进程里面有很多线程,例如 HTTP 请求线程、事件响应线程、渲染线程等等,线程的并发执行使得在浏览器中点击一个新链接从而发起 HTTP 请求时,浏览器还可以响应用户的其它事件。
- 引入线程是为了避免每次调度切换时都连同资源一起切换,只切换执行序列这样显然代价很高,减少程序在并发执行过程中的开销。
2.2 进程的状态与转换
- 就绪态:进程处于准备运行的状态,即获得了除处理机之外的一切所需资源,就差处理机进行进程调度
- 运行态:进程正在被处理机调度运行。如果是在单处理机环境下,每一时刻最多只有一个进程处于运行状态,n核处理机就n个进程。
- 阻塞态(等待态):进程因等待某个事件而暂停运行。例如:等待资源的可用,等待I/O的完成,即使处理机空闲,该进程也不能运行。
区别一下就绪态和阻塞态:
就绪状态是指进程仅缺少处理机,只要获得处理机资源就立即执行;
等待状态是指进程需要除了处理机的其他资源、等待某一事件。
就绪状态 -> 运行状态:处于就绪状态的进程被调度后,获得处理机资源(分派处理机时间片),于是进程由就绪状态转换为运行状态。
运行状态 -> 就绪状态:处于运行状态的进程在时间片用完
后,不得不让出处理机,从而进程由运行状态转换为就绪状态。此外,在可剥夺的操作系统中,当有更高优先级的进程
就绪时,调度程度将正执行的进程转换为就绪状态,让更高优先级的进程执行
。
运行状态 -> 阻塞状态:当进程请求某一资源(如外设)的使用和分配或等待某一事件的发生(如I/O操作的完成)时,它就从运行状态转换为阻塞状态。进程以系统调用的形式请求操作系统提供服务,这是一种特殊的、由运行用户态程序调用操作系统内核过程的形式。
阻塞状态 -> 就绪状态:当进程等待的事件到来时,如I/O操作结束或中断结束
时,中断处理程序必须把相应进程的状态由阻塞状态转换为就绪状态。
2.3 进程线程区别
两者的对比:
- 调度:线程是独立调度的基本单位,在同一进程中,线程的切换不会引起进程切换,从一个进程中的线程切换到另一个进程中的线程时,会引起进程切换。
- 并发性:引入了线程的OS中,进程间可以并发,而且一个进程内部的多个线程之间也是可以并发的,更有效的提高了系统资源利用率和吞吐量。
- 拥有资源:进程是资源分配的基本单位,但是线程不拥有资源,线程可以访问隶属进程的资源。
- 系统开销:由于创建或撤销进程时,系统都要为之分配或回收资源,如内存空间、I/O 设备等,所付出的开销远大于创建或撤销线程时的开销。类似地,在进行进程切换时,涉及当前执行进程 CPU 环境的保存及新调度进程 CPU 环境的设置,而线程切换时只需保存和设置少量寄存器内容,开销很小。
- 通信:线程间可以通过直接读写同一进程中的数据进行通信,但是进程通信需要借助 IPC。
2.4 进程调度算法
先来先服务调度算法FCFS:既可以作为作业调度算法也可以作为进程调度算法;按作业或者进程到达的先后顺序依次调度;
因此对于长作业比较有利;
短作业优先调度算法SJF:作业调度算法,算法从就绪队列中选择估计时间最短的作业进行处理,直到得出结果或者无法继续执行;缺点:不利于长作业;未考虑作业的重要性;运行时间是预估的,并不靠谱 ;
高响应比优先:响应比=(等待时间+要求服务时间)/要求服务时间;
时间片轮转调度RR:按到达的先后对进程放入队列中,然后给队首进程分配CPU时间片,时间片用完之后计时器发出中断,暂停当前进程并将其放到队列尾部,循环 ;
常常用于改善先来先服务算法
多级反馈队列调度算法:目前公认较好的调度算法;设置多个就绪队列并为每个队列设置不同的优先级,第一个队列优先级最高,其余依次递减。优先级越高的队列分配的时间片越短,进程到达之后按FCFS放入第一个队列,如果调度执行后没有完成,那么放到第二个队列尾部等待调度,如果第二次调度仍然没有完成,放入第三队列尾部…。
只有当前一个队列(优先级高的队列)为空的时候才会去调度下一个队列的进程。
2.5 进程同步
进程同步:多个进程因为合作产生的直接制约关系,使得进程有一定的先后执行关系。
多进程虽然提高了系统资源利用率和吞吐量,但是由于进程的异步性(走走停停,例如生-消问题)可能造成系统的混乱。进程同步的任务就是对多个相关进程在执行顺序上进行协调,使并发执行的多个进程之间可以有效的共享资源和相互合作,保证程序执行的可再现性。
同步机制需要遵循的原则:
- 空闲让进:当没有进程处于临界区的时候,应该许可其他进程进入临界区的申请
- 忙则等待:当前如果有进程处于临界区,如果有其他进程申请进入,则必须等待,保证对临界区的互斥访问
- 有限等待:对要求访问临界资源的进程,需要在有限时间内进入临界区,防止出现死等
- 让权等待:当进程无法进入临界区的时候,需要释放处理机(让掉处理机的权利),以免陷入“忙等”状态
经典的进程同步问题:生产者-消费者问题;哲学家进餐问题;读者-写者问题
同步的解决方案:管程机制,信号量机制。
1、信号量
信号量(Semaphore)是一个变量,可以对其执行 P 和 V 操作。
- P : 如果信号量大于 0 ,执行 -1 操作;如果信号量等于 0,进程睡眠,等待信号量大于 0;
- V :对信号量执行 +1 操作,唤醒睡眠的进程让其完成 P 操作。
P V 操作需要被设计成原语,不可分割,通常的做法是在执行这些操作的时候屏蔽中断。
如果信号量的取值只能为 0 或者 1,那么就成为了 互斥量(Mutex) ,0 表示临界区已经加锁,1 表示临界区解锁。
2、管程
管程机制:封装了信号量同步机制实现细节,管程每次只准许一个进行进入管程,执行管程内同步操作,从而实现进程互斥。
管程有一个重要特性:在一个时刻只能有一个进程使用管程。进程在无法继续执行的时候不能一直占用管程,否则其它进程永远不能使用管程。
管程引入了 条件变量 以及相关的操作:wait() 和 signal() 来实现同步操作。对条件变量执行 wait() 操作会导致调用进程阻塞,把管程让出来给另一个进程持有。signal() 操作用于唤醒被阻塞的进程。
2.7 进程通信
进程通信是指进程之间的信息交换。PV原语操作是低级通信方式,髙级通信方式是指以较高的效率传输大量数据的通信方式。
1、与进程同步的区别
进程同步与进程通信很容易混淆,它们的区别在于:
- 进程同步:控制多个进程按一定顺序执行;
- 进程通信:进程间传输信息。
进程通信是一种手段,而进程同步是一种目的。也可以说,为了能够达到进程同步的目的,需要让进程进行通信,传输一些进程同步所需要的信息。
*2、管道
管道通信是消息传递的一种特殊方式。所谓“管道”,是指用于连接一个读进程和一个写进程以实现它们之间通信的一个共享文件,又名pipe文件。
进程通信采用管道通信方式时,操作系统会在内存中开辟的一个大小固定的缓冲区,进程需要按照“管道的规则”进行通信。 (“管道的规则”在此部分的最后会提到)
注意:一条管道只能实现半双工通信,半双工通信即某一时间段内只能实现单向的数据传输。
如果要实现双向同时通信,即某一时间段内实现双向的数据传输,则需要设置两条管道。
- 一条管道只能实现半双工通信,即 某一时间段内只能实现单向的数据传输。
- 各个进程只能互斥访问管道,即 当一个进程在写的时候,另外一个进程不能读,反之亦然。
- 数据会以字符流的形式写入管道,当管道写满时,写进程的write()系统调用将会被阻塞,直到读进程将数据取走;当读进程将数据全部取走后,管道变空,此时读进程的read()系统调用将被阻塞。
- 如果没写满,就不允许读;如果没读空,就不允许写。
3、共享存储
在通信的进程之间存在一块可直接访问的共享空间,通过对这片共享空间进行写/读操作实现进程之间的信息交换。在对共享空间进行写/读操作时,需要使用同步互斥工具(如 P操作、V操作),对共享空间的写/读进行控制。
4、消息队列
在消息传递系统中,进程间的数据交换是以格式化的消息(Message)
为单位的。若通信的进程之间不存在可直接访问的共享空间,则必须利用操作系统提供的消息传递方法实现进程通信。进程通过系统提供的发送消息和接收消息两个原语进行数据交换。
1) 直接通信方式:发送进程直接把消息发送给接收进程,并将它挂在接收进程的消息队列上,接收进程从消息队列中取得消息。
2) 间接通信方式:发送进程把消息发送到某个中间实体中,接收进程从中间实体中取得消息。这种中间实体一般称为信箱,这种通信方式又称为信箱通信方式。该通信方式广泛应用于计算机网络中,相应的通信系统称为电子邮件系统。
三、死锁
死锁是指多个进程在运行过程中,因为争夺资源而造成的一种僵局,如果没有外力推进,处于僵局中的进程就无法继续执行。
1、死锁原因
- 竞争资源:请求同一有限资源的进程数多于可用资源数
- 进程推进顺序非法:进程执行中,请求和释放资源顺序不合理,如资源等待链
2、死锁产生的必要条件
- 互斥条件:进程对所分配的资源进行排他性的使用
- 请求和保持条件:进程被阻塞的时候并不释放锁申请到的资源
- 不可剥夺条件:进程对于已经申请到的资源在使用完成之前不可以被剥夺
- 环路等待条件:发生死锁的时候存在的一个 进程-资源 循环等待链
3、死锁处理
- 预防死锁:破坏产生死锁的4个必要条件中的一个或者多个;实现起来比较简单,但是如果限制过于严格会降低系统资源利用率以及吞吐量
- 避免死锁:在资源的动态分配中,防止系统进入不安全状态(可能产生死锁的状态)-如银行家算法
- 检测死锁:允许系统运行过程中产生死锁,在死锁发生之后,采用一定的算法进行检测,并确定与死锁相关的资源和进程,采取相关方法清除检测到的死锁。实现难度大
- 解除死锁:与死锁检测配合,将系统从死锁中解脱出来(撤销进程或者剥夺资源)。对检测到的和死锁相关的进程以及资源,通过撤销或者挂起的方式,释放一些资源并将其分配给处于阻塞状态的进程,使其转变为就绪态。实现难度大
三、内存管理
3.1 内存连续分配算法
主要是指动态分区分配时所采用的几种算法。
动态分区分配又称为可变分区分配,是一种动态划分内存的分区方法。这种分区方法不预先将内存划分,而是在进程装入内存时,根据进程的大小动态地建立分区,并使分区的大小正好适合进程的需要。因此系统中分区的大小和数目是可变的。
首次适应(First Fit)算法:空闲分区以地址递增的次序链接。分配内存时顺序查找,找到大小能满足要求的第一个空闲分区。
最佳适应(Best Fit)算法:空闲分区按容量递增形成分区链,找到第一个能满足要求的空闲分区,避免了大材小用。
最坏适应(Worst Fit)算法:又称最大适应(Largest Fit)算法,空闲分区以容量递减的次序链接。找到第一个能满足要求的空闲分区,也就是挑选出最大的分区。
3.2 分页储存管理方式
把主存空间划分为大小相等且固定的块,块相对较小(一般为4k,避免出现内存碎片),作为主存的基本单位。每个进程也以块为单位进行划分,进程在执行时,以块为单位逐个申请主存中的块空间。
因为程序数据存储在不同的页面中,而页面又离散的分布在内存中,因此需要一个页表来记录逻辑地址和实际存储地址之间的映射关系,以实现从页号到物理块号的映射。
由于页表也是存储在内存中的,因此和不适用分页管理的存储方式相比,访问分页系统中内存数据需要两次的内存访问
一次是从内存中访问页表,从中找到指定的物理块号,加上页内偏移得到实际物理地址;
第二次就是根据第一次得到的物理地址访问内存取出数据。
所以为了减少两次访问内存
导致的效率影响,分页管理中引入了快表机制,包含快表机制的内存管理中,当要访问内存数据的时候,首先将页号在快表中查询,如果查找到说明要访问的页表项在快表中,那么直接从快表中读取相应的物理块号;如果没有找到,那么访问内存中的页表,从页表中得到物理地址,同时将页表中的该映射表项添加到快表中(可能存在快表换出算法)。
在某些计算机中如果内存的逻辑地址很大,将会导致程序的页表项会很多,而页表在内存中是连续存放的,所以相应的就需要较大的连续内存空间。
为了解决这个问题,可以采用两级页表或者多级页表的方法,其中外层页表一次性调入内存且连续存放,内层页表离散存放。相应的访问内存页表的时候需要一次地址变换,访问逻辑地址对应的物理地址的时候也需要一次地址变换,而且一共需要访问内存3次才可以读取一次数据。
3.3 分段储存管理方式
分页是为了提高内存利用率,而分段是为了满足程序员在编写代码的时候的一些逻辑需求(比如数据共享,数据保护,动态链接等)。
分段内存管理当中,地址是二维的,一维是段号,一维是段内地址;其中每个段的长度是不一样的,而且每个段内部都是从0开始编址的。由于分段管理中,每个段内部是连续内存分配,但是段和段之间是离散分配的,因此也存在一个逻辑地址到物理地址的映射关系,相应的就是段表机制。段表中的每一个表项记录了该段在内存中的起始地址和该段的长度。段表可以放在内存中也可以放在寄存器中。
访问内存的时候根据段号和段表项的长度计算当前访问段在段表中的位置,然后访问段表,得到该段的物理地址,根据该物理地址以及段内偏移量就可以得到需要访问的内存。
由于也是两次内存访问,所以分段管理中同样引入了联想寄存器。
3.4 分段分页方式的比较
总结:程序(逻辑)分段 + 内存(物理)分页
段是信息的逻辑单位,每个段含有一组意义完整的信息,是出于用户角度提出的内存管理机制
页是信息的物理单位,是出于系统内存利用率的角度提出的离散分配机制;
段的大小是不确定的,由用户决定
页的大小是固定的,由系统决定;
3.5 虚拟内存
如果存在一个程序,所需内存空间超过了计算机可以提供的实际内存,那么由于该程序无法装入内存所以也就无法运行。单纯的增加物理内存只能解决一部分问题,但是仍然会出现无法装入单个或者无法同时装入多个程序的问题。但是可以从逻辑的角度扩充内存容量,即可解决上述两种问题。
基于局部性原理,在程序装入时,可以将程序的一部分装入内存,而将其余部分留在外存,就可以启动程序执行。在程序执行过程中,当所访问的信息不在内存时(缺页中断),由操作系统将所需要的部分调入内存,然后继续执行程序。另一方面,操作系统将内存中暂时不使用的内容换出到外存上,从而腾出空间存放将要调入内存的信息。
这样,系统好像为用户提供了一个比实际内存大得多的存储器,这种“模式”的内存称为虚拟内存。
虚拟内存模式示意图:(下图页表即虚拟内存)
虚拟存储器的特征:
多次性:一个作业可以分多次被调入内存。多次性是虚拟存储特有的属性
对换性:作业运行过程中存在换进换出的过程(换出暂时不用的数据换入需要的数据)
虚拟性:虚拟性体现在其从逻辑上扩充了内存的容量(可以运行实际内存需求比物理内存大的应用程序)。虚拟性是虚拟存储器的最重要特征也是其最终目标。
虚拟性建立在多次性和对换性的基础上行,多次性和对换性又建立在离散分配的基础上
3.6 页面置换算法
最佳置换算法:只具有理论意义的算法,用来评价其他页面置换算法。置换策略是将当前页面中在未来最长时间内不会被访问的页置换出去。
先进先出置换算法:简单粗暴的一种置换算法,没有考虑页面访问频率信息。每次淘汰最早调入的页面。
最近最久未使用算法LRU:算法赋予每个页面一个访问字段,用来记录上次页面被访问到现在所经历的时间t,每次置换的时候把t值最大的页面置换出去(实现方面可以采用寄存器或者栈的方式实现)。
最少使用算法LFU:设置寄存器记录页面被访问次数,每次置换的时候置换当前访问次数最少的。
时钟算法clock(也被称为是最近未使用算法NRU):页面设置一个访问位,并将页面链接为一个环形队列,页面被访问的时候访问位设置为1。页面置换的时候,如果当前指针所指页面访问为为0,那么置换,否则将其置为0,循环直到遇到一个访问为位0的页面。
改进型Clock算法:在Clock算法的基础上添加一个修改位,替换时根究访问位和修改位综合判断。优先替换访问位和修改位都是0的页面,其次是访问位为0修改位为1的页面。
四、I/O系统
I/O设备的控制方式(数据传输方式)
1) 程序循环测试方式(程序查询式)
是指用户进程使用start指令启动设备后,不断地执行test指令(效率低),去测试所启动设备的状态寄存器。只有在状态寄存器出现了所需要的状态后,才停止测试工作,完成输入/输出。
2) 中断方式
所谓“中断”是一种使CPU暂时中止正在执行的程序而转去处理特殊时间的操作。
3) 直接存储器存取方式(DMA方式)
特点:能使I/O设备直接和内存储器进行成批数据的快速传输。(单位:块数据)
4) 通道方式
通道方式能够使CPU彻底从I/O中解放出来,由通道独立完成。CPU进行启动和结束处理。
通道是一个独立于CPU的,专门用来管理输入/输出操作的处理机。