CPU 由运算器和控制器组成。
运算器主要完成各种算术运算和逻辑运算，例如算术逻辑单元（ALU）可进行加、减、乘、除四则运算，与、或、非、异或等逻辑操作，以及移位、比较和传送等操作。此外，运算器还可能包括一些寄存器，如累加器、中间寄存器等，用于暂存运算数据和中间结果。
控制器是指挥中心，负责协调并控制计算机各部件执行程序的指令序列，对指令进行分析和控制。它包含程序计数器（PC），用于指示下一条要执行的指令地址；指令寄存器（IR），用来存放当前正在执行的指令；指令译码器（ID），对指令寄存器中的操作码进行分析解释，产生相应的控制信号；还包括脉冲源及启停线路、时序控制信号形成部件等，以保证指令按顺序执行，并根据指令要求产生相应的时序控制信号。
运算器和控制器相互协作，共同完成对指令的控制执行功能。寄存器可用于存放运算的中间结果和数据，它可以是运算器或控制器的一部分，也可以单独存在。CPU 中的这些部件相互配合，使得计算机能够快速、准确地执行各种指令，进行数据处理和计算。