前面我们已经建立了4个逻辑电路：加法器、移位器（左）、移位器（右）、比较器。加上我们已经很熟悉的三个逻辑电路：与门、非门、或门，我们就可以做成一个ALU（算数与逻辑单元）了，组成如下：
仔细观察上图，所有的单元都有输入a，对于需要两个输入的单元，b也被连接。所有单元的输入端一直保持连接，输出端都增加了使能器E，使能器的控制端来自译码器，也就是说，同时只会有一个单元被使能。译码器有一位输出并未连接至任何使能器，当该位为on时，7个单元均未被选择，大家都不工作，仅有a larger和equal有输出，代表的比较运算。通过op操作码，可以选择不同的逻辑或算数单元。
可进一步抽象，如下所示：
op操作码所对应的选择为：
其中CMP（比较器）的标志位输出一直工作。
