目前VoIP系统一般由IP电话终端、网关(Gateway)、网(关)守(Gatekeeper)、网管系统、计费系统等几部分组成。

VOIP电话终端

在局域网电话话音网络中的话机与常见PBX话机在外观和感觉方面十分相似，唯一的例外是这些话机直接插入数据网络，并不使用传统的电话配线。有的网络电话机通过USB的总线连接到PC或者笔记本电脑中，有的产品设计得像一部移动电话，而有的产品则提供模拟电话的接口，用来连接模拟电话。这样的设备并不是什么网关，而实际上是PC to PC方式IP电话的一种延伸，PC中还需要装载专门的IP电话软件。它可以说仅仅是一个拨号键盘、麦克风和耳机的结合，PC仍旧是网关。

网关

VoIP的核心与关键设备是IP电话网关。

IP电话网关具有路由管理功能，它把各地区电话区号映射为相应的地区网关IP地址。这些信息存放在一个数据库中，有关处理软件完成呼叫处理、数字语音打包、路由管理等功能。在用户拨打IP电话时，IP电话网关根据电话区号数据库资料，确定相应网关的IP地址，并将此IP地址加入IP数据包中，同时选择最佳路由，以减少传输时延，IP数据包经因特网到达目的地IP电话网关。对于因特网未延伸到或暂时未设立网关的地区，可设置路由，由最近的网关通过长途电话网转接，实现通信业务。

人们提出了把信令控制功能从媒体网关分离出来集中在单设的控制网关中，分立的网关主要有MGCP和SIP两类，前者是通过呼叫代理控制媒体网关，命令后者执行。另外，IETF提出了基于WEB环境的SIP(session initiation protocol)协议。SIP是立足于WEB的客户机/服务器环境中主机间的会晤启动协议，用服务器或代办方式提供各种服务。SIP通过有层次的定位符(URL)识别用户进行寻址，并用服务描述协议指明所要求的服务特性。SIP使用登记报文对SIP服务器登记，用请求命令起动呼叫，报文直接送至客户机或服务器，后者取代了H.323网守的功能。SIP不是段管理协议，只是段的起动和拆除，不涉及段内部的通信细节。

VoIP网关可以分解为单纯的媒体网关MG和媒体网关控制器MGC，以便集中控制和管理。其间的控制协议是MGCP。

网关是完成电路交换呼叫至分组话音转换重要任务以及其逆向过程的部件，网关有时与路由器合并在一起。

路由器

路由器通常是现有数据网络的一部分，它读取包含在分组中的信息，并且沿着可能的最佳路径将该分组送往其目的地。

网守

在IP电话中，网守处于高层，是用来管理IP电话网关的.

IP PBX

然而在局域网电话话音网络中，话音呼叫通过基于IP的PBX进行接收和疏导，而这种IP PBX是与现有的数据网络连接的。IP-PBX可以是一种独立的解决方案，也可以分解为几种分散的装置。

PC-PBX系统突出特点是高集成度，即所谓"all in one box"。它在一个集中式结构中集成集线器、路由、RAS、电话系统以及语音信箱，一些产品还可以包括电子邮件服务器、FTP服务器、文件服务器等。

IP PBX电话交换机系统实现计算机网与电话交换机的功能合一，将会在二十一世纪的通信业中起着重要的作用。

IP PBX网络系统内各电话终端采用IP方式进行数据通信，不仅能进行通话，还能实现文本、数据、图像的传输，将电话网和计算机网统一成一个整体，实现局域网内的电子办公。

而且IP PBX能直接使用便宜的普通模拟电话，不像传统PBX需要配备昂贵的专用数字电话。IP PBX还有一个非常吸引人的优点是，它可利用其VoIP功能用市话价格拨打长途电话，极大地节省了长途通信费用。