
中国移动通信集团公司研究院
2005年12月08日
前 言
本次测试主要测试WLAN QoS和非QoS网络设备和终端之间的兼容性,以及验证WLAN QoS机制下话音和数据混合业务的接入支持能力。在兼容性测试方面,主要验证非QoS AP与QoS终端、QoS AP与非QoS终端,以及QoS终端与非QoS终端之间的共存。在话音和数据业务的混合接入支持能力方面,一方面验证 WLAN QoS机制在满负荷情况下能否保持高优先业务如话音业务的优先权,同时通过测试获得WLAN QoS机制下能够接入的最大话音和数据用户数量,为实际的网络部署和规划提供依据。
本次测试由中国移动通信集团公司研究院组织,参加测试单位有思科和华为。本次测试从2006年1月17日至23日于北京理工大学计算机实验室进行。
本测试规范的解释权在中国移动通信集团公司研究院。
测试规范完成人:周文辉。
目 录
1 测试需求 4
2 测试方案 4
2.1 测试环境图 4
2.2 测试环境 5
2.2.1 测试设备 5
2.2.2 测试软件工具 5
3 测试工具说明 5
3.1 Chariot 5
3.2 Chariot关于VoIP测试的支持 5
3.2.1 语音编码: 5
3.2.2 话音质量评估方法 6
3.3 Chariot测试结果分析 6
4 测试时间 6
5 测试地点 6
6 测试列表 7
6.1 接入性能测试 7
6.1.1 非QoS AP情况下,接入性能测试用例列表 7
6.1.2 QoS AP情况下,接入性能测试用例列表 7
6.2 IEEE802.11e兼容性测试用例列表 7
7 测试用例 7
7.1 接入性能测试用例 7
7.1.1 非QoS AP情况下,接入性能测试用例 7
7.1.2 QoS AP情况下,接入性能测试用例 10
7.2 IEEE802.11e兼容性测试用例 15
测试需求
●接入性能测试:QoS AP和非QoS AP情况下,不同类型终端所提供的话音和数据业务的混合接入性能测试。
●兼容性测试:不同QoS机制下,不同设备之间的兼容性测试。
测试方案
测试环境图
图1 测试环境图
●测试内容:
整个测试中,语音测试软件采用Chariot测试工具软件、手机终端,流媒体测试采用流媒体播放器软件、Chariot测试工具软件;
●测试方式:
真实客户端:
多个测试便携安装WLAN网卡模拟接入终端;
●数据业务质量的测试判定
FTP的平均下载速率不低于50kbps;
●语音质量的测试判据
测量得来的MOS值大于等于3.6。
测试环境
测试设备
| 设备名称及说明 | 数量 |
| 测试AP | 1台 |
| 测试台式计算机 | 20台 |
| 测试便携计算机 | 20台 |
| 测试网卡 | 20块 |
| 名称 | 版本 | 说明 |
| Chariot | 6.20 | 性能测试软件 |
Chariot
Chariot是一套软件系统,由两部分组成:控制端Console(或者Lite)和远端Endpoint,两者都要安装在普通PC或者服务器上。其中控制端安装在Windows XP和2003操作系统上,Endpoint支持各种主流的操作系统(XP、2003),测试过程如下:
图2 Chariot组成及测试过程
Chariot关于VoIP测试的支持
语音编码:
●G.711u
●G.711a
●G.726
●G.729
话音质量评估方法
传统上,话音质量的测试是主观的:拿起电话,听一段通话,然后判断其话音质量。其中,比较突出的话音质量主观评估方法是MOS(Mean Opinion Score),具体参见ITU (International Telecommunications Union)的P.800 [1]建议。ITU的P.800建议描述了人们的这些反应,包括在听到不同延迟和丢包的语音时会给出的印象分。建立了网络特性,包括延迟和丢包等,与印象分之间的对应关系,使得MOS对于网络的VoIP的评估和调整十分有意义。
MOS的评分从1分到5分,其中1分表示非常糟糕,而5分表示非常好。具体如下:
| 下限 | 上限 | 用户满意度 |
| 4.34 | 5.00 | 非常满意 |
| 4.03 | 4.34 | 满意 |
| 3.60 | 4.03 | 部分用户满意 |
| 3.10 | 3.60 | 很多用户不满意 |
| 2.58 | 3.10 | 几乎所有用户不满意 |
| 1.00 | 2.58 | 不可接收 |
Chariot测试结果分析
如果MOS值低于3.60,则可以认为该网络对VoIP的业务支持很差,MOS值是One-way Delay、Jitter和Packet Loss(在Datagram中)的综合评价。本次测试检查的MOS值是所有接入话音的平均MOS值。One-way Delay表示单向延迟,如果超过了150ms,则认为网络延迟太大;Jitter表示抖动,超过了20ms,则认为抖动太大; Packet Loss表示丢包率,超过了1%,则认为丢包率太高。
测试时间
2006年1月17日~2006年1月23日
测试地点
北京理工大学计算机实验室
测试列表
接入性能测试
非QoS AP情况下,接入性能测试用例列表
| 测试项目 | 测试编号 | 测试分项 |
| 非QoS AP情况下,接入性能测试 | 1.1 | 测试话音业务和数据业务满负荷时的工作状况 |
| 测试项目 | 测试编号 | 测试分项 |
| QoS AP情况下,接入性能测试 | 2.1 | QoS终端情况下,先接入话音业务再接入数据业务,测试满负荷话音和数据业务时的性能 |
| 2.2 | QoS终端情况下,先接入数据业务再接入话音业务,测试满负荷话音和数据业务时的性能 | |
| 2.3 | QoS终端情况下,交替接入数据业务和话音业务,测试满负荷话音和数据业务时的性能 |
| 测试项目 | 测试编号 | 测试分项 |
| IEEE802.11e兼容性测试 | 3.1 | QoS AP组网,接入QoS终端和非QoS终端 |
| 3.2 | 非QoS AP组网,接入QoS终端和非QoS终端 |
接入性能测试用例
非QoS AP情况下,接入性能测试用例
满负荷话音和数据业务时的工作状况
| 测试编号 | 1.1 |
| 项 目 | 纯11b模式下,非QoS AP情况下,接入性能测试 |
| 分 项 目 | 测试话音业务和数据业务满负荷时的工作状况 |
| 测试目的 | 测试话音业务和数据业务满负荷时的工作状况 |
| 预置配置 | 按照以下配置图搭建环境,同时接入语音和数据用户 1.AP配置如下: ◆恢复为AP默认配置下 ◆配置ESSID(建议为每个厂家的名称) ◆配置IP地址(和网卡及其PC在同一网段) ◆配置射频模式:纯11b模式 ◆确保关闭AP WME qos功能 2.STA配置如下: ◆所有无线网卡配置相同网段的IP地址。 ◆所有STA均安装ENDPOINT软件,并保证endpoint服务正常启动(通过任务管理器可以查看到) ◆所有无线网卡均接入测试ap,并保证在ap上均可以ping通各个无线网卡 ◆各个无线网卡之间可以互相ping通 3.Chariot console配置: ◆确保正常安装chariot console软件并正常注册 ◆配置于ap,pc,sta相同网段的ip,并可以相互ping通 4.PC配置如下: ◆所有PC配置跟ap和sta相同网段的IP地址 ◆所有STA均安装ENDPOINT软件,并保证endpoint服务正常启动(通过任务管理器可以查看到) ◆确保pc可以ping通ap和sta及其chart console 5.Airopeek: 可以正常抓取测试ap和sta间的报文 |
| 测试流程 | Item1: 1.开启ap,配置为不支持wme,接入无线网卡,并确保状态为正常。 2.开启chariot,配置L个语音通路,每个通路均有1个无线网卡和一台上行的pc机组成,其语音格式为G.711u格式,分up pair和down pair,也就是每对用户有两队pair,共L对pair。(注:一般经验值13左右,L的取值可以稍小一些,再逐一加。) 3.开始启动chariot,同时启动在步骤2中配置好的这L对语音通路,运行3分钟,进行voip测试。每次测试过程须运行两次。 4.在测试过程中,观察L对话音通路的平均MOS值。如果该平均MOS值大于3.6,则需要继续增加语音通路数量,如果是小于3.6,则需要减少语音通路数量。再继续从步骤2开始执行测试。 5.最后取平均MOS值大于3.6且最接近3.6时的语音通路数量为此时的话音满负荷用户数,记作N。 Item2: 1.开启chariot,配置N个语音通路。 2.新建J个FTP pair(脚本为ftpget.scr,并且为单向,方向为从无线网卡到pc)。 3.开始启动chariot,同时启动在步骤2中配置好的N对语音通路和1路FTP的数据业务,并运行3分钟,进行voip+FTP的测试。每次测试过程须运行两次。 4.在测试过程中,观察N对话音通路的平均MOS值和FTP的下载速率情况。 5.如果在话音通路平均MOS值大于3.6的基础上,FTP的下载速率也大于50kbps,则需要继续增加FTP的数量,再继续从步骤2起开始执行测试。 6.或者是话音通路平均MOS值小于3.6,或者是FTP的下载速率小于50kbps,则表示达到在话音满负荷的前提下,数据业务也达到了满负荷。 7.最后取大于并且最接近50kbps的FTP数量即为满负荷情况下的最大数量,记作M。 |
| 预计结果 | 随着数据的加入,话音质量降低。 |
| 实测结果 | |
| 备注 |
QoS终端情况下,先接入话音再接入数据业务,测试满负荷时的性能
| 测试编号 | 2.1 |
| 项 目 | QoS AP情况下,接入性能测试 |
| 分 项 目 | QoS终端情况下,先接入话音业务再接入数据业务,测试满负荷时的性能 |
| 测试目的 | 测试QoS终端情况下,先接入话音业务再接入数据业务,满负荷(MOS>3.5&FTP>50Kbps)时的性能 |
| 预置配置 | 按照以下配置图搭建环境,同时接入语音和数据用户 1.AP配置如下: ◆恢复为AP默认配置下 ◆配置ESSID(建议为每个厂家的名称) ◆配置IP地址(和网卡及其PC在同一网段) ◆配置射频模式:纯11b模式 ◆确保AP WME qos功能开启 2.STA配置如下: ◆所有无线网卡配置相同网段的IP地址 ◆所有STA均安装ENDPOINT软件,并保证endpoint服务正常启动(通过任务管理器可以查看到) ◆所有无线网卡开启QOS功能均接入测试ap,并保证在ap上均可以ping通各个无线网卡 ◆各个无线网卡之间可以互相ping通 3.Chariot console配置: 确保正常安装chariot console软件并正常注册. 配置于ap,pc,sta相同网段的ip,并可以相互ping 通 4.PC配置如下: ◆所有PC配置跟ap和sta相同网段的IP地址 ◆所有STA均安装ENDPOINT软件,并保证endpoint服务正常启动(通过任务管理器可以查看到) ◆确保pc可以ping通ap和sta及其chart console 5.Airopeek: 可以正常抓取测试ap和sta间的报文 |
| 测试流程 | Item1: 1.开启ap,配置为支持wme,接入无线网卡,并确保状态为正常。 2.开启chariot,配置L个语音通路,每个通路均有1个无线网卡和一台上行的pc机组成,其语音格式为G.711u格式,分up pair和down pair,也就是每对用户有两队pair,共L对pair。(注:一般经验值13左右,L的取值可以稍小一些,再逐一加。) 3.开始启动chariot,同时启动在步骤2中配置好的这L对语音通路,运行3分钟,进行voip测试。每次测试过程须运行两次。 4.在测试过程中,观察L对话音通路的平均MOS值。如果该平均MOS值大于3.6,则需要继续增加语音通路数量,如果是小于3.6,则需要减少语音通路数量。再继续从步骤2开始执行测试。 5.最后取平均MOS值大于3.6且最接近3.6时的语音通路数量为此时的话音满负荷用户数,记作N。 Item2: 1.开启chariot,配置N个语音通路。 2.新建J个FTP pair(脚本为ftpget.scr,并且为单向,方向为从无线网卡到pc)。 3.开始启动chariot,同时启动在步骤2中配置好的N对语音通路和1路FTP的数据业务,并运行3分钟,进行voip+FTP的测试。每次测试过程须运行两次。 4.在测试过程中,观察N对话音通路的平均MOS值和FTP的下载速率情况。 5.如果在话音通路平均MOS值大于3.6的基础上,FTP的下载速率也大于50kbps,则需要继续增加FTP的数量,再继续从步骤2起开始执行测试。 6.或者是话音通路平均MOS值小于3.6,或者是FTP的下载速率小于50 kbps,则表示达到在话音满负荷的前提下,数据业务也达到了满负荷。 7.最后取大于并且最接近50kbps的FTP数量即为满负荷情况下的最大数量,记作M。 |
| 预计结果 | 随着数据的加入,话音质量降低。 |
| 实测结果 | |
| 备注 |
| 测试编号 | 2.2 |
| 项 目 | QoS AP情况下,接入性能测试 |
| 分 项 目 | QoS终端情况下,先接入数据业务再接入话音业务,测试满负荷时的性能 |
| 测试目的 | 测试QoS终端情况下,先接入数据业务再接入话音业务,满负荷(MOS>3.5&FTP>50Kbps)时的性能 |
| 预置配置 | 按照以下配置图搭建环境,同时接入语音和数据用户 1.AP配置如下: ◆恢复为AP默认配置下 ◆配置ESSID(建议为每个厂家的名称) ◆配置IP地址(和网卡及其PC在同一网段) ◆配置射频模式:纯11b模式 ◆确保AP WME qos功能开启 2.STA:配置如下 ◆所有无线网卡配置相同网段的IP地址 ◆所有STA均安装ENDPOINT软件,并保证endpoint服务正常启动(通过任务管理器可以查看到) ◆所有无线网卡开启QOS功能均接入测试ap,并保证在ap上均可以ping通各个无线网卡 ◆各个无线网卡之间可以互相ping通 3.Chariot console配置: ◆确保正常安装chariot console软件并正常注册. ◆配置于ap,pc,sta相同网段的ip,并可以相互ping通 4.PC配置如下: ◆所有PC配置跟ap和sta相同网段的IP地址。 ◆所有STA均安装ENDPOINT软件,并保证endpoint服务正常启动(通过任务管理器可以查看到) ◆确保pc可以ping通ap和sta及其chart console 5.Airopeek: 可以正常抓取测试ap和sta间的报文 |
| 测试流程 | Item3: 1.开启ap,配置为支持wme,接入无线网卡,并确保状态为正常。 2.开启chariot,配置16个语音通路,每个通路均有1个无线网卡和一台上行的pc机组成(语音格式为:G.711u格式,分up和down pair,也就是每对用户有两队pair,共28对pair)建立1个FTPpair(脚本为ftpget.scr,并且为单向,方向为从无线网卡到pc) 3.配置每个voip pair语音通道的运行时间(注每通道为2个pair:up和down方向),时间如下: A. 总运行时间为12分钟 B.设定M个FTP用户的起始运行时间为chariot的开始运行时间(无需配置,默认值) C.第1~N-3个voip通道的起始运行时间为120000毫秒 D.第N-2个voip通道的起始运行时间为240000毫秒 E.第N-1个voip通道的起始运行时间为360000毫秒 F.第N个voip通道的起始运行时间为480000毫秒 G.第N+1个voip通道的起始运行时间为480000毫秒 4.开始启动chariot,进行voip测试 5.12分钟后,记录测试结果,结果记录分时间段,分别提取不同时间段的话录数和mos值,记录表格如下实测结果item3。 提示: 1.起始运行时间的配置: A.VOIP:选中要配置的pair(可以通过拖动和ctrl键配合进行多选),右单击选EDIT,在voip的pair配置界面下的advenced下方的constant value旁边的upper limit对话框中可以输入起始运行时间 .单位是毫秒. B.FTP: 选中要配置的pair(可以通过拖动和ctrl键配合进行多选),右单击选EDIT,单击edit this script,选择initial_delay项,在constant value下方的value对话框中输入起始运行的时间值. 2.总运行时间的配置:RUN菜单/set run option//how to end a test run选择run for a fixed duration /然后输入时间 3.不同时间段的结果提取:在pair运行窗口选中要查看的pair,右单击,选view timing records,可以查看到. |
| 预计结果 | 随着数据的加入,话音质量降低。 |
| 实测结果 | |
| 备注 |
| 测试编号 | 2.3 |
| 项 目 | QoS AP情况下,接入性能测试 |
| 分 项 目 | QoS终端情况下,交替接入数据业务和话音业务,测试满负荷时的性能 |
| 测试目的 | QoS终端情况下,交替接入数据业务和话音业务,测试满负荷(MOS>3.5&FTP>50Kbps)时的性能 |
| 预置配置 | 按照以下配置图搭建环境,同时接入语音和数据用户 1.AP: 配置如下: 恢复为AP默认配置下 配置ESSID(建议为每个厂家的名称) 配置IP地址(和网卡及其PC在同一网段) 配置射频模式:纯11b模式 确保AP WME qos功能开启. 2.STA:配置如下 所有无线网卡配置相同网段的IP地址。 所有STA均安装ENDPOINT软件,并保证endpoint服务正常启动(通过任务管理器可以查看到) 所有无线网卡开启QOS功能均接入测试ap,并保证在ap上均可以ping通各个无线网卡 各个无线网卡之间可以互相ping通。 3.Chariot console配置: 确保正常安装chariot console软件并正常注册. 配置于ap,pc,sta相同网段的ip,并可以相互ping 通 4.PC:配置如下 所有PC配置跟ap和sta相同网段的IP地址。 所有STA均安装ENDPOINT软件,并保证endpoint服务正常启动(通过任务管理器可以查看到) 确保pc可以ping通ap和sta及其chart console. 5.Airopeek: 可以正常抓取测试ap和sta间的报文 |
| 测试流程 | Item4: 1.开启ap,配置为支持wme,接入无线网卡,并确保状态为正常。 2.开启chariot,配置16个语音通路,每个通路均有1个无线网卡和一台上行的pc机组成(语音格式为:G.711u格式,分up和down pair,也就是每对用户有两队pair,共28对pair)建立4个FTPpair(脚本为ftpget.scr,并且为单向,方向为从无线网卡到pc) 3.配置每个voip pair语音通道的运行时间(注每通道为2个pair:up和down方向),时间如下: A.总运行时间为10分钟 B. 第1~N-3个voip通道的起始运行时间为chariot的开始运行时间(无需配置,默认值) C.第M-3个FTP用户的起始运行时间为60000毫秒 D.第N-2个voip通道的起始运行时间为120000毫秒 E.第M-2个FTP用户的起始运行时间为180000毫秒 F.第N-1个voip通道的起始运行时间为240000毫秒 G.第M-1个FTP用户的起始运行时间为300000毫秒 H.第N个voip通道的起始运行时间为360000毫秒 I.第M个FTP用户的起始运行时间为420000毫秒 4.开始启动chariot,进行voip测试 5.10分钟后,记录测试结果,结果记录分时间段,分别提取不同时间段的话录数和mos值,记录表格如下实测结果item4。 提示: 1.起始运行时间的配置: A.VOIP:选中要配置的pair(可以通过拖动和ctrl键配合进行多选),右单击选EDIT,在voip的pair配置界面下的advenced下方的constant value旁边的upper limit对话框中可以输入起始运行时间 .单位是毫秒. B.FTP: 选中要配置的pair(可以通过拖动和ctrl键配合进行多选),右单击选EDIT,单击edit this script,选择initial_delay项,在constant value下方的value对话框中输入起始运行的时间值. 2.总运行时间的配置:RUN菜单/set run option//how to end a test run选择run for a fixed duration /然后输入时间 3.不同时间段的结果提取:在pair运行窗口选中要查看的pair,右单击,选view timing records,可以查看到. |
| 预计结果 | 随着数据的加入,话音质量降低。 |
| 实测结果 | |
| 备注 |
QoS AP组网,同时接入QoS终端和非QoS终端
| 测试编号 | 3.1 |
| 项 目 | IEEE802.11e兼容性测试 |
| 分 项 目 | 11e模式下QoS AP组网,同时接入QoS终端和非QoS终端 |
| 测试目的 | 测试11e模式下QoS AP组网、接入QoS终端和非QoS终端时的接入工作状况 |
| 预置配置 | 按照以下配置图搭建环境,同时接入语音和数据用户 1.AP配置如下: ◆恢复为AP默认配置下 ◆配置ESSID(建议为每个厂家的名称) ◆配置IP地址(和网卡及其PC在同一网段) ◆配置射频模式:纯11b模式 ◆确保AP WME qos功能开启 |
| 测试流程 | 1、进行WLAN网络配置,使QAP处于正常工作状态, 2、airopee开启设置信道和过滤条件(ap和要测试网卡的mac)进行抓包 3、接入一个QoS STA,并启动话音业务,观察系统的工作状态; 3、接入一个QoS STA,并启动数据业务,观察系统的工作状态; 4、接入一个NQoS STA,并启动话音业务,观察系统的工作状态; 5、接入一个NQoS STA,并启动数据业务,观察系统的工作状态; 6、分析抓包文件,并在测试ap上查看网卡的状态,记录结果. |
| 预计结果 | 如果系统工作正常,则测试通过。能够兼容工作。 |
| 实测结果 | |
| 备注 |
| 测试编号 | 3.2 |
| 项 目 | IEEE802.11e兼容性测试 |
| 分 项 目 | 采用非QoS AP组网,接入QoS终端和非QoS终端 |
| 测试目的 | 测试非QoS AP组网、接入QoS终端和非QoS终端时的接入工作状况 |
| 预置配置 | 按照以下配置图搭建环境,同时接入语音和数据用户 1.AP配置如下: ◆恢复为AP默认配置下 ◆配置ESSID(建议为每个厂家的名称) ◆配置IP地址(和网卡及其PC在同一网段) ◆配置射频模式:纯11b模式 ◆确保AP WME qos功能关闭 |
| 测试流程 | 1、进行WLAN网络配置,使非QAP处于正常工作状态, 2、airopee开启设置信道和过滤条件(ap和要测试网卡的mac)进行抓包 3、接入一个QoS STA,并启动话音业务,观察系统的工作状态; 3、接入一个QoS STA,并启动数据业务,观察系统的工作状态; 4、接入一个NQoS STA,并启动话音业务,观察系统的工作状态; 5、接入一个NQoS STA,并启动数据业务,观察系统的工作状态; 6、分析抓包文件,并在测试ap上查看网卡的状态,记录结果. |
| 预计结果 | 如果系统工作正常,则测试通过。能够兼容工作。 |
| 实测结果 | |
| 备注 |
1.确保安装Endpoint客户端和chariot console的pc上的操作系统必须要是winxp操作系统+sp2补丁;
2.把文件拷贝到chariot安装目录下x:\\xx\\net1q\\chariot\
3.确认qos服务已经加载:
a)在网卡属性里,添加Qos服务(如果没有,单击安装,然后选服务可以进行添加)
4.执行文件:
5.重启配置的PC
6.打开chariot增加要使用dscp的pair,进行相应配置即可。
7.验证:
a)抓取正在进行测试pair pc的无线报文
b)分析qos域:
背景流标记qos
Voice标记qos
1/1 20 00e0-fc14-486b 2000 192.168.10.108 6586 0
1/1 19 00e0-fc14-483e 2000 192.168.10.103 6587 0
1/1 18 0040-96a7-45a6 2000 192.168.10.85 6587 0
1/1 17 00e0-fc14-4855 2000 192.168.10.66 6588 0
1/1 16 0040-96a7-45d1 2000 192.168.10.86 6592 0
1/1 15 00e0-fc14-4866 2000 192.168.10.107 6592 0
1/1 14 00e0-fc14-4831 2000 192.168.10.104 6592 0
1/1 13 0040-96a7-45ca 2000 192.168.10.82 6593 0
1/1 12 00e0-fc14-4875 2000 192.168.10.101 6593 0
1/1 11 00e0-fc14-483c 2000 192.168.10.95 2956 0
1/1 10 00e0-fc14-487b 2000 192.168.10.102 6596 0
1/1 9 0040-96a7-458c 2000 192.168.10.84 6597 0
1/1 8 0040-96a7-45 2000 192.168.10.81 6597 0
1/1 7 00e0-fc14-4868 2000 192.168.10.63 6597 0
1/1 6 00e0-fc14-4846 2000 192.168.10. 6597 0
1/1 5 0040-96a7-45ff 2000 192.168.10.83 6597 0
1/1 4 00e0-fc14-4860 2000 192.168.10.105 6598 0
1/1 2 00e0-fc14-485e 2000 192.168.10.62 6599 0
1/1 1 00e0-fc14-487d 2000 192.168.10.106 6599 0
1/1 3 00e0-fc14-323f 2000 192.168.10.61 6599 0
