如何测试洗牌程序
我希望本文有助于你了解测试软件是一件很重要也是一件不简单的事。
我们有一个程序,叫ShuffleArray(),是用来洗牌的,我见过N多千变万化的ShuffleArray(),但是似乎从来没人去想过怎么去测试这个算法。所以,我在面试中我经常会问应聘者如何测试ShuffleArray(),没想到这个问题居然难倒了很多有多年编程经验的人。对于这类的问题,其实,测试程序可能比算法更难写,代码更多。而这个问题正好可以加强一下我在《我们需要专职的QA吗?》中我所推崇的——开发人员更适合做测试的观点。
我们先来看几个算法(第一个用递归二分随机抽牌,第二个比较偷机取巧,第三个比较通俗易懂)
目录
递归二分随机抽牌
有一次是有一个朋友做了一个网页版的扑克游戏,他用到的算法就是想模拟平时我们玩牌时用手洗牌的方式,是用递归+二分法,我说这个程序恐怕不对吧。他觉得挺对的,说测试了没有问题。他的程序大致如下(原来的是用Javascript写的,我在这里凭记忆用C复现一下):
//递归二分方法 const size_t MAXLEN = 10; const char TestArr[MAXLEN] = {'A','B','C','D','E','F','G','H','I','J'}; static char RecurArr[MAXLEN]={0}; static int cnt = 0; void ShuffleArray_Recursive_Tmp(char* arr, int len) { if(cnt > MAXLEN || len <=0){ return; } int pos = rand() % len; RecurArr[cnt++] = arr[pos]; if (len==1) return; ShuffleArray_Recursive_Tmp(arr, pos); ShuffleArray_Recursive_Tmp(arr+pos+1, len-pos-1); } void ShuffleArray_Recursive(char* arr, int len) { memset(RecurArr, 0, sizeof(RecurArr)); cnt=0; ShuffleArray_Recursive_Tmp(arr, len); memcpy(arr, RecurArr, len); } void main() { char temp[MAXLEN]={0}; for(int i=0; i<5; i++) { strncpy(temp, TestArr, MAXLEN); ShuffleArray_Recursive((char*)temp, MAXLEN); } }
随便测试几次,还真像那么回事:
第一次:D C A B H E G F I J 第二次:A G D B C E F J H I 第三次:A B H F C E D G I J 第四次:J I F B A D C E H G 第五次:F B A D C E H G I J
快排Hack法
让我们再看一个hack 快排的洗牌程序(只看算法,省去别的代码):
int compare( const void *a, const void *b ) { return rand()%3-1; } void ShuffleArray_Sort(char* arr, int len) { qsort( (void *)arr, (size_t)len, sizeof(char), compare ); }
运行个几次,感觉得还像那么回事:
第一次:H C D J F E A G B I 第二次:B F J D C E I H G A 第三次:C G D E J F B I A H 第四次:H C B J D F G E I A 第五次:D B C F E A I H G J
看不出有什么破绽。
大多数人的实现
下面这个算法是大多数人的实现,就是for循环一次,然后随机交换两个数
void ShuffleArray_General(char* arr, int len) { const int suff_time = len; for(int idx=0; idx<suff_time; idx++) { int i = rand() % len; int j = rand() % len; char temp = arr[i]; arr[i] = arr[j]; arr[j] = temp; } }
跑起来也还不错,洗得挺好的。
第一次:G F C D A J B I H E 第二次:D G J F E I A H C B 第三次:C J E F A D G B H I 第四次:H D C F A E B J I G 第五次:E A J F B I H G D C
但是上述三个算法哪个的效果更好?好像都是对的。一般的QA或是程序员很有可能就这样把这个功能Pass了。但是事情并没有那么简单……
如何测试
在做测试之前,我们还需要了解一下一个基本知识——PC机上是做不出真随机数的,只能做出伪随机数。真随机数需要硬件支持。但是不是这样我们就无法测试了呢,不是的。我们依然可以测试。
我们知道,洗牌洗得好不好,主要是看是不是够随机。那么如何测试随机性呢?
试想,我们有个随机函数rand()返回1到10中的一个数,如果够随机的话,每个数返回的概率都应该是一样的,也就是说每个数都应该有10分之1的概率会被返回。
一到概率问题,我们只有一个方法来做测试,那就是用统计的方式。也就是说,你调用rand()函数100次,其中,每个数出现的次数大约都在10次左右。(注意:我用了左右,这说明概率并不是很准确的)不应该有一个数出现了15次以上,另一个在5次以下,要是这样的话,这个函数就是错的。
举一反三,测试洗牌程序也一样,需要通过概率的方式来做统计,是不是每张牌出现在第一个位置的次数都是差不多的。
于是,这样一来上面的程序就可以很容易做测试了。
下面是测试结果(测试样本1000次——列是每个位置出现的次数,行是各个字符的统计,出现概率应该是1/10,也就是100次):
递归随机抽牌的方法
很明显,这个洗牌程序太有问题。算法是错的!
1 2 3 4 5 6 7 8 9 10 ---------------------------------------------------- A | 101 283 317 208 65 23 3 0 0 0 B | 101 191 273 239 127 54 12 2 1 0 C | 103 167 141 204 229 115 32 7 2 0 D | 103 103 87 128 242 195 112 26 3 1 E | 104 83 62 67 116 222 228 93 22 3 F | 91 58 34 60 69 141 234 241 65 7 G | 93 43 35 19 44 102 174 274 185 31 H | 94 28 27 27 46 68 94 173 310 133 I | 119 27 11 30 28 49 64 96 262 314 J | 91 17 13 18 34 31 47 88 150 511
快排Hack法
看看对角线(从左上到右下)上的数据,很离谱!所以,这个算法也是错的。
1 2 3 4 5 6 7 8 9 10 ----------------------------------------------------- A | 74 108 123 102 93 198 40 37 52 173 B | 261 170 114 70 49 28 37 76 116 79 C | 112 164 168 117 71 37 62 96 116 57 D | 93 91 119 221 103 66 91 98 78 40 E | 62 60 82 90 290 112 95 98 71 40 F | 46 60 63 76 81 318 56 42 70 188 G | 72 57 68 77 83 39 400 105 55 44 H | 99 79 70 73 87 34 124 317 78 39 I | 127 112 102 90 81 24 57 83 248 76 J | 54 99 91 84 62 144 38 48 116 264
大多数人的算法
我们再来看看大多数人的算法。还是对角线上的数据有问题,所以,还是错的。
1 2 3 4 5 6 7 8 9 10 ----------------------------------------------------- A | 178 98 92 82 101 85 79 105 87 93 B | 88 205 90 94 77 84 93 86 106 77 C | 93 99 185 96 83 87 98 88 82 89 D | 105 85 89 190 92 94 105 73 80 87 E | 97 74 85 88 204 91 80 90 100 91 F | 85 84 90 91 96 178 90 91 105 90 G | 81 84 84 104 102 105 197 75 79 89 H | 84 99 107 86 82 78 92 205 79 88 I | 102 72 88 94 87 103 94 92 187 81 J | 87 100 90 75 76 95 72 95 95 215
正确的算法
下面,我们来看看性能高且正确的算法—— Fisher_Yates算法
void ShuffleArray_Fisher_Yates(char* arr, int len) { int i = len, j; char temp; if ( i == 0 ) return; while ( --i ) { j = rand() % (i+1); temp = arr[i]; arr[i] = arr[j]; arr[j] = temp; } }
这个算法不难理解,看看测试效果(效果明显比前面的要好):
1 2 3 4 5 6 7 8 9 10 ----------------------------------------------------- A | 107 98 83 115 89 103 105 99 94 107 B | 91 106 90 102 88 100 102 97 112 112 C | 100 107 99 108 101 99 86 99 101 100 D | 96 85 108 101 117 103 102 96 108 84 E | 106 89 102 86 88 107 114 109 100 99 F | 109 96 87 94 98 102 109 101 92 102 G | 94 95 119 110 97 112 89 101 89 94 H | 93 102 102 103 100 89 107 105 101 98 I | 99 110 111 101 102 79 103 89 104 102 J | 105 112 99 99 108 106 95 95 99 82
但是我们可以看到还是不完美。因为我们使用的rand()是伪随机数,不过已经很不错的。最大的误差在20%左右。
我们再来看看洗牌100万次的统计值,你会看到误差在6%以内了。这个对于伪随机数生成的程序已经很不错了。
1 2 3 4 5 6 7 8 9 10 ------------------------------------------------------------------------- A | 100095 99939 100451 99647 99321 100189 100284 99565 100525 99984 B | 99659 100394 99699 100436 99989 100401 99502 100125 100082 99713 C | 99938 99978 100384 100413 100045 99866 99945 100025 99388 100018 D | 99972 99954 99751 100112 100503 99461 99932 99881 100223 100211 E | 100041 100086 99966 99441 100401 99958 99997 100159 99884 100067 F | 100491 100294 100164 100321 99902 99819 99449 100130 99623 99807 G | 99822 99636 99924 100172 99738 100567 100427 99871 100125 99718 H | 99445 100328 99720 99922 100075 99804 100127 99851 100526 100202 I | 100269 100001 99542 99835 100070 99894 100229 100181 99718 100261 J | 100268 99390 100399 99701 99956 100041 100108 100212 99906 100019
如何写测试案例
测试程序其实很容易写了。就是,设置一个样本大小,做一下统计,然后计算一下误差值是否在可以容忍的范围内。比如:
- 样本:100万次
- 最大误差:10%以内
- 平均误差:5%以内 (或者:90%以上的误差要小于5%)
注意
其实,以上的测试只是测试了牌在各个位置的概率。这个还不足够好。因为还可能会现在有Patten的情况。如:每次洗牌出来的都是一个循环顺序数组。这完全可以满足我上面的测试条件。但是那明显是错的。所以,还需要统计每种排列的出现的次数,看看是不是均匀。但是,如果这些排列又是以某种规律出现的呢?看来,这没完没了了。
测试的确是一个很重要,并不简单的事情。谢谢所有参与讨论的人。
附录
之前忘贴了一个模拟我们玩牌洗牌的算法,现补充如下:
void ShuffleArray_Manual(char* arr, int len) { int mid = len / 2; for (int n=0; n<5; n++){ //两手洗牌 for (int i=1; i<mid; i+=2){ char tmp = arr[i]; arr[i] = arr[mid+i]; arr[mid+i] = tmp; } //随机切牌 char *buf = (char*)malloc(sizeof(char)*len); for(int j=0; j<5; j++) { int start= rand() % (len-1) + 1; int numCards= rand()% (len/2) + 1; if (start + numCards > len ){ numCards = len - start; } memset(buf, 0, len); strncpy(buf, arr, start); strncpy(arr, arr+start, numCards); strncpy(arr+numCards, buf, start); } free(buf); } }
我们来看看测试结果:(10万次)效果更好一些,误差在2%以内了。
1 2 3 4 5 6 7 8 9 10 ------------------------------------------------------------------------- A | 10002 9998 9924 10006 10048 10200 9939 9812 10080 9991 B | 9939 9962 10118 10007 9974 10037 10149 10052 9761 10001 C | 10054 10100 10050 9961 9856 9996 9853 10016 9928 10186 D | 9851 9939 9852 10076 10208 10003 9974 10052 9992 10053 E | 10009 9915 10050 10037 9923 10094 10078 10059 9880 9955 F | 10151 10115 10113 9919 9844 9896 9891 9904 10225 9942 G | 10001 10116 10097 10030 10061 9993 9891 9922 9889 10000 H | 10075 10033 9866 9857 10170 9854 10062 10078 10056 9949 I | 10045 9864 9879 10066 9930 9919 10085 10104 10095 10013 J | 9873 9958 10051 10041 9986 10008 10078 10001 10094 9910
(全文完)
(转载本站文章请注明作者和出处 酷 壳 – CoolShell ,请勿用于任何商业用途)
《如何测试洗牌程序》的相关评论
不懂ruby的shuffle用的是什么算法?
先占位置,再读文章。
不知道被挑战的那几位哥会不会在这里回复,搬小板凳等着
坐等围观
对比算法不做100万次统计值有失公平,
至于为什么说伪随机数的性能差也没有解释……
也等着……不过感觉如果真模拟显示中的洗牌,每次洗牌,都是在原有顺序上相互insert,不知道算法上是怎么……
MS那个帖子里有人提到概率问题了……
大多数人用的那个随机算法代码有点问题吧?for都没有右括号
第1个和第3个算法的for语句都不全,赶紧补一下。
sorry, 被wordpress的插件给吃掉了。
第三段代碼有誤
for(int idx=0; idx int i = rand() % len;
int j = rand() % len;
應該是
for(int idx=0; idx<suff_time; ++idx) {
int i = rand() % len;
int j = rand() % len;
即使算法正确,还是有问题的:「Note that for even rather small len(x), the total number of permutations of x is larger than the period of most random number generators; this implies that most permutations of a long sequence can never be generated.」(Python 文档说的)
Fisher_Yates算法,目测就是随机抽前N中的一张,放在最后
对我也想说这个. 对于长度为n的序列, 结果应该均匀分布在n!中情况上. 但是由于随机种子只有2^32(或2^64, whatever)个, 当n!大于种子个数的时候(这很容易)就会分布不均匀. 事实上, 只有2^64/n!的情况被覆盖了. n越大, 结果越糟糕.
你朋友的算法,从测试结果也很能看出问题啊:AB总在前面出现,IJ总在后边出现。
但是并不能就此说你朋友的算法就是错的,其实还要看你朋友的游戏是什么样的游戏。如果发牌的游戏不是那种需要在取牌过程中就亮什么牌的打法,用户仅仅关心所有牌都到手之后,手上有哪些牌。那么,AB总在前面出现,IJ总在后面出现,并没有什么关系。如果是3个人在打牌,那验证条件只要弱化成在3k+1、3k+2、3k+3上出现是均匀的就好。算法对不对还是和具体的应用场景有些关系。
终于看到更新了…
文中的测试更像是来评估这个算法而不是测试程序,算法的对错在设计review的时候是要检查的,像这种最好是能证明一下是平均的,而这种unit test类的测试这种表象的观察很难保证算法的正确性。就像第一眼你看看1,2两种算法大概能看出点好像不太平均,然后统计个几千次前两个就能“看”出来概率是不平均的,第三个在100万次的情况下“看上去”是平均分布的,但事实上并不一定。
一个完美shuffle要达到的目标是元素a出现在i位置是1/n(总数为n). 文中结论说5%以内可以接受的话,那在52张扑克牌的洗牌里,如果有两个算法,一个把红桃A放在牌顶的概率是1/52,另一个是1/53,这两个在统计实验里是看不出来的(它们只是2%左右的误差)
比如文中的fisher_yates算法,我可以把
j = rand() % (i+1)
改成
j = rand() % 101*(i+1) % 100*(i+1) % (i+1)
这样在前面的那些元素更容易被挑中,尽管这个多出的概率很低,一般测试很难观察到。
而实际上不用改文中的那个程序就可能有这个bias. 假设rand() 能平均的生成一个0~32767(rand_max)之间的一个数,这样如果用rand() % 10来试图随机的取一个0~9之间的数,得到8和9的概率比其它几个数到低1/3277.而且这个偏差不是伪随机数的偏差,是这个算法里带来的。
所以我想说的是用test来检测算法的正确性有点像贵站之前的一篇文章提到的散弹枪编程,test能在多大程度上发现问题在于“看”得有多细,但是终究无法避免算法根本上的问题。
不过,严格的说来,还应测试相邻牌之间的关系,如下面这个故意找茬的算法:):
你说的没错,是会有这样的情况,而且,这样的情况可能会更变复,隐藏地更深。我只是把问题简化一下,这样好说明测试方法。另外,这是建立在算法实现应该不会出现这样的情况,并对rand()函数的信任的基础上的。总之,你提示的很对。
试想,我们有个随机函数rand()返回1到10中的一个数,如果够随机的话,每个数返回的概率都应该是一样的,也就是说每个数都应该有10分之1的概率会被返回。
这个是个弱条件,
比如将一个数组向左平移rand()个单位,也满足这个条件
为什么第三个版本不对,因为随机数么。
同意gallium的看法,如果要真的刨根究底的话,文中的检测方法太过简单了。当然,如果连这样简单的检测都通不过的算法肯定不行。涉及到概率之后,很多问题相当复杂。
呵呵,真实世界的洗牌,洗得绝对好得话,最后每个人手上的牌都是可以算出来的。其实就是不好的洗牌了。@ev4n
测试随机性很麻烦的,最好的方案就是理论证明算法,测试保证算法是正确实现的。而不是测试保证算法是随机的。除非你测试保证n!种排列的概率都是相等的,而且这还有很多测试的局限性
还有,上面的统计也只是初步的测试,还没有测试炸弹出现的概率阿。
我这个程序应该可以的,就是效率差了一些;
嗯,
a_b[]={};
a_e[];
for (i=0;i<num;i++){
// get the n from left
n = rand(num-i);for (j=0;j<num;j++)
{
if (a_b[j]=N)n++;
if (n==j){a_e[i]=a_b[n];a_b[n]=N;continue}
}}
测试比较有效,但是如果加上测试炸弹的概率应该更好。 模拟手洗的效果差,是不是我们手洗的时候也是不够随机呢? 或者多洗几次会效果好一些 (10秒前)
@k
其实里面的算法的问题,大部分是因为洗牌次数太少,如果多洗几次就好了,
开扩视野了。
要是能算出来,就是洗得不好。因为真正的随机的定义就是无法使用计算推导出以及无法预测的,这个是核心。所以真随即序列是无法预测和计算的。可以参考IEEE 1363标准中的叙述@勇敢的Springz
可以解释一下前面3个的算法会分布不均匀的原因吗?
@k
第三个算法的正确性依赖于suff_time的选择。假设suff_time=N,数组长度=n,如果计算一下shuffle最后每个字母位置固定不变的概率的话,可以知道它等于(1-(1-p)^N-Np(1-p)^(N-1))/n+(1-p)^N+N/n^2(1-p)^(N-1),其中p=(2n-1)/n^2。观察这个式子,当取N=n的时候(也就是文中的情况),并且令N趋向于无穷,这个概率会趋向于常数e^-2(约等于.15左右),这与我们期待的1/n相差甚远。一个正确的算法,应该至少取N=n^(1+epsilon)。这样的话当N趋向于无穷时,这个概率才会等于1/n。但是,即便如此,这个估计依然是有偏的(当N不够充分大的时候,概率离1/n比较远)。
这个应该是制定需求时就规定的吧?
一般娱乐的话,洗不太匀问题还不太大,不过用户一定会发现坐某些位置总会拿好牌的……然后由于没有统计数据,会被当作小概率事件。
国外赌场用的话,这东西威胁就太大了。好像前些年就有个“因为洗牌算法用的随机数不好,可以通过反向分析找到其随机序列”而导致赌场被攻击的。
@gallium
说得对,测试只能*验证*算法没有明显错误,而不能证明算法的正确(和物理实验一样的)。
我在考虑既然要考虑 2-gram,那么要不要考虑 3-gram 呢?——洗牌的目标究竟是满足什么?
@slayerxj
这样的测试要是以一定的小概率通不过还是正常的,因为本来结果就是随机分布的(当然不是均匀分布)。所以测试过不过还得看RP啊……
PS: 我终于知道大家为什么要改名评论了……
一直觉得洗牌很难,碰巧看到了这一篇 http://www.guokr.com/article/23047/ ,正好是讲手工洗牌的。也就是说手工洗牌本身就是非随机的洗法,想随机,要多洗几次。
btw:mobile主题下,留言不能输入中文,能粘贴。
static const char* list[][10] = {
{0,1,2,3,4,5,6,7,8,9},
{1,2,3,4,5,6,7,8,9,0},
{2,3,4,5,6,7,8,9,0,1},
………..
}
static int cnt = 0;
return list[cnt++%10];
这个算法也能非常完美的通过lz的测试用例。
@albertix
更正,不能粘贴。
这个是如何设计统计检验的问题啊。检验是否均匀分布的话,我想到几点:
1、最简单的卡方检验是否满足均匀分布,alpha可以自行控制。
2、plot 均值的方差(某区间频次的平均数的方差)与样本数(每次permutation次数)的平方根,这两者应该成个线性关系。
3、 i个区间和第j个区间的Wilcoxon rank-test验证无相关性。
另:这种验证,如果有一个已知是正确的算法。那么测试另一个的正确性,会容易n多倍。
我说的是按照手洗的方式洗牌其实洗得越好越不随机@jacoblx
感觉非常适合作为笔试题,比倒序字符串、算斐波那契数列什么的要有趣得多,而且可以同时检验算法和效率两个方向
但问题本身来说,测试应该覆盖不到这个层面,而且如果是核心功能的话,本来就应该单拿出来讨论算法的(比方说 Diablo 的掉落机制、卡马克在 Quake 里的开平方等)
本来想看看您是怎么做的,结果呢,呵呵,一句话我就没兴趣了。
==============
而这个问题正好可以加强一下我在《我们需要专职的QA吗?》中我所推崇的——开发人员更适合做测试的观点。
==============
您这个洗牌测试程序,说白了,就是白盒测试。白盒测试,要么就是开发人员自己做,要么就是结对编程的另外一个人去复查/走查代码,写单元测试。
您先搞清楚QA的定义吧。
可不可以先求全排列,然后随机抽一个?
这样的话,算法的正确性就几乎全部集中在最后一个“随机”抽选上面了。
挺好的思路,就是比较耗内存。
最近刚看了《STL源码剖析》,STL里提供了一个将容器元素打乱的算法random_shuffle(),思想和Fisher_Yates算法差不多,只不过迭代的顺序是从小到大,用C语言表示大概如下:
void ShuffleArray_STL(char* arr, int first, int last)
{
int i, j;
char temp;
for(i = start + 1; i != last; i++){
j = first + rand() % (i – first + 1);
temp = arr[i];
arr[i] = arr[j];
arr[j] = temp;
}
}
Knuth大神在TAOCP里谈到过这个问题
http://fayaa.com/tiku/view/20/
个人觉得**Fisher_Yates算法**并不比**大多数人的算法**在结果上更好,只是它的效率比较高。
样本数 1000w,取最大误差,结果如下:
大多数人的算法:
min: 99404 max: 100845
min: 99404 max: 100845
min: 99256 max: 100955
min: 99256 max: 100955
min: 99256 max: 100955
min: 99256 max: 100955
min: 99189 max: 100874
min: 99189 max: 100874
min: 99189 max: 100874
min: 99189 max: 100874
min: 99245 max: 100818
min: 99245 max: 100818
min: 99245 max: 100818
min: 99245 max: 100818
min: 99169 max: 100875
min: 99169 max: 100875
min: 99169 max: 100875
min: 99169 max: 100875
min: 99081 max: 100715
min: 99081 max: 100715
Fisher_Yates算法:
min: 99427 max: 100615
min: 99427 max: 100615
min: 99427 max: 100615
min: 99427 max: 100615
min: 99301 max: 100627
min: 99301 max: 100627
min: 99301 max: 100627
min: 99301 max: 100627
min: 99301 max: 100627
min: 99301 max: 100627
min: 99335 max: 100559
min: 99335 max: 100559
min: 99335 max: 100559
min: 99335 max: 100559
min: 99335 max: 100559
min: 99335 max: 100559
min: 99282 max: 100662
min: 99282 max: 100662
min: 99282 max: 100662
min: 99282 max: 100662
即使取1000个样本,也没有出现像楼主那个 200 的数值(最多120左右)。
程序在这里:
https://gist.github.com/4116421
@derek
ruby1.9.3 里面用的就是Fisher_Yates 算法实现的。
rand()%mod 取模认为是在[0,mod)上的均匀分布本身就不科学,因为RAND_MAX不一定能被mod整除,参考http://www.azillionmonkeys.com/qed/random.html
建议先实现一个[0,mod)上的均匀分布,再用来实验
@陈皓
如果能够计算指定的第N个排列就不耗了。
再赞一个,你这个想法非常好。就是怎么通过公式的方式计算出第N个排列。
没学过数学的程序员真可怕。测试随机数哪 有这么简单
另外FYK的算法是根据 Monte carlo markov chain 验证过的,哪是和那些想当然的算法可以相提并论的
http://csrc.nist.gov/groups/ST/toolkit/rng/stats_tests.html