2000元阿里云代金券免费领取，2核4G云服务器仅664元/3年，新老用户都有优惠，立即抢购>>>
阿里云采购季（云主机223元/3年）活动入口：请点击进入>>>，
阿里云学生服务器（9.5元/月）购买入口：请点击进入>>>，
一，前面的话
表和列的统计信息对CBO的结果有着极大地影响，能够高效和准确的收集统计信息是极其重要的。但高效和准确是矛盾的，更准确的统计信息往往需要更多的计算，我们能做的是在高效和准确之间找到更好的平衡。接下来的内容是关于目前在ComputeColStats中用的一些近似算法。
二，收集的内容
目前针对列主要会收集以下统计信息：
cntRows ： 列中总数据个数，包括nulll值
avgColLen ：列的平均长度
maxColLEN ：列的最大长度
minValue ：列的最小值
maxValue ：列的最大值
numNulls ：列中null值个数
numFalses ：如果boolean型，false值的个数
numTrues ：如果boolean型，true值的个数
countDistinct ：不同值的个数
topK ：topk值的个数，数据倾斜的标志
一般说来除了countDistinct 和topK 以外的统计信息基本上消耗资源并不大（minValue和maxValue存在大量比较，也会消耗不少资源），问题主要集中在countDistinct 和topK上。下面要描述的近似算法也是主要针对这两个点。
三，countDistinct 实现
算法：Flajolet-Martin
论文见：http://citeseerx.ist.psu.edu/viewdoc/download?doi=10.1.1.81.3869&rep=rep1&type=pdf
简介
对于n个object，如果Hash结果中，结尾（或开头）连续0的长度的最大值是m，那么，可以估计唯一的object的数据量是2^m个。
假设有一个非常好的hash函数，能够将object哈希成一个二进制数0101……，并且非常均匀的打散到二进制空间。如果有8个唯一的object，将它们全部Hash之后，结果按照概率应该有4个object的Hash值以0结尾，这4个Hash值又应该有2个结尾是00，这2个中又有1个结尾是000。
采用多个独立的hash函数，每个hash函数分别计算最长0比特序列，然后求平均值，减少误差。
hash函数的个数基本上就决定了Flajolet-Martin算法的效率和准确度，后面有针对不同hash函数个数的测试结果。
四，topK实现
算法：Space-Saving
伪代码：
五，基本性能测试
结论：
１，Base Stats对性能也是存在影响的，主要是minValue和maxValue的计算，尤其是collen较长的情况下
２，一般说来distinct相对topK会更慢些，除非在collen较长的时候，topK也是基于比较来的
３，随着列个数的增加，收集stats消耗的时间也线性的增加
４，distinct的计算基于hash，而topK的计算基于比较，所以前者对collen并不敏感
六，不同hash函数个数执行效率的测试
结论：
基本上随着hash函数个数的增加线性的增长
七，不同hash函数个数准确性的测试
结论：
hash函数个数增加到32个后，准确率基本能满足需求
八，不同hash函数个数的测试总结
结论：选择32个hash函数计算distinct，平衡执行效率及准确性
九，sample算法的选择
１，必要性：
基于前面对执行效率的测试，为了避免对任务产生过大的影响，Sample是一定要做的
２，Sample算法的要求：
效率，随机
３，Sample的选择：
采用buildin的sample函数实现
前提是假设数据分布是随机的
４，Sample的影响：
对某些stats基本没影响，比如说avgColLen，maxColLen，minValue，maxValue
对某些stats有些影响，比如说cntRows， numNulls，numFalses，numTrues，topK
对countDistinct影响比较大，并且countDistinct也更加重要，需要特别注意
５，Sample后countDistinct的处理：
根据Sample的countDistinct预测完整数据的countDistinct，采样，拟合
基本思路如下图：
希望通过对sample内的数据进行采样，利用这些采样点描绘全部数据的形态，达到基本准确预测全部数据distinct的结果。这是个美好的愿望，在sample的数据相对较少的时候，总有些情况下sample下的形态跟完整数据的形态存在较大的差异，此时的误差会比较大。
十，不同sample比例执行效率的测试
采样比例在1/100后执行时间差距不大，此时最大的消耗在数据读取上，而不针对distinct的计算。
十一，不同sample比例准确性的测试
针对表meta.m_fuxi_instance表中的列project_name，odps_inst_id做了些测试，结果如上。看起来1/50的结果还是可以接受的。
多说一句，对于distinct来说，并不需要完全的正确，10倍以内的差距目前来说是可以接受的，这也是我们可以通过采样来提高效率的前提。
十二，按sample比例为1/25为例的计算结果
执行时间和准确率基本都可以满足现在需求
十三，后续的工作
对于准确率的提升是后续需要做的事情之一，这关键还是如何在sample里面找带更有代表性的点来预测全部数据的形态。但，要作好心理准备，对于某些场景来说，可能就找不到这样的方法，需要接受一定范围的误差。
