从品牌网站建设到网络营销策划,从策略到执行的一站式服务
最近在统计某一个时间段的url去重数,由于数据量巨大导致报错,提示:
我们提供的服务有:成都网站制作、成都做网站、微信公众号开发、网站优化、网站认证、青铜峡ssl等。为上1000家企事业单位解决了网站和推广的问题。提供周到的售前咨询和贴心的售后服务,是有科学管理、有技术的青铜峡网站制作公司
distinct failed: { "errmsg" : "exception: distinct too big, 16mb cap", "code" : 17217, "ok" : 0 } at src/mongo/shell/collection.js:1108
最终通过mapreduce来解决如下:
//定义map函数 map=function(){ emit(this.url,{"count":1}); }
//定义reduce函数 reduce=function(key,values){ var total=0; for(var i=0; i < values.length; i++){ total+=values[i].count; } return {count:total} }
//执行mapreduce函数,其中out的值是存储执行结果的集合 db.runCommand({"mapreduce":"visit","map":map,"reduce":reduce,"query":{"vtime":{"$gte":1412611200,"$lte":1413907119}},"out":"test.tmp"});
关于mapreduce的选项解释如下:
"out":{replace:"collection name"} -- mapreduce输出结果会替换掉原来的collection,collection不存在则创建 "out":{merge:"collection name"} -- 将新老数据进行合并,新的替换旧的,没有的添加进去 "out":{reduce:"collection name"}-- 存在老数据时,在原来的基础上加新的数据(即new value=old value+mapreduce value) "out":{inline:1} -- 不会创建collection,结果保存在内存里面,只限于结果小于16MB的情况
成都网站建设公司地址:成都市青羊区太升南路288号锦天国际A座10层 建设咨询028-86922220
成都快上网科技有限公司-四川网站建设设计公司 | 蜀ICP备19037934号 Copyright 2020,ALL Rights Reserved cdkjz.cn | 成都网站建设 | © Copyright 2020版权所有.
专家团队为您提供成都网站建设,成都网站设计,成都品牌网站设计,成都营销型网站制作等服务,成都建网站就找快上网! | 成都网站建设哪家好? | 网站建设地图