资讯

精准传达 • 有效沟通

从品牌网站建设到网络营销策划,从策略到执行的一站式服务

mongodb中使用mapreduce进行分组统计-创新互联

最近在统计某一个时间段的url去重数,由于数据量巨大导致报错,提示:

在宁城等地区,都构建了全面的区域性战略布局,加强发展的系统性、市场前瞻性、产品创新能力,以专注、极致的服务理念,为客户提供网站建设、成都网站制作 网站设计制作按需求定制开发,公司网站建设,企业网站建设,高端网站设计,全网整合营销推广,成都外贸网站建设,宁城网站建设费用合理。distinct failed: { "errmsg" : "exception: distinct too big, 16mb cap", "code" : 17217, "ok" : 0 } at src/mongo/shell/collection.js:1108

最终通过mapreduce来解决如下:

//定义map函数 map=function(){     emit(this.url,{"count":1}); }//定义reduce函数 reduce=function(key,values){     var total=0;     for(var i=0; i < values.length; i++){         total+=values[i].count;     }     return {count:total} }//执行mapreduce函数,其中out的值是存储执行结果的集合 db.runCommand({"mapreduce":"visit","map":map,"reduce":reduce,"query":{"vtime":{"$gte":1412611200,"$lte":1413907119}},"out":"test.tmp"});

关于mapreduce的选项解释如下:

"out":{replace:"collection name"} -- mapreduce输出结果会替换掉原来的collection,collection不存在则创建 "out":{merge:"collection name"} -- 将新老数据进行合并,新的替换旧的,没有的添加进去 "out":{reduce:"collection name"}-- 存在老数据时,在原来的基础上加新的数据(即new value=old value+mapreduce value) "out":{inline:1} -- 不会创建collection,结果保存在内存里面,只限于结果小于16MB的情况

另外有需要云服务器可以了解下创新互联cdcxhl.cn,海内外云服务器15元起步,三天无理由+7*72小时售后在线,公司持有idc许可证,提供“云服务器、裸金属服务器、高防服务器、香港服务器、美国服务器、虚拟主机、免备案服务器”等云主机租用服务以及企业上云的综合解决方案,具有“安全稳定、简单易用、服务可用性高、性价比高”等特点与优势,专为企业上云打造定制,能够满足用户丰富、多元化的应用场景需求。


当前题目:mongodb中使用mapreduce进行分组统计-创新互联
文章路径:http://cdkjz.cn/article/jcdcs.html
多年建站经验

多一份参考,总有益处

联系快上网,免费获得专属《策划方案》及报价

咨询相关问题或预约面谈,可以通过以下方式与我们联系

大客户专线   成都:13518219792   座机:028-86922220