资讯

精准传达 • 有效沟通

从品牌网站建设到网络营销策划,从策略到执行的一站式服务

PHP+MySQL批量数据实现导入导出方法-创新互联

下文主要给大家带来PHP+MySQL批量数据实现导入导出方法,希望这些内容能够带给大家实际用处,这也是我编辑PHP+MySQL批量数据实现导入导出方法这篇文章的主要目的。好了,废话不多说,大家直接看下文吧。                                                      

创新互联公司是一家专注于成都做网站、成都网站设计与策划设计,巴楚网站建设哪家好?创新互联公司做网站,专注于网站建设十余年,网设计领域的专业建站公司;建站业务涵盖:巴楚等地区。巴楚做网站价格咨询:028-86922220

PHP脚本的处理

1、脚本的思路就是:查询特定账号数据,组装拼接成sql文本数据。这里要注意,对查询的值要进行过滤处理,因为有些字段是包含一些非法字符,比如:’(单引号),”(双引号),`(键盘左上角第二个),这些符号在拼接sql语句时,会因为找不到闭合的另一端,让值变了,导致sql语句拼接有问题,所以这部分字符要替换掉,我是用str_replace()函数将这些符号置为空。

2、我是使用is_numeri函数判断值是否是数字类型结构,是的话就加""(双引号),但是is_numeri有个问题,遇到有些数值有e字母的,它也是返回true,

PHP+MySQL批量数据实现导入导出方法

实锤了这样是有问题的,因为这样值没加""是不能insert到MySQL中的。

后来我同时加上is_float(),is_string()函数同时来判断这个值是否需要加入双引号。

3、由于导出的数据量比较多,我是分了4个PHP进程来跑,一个进程跑一万个用户数据,这样能够节省很多时间。但是要注意的是,存储的sql文本也是需要进行区分的,因为多个进程同时写一个文本文件可能会出现数据丢失(我是后面才发现,花了好多时间补回去数据)。

4、使用tar -xcvf 命令对sql文件进行压缩打包,一个7G的文件,可以压缩到700多M,压缩效果还是不错的。PHP视频教程

导入数据到MySQL

1、由于数据量比较大,我也是分了几个进程跑数据。使用的是MySQL source 命令来导入这些大的sql文件

    mysql>source D:/www/sql/data.sql;

sql文件里面包含了use 数据库,这里就不需要use 数据库了。

通过source命令导入多个文件,可以新建一个sou.sql文件,里面存放下面的命令

例如:

    source c:/1.sql;
    source c:/2.sql;

这样就可以在一个source命令里面导入多个sql文件了。

期间也有一些问题:

出现:

mysql Got a packet bigger than 'max_allowed_packet' bytes

查了下,是因为单表数据量较大,大体定位到mysql会对单表数据量较大的SQL做限制

解决:

更改max_allowed_packet包大小

方案一,临时修改:输入命令 set global max_allowed_packet = 大小; (注意,这里的大小只能填写字节。重启mysql服务后,配置将会失效!)

方案二,修改my.ini文件,在[mysqld]部分加入 max_allowed_packet=大小

2、由于source命令这种方式不能记录定位记录到错误信息,所以后来我改用了linux shell方式导入

如下:sql.sh

  #!/bin/bash
    p="d:backup/sql.sql" //绝对路径
    User='abc'
    Password='123'
     
    mysql -u $User -p$Password -e "source $f"  2>err1.txt;//输出错误到文件中,方便后面查询     
    echo 'OK!'

这样导入,可以找到一些错误的提示,方便后面解决问题。 

对于以上关于PHP+MySQL批量数据实现导入导出方法,大家是不是觉得非常有帮助。如果需要了解更多内容,请继续关注我们的行业资讯,相信你会喜欢上这些内容的。

另外有需要云服务器可以了解下创新互联scvps.cn,海内外云服务器15元起步,三天无理由+7*72小时售后在线,公司持有idc许可证,提供“云服务器、裸金属服务器、高防服务器、香港服务器、美国服务器、虚拟主机、免备案服务器”等云主机租用服务以及企业上云的综合解决方案,具有“安全稳定、简单易用、服务可用性高、性价比高”等特点与优势,专为企业上云打造定制,能够满足用户丰富、多元化的应用场景需求。


当前标题:PHP+MySQL批量数据实现导入导出方法-创新互联
当前路径:http://cdkjz.cn/article/jgdje.html
多年建站经验

多一份参考,总有益处

联系快上网,免费获得专属《策划方案》及报价

咨询相关问题或预约面谈,可以通过以下方式与我们联系

大客户专线   成都:13518219792   座机:028-86922220