php下载大数据,php 下载大文件

PHP如何实现批量下载功能

原理很简单，通过一个含有图片地址的数组循环，然后使用PHP的file_get_contents函数取得图片，在使用file_put_contents函数把图片保存下来。就这样简单，希望能帮到你.顺便提供一组PHP批量下载图片文件代码供你参考:set_time_limit(0);//设置PHP超时时间$imagesURLArray

创新互联主要从事网站设计制作、成都网站设计、网页设计、企业做网站、公司建网站等业务。立足成都服务镇坪,10年网站建设经验,价格优惠、服务专业,欢迎来电咨询建站服务:13518219792

=

array_unique($imagesURLArray

);foreach($imagesURLArray

as

$imagesURL)

{

echo

$imagesURL;

echo

"

php采集大数据的方案

1、建议你读写数据和下载图片分开，各用不同的进程完成。

比如说，取数据用get-data.php，下载图片用get-image.php。

2、多进程的话，php可以简单的用pcntl_fork()。这样可以并发多个子进程。

但是我不建议你用fork，我建议你安装一个gearman worker。这样你要并发几个，就启几个worker，写代码简单，根本不用在代码里考虑thread啊，process等等。

3、综上，解决方案这样：

（1）安装gearman worker。

（2）写一个get-data.php，在crontab里设置它每5分钟执行一次，只负责读数据，然后把读回来的数据一条一条的扔到 gearman worker的队列里；

然后再写一个处理数据的脚本作为worker，例如叫process-data.php，这个脚本常驻内存。它作为worker从geraman 队列里读出一条一条的数据，然后跟你的数据库老数据比较，进行你的业务逻辑。如果你要10个并发，那就启动10个process-data.php好了。处理完后，如果图片地址有变动需要下载图片，就把图片地址扔到 gearman worker的另一个队列里。

（3）再写一个download-data.php，作为下载图片的worker，同样，你启动10个20个并发随便你。这个进程也常驻内存运行，从gearman worker的图片数据队列里取数据出来，下载图片

4、常驻进程的话，就是在代码里写个while(true)死循环，让它一直运行好了。如果怕内存泄露啥的，你可以每循环10万次退出一下。然后在crontab里设置，每分钟检查一下进程有没有启动，比如说这样启动3个process-data worker进程：

* * * * * flock -xn /tmp/process-data.1.lock -c '/usr/bin/php /process-data.php /dev/null 21'

* * * * * flock -xn /tmp/process-data.2.lock -c '/usr/bin/php /process-data.php /dev/null 21'

* * * * * flock -xn /tmp/process-data.3.lock -c '/usr/bin/php /process-data.php /dev/null 21'

不知道你明白了没有

php 批量大文件上传下载如何实现？

1.首先还是查看环境是否支持超大容量上传的支持，500M以上的文件通常为视频文件；

2.即然他要上传500M以上的文件，估计服务器性能必定非同凡想，所以暂可不考虑服务器硬件配置问题，但一定要考虑到网速问题，建议1000M以上出入速率，如少于这个数，你可以放弃这个方案了；

3.前面硬件都过关了，但程序也要加强了，一下上传500M是哪种语言都不能实现的，唯一解决方案，文件切割，如迅雷下载原理一样（采用续点上传），分成若干小块，然后全部上传完毕以后，再进行文件合成。

4.至于PHP的文件切割，切割后上传，以及文件合并，此类代码网上有许多，楼主可查询并选择适合你的代码，实现你的功能！

PHP-大数据量怎么处理优化

大数据的话可以进行以下操作：

减少对数据库的读取，也就是减少调用数据库，

进行数据缓存，

利用数据库的自身优化技术，如索引等

精确查询条件，有利于提高查找速度

php 下载文档是否有限制, 超过2000条数据不能下载了。

1.如果是下载Excel文件或者phpMyAdmin生成Sql文件，都是没有这个限制的

2.建议查看一下php.ini的执行时间设置max_execution_time = 300

3.用FireFox下载测试一下，它是断点续传的

说明：网速慢的时候，只能下载部分文件，特别是Chrome浏览器

如何用php导出导入大数据库

在使用PhpMyAdmin的时候经常用到数据的导入和导出(Export/Import)，但是在导入大数据的时候由于php上传文件的限制和脚本响应时间的限制，导致phpMyAdmin无法导入大数据。很多时候都是由于文件过大，从本地浏览上传导入，容易中断失败，有没有更好的方法呢？

方法：

在phpMyAdmin的目录下，找到根目录的config.inc.php文件，

打开config.inc.php文件，查找$cfg['UploadDir']，这个参数就是设定导入文件存放的目录，这里把值设定为：ImportSQLFile。

在phpMyAdmin目录下，建立以ImportSQLFile命名的文件夹，

把我们需要导入的数据文件，放到ImportSQLFile文件夹下面，非常简单，

登入phpMyAdmin，选择需要导入的数据，点击导航条上面的“导入”按钮，

选中“从网站服务器上传文件夹ImportSQLFile/中选择：”选项，并需要导入的数据文件，

最后点击“执行”，即可导入成功。

注意事项

如果在config.inc.php文件，没有找到$cfg['UploadDir']，可以自己在文件中添加上去即可。