Java-断点续传(分片上传)

转x33g5p2x  于2022-05-11 转载在 Java  
字(13.4k)|赞(0)|评价(0)|浏览(392)

什么是断点续传

用户上传大文件,网络差点的需要历时数小时，万一线路中断，不具备断点续传的服务器就只能从头重传，而断点续传就是，允许用户从上传断线的地方继续传送，这样大大减少了用户的烦恼。

  1. 解决上传大文件服务器内存不够的问题
  2. 解决如果因为其他因素导致上传终止的问题,并且刷新浏览器后仍然能够续传，重启浏览器（关闭浏览器后再打开）仍然能够继续上传，重启电脑后仍然能够上传
  3. 检测上传过程中因网络波动导致文件出现了内容丢失那么需要自动检测并且从新上传

解决方案

前端

  1. 需要进行分割上传的文件
  2. 需要对上传的分片文件进行指定文件序号
  3. 需要监控上传进度,控制进度条
  4. 上传完毕后需要发送合并请求

Blob 对象,操作文件

后端

  1. 上传分片的接口
  2. 合并分片的接口
  3. 获取分片的接口
  4. 其他工具方法,用于辅助

前端端需要注意的就是: 文件的切割,和进度条
后端需要注意的就是: 分片存储的地方和如何进行合并分片

效果演示

先找到需要上传的文件

当我们开始上传进度条就会发生变化,当我们点击停止上传那么进度条就会停止

我们后端会通过文件名+文件大小进行MD5生成对应的目录结果如下:

当前端上传文件达到100%时候就会发送文件合并请求,然后我们后端这些分片都将被合并成一个文件

通过下图可以看到所有分片都没有了,从而合并出来一个文件

以上就是断点续传的核心原理,但是还需处理一些异常情况:

  1. 文件上传过程中网络波动导致流丢失一部分(比对大小)
  2. 文件上传过程中,服务器丢失分片 (比对分片的连续度)
  3. 文件被篡改内容(比对大小)

效验核心代码

参考代码

前端

  1. <!DOCTYPE html>
  2. <html lang="en">
  4. <head>
  5.     <meta charset="UTF-8">
  6.     <meta http-equiv="X-UA-Compatible" content="IE=edge">
  7.     <meta name="viewport" content="width=device-width, initial-scale=1.0">
  8.     <title>Document</title>
  9. </head>
  11. <body>
  13.     <h1>html5大文件断点切割上传</h1>
  14.     <div id="progressBar"></div>
  16.     <input id="file" name="mov" type="file" />
  17.     <input id="btn" type="button" value="点我上传" />
  18.     <input id="btn1" type="button" value="点我停止上传" />
  20.     <script type="module">
  21.         import FileSliceUpload  from '../jsutils/FileSliceUpload.js'
  22.         let testingUrl="http://localhost:7003/fileslice/testing"
  23.         let uploadUrl="http://localhost:7003/fileslice/uploads"
  24.         let margeUrl="http://localhost:7003/fileslice/merge-file-slice"
  25.         let progressUrl="http://localhost:7003/fileslice/progress"
  26.          let fileSliceUpload=  new FileSliceUpload(testingUrl,uploadUrl,margeUrl,progressUrl,"#file")
  27.          fileSliceUpload.addProgress("#progressBar")
  28.           let btn=  document.querySelector("#btn")
  29.           let btn1=  document.querySelector("#btn1")
  30.         btn.addEventListener("click",function () {
  31.             fileSliceUpload.startUploadFile()
  32.         })
  33.         btn1.addEventListener("click",function () {
  34.             fileSliceUpload.stopUploadFile()
  35.         })
  37.     </script>
  39. </body>
  41. </html>
  1. //大文件分片上传,比如10G的压缩包,或者视频等,这些文件太大了  (需要后端配合进行)
  2. class FileSliceUpload{
  3.      
  4.     constructor(testingUrl, uploadUrl, margeUrl,progressUrl, fileSelect) {
  5.             this.testingUrl = testingUrl; // 检测文件上传的url
  6.             this.uploadUrl = uploadUrl;//文件上传接口
  7.             this.margeUrl = margeUrl; // 合并文件接口
  8.             this.progressUrl = progressUrl; //进度接口
  9.             this.fileSelect = fileSelect;
  10.             this.fileObj = null;
  11.             this.totalize = null;
  12.             this.blockSize = 1024 * 1024; //每次上传多少字节1mb(最佳)
  13.             this.sta = 0; //起始位置
  14.             this.end =  this.sta +  this.blockSize; //结束位置
  15.             this.count = 0; //分片个数
  16.             this.barId = "bar"; //进度条id
  17.             this.progressId = "progress";//进度数值ID
  18.             this.fileSliceName = ""; //分片文件名称
  19.             this.fileName = "";
  20.             this.uploadFileInterval = null;  //上传文件定时器
  22.     }
  24.     /**
  25.      *  样式可以进行修改
  26.      * @param {*} progressId   需要将进度条添加到那个元素下面
  27.      */
  28.     addProgress (progressSelect) {
  29.         let bar = document.createElement("div")
  30.         bar.setAttribute("id", this.barId);
  31.         let num = document.createElement("div")
  32.         num.setAttribute("id", this.progressId);
  33.         num.innerText = "0%"
  34.         bar.appendChild(num);
  35.         document.querySelector(progressSelect).appendChild(bar)
  36.      
  37.     }
  38.     //续传  在上传前先去服务器检测之前是否有上传过这个文件,如果还有返回上传的的分片,那么进行续传
  39.     // 将当前服务器上传的最后一个分片会从新上传, 避免因为网络的原因导致分片损坏 
  40.     sequelFile () {
  41.         if (this.fileName) {
  42.             var xhr = new XMLHttpRequest();
  43.             //同步
  44.             xhr.open('GET', this.testingUrl + "/" + this.fileName+ "/" + this.blockSize+ "/" + this.totalize, false);
  45.             xhr.send();
  46.             if (xhr.readyState === 4 && xhr.status === 200) {
  47.                 let ret = JSON.parse(xhr.response)
  48.                 if (ret.code == 20000) {
  49.                    let data= ret.data
  50.                     this.count = data.code;
  51.                     this.fileSliceName = data.fileSliceName
  52.                     //计算起始位置和结束位置
  53.                     this.sta = this.blockSize * this.count
  54.                     //计算结束位置
  55.                     this.end = this.sta + this.blockSize
  56.                 } else {
  57.                     this.sta = 0; //从头开始
  58.                     this.end = this.sta + this.blockSize;
  59.                     this.count = 0; //分片个数
  60.                 }
  61.             }
  62.         }
  63.     }
  65.     stopUploadFile () {
  66.         clearInterval(this.uploadFileInterval)
  67.     }
  69.     // 文件上传(单文件)
  70.     startUploadFile () { 
  71.          // 进度条
  72.          let bar = document.getElementById(this.barId)
  73.          let progressEl = document.getElementById(this.progressId)
  74.         this.fileObj = document.querySelector(this.fileSelect).files[0];
  75.         this.totalize = this.fileObj.size;
  76.         this.fileName = this.fileObj.name;
  77.  
  78.         //查询是否存在之前上传过此文件,然后继续
  79.         this.sequelFile()
  80.         let ref = this; //拿到当前对象的引用,因为是在异步中使用this就是他本身而不是class
  81.         this.uploadFileInterval = setInterval(function () {
  82.                 if (ref.sta > ref.totalize) {
  83.                     //上传完毕后结束定时器
  84.                     clearInterval(ref.uploadFileInterval)
  85.                     //发送合并请求
  86.                     ref.margeUploadFile ()
  87.                     console.log("stop" + ref.sta);
  88.                     return;
  89.                 };
  90.                 //分片名称
  91.                 ref.fileSliceName = ref.fileName + "-slice-" + ref.count++
  92.                 //分割文件 ,
  93.                 var blob1 =  ref.fileObj.slice(ref.sta, ref.end);
  94.                 var fd = new FormData();
  95.                 fd.append('part', blob1);
  96.                 fd.append('fileSliceName', ref.fileSliceName);
  97.                 fd.append('fileSize', ref.totalize);
  98.                 var xhr = new XMLHttpRequest();
  99.                 xhr.open('POST',  ref.uploadUrl, true);
  100.                 xhr.send(fd); //异步发送文件,不管是否成功, 会定期检测
  102.                 xhr.onreadystatechange = function () {
  103.                     if (xhr.readyState === 4 && xhr.status === 200) {
  104.                         let ret = JSON.parse(xhr.response)
  105.                         if (ret.code == 20000) {
  106.                             //计算进度
  107.                             let percent =  Math.ceil((ret.data*ref.blockSize/ ref.totalize) * 100)
  108.                             if (percent > 100) {
  109.                                 percent=100
  110.                                 
  111.                             }
  112.                             bar.style.width = percent + '%';
  113.                             bar.style.backgroundColor = 'red';
  114.                             progressEl.innerHTML = percent + '%'
  115.                         }
  116.                     }
  117.             }
  119.             //起始位置等于上次上传的结束位置
  120.             ref.sta =  ref.end;
  121.             //结束位置等于上次上传的结束位置+每次上传的字节
  122.             ref.end = ref.sta + ref.blockSize;
  123.         
  124.         }, 5)
  126.     }
  128.     margeUploadFile () {
  129.             console.log("检测上传的文件完整性..........");
  130.             var xhr = new XMLHttpRequest();
  131.             //文件分片的名称/分片大小/总大小
  132.             xhr.open('GET', this.margeUrl+ "/" + this.fileSliceName + "/" + this.blockSize + "/" + this.totalize, true);
  133.             xhr.send(); //发送请求
  134.             xhr.onreadystatechange = function () {
  135.                 if (xhr.readyState === 4 && xhr.status === 200) {
  136.                     let ret = JSON.parse(xhr.response)
  137.                     if (ret.code == 20000) {
  138.                         console.log("文件上传完毕");
  139.                     } else {
  140.                         console.log("上传完毕但是文件上传过程中出现了异常", ret);
  141.                     }
  142.                 }
  143.             }
  144.     
  145.     }
  149.     
  150. }
  152. export default FileSliceUpload;

后端

因为代码内部使用较多自己封装的工具类的原因,以下代码只提供原理的参考

  1. package com.controller.commontools.fIleupload;
  3. import com.alibaba.fastjson.JSON;
  4. import com.application.Result;
  5. import com.container.ArrayByteUtil;
  6. import com.encryption.hash.HashUtil;
  7. import com.file.FileUtils;
  8. import com.file.FileWebUpload;
  9. import com.file.ReadWriteFileUtils;
  10. import com.function.impl.ExecutorUtils;
  11. import com.path.ResourceFileUtil;
  12. import com.string.PatternCommon;
  13. import org.springframework.web.bind.annotation.*;
  15. import javax.servlet.http.HttpServletRequest;
  16. import java.io.File;
  17. import java.io.FileNotFoundException;
  18. import java.io.IOException;
  19. import java.io.RandomAccessFile;
  20. import java.util.ArrayList;
  21. import java.util.HashMap;
  22. import java.util.List;
  23. import java.util.concurrent.Future;
  24. import java.util.concurrent.atomic.AtomicBoolean;
  25. import java.util.stream.Collectors;
  27. @RestController
  28. @RequestMapping("/fileslice")
  29. public class FIleSliceUploadController {
  31.     private  final  String identification="-slice-";
  32.     private  final  String uploadslicedir="uploads"+File.separator+"slice"+File.separator;//分片目录
  33.     private  final  String uploaddir="uploads"+File.separator+"real"+File.separator;//实际文件目录
  34.     //获取分片
  35.     @GetMapping("/testing/{fileName}/{fileSlicSize}/{fileSize}")
  36.     public Result testing(@PathVariable String fileName,@PathVariable long fileSlicSize,@PathVariable long fileSize  ) throws Exception {
  37.         String dir = fileNameMd5Dir(fileName,fileSize);
  38.         String absoluteFilePathAndCreate = ResourceFileUtil.getAbsoluteFilePathAndCreate(uploadslicedir)+File.separator+dir;
  39.         File file = new File(absoluteFilePathAndCreate);
  40.         if (file.exists()) {
  41.             List<String> filesAll = FileUtils.getFilesAll(file.getAbsolutePath());
  43.             if (filesAll.size()<2){
  44.                 //分片缺少 删除全部分片文件 ,从新上传
  45.                 FileUtils.delFilesAllReview(absoluteFilePathAndCreate,true);
  46.                 return Result.Error();
  47.             }
  49.             //从小到大文件进行按照序号排序,和判断分片是否损坏
  50.             List<String> collect = fileSliceIsbadAndSort(file, fileSlicSize);
  51.             //获取最后一个分片
  52.             String fileSliceName = collect.get(collect.size() - 1);
  53.             fileSliceName = new File(fileSliceName).getName();
  54.             int code = fileId(fileSliceName);
  55.             //服务器的分片总大小必须小于或者等于文件的总大小
  56.             if ((code*fileSlicSize)<=fileSize) {
  57.                 Result result = new Result();
  58.                 String finalFileSliceName = fileSliceName;
  59.                 String str = PatternCommon.renderString("{\"code\":\"${code}\",\"fileSliceName\":\"${fileSliceName}\"}", new HashMap<String, String>() {{
  60.                     put("code", String.valueOf(code));
  61.                     put("fileSliceName", finalFileSliceName);
  62.                 }});
  63.                 result.setData(JSON.parse(str));
  64.                 return result;
  65.             }else {
  66.                 //分片异常 ,删除全部分片文件,从新上传
  67.                 FileUtils.delFilesAllReview(absoluteFilePathAndCreate,true);
  68.                 return Result.Error();
  69.             }
  70.         }
  71.         //不存在
  72.        return Result.Error();
  73.     }
  75.     @PostMapping(value = "/uploads")
  76.     public Result uploads(HttpServletRequest request)  {
  77.         String fileSliceName = request.getParameter("fileSliceName");
  78.         long fileSize = Long.parseLong(request.getParameter("fileSize")); //文件大小
  79.         String dir = fileSliceMd5Dir(fileSliceName,fileSize);
  80.         String absoluteFilePathAndCreate = ResourceFileUtil.getAbsoluteFilePathAndCreate(uploadslicedir+dir);
  81.         FileWebUpload.fileUpload(absoluteFilePathAndCreate,fileSliceName,request);
  82.         int i = fileId(fileSliceName); //返回上传成功的文件id,用于前端计算进度
  83.         Result result=new Result();
  84.         result.setData(i);
  85.         return result;
  86.     }
  88.     // 合并分片
  89.     @GetMapping(value = "/merge-file-slice/{fileSlicNamee}/{fileSlicSize}/{fileSize}")
  90.     public Result mergeFileSlice(@PathVariable String fileSlicNamee,@PathVariable long fileSlicSize,@PathVariable long fileSize ) throws Exception {
  91.         int l =(int) Math.ceil((double) fileSize / fileSlicSize); //有多少个分片
  92.         String dir = fileSliceMd5Dir(fileSlicNamee,fileSize); //分片所在的目录
  93.        String absoluteFilePathAndCreate = ResourceFileUtil.getAbsoluteFilePathAndCreate(uploadslicedir+dir);
  94.         File file=new File(absoluteFilePathAndCreate);
  95.         if (file.exists()){
  96.             List<String> filesAll = FileUtils.getFilesAll(file.getAbsolutePath());
  98.             //阻塞循环判断是否还在上传  ,解决前端进行ajax异步上传的问题
  99.             int beforeSize=filesAll.size();
  101.             while (true){
  102.                  Thread.sleep(1000);
  103.                  //之前分片数量和现在分片数据只差,如果大于1那么就在上传,那么继续
  104.                  filesAll = FileUtils.getFilesAll(file.getAbsolutePath());
  105.                 if (filesAll.size()-beforeSize>=1){
  106.                     beforeSize=filesAll.size();
  107.                     //继续检测
  108.                     continue;
  109.                 }
  110.                 //如果是之前分片和现在的分片相等的,那么在阻塞2秒后检测是否发生变化,如果还没变化那么上传全部完成,可以进行合并了
  111.                 //当然这不是绝对的,只能解决网络短暂的波动,因为有可能发生断网很长时间,网络恢复后文件恢复上传, 这个问题是避免不了的,所以我们在下面的代码进行数量的效验
  112.                 // 因为我们不可能一直等着他网好,所以如果1~3秒内没有上传新的内容,那么我们默认判定上传完毕
  113.                 if (beforeSize==filesAll.size()){
  114.                     Thread.sleep(2000);
  115.                     filesAll = FileUtils.getFilesAll(file.getAbsolutePath());
  116.                     if (beforeSize==filesAll.size()){
  117.                         break;
  118.                     }
  119.                 }
  120.             }
  121.             //分片数量效验
  122.             if (filesAll.size()!=l){
  123.                 //分片缺少 ,删除全部分片文件,从新上传
  124.                 FileUtils.delFilesAllReview(absoluteFilePathAndCreate,true);
  125.                 return Result.Error();
  126.             }
  127.             //获取实际的文件名称,组装路径
  128.             String realFileName = realFileName(fileSlicNamee);
  129.             String realFileNamePath = ResourceFileUtil.getAbsoluteFilePathAndCreate(uploaddir+ realFileName);
  130.             //从小到大文件进行按照序号排序 ,和检查分片文件是否有问题
  131.             List<String> collect = fileSliceIsbadAndSort(file, fileSlicSize);
  132.             int fileSliceSize = collect.size();
  134.             List<Future<?>> futures = new ArrayList<>();
  135.             // 将文件按照序号进行合并 ,算出Runtime.getRuntime().availableProcessors()个线程 ,每个线程需要读取多少分片, 和每个线程需要读取多少字节大小
  136.             //有人会说一个分片一个线程不行吗,你想想如果上千或者上万分片的话,你创建这么多的线程需要多少时间,以及线程切换上下文切换和销毁需要多少时间? 
  137.             // 就算使用线程池,也顶不住啊,你内存又有多大,能存下多少队列?,并发高的话直接怼爆
  138.             int availableProcessors = Runtime.getRuntime().availableProcessors();
  139.             //每个线程读取多少文件
  140.             int readFileSize = (int)Math.ceil((double)fileSliceSize / availableProcessors);
  141.             //每个线程需要读取的文件大小
  142.             long readSliceSize = readFileSize * fileSlicSize;
  143.             for (int i = 0; i < availableProcessors; i++) {
  144.                 int finalI = i;
  145.                 Future<?> future =   ExecutorUtils.createFuture("FIleSliceUploadController",()->{
  146.                     //每个线程需要读取多少字节
  147.                     byte[] bytes=new byte[(int) readSliceSize];
  148.                     int index=0;
  149.                     for (int i1 = finalI *readFileSize,i2 = readFileSize*(finalI+1)>fileSliceSize?fileSliceSize:readFileSize*(finalI+1); i1 < i2; i1++) {
  150.                         try ( RandomAccessFile r = new RandomAccessFile(collect.get(i1), "r");){
  151.                             r.read(bytes, (int)(index*fileSlicSize),(int)fileSlicSize);
  152.                         } catch (IOException e) {
  153.                             e.printStackTrace();
  154.                         }
  155.                         index++;
  156.                     }
  158.                     if(finalI==availableProcessors-1){
  159.                         //需要调整数组
  160.                         bytes = ArrayByteUtil.getActualBytes(bytes);
  161.                     }
  163.                     try ( RandomAccessFile w = new RandomAccessFile(realFileNamePath, "rw");){
  164.                         //当前文件写入的位置
  165.                         w.seek(finalI*readSliceSize);
  166.                         w.write(bytes);
  167.                     } catch (IOException e) {
  168.                         e.printStackTrace();
  169.                     }
  170.                 });
  171.                 futures.add(future);
  172.             }
  173.             //阻塞到全部线程执行完毕后
  174.             ExecutorUtils.waitComplete(futures);
  175.             //删除全部分片文件
  176.             FileUtils.delFilesAllReview(absoluteFilePathAndCreate,true);
  177.         }else {
  178.             //没有这个分片相关的的目录
  179.             return Result.Error();
  180.         }
  182.         return Result.Ok();
  185.     }
  190.     //获取分片文件的目录
  191.     private String fileSliceMd5Dir(String fileSliceName,long fileSize){
  192.         int i = fileSliceName.indexOf(identification) ;
  193.         String substring = fileSliceName.substring(0, i);
  194.         String dir = HashUtil.md5(substring+fileSize);
  195.         return dir;
  196.     }
  197.     //通过文件名称获取文件目录
  198.     private String fileNameMd5Dir(String fileName,long fileSize){
  199.         return HashUtil.md5(fileName+fileSize);
  200.     }
  201.     //获取分片的实际文件名
  202.     private String realFileName(String fileSliceName){
  203.         int i = fileSliceName.indexOf(identification) ;
  204.         String substring = fileSliceName.substring(0, i);
  205.         return substring;
  207.     }
  208.     //获取文件序号
  209.     private  int fileId(String fileSliceName){
  210.         int i = fileSliceName.indexOf(identification)+identification.length() ;
  211.         String fileId = fileSliceName.substring(i);
  212.         return Integer.parseInt(fileId);
  213.     }
  216.   //判断是否损坏
  217.   private List<String>  fileSliceIsbadAndSort(File file,long fileSlicSize) throws Exception {
  218.         String absolutePath = file.getAbsolutePath();
  219.         List<String> filesAll = FileUtils.getFilesAll(absolutePath);
  220.         if (filesAll.size()<1){
  221.             //分片缺少,删除全部分片文件 ,从新上传
  222.             FileUtils.delFilesAllReview(absolutePath,true);
  223.             throw  new Exception("分片损坏");
  224.         }
  225.         //从小到大文件进行按照序号排序
  226.         List<String> collect = filesAll.stream().sorted((a, b) -> fileId(a) - fileId(b)).collect(Collectors.toList());
  227.         //判断文件是否损坏,将文件排序后,进行前后序号相差大于1那么就代表少分片了
  228.         for (int i = 0; i < collect.size()-1; i++) {
  229.             //检测分片的连续度
  230.             if (fileId(collect.get(i)) - fileId(collect.get(i+1))!=-1) {
  231.                 //分片损坏 删除全部分片文件 ,从新上传
  232.                 FileUtils.delFilesAllReview(absolutePath,true);
  233.                 throw  new Exception("分片损坏");
  234.             }
  235.             //检测分片的完整度
  236.             if (new File(collect.get(i)).length()!=fileSlicSize) {
  237.                 //分片损坏 删除全部分片文件 ,从新上传
  238.                 FileUtils.delFilesAllReview(absolutePath,true);
  239.                 throw  new Exception("分片损坏");
  240.             }
  241.         }
  242.         return  collect;
  243.     }
  244. }

点赞 -收藏-关注-便于以后复习和收到最新内容有其他问题在评论区讨论-或者私信我-收到会在第一时间回复如有侵权，请私信联系我感谢,配合,希望我的努力对你有帮助^_^

版权说明 : 本文为转载文章, 版权归原作者所有 版权申明

原文链接 : https://blog.csdn.net/weixin_45203607/article/details/124663444

内容来源于网络，如有侵权，请联系作者删除！

Java前端服务器断点续传

相关文章

    查看更多

    热门标签

    更多
    JavaquerypythonNode开发语言requestUtil数据库Table后端算法LoggerMessageElementParser

    最新文章

    更多
    • 蜀ICP备13028337号-1 大数据知识库 https://www.saoniuhuo.com © All rights reserved
    • 本站内容来源互联网,如果侵犯您的权益请联系我们删除, 联系方式：448109455@qq.com