minio临时凭证直传切换到阿里云oss

本文涉及的产品
对象存储 OSS,20GB 3个月
对象存储 OSS,恶意文件检测 1000次 1年
对象存储 OSS,内容安全 1000次 1年
简介: minio临时凭证直传切换到阿里云oss

代码非常简单,像之前的实现:

import cn.hutool.core.date.DateUtil;
import cn.hutool.core.io.file.FileNameUtil;
import cn.hutool.core.lang.UUID;
import cn.hutool.core.text.StrPool;
import cn.hutool.core.util.StrUtil;
import cn.hutool.core.util.URLUtil;
import cn.hutool.http.ContentType;
import com.aliyun.oss.HttpMethod;
import com.aliyun.oss.OSS;
import com.aliyun.oss.model.DeleteObjectsRequest;
import com.aliyun.oss.model.GeneratePresignedUrlRequest;
import com.namaste.hsswobjectstorage.api.service.IOssService;
import jakarta.annotation.Resource;
import org.springframework.beans.factory.annotation.Value;
import org.springframework.stereotype.Service;
import org.springframework.util.ObjectUtils;

import java.util.Date;
import java.util.List;

import static java.util.stream.Collectors.*;

/**
 * AliOssServiceImpl
 *
 * @author achao@apache.org
 */
@Service
public class AliOssServiceImpl implements IOssService {

    @Resource
    private OSS ossClient;

    /**
     * @param rootPath bucket是配死的
     * @param fileName fileName
     * @return 预签名url
     */
    @Override
    public String getPresignedUrlPut(String bucket, String fileName) {
        var expiration = new Date(new Date().getTime() + 3600 * 1000L);
        var objectName = DateUtil.date().toDateStr() +
                FileNameUtil.UNIX_SEPARATOR +
                UUID.fastUUID() +
                DateUtil.date().toTimestamp() +
                StrPool.DOT +
                FileNameUtil.extName(fileName);
        GeneratePresignedUrlRequest request = new GeneratePresignedUrlRequest(bucket, objectName, HttpMethod.PUT);
        request.setExpiration(expiration);
        request.setContentType(ContentType.OCTET_STREAM.getValue());
        return ossClient.generatePresignedUrl(request).toString();
    }

    @Override
    public void deleteBatch(List<String> fileUrls) {
        if (ObjectUtils.isEmpty(fileUrls)) {
            return;
        }
        var bucketObjectsMap = fileUrls.stream()
                .collect(groupingBy(
                        url -> url.substring(url.indexOf(StrPool.SLASH) + 2, url.indexOf(StrPool.DOT)),
                        mapping(url -> StrUtil.removePrefix(URLUtil.getPath(url), StrPool.SLASH),
                                toList())));
        bucketObjectsMap.entrySet().stream()
                .map(entry -> {
                    var req = new DeleteObjectsRequest(entry.getKey());
                    req.setKeys(entry.getValue());
                    return req;
                }).forEach(ossClient::deleteObjects);
    }

}

minio的实现:

import cn.hutool.core.date.DateUtil;
import cn.hutool.core.io.file.FileNameUtil;
import cn.hutool.core.lang.UUID;
import cn.hutool.core.net.url.UrlBuilder;
import cn.hutool.core.text.StrPool;

import io.minio.RemoveObjectsArgs;
import io.minio.messages.DeleteObject;
import jakarta.annotation.Resource;
import org.apache.camel.ProducerTemplate;
import org.apache.camel.component.minio.MinioConstants;
import org.springframework.beans.factory.annotation.Value;
import org.springframework.context.annotation.Lazy;
import org.springframework.util.ObjectUtils;

import java.time.Duration;
import java.util.List;
import java.util.Map;

import static java.util.stream.Collectors.*;

/**
 * OssServiceImpl
 *
 * @author VampireAchao<achao @ hutool.cn>
 * @since 2023/10/5
 */
//@Service
public class MinioOssServiceImpl implements IOssService {

    @Value("${camel.component.minio.presigned-url-expire}")
    private Duration presignedUrlExpire;
    @Resource
    private ProducerTemplate producerTemplate;
    @Lazy
    @Resource
    private IOssService ossService;

    @Override
    public String getPresignedUrlPut(String bucket, String fileName) {
        var objectName = DateUtil.date().toDateStr() +
                FileNameUtil.UNIX_SEPARATOR +
                UUID.fastUUID() +
                DateUtil.date().toTimestamp() +
                StrPool.DOT +
                FileNameUtil.extName(fileName);
        return String.valueOf(producerTemplate.requestBodyAndHeaders(
                "direct:createUploadLink", "",
                Map.of(MinioConstants.BUCKET_NAME, bucket,
                        MinioConstants.OBJECT_NAME, objectName,
                        MinioConstants.PRESIGNED_URL_EXPIRATION_TIME, presignedUrlExpire)));
    }

    @Override
    public void deleteBatch(List<String> fileUrls) {
        if (ObjectUtils.isEmpty(fileUrls)) {
            return;
        }
        var bucketObjectsMap = fileUrls.stream().map(path -> UrlBuilder.of(path).getPath())
                .collect(groupingBy(path -> path.getSegment(0), mapping(path -> {
                    path.getSegments().remove(0);
                    return String.join(StrPool.SLASH, path.getSegments());
                }, toList())));
        bucketObjectsMap.entrySet().stream()
                .map(entry -> RemoveObjectsArgs.builder()
                        .bucket(entry.getKey())
                        .objects(entry.getValue().stream().map(DeleteObject::new).toList())
                ).parallel()
                .forEach(args -> producerTemplate.sendBody("direct:deleteBatch", args));
    }

}

对应的service

import com.namaste.enums.GreenLabelEnum;
import org.dromara.streamquery.stream.core.variable.BoolHelper;

import java.util.List;

/**
 * IOssService
 *
 * @author VampireAchao<achao @ hutool.cn>
 * @since 2023/10/5
 */
public interface IOssService {

    /**
     * 获取预签名url上传
     *
     * @param bucket   桶
     * @param fileName fileName
     * @return 用于上传资源的url
     */
    String getPresignedUrlPut(String bucket, String fileName);

    /**
     * 批量删除
     *
     * @param fileUrls fileUrls
     */
    void deleteBatch(List<String> fileUrls);

    /**
     * 内容安全审查
     *
     * @param img 图片url
     * @return 审查结果
     */
    default GreenVO green(String img) {
        var result = GreenUtil.inspectImg(img, GreenLabelEnum.LIVE_STREAM_CHECK);
        var vo = GreenVO.of(result);
        if (BoolHelper.isFalsy(vo.getIsViolation())) {
            deleteBatch(List.of(img));
        }
        return vo;
    }

}

test case

import cn.hutool.core.io.IoUtil;
import cn.hutool.core.net.url.UrlBuilder;
import cn.hutool.core.net.url.UrlQuery;
import cn.hutool.core.util.URLUtil;
import cn.hutool.http.ContentType;
import cn.hutool.http.HttpUtil;
import cn.hutool.http.Method;
import jakarta.annotation.Resource;
import lombok.SneakyThrows;
import org.junit.jupiter.api.Assertions;
import org.junit.jupiter.api.Test;
import org.springframework.boot.test.context.SpringBootTest;

import java.io.FileNotFoundException;
import java.util.List;

/**
 * OssServiceTest
 *
 * @author VampireAchao<achao @ hutool.cn>
 * @since 2023/10/5
 */
@SpringBootTest
class OssServiceTest {

    @Resource
    private IOssService ossService;

    @Test
    @SneakyThrows
    void getUploadSTSAndDeleteBatchTest() {
        var presignedUrl = ossService.getPresignedUrlPut("test", "test.txt");
        Assertions.assertNotNull(presignedUrl);
        var content = "Hello, Minio! Again!";
        try (var response = HttpUtil.createRequest(Method.PUT, presignedUrl)
                .body(content, "application/octet-stream").execute()) {
            Assertions.assertTrue(response.isOk());
        }
        var urlBuilder = UrlBuilder.of(presignedUrl).setQuery(new UrlQuery());
        Assertions.assertEquals(content,
                IoUtil.readUtf8(urlBuilder.toURL().openStream()));
        ossService.deleteBatch(List.of(urlBuilder.toString()));
        Assertions.assertThrows(FileNotFoundException.class,
                () -> IoUtil.readUtf8(urlBuilder.toURL().openStream()));
    }

    @Test
    void greenNormalTest() {
        var url = [foo];
        var bytes = IoUtil.readBytes(URLUtil.getStream(URLUtil.url(url)));
        var preUrl = ossService.getPresignedUrlPut("test", "normal.jpg");
        try (var response = HttpUtil.createRequest(Method.PUT, preUrl).contentType(ContentType.OCTET_STREAM.getValue()).body(bytes).execute()) {
            Assertions.assertTrue(response.isOk());
            var urlBuilder = UrlBuilder.of(preUrl).setQuery(new UrlQuery());
            Assertions.assertEquals(bytes.length, IoUtil.readBytes(URLUtil.getStream(urlBuilder.toURL())).length);
            var imgUrl = urlBuilder.toURL().toString();
            var greenVO = ossService.green(imgUrl);
            Assertions.assertFalse(greenVO.getIsViolation());
            Assertions.assertThrows(FileNotFoundException.class,
                    () -> IoUtil.readUtf8(urlBuilder.toURL().openStream()));

        }
    }


    @Test
    void greenYellowTest() {
        var url = [bar];
        var bytes = IoUtil.readBytes(URLUtil.getStream(URLUtil.url(url)));
        var preUrl = ossService.getPresignedUrlPut("test", "normal.jpg");
        try (var response = HttpUtil.createRequest(Method.PUT, preUrl).body(bytes).execute()) {
            Assertions.assertTrue(response.isOk());
            var urlBuilder = UrlBuilder.of(preUrl).setQuery(new UrlQuery());
            Assertions.assertEquals(bytes.length, IoUtil.readBytes(URLUtil.getStream(urlBuilder.toURL())).length);
            var imgUrl = urlBuilder.toURL().toString();
            var greenVO = ossService.green(imgUrl);
            Assertions.assertTrue(greenVO.getIsViolation());
            var readBytes = IoUtil.readBytes(URLUtil.getStream(urlBuilder.toURL()));
            Assertions.assertEquals(readBytes.length, bytes.length);
        }
    }

}
相关实践学习
借助OSS搭建在线教育视频课程分享网站
本教程介绍如何基于云服务器ECS和对象存储OSS,搭建一个在线教育视频课程分享网站。
相关文章
|
5天前
|
分布式计算 大数据 MaxCompute
MaxCompute产品使用合集之使用pyodps读取OSS(阿里云对象存储)中的文件的步骤是什么
MaxCompute作为一款全面的大数据处理平台,广泛应用于各类大数据分析、数据挖掘、BI及机器学习场景。掌握其核心功能、熟练操作流程、遵循最佳实践,可以帮助用户高效、安全地管理和利用海量数据。以下是一个关于MaxCompute产品使用的合集,涵盖了其核心功能、应用场景、操作流程以及最佳实践等内容。
|
5天前
|
安全 Linux 对象存储
数据备份到阿里云oss上,以防勒索病毒的破坏
数据备份到阿里云oss上,以防勒索病毒的破坏
21 0
|
5天前
|
网络协议 对象存储
阿里云oss配置自有域名
阿里云oss配置自有域名
30 1
|
5天前
|
存储 JSON 前端开发
Javaweb之SpringBootWeb案例之阿里云OSS服务集成的详细解析
Javaweb之SpringBootWeb案例之阿里云OSS服务集成的详细解析
21 0
|
5天前
|
存储 开发工具 对象存储
Javaweb之SpringBootWeb案例之阿里云OSS服务入门的详细解析
Javaweb之SpringBootWeb案例之阿里云OSS服务入门的详细解析
24 0
|
5天前
|
存储 文字识别 安全
Javaweb之SpringBootWeb案例之阿里云OSS服务的详细解析
Javaweb之SpringBootWeb案例之阿里云OSS服务的详细解析
24 0
|
5天前
|
存储 安全 Java
全面了解阿里云OSS使用方法
本文介绍了阿里云对象存储(OSS)的准备工作、服务开通、优势、使用步骤以及代码实现。首先,用户需要注册阿里云账号并进行实名认证,然后开通OSS服务,创建存储空间。阿里云OSS提供高可靠、安全、低成本的云存储,适合各种数据存储和分发场景。接着,通过官方SDK学习如何上传文件,并提供了Java代码示例。最后,展示了如何在Spring Boot项目中集成阿里云OSS,实现文件上传功能。
|
5天前
|
弹性计算 运维 监控
解密阿里云弹性计算:探索云服务器ECS的核心功能
阿里云ECS是核心计算服务,提供弹性云服务器资源,支持实例按需配置、集群管理和监控,集成安全防护,确保服务稳定、安全,助力高效业务运营。
85 0
|
5天前
|
存储 弹性计算 固态存储
阿里云服务器CPU内存配置详细指南,如何选择合适云服务器配置?
阿里云服务器配置选择涉及CPU、内存、公网带宽和磁盘。个人开发者或中小企业推荐使用轻量应用服务器或ECS经济型e实例,如2核2G3M配置,适合低流量网站。企业用户则应选择企业级独享型ECS,如通用算力型u1、计算型c7或通用型g7,至少2核4G配置,公网带宽建议5M,系统盘可选SSD或ESSD云盘。选择时考虑实际应用需求和性能稳定性。
154 6
|
5天前
|
域名解析 弹性计算 Linux
阿里云购买云服务器、注册域名、备案及绑定图文教程参考
本文为大家介绍了2024年购买阿里云服务器和注册域名,绑定以及备案的教程,适合需要在阿里云购买云服务器、注册域名并备案的用户参考,新手用户可通过此文您了解在从购买云服务器到完成备案的流程。
阿里云购买云服务器、注册域名、备案及绑定图文教程参考
http://www.vxiaotou.com