阿里云对象存储服务OSS前后联调

本文涉及的产品
对象存储 OSS,20GB 3个月
对象存储 OSS,恶意文件检测 1000次 1年
对象存储 OSS,内容安全 1000次 1年
简介: 阿里云对象存储服务OSS前后联调

申明: 未经许可,禁止以任何形式转载,若要引用,请标注链接地址

全文共计11577字,阅读大概需要3分钟

1、为什么要引入阿里云对象存储服务(OSS)?有什么好处?

在分布式集群系统中,前端通过浏览器上传图片给服务器存储时存在分库分表的情况,这就涉及到文件存储的情况,在高并发的情况下,考虑到服务器的性能和利用率,都会采用负载均衡来缓解服务器的压力。比如同时有3个商品服务来响应用户的请求,为了减少查询的耗时,采用统一的文件存储来进行读写,可以选择自己搭建文件存储服务器,比如:Fast DFS 、 vsftpd,但是搭建一个专门的服务器的技术和费用成本很高,后期还需要有专人来维护,不是很方便。

目前火热的阿里云对象存储OSS(Object Storage Service)是一个不错的选择。


1.1、什么是对象存储OSS

阿里云对象存储OSS(Object Storage Service)是一款海量、安全、低成本、高可靠的云存储服务。多种存储类型供选择,全面优化存储成本。


OSS具有与平台无关的RESTful API接口,可以在任何应用、任何时间、任何地点存储和访问任意类型的数据。


可以使用阿里云提供的API、SDK接口或者OSS迁移工具轻松地将海量数据移入或移出阿里云OSS。

数据存储到阿里云OSS以后,可以选择标准存储(Standard)作为移动应用、大型网站、图片分享或热点音视频的主要存储方式,也可以选择成本更低、存储期限更长的低频访问存储(Infrequent Access)、归档存储(Archive)、冷归档存储(Cold Archive)作为不经常访问数据的存储方式。


3aefa6969ed845c19a460c3694313849.png


1.2、OSS工作原理

可以将数据以对象(Object)的形式存储在存储空间(Bucket )中,Object指的是一个文件和描述该文件的任何元数据,Bucket是保存Object的容器。


要将Object存储在OSS中,需要先创建Bucket,然后指定Bucket名称以及所在地域(Region)。每个Object都需要定义ObjectName(也称为ObjectKey或者Key),作为Bucket中数据的唯一标识符。Object操作在OSS上具有原子性以及强一致性。


OSS以HTTP RESTful API的形式对外提供服务,访问不同地域需要不同的访问域名(Endpoint)。当请求访问OSS时,OSS通过使用访问密钥(AccessKey Id和AccessKey Secret)对称加密的方法来验证某个请求的发送者身份。


存储空间

存储空间是用户用于存储对象(Object)的容器,所有的对象都必须隶属于某个存储空间。存储空间具有各种配置属性,包括地域、访问权限、存储类型等。用户可以根据实际需求,创建不同类型的存储空间来存储不同的数据。


对象

对象是OSS存储数据的基本单元,也被称为OSS的文件。和传统的文件系统不同,对象没有文件目录层级结构的关系。对象由元信息(Object Meta),用户数据(Data)和文件名(Key)组成,并且由存储空间内部唯一的Key来标识。对象元信息是一组键值对,表示了对象的一些属性,比如最后修改时间、大小等信息,同时用户也可以在元信息中存储一些自定义的信息。


对象名称

在各语言SDK中,ObjectKey、Key以及ObjectName是同一概念,均表示对Object执行相关操作时需要填写的Object名称。例如向某一存储空间上传Object时,ObjectKey表示上传的Object所在存储空间的完整名称,即包含文件后缀在内的完整路径,如填写为abc/efg/123.jpg。


地域

Region表示OSS的数据中心所在物理位置。用户可以根据费用、请求来源等选择合适的地域创建Bucket。一般来说,距离用户更近的Region访问速度更快。详情请参见OSS已经开通的Region。


访问域名

Endpoint表示OSS对外服务的访问域名。OSS以HTTP RESTful API的形式对外提供服务,当访问不同的Region的时候,需要不同的域名。通过内网和外网访问同一个Region所需要的Endpoint也是不同的。例如杭州Region的外网Endpoint是oss-cn-hangzhou.aliyuncs.com,内网Endpoint是oss-cn-hangzhou-internal.aliyuncs.com。具体的内容请参见各个Region对应的Endpoint。


访问密钥

AccessKey简称AK,指的是访问身份验证中用到的AccessKeyId和AccessKeySecret。OSS通过使用AccessKeyId和AccessKeySecret对称加密的方法来验证某个请求的发送者身份。AccessKeyId用于标识用户;AccessKeySecret是用户用于加密签名字符串和OSS用来验证签名字符串的密钥,必须保密。


2、阿里云对象存储-普通上传方式

用户通过自己的简单后台应用服务器将数据以对象的形式存储在OSS上

8248710f058245f6907bab2d5df581e7.png


2.1、时序图

f19485c537c44cb692d7e4908e1f8b37.png


2.2、登录并注册对象存储OSS

官网地址:https://www.aliyun.com/product/oss?spm=5176.19720258.J_3207526240.33.e93976f4FQUO0P

f77e99d73a614e8590dfa17d3f73b1a8.png


创建bucket


https://oss.console.aliyun.com/overview

ec9ff2b4c43c4b83b314da457fbb3e20.png


填写Bucket的名称,地域,存储类型的基本信息


518ec6f88c57487aa72693a170fbf4d9.png


点进实例后,会看到


2bd83ac0007948138b027053ae7dc8e6.png


先简单测试一下本地上传



4ea310a46985481a91844e6b814a76a8.png

可以看到上传成功了

f5c12c88aaa84d429f0d7372a9035339.png


通过URL地址可以直接访问的到:https://gulimall-jerry-jy.oss-cn-hangzhou.aliyuncs.com/5b5e74d0978360a1.jpg


3、 通过API接口上传数据对象

3.1、引入依赖

        <dependency>
            <groupId>com.aliyun.oss</groupId>
            <artifactId>aliyun-sdk-oss</artifactId>
            <version>3.5.0</version>
        </dependency>

7962aef4fb0d4459be2bdff254bd7de3.png


3.2、开通远程RAM访问权限

RAM(Resource Acess Management)资源访问控制:RAM 用户是一个身份实体,它通常代表您的组织中需要访问云资源的人员或应用程序。

https://ram.console.aliyun.com/users/new

若开通 Open API 调用访问,请及时保存 AccessKey 信息,页面关闭后将无法再次获取信息。

f1dcc74089104916ad089d336d58e35d.png


3.3、编写测试类

 @Test
    public void testUpload() {
        // Endpoint以华东1(杭州)为例,其它Region请按实际情况填写。
        String endpoint = "https://oss-cn-hangzhou.aliyuncs.com";
        // 阿里云账号AccessKey拥有所有API的访问权限,风险很高。强烈建议您创建并使用RAM用户进行API访问或日常运维,请登录RAM控制台创建RAM用户。
        String accessKeyId = "LTAI5tQRCX6FBx77qqhepLo9";
        String accessKeySecret = "UGvWNebBJusYPTIv9kRfBsEckthRqF";
        // 填写Bucket名称,例如examplebucket。
        String bucketName = "gulimall-jerry-jy";
        // 填写Object完整路径,完整路径中不能包含Bucket名称,例如exampledir/exampleobject.txt。
        String objectName = "9.png";
        // 填写本地文件的完整路径,例如D:\\localpath\\examplefile.txt。
        // 如果未指定本地路径,则默认从示例程序所属项目对应本地路径中上传文件流。
        String filePath = "C:\\Users\\15718\\Desktop\\png\\9.png";
        // 创建OSSClient实例。
        OSS ossClient = new OSSClientBuilder().build(endpoint, accessKeyId, accessKeySecret);
        try {
            InputStream inputStream = new FileInputStream(filePath);
            // 创建PutObject请求。
            ossClient.putObject(bucketName, objectName, inputStream);
        } catch (OSSException oe) {
            System.out.println("Caught an OSSException, which means your request made it to OSS, "
                    + "but was rejected with an error response for some reason.");
            System.out.println("Error Message:" + oe.getErrorMessage());
            System.out.println("Error Code:" + oe.getErrorCode());
            System.out.println("Request ID:" + oe.getRequestId());
            System.out.println("Host ID:" + oe.getHostId());
        } catch (ClientException ce) {
            System.out.println("Caught an ClientException, which means the client encountered "
                    + "a serious internal problem while trying to communicate with OSS, "
                    + "such as not being able to access the network.");
            System.out.println("Error Message:" + ce.getMessage());
        } catch (FileNotFoundException e) {
            e.printStackTrace();
        } finally {
            if (ossClient != null) {
                System.out.println("上传完成!");
                ossClient.shutdown();
            }
        }
    }

41db3f96ba174f5dad7b3f0e19883d68.png


3.4、可以看到文件也上传成功

5164c711f8764f3ea6fb1efe8e55bce2.png


可以通过URL访问图片:https://gulimall-jerry-jy.oss-cn-hangzhou.aliyuncs.com/9.png


4、 使用阿里云封装的Ali-Cloud OSS SDK进行上传

4.1、引入依赖

        <dependency>
            <groupId>com.alibaba.cloud</groupId>
            <artifactId>spring-cloud-starter-alicloud-oss</artifactId>
        </dependency>

4

5c8547da9cb54281bc815f086bd7609b.png


4.2、编写application.yml配置文件

spring:
  cloud: 
      alicloud:
        access-key: LTAI5tQRCX6FBx77qqhepLo9
        secret-key: UGvWNebBJusYPTIv9kRfBsEckthRqF
        oss:
          endpoint: oss-cn-hangzhou.aliyuncs.com

b047354a3b034588899caec804189742.png


4.3、启动类上调用OSSClient方法

可以看到控制台打印了【上传成功】

5a1a9c4334324a858471ec3eb8fa99c6.png


去阿里云控制台检查下是否成功

150808d5646641029313968e4cf34c15.png



通过【URL】https://gulimall-jerry-jy.oss-cn-hangzhou.aliyuncs.com/8.png

也能正常访问,证明上传成功


4.3、不足

通过我们自己的应用服务器上传数据到OSS,如果前端访问的数据量过大,过造成应用服务器的性能瓶颈,最好的办法是采用服务端签名后直传


5、阿里云对象存储-服务端签名后直传

5.1、原理图


47b2eee2e1e64d598695f3e93844fcfa.png

5.2、controller

package com.jerry.gulimall.thirdparty.controller;
import com.aliyun.oss.OSS;
import com.aliyun.oss.common.utils.BinaryUtil;
import com.aliyun.oss.model.MatchMode;
import com.aliyun.oss.model.PolicyConditions;
import com.jerry.common.utils.R;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.web.bind.annotation.RequestMapping;
import org.springframework.web.bind.annotation.RestController;
import org.springframework.beans.factory.annotation.Value;
import java.util.Date;
import java.util.Map;
import java.text.SimpleDateFormat;
import java.util.LinkedHashMap;
/**
 * @author 金阳
 * @description
 * @create 2022-07-22 1:24
 */
@RestController
public class OssController {
    @Autowired
    OSS ossClient;
    @Value("${spring.cloud.alicloud.oss.endpoint}")
    private String endpoint;
    @Value("${spring.cloud.alicloud.oss.bucket}")
    private String bucket;
    @Value("${spring.cloud.alicloud.access-key}")
    private String accessId;
    @RequestMapping("/oss/policy")
    public R policy() {
        //https://gulimall-hello.oss-cn-beijing.aliyuncs.com/hahaha.jpg
        String host = "https://" + bucket + "." + endpoint; // host的格式为 bucketname.endpoint
        // callbackUrl为 上传回调服务器的URL,请将下面的IP和Port配置为您自己的真实信息。
//        String callbackUrl = "http://88.88.88.88:8888";
        String format = new SimpleDateFormat("yyyy-MM-dd").format(new Date());
        String dir = format + "/"; // 用户上传文件时指定的前缀。
        Map<String, String> respMap = null;
        try {
            long expireTime = 30;
            long expireEndTime = System.currentTimeMillis() + expireTime * 1000;
            Date expiration = new Date(expireEndTime);
            PolicyConditions policyConds = new PolicyConditions();
            policyConds.addConditionItem(PolicyConditions.COND_CONTENT_LENGTH_RANGE, 0, 1048576000);
            policyConds.addConditionItem(MatchMode.StartWith, PolicyConditions.COND_KEY, dir);
            String postPolicy = ossClient.generatePostPolicy(expiration, policyConds);
            byte[] binaryData = postPolicy.getBytes("utf-8");
            String encodedPolicy = BinaryUtil.toBase64String(binaryData);
            String postSignature = ossClient.calculatePostSignature(postPolicy);
            respMap = new LinkedHashMap<String, String>();
            respMap.put("accessid", accessId);
            respMap.put("policy", encodedPolicy);
            respMap.put("signature", postSignature);
            respMap.put("dir", dir);
            respMap.put("host", host);
            respMap.put("expire", String.valueOf(expireEndTime / 1000));
            // respMap.put("expire", formatISO8601Date(expiration));
        } catch (Exception e) {
            // Assert.fail(e.getMessage());
            System.out.println(e.getMessage());
        }
        return R.ok().put("data",respMap);
    }
}

5.3、开启Nacos注册和配置中心

编写application.yml

spring:
  cloud:
    nacos:
      discovery:
        server-addr: 127.0.0.1:8848
    alicloud:
      access-key: LTAI5tQRCX6FBx77qqhepLo9
      secret-key: UGvWNebBJusYPTIv9kRfBsEckthRqF
      oss:
        endpoint: oss-cn-hangzhou.aliyuncs.com
        bucket: gulimall-jerry-jy
  application:
    name: gulimall-third-party
server:
  port: 30000

配置bootstrap.properties

spring.application.name=gulimall-third-party
spring.cloud.nacos.config.server-addr=127.0.0.1:8848
spring.cloud.nacos.config.namespace=0b0b4ca3-539e-44ed-ab10-1f9ac6af6458
spring.cloud.nacos.config.ext-config[0].data-id=oss.yml
spring.cloud.nacos.config.ext-config[0].group=DEFAULT_GROUP
spring.cloud.nacos.config.ext-config[0].refresh=true

完成Nacos Server配置


2387e35348fe42e2b6c8bd0133d9dd38.png


配置详情

262fcfd3df584c07913b816e35bac18b.png



5.3、开启服务的注册与发现@EnableDiscoveryClient

d51899bc2e0e43adad5dbe168eeb1978.png


5.4、配置网关路由协议

        - id: third_party_route
          uri: lb://gulimall-third-party
          predicates:
            - Path=/api/thirdparty/**
          filters:
            - RewritePath=/api/thirdparty/(?<segment>.*),/$\{segment}

588c90187c0d43d19652881b5f9ba422.png


访问http://localhost:88/api/thirdparty/oss/policy可以看到能响应json数据,说明服务的注册与发现功能正常


d398f58c4a9f4773ac80d11faa1a7c08.png


6、前后联调

6.1、开启允许跨域访问

f51fdfcd9517442d9cbac7fd14df88ff.png


要允许浏览器提交的所有的请求和允许所有的请求头访问OSS

c578908daa784c47b7283dfc840f1122.png



先启动后端项目,再启动前端项目,上传我们的本地图片,可以看到是,图片回显是成功的

26ef082934fc42218c3641caac01501f.png



去阿里云控制台检查,可以看到能正常接受用户上传的图片


e3d498265c7343c2a22fa58265201434.png


【注意】

图片预览没用回显,发现是

请求网址: https://gulimall-jerry-jy.https//oss-cn-hangzhou.aliyuncs.com/2022-07-22/41168c92-c4b5-4be0-8f5d-8bcade308477_1.png

这里多了一个https

be9959304ee24c2184c0a415f387bb96.png



经检查:原因是在application.yml中的endpoint配置多了一个https://应该去掉


2f313071366646e5b33c6765393fa28e.png


Nacos Server中的oss.yml记得也要修改

a12088a2bc3644328c523d60ea6af7af.png



再次上传图片,发送请求,能正常回显了,响应头也是正常

b17c4a89e8ff48f7bc2fcb147ae0a35e.png

相关实践学习
借助OSS搭建在线教育视频课程分享网站
本教程介绍如何基于云服务器ECS和对象存储OSS,搭建一个在线教育视频课程分享网站。
相关文章
|
8天前
|
Oracle 关系型数据库 数据处理
实时计算 Flink版产品使用合集之写入OSS是否要开通oss-hdfs服务
实时计算Flink版作为一种强大的流处理和批处理统一的计算框架,广泛应用于各种需要实时数据处理和分析的场景。实时计算Flink版通常结合SQL接口、DataStreamAPI、以及与上下游数据源和存储系统的丰富连接器,提供了一套全面的解决方案,以应对各种实时计算需求。其低延迟、高吞吐、容错性强的特点,使其成为众多企业和组织实时数据处理首选的技术平台。以下是实时计算Flink版的一些典型使用合集。
|
3天前
|
SQL 分布式计算 监控
基于阿里云 EMR Serverless Spark 版快速搭建OSS日志分析应用
本文演示了使用 EMR Serverless Spark 产品搭建一个日志分析应用的全流程,包括数据开发和生产调度以及交互式查询等场景。
119 1
基于阿里云 EMR Serverless Spark 版快速搭建OSS日志分析应用
|
3天前
|
存储 人工智能 运维
首批 I 阿里云通过算力服务成熟度增强级评估
近日,阿里云作为算力服务标准主要参编单位之一,参与了首批标准符合性验证,以阿里云飞天企业版为主要参评产品,完成了通用计算、智能计算和高性能计算三类计算服务能力的符合性评估。
|
3天前
|
存储 弹性计算 数据管理
【阿里云弹性计算】ECS实例的冷热数据管理:利用阿里云 OSS 与 ECS 的高效协同
【5月更文挑战第28天】阿里云ECS与OSS协同,实现弹性计算服务的高效数据管理。ECS处理热数据,OSS存储冷数据,降低存储成本,提升性能。通过自动化策略实现数据自动迁移,优化实例性能,适用于电商图片、日志存储等场景。注意迁移策略设置和数据安全,为企业带来更大价值和竞争力。
16 1
|
4天前
|
弹性计算 Java 关系型数据库
最佳实践:阿里云倚天ECS在千寻位置时空智能服务的规模化应用
当前,千寻已有上千台倚天ECS实例在支撑线上核心业务。
|
4天前
|
弹性计算 运维 Java
最佳实践:阿里云倚天ECS在千寻位置时空智能服务的规模化应用
阿里云、平头哥及安谋科技联合举办的飞天技术沙龙探讨了倚天Arm架构在业务创新中的应用。活动中,千寻位置运维专家分享了将核心业务迁移到倚天处理器ECS实例的成功案例,强调了倚天处理器的高能效比和降本增效优势。迁移过程涉及操作系统、CICD系统和监控系统的适配,以及业务系统的性能测试。目前,千寻已迁移了上千台ECS实例到倚天处理器,实现了成本和效率的显著提升。未来计划继续扩展倚天处理器在核心业务和K8S中的应用。
|
4天前
|
Cloud Native 安全 Serverless
【阿里云云原生专栏】低代码开发在云原生平台的应用:阿里云低代码服务探索
【5月更文挑战第27天】在云原生时代,低代码开发凭借其图形化界面和预构建模块,简化了应用开发,提升了效率。阿里云积极探索低代码领域,推出函数计算FC和应用配置中心ACM等服务。FC让开发者无需关注基础设施,仅需少量代码即可实现应用部署,而ACM则提供动态配置管理,增强应用灵活性。阿里云的这些服务为企业数字化转型提供了高效、安全的解决方案,预示着低代码开发在云原生平台上的重要地位。
175 1
|
7天前
|
Cloud Native NoSQL 关系型数据库
动态精选|阿里云4月产品与服务更新盘点
动态精选|阿里云4月产品与服务更新盘点
48 1
|
8天前
|
存储 安全 大数据
蚂蚁数科MAPPIC密态计算云平台入驻阿里云计算巢,打造云上密态计算服务
蚂蚁数科MAPPIC密态计算云平台入驻阿里云计算巢,打造云上密态计算服务
|
8天前
|
域名解析 网络协议 安全
【域名解析DNS专栏】云服务中的DNS解析服务比较:阿里云、AWS、Azure大PK
【5月更文挑战第23天】此对比分析探讨了阿里云DNS、AWS Route 53和Azure DNS的服务特点。阿里云DNS以其智能解析和IPv6支持脱颖而出,适合中国地区用户;AWS Route 53凭借其强大的路由策略和与AWS生态的深度集成吸引高级用户;Azure DNS则以简洁管理和DNSSEC安全支持见长,与Azure平台集成良好。选择取决于具体需求,如功能、易用性、性能、安全性和成本。
【域名解析DNS专栏】云服务中的DNS解析服务比较:阿里云、AWS、Azure大PK

相关产品

  • 对象存储
  • http://www.vxiaotou.com