如何在PolarDB-X中优化慢SQL

本文涉及的产品
云原生数据库 PolarDB 分布式版,标准版 2核8GB
简介: 《PolarDB-X动手实践》系列第六期,本场景带您体验如何使用PolarDB-X提供的解决慢SQL的相关工具。

如何在PolarDB-X中优化慢SQL


1.  创建实验资源

开始实验之前,您需要先创建ECS实例资源。

  1. 在实验室页面,单击创建资源
  2. (可选)在实验室页面左侧导航栏中,单击云产品资源列表,可查看本次实验资源相关信息(例如IP地址、用户信息等)。

说明:资源创建过程需要1~3分钟。

2.  连接PolarDB-X集群

本步骤将指导您如何连接通过k8s部署的PolarDB-X集群。

说明:本场景ECS实例已为您提前安装完成通过k8s部署的PolarDB-X集群。

  1. 执行如下命令,切换到账号galaxykube。
su galaxykube
  1. 执行如下命令,启动一个minikube。

说明:这里我们使用了阿里云的minikube镜像源以及USTC提供的docker镜像源来加速镜像的拉取。

minikube start --cpus 4 --memory 12288 --image-mirror-country cn --registry-mirror=https://docker.mirrors.sjtug.sjtu.edu.cn

返回结果如下,表示minikube已经正常运行。

  1. 执行如下命令,查看PolarDB-X集群登录密码。
kubectl get secret polardb-x -o jsonpath="{.data['polardbx_root']}" | base64 -d - | xargs echo "Password: "

返回结果如下,您可以查看到PolarDB-X集群登录密码。

  1. 执行如下命令,将PolarDB-X集群端口转发到3306端口。

说明:使用MySQL Client方式登录通过k8s部署的PolarDB-X集群前,您需要进行获取PolarDB-X集群登录密码和端口转发。

kubectl port-forward svc/polardb-x 3306
  1. 在实验页面,单击右上角的 图标,创建新的终端二。

  1. 执行如下命令,连接PolarDB-X集群。

说明:

  • 您需要将替换为实际获取到的PolarDB-X集群登录密码。
  • 如遇到mysql:  [Warning] Using a password on the command line interface can be  insecure.ERROR 2013 (HY000): Lost connection to MySQL server at 'reading  initial communication packet', system error: 0报错,请您稍等一分钟,在终端一种重新执行转发端口命令,在终端二中重新执行连接PolarDB-X集群命令即可。
mysql -h127.0.0.1 -P3306 -upolardbx_root -p<PolarDB-X集群登录密码>

3.  启动业务

本步骤将指导您如何使用Sysbench Select场景模拟业务流量。

  1. 准备压测数据。
  1. 执行如下SQL语句,创建压测数据库sysbench_test。
CREATE DATABASE sysbench_test;
  1. 执行如下SQL语句,使用压测数据库sysbench_test。
USE sysbench_test;
  1. 在实验页面,单击右上角的 图标,创建新的终端三。

  1. 执行如下命令,切换到账号galaxykube。
su galaxykube
  1. 执行如下命令,进入到/home/galaxykube目录。
cd
  1. 执行如下命令,创建准备压测数据的sysbench-prepare.yaml文件。
vim sysbench-prepare.yaml
  1. i键进入编辑模式,将如下代码复制到文件中,然后按ECS退出编辑模式,输入:wq后按下Enter键保存并退出。
apiVersion: batch/v1
kind: Job
metadata:
  name: sysbench-prepare-data-test
  namespace: default
spec:
  backoffLimit: 0
  template:
    spec:
      restartPolicy: Never
      containers:
        - name: sysbench-prepare
          image: severalnines/sysbench
          env:
            - name: POLARDB_X_USER
              value: polardbx_root
            - name: POLARDB_X_PASSWD
              valueFrom:
                secretKeyRef:
                  name: polardb-x
                  key: polardbx_root
          command: [ 'sysbench' ]
          args:
            - --db-driver=mysql
            - --mysql-host=$(POLARDB_X_SERVICE_HOST)
            - --mysql-port=$(POLARDB_X_SERVICE_PORT)
            - --mysql-user=$(POLARDB_X_USER)
            - --mysql_password=$(POLARDB_X_PASSWD)
            - --mysql-db=sysbench_test
            - --mysql-table-engine=innodb
            - --rand-init=on
            - --max-requests=1
            - --oltp-tables-count=1
            - --report-interval=5
            - --oltp-table-size=160000
            - --oltp_skip_trx=on
            - --oltp_auto_inc=off
            - --oltp_secondary
            - --oltp_range_size=5
            - --mysql_table_options=dbpartition by hash(`id`)
            - --num-threads=1
            - --time=3600
            - /usr/share/sysbench/tests/include/oltp_legacy/parallel_prepare.lua
            - run
  1. 执行如下命令,运行准备压测数据的sysbench-prepare.yaml文件,初始化测试数据。
kubectl apply -f sysbench-prepare.yaml
  1. 执行如下命令,获取任务进行状态。
kubectl get jobs

返回结果如下,请您耐心等待大约1分钟,当任务状态COMPLETIONS为1/1时,表示数据已经初始化完成。

  1. 启动压测流量。
  1. 执行如下命令,创建启动压测的sysbench-select.yaml文件。
vim sysbench-select.yaml
  1. i键进入编辑模式,将如下代码复制到文件中,然后按ECS退出编辑模式,输入:wq后按下Enter键保存并退出。
apiVersion: batch/v1
kind: Job
metadata:
  name: sysbench-point-select-k-test
  namespace: default
spec:
  backoffLimit: 0
  template:
    spec:
      restartPolicy: Never
      containers:
        - name: sysbench-point-select-k
          image: severalnines/sysbench
          env:
            - name: POLARDB_X_USER
              value: polardbx_root
            - name: POLARDB_X_PASSWD
              valueFrom:
                secretKeyRef:
                  name: polardb-x
                  key: polardbx_root
          command: [ 'sysbench' ]
          args:
            - --db-driver=mysql
            - --mysql-host=$(POLARDB_X_SERVICE_HOST)
            - --mysql-port=$(POLARDB_X_SERVICE_PORT)
            - --mysql-user=$(POLARDB_X_USER)
            - --mysql_password=$(POLARDB_X_PASSWD)
            - --mysql-db=sysbench_test
            - --mysql-table-engine=innodb
            - --rand-init=on
            - --max-requests=0
            - --oltp-tables-count=1
            - --report-interval=5
            - --oltp-table-size=32000000
            - --oltp_skip_trx=on
            - --oltp_auto_inc=off
            - --oltp_secondary
            - --oltp_range_size=5
            - --mysql-ignore-errors=all
            - --num-threads=8
            - --time=3600
            - --random_points=1
            - /usr/share/sysbench/tests/include/oltp_legacy/select_random_points.lua
            - run
  1. 执行如下命令,运行启动压测的sysbench-select.yaml文件,开始压测。
kubectl apply -f sysbench-select.yaml
  1. 执行如下命令,查找压测脚本运行的POD。
kubectl get pods

返回结果如下, 以‘sysbench-point-select-k-test-’开头的POD即为目标POD。

  1. 执行如下命令,查看QPS等信息。

说明:您需要将命令中的目标POD替换为以‘sysbench-point-select-k-test-’开头的POD。

kubectl logs -f 目标PO

4.  体验SQL限流和SQL Advisor

本步骤将指导您体验SQL限流和SQL Advisor。

说明:本步骤有关SQL语句的操作都在终端二窗口中操作,查看QPS等信息在终端三窗口中操作,终端一窗口只负责PolarDB-X集群端口转发。

  1. SQL限流。 SQL限流是PolarDB-X提供的对符合特定规则的SQL进行限制的功能。在本实验场景中假设步骤二中发起的Sysbench Select流量严重影响了其他业务,所以我们首先用SQL限流对Select SQL进行限流。
  1. 执行如下SQL语句,查看当前正在运行的请求。
show full processlist where info is not null

返回结果如下,您可查看到有如下SQL正在执行。

  1. 执行如下SQL语句,创建针对这条SQL的限流规则。
create ccl_rule block_select on sysbench_test.* to 'polardbx_root'@'%' for select filter by keyword('pad') with max_concurrency=0;

在终端二中执行对select sql进行拦截的SQL语句后,在终端三您可查看到出现大量的SQL报错统计。

  1. 执行如下SQL语句,查看SQL限流具体拦截情况。
show ccl_rules;

返回结果如下,您可查看SQL限流具体拦截情况

  1. 用SQL Advisor优化慢SQL。 在对慢SQL进行限制后,我们的系统就可以恢复正常状态了,那么接下来就可以对SQL进行优化。PolarDB-X 提供内置的SQL Advisor功能,可以针对某条SQL给出具体的优化建议。
  1. 执行如下,使用SQL Advisor功能分析SQL语句。
explain advisor SELECT id, k, c, pad from sbtest1 where k in(10)\G

返回结果如下,在ADVISE_INDEX部分,就是SQL Advisor给出的建议。

  1. 执行SQL Advisor给出的建议SQL语句。
ALTER TABLE `sysbench_test`.`sbtest1` ADD GLOBAL INDEX `__advise_index_gsi_sbtest1_k`(`k`) DBPARTITION BY HASH(`k`);
  1. 行如下SQL语句,解除SQL限流。
drop ccl_rule block_select;

终端二中执行解除SQL限流的SQL语句后,在终端三您可查看到qps在优化后进行了大幅度的提升。

5.  了解更多

如果您想了解更多有关PolarDB-X调优知识,详情请参见如下内容。

实验链接:/adc/scenario/e7cd646ddc4c43479cb51321d6607ff0

相关实践学习
跟我学:如何一键安装部署 PolarDB-X
《PolarDB-X 动手实践》系列第一期,体验如何一键安装部署 PolarDB-X。
相关文章
|
8天前
|
SQL 关系型数据库 数据库
实时计算 Flink版操作报错之使用SQL 将 PostgreSQL 的 date 类型字段转换为 TIMESTAMP 类型时遇到报错,该如何处理
在使用实时计算Flink版过程中,可能会遇到各种错误,了解这些错误的原因及解决方法对于高效排错至关重要。针对具体问题,查看Flink的日志是关键,它们通常会提供更详细的错误信息和堆栈跟踪,有助于定位问题。此外,Flink社区文档和官方论坛也是寻求帮助的好去处。以下是一些常见的操作报错及其可能的原因与解决策略。
|
16天前
|
SQL 存储 关系型数据库
【MySQL】SQL 优化
【MySQL】SQL 优化
41 0
|
1天前
|
缓存 算法 关系型数据库
SQL DB - 关系型数据库是如何工作的
? 绿:O(1)或者叫常数阶复杂度,保持为常数(要不人家就不会叫常数阶复杂度了)。 ? 红:O(log(n))对数阶复杂度,即使在十亿级数据量时也很低。 ? 粉:最糟糕的复杂度是 O(n^2),平方阶复杂度,运算数快速膨胀。 ? 黑和蓝:另外两种复杂度(的运算数也是)快速增长。 如果要处理2000条元素: ? O(1) 算法会消耗 1 次运算 ? O(log(n)) 算法会消耗 7 次运算 ? O(n) 算法会消耗 2000 次运算
|
2天前
|
关系型数据库 分布式数据库 数据库
【PolarDB开源】PolarDB资源隔离技术:在多租户环境中的应用与优化
【5月更文挑战第29天】PolarDB,阿里云的云原生数据库,在多租户环境中通过逻辑(Schema/Partition隔离)和物理(分布式存储计算节点)隔离保障数据安全和资源独占。它支持动态资源分配,适应不同租户需求,处理大规模并发,提供租户管理及数据访问控制功能。通过优化资源分配算法、提升事务处理能力和强化监控告警,PolarDB确保性能和稳定性,满足多租户的高效数据库服务需求。
33 1
|
3天前
|
存储 监控 关系型数据库
关系型数据库数据库设计优化
【5月更文挑战第18天】关系型数据库数据库设计优化
16 1
|
3天前
|
SQL 缓存 监控
关系型数据库优化查询语句
【5月更文挑战第18天】
14 2
|
3天前
|
关系型数据库 MySQL 数据库
关系型数据库索引设计优化
【5月更文挑战第18天】
11 1
|
4天前
|
SQL 关系型数据库 分布式数据库
【PolarDB开源】PolarDB Proxy配置与优化:提升数据库访问效率
【5月更文挑战第27天】PolarDB Proxy是阿里云PolarDB的高性能数据库代理,负责SQL请求转发和负载均衡。其关键配置包括:连接池管理(如最大连接数、空闲超时时间),负载均衡策略(轮询、权重轮询、一致性哈希),以及SQL过滤规则。优化方面,关注监控与调优、缓存策略、网络优化。通过这些措施,可提升数据库访问效率和系统稳定性。
103 1
|
5天前
|
负载均衡 关系型数据库 分布式数据库
【PolarDB开源】PolarDB读写分离实践:优化读取性能与负载均衡策略
【5月更文挑战第26天】PolarDB是云原生关系型数据库,通过读写分离优化性能和扩展性。它设置主节点处理写操作,从节点处理读操作,异步复制保证数据一致性。优化读取性能的策略包括增加从节点数量、使用只读实例和智能分配读请求。负载均衡策略涉及基于权重、连接数和地理位置的分配。实践示例中,电商网站通过主从架构、只读实例和负载均衡策略提升商品查询效率。PolarDB的读写分离与负载均衡为企业应对大数据和高并发提供了有效解决方案。
122 0
|
6天前
|
存储 关系型数据库 分布式数据库
【PolarDB 开源】PolarDB 存储引擎优化:PolarStore 的深度解析与优化
【5月更文挑战第25天】PolarDB的PolarStore存储引擎以其高效索引和优化的压缩算法提升数据存储与访问性能。通过并发控制保证事务正确性,同时支持数据压缩和索引优化。在实际应用中,优化包括调整索引结构、数据分区、事务管理及定期数据库维护。结合业务需求进行深度优化,可最大化PolarStore的性能潜力,推动数据库系统发展。
99 0

相关产品

  • 云原生分布式数据库 PolarDB-X
  • http://www.vxiaotou.com