1
0
mirror of https://github.com/Snailclimb/JavaGuide synced 2025-08-01 16:28:03 +08:00

[docs add]深度分页介绍及优化建议

This commit is contained in:
Guide 2024-01-17 16:14:51 +08:00
parent 04ebec50b5
commit ae32d743c5
9 changed files with 103 additions and 23 deletions

View File

@ -373,18 +373,16 @@ JVM 这部分内容主要参考 [JVM 虚拟机规范-Java8](https://docs.oracle.
## 高性能
### 数据库读写分离&分库分表
### 数据库优化
[数据库读写分离和分库分表常见知识点&面试题总结](./docs/high-performance/read-and-write-separation-and-library-subtable.md)
- [数据库读写分离和分库分表](./docs/high-performance/read-and-write-separation-and-library-subtable.md)
- [常见 SQL 优化手段总结](./docs/high-performance/sql-optimization.md)
- [深度分页介绍及优化建议](./docs/high-performance/deep-pagination-optimization.md)
### 负载均衡
[负载均衡常见知识点&面试题总结](./docs/high-performance/load-balancing.md)
### SQL 优化
[常见 SQL 优化手段总结](./docs/high-performance/sql-optimization.md)
### CDN
[CDN内容分发网络常见知识点&面试题总结](./docs/high-performance/cdn.md)

View File

@ -542,6 +542,7 @@ export default sidebar({
children: [
"read-and-write-separation-and-library-subtable",
"sql-optimization",
"deep-pagination-optimization",
],
},
{

View File

@ -12,7 +12,7 @@ export default hopeTheme({
logo: "/logo.png",
favicon: "/favicon.ico",
iconAssets: "//at.alicdn.com/t/c/font_2922463_twrlnf18xy9.css",
iconAssets: "//at.alicdn.com/t/c/font_2922463_o9q9dxmps9.css",
author: {
name: "Guide",

View File

@ -1,5 +1,5 @@
---
title: CDN常见问题总结
title: CDN工作原理详解
category: 高性能
head:
- - meta

View File

@ -0,0 +1,86 @@
---
title: 深度分页介绍及优化建议
category: 高性能
head:
- - meta
- name: keywords
content: 读写分离,分库分表,主从复制
- - meta
- name: description
content: 读写分离主要是为了将对数据库的读写操作分散到不同的数据库节点上。 这样的话,就能够小幅提升写性能,大幅提升读性能。 读写分离基于主从复制MySQL 主从复制是依赖于 binlog 。分库就是将数据库中的数据分散到不同的数据库上。分表就是对单表的数据进行拆分,可以是垂直拆分,也可以是水平拆分。引入分库分表之后,需要系统解决事务、分布式 id、无法 join 操作问题。
---
## 深度分页介绍
查询偏移量过大的场景我们称为深度分页,这会导致查询性能较低,例如:
```sql
# MySQL 在无法利用索引的情况下跳过1000000条记录后再获取10条记录
SELECT * FROM t_order ORDER BY id LIMIT 1000000, 10
```
## 深度分页优化建议
这里以 MySQL 数据库为例介绍一下如何优化深度分页。
### 范围查询
当可以保证 ID 的连续性时,根据 ID 范围进行分页是比较好的解决方案:
```sql
# 查询指定 ID 范围的数据
SELECT * FROM t_order WHERE id > 100000 AND id <= 100010 ORDER BY id
# 也可以通过记录上次查询结果的最后一条记录的ID进行下一页的查询
SELECT * FROM t_order WHERE id > 100000 LIMIT 10
```
这种优化方式限制比较大,且一般项目的 ID 也没办法保证完全连续。
### 子查询
我们先查询出 limit 第一个参数对应的主键值,再根据这个主键值再去过滤并 limit这样效率会更快一些。
阿里巴巴《Java 开发手册》中也有对应的描述:
> 利用延迟关联或者子查询优化超多分页场景。
>
> ![](https://oss.javaguide.cn/github/javaguide/mysql/alibaba-java-development-handbook-paging.png)
```sql
# 通过子查询来获取 id 的起始值,把 limit 1000000 的条件转移到子查询
SELECT * FROM t_order WHERE id >= (SELECT id FROM t_order limit 1000000, 1) LIMIT 10;
```
不过,子查询的结果会产生一张新表,会影响性能,应该尽量避免大量使用子查询。并且,这种方法只适用于 ID 是正序的。在复杂分页场景,往往需要通过过滤条件,筛选到符合条件的 ID此时的 ID 是离散且不连续的。
当然,我们也可以利用子查询先去获取目标分页的 ID 集合,然后再根据 ID 集合获取内容,但这种写法非常繁琐,不如使用 INNER JOIN 延迟关联。
### INNER JOIN 延迟关联
延迟关联的优化思路,跟子查询的优化思路其实是一样的:都是把条件转移到主键索引树,然后减少回表。不同点是,延迟关联使用了 INNER JOIN 代替子查询。
```sql
SELECT t1.* FROM t_order t1
INNER JOIN (SELECT id FROM t_order limit 1000000, 1) t2
ON t1.id >= t2.id
LIMIT 10;
```
### 覆盖索引
覆盖索引是指查询的结果可以直接从索引中获取,不需要回表查询。这样可以减少随机 IO 的次数,提高查询速度。
```sql
# 如果只需要查询 id, code, type 这三列,可建立 code 和 type 的覆盖索引
SELECT id, code, type, FROM t_order
ORDER BY text
LIMIT 1000000, 10;
```
不过,当查询的结果集占表的总行数的很大一部分时,可能就不会走索引了,自动转换为全表扫描。当然了,也可以通过 `FORCE INDEX` 来强制查询优化器走索引,但这种提升效果一般不明显。
## 参考
- 聊聊如何解决 MySQL 深分页问题 - 捡田螺的小男孩:<https://juejin.cn/post/7012016858379321358>
- 数据库深分页介绍及优化方案 - 京东零售技术:<https://mp.weixin.qq.com/s/ZEwGKvRCyvAgGlmeseAS7g>
- MySQL深分页优化 - 得物技术:<https://juejin.cn/post/6985478936683610149>

View File

@ -1,5 +1,5 @@
---
title: 负载均衡常见问题总结
title: 负载均衡原理及算法详解
category: 高性能
head:
- - meta

View File

@ -1,5 +1,5 @@
---
title: 读写分离和分库分表常见问题总结
title: 读写分离和分库分表详解
category: 高性能
head:
- - meta

View File

@ -359,18 +359,16 @@ JVM 这部分内容主要参考 [JVM 虚拟机规范-Java8](https://docs.oracle.
## 高性能
### 数据库读写分离&分库分表
### 数据库优化
[数据库读写分离和分库分表常见知识点&面试题总结](./high-performance/read-and-write-separation-and-library-subtable.md)
- [数据库读写分离和分库分表](./high-performance/read-and-write-separation-and-library-subtable.md)
- [常见 SQL 优化手段总结](./high-performance/sql-optimization.md)
- [深度分页介绍及优化建议](./high-performance/deep-pagination-optimization.md)
### 负载均衡
[负载均衡常见知识点&面试题总结](./high-performance/load-balancing.md)
### SQL 优化
[常见 SQL 优化手段总结](./high-performance/sql-optimization.md)
### CDN
[CDN内容分发网络常见知识点&面试题总结](./high-performance/cdn.md)

View File

@ -381,33 +381,30 @@ ExecutorService threadPool = new ThreadPoolExecutor(corePoolSize, maximumPoolSiz
**2、自己实现 `ThreadFactory`。**
```java
import java.util.concurrent.Executors;
import java.util.concurrent.ThreadFactory;
import java.util.concurrent.atomic.AtomicInteger;
/**
* 线程工厂,它设置线程名称,有利于我们定位问题。
*/
public final class NamingThreadFactory implements ThreadFactory {
private final AtomicInteger threadNum = new AtomicInteger();
private final ThreadFactory delegate;
private final String name;
/**
* 创建一个带名字的线程池生产工厂
*/
public NamingThreadFactory(ThreadFactory delegate, String name) {
this.delegate = delegate;
this.name = name; // TODO consider uniquifying this
public NamingThreadFactory(String name) {
this.name = name;
}
@Override
public Thread newThread(Runnable r) {
Thread t = delegate.newThread(r);
Thread t = new Thread(r);
t.setName(name + " [#" + threadNum.incrementAndGet() + "]");
return t;
}
}
```