百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 技术教程 > 正文

你要如何学习写一个数据库内核(如何实现一个最简单的数据库)

suiw9 2025-03-20 18:49 2 浏览 0 评论

数据库这个方向上还有许多细分方向,每个细分方向上都有许多知识。

笔者以为最重要的,是一种融会贯通的能力,一种视野,一种大局观,当你真的去做的时候,你会发现你并不需要对每个细分领域非常了解,也可以做出可用的数据库内核。而这些东西,书本是很难教你的。这个阶段如果你直接选择看书,很可能就陷到细枝末节里去了。耗费了许多时间,却感叹着数据库高不可攀。

笔者曾经在某大厂的数据库团队里工作,但我所在的团队是做数据库调度的,俗称数据库中间件,离数据库本身还有一定距离。我也一直把数据库开发这件事情当做一个目标。但当我来到一个跟理想有差距的团队的时候,还是有点小沮丧。不过转念一想,我相比大多数人,仅有一步之遥,毕竟我最大的合作方就是数据库。所以可以说我比大部分人呀幸运一点,但又幸运得不多。

我的数据库主要也是靠自学,也走过许多弯路。我说的这些也是回过头对这些路径的经验之谈,希望给后辈一点启发。

数据库大概可以分成两个部分:数据库系统+数据库内核。

元数据管理,用户系统,权限系统,加解密,备份,恢复,运维,定时器,触发器等等这些东西就构成了数据库系统。

最精彩的则是数据库内核,这里是工程和理论相结合的殿堂,是奇思妙想得到展现的画布,是自由奔跑的马场,是天马的银河。内核又可以粗略的分为『前端』和『后端』。

前端是用户界面,这里的界面可不是GUI,而是『接口』,但这个接口跟通常理解的接口不一样,它不是一个确定的方法,函数调用,而是一个过程的描述。这里各家数据库常见的做法大致有两种,一种是mapreduce,一种是dsl。少数还提供了udf(用户自定义函数)

mapreduce的代表是mongodb的pipeline,hadoop。

dsl基本上是所有数据库的选择(也包括mongodb),dsl可以用来屏蔽数据存储查询和计算的细节。你可以自由创造一种DSL(比如promeQL),也可以follow ansiSQL并在其基础上扩展出特色语法,比如sqlserver。这里的内容就需要编译原理前端知识。

后端就是执行器和存储系统。

执行器简单来说就是visit dsl ast node,然后调用存储系统的接口。也可以搞得非常复杂,像塞一个优化器,就可以进行『执行计划』,『代价评估』。优化器调整执行器的各函数调用顺序和参数。优化器这里的内容跟编译原理也是相通的。

当然如果不打算做优化器,那执行器就非常简单了。

再往下就是存储系统了。这里讲道理,并不难,最核心的是数据结构。但是所有讲数据结构的书里面,没有人教你:

  • 如何把内存中的数据结构保存到硬盘上面合适的位置,再在必要的时候恢复现场
  • 用有限的内存查找硬盘上的数据,恢复到内存数据结构

这里下手的话,可以先从简单的kv存储入手,先搞懂sstable,之后过度到LSM。要知道rocksdb,leveldb,都是通过他们实现的,难度不大。

关于kv数据库究竟怎么玩,我这里举个例子,权当抛砖。

比如有记录:

name(pk)

age

sex

Mario

55

f

Luigi

53

f

Peach

28

m

在存储的时候分别存文件,name.db,age.db,sex.db。

name.db

key

value

Mario

1

Luigi

1

Peach

1

age.db

key

value

Mario

55

Luigi

53

Peach

28

sex.db

key

value

Mario

f

Luigi

f

Peach

m

如果我们碰到查询

SELECT name, age FROM roles WHERE name='Mario'

就知道要去name.db age.db中查找,然后merge就是最终结果了。

那碰到update,怎么办?比如把马里奥大叔的年龄修改成56了。那就在age.db再添加一条而无需先定位再修改。

key

value

Mario

55

Luigi

53

Peach

28

Mario

56

请求是查询age.db中Mario的时候,只取最新的即可。

当删除马里奥大叔的请求来临的时候,只需要再插入主键表name.db一条,key=‘Mario’, value=0

当你做了一个dsl,一个最简单的执行器,一个最简单的kv存储。其实一个数据库内核就做出来了。虽然从各种意义上,它可能不达标,但你脑子里的『大局观』已经成型了,有了这个大局观,你就可以带着问题去深入了解各个领域。

我再举个例子哈。

你这个kv存储并没有考虑异常断电的情况,也没有考虑多请求操作同一条记录同一个字段的一致性问题。你就会带着这个疑问去了解wal,锁机制,mvcc,甚至压缩,加密,可靠传输,乃至文件系统。数据库的存储跟操作系统的文件系统有些思想也是相通的,比如zfs就是db2的存储系统发展而来。这一块如果感兴趣可以看看《大话存储》和《文件系统技术内幕》。

你这个优化器也没有考虑,where age<60 and name='Mario'和where name='Mario' and age<60的区别,甚至有没有更加简便的路径。你就会去深入图论,带权路径搜索,代价评估。

然后是索引,在面对where age in (53,56,28)的时候怎么高效的获取?就要针对age做bitmap索引。在面对where age <60的时候呢?btree索引。

最上面的DSL层,主要使用了解析技术,属于编译原理的前端知识范畴,如果要兼顾解析性能和正确性,那难度也不小,通过生成工具来做,可能性能和内存使用量都达不到要求。手动解析里面又存在一些技巧,比如“记忆链”式解析,避免了回溯也降低了内存开销。这里的技巧可以看看《编程语言实现模式》。

你看,有了大局观之后,是不是豁然开朗?这不比上来就甩20本大部头的书和18种mooc的课程链接给你效率高么?

好了暂时就说这么多,想到哪再写到哪吧。我从事数据库开发也只有两年多。也不曾见识过数据库美景的全部。有偏颇的地方,希望各位斧正。

相关推荐

俄罗斯的 HTTPS 也要被废了?(俄罗斯网站关闭)

发布该推文的ScottHelme是一名黑客,SecurityHeaders和ReportUri的创始人、Pluralsight作者、BBC常驻黑客。他表示,CAs现在似乎正在停止为俄罗斯域名颁发...

如何强制所有流量使用 HTTPS一网上用户

如何强制所有流量使用HTTPS一网上用户使用.htaccess强制流量到https的最常见方法可能是使用.htaccess重定向请求。.htaccess是一个简单的文本文件,简称为“.h...

https和http的区别(https和http有何区别)

“HTTPS和HTTP都是数据传输的应用层协议,区别在于HTTPS比HTTP安全”。区别在哪里,我们接着往下看:...

快码住!带你十分钟搞懂HTTP与HTTPS协议及请求的区别

什么是协议?网络协议是计算机之间为了实现网络通信从而达成的一种“约定”或“规则”,正是因为这个“规则”的存在,不同厂商的生产设备、及不同操作系统组成的计算机之间,才可以实现通信。简单来说,计算机与网络...

简述HTTPS工作原理(简述https原理,以及与http的区别)

https是在http协议的基础上加了一层SSL(由网景公司开发),加密由ssl实现,它的目的是为用户提供对网站服务器的身份认证(需要CA),以至于保护交换数据的隐私和完整性,原理如图示。1、客户端发...

21、HTTPS 有几次握手和挥手?HTTPS 的原理什么是(高薪 常问)

HTTPS是3次握手和4次挥手,和HTTP是一样的。HTTPS的原理...

一次安全可靠的通信——HTTPS原理

为什么HTTPS协议就比HTTP安全呢?一次安全可靠的通信应该包含什么东西呢,这篇文章我会尝试讲清楚这些细节。Alice与Bob的通信...

为什么有的网站没有使用https(为什么有的网站点不开)

有的网站没有使用HTTPS的原因可能涉及多个方面,以下是.com、.top域名的一些见解:服务器性能限制:HTTPS使用公钥加密和私钥解密技术,这要求服务器具备足够的计算能力来处理加解密操作。如果服务...

HTTPS是什么?加密原理和证书。SSL/TLS握手过程

秘钥的产生过程非对称加密...

图解HTTPS「转」(图解http 完整版 彩色版 pdf)

我们都知道HTTPS能够加密信息,以免敏感信息被第三方获取。所以很多银行网站或电子邮箱等等安全级别较高的服务都会采用HTTPS协议。...

HTTP 和 HTTPS 有何不同?一文带你全面了解

随着互联网时代的高速发展,Web服务器和客户端之间的安全通信需求也越来越高。HTTP和HTTPS是两种广泛使用的Web通信协议。本文将介绍HTTP和HTTPS的区别,并探讨为什么HTTPS已成为We...

HTTP与HTTPS的区别,详细介绍(http与https有什么区别)

HTTP与HTTPS介绍超文本传输协议HTTP协议被用于在Web浏览器和网站服务器之间传递信息,HTTP协议以明文方式发送内容,不提供任何方式的数据加密,如果攻击者截取了Web浏览器和网站服务器之间的...

一文让你轻松掌握 HTTPS(https详解)

一文让你轻松掌握HTTPS原文作者:UC国际研发泽原写在最前:欢迎你来到“UC国际技术”公众号,我们将为大家提供与客户端、服务端、算法、测试、数据、前端等相关的高质量技术文章,不限于原创与翻译。...

如何在Spring Boot应用程序上启用HTTPS?

HTTPS是HTTP的安全版本,旨在提供传输层安全性(TLS)[安全套接字层(SSL)的后继产品],这是地址栏中的挂锁图标,用于在Web服务器和浏览器之间建立加密连接。HTTPS加密每个数据包以安全方...

一文彻底搞明白Http以及Https(http0)

早期以信息发布为主的Web1.0时代,HTTP已可以满足绝大部分需要。证书费用、服务器的计算资源都比较昂贵,作为HTTP安全扩展的HTTPS,通常只应用在登录、交易等少数环境中。但随着越来越多的重要...

取消回复欢迎 发表评论: