数据库这个方向上还有许多细分方向,每个细分方向上都有许多知识。
笔者以为最重要的,是一种融会贯通的能力,一种视野,一种大局观,当你真的去做的时候,你会发现你并不需要对每个细分领域非常了解,也可以做出可用的数据库内核。而这些东西,书本是很难教你的。这个阶段如果你直接选择看书,很可能就陷到细枝末节里去了。耗费了许多时间,却感叹着数据库高不可攀。
笔者曾经在某大厂的数据库团队里工作,但我所在的团队是做数据库调度的,俗称数据库中间件,离数据库本身还有一定距离。我也一直把数据库开发这件事情当做一个目标。但当我来到一个跟理想有差距的团队的时候,还是有点小沮丧。不过转念一想,我相比大多数人,仅有一步之遥,毕竟我最大的合作方就是数据库。所以可以说我比大部分人呀幸运一点,但又幸运得不多。
我的数据库主要也是靠自学,也走过许多弯路。我说的这些也是回过头对这些路径的经验之谈,希望给后辈一点启发。
数据库大概可以分成两个部分:数据库系统+数据库内核。
元数据管理,用户系统,权限系统,加解密,备份,恢复,运维,定时器,触发器等等这些东西就构成了数据库系统。
最精彩的则是数据库内核,这里是工程和理论相结合的殿堂,是奇思妙想得到展现的画布,是自由奔跑的马场,是天马的银河。内核又可以粗略的分为『前端』和『后端』。
前端是用户界面,这里的界面可不是GUI,而是『接口』,但这个接口跟通常理解的接口不一样,它不是一个确定的方法,函数调用,而是一个过程的描述。这里各家数据库常见的做法大致有两种,一种是mapreduce,一种是dsl。少数还提供了udf(用户自定义函数)
mapreduce的代表是mongodb的pipeline,hadoop。
dsl基本上是所有数据库的选择(也包括mongodb),dsl可以用来屏蔽数据存储查询和计算的细节。你可以自由创造一种DSL(比如promeQL),也可以follow ansiSQL并在其基础上扩展出特色语法,比如sqlserver。这里的内容就需要编译原理前端知识。
后端就是执行器和存储系统。
执行器简单来说就是visit dsl ast node,然后调用存储系统的接口。也可以搞得非常复杂,像塞一个优化器,就可以进行『执行计划』,『代价评估』。优化器调整执行器的各函数调用顺序和参数。优化器这里的内容跟编译原理也是相通的。
当然如果不打算做优化器,那执行器就非常简单了。
再往下就是存储系统了。这里讲道理,并不难,最核心的是数据结构。但是所有讲数据结构的书里面,没有人教你:
- 如何把内存中的数据结构保存到硬盘上面合适的位置,再在必要的时候恢复现场
- 用有限的内存查找硬盘上的数据,恢复到内存数据结构
这里下手的话,可以先从简单的kv存储入手,先搞懂sstable,之后过度到LSM。要知道rocksdb,leveldb,都是通过他们实现的,难度不大。
关于kv数据库究竟怎么玩,我这里举个例子,权当抛砖。
比如有记录:
name(pk) | age | sex |
Mario | 55 | f |
Luigi | 53 | f |
Peach | 28 | m |
在存储的时候分别存文件,name.db,age.db,sex.db。
name.db
key | value |
Mario | 1 |
Luigi | 1 |
Peach | 1 |
age.db
key | value |
Mario | 55 |
Luigi | 53 |
Peach | 28 |
sex.db
key | value |
Mario | f |
Luigi | f |
Peach | m |
如果我们碰到查询
SELECT name, age FROM roles WHERE name='Mario'
就知道要去name.db age.db中查找,然后merge就是最终结果了。
那碰到update,怎么办?比如把马里奥大叔的年龄修改成56了。那就在age.db再添加一条而无需先定位再修改。
key | value |
Mario | 55 |
Luigi | 53 |
Peach | 28 |
Mario | 56 |
请求是查询age.db中Mario的时候,只取最新的即可。
当删除马里奥大叔的请求来临的时候,只需要再插入主键表name.db一条,key=‘Mario’, value=0。
当你做了一个dsl,一个最简单的执行器,一个最简单的kv存储。其实一个数据库内核就做出来了。虽然从各种意义上,它可能不达标,但你脑子里的『大局观』已经成型了,有了这个大局观,你就可以带着问题去深入了解各个领域。
我再举个例子哈。
你这个kv存储并没有考虑异常断电的情况,也没有考虑多请求操作同一条记录同一个字段的一致性问题。你就会带着这个疑问去了解wal,锁机制,mvcc,甚至压缩,加密,可靠传输,乃至文件系统。数据库的存储跟操作系统的文件系统有些思想也是相通的,比如zfs就是db2的存储系统发展而来。这一块如果感兴趣可以看看《大话存储》和《文件系统技术内幕》。
你这个优化器也没有考虑,where age<60 and name='Mario'和where name='Mario' and age<60的区别,甚至有没有更加简便的路径。你就会去深入图论,带权路径搜索,代价评估。
然后是索引,在面对where age in (53,56,28)的时候怎么高效的获取?就要针对age做bitmap索引。在面对where age <60的时候呢?btree索引。
最上面的DSL层,主要使用了解析技术,属于编译原理的前端知识范畴,如果要兼顾解析性能和正确性,那难度也不小,通过生成工具来做,可能性能和内存使用量都达不到要求。手动解析里面又存在一些技巧,比如“记忆链”式解析,避免了回溯也降低了内存开销。这里的技巧可以看看《编程语言实现模式》。
你看,有了大局观之后,是不是豁然开朗?这不比上来就甩20本大部头的书和18种mooc的课程链接给你效率高么?
好了暂时就说这么多,想到哪再写到哪吧。我从事数据库开发也只有两年多。也不曾见识过数据库美景的全部。有偏颇的地方,希望各位斧正。