TiDB

兼容MySQL协议的分布式NewSQL数据库

TiDB是一個開源的NewSQL資料庫,支援混合事務和分析處理(HTAP)工作負載[3]。它與MySQL相容,並且可以提供水平可延伸性、強一致性和高可用性。它主要由PingCAP公司開發和支援,並在Apache 2.0下授權。TiDB從Google的Spanner[4]和F1[5]論文中汲取了最初的設計靈感。[6]

TiDB
開發者北京平凱星辰科技發展有限公司(PingCAP)
首次發布2017年10月15日,​7年前​(2017-10-15[1]
目前版本8.4.0[2]在維基數據編輯(2024年11月11日,32天前)
原始碼庫 編輯維基數據鏈結
程式語言Go (TiDB), Rust (TiKV)
語言英文、中文
類型NewSQL
許可協定Apache 2.0
網站pingcap.co.jp/tidb-overview/ 編輯維基數據

TiDB被InfoWorld 2018 Bossie Award評選為最佳資料儲存和分析開源軟體之一。[7]

歷史

編輯

PingCAP Inc.是一家軟體公司,成立於2015年4月,成立後便開始開發TiDB。該公司是TiDB及其關聯的開源社群的主要開發人員,維護人員和驅動者。[8]

主要特性

編輯

水平可延伸性

編輯

TiDB可以通過添加新節點來擴充SQL處理和儲存容量。這使得基礎設施容量的擴充更加容易和靈活,而傳統的關聯式資料庫只能垂直擴充。

MySQL相容性

編輯

對於應用程式來說,TiDB的行為就如同一個MySQL 5.7伺服器。使用者可以繼續使用所有現有的MySQL客戶端庫。因為TiDB的SQL處理層是從頭開始構建的,而不是一個MySQL分支,所以它的相容性不是100%,[9]而且MySQL和TiDB之間存在已知的行為差異。[10]

具有強一致性的分散式事務

編輯

TiDB在內部基於範圍將表分片為的小塊,這些塊稱為「區域」。[11]每個區域的預設大小約為100 MB,TiDB在內部使用二階段提交來確保區域以事務上一致的方式進行維護。

雲原生

編輯

為了使部署、組態、操作和維護更加靈活,TiDB被設計成可在雲中工作。TiDB的儲存層稱為TiKV,於2018年8月成為雲原生計算基金會的沙盒級別專案。[12]TiDB平台的體系結構還允許分別獨立擴充SQL處理和儲存。

更精簡的ETL流程

編輯

TiDB可以支援連線事務處理(OLTP)和連線分析處理(OLAP)工作負載。這意味著,雖然使用者可能傳統上在MySQL上進行交易,然後將資料抽取、轉換和載入(ETL)到一個列儲存中進行分析處理,但這一步驟不再需要。

高可用性

編輯

TiDB使用Raft一致性演算法[13]確保資料在整個Raft組的儲存程序中高度可用和安全複製。在發生故障時,Raft組將自動為失敗的成員選擇一個新的領導者,並自我修復TiDB叢集,而不需要任何必要的人工干預。失敗和自愈操作對應用程式是透明的。

部署方法

編輯

Kubernetes Operator

編輯

可以使用TiDB Operator將TiDB部署到支援Kubernetes的雲環境中。[14]Operator是打包、部署和管理Kubernetes應用程式的方法。它是為執行有狀態工作負載而設計的,最早由CoreOS在2016年引入。[15]TiDB Operator[16]最初由PingCAP開發,並於2018年8月開源。[17]TiDB Operator可以用於在筆記型電腦[18]、Google Cloud Platform的Google Kubernetes引擎[19]和Amazon Web Services的Kubernetes彈性容器服務上部署TiDB。[20]

Ansible

編輯

通過使用TiDB-Ansible playbook,可以使用Ansible (軟體)部署TiDB。[21]

Docker

編輯

可以使用Docker在多個節點和多台機器上的容器化環境中部署TiDB,而Docker Compose可以使用單個命令部署TiDB以進行測試。[22]

工具

編輯

TiDB提供了一系列開源工具來幫助現有MySQLMariaDB使用者進行資料複製和遷移。

Syncer與Data Migration

編輯

Syncer是一個工具,它支援從MySQL或MariaDB實例到TiDB叢集的完整資料遷移或增量資料複製。[23]Data Migration(DM)是 Syncer的第二代迭代,它適合將已分片的MySQL或MariaDB表中的資料複製到TiDB。[24]Syncer/DM的一個常見用例是將MySQL或MariaDB表連接到TiDB,幾乎將TiDB視為從屬,然後在該TiDB叢集上直接即時執行分析工作負載。

Lightning

編輯

Lightning是一個可將大型MySQL轉儲高速完全匯入到新的TiDB群集中的工具,它提供了比執行每個SQL語句更快的匯入體驗。該工具用於把大量資料快速填充到一個最初為空的TiDB叢集,以便加快測試或生產遷移。之所以能提升匯入速度,是因為TiDB通過將SQL語句解析為鍵值對,然後直接生成有序字串表(SSTable)檔案到RocksDB[25]

TiDB-Binlog

編輯

TiDB-Binlog是一個用於收集對TiDB叢集所做邏輯更改的工具。它用於在兩個TiDB叢集之間或從一個TiDB叢集到另一個下游平台之間提供增量備份和複製。

它的功能類似於MySQL主從複製。主要的區別在於,由於TiDB是一個分散式資料庫檔案管理器,因此每個TiDB實例生成的binlog需要在被下游使用之前,根據事務提交的時間進行合併和排序。[26]

使用者案例

編輯

目前,已有近3000家公司在使用 TiDB,其中包括Mastercard、AirBNB、Square、Paypay、中國銀行、建設銀行、美團、Bilibili、Shopee[27]、BookMyShow[28]、小米[29]、知乎[30]、美團點評[31]、愛奇藝[32], 轉轉[33]、摩拜[34]、易果[35],以及猿輔導[36]


參考文獻

編輯
  1. ^ 1.0 GA release notes. 
  2. ^ 2.0 2.1 Release 8.4.0. 2024年11月11日 [2024年12月1日]. 
  3. ^ How TiDB combines OLTP and OLAP in a distributed database. [2019-12-07]. (原始內容存檔於2019-05-02). 
  4. ^ Spanner: Google's Globally-Distributed Database. [2019-12-07]. (原始內容存檔於2018-12-30). 
  5. ^ F1: A Distributed SQL Database That Scales. [2019-12-07]. (原始內容存檔於2019-12-02). 
  6. ^ TiDB Brings Distributed Scalability to SQL. [2019-12-07]. (原始內容存檔於2019-05-02). 
  7. ^ The best open source software for data storage and analytics. [2019-12-07]. (原始內容存檔於2019-09-02). 
  8. ^ TiDB developer PingCAP wants to expand in North America after raising $50M Series C. [2019-12-07]. (原始內容存檔於2019-05-02). 
  9. ^ Compatibility with MySQL. [2019-12-07]. (原始內容存檔於2019-05-02). 
  10. ^ Meet TiDB: An open source NewSQL database. [2019-12-07]. (原始內容存檔於2019-07-31). 
  11. ^ TiKV Architecture. [2019-12-07]. (原始內容存檔於2019-05-02). 
  12. ^ CNCF to Host TiKV in the Sandbox. [2019-12-07]. (原始內容存檔於2019-09-03). 
  13. ^ The Raft Consensus Algorithm. [2019-12-07]. (原始內容存檔於2018-01-20). 
  14. ^ Database Operators Bring Stateful Workloads to Kubernetes. [2019-12-07]. (原始內容存檔於2019-12-29). 
  15. ^ Introducing Operators: Putting Operational Knowledge into Software. [2019-12-07]. (原始內容存檔於2019-11-25). 
  16. ^ TiDB Operator GitHub repo. [2019-12-07]. (原始內容存檔於2019-07-16). 
  17. ^ Introducing the Kubernetes Operator for TiDB. [2019-12-07]. (原始內容存檔於2019-05-02). 
  18. ^ Deploy TiDB to Kubernetes on Your Laptop. [2019-12-07]. (原始內容存檔於2018-08-17). 
  19. ^ Deploy TiDB, a distributed MySQL compatible database, to Kubernetes on Google Cloud. 
  20. ^ Deploy TiDB, a distributed MySQL compatible database, on Kubernetes via AWS EKS. 
  21. ^ Ansible Playbook for TiDB. [2019-12-07]. (原始內容存檔於2020-08-25). 
  22. ^ How to Spin Up an HTAP Database in 5 Minutes With TiDB + TiSpark. [2019-12-07]. (原始內容存檔於2019-05-02). 
  23. ^ Syncer User Guide. [2019-12-07]. (原始內容存檔於2019-11-21). 
  24. ^ DM GitHub Repo. [2019-12-07]. (原始內容存檔於2020-08-25). 
  25. ^ Introducing TiDB Lightning. [2019-12-07]. (原始內容存檔於2019-05-08). 
  26. ^ TiDB-Binlog Architecture Evolution and Implementation Principles. [2019-12-07]. (原始內容存檔於2019-06-16). 
  27. ^ Shopping on Shopee, the TiDB Way - TiDB. pingcap.com. [2019-12-07]. (原始內容存檔於2019-11-06). 
  28. ^ BookMyShow.com: More Uptime, 30% Less Operational Cost with TiDB - TiDB. pingcap.com. [2019-12-07]. (原始內容存檔於2019-11-06). 
  29. ^ Powering the Xiaomi Mobile Lifestyle with TiDB - TiDB. pingcap.com. [2019-12-07]. (原始內容存檔於2019-11-06). 
  30. ^ Lesson Learned from Queries over 1.3 Trillion Rows of Data Within Milliseconds of Response Time at Zhihu.com - TiDB. pingcap.com. [2019-12-07]. (原始內容存檔於2019-11-06). 
  31. ^ TiDB, the Key to a Better Life for Meituan-Dianping’s 290 Million Monthly Users - TiDB. pingcap.com. [2019-12-07]. (原始內容存檔於2019-11-21). 
  32. ^ Always Fun, Always On: How TiDB Helps iQiyi Deliver Streaming Videos - TiDB. pingcap.com. [2019-12-07]. (原始內容存檔於2019-11-06). 
  33. ^ Managing the Surging Data Volume of a Fast-Growing Marketplace with TiDB - TiDB. pingcap.com. [2019-12-07]. (原始內容存檔於2019-11-06). 
  34. ^ Blitzscaling the Largest Dockless Bikesharing Platform with TiDB’s Help - TiDB. pingcap.com. [2019-12-07]. (原始內容存檔於2019-05-02). 
  35. ^ States, Austin TX United. The Hybrid Database Capturing Perishable Insights at Yiguo. Datanami. 2018-02-22 [2019-12-07]. (原始內容存檔於2019-11-06). 
  36. ^ How TiDB tackles fast data growth and complex queries for yuanfudao.com - TiDB. pingcap.com. [2019-12-07]. (原始內容存檔於2019-11-06).