NineData如何连接OceanBase for Oracle?


OB君:本文来自6月27日庆涛在云和恩墨主办的DTC线上数据库技术实战峰会中的直播分享内容,主题为《从Oracle、MySQL到OceanBase:入门介绍》
概述OceanBase是阿里巴巴和蚂蚁金服完全自主研发的通用的分布式关系型数据库,定位为商用企业级数据库。OceanBase能提供金融级别的可靠性,目前主要应用用于金融行业,同时也适用于非金融行业场景。OceanBase目前主要有1.x和2.x两个版本序列。1.x版本兼容MySQL常用语法,2.x版本以兼容Oracle常用语法为目标。OceanBae支持多租户,即在一个OceanBase集群里会划分出多个租户(即实例),而租户的类型是兼容MySQL或者Oracle。业务方使用的只是租户(实例),是集群能力的一个子集。在使用体验上会感觉租户像MySQL或Oracle,但又不完全一样。OceanBase并不是在重造一个MySQL或Oracle,而只是在功能接口上兼容它们,在底层架构上,不管哪种租户都有分布式能力。所以,当业务开发和运维从Oracle/MySQL转到OceanBase后,需要了解一些OceanBase的原理和不同之处,本文主要就是对OceanBase跟Oracle/MySQL的相同之处和不同之处为读者做一个概要说明。OceanBase是什么?Oracle软件是多进程程序,启动后会开辟一块共享内存。Oracle部署形态有单实例、集群RAC、主备Dataguard。MySQL软件是单进程,进程名叫mysqld,有的还会有守护进程mysql_safe。MySQL的部署形态有单实例、主从单向同步或主主双向同步和MySQL Cluster(用的比较少)。OceanBase的软件是单进程,名字叫OBServer。OceanBase是分布式数据库,集群部署,通常每个机器(后面统一称为节点)上会启动一个OBServer进程,各个节点的OBServer进程组成一个集群运行。虽然应用可以直接访问任意一个节点的实例,但不推荐。通常是在OceanBase集群前面启动一个或多个反向代理OBProxy。OBProxy只负责数据路由和传输,不涉及到数据运算(如连接、统计、合并或排序等)。OBProxy的作用类似Oracle的监听程序,不同的是数据返回的时候也是从OBProxy回去。这个以后再专门详细介绍。对于业务而言,OBProxy就是数据库的代表,可用性也很重要。所以一般会部署多个OBProxy挂载负载均衡设备或软件下面以VIP形式对外提供服务。OBServer架构每个OBServer进程包含两个基本模块,一是SQL引擎,负责SQL解析、执行计划生成、SQL运算等;二是存储引擎,负责存取数据、合并冻结等。这两项功能实际上Oracle和MySQL都有,只是很少这么提。在OceanBase集群里,还需要一个总控服务rootservice,负责集群级别的一些任务调度。总控服务只需要存在某个节点上,所以是可选的。OBServer进程启动后发生什么?OBServer进程启动时,默认会将所在节点(即机器)的绝大部分资源据为己有。比如说内存,会占有80%左右,数据目录的空间,会占有90%左右,CPU,会保留2个给OS,其他全部声明为OB的。当然我们都知道,除了OS自身,谁也不能独占CPU。OBServer进程本质上也只是OS里的一个进程。所以对CPU的占有是声明式的。当然这里的比例都是参数指定的,保存在参数文件里,可以在启动命令行里修改参数。OBServer数据目录会有一个数据文件,默认大小是数据目录的90%。这个文件承载了这个节点所有的OB数据。所以OB里没有表空间文件、或者每个表一个文件这种提法。不过OB有事务日志文件,叫Commit Log,简称clog。还有Index log, Storage Log等。OBServer还有运行日志文件,方便排查问题。目前日志信息量非常大,主要是面向内核开发的。OceanBase集群要搭建一个OceanBase集群,至少需要3台机器。实际生产多是3的倍数。这些都是三副本架构的要求。机器会被等分为3份,每份划归一个Zone。Zone是逻辑划分,实际可以对应为机房、单个机房的包间或者单个包间里的机柜。OceanBase集群是无共享架构的,不依赖共享存储,不需要直连线。搭建方法请参考《从0到1手把手教你搭建高可用的OceanBase数据库集群》。当每个机器上都启动OBServer进程后,集群初始化成功后架构图就如下:每个OBServer节点都有一定的资源能力,组成集群后,所有资源就聚集为集群的能力,总共有270C 1800G 36T。OceanBase数据组织形式当业务数据很多时,并不一定会放在一个数据库下。会根据业务模块划分多个集合。在Oracle里,每个实例下会分多个schemas,通常schema就是用户。不同用户的数据逻辑上彼此隔离,除非明确授权,否则不能跨用户访问。在MySQL里,每个实例下会分多个databases,也有多个用户,不同用户可以访问不同的database,除非明确授权、否则不能访问其他用户的database。在OceanBase里,首先会有多个租户(实例))。租户与租户之间的数据是逻辑隔离的,彼此无法互通。租户的兼容模式有Oracle和MySQL两种(2选一)。兼容Oracle时,租户下面会分多个schemas,跟Oracle行为一致;兼容MySQL时,租户下面会分多个databases,跟MySQL行为一致。所以,有的人使用OceanBase会问支持多个数据库吗?当理解上面这个设计后,答案不言自明。OceanBase的原理OceanBase如何利用机器资源?数据库的性能好不好取决于内外两方面,内部因素就是内核产品自身能力,外部因素就是机器资源。传统Oracle/MySQL以单实例形态部署的时候,最大只能发挥一台机器的能力,使用主备架构或者集群部署的时候,倒是可以发挥多台主机能力。但是这种机器资源管理的粒度还是很粗。云数据库在机器资源管理上就好一些,能够根据客户需求定制特别规格的实例。云数据库本质上就是在卖机器资源,按资源规格付费。其中一种实现方案就是单机多实例部署。单机多实例部署的时候,内存资源各自是独占的,可以分。但是磁盘的IOPS能力和CPU能力通常是共享的。云数据库厂商的一种做法就是利用linux的cgroup对cpu和iops做资源隔离。现在流行的docker虚拟化技术更好一些,可以单机起多个docker,每个docker里一个mysql实例。当然这只是云厂商其中一个解决方案,更好的解决方案还有计算与存储分离,大量使用分布式存储产品。这是另外一个话题。在OceanBase里,前面我们看到了集群把所有机器资源聚合在一起,然后又按需求分配给多个租户。这个本身就是一种云数据库思想。所以OceanBase天然就适合云数据库,不过跟云数据库业务没有必然联系。OceanBase目前主要都是私有化部署,在物理机上部署。不建议部署在虚拟机上(规模小的时候虚拟化没有意义,只会带来性能损耗)。每个租户的资源是一个小的资源池(Resource Pool),是集群资源池的子集。租户的资源池由至少三个资源单元(Unit)组成。Unit存在于节点内部,不能跨节点存在。Unit在节点内的位置并不固定。同一个Zone内节点数如果大于等于2的话,Unit是可以在同一个Zone内部多个节点之间自由迁移。这是OceanBase负载均衡的第一个方法。OceanBase如何分配数据存储?跟Oracle一样,OceanBase使用表存储业务数据。OceanBase的表是索引组织表,有非分区表和分区表两种。非分区表只有一个分区,分区表有多个分区。分区就是表的子集。每个分区只能在租户的Unit内部创建,分区不能跨越Unit存在。当租户的资源池在每个Zone里有多个Unit时,分区创建时就有多个选择。并且分区也不会固定在某个Unit内部。每个分区会有三个副本,其中角色是1个Leader副本,2个Follower副本。默认只有Leader副本提供读写服务,哪个节点内部有Leader分区副本,哪个节点就可能会有访问。分区可以在同一个Zone的多个Unit之间自由迁移,这就是OceanBase负载均衡的第二个方法。上图中 t3 和 t4 业务上关联非常密切(有表连接逻辑),二者分区策略完全一样,可以放到一个表分组(tablegroup)里,这样两个表的同号分区以及Leader就被约束在同一个Unit内部。当 t3 和 t4 做表连接时,可以规避跨节点请求。OceanBase的多副本原理多副本是一种数据冗余技术,在Oracle/MySQL里也有,只是不常这么提。Oracle的主备架构Dataguard可以说是两副本。Oracle多副本之间内容同步是靠主库传输Redo给多个备库,然后备库应用该Redo。在同步Redo的方式上Oracle就有多种策略。最大保护、最大可用、最大性能。其中最大保护最安全,主库事务提交会等一个备库Redo落盘成功,所以Redo有保障了,可以保证主备强一致。缺点是性能不是最好,并且如果备库都不可用的时候,主库也拒绝服务了。所以通常建议一主两备。这时候也是三副本形态。还有个问题是主库不可用的时候,需要DBA做主备切换,DBA必须能正确选择出拥有全部Redo的那个备库。MySQL的主从复制架构也可以说是两副本,副本之间内容同步靠从库拉取主库的Binlog以及应用Binlog。Binlog里面是SQL,是逻辑同步,这个跟Redo比不了。不过MySQL还是尽力的保证Binlog可靠性,所以就推出半同步(Semi-Sync)技术,主库的事务提交也会等待备库的Binlog接收确认(不一定是落盘确认),如果等待超时主库就降级为异步同步(完全不等待备库确认了)。所以通常也建议使用半同步时配置一主两从。同样主故障时,也需要DBA手动激活从库,需要选择拥有全部Binlog的从库。OceanBase至少三副本,副本之间使用Paxos协议同步Leader副本的Redo到Follower副本。策略是三个成员里只要有超过半数以上成员接收Redo并落盘成功确认后,Leader副本上的事务即可提交。在Leader出现故障时,只要还有多数成员存活,OceanBase就会从中选出新的Leader,并且确保这个新Leader拥有全部的Redo。所以OB的三副本是保证绝对不丢数据,自动故障切换两个能力。这点跟Oracle/MySQL的三副本有很大区别。在上面描述多副本原理过程中也提到了高可用。这里就多说一点。Oracle/MySQL的主备切换的粒度是实例维度,而OceanBase里的故障切换的粒度是分区。每个分区的三副本是一个独立的Paxos Group,可以自行独立选主。一个节点故障时,也只有节点内部为Leader的副本服务会中断,并自动选出新的Leader。这是OceanBase跟Oracle/MySQL相比最大的区别。OceanBase的开发锁、事务和超时机制OceanBase的租户兼容MySQL或Oracle,常用的数据类型和语法都还支持。这点使用没什么问题。需要注意的是在锁和事务方面。OceanBase的锁是行锁,也有表锁,但是没有锁升级策略。OceanBase的事务都有版本号,类似于Oracle的SCN,读默认是快照读,不阻塞写。OceanBase的事务隔离级别目前只支持读已提交(RC)。如果要规避不可重复读问题,则需要在读上加锁(支持SELECT ... FOR UPDATE)。在租户内,如果事务修改的分区跨越节点了,就是分布式事务,OceanBase目前也是支持的,原理是两阶段提交,强一致。业务感知不到也不需要知道这个是分布式事务。如果业务事务跨越了租户边界,则这种分布式事务需要借助于分布式事务中间件产品解决。OceanBase针对慢SQL有个超时机制,以防止慢SQL占用数据库资源,默认时间是10秒。慢SQL不仅包括查询慢的SQL,还包括SQL自身性能没问题但是被阻塞的DML SQL。在MySQL里对于锁等待也有超时机制,对于慢SQL也有强制中断机制(默认没有启用)。OceanBase对于长事务(长时间不提交)采取的是强制超时机制,默认时间是100秒。由于OceanBase没有UNDO,并且事务未提交之前,Redo都在内存里,所以大事务会占用一定内存资源。这两个超时参数都可以调整。调整为很大时效果就等同于不干预,跟Oracle/MySQL就一致了。我们并不建议简单调大。慢SQL和长事务是业务设计问题,需要业务层面尽可能的解决。SQL调优OceanBase的SQL执行设计参照了Oracle的设计,有硬解析、软解析,有执行计划缓存。执行计划目前也很丰富,连接算法有嵌套循环、哈希、归并连接、半连接(semi-join)、anti-jon。支持左连接或右连接,子查询等,支持SQL改写等等。这块以后再详细总结。查看执行计划的命令是explain,这点跟MySQL保持一致(简洁)。OceanBase提供一序列内部视图(gv$视图或v$视图)用于诊断性能。这点跟Oracle的性能视图比较类似。同时OceanBase还有一个视图gv$sql_audit拥有集群执行过的全部SQL,无论SQL是否成功还是失败。从中可以查看SQL的执行时间、节点、执行计划类型、报错代码、执行时间、等待时间、读取块数、返回行数、影响行数等等。更值得一提的是OceanBase也实现了Oracle的Outline功能,能在线干预执行计划。如调整连接算法、顺序或者索引等。对于那些不可调整的慢SQL,为了消除它的影响,Outline支持对该慢SQL做限流处理。如强制串行执行等。用户问题解答以下是直播过程中对用户问题的精选和解答:Q1:分区的leader承担读写,follow只是用来容灾吗?A:默认是这样的,至少要三副本才可以提供自动故障切换并且不丢数据的能力。如果业务可以接受延时,也可以读取follower副本以实现读写分离效果。Q2:咱们有OceanBase的培训教材和推荐书籍吗?A:以下是OceanBase的官方学习资料:1)官方文档:https://tech.antfin.com/products/OCEANBASE;2)官方微信公众号:OceanBase;3)官方微博:https://www.weibo.com/u/2356115944。如果是对OceanBase分布数据库的原理感兴趣的,可以看OceanBase初始团队成员之一的杨传辉(花名:日照)的著作《大规模分布式存储系统:原理解析与架构实战》。本书介绍了OceanBase早期设计的很多原理,关于数据读写架构、复制的强一致相关的原理在后续新版本里还是适用的。Q3:分区的标准是什么?A:是的。分区是水平拆分其中的一种方法,要基于业务场景考虑。详细分析请查看《如何挑选最适合业务的数据水平拆分方案?看蚂蚁金服分布式数据库的最佳实践!》。Q4:增加节点实现硬件扩容,需要重启整个集群吗?如何把新加入的硬件资源添加到整个集群?A:不需要。OceanBase的扩容有集群扩容和租户扩容两种,都是在线进行,对业务无影响。详情请查看《揭秘OceanBase的弹性伸缩和负载均衡原理》。Q5:节点数改变,数据是如何进行数据重分布?A:节点数改变后,资源单元Unit会在节点间发生迁移,节点内的数据自然也就重新分布了。这个是在线自动负载均衡机制。详情请查看《揭秘OceanBase的弹性伸缩和负载均衡原理》。Q6:和mycat相比,应用需要单独开发的地方多吗?A:和mycat相比,相同的地方都是应用需要选择拆分维度,核心高并发SQL尽可能带上拆分键。不同的是应用不需要关注数据重分布、分布式事务、扩容缩容等。Q7:SQL超时后,所说的应用回滚是指应用要捕获这个超时,然后做补偿是吗?A:应用需要捕获数据库异常,然后自行决定处理逻辑(提交还是回滚)。● 从0到1手把手教你搭建高可用的OceanBase数据库集群● 如何挑选最适合业务的数据水平拆分方案?看蚂蚁金服分布式数据库的最佳实践!● 一文详解 OceanBase 并行执行引擎实现● 十年磨一剑!OceanBase查询优化器的设计之道和工程实践哲学● 100%自主知识产权!蚂蚁金服自研数据库OceanBase的设计与实践哲学Tips:想要查看本次直播回放,你可以关注OceanBase公众号回复关键词“0702”获取回放链接。}

提示:本文介绍了如何使用Jmeter连接OceanBase数据库进行接口测试
前言OceanBase 数据库是一个分布式的数据库,管理着的许多台 OBServer 作为一个 OBServer 集群为多个租户提供数据服务。 OceaBase 集群管控的所有 OBServer 可以被视作一个超级大的“资源蛋糕”,在分配资源时,按需分配给创建租户时申请的资源。 为了保证 OBServer 集群顺畅运行,还会在初始化(BootStrap)时创建出系统租户,并分配给系统租户少量资源保证内部运行。一、使用步骤1.下载数据库驱动1.使用JMeter连接OceanBase的时候需要加载OceanBase的Java驱动 ,可以自行去官网下载,也可以通过以下方式获取。链接:https://pan.baidu.com/s/1W7IMM_DPOL6-VG5M9gFxHA?pwd=abcd
提取码:abcd
2.把下载好的jar包放到Jmeter的lib文件夹下。2.JDBC配置Max Number of Connections: 这个指连接池里最多多少个连接。如果压测线程数远高于这个值,那么压测线程可能会需要等待这个连接池创建或返还数据库连接(即到OceanBase的连接)给它。如果等不到可能会报错。在这个环节,客户端压测线程拿不到连接,不一定跟OceanBase数据库有直接关系。在Java应用里面也同理。Transaction Isolation: 这个是数据库连接使用的事务隔离级别,OceanBase支持两种事务隔离级别:读已提交(Read-Committed)和序列化(Serializable)。Test While Idle: 这个是连接探活(keepalive)设置。这个设置对应用却很优必要。有时候应用会说数据库连接报错说在一个关闭的连接上执行SQL报错,这个就是因为连接池中的数据库连接因为其他原因已断开了。所以,数据库连接池通常都需要探活机制。这里由于是压测场景基本无闲置连接,所以可以设置为False。Database URL: 数据库连接URL格式,这个不同的数据库URL不一样OceanBase格式jdbc:oceanbase://ip:port/实例名
mysql格式jdbc:mysql://ip:port/实例名
oracle格式jdbc:oracle:thin:@ip:port/实例名
JDBC Driver Class:数据库驱动中的Main类名,这个不同的数据库驱动不一样OceanBase格式com.alipay.oceanbase.obproxy.mysql.jdbc.Driver
mysql格式com.mysql.jdbc.Driver
oracle格式oracle.jdbc.OracleDriver
Username: 用户名,OceanBase的用户名格式比较特别,是租户里的 数据库用户名@租户名,例如:tpc@obbmsql
// tpc 租户里的用户名(就是数据库用户名) obbmsql租户
Password :跟普通的数据库一样,没有特别之处总结OceanBase数据库的JDBC配置主要是Database URL、JDBC Driver class、Username这三个配置项,配置对后就可以直接连接,后续sql请求跟普通的数据库一样。希望对你有所帮助!}

我要回帖

更多关于 navicat如何连接oracle数据库 的文章

更多推荐

版权声明:文章内容来源于网络,版权归原作者所有,如有侵权请点击这里与我们联系,我们将及时删除。

点击添加站长微信