一、关于NoSQL的项目需求
这些年在做AgileEAS.NET SOA 中间件平台的推广、技术咨询服务过程之中,特别是针对我们最熟悉的医疗行业应用之中,针对大数据分析,大并发性能的需求,我们也在慢慢的引用NoSQL技术来满足数据分析与性能等多方面的需要,也进一步完善我们的SOA基石架构风格:
在早些年,对NoSQL不是很了解这前,后端数据存储都是存储的单一的关系数据库之上,但是在很多时间,这并不是最优的,比如在医疗用户之中针对一个病人的相关数据展示,及相关性分析,关于数据库就不是最优的,另外一个,电子病历系统的之中的结构化/半结构化病历文档的存储、检索,以及更高级的应用,结构化病历数据挖掘,之前使用关系数据库存储或者使用文件存储,很难发挥病历数据的科研和统计、分析需求。
在目前我们的医疗信息化应用之中,我们针对这两部分数据都引入了NoSQL存储,针对住院患者的领域相关性数据==》即病人聚合根对象相关数据,我们即在关系数据库以多表存储病人数据以及病人相关的医嘱、费用、检验、检查、护理等相关信息,同时我们也在NoSQL数据库存储患者的聚合根对象:
在NoSQL数据库之中的存储:
另外在电子病历应用之中,病历文档也是直接存入NoSQL之中。
在接触巨杉数据库之前,我们一直使用MongoDB这款NoSQL产品,这是一款广为人知的NoSQL产品,使用者众多,C#的驱动也非常完善,案例也比比皆时。
三、关于巨杉(sequoiadb)数据库
巨杉数据库是国人开发的一款企业级NoSQL数据库,目前已开源,官网http://www.sequoiadb.com/。 初次了解到巨杉(sequoiadb)数据还是源于一个客户,因为我们项目一直使用MongoDB,客户就向我们提到巨杉(sequoiadb)数据库,说国内有人开发了这么一个NoSQL数据库,并且在平安银行有过成功应用,并且因为是国人开发,所以应该相比较MongoDB,应该能得到官方的支持,客户也和巨杉(sequoiadb)官方的人有过接触,官方也答应可以做一些支持。
根据网上所公开的一些信息,巨杉(sequoiadb)数据库和MongoDB非常的接近,都是文档型数据库,同样的设计思路,集合和文档,同样的文档格式,Json/Bson。 根据最近一段时间的了解和完善C#驱动的过程来说,相对MongoDB,巨杉(sequoiadb)提供了更加方便的图形化部署和简单的Web管理界面:
以下是SequoiaDB与MongoDB及其他NoSQL数据的功能对比:
比较特别是的SequoiaDB支持事务和SQL语法,当然了,这两点在目前情况下我们都使用使用过。
四、关于SequoiaDB的C#驱动
SequoiaDB官方提供C、C 、JAVA、C#、php、Python驱动以及REST架构风格的接口,据官方的说法是Java的驱动很成熟,但是C#的驱动很简单,只能支持最基本的Bson格式的接口,如下代码:
代码语言:javascript复制// Insert
BsonDocument insertor = new BsonDocument();
insertor.Add("Last Name", "Lin");
insertor.Add("First Name", "Hetiu");
insertor.Add("Address", "SYSU");
BsonDocument sInsertor = new BsonDocument();
sInsertor.Add("Phone", "10086");
sInsertor.Add("EMail", "hetiu@yahoo.com.cn");
insertor.Add("Contact", sInsertor);
ObjectId insertID = (ObjectId)coll.Insert(insertor);
Assert.IsNotNull(insertID);
// Update
DBQuery query = new DBQuery();
BsonDocument updater = new BsonDocument();
BsonDocument matcher = new BsonDocument();
BsonDocument modifier = new BsonDocument();
updater.Add("Age", 25);
modifier.Add("$set", updater);
matcher.Add("First Name", "Hetiu");
query.Matcher = matcher;
query.Modifier = modifier;
coll.Update(query);
// Query
DBCursor cursor = coll.Query(query);
Assert.IsNotNull(cursor);
BsonDocument bson = cursor.Next();
Assert.IsNotNull(bson);
Assert.IsTrue(bson["First Name"].AsString.Equals("Hetiu"));
Assert.IsTrue(bson["Age"].AsInt32.Equals(25));
// Delete
BsonDocument drop = new BsonDocument();
drop.Add("Last Name", "Lin");
coll.Delete(drop);
query.Matcher = drop;
cursor = coll.Query(query);
Assert.IsNotNull(cursor);
bson = cursor.Next();
Assert.IsNull(bson);
集合查询:
代码语言:javascript复制for (int i = 0; i < 10; i)
{
string date = DateTime.Now.ToString();
BsonDocument insertor = new BsonDocument();
insertor.Add("operation", "Query");
insertor.Add("date", date);
coll.Insert(insertor);
}
BsonDocument matcher = new BsonDocument();
DBQuery query = new DBQuery();
matcher.Add("operation", "Query");
query.Matcher = matcher;
query.ReturnRowsCount = 5;
query.SkipRowsCount = 5;
DBCursor cursor = coll.Query(query);
Assert.IsNotNull(cursor);
int count = 0;
while (cursor.Next() != null)
{
count;
BsonDocument bson = cursor.Current();
Assert.IsNotNull(bson);
}
Assert.IsTrue(count == 5);
官方的代码有点简单,这不符合我们写代码的风格,目前业务系统大量的使用对象操作和Linq处理,原始的Bson接口,这个不科学。
五、完善改造SequoiaDB的C#驱动
即然官方的驱动太简单,不支持对象处理,也不支持Linq,很不科学,那么应该怎么办呢,其实第一个观点当然是放弃,我们原本使用MongoDB跑的好好的,为什么要给自己找事呢,但是出于项目运维的观点,以及支持国人产品的想法,最终决定自己完善和写一个。
那么如何来写呢,当然是他山之石,可以攻玉,因为之前做MongoDB开发,原始的驱动配置我们的ORM跑起来也有一些问题,最早我们使用的非MongoDB的官方驱动,而是第三方驱动samus,不支持Decimal类型,但是我们项目之中有大量的Decimal类型,那么办呢,修改驱动,后来我们又换成了MongoDB的官方驱动,因为XmlIgnore标签和Id映射的问题也认真的读过MongoDB的官方驱动,对MongoDB的C#驱动比较熟悉。
所以完善SequoiaDB的C#的思路就变成了结合SequoiaDB的原始驱动和MongoDB的官方驱动,提供一个类似于MongoDB驱动的操作风格的驱动,在SequoiaDB驱动的基础上提供了,直接操作C#对象的方案和支持Linq进行查询、修改、删除的功能。
经本人完善修改之后的驱动的操作风格如下:
代码语言:javascript复制Sequoiadb sdb = new Sequoiadb("192.168.23.57:50000");
sdb.Connect("", "");
//求集合空间。
var cs = sdb.GetCollecitonSpace("dbo");
//求集合。
var coll = cs.GetCollection<HFareDetail>();
//执行数据插入。
List<HFareDetail> vList =null;
using (AgileHIS.Entities.DbEntities db = new AgileHIS.Entities.DbEntities())
{
vList = db.HFareDetails.ToList();
//插入。
foreach (var item in vList)
{
coll.Insert(item);
}
System.Console.WriteLine(string.Format("insert {0} records", vList.Count));
System.Console.ReadLine();
}
//按条件修改某一条数据的几个属性值。
var v1 = vList.FirstOrDefault();
v1.Name = string.Empty;
v1.Cash = decimal.Zero;
coll.Update(v1, p => p.ID == v1.ID);
//按条件指量修改,指定某几个必,其他属性全部置空。
coll.Update(p => new HFareDetail { Cash = decimal.Zero, Name = string.Empty, Price = decimal.Zero }, p => p.ChargeTime >DateTime.Now.AddDays(-1));
//依据条件删除
coll.Delete(p => p.ChargeTime > DateTime.Now.AddDays(-1));
//求Count
int count = coll.AsQueryable<HFareDetail>()
.Where(p => p.SourceID==0)
.Count();
//Linq查询TakeSkip。
var vList2 = coll.AsQueryable<HFareDetail>()
.Where(p => p.CreateTime > DateTime.Now.Date.AddMonths(-12))
.Skip(10).Take(1000)
.ToList();
System.Console.WriteLine(string.Format("query {0} records", vList.Count));
//Linq查询过。
var vFare = coll.AsQueryable<HFareDetail>()
.Where(p => p.CreateTime > DateTime.Now.Date.AddMonths(-12))
.FirstOrDefault();
System.Console.WriteLine(vFare);
//Linq聚合运算,目前因为测试驱动报错,暂未实现
var sum = coll.AsQueryable<HFareDetail>()
.Where(p => p.CreateTime > DateTime.Now.Date.AddMonths(-12))
.Sum(p => p.Cash);
System.Console.ReadLine();
看看,代码是不是很清爽,很方便了呢,没有了bson,只有对象,Linq。
六、SequoiaDB、MongoDB与AgileEAS.NET SOA整合
AgileEAS.NET SOA之前只支持MongoDB,最近要支持SequoiaDB,我们就得考虑对原有代码的兼容,或者说,更希望自己的医疗系统能够在业务上同时支持MongoDB和SequoiaDB,达到使用环境之中不管是选择MongoDB还是选择SequoiaDB都是同样的代码,为此,我们在AgileEAS.NET SOA中间件之中定义了一个IStructDbProvider接口:
代码语言:javascript复制using System;
using System.Collections.Generic;
using System.Linq.Expressions;
namespace EAS.Data
{
/// <summary>
/// 结构化数据库提供者接口定义。
/// </summary>
/// <remarks>
/// 为AgileEAS.NET SOA 中间件NoSQL数据访问提供标准接口定义。
/// </remarks>
public interface IStructDbProvider
{
/// <summary>
/// 打开连接。
/// </summary>
void Connect();
/// <summary>
/// 关闭连接。
/// </summary>
void Close();
/// <summary>
/// 连接是否打开。
/// </summary>
bool IsOpen { get; }
/// <summary>
/// 对象插入。
/// </summary>
/// <typeparam name="T">对象类型。</typeparam>
/// <param name="item">对象实例。</param>
void Insert<T>(T item) where T : class;
/// <summary>
/// 对象批量插入。
/// </summary>
/// <typeparam name="T">对象类型。</typeparam>
/// <param name="items">对象实例。</param>
void InsertBatch<T>(System.Collections.Generic.IEnumerable<T> items) where T : class;
/// <summary>
/// 根据条件执行更新操作。
/// </summary>
/// <typeparam name="T">对象类型。</typeparam>
/// <param name="updater">更新表达式。</param>
/// <param name="func">查询条件。</param>
void Update<T>(Expression<Func<T, T>> updater, Expression<Func<T, bool>> func) where T : class;
/// <summary>
/// 根据条件执行更新操作。
/// </summary>
/// <typeparam name="T">对象类型。</typeparam>
/// <param name="item">更新对象。</param>
/// <param name="func">查询条件。</param>
void Update<T>(T item, System.Linq.Expressions.Expression<Func<T, bool>> func) where T : class;
/// <summary>
/// 根据条件删除对象。
/// </summary>
/// <typeparam name="T">对象类型。</typeparam>
/// <param name="func">条件表达式。</param>
void Delete<T>(Expression<Func<T, bool>> func) where T : class;
/// <summary>
/// 求出Linq查询表达式。
/// </summary>
/// <typeparam name="T">对象类型。</typeparam>
/// <returns>对象表达式包装。</returns>
IQueryableWarp<T> Linq<T>() where T : class;
/// <summary>
/// 根据条件查询数制。
/// </summary>
/// <typeparam name="T">对象类型。</typeparam>
/// <param name="where">条件。</param>
/// <param name="skip">跳过记录数。</param>
/// <param name="take">取记录数。</param>
/// <returns>查询结构。</returns>
List<T> List<T>(Expression<Func<T, bool>> where, int skip, int take) where T : class;
/// <summary>
/// 根据条件求单条记录。
/// </summary>
/// <typeparam name="T">对象类型。</typeparam>
/// <param name="where">条件。</param>
/// <returns>对象实例。</returns>
T Single<T>(Expression<Func<T, bool>> where) where T : class;
}
}
IStructDbProvider字面意思即为结构化数据访问提供者接口,本接口定义在EAS.MicroKernel.dll程序集之中,AgileEAS.NET SOA中间件同时提供了针对SequoiaDB和MongoDB数据库的IStructDbProvider实现,EAS.Data.MongoDbProvider和EAS.Data.SequoiaDbProvider,这两个实现类定义在EAS.Data.NoSQL.dll程序集之中。
因为统计使用了IStructDbProvider接口,我们针对SequoiaDB和MongoDB的操作处理就统计成了如下代码:
代码语言:javascript复制var vContainer = EAS.Context.ContextHelper.GetContext().Container;
var dbProvider = vContainer.GetComponentInstance("StructDbProvider") as IStructDbProvider;
//执行数据插入。
List<HFareDetail> vList = null;
using (AgileHIS.Entities.DbEntities db = new AgileHIS.Entities.DbEntities())
{
vList = db.HFareDetails.ToList();
//插入。
foreach (var item in vList)
{
dbProvider.Insert<HFareDetail>(item);
}
System.Console.WriteLine(string.Format("insert {0} records", vList.Count));
System.Console.ReadLine();
}
//按条件修改某一条数据的几个属性值。
var v1 = vList.FirstOrDefault();
v1.Name = string.Empty;
v1.Cash = decimal.Zero;
dbProvider.Update<HFareDetail>(v1, p => p.ID == v1.ID);
//按条件指量修改,指定某几个必,其他属性全部置空。
dbProvider.Update<HFareDetail>(p => new HFareDetail { Cash = decimal.Zero, Name = string.Empty, Price = decimal.Zero }, p => p.ChargeTime > DateTime.Now.AddDays(-1));
//依据条件删除
dbProvider.Delete<HFareDetail>(p => p.ChargeTime > DateTime.Now.AddDays(-1));
//求Count
using (var queryWarp = dbProvider.Linq<HFareDetail>())
{
int count = queryWarp.Queryable
.Where(p => p.SourceID == 0)
.Count();
//Linq查询TakeSkip。
var vList2 = queryWarp.Queryable
.Where(p => p.CreateTime > DateTime.Now.Date.AddMonths(-12))
.Skip(10).Take(1000)
.ToList();
System.Console.WriteLine(string.Format("query {0} records", vList.Count));
//Linq查询过。
var vFare = queryWarp.Queryable
.Where(p => p.CreateTime > DateTime.Now.Date.AddMonths(-12))
.FirstOrDefault();
System.Console.WriteLine(vFare);
//Linq聚合运算,目前因为测试驱动报错,暂未实现
var sum = queryWarp.Queryable
.Where(p => p.CreateTime > DateTime.Now.Date.AddMonths(-12))
.Sum(p => p.Cash);
}
System.Console.ReadLine();
具体是使用SequoiaDB还是使用MongoDB由系统配置文件来决定,使用SequoiaDB:
代码语言:javascript复制<!--StructDb/SequoiaDb-->
<object name="StructDbProvider" assembly="EAS.Data.NoSQL" type="EAS.Data.SequoiaDbProvider" LifestyleType="Thread">
<property name="ConnectionString" type="string" value="192.168.23.57:50000"/>
<property name="UserName" type="string" value=""/>
<property name="Password" type="string" value=""/>
<property name="CollectionSpace" type="string" value="his"/>
</object>
使用MongoDB。
代码语言:javascript复制<!--StructDb/MongoDb-->
<object name="StructDbProvider" assembly="EAS.Data.NoSQL" type="EAS.Data.MongoDbProvider" LifestyleType="Thread">
<property name="ConnectionString" type="string" value="mongodb://sa:sa@127.0.0.1:2222/his"/>
<property name="DbName" type="string" value="his"/>
</object>
七、SequoiaDB的C#驱动源代码托管、下载
本人为SequoiaDB所写的C#驱动,已提交托管到github,项目地址https://github.com/agilelab/SequoiaDB.Charp,欢迎大家下载,也欢迎大家和本人一道完善本驱动。