引言
哈喽。大家好,好久不见,最近遇到了一个场景,就是在FrameWork的asp.net mvc中,有个系统里面使用的是EntityFramework的框架,在这个框架里,提供了一个SqlQuery的方法,这个方法很好用啊,以至于在EFCORE8里面又添加了回来,不过不知道性能怎么样,我遇到的场景是通过SqlQuery查询的时候,转换很慢,我估计那背后大概率是使用反射造成的, 因为我的查询可能有上十万,甚至更多,就导致了这个转换的过程及其耗时,以至于刚开始我是想通过Emit等方式去实现一个高性能转换,可是到最后没有去弄,因为我用了DataCommand去查询,最后循环DataReader来实现硬赋值,这样性能是最好,一下减少了好多秒,提升了80%,但也给了我一个灵感,一个实现简易的类型转换的灵感,所以在上周我就把代码写了出来,不过由于工作的忙碌,今天才开始写博客,接下来就呈上。
对了,有关EMIT和表达式树的知识,诸位可以看我之前的博客表达式树,IL。其中IL有两合集。
EMIT
众所周知,我们的c#代码在编译器编译,都会编译成IL代码,最后再去通过JIT转化为机器码,运行在系统中去的,所以IL代码的性能是比c#代码高的,同时,学习的成本,编写的成本也是机器高,我也是在自己感兴趣,瞎琢磨,就会了一丝丝皮毛,很多人说IL难写,其实,对于代码中的Opcodes那些,我只记一些常用的,对于剩下的,我都是在写的时候才去看文档,总之呢,要学的东西有很多,但掌握了学习的方法,才是持之以恒的手段。
接下来,就呈上IL代码,分为两部分,一个是List转List,一个是实体转实体的。
在这几个例子中,所有的前提都是实体的属性名称是一样的,如果需要扩展类型不一样,或者哪些不转换,从哪个属性转换到哪个属性,就需要各位自己去扩展了,本来我是想写这些的,,但是懒癌犯了,哈哈哈哈,需要各位看官自己动手了,以下代码,除了反射,其他的我都加了注释,反射大家都看得懂。
在下面的第一个方法,我们定义了执行转换集合的方法,并返回了一个委托,我们在实际开发中,都可以返回委托,最终可以将方法缓存起来,这样在后续的时候直接调用,性能提升爆炸,因为你每次创建Emit方法的时候,耗时也会挺长的,在有时候,像哪些主流的Mapper,他们内部肯定都做了缓存。下面的集合转集合,大致的原理代码就是定义一个方法ConvertToType,返回类型是List<TR>,入参是List<T>,然后定义循环的开始结束变量,以及最终返回结果集,还有循环内部的时候,我们创建的变量,最终将这个变量添加到返回的结果集中,在往下就是拿入参集合的数量,定义循环开始和结束的label,在往下走就是,初始化返回值集合,赋值给本地的localRes变量,将0赋值给开始循环的变量,也就是for(int i=0),下面就是给结束的循环值赋值为入参集合的Count。
下面的代码每行基本都有注释,所以我在这里也不做过多的讲解。
集合和单个的区别就在于集合是多了一个循环的主体,其他都和单个是一样的,以及集合的代码块中,我没有添加try catch的代码块。
代码语言:javascript复制 internal class EmitExecute<T, TR> : IExecute<T, TR> where T : class where TR : class, new()
{
public Func<List<T>, List<TR>> ExecuteList()
{
var dynamicMethod = new DynamicMethod("ConvertToType", typeof(List<TR>), new Type[] { typeof(List<T>) });
#region 变量定义
var ilMethod = dynamicMethod.GetILGenerator();
var localBegin = ilMethod.DeclareLocal(typeof(int));//定义循环开始变量
var localEnd = ilMethod.DeclareLocal(typeof(int));//结束变量
var localres = ilMethod.DeclareLocal(typeof(List<TR>));//返回值
var localSignleRes = ilMethod.DeclareLocal(typeof(TR));//变量
var countMethod = typeof(List<T>).GetProperty("Count").GetGetMethod();
#endregion
var labelXunhuan = ilMethod.DefineLabel();//定义循环主体
var labelEnd = ilMethod.DefineLabel();//定义结束标签主体
#region 实例化返回值
ilMethod.Emit(OpCodes.Nop);
ilMethod.Emit(OpCodes.Newobj, typeof(List<TR>).GetConstructor(Type.EmptyTypes));//初始化返回值变量
ilMethod.Emit(OpCodes.Stloc, localres);//结果赋值给返回值变量变量
#endregion
#region 给循环的起始变量赋值 0是开始,count是获取的入参的集合的count
ilMethod.Emit(OpCodes.Ldc_I4_0);//将0加载到栈上
ilMethod.Emit(OpCodes.Stloc, localBegin);//给循环的开始值begin赋值0
ilMethod.Emit(OpCodes.Ldarg_0);//加载入参
ilMethod.Emit(OpCodes.Callvirt, countMethod);//将入参的count加载到栈上
ilMethod.Emit(OpCodes.Stloc, localEnd);//给结束变量赋值为集合的count
ilMethod.Emit(OpCodes.Br, labelXunhuan);//无条件跳转到循环的label,即开始循环
#endregion
#region 循环结束标签
ilMethod.MarkLabel(labelEnd);//标记这段代码是labelend的代码
ilMethod.Emit(OpCodes.Ldloc, localres);//加载返回值变量
ilMethod.Emit(OpCodes.Ret);//返回
#endregion
#region 循环主体
ilMethod.MarkLabel(labelXunhuan);//标记是labelbegin的代码
ilMethod.Emit(OpCodes.Ldloc, localBegin);//从栈中加载开始变量
ilMethod.Emit(OpCodes.Ldloc, localEnd);//从栈中加载结束变量
ilMethod.Emit(OpCodes.Bge, labelEnd);//比较第0个是否小于等于第一个
//ilMethod.Emit(OpCodes.Call, typeof(List<People>).GetMethod("Add"));
ilMethod.Emit(OpCodes.Newobj, typeof(TR).GetConstructor(Type.EmptyTypes));//创建people的实例化
ilMethod.Emit(OpCodes.Stloc, localSignleRes);//结果赋值people变量
var properties = typeof(T).GetProperties().Where(s => typeof(TR).GetProperties().Any(a => a.Name == s.Name)).ToList();
if (properties != null)
{
foreach (var item in properties)
{
var getMethod = typeof(T).GetProperty(item.Name).GetGetMethod();//获取list【i】的species属性
var setMethod = typeof(TR).GetProperty(item.Name).GetSetMethod();
ilMethod.Emit(OpCodes.Ldloc, localSignleRes);//加载定义好的people
ilMethod.Emit(OpCodes.Ldarg_0);//加载入参
ilMethod.Emit(OpCodes.Ldloc, localBegin);//加载循环的开始变量
ilMethod.Emit(OpCodes.Callvirt, typeof(List<T>).GetMethod("get_Item"));// 调用 List<Animal>.get_Item 方法,将结果压入栈顶
ilMethod.Emit(OpCodes.Callvirt, getMethod);//拿到getitem的返回值的species属性
ilMethod.Emit(OpCodes.Call, setMethod);//给people的species属性赋值
}
}
//ilMethod.Emit(OpCodes.Ldloc, localPeople);//加载定义好的people
//ilMethod.Emit(OpCodes.Ldarg_0);//加载入参
//ilMethod.Emit(OpCodes.Ldloc, localBegin);//加载循环的开始变量
//ilMethod.Emit(OpCodes.Callvirt, typeof(List<T>).GetMethod("get_Item"));// 调用 List<Animal>.get_Item 方法,将结果压入栈顶
//ilMethod.Emit(OpCodes.Callvirt, getAMethod);//拿到getitem的返回值的species属性
//ilMethod.Emit(OpCodes.Call, property);//给people的species属性赋值
ilMethod.Emit(OpCodes.Ldloc, localres);//加载返回值
ilMethod.Emit(OpCodes.Ldloc, localSignleRes);//加载people
ilMethod.Emit(OpCodes.Call, typeof(List<TR>).GetMethod("Add"));//将people添加道返回值
ilMethod.Emit(OpCodes.Ldc_I4_1);//将1加载到栈上
ilMethod.Emit(OpCodes.Ldloc, localBegin);//从栈中加载开始变量
ilMethod.Emit(OpCodes.Add);//相加
ilMethod.Emit(OpCodes.Stloc, localBegin);//结果赋值给本地0个局部变量
ilMethod.Emit(OpCodes.Br, labelXunhuan);
#endregion
var func = dynamicMethod.CreateDelegate<Func<List<T>,List<TR>>>();
return func;
}
public Func<T, TR> ExecuteSingle()
{
var dynamicMethod = new DynamicMethod("ConvertToType", typeof(TR), new Type[] { typeof(T) });
var method = typeof(Console).GetMethod("WriteLine", new Type[] { typeof(string) });//输出字符串
var ilMethod = dynamicMethod.GetILGenerator();
var localRes = ilMethod.DeclareLocal(typeof(TR));//变量
var ex = typeof(Exception);
var localEx = ilMethod.DeclareLocal(ex);
var str = typeof(Exception).GetMethod("ToString");
ilMethod.Emit(OpCodes.Nop);
ilMethod.Emit(OpCodes.Newobj, typeof(TR).GetConstructor(Type.EmptyTypes));//初始化返回值变量 new tr();
ilMethod.Emit(OpCodes.Stloc, localRes);//结果赋值给返回值变量变量var tr=new tr();
var properties = typeof(T).GetProperties().Where(s => typeof(TR).GetProperties().Any(a => a.Name == s.Name)).ToList();
if (properties != null)
{
ilMethod.BeginExceptionBlock();//try
foreach (var item in properties)
{
var getMethod = typeof(T).GetProperty(item.Name).GetGetMethod();//获取list【i】的species属性
var setMethod = typeof(TR).GetProperty(item.Name).GetSetMethod();
ilMethod.Emit(OpCodes.Ldloc, localRes);//加载定义好的people
ilMethod.Emit(OpCodes.Ldarg_0);//加载入参
ilMethod.Emit(OpCodes.Callvirt, getMethod);//拿到getitem的返回值的species属性
ilMethod.Emit(OpCodes.Call, setMethod);//给people的species属性赋值
}
ilMethod.BeginCatchBlock(ex);
ilMethod.Emit(OpCodes.Stloc, localEx);// 将异常的ex赋值给我们的本地变量ex
ilMethod.Emit(OpCodes.Ldloc, localEx);//加载ex变量
ilMethod.Emit(OpCodes.Callvirt, str);//调用tostring()
ilMethod.Emit(OpCodes.Call, method);//调用console.writeline方法打印出异常信息
ilMethod.Emit(OpCodes.Newobj, typeof(TR).GetConstructor(Type.EmptyTypes));
ilMethod.Emit(OpCodes.Stloc, localRes);//结果赋值给返回值变量变量
ilMethod.EndExceptionBlock();
}
ilMethod.Emit(OpCodes.Ldloc, localRes);//加载返回值
ilMethod.Emit(OpCodes.Ret);
var func = dynamicMethod.CreateDelegate<Func<T, TR>>();
return func;
}
}
}
Expression
接下来,是表达式树的实现方式,表达式树的其实和Emit的我感觉都差不多,不过和emit相比,肯定大家都喜欢写Expression,毕竟是c#代码,写起来比较舒适,在下面代码就是定义了入参的source,以及从source那指定索引的item,以及返回值res,异常的定义和异常的message,在下面就是循环两个公共属性的信息,调用bind方法,从item的里面拿出sourceproperty的属性和targetproperty绑定,然后给res初始化,设置他的count为source的count,并且判断如果source长度是0,就直接返回一个空的集合,下面有一个构造循环的方法,判断index是否小于集合的count,如果不成立,直接调用break标签,也就是我们的break关键字,如果成立,拿出对应的item,然后调用了MemberInit方法,初始化了一个TR,然后调用Add方法添加到返回的结果集合中,这样就实现了一个一个的转换,最后将所有的表达式整合为一个代码块,通过Block再加入Try Catch,最终编译成一个Func的委托。下面的单个的原理也是一样的。
代码语言:javascript复制 internal class ExpressionExecute<T, TR> : IExecute<T, TR> where T : class where TR : class, new()
{
private List<PropertyInfo> properties;
public ExpressionExecute()
{
properties = typeof(TR).GetProperties().Where(s => typeof(T).GetProperties().Any(a => a.Name == s.Name)).ToList();//获取相同的属性名称
}
public Func<List<T>, List<TR>> ExecuteList()
{ var sourceParam = Expression.Parameter(typeof(List<T>), "source");//定义入参
var itemVar = Expression.Variable(typeof(T), "item");//定义从集合获取的item变量
var resVar = Expression.Variable(typeof(List<TR>), "res");//定义返回的结果变量
var ex = Expression.Variable(typeof(Exception), "ex");
var msg = Expression.Property(ex, "Message");
var method = typeof(Console).GetMethod("WriteLine", new Type[] { typeof(string) });
var memberBindings = new List<MemberBinding>();//memberbind
var listExpressions = new List<Expression>();//expression
foreach (var property in properties)
{
var sourceProperty = typeof(T).GetProperty(property.Name);
var targetProperty = typeof(TR).GetProperty(property.Name);
if (sourceProperty.PropertyType == targetProperty.PropertyType)//判断类型
{
memberBindings.Add(Expression.Bind(targetProperty, Expression.Property(itemVar, sourceProperty)));//相等直接bind add
}
}
listExpressions.Add(Expression.Assign(resVar, Expression.New(typeof(List<TR>))));//设置res=new list<tr>
listExpressions.Add(Expression.Assign(Expression.Property(resVar, "Capacity"), Expression.Property(sourceParam, "Count"))); //设置res.count==入参的count
var indexVar = Expression.Variable(typeof(int), "index");//循环索引
var breakLabel = Expression.Label("LoopBreak");//break标签
listExpressions.Add(Expression.IfThen(
Expression.Equal(Expression.Property(sourceParam, "Count"), Expression.Constant(0)),//如果source.cout==0
Expression.Return(breakLabel, resVar, typeof(List<TR>)) //直接 break 返回res
));
//构造循环
var innerLoop = CreateLoop(indexVar, sourceParam, itemVar,resVar,memberBindings,breakLabel);
listExpressions.AddRange(new Expression[] { innerLoop , Expression.Label(breakLabel) , resVar });
var body = Expression.Block(new[] { itemVar, indexVar, resVar }, listExpressions);//整合一个代码块
var tryCatch = Expression.TryCatch(body, new CatchBlock[] { Expression.Catch(ex, Expression.Block(Expression.Call(null, method, msg), Expression.New(typeof(List<TR>)))) });//try catch
var lambda = Expression.Lambda<Func<List<T>, List<TR>>>(tryCatch, sourceParam);
return lambda.Compile();
}
private LoopExpression CreateLoop(ParameterExpression indexVar,ParameterExpression sourceParam,ParameterExpression itemVar,ParameterExpression resVar,List<MemberBinding> memberBindings,LabelTarget breakLabel)
{
var addMethod = typeof(List<TR>).GetMethod("Add");//结果集的add方法
return Expression.Loop(
Expression.IfThenElse(//如果index <count 进入block
Expression.LessThan(indexVar, Expression.Property(sourceParam, "Count")),
Expression.Block(
Expression.Assign(itemVar, Expression.Property(sourceParam, "Item", indexVar)),//设置item=source【index】
Expression.Call(resVar, addMethod, Expression.MemberInit(Expression.New(typeof(TR)), memberBindings)),//调用res.add方法
Expression.PostIncrementAssign(indexVar)//index=index 1
),
Expression.Break(breakLabel)//如果index<count不成立,直接中断循环
)
);
}
public Func<T, TR> ExecuteSingle()
{
var express = Expression.Parameter(typeof(T), "source");
var memberBindings = new List<MemberBinding>();//memberbing
var list = new List<Expression>();
var action = new Func<string, string>(s => {
return typeof(TR).GetProperty(s).Name;
});//根据属性名称获取属性,由于property第二个参数必须 string or method,下方就只有他通过call的方式获取属性的name名称
int ipropertydx = 0;//相同属性遍历所以
memberBindings.Clear();
var peoples = Expression.New(typeof(TR));//创建新的tr实例
foreach (var item in properties)//属性遍历
{
var property = Expression.Property(peoples, item.Name);//获取tr实例属性
var memberInfo = typeof(TR).GetMember(item.Name).FirstOrDefault(); // 获取 MemberInfo 对象
if (memberInfo != null)
{
var assignment = Expression.Bind(//将属性和source[index].属性关联起来
memberInfo, Expression.Property( //获取source的属性
express,
//调用上面的委托返回要拿的属性名称也就是A.name=B.name
Expression.Lambda<Func<string>>(
Expression.Call(Expression.Constant(action.Target), action.Method, //调用action拿名称
Expression.Property(
Expression.ArrayIndex(Expression.Constant(properties.ToArray()), Expression.Constant(ipropertydx)), "Name")//获取properties的第ipropertydx的name名称
)
).Compile() //编译为func《string》委托
()
));
memberBindings.Add(assignment);//将每个people的每个属性赋值的assignment添加进去
ipropertydx ;
}
}
var memberInit = Expression.MemberInit(peoples, memberBindings);//将peoples初始化 初始化绑定的每一个成员
var func = Expression.Lambda<Func<T, TR>>(memberInit, express).Compile();//编译为委托
return func;
}
}
反射
反正,反射是很耗时的,少量情况还好,大量并不建议使用,虽然很好用,这里我也只是做一个例子,让我自己用,肯定优选前面两个,这个代码更不用讲了,懂得都懂,
代码语言:javascript复制 internal class ReflectionExecute<T, TR> : IExecute<T, TR> where T : class where TR : class,new()
{
public Func<List<T>, List<TR>> ExecuteList()
{
var res = new Func<List<T>, List<TR>>(s =>
{
var resList = new List<TR>();
var properties = typeof(T).GetProperties().Where(s => typeof(TR).GetProperties().Any(a => a.Name == s.Name)).ToList();//获取相同的属性名称
foreach (var item in s)
{
var tr = new TR();
foreach (var itemproperty in properties)
{
var val = itemproperty.GetValue(item, null);
if (val != null)
{
var setProperty = typeof(TR).GetProperty(itemproperty.Name);
setProperty.SetValue(tr, val);
}
}
resList.Add(tr);
}
return resList;
});
return res;
}
public Func<T, TR> ExecuteSingle()
{
var res = new Func<T, TR>(s =>
{
var properties = typeof(TR).GetProperties().Where(s => typeof(T).GetProperties().Any(a => a.Name == s.Name)).ToList();//获取相同的属性名称
var tr = new TR();
foreach (var itemproperty in properties)
{
var val = itemproperty.GetValue(s, new object[] { });
if (val != null)
{
var setProperty = typeof(TR).GetProperty(itemproperty.Name);
setProperty.SetValue(tr, val);
}
}
return tr;
});
return res;
}
}
测试
这玩意,我自己简单测试了一下,本想用benmark简单跑一下,但是麻烦,就代码自己测试了一下,在第一次构建表达式树的方法,会有些许耗时,但是在最后如果有缓存方法,那性能不必Emit差,总之,性能方面优选Emit和表达式树,反射就不做考虑。
总结
赶鸭子上架,水了一篇博客,如有疑问,可以随时呼我
代码地址:
链接:https://pan.baidu.com/s/1vW9LPfYHmvk6Y08qEYA9sw
提取码:vj34