我有两个实体,Class
和Student
,它们以多对多的关系联系在一起。
从外部应用程序导入数据时,不幸的是某些类是以重复方式创建的。“复读”班有不同的名字,但同一科目和同一学生。
例如:
{id=341,title='10rs/pe1a',subjectid=60,students={jack,bill,sarah}
{id=429,title='10rs/pe1b',subjectid=60,students={jack,bill,sarah}
没有一个通用的规则来匹配这些重复类的名称,所以识别两个类是否重复的唯一方法是它们具有相同的主语和学生。
我想使用linq来检测所有的重复项(并最终合并它们)。到目前为止,我试过:
var sb = new StringBuilder();
using (var ctx = new Ctx()) {
ctx.CommandTimeout = 10000; // Because the next line takes so long!
var allClasses = ctx.Classes.Include("Students").OrderBy(o => o.Id);
foreach (var c in allClasses) {
var duplicates = allClasses.Where(o => o.SubjectId == c.SubjectId && o.Id != c.Id && o.Students.Equals(c.Students));
foreach (var d in duplicates)
sb.Append(d.LongName).Append(" is a duplicate of ").Append(c.LongName).Append("<br />");
}
}
lblResult.Text = sb.ToString();
这不好,因为我得到了错误:
NotsupportedException:无法创建类型为“teachedm.student”的常量值。在此上下文中仅支持基元类型(如int32、string和guid)。
显然,我不喜欢在linq中尝试匹配
o.SubjectId == c.SubjectId
。此外,这似乎是一个可怕的方法,一般来说,是非常缓慢的。对数据库的调用需要5分钟以上。
我真的很感激你的建议。
最佳答案
比较SubjectId
不是问题,因为c.SubjectId
是一个原始类型的值(int
,我猜)。异常抱怨Equals(c.Students)
。c.Students
是一个常量(对于查询duplicates
),但不是基元类型。
我还会尝试在内存中而不是数据库中进行比较。不管怎样,当您开始第一个foreach
循环时,您正在将整个数据加载到内存中:它执行查询allClasses
。然后在循环的内部,将IQueryableallClasses
扩展到IQueryableduplicates
,然后在内部循环中执行。这是每个外循环元素的一个数据库查询!这可以解释代码性能差的原因。
所以我会尝试执行内存中第一个foreach
的内容。为了比较foreach
列表,需要逐个元素进行比较,而不是对students集合的引用,因为它们肯定是不同的。
var sb = new StringBuilder();
using (var ctx = new Ctx())
{
ctx.CommandTimeout = 10000; // Perhaps not necessary anymore
var allClasses = ctx.Classes.Include("Students").OrderBy(o => o.Id)
.ToList(); // executes query, allClasses is now a List, not an IQueryable
// everything from here runs in memory
foreach (var c in allClasses)
{
var duplicates = allClasses.Where(
o => o.SubjectId == c.SubjectId &&
o.Id != c.Id &&
o.Students.OrderBy(s => s.Name).Select(s => s.Name)
.SequenceEqual(c.Students.OrderBy(s => s.Name).Select(s => s.Name)));
// duplicates is an IEnumerable, not an IQueryable
foreach (var d in duplicates)
sb.Append(d.LongName)
.Append(" is a duplicate of ")
.Append(c.LongName)
.Append("<br />");
}
}
lblResult.Text = sb.ToString();
按名称对序列排序是必要的,因为我相信,
Students
会比较序列的长度,然后比较元素0和元素0,然后比较元素1和元素1,依此类推。编辑您的评论,第一个查询仍然很慢。
如果你有1300个班,每个班30个学生,那么在数据库和客户机之间传输的数据会成倍增加,这可能会影响急切加载(
SequenceEqual
)的性能。这在这里解释:How many Include I can use on ObjectSet in EntityFramework to retain performance?。查询是复杂的,因为它需要一个Include
之间的类和学生和对象物化是复杂的,因为ef必须过滤掉重复的数据时,对象被创建。另一种方法是只加载第一个查询中没有学生的类,然后在循环中逐个明确地加载学生。看起来是这样的:
var sb = new StringBuilder();
using (var ctx = new Ctx())
{
ctx.CommandTimeout = 10000; // Perhaps not necessary anymore
var allClasses = ctx.Classes.OrderBy(o => o.Id).ToList(); // <- No Include!
foreach (var c in allClasses)
{
// "Explicite loading": This is a new roundtrip to the DB
ctx.LoadProperty(c, "Students");
}
foreach (var c in allClasses)
{
// ... same code as above
}
}
lblResult.Text = sb.ToString();
在本例中,您将有1+1300个数据库查询,而不是只有一个查询,但是您将不会有急切加载时发生的数据乘法,并且查询更简单(在类和学生之间没有
JOIN
)。解释性加载如下:
http://msdn.microsoft.com/en-us/library/bb896272.aspx
对于pocos(也适用于
JOIN
派生实体):http://msdn.microsoft.com/en-us/library/dd456855.aspx对于
EntityObject
派生实体,您还可以使用EntityObject
的Load
方法:http://msdn.microsoft.com/en-us/library/bb896370.aspx如果您使用延迟加载,则第一个
EntityCollection
与foreach
不需要,因为第一次访问时将加载LoadProperty
集合。它应该会导致1300个相同的额外查询,比如explicite加载。