字符串池化，减少重复实例，内存降低，一切就是这样的轻松愉快。
开篇摘要
本文通过一个简单的业务场景，来描述如何通过字符串池化来减少内存中的重复字符串实例，从而减少内存的占用。
在业务中，我们假设如下：
- 有一百万个商品，每个商品都有一个 ProductId 和 Color 列保存在数据库中
- 需要将所有的数据加载到内存中，作为缓存使用
- 每个产品都有 Color
- Color 的范围是一个有限的范围，我们假设大约为八十个左右
学习 dotMemory 度量内存
既然需要度量内存优化的可靠性，那么一个简单有效的度量工具自然必不可少。
本篇，我们介绍 Rider dotMemory 的组合，如何进行简单的内存度量。读者也可以根据自己的实际，选择自己青睐的工具。
首先，我们创建一个单元测试项目，并且编写一个简单的内存字典构建过程:
代码语言：javascript复制public const int ProductCount = 1_000_000;
public static readonly List<string> Colors = new[]
{
"amber", // 此处实际上有80个左右的字符串，省略篇幅
}.OrderBy(x => x).ToList();
public static Dictionary<int, ProductInfo> CreateDict()
{
var random = new Random(36524);
var dict = new Dictionary<int, ProductInfo>(ProductCount);
for (int i = 0; i < ProductCount; i )
{
dict.Add(i, new ProductInfo
{
ProductId = i,
Color = Colors[random.Next(0, Colors.Count)]
});
}
return dict;
}从以上代码可以看出：
- 创建了一百万个商品对象，其中的 Color 通过随机数进行随机选取。
提前指定字典的大小的预期值，实际上也是一种优化。请参阅 https://docs.microsoft.com/dotnet/api/system.collections.generic.dictionary-2.-ctor?view=net-5.0&WT.mc_id=DX-MVP-5003606#System_Collections_Generic_Dictionary_2__ctor_System_Int32_
然后，我们引入 dotMemory 单元测试度量必要的 nuget 包，和其他一些无关紧要的包:
代码语言：javascript复制<ItemGroup>
<PackageReference Include="JetBrains.DotMemoryUnit" Version="3.1.20200127.214830" />
<PackageReference Include="Humanizer" Version="2.11.10" />
</ItemGroup>接着，我们创建一个简单的测试来度量以上字典的创建前后，内存的变化：
代码语言：javascript复制public class NormalDictTest
{
[Test]
[DotMemoryUnit(FailIfRunWithoutSupport = false)]
public void CreateDictTest()
{
var beforeStart = dotMemory.Check();
var dict = HelperTest.CreateDict();
GC.Collect();
dotMemory.Check(memory =>
{
var snapshotDifference = memory.GetDifference(beforeStart);
Console.WriteLine(snapshotDifference.GetNewObjects().SizeInBytes.Bytes());
});
}
}从以上代码可以看出：
- 在字典创建之前，我们通过
dotMemory.Check()来捕捉当前内存的快照，以便后续进行对比 - 字典创建完毕后，我们比对前后两次检查点中新增的对象的大小。
最后，点击如下图所示的按钮，运行这个测试：
run dotMemory
那么，就会到的如下这样的结果：
result
故而，我们可以得出这样一个简单的结论。这样一个字典，大约需要 61MB 的内存。
而这是理论上，这个字典占用了内存最小情况。因为，其中每个 Color 使用的都是上面的八十个范围之一。因此，他们达到了没有任何重复实例的目的。
这个数据将会作为后续代码的一个基准。
尝试从数据库载入到内存
实际业务肯定是从数据库之类的持久化存储载入到内存中的。因此，我们度量一下，没有经过优化情况下，这种载入方式大概需要多大的内存开销。
这里，我们使用 SQLite 作为演示的存储数据库，实际上用什么都可以，因为我们关心的是最终缓存的大小。
我们，引入一些无关紧要的包：
代码语言：javascript复制<ItemGroup>
<PackageReference Include="Dapper" Version="2.0.90" />
<PackageReference Include="System.Data.SQLite.Core" Version="1.0.115" />
</ItemGroup>我们编写一个测试代码，将一百万测试数据写入到测试库中：
代码语言：javascript复制[Test]
public async Task CreateDb()
{
var fileName = "data.db";
if (File.Exists(fileName))
{
return;
}
var connectionString = GetConnectionString(fileName);
await using var sqlConnection = new SQLiteConnection(connectionString);
await sqlConnection.OpenAsync();
await using var transaction = await sqlConnection.BeginTransactionAsync();
await sqlConnection.ExecuteAsync(@"
CREATE TABLE Product(
ProductId int PRIMARY KEY,
Color TEXT
)", transaction);
var dict = CreateDict();
foreach (var (_, p) in dict)
{
await sqlConnection.ExecuteAsync(@"
INSERT INTO Product(ProductId,Color)
VALUES(@ProductId,@Color)", p, transaction);
}
await transaction.CommitAsync();
}
public static string GetConnectionString(string filename)
{
var re =
$"Data Source={filename};Cache Size=5000;Journal Mode=WAL;Pooling=True;Default IsolationLevel=ReadCommitted";
return re;
}以上代码：
- 创建一个名为 data.db 的数据
- 在数据库中创建一个 Product 表，包含 ProductId 和 Color 两列
- 将字典中的所有数据插入到这两个表中，其实就是前文创建的那个字典
运行这个测试，大概十秒左右，测试数据也就准备好了。后续，我们将重复从这个数据库读取数据，作为我们的测试用例。
现在，我们编写一个从数据库读取数据，然后载入到字典的代码，并且度量一下内存的变化：
代码语言：javascript复制[Test]
[DotMemoryUnit(FailIfRunWithoutSupport = false)]
public async Task LoadFromDbAsync()
{
var beforeStart = dotMemory.Check();
var dict = new Dictionary<int, ProductInfo>(HelperTest.ProductCount);
await LoadCoreAsync(dict);
GC.Collect();
dotMemory.Check(memory =>
{
var snapshotDifference = memory.GetDifference(beforeStart);
Console.WriteLine(snapshotDifference.GetNewObjects().SizeInBytes.Bytes());
});
}
public static async Task LoadCoreAsync(Dictionary<int, ProductInfo> dict)
{
var connectionString = HelperTest.GetConnectionString();
await using var sqlConnection = new SQLiteConnection(connectionString);
await sqlConnection.OpenAsync();
await using var reader = await sqlConnection.ExecuteReaderAsync(
"SELECT ProductId, Color FROM Product");
var rowParser = reader.GetRowParser<ProductInfo>();
while (await reader.ReadAsync())
{
var productInfo = rowParser.Invoke(reader);
dict[productInfo.ProductId] = productInfo;
}
}以上代码：
- 我们改变了字典的创建方式，将其中的数据从数据库中读取并载入
- 使用 Dapper 读取 DataReader 并且全部载入字典
同样，我们运行 dotMemory 度量变化，可以得到数据为：
代码语言：javascript复制95.1 MB因此，我们得出，采用这种方式，多消耗了 30MB 左右的内存。看起来很少，但其实比前面多了 50%。（一千五工资加薪到三千，涨薪 100%的即时感）
当然，你可能会怀疑，多出来的这些开销实际上是数据库操作消耗的。但通过下文的优化，我们可以提前知道：
这些多出来的开销，实际上是因为存在重复的字符串消耗。
剔除重复的字符串实例
既然我们怀疑多出来的开销是重复的字符串，那么我们就可以考虑通过将它们转为同一个对象的方式，减少字典中重复的字符串。
所以，我们就有了下面这个版本的测试代码：
代码语言：javascript复制[Test]
[DotMemoryUnit(FailIfRunWithoutSupport = false)]
public async Task LoadFromDbAsync()
{
var beforeStart = dotMemory.Check();
var dict = new Dictionary<int, ProductInfo>(HelperTest.ProductCount);
await DbReadingTest.LoadCoreAsync(dict);
foreach (var (_, p) in dict)
{
var colorIndex = HelperTest.Colors.BinarySearch(p.Color);
var color = HelperTest.Colors[colorIndex];
p.Color = color;
}
GC.Collect();
dotMemory.Check(memory =>
{
var snapshotDifference = memory.GetDifference(beforeStart);
Console.WriteLine(snapshotDifference.GetNewObjects().SizeInBytes.Bytes());
});
}以上代码：
- 我们仍然从数据库载入所有的数据到字典中，载入的代码和先前完全一样，因此没有展示
- 载入之后，我们再次遍历字典。并且从早在第一个版本就存在的 Color List 搜索到对应的字符串实例，并且赋值给字典中的 Color
- 通过这样一搜，一读，一换。我们使得字典中的 Color 全部来自 Color List
于是，我们再次运行 dotMemory 进行度量，结果非常的 Amazing：
代码语言：javascript复制61.69 MB虽说，最终这个数字的开销对比，第一个版本略有上升，但其实已经到了相差无几的地步。
我们通过将相同字符串转为相同实例的方式，将字典中的相同 Color 转为了相同实例。而 30MB 的临时字符串则会由于没有对象引用它们，因此在最近的一次 GC 中会被立即回收，一切都是这样的轻松愉快。
直接引入 StringPool
前文我们已经找到了开销的原因，并且通过办法进行了优化。不过还存在一些问题实际上要考虑：
- 很多时候 Color List 并不是静态的列表，她可能早上还很开心，下午就生气了
- Color List 不可能无限大，我们需要一个淘汰算法，淘汰末尾的 10%，把他们输送给社会
因此，我们可以考虑直接使用 StringPool，别人写的代码很棒，现在是我们的了。
让我们再引入一些无关紧要的包：
代码语言：javascript复制<ItemGroup>
<PackageReference Include="Microsoft.Toolkit.HighPerformance" Version="7.0.2" />
</ItemGroup>稍微改了一下，就有了新的版本：
代码语言：javascript复制[Test]
[DotMemoryUnit(FailIfRunWithoutSupport = false)]
public async Task LoadFromDbAsync()
{
var beforeStart = dotMemory.Check();
var dict = new Dictionary<int, ProductInfo>(HelperTest.ProductCount);
await DbReadingTest.LoadCoreAsync(dict);
var stringPool = StringPool.Shared;
foreach (var (_, p) in dict)
{
p.Color = stringPool.GetOrAdd(p.Color);
}
GC.Collect();
dotMemory.Check(memory =>
{
var snapshotDifference = memory.GetDifference(beforeStart);
Console.WriteLine(snapshotDifference.GetNewObjects().SizeInBytes.Bytes());
});
}以上代码：
- 使用了 StringPool.Shared 实例存储字符串实例
- GetOrAdd 实际上就是实现了我们先前的一搜，一读，一换三步走战略
当然，结果也是毫无惊喜可言的惊喜：
代码语言：javascript复制61.81 MB一切就是这样的轻松愉快。
