在C#中处理大数据查询时,使用异步流(IAsyncEnumerable
启用异步流查询
从 C# 8.0 开始,IAsyncEnumerable
以 Entity Framework Core 为例:
public async IAsyncEnumerable<Order> GetLargeOrderDataAsync([EnumeratorCancellation] CancellationToken cancellationToken = default)
{
await foreach (var order in _context.Orders
.Where(o => o.Status == "Shipped")
.AsAsyncEnumerable()
.WithCancellation(cancellationToken))
{
// 可在此处进行数据转换或过滤
yield return order;
}
}
调用该方法时:
await foreach (var order in service.GetLargeOrderDataAsync())
{
Console.WriteLine($"Processing Order ID: {order.Id}");
// 处理每条记录,无需加载全部到内存
}
结合 Dapper 使用异步流
Dapper 支持通过 QueryAsync 返回异步流。虽然原生不直接返回 IAsyncEnumerable,但可通过封装实现:
public async IAsyncEnumerable<Product> StreamProductsAsync([EnumeratorCancellation] CancellationToken ct)
{
using var connection = new SqlConnection(connectionString);
await connection.OpenAsync(ct);
<pre class='brush:php;toolbar:false;'>using var reader = await connection.ExecuteReaderAsync("SELECT Id, Name, Price FROM Products", cancellationToken: ct);
while (await reader.ReadAsync(ct))
{
yield return new Product
{
Id = reader.GetInt32("Id"),
Name = reader.GetString("Name"),
Price = reader.GetDecimal("Price")
};
}}
控制取消与资源释放
使用 [EnumeratorCancellation] 参数可传递取消令牌,防止长时间运行的查询阻塞系统:
var cts = new CancellationTokenSource(TimeSpan.FromSeconds(30));
<p>await foreach (var item in StreamLargeDataAsync(cts.Token))
{
// 自动在超时后中断流
Process(item);
}</p>基本上就这些。异步流适合分页场景、日志处理、报表导出等大数据量操作,避免 OutOfMemoryException,同时保持良好的吞吐能力。
