C#中如何使用异步流处理大数据查询?示例代码是什么?

来源:这里教程网 时间:2026-02-21 17:28:23 作者:

在C#中处理大数据查询时,使用异步流(IAsyncEnumerable)可以有效减少内存占用并提升响应性。它允许你一边从数据库或远程服务获取数据,一边逐步处理,而不是等待全部结果返回。

启用异步流查询

从 C# 8.0 开始,IAsyncEnumerable 成为处理异步数据流的标准方式。结合 Entity Framework Core 或 Dapper 等 ORM,可实现高效的大数据查询。

以 Entity Framework Core 为例:

public async IAsyncEnumerable<Order> GetLargeOrderDataAsync([EnumeratorCancellation] CancellationToken cancellationToken = default)
{
    await foreach (var order in _context.Orders
        .Where(o => o.Status == "Shipped")
        .AsAsyncEnumerable()
        .WithCancellation(cancellationToken))
    {
        // 可在此处进行数据转换或过滤
        yield return order;
    }
}

调用该方法时:

await foreach (var order in service.GetLargeOrderDataAsync())
{
    Console.WriteLine($"Processing Order ID: {order.Id}");
    // 处理每条记录,无需加载全部到内存
}

结合 Dapper 使用异步流

Dapper 支持通过 QueryAsync 返回异步流。虽然原生不直接返回 IAsyncEnumerable,但可通过封装实现:

public async IAsyncEnumerable<Product> StreamProductsAsync([EnumeratorCancellation] CancellationToken ct)
{
    using var connection = new SqlConnection(connectionString);
    await connection.OpenAsync(ct);
<pre class='brush:php;toolbar:false;'>using var reader = await connection.ExecuteReaderAsync("SELECT Id, Name, Price FROM Products", cancellationToken: ct);
while (await reader.ReadAsync(ct))
{
    yield return new Product
    {
        Id = reader.GetInt32("Id"),
        Name = reader.GetString("Name"),
        Price = reader.GetDecimal("Price")
    };
}

}

控制取消与资源释放

使用 [EnumeratorCancellation] 参数可传递取消令牌,防止长时间运行的查询阻塞系统:

var cts = new CancellationTokenSource(TimeSpan.FromSeconds(30));
<p>await foreach (var item in StreamLargeDataAsync(cts.Token))
{
// 自动在超时后中断流
Process(item);
}</p>

基本上就这些。异步流适合分页场景、日志处理、报表导出等大数据量操作,避免 OutOfMemoryException,同时保持良好的吞吐能力。

相关推荐