1. 项目背景与需求拆解上周在优化公司内部通知系统时遇到了一个典型的高并发批量消息发送场景需要向3000员工推送企业微信的日程提醒。最初的同步发送方案耗时高达47秒触发了企业微信的API调用频率限制。这促使我开始研究如何利用Java 8的CompletableFuture实现异步编排优化。企业微信的批量消息发送接口存在两个关键约束单次请求最多支持1000个接收人同一应用每分钟最多调用600次接口传统方案采用简单的循环同步调用不仅效率低下还容易触发限流。而CompletableFuture提供的异步编排能力恰好能解决以下痛点自动拆分大批量任务为合规的批次智能控制并发度避免触发限流实现发送失败时的自动重试机制2. 核心架构设计2.1 异步编排流程图解[接收人列表] ↓ [分批处理] → 每批≤1000人 ↓ [异步发送] → 控制并发≤10/min ↓ [结果聚合] → 合并所有批次结果 ↓ [异常处理] → 重试失败批次2.2 关键技术选型分批策略采用Guava的Lists.partition实现内存高效分片线程池配置自定义ThreadPoolExecutor核心参数corePoolSize: 5maxPoolSize: 10queueCapacity: 100keepAliveTime: 60s限流控制通过Semaphore实现每分钟最大并发控制3. 实现细节与核心代码3.1 批次消息发送器public CompletableFutureSendResult sendBatchAsync(ListString userIds, String content) { return CompletableFuture.supplyAsync(() - { try { // 获取限流许可 rateLimiter.acquire(); return wechatClient.batchSend( new BatchMessageRequest(userIds, content)); } catch (Exception e) { throw new CompletionException(e); } }, executor); }3.2 异步编排主逻辑ListListString batches Lists.partition(allUsers, 1000); ListCompletableFutureSendResult futures batches.stream() .map(batch - sendBatchAsync(batch, content) .exceptionally(ex - { log.error(发送失败准备重试, ex); return retrySend(batch); })) .collect(Collectors.toList()); CompletableFuture.allOf(futures.toArray(new CompletableFuture[0])) .thenApply(v - futures.stream() .map(CompletableFuture::join) .collect(Collectors.toList())) .thenAccept(this::analyzeResults);4. 性能优化关键点4.1 动态批次调整算法监控发送耗时与成功率自动调整批次大小if(avgTime 2s successRate 95%){ batchSize Math.min(1000, batchSize * 2); } else if(successRate 90%) { batchSize Math.max(200, batchSize / 2); }4.2 智能重试策略实现三级重试机制立即重试网络超时类异常延迟重试频率限制类异常按指数退避人工介入连续失败3次的批次5. 生产环境实测数据对比同步与异步方案的性能指标指标同步方案异步方案总耗时(3000人)47s8.2sCPU利用率35%68%成功率92%99.7%API调用次数3次3次6. 典型问题排查实录6.1 内存泄漏场景现象运行一段时间后出现OOM 根因未清理的Future对象积累 解决增加结果处理后的显式释放future.thenRun(() - { future null; // Help GC });6.2 线程阻塞问题现象部分请求长时间卡住 根因默认的ForkJoinPool被阻塞 解决使用独立线程池并配置拒绝策略new ThreadPoolExecutor(..., new ThreadPoolExecutor.CallerRunsPolicy());7. 进阶优化方向混合批处理结合消息优先级实现差异化发送策略熔断机制集成Resilience4j实现自动熔断流量预热根据历史数据预测发送高峰提前扩容线程池关键经验企业微信的access_token需要全局缓存建议使用双重检查锁实现线程安全获取避免每个批次都重新获取token。