在Web应用日益普及的今天，Web服务器承担的任务越来越繁重，特别是进行大数据量的计算时，服务器的硬件资源成了计算效率的瓶颈。为了解决这一问题，结合云计算和中间件的技术特点，提出了一种基于多Agent的云服务中间件的体系架构，该框架分为用户接口层、SOA层和资源管理层3个层次，内部采用多Agent技术。节点间通过ACL消息进行通信，负载均衡采用静态计算能力与动态负载相结合，内置的日志服务和容错服务保障系统稳定运行。将此框架应用到实际Web应用中可以大大提高Web服务器的计算效率。