Qwen3.5-35B-A3B-AWQ-4bit图文理解性能报告双卡24GB下QPS达3.2P99延迟8.5s1. 模型概述Qwen3.5-35B-A3B-AWQ-4bit是一款面向视觉多模态理解的量化模型专为图片分析、图文问答和视觉描述等场景优化。该模型在双卡24GB显存环境下表现出色实测QPS达到3.2P99延迟控制在8.5秒以内。1.1 核心能力能力维度具体表现图片理解可准确识别图片中的物体、场景和文字内容图文问答支持围绕图片内容进行多轮深入问答中文支持问答输出自然流畅的中文结果性能表现双卡环境下保持稳定高效的推理速度2. 技术架构2.1 量化方案模型采用AWQ(Activation-aware Weight Quantization)4bit量化技术在保持模型精度的同时显著降低显存占用原始模型大小约70GB量化后大小约18GB量化精度损失2% (在视觉任务上)2.2 推理后端采用vLLMcompressed-tensors技术栈确保量化模型稳定运行# 典型加载代码示例 from vllm import LLM, SamplingParams llm LLM( modelQwen3.5-35B-A3B-AWQ-4bit, tensor_parallel_size2, quantizationAWQ, enforce_eagerTrue )3. 性能实测3.1 测试环境GPU2×NVIDIA RTX 3090 (24GB显存)内存128GB DDR4测试数据集200张涵盖不同场景的图片3.2 关键指标指标数值说明QPS3.2每秒处理的查询数P50延迟4.3s50%请求的响应时间P99延迟8.5s99%请求的响应时间显存占用42GB双卡总占用3.3 性能优化点张量并行通过tensor-parallel-size2实现双卡并行内存管理采用分块加载策略降低显存峰值预热机制首次请求自动完成模型预热4. 使用指南4.1 快速部署# 通过SSH隧道访问 ssh -L 7860:127.0.0.1:7860 -p 32468 rootyour-server-ip4.2 典型使用流程访问http://127.0.0.1:7860打开Web界面上传待分析的图片输入相关问题如描述图片内容查看模型生成的回答4.3 最佳实践图片选择使用清晰、高分辨率的图片建议500px提问技巧首问请描述这张图片跟进图片中的[对象]在做什么性能提示复杂问题可分步提问5. 应用场景5.1 电商领域商品主图自动描述生成用户提问自动应答如这件衣服有几种颜色5.2 内容审核图片违规内容识别敏感信息自动打码建议5.3 教育辅助教材插图内容解析科学图表数据提取6. 总结Qwen3.5-35B-A3B-AWQ-4bit在多模态理解任务上展现出优秀的性能平衡高效推理双卡环境下QPS 3.2满足多数业务需求稳定延迟P998.5s保证用户体验易用部署开箱即用的Web界面降低使用门槛中文优化针对中文场景特别调优对于需要图片理解能力的应用场景该量化方案提供了性价比极高的解决方案特别适合中小规模部署需求。获取更多AI镜像想探索更多AI镜像和应用场景访问 CSDN星图镜像广场提供丰富的预置镜像覆盖大模型推理、图像生成、视频生成、模型微调等多个领域支持一键部署。