选显卡服务器，先别急着比较“几张卡”：一张显存不足的卡，可能装不下目标模型或数据；多张卡也不一定能把显存简单相加。更稳妥的做法，是先确认单个任务需要多少显存，再判断任务能否拆分，最后核对服务器的供电、散热和扩展条件。
问题一：单卡显存不够，能不能用更多卡补上？
要看软件能否把任务分配到多张卡。若程序把模型或数据切分到多个设备上，多卡可以共同承担一项任务；如果任务要求完整数据驻留在单卡上，其他卡的空闲显存通常帮不上忙。因此，不能只把各卡显存相加，作为单任务可用容量。
先检查显存峰值，而非只看模型文件大小。实际运行还会占用中间结果、缓存和运行环境空间，批量越大，额外占用往往越高。选型时可留出余量，并以目标软件的配置说明和小规模测试为准。
问题二：显存容量和卡数，优先哪个？
单任务规模大，优先看单卡容量
大模型推理、复杂图像处理等负载，如果主要目标是让一个任务顺利运行，应先确认单卡显存容量是否够用。以常见产品规格为例，NVIDIA RTX 6000 Ada Generation 配有 48 GB 显存，NVIDIA H100 SXM 配有 80 GB；这只是容量参照，不代表两者性能、接口和适用环境相同。具体选择还要核对软件兼容性、功耗及服务器支持情况。
小任务多，增加卡数可能更划算
若任务彼此独立，例如并行处理多批文件或同时服务多个用户，多张卡通常有利于提高并发量。此时重点是每张卡的显存能否满足单个任务，以及实际任务是否能均匀分配。卡数更多不必然让单个任务更快。
问题三：多卡显存能否合并使用？
多卡之间没有一个对所有程序都透明的“显存池”。软件需要具备跨卡切分或通信能力，才能让多个设备协同完成任务。张量并行就是一种拆分模型计算的方式，但会增加设备间通信；卡与卡之间经 PCIe 连接时，通信表现还受服务器拓扑和负载影响。NVLink 可用于特定平台的高速互连，但不是所有显卡服务器都提供，也不能替代软件适配。
下单前可按顺序核实：目标软件是否支持多卡；单任务是否能拆分；服务器具体卡型之间如何互连；实测时显存占用与任务速度是否符合预期。只看到“总显存”数字，不足以判断任务能否运行。
问题四：卡数确定后，还要核对什么？
显卡服务器的扩展能力受整机限制。确认机箱是否有足够的卡位和间距，主板、供电与散热是否支持计划中的卡型，并检查 PCIe 插槽数量、通道分配及网络需求。高功耗加速卡尤其需要匹配的供电和风道；不能仅凭外观上“插得下”就认定可以稳定运行。
建议把配置需求写成清单：卡型和数量、每卡显存、每卡功耗、卡间连接方式、所需 CPU 与内存，以及机房的供电和散热条件。让整机供应方逐项确认支持范围，并核实未来增加显卡时是否需要更换电源或机箱。
问题五：预算有限，怎样避免买多或买小？
先用真实工作负载做小规模验证：选一项代表性任务，记录峰值显存、单任务耗时和并发时的资源占用。再区分瓶颈来自显存容量、计算能力还是卡数不足。显存已接近上限时，优先考虑更大显存的卡或调整任务配置；显存富余但任务排队时，再评估增加卡数。
如果负载会变化，可比较一次购足与分阶段扩容的成本，但要先确认机箱、电源和互连预留。采购时还应对照具体型号的保修范围、供货配置和软件要求，不宜用单纯的“每卡价格”判断长期性价比。
快速结论
选显卡服务器可按这个顺序做决定：先算单任务峰值显存，再确认软件能否拆分任务；单任务受容量限制时看大显存，多任务并发不足时看卡数，最后核对互连、供电和散热。这样比从卡数倒推需求，更容易得到适配实际负载的配置。
常见问题
总显存相同，四张小显存卡和一张大显存卡等价吗？
不等价。多卡总量不一定能供单个任务使用，卡间通信和软件支持也会影响效率。
显存使用率接近满载一定要换卡吗？
不一定。先确认是否因批量、缓存或参数设置造成峰值过高，再判断是否需要更大显存。
只增加显卡，速度就会提高吗？
不一定。任务需支持并行，且服务器供电、散热、互连和数据输入不能成为瓶颈。
第一次采购该准备什么信息？
提供目标软件、任务类型、模型或数据规模、并发数和运行环境，再请供应方核实整机兼容性。
