登录 / 用户中心
登录 / 用户中心
← 返回AI算力选型库

GPU SELECTION PROFILE

GeForce RTX 3090

24GB显存的成熟消费级GPU，二手市场常见，适合本地模型推理、图像生成和个人研究。
资料更新：2026-07-27官方资料来源 →

核心规格

厂商/维护方
NVIDIA
功耗
350 W
主机接口
PCIe 4.0 x16
显存容量
24 GB
显存类型
GDDR6X
架构
Ampere
卡间互联
NVLink（双卡，软件支持需单独确认）
显存带宽
0.936 TB/s

软件与部署生态

  • CUDA
  • PyTorch
  • TensorRT
  • llama.cpp

部署与采购注意事项

  • 购买二手卡需检查显存错误、散热和保修
  • 350W功耗且显存温度较高，应保证机箱风道

不适合或需要谨慎的场景

  • 企业级持续服务
  • 高密度机架部署
  • 高并发长上下文推理
HOW TO USE THIS PROFILE

不要用单个参数直接作出采购决定

显存决定模型能否装入，显存带宽和算力影响速度，功耗、散热、卡间互联与软件生态决定方案能否长期稳定运行。消费卡与数据中心卡不能只按价格和峰值算力比较。

WANGYU COMPUTE SERVICE

让网昱继续核对这份算力方案

结合模型、并发、硬件平台、预算和交付条件，进一步确认配置边界，或匹配可租算力资源。