电脑维修 笔记本维修 手机维修 打印机维修 IT外包
24小时服务电话:0731-84688748  18229718750
地址:长沙市天心区青园街道友谊社区友谊小区A3栋15号

服务区域:湖南省政府方圆5公里内(友谊社区 青园小区 阳光嘉园 天一康园 湘超景园 国际公寓 HOPSCA写字楼 豪布斯卡 天城·泰祥苑 国检园 梦网景园 石人村金石·蓉园安置小区 鑫隆家园 湘诚嘉园 童话里 七星车城 华铁佳苑 巢之恋 鑫远杰座 鑫远华城 满庭芳 宽域 鑫天山水洲城 星语林名园 青园街道进湾子社区 白沙世纪佳园 长沙欧洲城 长沙奥林匹克花园 高升安置小区 湘府名邸 嘉尚君远 富景园 鑫源公寓 岳泰理想城 等等...)

技术博客 - 包括所有技术文章,技术展示与交流。

上一页 1 ... 9 10 11 12 13 ... 40 下一页

∞ 微信历史版本含下载地址( Windows PC | 安卓 | MAC )及设置微信不更新

超短链接


微信windows PC 各版本下载地址:
https://github.com/tom-snow/wechat-windows-versions/releases


微信windows PC x86 各版本下载地址:
https://github.com/tom-snow/wechat-windows-versions-x86/releases


微信android

∞ 可执行文件作为 Windows 服务来运行

超短链接

NSSM(Non-Sucking Service Manager)是一个用于在 Windows 上创建和管理服务的工具。它可以将任何可执行文件作为 Windows 服务来运行,非常适合需要在后台持续运行的程序。以下是基本的用法:

安装 NSSM

首先,你需要下载 NSSM:

  1. 访问 NSSM 官网 下载最新版本的 NSSM https://nssm.cc/download

∞ Windows 10/11 (清理C盘瘦身C盘减肥) 工具全集

超短链接


方法一:使用 DISM 命令关闭系统保留空间

  1. 以管理员身份打开 PowerShell 或命令提示符

    • Win + S 搜索 PowerShell,右键“以管理员身份运行”。

  2. 输入以下命令来关闭系统保留空间

    dism /Online /Set-ReservedStorageState /State:Disabled
  3. 重启电脑以使设置生效

∞ 使用Ollama 部署 本地 Deepseek R1大模型

超短链接

 

电脑系统与硬件要求:

电脑系统Windows 10及以上版本。

1. DeepSeek-R1:7B / 8B(70亿/80亿参数)

  • 内存(RAM)

    • 最低:16GB(纯CPU运行,但速度较慢)

    • 推荐:32GB(流畅运行)

  • 显存(GPU)

    • 最低:8GB(如NVIDIA RTX 3060/3070)可加载量化版(如4-bit量化)。

    • 推荐:12GB+(如RTX 3080/4080)运行原生模型更流畅。

  • 存储:至少10GB空间(模型文件约5-8GB)。

  • CPU:4核以上(若依赖CPU推理)。


2. DeepSeek-R1:14B(140亿参数)

  • 内存(RAM)

    • 最低:32GB(CPU模式可能需更多交换空间)。

    • 推荐:64GB(避免频繁交换)。

  • 显存(GPU)

    • 最低:16GB(如RTX 4090)运行量化版。

    • 推荐:24GB+(如A5000/A6000)运行原生模型。

  • 存储:20GB+空间(模型文件约15GB)。

  • CPU:8核以上(CPU推理需求较高)。


3. DeepSeek-R1:32B(320亿参数)

  • 内存(RAM)

    • 最低:64GB(CPU模式极慢)。

    • 推荐:128GB+(GPU模式需大内存支持)。

  • 显存(GPU)

    • 最低:2x24GB(如双A6000/A100,需模型并行)。

    • 推荐:4x24GB或单卡80GB(如A100 80GB)。

  • 存储:50GB+空间(模型文件约30-40GB)。

  • CPU:16核以上(多线程/分布式支持)。


4. DeepSeek-R1:70B(700亿参数)

  • 内存(RAM)

    • 最低:128GB(仅CPU几乎不可行)。

    • 推荐:256GB+(分布式GPU必需)。

  • 显存(GPU)

    • 必须多卡:4x A100 80GB 或 8x RTX 4090(通过模型并行+量化)。

    • 企业级硬件(如H100集群)更佳。

  • 存储:100GB+空间(模型文件约70-80GB)。

  • CPU:32核以上(协调多GPU通信)。


通用建议

  1. 量化模型

    • 使用4-bit/8-bit量化可显著降低显存需求(如70B量化后可在单卡24GB显存运行,但精度下降)。

  2. GPU vs CPU

    • CPU推理仅适合小模型(7B/8B),且速度可能慢10-100倍。

  3. 多GPU支持

    • 大模型(32B+)需NVLink或高速PCIe互联以减少通信开销。

  4. Ollama优化

    • Ollama会尝试自动选择最佳运行方式(如优先GPU),但需硬件支持。


参考配置示例

模型规模消费级硬件专业级硬件
7B