网站建设
未读
利用 1Panel 管理证书与反向代理
详解如何通过1Panel面板自动化管理SSL证书(包括Let's Encrypt申请、Cloudflare DNS验证及续签),并配置反向代理服务。涵盖OpenResty版本避坑指南、HTTPS强制跳转、Stream端口转发解决运营商封堵,以及Uptime Kuma监控页的WebSocket支持与安全嵌入方案。附Nginx配置模板与故障排查技巧,助你快速搭建高可用服务网关。
NAS折腾
未读
Linux 磁盘相关命令
系统讲解常用磁盘工具,涵盖从基础空间查看(df/du)、分区操作(fdisk/parted)、文件系统管理(mkfs/fsck)到高级数据安全擦除(shred/dd)的全流程操作。重点解析磁盘检测(smartctl)、坏道修复(badblocks/e2fsck)及性能优化技巧(hdparm参数调整),提供企业级场景应用参考。文章包含30+命令参数详解及风险提示,适合运维人员构建系统化管理方案。
NAS折腾
未读
在飞牛系统上限制虚拟机网速
目前飞牛官方并没有开发虚拟机的网络限速功能,但可以利用 OVS 原生 QoS 功能实现网络限速。(要求 OVS≥2.5 且支持 HTB ) 查看 OVS 网络端口 # 查找虚拟机对应的 OVS 端口(如tap53eeb988-c7)
ovs-vsctl show 输出示例,可以看到 OVS 网桥(B
NAS折腾
未读
在飞牛上部署本地大模型
摘要:
本文详细介绍了在飞牛上部署本地大模型的操作流程,涉及多种方式安装配置不同AI工具,如Ollama、Dify和ComfyUI。首先,提供了关于如何安装和配置Ollama的步骤,包括使用官方安装脚本、配置环境变量以及解决插件安装缓慢和无法添加模型的问题。其次,介绍了Dify的安装与配置过程,包括创建数据库、修改环境变量和优化配置等步骤。然后,提供了ComfyUI的安装和配置指南,包括使用其他项目安装和使用Docker部署Ubuntu再安装ComfyUI的两种方式。最后,总结了飞牛部署本地大模型的流程和注意事项。关键词:本地大模型、飞牛部署、AI工具。
NAS折腾
未读
飞牛上的 NVIDIA 独显设置
本文主要介绍了如何在飞牛操作系统上设置NVIDIA独显,以及相关的驱动安装、CUDA驱动安装和显卡空载功耗过高的问题解决。文章中详细介绍了如何进入BIOS设置,启用核显并设置为首选显卡,同时提供了驱动安装的方法,包括手动安装和覆盖安装等步骤。此外,文章还介绍了如何安装CUDA驱动和如何解决显卡空载功耗过高的问题。关键词:本地大模型、飞牛上的NVIDIA独显设置、显卡。
NAS折腾
未读
酷睿 Ultra 平台部署本地 AI
这是一个非常详细的技术总结,涵盖了从环境配置、模型部署、到搜索引擎集成等多个方面的内容。基于你提供的信息,以下是关于这些内容的简要反馈和建议:
1. Conda环境管理:
使用conda来管理项目环境是一个非常实用的方法。你总结的conda常用指令非常有用。
2. Ipex-LLM与Ollama:
对于Ipex-LLM的加速功能,目前看来其在NPU上的适配可能还不够完善。可以尝试OpenVINO在NPU上运行LLM的方法,但需要注意文档质量可能不高,部署可能会有一定难度。
3. Open-webui可视化chat:
按照你的步骤,open-webui的部署应该相对简单。如果遇到问题,官方文档和社区支持可能有所帮助。
4. SearxNG搜索引擎:
关于SearxNG的部署,遇到403问题可以通过修改settings.yml文件中的相关配置来解决。Dify的部署相对更复杂一些,需要配置多个环境变量和集成其他服务。在部署过程中,官方文档是非常重要的资源。
5. 部署心得:
自建搜索引擎和其他模型的部署确实需要一定的技术基础和对文档的理解。文档的清晰度、完整性和社区支持对部署过程有很大的影响。在实际操作中,可能会遇到各种问题,需要耐心和持续的学习。
建议:
* 在部署过程中,注意备份重要文件和配置,避免数据丢失。
* 遇到问题时,除了查看官方文档,也可以尝试搜索相关的教程、博客或论坛,可能有其他开发者遇到过类似的问题。
* 对于OpenVINO和Dify这样的工具,可能需要更深入的学习和理解其工作原理和架构,以便更好地进行配置和部署。
希望这些反馈和建议对你有所帮助!