Myluzh Blog

通过LLaMA-Factory微调ChatGLM3模型笔记

2025-2-7 myluzh NOTES

0x01 下载ChatGLM3大模型 # 创建存放模型的文件夹 mkdir -p /mnt/workspace/models && cd /mnt/workspace/models # 下载大模型 https://modelscope.cn/models/ZhipuAI/chatglm3-6b/files git lfs install git clone https://www.modelscope.cn/ZhipuAI/chatglm3-6b.git 0x02 运行调试模型 下载ChatGLM3 web demo项目，用来运行调试调试模型 1、安装 mkdir -p /mnt/workspace/webcodes && cd /mnt/workspace/webcodes git clone https://github.com/THUDM/ChatGLM3.git # 如果报错就重新执行一次 cd /mnt/workspace/webcodes/ChatGLM3 && pip install -r requirements.txt 2、运行调试模型 测试模型...

阅读全文>>

标签: llm LLaMA-Factory ChatGLM3 大模型 微调

评论(0) (443)

Ollama搭建本地DeepSeek大模型

2025-2-6 myluzh NOTES

0x01 安装ollama 1、安装ollama （1）直接安装：https://ollama.com/download （2）通过 docker：https://hub.docker.com/r/ollama/ollama/tags docker run -d -v ollama:/root/.ollama -p 11434:11434 --name ollama ollama/ollama 2、设置ollama监听 docker跑起来的的ollama 只需要-p把11434 api端口暴露出来即可， 安装完成ollama后，默认只监听来自127.0.0.1，为了方便局域网内调用api，配置 Ollama 服务监听所有网络接口 # windows powershell 配置方法如下 PS C:\Users\myluzh> $env:OLLAMA_HOST = "0.0.0.0:11434" #如果你希望永久设置环境变量，可以通过 PowerShell 设置系统环境变量，使其在所有会话中生效： [System.Environment]::SetEnvironmentVariable("OLLAMA...

阅读全文>>

标签: ollama deepseek llm ai

评论(0) (455)

Docker命令与Ctr命令对照表

2025-1-24 myluzh Docker

容器管理相关命令 功能 Docker 命令 ctr 命令 拉取镜像 docker pull <image> ctr image pull <image> 查看镜像列表 docker images ctr image list 删除镜像 docker rmi <image> ctr image remove <image> 启动容器 docker run <image> ctr container create --tty <image> 列出正在运行的容器 docker ps ...

阅读全文>>

标签: docker ctr

评论(0) (253)

Docker设置代理，docker pull 代理

2025-1-20 myluzh Docker

1、docker pull /push 的代理被 systemd 接管，所以需要设置 systemd mkdir -p /etc/systemd/system/docker.service.d touch /etc/systemd/system/docker.service.d/proxy.conf vi /etc/systemd/system/docker.service.d/proxy.conf 2、编辑proxy.conf文件 # proxy.conf [Service] Environment="HTTP_PROXY=http://172.30.172.136:4780" Environment="HTTPS_PROXY=http://172.30.172.136:4780" Environment="NO_PROXY=localhost,127.0.0.1,.example.com,172.16.0.0/12" 3、重启docker服务 sudo systemctl daemon-reload sudo systemctl restart docker # 可以看到设置的环境变量 sud...

阅读全文>>

标签: docker docker代理 docker pull docker proxy

评论(1) (250)

K8S 存储卷使用总结

2025-1-15 myluzh Kubernetes

使用场景 推荐方式 持久化存储（文件、数据库等） PVC 或 volumeClaimTemplates 配置和凭据管理 ConfigMap 和 Secret 临时数据存储 EmptyDir 访问主机文件 HostPath 动态云存储卷分配 CSI 0x01 PersistentVolumeClaim (PVC) 最通用的持久化存储方式。适用于绝大多数需要持久化数据的场景，例如数据库存储、文件共享。与各种存储插件兼容。 典型场景：数据库（MySQL、PostgreSQL、MongoDB）。 volumes: - name: app-data persis...

阅读全文>>

标签: k8s pvc csi

评论(0) (248)

修复VMware ESXi未向DHCP服务器注册主机名

2024-12-16 myluzh VMware

0x01 问题 当对 ESXi 主机使用 DHCP 时，默认情况下 ESXi 主机不会发送首选主机名，它只会等待 DHCP 服务器为其分配主机名。 有时我们希望在某些情况下 ESXi 主机发送首选主机名。 0x02 修复 方法一：使用 ESXi Web 客户端 1、通过 https://esxi_host_ip 登录到 ESXi Web GUI 2、在左侧的“主机”下，单击“管理” 3、从系统选项卡 ->高级设置中，找到Misc.PreferredHostName 4、单击Misc.PreferredHostName，单击编辑选项 5、在“新值”字段中输入此 ESXi 主机的首选主机名，然后单击“保存”按钮 6、重新启动 ESXi 主机 一旦恢复在线，我们应该看到首选主机名已在 DHCP 服务器上注册。 方法二：使用 /etc/dhclient-vm 1、登录 ESXi Web 客户端 2、从左侧单击“主机” 3、从右侧，单击“操作” -> “服务” -> “启用安全 Shell (SSH)”，以启用对 ESXi 主机的 SSH 访问 4、使用与 ESXi Web 客户端相同...

阅读全文>>

标签: vmware dhcp esxi esxi7 hostname

评论(0) (303)