ollama 使用

安装 curl -fsSL https://ollama.com/install.sh | sh 运行模型示例 ollama run llama3.2 类似docker 命令,可以使用 ollama list 和 ollama ps 命令查看已安装的模型和正在运行的模型。 自定义模型 类似 dockerfile , 可以创建Modelfile 来自定义模型的行为及输出。 比如定义一个翻译助手,从英文翻译到中文。 Modelfile 可以创建如下: FROM llama3.2 # set the system message SYSTEM """ 你的任务是把用户提供的{{.Prompt}} 直接翻译成中文。 """ 然后可以创建模型 ollama create fanyi-llama3.2 -f Modelfile 之后,可以运行 ollama run fanyi-llama3.2 Modelfile 的使用说明参考 https://github.com/ollama/ollama/blob/main/docs/modelfile.md。 使用api 接口服务 启动 server 服务 ollama serve 在本地起一个 11434 端口。 然后另一个终端,运行模型 ollama run fanyi-llama3.2 接口请求 curl http://localhost:11434/api/generate -d '{ "model": "fanyi-llama3....

March 1, 2025 · 1 min · 92 words

wasm技术介绍

什么是 WebAssembly WebAssembly(缩写为 Wasm)是一种基于堆栈的虚拟机的二进制指令格式。 Wasm 被设计为编程语言的可移植编译目标,支持在网络上部署客户端和服务器应用程序。 背景 目标很宏大, compile once , run anywhere。 特性 性能: 接近本机执行性能,编译成 low level 的二进制格式 安全: 沙箱的执行环境 多语言支持 可移植性: 跨平台,跨体系结构 有多种运行时 wasmtime wasmer wasmEdge wasmZero 两种编译技术 AOT JIT wasm 文本格式 参考:https://developer.mozilla.org/en-US/docs/WebAssembly/Guides/Understanding_the_text_format 定义个function并且导出 (module (func $add (param $lhs i32) (param $rhs i32) (result i32) local.get $lhs local.get $rhs i32.add) (export "add" (func $add)) ) 调用其它function (module (func $getAnswer (result i32) i32.const 42) (func (export "getAnswerPlus1") (result i32) call $getAnswer i32....

February 28, 2025 · 7 min · 1460 words

使用hugo搭建blog

本文介绍如何使用 hugo 搭建静态网站,网站内容push 到 github 上,通过 github action 编译然后传到 linode 机器上,通过nginx 服务访问网站内容。 hugo 的使用参考这里. 首先进行 hugo 安装, 本地电脑是mac ,通过 brew 安装 brew install hugo 然后创建一个网站, 会新建这个目录。 hugo new site bruceding-blog-site 进入 bruceding-blog-site 目录中 ,进行 git 初始化。 cd bruceding-blog-site git init 添加主题 git submodule add https://github.com/nanxiaobei/hugo-paper themes/paper echo "theme = 'paper'" >> hugo.toml 在github 上创建一个仓库,名字为 bruceding-blog-site。 然后把本地的仓库和github 上的仓库关联起来。 git remote add origin git@github.com:bruceding/bruceding-blog-site.git 新建一个blog 文章 hugo new content content/posts/使用hugo搭建blog.md 会生成类似的文件头, 把 draft 改成 false 。否则不会生成html 文件。...

February 12, 2025 · 2 min · 406 words