Martin's space

LoRA 微调的云上漂流

Sun, 25 May 2025 10:39:49 +0000

这篇文章是我们在 ServerlessLLM 框架中，把 LoRA 微调和推理服务化的思考记录。这是一场漂流，也是一场构建。

Preference Alignment on Diffusion Model: A Comprehensive Survey for Image Generation and Editing

Sun, 09 Feb 2025 10:39:49 +0000

欢迎引用 🎉

从RNN到Transformers

Sat, 01 Feb 2025 10:39:49 +0000

递归神经网络

简单的神经网络由三部分组成：输入，隐藏层，输出

深度神经网络（DNN）一般是增加隐藏层的数量。

递归神经网络（RNN）更加关注的是隐藏层中每个神经元在时间上的成长与进步。

强化学习

Sat, 01 Feb 2025 10:39:49 +0000

多臂老虎机问题(MAB)

符号&问题定义

大写斜体表示随机变量，例如$A, R, A_t, R_t$
小写字母表示这些随机变量的实现，例如$a, r, a_t, r_t, Pr${$A_t=a_t$}
花体，区间等表示集合，例如$\mathcal{A}, [0, 1], \mathbb{N}$

Given: a set of k actions, $\mathcal{A}$, number of rounds T. Repeat for t in T rounds:

时序分析/预测

Sat, 01 Feb 2025 10:39:49 +0000

记录一些基础方法

时间序列

可视化三种时间序列

Brownian motion (stochastic process)
Lorenz attractor (chaotic system)
Lotka-Volterra system (deterministic system of differential equations)
随机过程是一种非确定性的过程，即其未来状态依赖于概率分布，无法通过确定的数学公式精确预测。布朗运动（Brownian Motion）是一种典型的随机过程，常见于金融市场、分子扩散等领域。
混沌系统是一类确定性但不可预测的系统，即尽管系统是由确定性的方程描述的，但对初始条件极其敏感，导致长期行为难以预测。洛伦兹系统（Lorenz System）是一个经典的混沌系统，最早由 Edward Lorenz 研究气象现象时提出。其特征包括：
- 由确定性方程控制（如微分方程）。
- 对初始条件极其敏感（“蝴蝶效应”）。
- 具有某种结构（如吸引子），但长期行为是不可预测的。
确定性系统是完全由数学规则或方程所控制的系统，即如果初始条件相同，每次运行都会得到相同的结果。洛特卡-沃尔泰拉（Lotka-Volterra）方程描述了捕食者（如狼）和被捕食者（如兔子）种群的动态变化。这类系统的特征包括：
- 未来状态由当前状态唯一决定。
- 没有随机性，系统演化完全可预测。
- 在生物学、物理学、化学等领域有广泛应用。

数据填充技术

这主要用于处理时间序列上的缺失值，主要有三种方法

Llama.cpp本地CPU部署大模型

Sat, 15 Jun 2024 17:39:49 +0000

机器是2021年M1的MacBook Pro，斗胆一试。

引言

master分支的commit记录：2075a66

分别部署了Llama-2-7B-Chat，Llama-2-13B-Chat, Llama-2-70B-Chat三款大模型，部署方式完全一致，我拿7B模型举例。

多智能体系统(COMP310)

Sun, 05 May 2024 17:39:49 +0000

Intelligent Agents

Agents are objects with attitude, which are autonomous, smart, active.

Properties in Environment (环境性质描述)

Fully observable / partially observable
Deterministic / non-deterministic
Static / dynamic
Discrete / continuous
Episodic / non-episodic
Real time

The ability to interact with other agents via cooperation, coordination, and negotiation.

Abstract Architectures for Agents (代理的抽象架构)

表示方法

Love with YOYO

Sun, 31 Mar 2024 22:34:10 +0000

Daily in Edinburgh

" >

57/10mm f/1.5 1/20sec ISO 800" >

57/10mm f/1.5 1/25sec ISO 640" >

" >

57/10mm f/1.5 1/15sec ISO 6400" >

" >

云计算(COMP315)

Mon, 26 Feb 2024 17:39:49 +0000

虚拟机

借助虚拟化技术，用户能以单个物理硬件系统为基础创建多个模拟环境或专用资源。“Hypervisor” （虚拟机监控程序）的软件可直接连接到硬件，从而将一个系统划分为不同的、单独安全环境，即虚拟机（VM）。

高性能计算(COMP328)

Sat, 03 Feb 2024 17:39:49 +0000

Week1

高性能计算的目标

对于有限的数据集，最小化解决时间
对于无限的数据集，最大化吞吐量(throughput)
有能力解决一些对于可用的内存来说太大的问题
最大化资源利用 - CPU/内存/网络/加速器(GPU)/电力

一些常用术语

Parallelism vs Concurrency
- Parallelism: 多个进程同时且独立执行
- Concurrency: 多个进程同时执行且共享至少一种资源
Processor, Die & Socket
- Processor: 执行程序指令的电路。计算机系统中可能有许多处理器，例如图形处理器、视频处理器。在没有限定的情况下，通常指中央处理器
- CPU: 计算机系统中主要的通用处理器（之一），而非特定用途（如视频解压缩）。
- Die: 指硅晶片，包含处理器（通常是中央处理器）以及接口所需的其他组件（如内存控制器）。
- Socket: 处理器和计算机主板之间的物理接口，它定义了处理器与主板连接的方式。不同的处理器和主板可能需要不同类型的Socket。
Core & Thread
- Core: 核心是CPU内部的一个物理处理单元，能够独立执行计算任务。每个核心可以独立处理指令和执行计算操作。
- Thread: 线程是操作系统能够进行计算调度的最小单位。它是程序执行流的一个单一顺序，可以被操作系统调度（启动、停止、挂起等）。
- 核心和线程共同定义了处理器的处理能力
Node
- 指一个服务器节点（一台计算机）
Cluster/Supercomputer
- 成百上千个节点组成集群
Single precision floating-point
- 通常占用32位（4字节）的存储空间，C语言中的float32类型，1符号位，8指数位，23有效数字位
Double precision floating-point
- 通常占用64位（8字节）的存储空间，C语言中的float64类型，1符号位，11指数位，52有效数字位
Flop
- Floating-point operations per second

如何量化/评估性能

公式如下👇

前端刷题笔记

Sun, 07 May 2023 08:42:27 +0000

记录刷前端时遇到的知识点

基础数据结构

Fri, 17 Mar 2023 17:39:49 +0000

上星期被算法课考试狠狠拷打，痛思悔过一小时。发现自己学习算法缺乏实际操作，只知理论，操作甚少，导致对理论的理解也十分浅显。

所以从基础数据结构开始，重新系统学习算法，在这里记录学习的过程。

Canonical coins system

Thu, 09 Mar 2023 17:39:49 +0000

今天上算法课的tutorial，主要是讲贪婪算法。老师在课上提到了canonical coins system，但并没有深入讲解。回来看了一篇论文，整个问题很有意思，写下来记录一下。

金融市场交易(COMP226)

Sun, 05 Feb 2023 08:42:27 +0000

R语言基础（W1）

基本数据类型

character(string)
logical(boolean)
numeric(number)
factors(categories)

factors表示分类，将分类数据存储为整数向量。下面用代码解释

# 创建一个性别的factor
> gender <- factor(c("男", "女", "女", "男", "男"))

# 显示gender对象的水平(分类)
> levels(gender)
[1] "女" "男"

# 显示gender对象的摘要信息
> summary(gender)
女 男 
 2  3 

# 显示gender对象中每个水平的计数
> table(gender)
gender
女 男 
2 3

is和as的区别

is.***()函数用于判断一个对象是否属于某个特定的类别，返回一个逻辑值。
as.***()函数则用于将一个对象转换为指定的类别，返回一个转换后的对象。

vector和list的区别

类型：
- vector是一种简单的数据结构，其中所有元素必须是相同的类型。
- list是一种复杂的数据结构，其中每个元素可以是任意类型的对象。
长度：
- vector必须是一个固定长度，一旦创建就不能更改。
- list的长度是可变的，可以随时添加或删除元素。
索引：
- vector中的元素可以使用整数索引来访问，例如x[1]表示访问x中的第一个元素。
- list中的元素可以使用名称或位置索引来访问，例如x[[1]]表示访问x中的第一个元素，x[["name"]]表示访问x中名称为"name"的元素。

函数

给一个函数，写法如下。显然，该函数是计算输入的平均值。

算法(COMP202)

Sun, 05 Feb 2023 08:42:27 +0000

COMP202 笔记

High-level Petri Net(COMP201)

Wed, 11 Jan 2023 20:47:53 +0000

复（预）习过程中遇到Petri net，记录一下

Petri Net是一种系统模型。因为不确定哪个transition会先fire，所以它是非确定性的，通常被用于建立离散分布式系统。

Leetcode每日一题

Sat, 07 Jan 2023 09:36:47 +0000

总结每天学到的知识点和有价值的题型

数据库复习笔记(COMP207)

Tue, 03 Jan 2023 20:28:22 +0000

Weekly Assessment 错题知识点复习

Week 1

insert语句语法

insert into table_name VALUES (value1, value2)

创建外键语法

CONSTRAINT fk_name FOREIGN KEY (从表的属性名) REFERENCES 主表(主表的属性名)

有两个表A(a), B(b)。a是主键，b通过外键连向a，即B表索引自A表。此时，只有对B表进行删除操作是肯定可行的。

详解java中的几种hash

Sun, 01 Jan 2023 15:37:32 +0000

刷leetcode总能看见哈希表，对哈希表有大致的了解，但是一直不知道HashTable，HashMap和HashSet在Java中的区别。今天看到一个博主的文章再结合官方文档的学习，受益良多，记录一下。

低开高走的一年

Sat, 31 Dec 2022 10:56:24 +0000

2022，低开高走并且创出新高的一年。

git版本控制

Fri, 30 Dec 2022 22:51:29 +0000

贴标签命令实现版本控制

Zotero快速上手

Fri, 30 Dec 2022 14:58:23 +0000

生成Reference的神器

荒诞与真理

Fri, 16 Dec 2022 17:24:27 +0000

大家都是幸运者，世界上只有幸运者。有朝一日，所有的其他人无一例外，都会被判死刑，他自己也会被判死刑，幸免不了。

这两天在赶due，总会心烦意乱，于是找到了《局外人》这本书，花了两天的空闲时间读完了这个哲学（？）著作。

代码上传至github

Fri, 16 Dec 2022 16:04:33 +0000

先在github建立一个远程仓库，可以全部是默认设置
全局声明git的用户认证信息

git config --global user.name "name"

git config --global user.email "email@gmail.com"

其中name写自己的名字，email@gmail.com写自己的email

CYK(COMP218)

Fri, 09 Dec 2022 14:41:23 +0000

CYK——非常高效的解析算法

💭 关于

Wed, 07 Dec 2022 12:22:28 +0800

🧑🏻‍💻 可以叫我Martin / Martingale
🌊 专注于底层逻辑思考的学习者
🎓 本科毕业于英国利物浦大学，计算机科学，荣誉一等学位
📚 目前就读于英国爱丁堡大学，人工智能硕士
💭 热爱开源，学习无止境

我最近在干什么？

🪜 现在正在研究…

重置服务器系统后，ssh连接失败

Tue, 06 Dec 2022 22:34:10 +0000

重置服务器系统后。当使用远程ssh连接后，会显示连接失败。
这里直接给出解决办法(仅以macOS为例):

打开终端
输入

vim ~/.ssh/known_hosts

vim会打开该文件，向下翻，找到服务器对应的IP
按下v进入visual模式，使用方向键选择要删掉的内容（服务器IP对应的内容都要删掉）, 按下d
或者，按下i进入insert模式，一个一个删除
按下esc键，输入:wq+回车，任务完成切记：一定要在英文输入法情况下按esc切换状态，中文输入模式下按esc不管用的！！！

对汇编语言中DF标志，CLD，STD，REP等指令的理解

Tue, 16 Nov 2021 20:30:41 +0100

看了几篇博客，感觉博主们把问题描述的好专业，导致本菜看不太懂qwq，这里写下我的个人理解，还望各位大佬多多指正，谢谢！

首先，DF作为标志寄存器的一个位，其值只能是0或1。

Martin's space

LoRA 微调的云上漂流

Preference Alignment on Diffusion Model: A Comprehensive Survey for Image Generation and Editing

从RNN到Transformers

递归神经网络

强化学习

多臂老虎机问题(MAB)

符号&问题定义

时序分析/预测

时间序列

可视化三种时间序列

数据填充技术

Llama.cpp本地CPU部署大模型

引言

多智能体系统(COMP310)

Intelligent Agents

Properties in Environment (环境性质描述)

Social ability (社交能力)

Abstract Architectures for Agents (代理的抽象架构)

Love with YOYO

Daily in Edinburgh

云计算(COMP315)

虚拟机

高性能计算(COMP328)

Week1

一些常用术语

如何量化/评估性能

前端刷题笔记

基础数据结构

Canonical coins system

金融市场交易(COMP226)

R语言基础（W1）

基本数据类型

is和as的区别

vector和list的区别

函数

算法(COMP202)

High-level Petri Net(COMP201)

Leetcode每日一题

数据库复习笔记(COMP207)

Weekly Assessment 错题知识点复习

Week 1

详解java中的几种hash

低开高走的一年

git版本控制

Zotero快速上手

荒诞与真理

代码上传至github

CYK(COMP218)

💭 关于

我最近在干什么？

重置服务器系统后，ssh连接失败

对汇编语言中DF标志，CLD，STD，REP等指令的理解