Llama.cpp本地CPU部署大模型
机器是2021年M1的MacBook Pro,斗胆一试。 引言 master分支的commit记录:2075a66 分别部署了Llama-2-7B-...
机器是2021年M1的MacBook Pro,斗胆一试。 引言 master分支的commit记录:2075a66 分别部署了Llama-2-7B-...
Intelligent Agents Agents are objects with attitude, which are autonomous, smart, active. Properties in Environment (环境性质描述) Fully observable / partially observable Deterministic / non-deterministic Static / dynamic Discrete / continuous Episodic / non-episodic Real time Social ability (社交能力) The ability to interact with other agents via cooperation, coordination, and negotiation. Abstract Architectures for Agents (代理的...
虚拟机 借助虚拟化技术,用户能以单个物理硬件系统为基础创建多个模拟环境或专用资源。“Hypervisor” (虚拟机监控...
Week1 高性能计算的目标 对于有限的数据集,最小化解决时间 对于无限的数据集,最大化吞吐量(throughput) 有能力解决一些对于可用的内存来说太大...
2023年5月7日 为同一个文件添加多种文件格式 <video controls> <source src="html_5.mp4" type="video/mp4"> <source src="html_5.ogv" type="video/ogg"> Your browser does not support the video tag. </video> 为什么要添加多种格式? 解决备份支持和媒体支持 什么是备份支持和...
上星期被算法课考试狠狠拷打,痛思悔过一小时。发现自己学习算法缺乏实际操作,只知理论,操作甚少,导致对理论的理解也十分浅显。 所以从基础数据结构...
今天上算法课的tutorial,主要是讲贪婪算法。老师在课上提到了canonical coins system,但并没有深入讲解。回来看了一篇论文,整个...