一、前言
llama2作为目前最优秀的的开源大模型，相较于chatGPT，llama2占用的资源更少，推理过程更快，本文将借助llama.cpp工具在ubuntu(x86\ARM64）平台上搭建纯CPU运行的中文LLAMA2中文模型。
二、准备工作
1、一个Ubuntu环境（本教程基于Ubuntu20 LTS版操作）
2、确保你的环境可以连接GitHub
3、建议至少60GB以上存储空间（用于存 阅读全部
---以下是 Ubuntu 20.04安装指定版本mongodb的命令，以下以安装4.4系列的4.4.22版本为例，共4行---wget -qO - https://www.mongodb.org/static/pgp/server-4.4.asc | sudo apt-key add -
echo "deb [ arch=amd64,arm64 ] ht 阅读全部
温馨提示：本文所述内容具有依赖性，可能因软硬条件不同而与预期有所差异，故请以实际为准，仅供参考。最近一段时间通过 SSH 登录 Ubuntu 系统 VPS，有时提示 *** System Restart Required ***，即便重启了，过一段时间又出现这个提示，而实际上在这期间并没有对系统进行过任何操作。问题分析出现 *** System Restart Required *** 这个提示，说明存在 /var/run/reboot-required 文件，Ubuntu 软件包可以在安装时通 阅读全部
使用KEY或LINEAR KEY时，所有奇数编号分区（p1, p3, p5, … , p2n-1）中居然没有一条数据，同时，任何一个偶数编号分区却有很多的数据，而且还不是很均匀。如下图所示：MySQL key 分区原理KEY分区的原理：通过MySQL内置hash算法对分片键计算hash值后再对分区数取模，详见：https://dev.mysql.com/doc/refman/5.7/en/partitioning-key.html按键分区与按哈希分区类似，不同的是，哈希分区使用用户定义的表达式， 阅读全部
如果您的 PHP 环境证书有问题，可能会遇到报错，类似于cURL error 60: See http://curl.haxx.se/libcurl/c/libcurl-errors.html，请尝试按以下步骤解决：到 https://curl.haxx.se/ca/cacert.pem 下载证书文件cacert.pem，将其保存到 PHP 安装路径下。编辑 php.ini 文件，删除curl.cainfo配置项前的分号注释符（;），值设置为保存的证书文件cacert.pem的绝对路径。重启依赖 阅读全部
正则表达式语法中的断言，有的书上也称该语法为预查或者环视，都是一样的用法。有如下语法： (?=pattern) 零宽正向先行断言 (?!pattern) 零宽负向先行断言 (?<=pattern) 零宽正向后行断言(?<!pattern) 零宽负向后行断言例如：正则表达式(?!pattern) 是零宽负向先行断言，它会往后匹配pattern，匹配到的位置在pattern之前，并且匹配到的字符串必须不满足pattern。1、前置前项肯定?<=前面必须 阅读全部
结论：在 /etc/fstab 配置文件中，使用什么形式的名称来标识和挂载磁盘：1、如果不会发生磁盘硬件增删、交换接口位置的情况下，通常采用 /dev/sdx 的形式。2、如果有可能发生磁盘硬件增删、交换接口位置，但不会发生磁盘LVM扩容或重新格式化的情况，可选 /dev/disk/by-uuid 。安装系统时，系统盘默认采用此方式，也是较为易用的方式。3、如果有可能发生磁盘硬件增删、交换接口位置，也可能发生扩容或重新格式化的情况，但不会使用多路径设备的情况下，dev/disk/by- 阅读全部
确认要合并的硬盘已经安装并挂载到系统上。安装LVM软件包。在终端中输入以下命令：sudo apt-get install lvm2创建物理卷。在终端中输入以下命令，将/dev/sdb1和/dev/sdc1分别创建为物理卷：sudo pvcreate /dev/sdb1 /dev/sdc1
sudo pvcreate /dev/sda /dev/sdd # 我用的命令创建卷组。在终端中输 阅读全部
NUMA的含义，简单点说，在有多个物理CPU的架构下，NUMA把内存分为本地和远程，每个物理CPU都有属于自己的本地内存，访问本地内存速度快于访问远程内存，缺省情况下，每个物理CPU只能访问属于自己的本地内存。对于MongoDB这种需要大内存的服务来说就可能造成内存不足。需要使用numactl以使单颗CPU能访问所有内存。 如果你是单颗CPU，或mongdo占用不会超过整体内存的一半，大概不需要此设置。有测试在mysql上，此项配置对性能影响约10%。Ubuntu 安装 numa 阅读全部
某些时候，mysql的数据目录data需要重置，如在彻底删除data后，会导致mysql无法启动。这个时候需要重启初始化一次data目录。重新初始化可按以下步骤操作：rm -rf /mysql/data/*
mysqld --initialize以上过程中，会为root自动生成一个密码，请注意保存然后再对目录进行重新分配用户chown -R mysql:mysql /mysql/data/再重启mysql即可。此方法生成的 阅读全部
主库能影响从库IO的几个参数： sync_binlog = 1000 binlog_group_commit_sync_delay = 3000 binlog_group_commit_sync_no_delay_count = 0 从库设置（8.0后为replica_开头，之前为 slave_ 开头）： transaction_write_set_extraction = XXHASH64 replica_parallel_type = LOGICAL_CLOCK 阅读全部
mysql5.7升级 到mysql8.0 兼容性问题 - mysql8.0不支持mysaim分区，有mysaim分区的需转为innodbmysql5.7升级 MariaDB 10 兼容性和性能 - mariadb 默认没有 ngram推荐升级到8.0.26以上，磁盘格式用 XFS 阅读全部
这个功能主要包括三个部分夜间模式开关按钮：用来手动切换夜间模式的，自动存储显示模式 Cookie。自动夜间模式：当显示模式 Cookie 为空时并且浏览器时间大于等于22点小于6点时会自动进入夜间模式，并存储 Cookie。后端处理：PHP判断是否有显示模式 Cookie，有的话直接输出夜间 class，避免进入时网页闪烁。具体操作自动根据时间输出夜间模式类名<body class="<?php if ($_COOKIE['nightM 阅读全部
常见与系统档案缺失相关，建议您：----------------------------------------（一）重新注册dll文件：1. 请在开始菜单中搜索【命令提示符】，右击【以管理员身份运行】2. 输入以下命令：for %1 in (%windir%\system32\*.dll) do regsvr32.exe /s %1for %i in (%windir%\system32\*.ocx) do regsvr32.exe /s %i3. 完成后重启电脑，查看问题能否解决------ 阅读全部
【前言】在配置主从的时候经常会用到这两个语句，刚开始的时候还不清楚这两个语句的使用特性和使用场景。 经过测试整理了以下文档，希望能对大家有所帮助； 【一】RESET MASTER参数 功能说明：删除所有的binglog日志文件，并将日志索引文件清空，重新开始所有新的日志文件。用于第一次进行搭建主从库时，进行主库binlog初始化工作； 注意reset master 不同于purge binary log的两处地方1. reset master 将删除日志索引文件中记录的所有 阅读全部
前言：从mysql5.7升级到mysql8.0需谨慎mysql被收购后，新版本向下兼容变得越来越差，如果盲信升级，不小心就掉坑了。这就不难理解为什么mysql创始人 Monty (全名Ulf Michael Widenius) 要重新开发兼容mysql的mariaDB来应对改变。建议升级前，仔细阅读官方的升级日志，查看具体有哪些细节变化：https://dev.mysql.com/doc/relnotes/mysql/8.0/en/ 有些变化可能未在其中明确说明，那么就需要自己在线下试运行一段时 阅读全部
在《技术译文 | MySQL 8 需要多大的 innodb_buffer_pool_instances 值（上）》中我们在 innodb_buffer_pool_size=25G 的条件下进行了对 innodb_buffer_pool_instances 不同值的测试。本文将重复该测试，大小为 100GB 的数据库 innodb_buffer_pool_size=140G，这将是 CPU 密集型的情况。基准测试硬件配置表System | Supermicro; SY 阅读全部
作者：Vadim Tkachenko
翻译：管长龙
本文来源：https://www.percona.com/blog/2020/08/13/how-many-innodb_buffer_pool_instances-do-you-need-in-mysql-8/
我曾经在文章《MySQL 5.7 安装后的性能调优》（文末链接）和《MySQL 101：调整 MySQL 性能的参数》（文末链接）中谈到过 innodb_buffer_ 阅读全部
1 工具介绍mydumper 是一款社区开源的逻辑备份工具。该工具主要由 C 语言编写，目前由 MySQL 、Facebook 等公司人员开发维护。官网地址：https://launchpad.net/mydumperGitHub 地址：https://github.com/maxbube/mydumper参考官方介绍，mydumper 主要有以下几点特性：支持多线程导出数据，速度更快；支持一致性备份；支持将导出文件压缩，节约空间；支持多线程恢复；支持以守护进程模式工作，定时快照和连续 阅读全部
执行以下步骤之前，先在防火墙中放开指定IP的27017端口TCP连接。mongodb复制集设置步骤假设有2个节点，分别是：192.168.3.190:27017 和 192.168.3.192:270171、在各个节点的 config 文件中，设置复制集配置信息。绑定各自对外IP （推荐用内网IP，如使用公网IP，需同时指定密码）在主节点：net:
port: 27017
bindIp: 127.0.0.1,192.168. 阅读全部
‹‹
1
2
3
4
5
6
7
8
9
10
>
››