连接远程Linux服务器并运行LLM

前两天开会,实验室老师说让我们自己跑一下LLM大模型,体会一下以启发自己的思路。老师给了一个他的linux服务器的用户名与密码,还有一个LLaMA-Factory的库,那么就开始接下来的实验了。

因为从来没有用过linux系统,之前跑模型都用的趋动云,无脑操作。所以整个摸索就要从linux学习起来。(刚开始老师丢给我一个ssh的用户名和密码,我居然不知道是什么,还在群里问。。。丢脸)


下面分两个阶段记录:
1.连接远程linux服务器
2.LLaMA-Factory摸索


1.连接远程Linux服务器

1.1服务器连接

老师给的服务器的格式:用户名@主机 -p端口号 密码
登录方式有ssh登录和用户密码登录,因为我已经有了用户和密码,所以就直接用用户密码登录。详细教程见详解如何SSH远程登录自己的Linux服务器_

我的系统是windows10,自带ssh客户端。 详细教程win10使用自带ssh连接远程Linux服务器
我打开设置,没有“可选功能”这一项,如下图:Alt text
可以搜索并点击(其实通过搜索可以发现我的电脑上可选功能在系统这一栏的设置中)Alt text 可以看到我已经下载了OpenSSHAlt text
但是在终端连接服务器依然报错ssh不知道是什么,经过搜索,发现原来是没有将OpenSSH路径加入到系统环境变量中。找到OpenSSH的安装路径,加入环境变量之后再连接,成功。
Alt text
Alt text

1.2创建环境

为了便于管理,要与训练自己的模型,新建一个虚拟环境 Alt text
Alt text

1.3向服务器传文件

用FileZilla。 Alt text


2.LLaMA-Factory摸索