连接远程Linux服务器并运行LLM
连接远程Linux服务器并运行LLM
前两天开会,实验室老师说让我们自己跑一下LLM大模型,体会一下以启发自己的思路。老师给了一个他的linux服务器的用户名与密码,还有一个LLaMA-Factory的库,那么就开始接下来的实验了。
因为从来没有用过linux系统,之前跑模型都用的趋动云,无脑操作。所以整个摸索就要从linux学习起来。(刚开始老师丢给我一个ssh的用户名和密码,我居然不知道是什么,还在群里问。。。丢脸)
下面分两个阶段记录:
1.连接远程linux服务器
2.LLaMA-Factory摸索
1.连接远程Linux服务器
1.1服务器连接
老师给的服务器的格式:用户名@主机 -p端口号 密码
登录方式有ssh登录和用户密码登录,因为我已经有了用户和密码,所以就直接用用户密码登录。详细教程见详解如何SSH远程登录自己的Linux服务器_
我的系统是windows10,自带ssh客户端。 详细教程win10使用自带ssh连接远程Linux服务器
我打开设置,没有“可选功能”这一项,如下图:
可以搜索并点击(其实通过搜索可以发现我的电脑上可选功能在系统这一栏的设置中)
可以看到我已经下载了OpenSSH
但是在终端连接服务器依然报错ssh不知道是什么,经过搜索,发现原来是没有将OpenSSH路径加入到系统环境变量中。找到OpenSSH的安装路径,加入环境变量之后再连接,成功。
1.2创建环境
为了便于管理,要与训练自己的模型,新建一个虚拟环境
1.3向服务器传文件
用FileZilla。