在手机(android)上运行AI大模型llama3、phi3、qwen

这里测试的是 andorid 系列手机

Release v0.118.0 · termux/termux-app (github.com) 上下载 termux

选择一个下载,我的是小米 14 pro,需要授权,我选择

或是自己手动编译

1. 更新termux

所有提示,按回车

2. 安装 proot-distro

3. 安装 debian

4. 进入 debian

5. 安装 ollama

curl -fsSL https://ollama.com/install.sh | sh

6. 运行 ollama 服务

7. 打开另一个会话

切换到手机桌面,然后按住 termux 图标,会弹出 New Session, 点击一下,这样就新建了一个会话。

8. 新会话进入 debian

9. 下载并运行模型

保持你系统上最少有个5G以上的空间,因为模型phi3和qwen 大约需要2.3G,llama3 大约4.7G 空间,

9.1 运行 llama3

9.2 运行 qwen

10. 退出聊天会话和所有会话

10.1 退出聊天会话

直接输入 /bye 就退出聊天会话

10.2 退出当前会话

两次输入 exit,就可以退出当前会话

10.3 退出 ollama 服务

退出聊天会话后,应该会自动到服务界面,点击 输入框上面的 CTRL 然后,再点击 C,就可以退出服务了。

10.4 退出 termux

再两次输入 exit, 退出 termux

11. 电脑上操作手机

需要更高的linux 知识

11.1 获得当termux 前用户名

获取 termux 当前用户名,可以使用 whoami

从显示来看,可以看出用户名是 u0_a259

11.2 修改当前用户的密码

输入 passwd 就可以输入新的密码,需要两次确认

11.3 安装 ssh 服务

11.4 启动 ssh服务

11.5 查看当前的IP地址

输入 ifconfig 就可以当前手机的所有IP地址

我手机上显示的连接wifi 的地址是 192.168.100.200

11.6 远程连接手机上的termux

sshd 默认打开的端口号是8022,加上你电脑和手机连上的wifi 分配的IP地址就可以通过ssh 客户端连接了。

这样,在电脑上操作手机就方便多了。

发表评论

您的电子邮箱地址不会被公开。 必填项已用 * 标注

滚动至顶部