本地部署马斯克开源Grok-1大模型,贝锐花生壳3步实现远程访问

2024-08-16 16:39:25 浏览数 (2)

在人工智能的领域,除了广受欢迎的在线工具如 ChatGP T、Midjourney等,还有许多开源且支持本地部署的 AI 工具也值得关注,在满足定制化需求和数据安全方面具有独特优势。结合贝锐花生壳的内网穿透,用户可以轻松实现远程访问这些AI工具,无需复杂的网络配置,这对于需要大量算力的模型尤为实用。

比如,马斯克的xAI也开源了Grok-1,这是一个拥有314B参数的大型语言模型,如运行Grok-1可能需要超过300G显存的GPU。

显然Grok-1需要本地高性能服务器/工作站部署,用户远程通过浏览器Web界面访问,或是App、应用程序通过调用API等形式进行使用。

然而,对于许多希望利用AI工具的用户来说,远程访问这些工具往往面临着公网IP获取困难、端口映射繁琐、路由和网关设置复杂等问题。

以开源、支持本地部署的图像生成模型Stable Diffusion为例,通过Stable Diffusion web UI本地部署后,搭配花生壳内网穿透,简单3步就能实现远程浏览器进行访问、使用。

一、客户端安装与登录:用户访问贝锐官网并下载花生壳客户端。安装完成后,注册一个贝锐账号,并登录花生壳客户端。

二、 内网穿透设置:登录客户端后,进入花生壳云端管理平台。点击“内网穿透”选项——选择“添加映射”——选择“网站应用”

对于常见的网站应用,目前花生壳提供HTTP和HTTPS两种类型可用。

贝锐花生壳HTTP映射:可用于搭建HTTP协议的站点映射,属于非加密访问,建议搭配访问控制提升网站安全性;

贝锐花生壳HTTPS映射:用于创建访问安全加密的站点映射,同时花生壳可自动云端部署证书,本地无需额外申请、设置,非常方便。

三、访问地址生成与使用:根据系统提示,用户需要正确填写相关信息,如 AI 工具的内网地址和端口等。完成设置并保存后,系统会自动生成一个外网访问地址。

用户只需复制这个地址,在远程主机上打开浏览器并输入该地址,即可访问并使用本地部署的AI工具,如 Stable Diffusion web UI,进行 AI 绘画创作。

总之,贝锐花生壳以其独特的内网穿透技术和用户友好的操作界面,为 AI 工具的远程访问提供了一种全新的解决方案。无论是企业用户还是个人开发者,都可以利用贝锐花生壳轻松实现 AI 工具的远程使用,推动 AI 技术的创新和应用。

0 人点赞