带你体验AI系列之云原生最佳实践--免费体验GPT-4教程

前言

​ 【GPT-4】是OpenAI最新推出的大型语言模型,它支持图像和文本输入,以文本形式输出。它比GPT-3.5更大、更强、更猛。最重要的是据与研究表明,他在某些场景下,可以通过图灵测试。但是,却缺点是收费,不像GPT-3.5那样容易白嫖。不过今天我就带你嫖一手,真香警告!本教程可称为云原生最佳实践之一。

图灵测试是一种测试人工智能(AI)系统智能程度的方法。该测试以英国数学家和计算机科学家艾伦·图灵(Alan Turing)的名字命名,旨在判断机器是否能够表现出与人类相似的智能行为。

图灵测试的基本思想是在一个特定的情境下,人类评判者与一个隐藏在屏幕后的实体进行对话。这个实体可以是一个人或一个机器。如果评判者无法确定与其对话的是人还是机器,那么机器通过了图灵测试。

一、GPT-4 和 GPT-3.5有什么区别

  • GPT -4是GPT- 3的10-100倍规模,参数量可能达到十亿级,语言理解和生成能力将远超GPT -3。
  • GPT-4是一种多模态模型,而GPT-3.5是一种自然语言处理模型。
  • GPT -4在设计中更注重安全性和可解释性,产生的回答更准确可靠,避免有害或不实信息。
  • GPT-4可接收的文字输入长度可达到的32000字,而GPT-3.5只有3000字。

重点:GPT-4需要充值才能使用,就算你充值了PLUS会员,也有限制3小时25次,而且GPT-4 API比3.5的贵多了,贵就算了一般人还申请不到GPT-4 API,现在都炒到2000块了。

但是,来都来了,今天带你体验一下GPT-4的自然语言处理能力,顺便感受一下云原生。

二、注册账号

​ 这里注册账号不是注册openai账号,而是forefront账号,就是一个接入GPT-4的第三方应用。

forefront 的 GPT-4 模型是免费的但是有限制的,每个账号每 3 小时内只能发送 5 条消息。那么怎么解决狼多肉少的问题呢?就是注册很多账号轮着用不就可以了。

​ 每个邮箱只能注册一个forefront账号,所以我们需要用到临时邮箱服务 RapidAPI。你可以通过这个 API 来获取临时邮箱,然后再用这些临时邮箱去注册 forefront 账号。

​ 免费的订阅每天可以调用100次,就是可以注册100个forefront账号,不够用的老板可以搞个10美金的订阅。有了用不完的账号之后要舒服地用上可能得花点小钱,因为需要用云原生技术运行,要么自己本地运行,要么借助sealos等云原生平台。

订阅完后就可以得到一个key,后面会用到。

二、借助sealos接入应用

什么是云原生(cloud native),简单说云原生就是一种以容器、微服务、弹性和自动化为核心的软件开发和部署方法,旨在实现高效、可靠、可扩展的云计算应用程序。Sealos 云操作系统就是一个云原生平台。

众所周知的K8s可以把集群机器的 CPU 和内存看成一个整体,而sealos就是以k8s为内核的一个云操作系统,是有简洁的交互界面的,不会像windows那样弹窗广告的。

对于小白,可以使用sealos的交互界面体验云原生的魅力,对于专家大佬,可以使用终端一顿输出。

Kubernetes Dashboard、Rancher、KubeSphere 、 Kuboard,都可以作为 App 装在Sealos云操作系统中

重点

我们是用gpt4free-ts来嫖的,它是GPT4Free的TypeScript版本。它是以API的形式便于你的调用GPT-4,有stream流式接口和正常格式接口2种选择。

如果自己用可以单机运行,或者只运行一个实例,多个人使用就要部署集群,因为GPT-4是有并发限制的,多个实例负载均衡就可以解决。每个实例可以跑多个号,当一个号次数用完会自动切换可用的号或者注册一个新号。

下面我们来部署一个gpt4free-ts集群:

启动参数设置:

  • 应用名称随便写,比如 gpt4free。

  • 镜像名称是:xiangsx/gpt4free-ts:latest

  • 重点:CPU 和内存需要根据应用的实际情况来填写。这个应用运行之后默认会启动两个 Chrome 浏览器来模拟登录 forefront,每次对话会从里面取一个账号来使用,次数用完了会自动注册新账号(因为每个账号每 3 小时只能发送 5 条信息)。我们可以通过环境变量来修改启动的浏览器数量,所以需要根据你的浏览器数量来确定 CPU 和内存。

    因为这个应用不是很吃CPU,所以3个浏览器推荐0.5C 2G配置,以此类推。如果配置不够自行调整,通过监控判断。

  • 实例数根据自己的实际需求填写,前面说过了是解决并发问题。这玩意儿烧钱的,不要往死里开。虽然按我的配置一个实例大概1毛左右一小时。

  • 容器暴露端口指定为 3000。

  • 打开外网访问。

  • 打开高级设置,配置环境变量,可以理解为docker容器的环境变量,这里配置每个实例启动的浏览器数量。

    # 这个key就是刚开始的那个RapidAPI key
    rapid_api_key=<rapid_api_key>
    DEBUG=0
    # 浏览器数量
    POOL_SIZE=3
    
  • 配置存储卷,容量只需 1G,挂载路径设置为 /usr/src/app/run,存储卷是最便宜的,但是够用就好。

  • 点击部署即可完成白嫖

    存储卷的作用是为了保存已登录的账号。已经注册的账号 3 个小时以后还可以重新使用,不用再浪费邮箱去注册新账号。

测试接口


完美收工,接入应用就调用get接口就可以了。返回数据可能比较慢,要么loading要么使用流式。我选择简单的,直接loading。接入小程序需要配置可信域名,所以我用自己的小程序后端做转发接入我的【土豆Tudo】,目前还没上线,体验和上一期的Claude是差不多的只是模型换成GPT-4,因为我的sealos余额只有3块多了,过两天再上线把余额贡献出来。

【土豆Tudo】小程序现在可以免费体验Claude,凑合着先用吧。

引用链接

[1]GPT4Free: https://github.com/xtekky/gpt4free

[2]gpt4free-ts: https://github.com/xiangsx/gpt4free-ts

[3]forefront.ai: https://chat.forefront.ai/

[4]RapidAPI: https://rapidapi.com/calvinloveland335703-0p6BxLYIH8f/api/temp-mail44

[5]Sealos:https://cloud.sealos.io

总结

​ 我觉得现在人工智能虽然很火,但是好戏才刚刚开始,不用过于焦虑。还是那句话,人工智能淘汰的是码农不是程序员(software engineer 软件工程师),我们要学会利用人工智能,用AIGC创造价值,不一定是赚大钱,只要对你来说有用有帮助,就是有价值的。

需要体验GPT-3.5、plus GPT-4.0 可到 玛卡巴卡和他的猫 公众号了解。

posted @ 2023-06-09 20:45  土豆GPT  阅读(1274)  评论(5编辑  收藏  举报