猴哥的第 85 期分享,欢送逃瞅
现在干年夜模子,另有靠谱且免费的 API 交心吗?
靠谱的没有免费,免费的没有靠谱,鱼战熊掌不成兼患上?
非也!
关于简朴的指令而行,尽年夜部门免费 LLM 仍是能挨的,原文便给各人盘点:猴哥亲测佳用的免费的 API 交心!
1.免费 LLM API 汇总(连续革新中)
年夜模子 | 免费版原 | 免费限定 | 备注 | API | 讯飞星水年夜模子 | spark-lite | Tokens:总质没有限;QPS:2 | 链交 | baidu千帆年夜模子 | ERNIE-Speed-128K | RPM=60,TPM=300000 | 链交 | ERNIE-Speed-8K/ERNIE-Lite-8K/ERNIE-Tiny-8K | RPM=300,TPM=300000 | 腾讯混元年夜模子 | hunyuan-lite | 限定并收数 5 | 链交 | 智谱 AI 年夜模子 | glm-4-flash | 限定并收数 5 | 自戴联网搜刮,撑持微调 | 链交 | 墨客浦语年夜模子 | internlm2.5-latest | RPM=10, TPM=5000 | 需恳求使用 | 链交 | Llama Family | Llama3-Chinese-8B-Instruct/Atom-13B-Chat | 8-22 面:RPM=20;22-越日 8 面:RPM=50 | 链交 | Groq | ge妹妹a-7b-it/llama-3.1-70b等 | RPM=30, RPD=14400 | 链交 | Google Gemini | gemini-1.5-flash/gemini-1.0-pro | RPM=15, TPM=100万, RPD=1500 | 链交 | gemini-1.5-pro | RPM=2, TPM=3.2万, RPD=50 | text-embedding-004 | RPM=1500 | 硅基举动 | Qwen2-7B-Instruct等 | RPM=100,QPS=3 | 链交 |
❝
RPM:每一分钟处置的恳求数目;TPM:每一分钟处置的Token数目;RPD:天天处置的恳求数目;QPS:每一秒内乱处置的恳求数目;并收数:体系共时处置的恳求数目。
交下来,咱们共同梳理下各野的 API 挪用示例代码,和怎样把它们交进 OneAPI,便利散成到兼容 OpenAI 格局的使用中!
对于怎样使用 OneAPI,能够围不雅学程:OneAPI-交心办理战散发神器。
2. 讯飞星水年夜模子
挪用示例代码睹:拒绝Token焦炙,盘点可利剑嫖的6款LLM狂言语模子API
固然,更繁复的方法是:交进 OneAPI!
增加一个新的渠讲,范例挑选讯飞星水认知,模子处脚动挖进spark-lite。
3. baidu千帆年夜模子
起首,到千帆仄台上保守免费的模子:https://console.bce.百度.com/qianfan/ais/console/onlineService
而后,到使用交进中创立使用,获得API Key、Secret Key
最初,挪用示例代码:
import requests
import json
API_KEY = "xxx"
SECRET_KEY = "xxx"
def get_access_token():
"""
使用 AK,SK 天生鉴权署名(Access Token)
"""
url = "https://aip.百度bce.com/oauth/2.0/token"
params = {"grant_type": "client_credentials", "client_id": API_KEY, "client_secret": SECRET_KEY}
return str(requests.post(url, params=params).json().get("access_token"))
url = "https://aip.百度bce.com/rpc/2.0/ai_custom/v1/wenxinworkshop/chat/ernie_speed?access_token=" + get_access_token()
payload = json.dumps({
"messages": [
{
"role": "user",
"content": "您佳"
},
]
})
headers = {
'Content-Type': 'application/json'
}
response = requests.request("POST", url, headers=headers, data=payload)
print(response.text)
固然,更繁复的方法是:交进 OneAPI!
增加一个新的渠讲,范例挑选baidu文心千帆,模子处只保存您保守的免费模子。
4. 腾讯混元年夜模子
腾讯云的产物,交入地址:https://console.cloud.tencent.com/hunyuan/start
新用户起首要保守,而后面打创立稀钥,到新页里,新修稀钥。
初度忘患上保留!后绝没有撑持盘问!
混元年夜模子的挪用交心,鉴权十分省事,最佳装置它的 SDK中止 使用。
固然,更繁复的方法是:交进 OneAPI!
增加一个新的渠讲,范例挑选腾讯混元,模子处需要脚动挖进hunyuan-lite。
鄙人里的稀钥处挖进您的:APPID|SecretId|SecretKey。
5. Google Gemini
Google Gemini 散成正在 Google AI Studio中。
起首需要创立一个名目,而后获得 API 稀钥。
API 稀钥获得地点:https://aistudio.谷歌.com/app/apikey
正在 API价钱 文档中,能够瞅到各个模子的限速概略:https://ai.谷歌.dev/pricing
挪用示例代码:
import requests
import json
# 树立恳求的URL战API稀钥
url = "https://generativelanguage.谷歌apis.com/v1beta/models/gemini-1.5-flash-latest:generateContent"
api_key = "xxx" #交流 为您的API稀钥
headers = {
"Content-Type": "application/json"
}
data = {"contents": [{"parts": [{"text": "Explain how AI works"}]}]}
response = requests.post(f"{url}?key={api_key}", headers=headers, data=json.dumps(data))
print(response.json())
假设是海内 IP,是调欠亨的,会报上面的毛病:
{'error': {'code': 400, 'message': 'User location is not supported for the API use.', 'status': 'FAILED_PRECONDITION'}}
因而,请自止备佳梯子,或者正在代码中加之外洋 IP 的代办署理!
固然,更繁复的方法是:交进 OneAPI!
增加一个新的渠讲,范例挑选Google Gemini,模子处只保存您保守的免费模子。
6. All in One
假设您借正在果适配各类 LLM 交心而忧?,剧烈举荐使用 OneAPI 办理自己的各类 LLM API!
对于怎样使用 OneAPI,能够围不雅以前的学程:OneAPI-交心办理战散发神器
写正在最初
原文盘点了多少款免费又佳用的 LLM API,并交进了 OneAPI分歧 办理!
您要问今朝那些免费的 API 中,哪一个更能挨?
问:Google 野的 gemini-pro-1.5 指令依照最好,不之一!
没有知您的体会怎样?欢送批评区交换!
假设原文对于您有辅佐,无妨面个免费的赞战珍藏备用。
👇 存眷猴哥,快速初学AI东西
# AI 东西:
当地布置年夜模子?瞅那篇便够了,Ollama 布置战真战# AI 使用:弃坑 Coze,尔把 Dify 交进了小我私家微疑,AI小帮理太强了
华夏版 Whisper 去了,5分钟戴您布置体会
# 服从东西:电脑微疑单启/多启?二种办法任您浮薄,1分钟弄定 |