最近写了一个字幕翻译的小网页，调用了 字节火山引擎 和 OpenAI 的人工智能 API 来实现文本翻译，部署在 Netlify 和 Vercel 上。欢迎大家试用：字幕翻译 - 字幕工具箱
这里向大家推荐一个人工智能 API：字节火山引擎。字节火山引擎是字节跳动推出的一款人工智能 API，提供了多种功能，包括文本翻译、语音识别、语音合成、图像识别等。
火山引擎-云上增长新动力
登录注册及认证
注册登录后，需要进行实名认证，输入姓名、身份证号、摄像头扫描人脸信息，完成实名认证。
我认证完使用了一两天，还是会收到火山引擎的销售电话，问我如果免费额度用完了，要不要续费。
这种情况下，有人会觉得侵犯隐私了。我觉得还好，毕竟人家也没强制我续费。
开通服务并升级5亿Token
其实火山引擎是一个云平台，而火山方舟是火山引擎旗下的大模型服务平台。
什么是火山方舟–火山方舟大模型服务平台-火山引擎
火山方舟(VolcanoArk)，是火山引擎旗下大模型服务平台。 “火山方舟”集成了百川智能、出门问问、复旦大学MOSS、IDEA研究院、澜舟科技、MiniMax、智谱AI等多家AI科技公司及科研院所的大模型 。
点击管理控制面板，全选所有模型，点开通服务。开通之后，再升级到5亿Token。
火山方舟管理控制台
设置API Key，定制化模型
设置API Key，创建模型推理接入点(模型实例ID号，如：ep-20240619055155-hz26z)，就可以调用API了。
调用API
火山方舟 v3 API 与 OpenAI API 协议兼容，您可以使用火山引擎官方 SDK，也可以使用 OpenAI SDK 或其他兼容 OpenAI API 协议的多语言社区 SDK 调用火山方舟推理服务。
这一点是非常棒的，相信很多人都写过 OpenAI 的代码，直接套用就可以了。
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
|
import OpenAI from 'openai';
const openai = new OpenAI({
apiKey: process.env['ARK_API_KEY'],
baseURL: 'https://ark.cn-beijing.volces.com/api/v3',
});
async function main() {
// Non-streaming:
console.log('----- standard request -----')
const completion = await openai.chat.completions.create({
messages: [
{ role: 'system', content: '你是豆包，是由字节跳动开发的 AI 人工智能助手' },
{ role: 'user', content: '常见的十字花科植物有哪些？' },
],
model: 'ep-20240619054520-4sp8k',
});
console.log(completion.choices[0]?.message?.content);
// Streaming:
console.log('----- streaming request -----')
const stream = await openai.chat.completions.create({
messages: [
{ role: 'system', content: '你是豆包，是由字节跳动开发的 AI 人工智能助手' },
{ role: 'user', content: '常见的十字花科植物有哪些？' },
],
model: 'ep-20240619054520-4sp8k',
stream: true,
});
for await (const part of stream) {
process.stdout.write(part.choices[0]?.delta?.content || '');
}
process.stdout.write('\n');
}
main();
|
模型广场与体验中心
如果你不想自己开发，可以直接使用火山引擎的模型广场和体验中心。
火山引擎模型广场
总结
通过接近一周的使用，感觉火山引擎的模型质量还是不错的，而且免费额度也比较大，5亿Token，可以满足大部分需求。
我感觉他的Token是很便宜的，大家可以对照着价格表计算一下。如果按0.0020 元/千tokens计算，5亿Token也相当于送了大伙儿几千元。如果按照月之暗面模型Moonshot-v1-128k - 0.0600 元/千tokens的价格，相当于送大家几万元。当然，月之暗面模型不在免费额度活动中，这是屁话。
参考资料
