李涛自留地
回到顶部

大模型api平台怎么选?按计费方式和限流规则取舍

调用别家训好的模型跑自己的业务,中间那层把接口、密钥、额度、账单和限流包在一起的服务,就是大模型api平台。它卖的不是模型本身,是模型的接入方式。同一套权重,换一家平台,计价方式、允许的速率、能吃的上下文长度可以完全不同。选型要做的,是把这三张表摊开对着自己的流量算一遍,而不是看谁家模型榜单排得高。…

硅基流动配置模型怎么填?3个参数改完就能跑通

上游 SDK 从 0.x 升到 1.x 之后,内部问答服务的请求全变成 400。代码没动,硅基流动配置模型本身也没换,错的是三个必填项的填法。代码逻辑没坏,我把最终 URL 和请求体打到日志里才看清,卡住的只有这三个值。 三个参数,改完就能发出请求 要动的就是 base_url、api_key、mo…

hermes接入agnes-ai API实现免费文本生成、文生图、图生图、图生视频

图片、视频作为互联网产物的一部分,自诞生以来一直都是互联网最为重要的组成部分,一篇文章少了图片就像是少了灵魂,而视频更是如今短视频时代不可或缺的关键媒介。在AI爆发的现今,本地部署大模型来实现文生图、图生图、图生视频、视频生视频,是很多公司的选择之一,但是随着需求的日益剧增,一些计算机硬件也从202…