跳到正文
虎嗅· AIGC从0到1 ·· 1 天前AI 评分41

企业要不要自托管模型:Revolut 用约 56 块 B200 把推理成本压到每百万 token 0.30 美元

企业要不要自托管模型?从购买智能到控制智能

AI 导读

Revolut 约 2000 名工程师以 GLM 为默认编码模型,用约 56 块 B200 GPU 自托管推理,公开口径的混合推理成本约为每百万 token 0.30 美元,约为此前 Anthropic/OpenAI 账单的十分之一。

来源:虎嗅 · huxiu.com