企业要不要自托管模型:Revolut 用约 56 块 B200 把推理成本压到每百万 token 0.30 美元
Revolut 约 2000 名工程师以 GLM 为默认编码模型,用约 56 块 B200 GPU 自托管推理,公开口径的混合推理成本约为每百万 token 0.30 美元,约为此前 Anthropic/OpenAI 账单的十分之一。
Revolut 约 2000 名工程师以 GLM 为默认编码模型,用约 56 块 B200 GPU 自托管推理,公开口径的混合推理成本约为每百万 token 0.30 美元,约为此前 Anthropic/OpenAI 账单的十分之一。