跳到正文

#Hugging Face

  1. Hugging Face Blog62

    Hugging Face 与 Thinking Machines Lab 发布本地多模态模型 Inkling 2 Mini

    Hugging Face 与 Thinking Machines Lab 发布面向本地部署的多模态模型 Inkling 2 Mini,采用循环 Transformer 与 MoE 结构,物理参数约 26B、每 token 激活 3B,支持 1M token 上下文和图像输入。

    推荐理由:原文给出循环层架构、跨轮消息机制与多框架推理入口,可据此判断本地部署的取舍。

  1. Hugging Face Blog60

    Hugging Face 将 Inference Providers 路由切换至 OpenRouter

    Hugging Face 与 OpenRouter 合作,把语言模型的 Inference Providers 从自建路由切换到 OpenRouter,按实时价格、速度和可靠性为每次请求选择供应商,失败时在同一调用内重试其他供应商。

    推荐理由:原文交代了路由切换后的重试机制、模型后缀选路方式和计费变化,可据此判断现有调用代码是否需要调整。

已经到底了