JOTO
Contact us
← AI 智库
模型与技术专题

开源模型

整理开源模型相关的技术判断、实施方法与企业级实践,重点关注可部署性、安全性和业务价值。

相关文章

2409 篇高质量内容
开源模型
开源模型
开源模型

page-harness开源:一键启动、在线编辑、团队合作,把正在运行的网页变成 Coding Agent 的工作台

page-harness 是一个开源工具,通过一行命令 npx page-harness 即可将任意运行中的网页升级为 AI 编码 Agent 工作台。支持精准取点、在线编辑、多候选方案实时对比、安全团队协同评审,并开箱兼容 Claude Code、Codex、Cursor Agent 等五大主流 CLI 工具,所有数据本地存储,零账号、零云端中转。

大语言模型
大语言模型
大语言模型

月之暗面Kimi K3.1 Pro发布:3万亿参数开源权重在即,多任务智能体能力跃升但陷付费推广争议

月之暗面发布Kimi K3.1 Pro——3万亿参数大模型,第三方评测中多项指标领先GPT-6 Astra与Muse Wonder;拟于2026年11月4日开源权重,成全球最强开源LLM候选;但遭X平台曝光涉嫌要求网红隐匿付费合作,引发合规风险。

开源模型
开源模型
开源模型

OpenAI Evals技术拆解:Agent评测的入门教科书

OpenAI Evals 是一个开源评测框架,核心是标准化的注册表机制、严格可复现的日志体系和模型即裁判(LLM-as-a-Judge)范式。它支持从单轮文本生成到多步 Agent 行为轨迹的评估,通过 JSONL 数据集、YAML 配置与解耦的 Solver/Completion 组件实现灵活扩展,为复杂推理、工具调用与状态变更类任务提供结构化评测能力。

开源模型
开源模型
开源模型

推荐一个智谱开源的企业级AI Agent智能体开源项目

ZCode 是智谱 Z.ai 于 2026 年 9 月 20 日开源的 Agentic 开发环境(ADE),基于 GLM-5.3 模型,提供桌面端、Web 端和命令行三种使用入口。项目支持长上下文(1M)、浏览器自动化、远程开发、子智能体、Memory 记忆、Bot Channel 等企业级能力,采用 Apache-2.0 许可证。

开源模型
开源模型
开源模型

Magnitude号称比Ollama快2.2倍,64K长提示词下整段请求快1.3倍

Magnitude是一款新开源推理引擎,宣称在64K上下文、4比特量化、开启投机解码条件下,平均比Ollama快2倍以上:预填充(读提示词)快1.32倍,解码(写答案)快2.19倍。但实测提速高度依赖硬件(仅M1–M4 Mac及RTX 30+显卡)、模型(仅支持19个固定GGUF模型)、内存条件(模型须全载入GPU显存),且在冷启动、多GPU、老显卡或清单外模型等场景下不适用甚至更慢。

开源模型
开源模型
开源模型

非算法工程师也能看懂,推理框架的来龙去脉

本文系统梳理了推理框架的定义、技术原理与产业演进。指出推理框架是模型上线后承载实际调用的核心中间件,影响首字延迟、吞吐、显存效率与输出一致性。文章解析了 Prefill/Decode 阶段差异、KV Cache 机制、连续批处理等关键技术,并说明其在智能体多轮调用、长上下文、高重复请求场景下的关键作用,同时对比了通用引擎、本地工具与集群编排层的发展趋势。

开源模型
开源模型
开源模型

DeepSeek 开源推理框架:走向真正普惠的未来

DeepSeek 全面开源其内部推理框架 DeepInfer 及配套编解码组件 deepseek-recipe,支持分布式推理、推测解码、SWA Bounded Replay 等能力,兼容英伟达与华为昇腾平台。此举旨在降低大规模模型推理的算力成本与能源消耗,推动大模型服务的私有化与公有云高效部署。

开源模型
开源模型
开源模型

大批API账户被刷爆!OpenCode遭黑客围攻48小时,官方甩锅“蒸馏攻击”被质疑

OpenCode云端Console系统遭入侵,导致1.4%用户API密钥泄露,引发Anthropic、OpenAI、Google等厂商密钥被恶意调用,单日最高损失超1700美元。官方将事件归因为“大规模模型蒸馏攻击”,但开发者普遍质疑该定性,指出本质是凭证失窃与废弃系统未下线的安全管理漏洞。

开源模型
开源模型
开源模型

谷歌开源Harness,支持 OpenCode 和 Codex:国内开发者接入Jev实测“真行”

谷歌研究团队开源Harness²智能体框架,通过外部组件(提示词、记忆、工具指导等)递归优化Agent能力,无需修改模型权重。该框架已在JobBench等基准测试中验证效果,但存在计算成本高、安全边界模糊、评估维度复杂等落地挑战。国内开发者实测其在Jev 1.14上提升视觉任务表现。

开源模型
开源模型
开源模型

云栖实录丨面向 AgenticOps 的开源建设:采集标准化、统一语义建模与能力评测

阿里云可观测团队围绕 AgenticOps 生产落地的三道核心墙——运行事实采集、故障上下文理解、能力可复现验证,系统性推进开源建设:基于 OpenTelemetry 构建 OBI/eBPF 无侵入采集、国产框架语义规范共建、GenAI 语义双轨协作;推出 UModel 统一语义运行时,实现对象-关系-状态聚合;发布 BRiSE Benchmark 流水线,固化任务、环境与评分标准,支撑 Agent 能力持续迭代。

开源模型
开源模型
开源模型

DeepSeek V4.1 Flash 新版发布: api 自带搜索能力

DeepSeek 发布 V4.1-Flash-1017 模型,体积仅 763B,11 项基准测试全面上涨;API 新增自研 Search 与 Fetch 接口,定价 5 元/千次;模型支持图文交错输入、1M tokens 上下文,MIT 开源;同步优化 DeepSeek Harness 等平台,强化「许愿式编程」能力。

开源模型
开源模型
开源模型

S1-mini开源,将语音ASR输出清洗为正式文稿,基于Qwen3-0.6B微调,小模型也有应用场景

Superwhisper发布开源模型S1-mini(0.8B参数),专用于清洗ASR原始输出:去除填充词、添加标点与大小写、转换口语化数字/日期为书面形式,生成正式文稿。模型基于Qwen3-0.6B微调,Q4_K_M量化后仅462MB,可本地运行,当前仅支持英文。

开源模型
开源模型
开源模型

Google 开源 ML Drift:端侧 AI 推理,正在摆脱 GPU 碎片化

Google AI Edge 团队于 2026 年 10 月 8 日开源 ML Drift,一套面向端侧 AI 推理的 GPU 计算引擎。它通过张量虚拟化、统一计算语言(UCL)、五维张量支持及大模型阶段感知优化,抽象不同 GPU API(OpenCL、Metal、WebGPU 等)差异,已用于 Chrome、YouTube Shorts、Google Photos 等产品。其目标是降低端侧模型部署的硬件适配成本,推动推理基础设施统一化。

开源模型
开源模型
开源模型

开源与端侧:英伟达新AI模型的战略逻辑

英伟达发布三款完全开源的Nemotron 3.5系列大模型,涵盖1200亿参数多模态旗舰版及两款轻量级对话模型,全部开放权重、数据集与训练配方,并上线Hugging Face。此举强化其开源生态战略,应对中国低成本高性能开源模型竞争,同时支撑GPU硬件生态与本地智能体部署。

开源模型
开源模型
开源模型

Reflection 发布 Beam 模型:以 token 效率挑战中国开源大模型

Reflection AI 推出 5010 亿参数开源模型 Beam,聚焦每任务 token 消耗优化,宣称在编程与智能体任务中实现更高 token 效率;其强化学习训练机制惩罚冗余 token,目标是降低企业实际部署成本,而非压低单价。

开源模型
开源模型
开源模型

本地版Jev 1G内存就能跑!四舍五入等于不要钱啊

开发者基于开源模型Laya构建了Laya-MLX,可在Apple Silicon Mac本地运行,421M英文版峰值内存仅943.6MiB,322M多语言版低至687.6MiB;单问题P50延迟最快7.39ms,吞吐达395 questions/s。该实现无需PyTorch/Transformers,不依赖云端API,已通过378次全量推理结果一致性验证。

开源模型
开源模型
开源模型

给大模型装上“一双耳朵”:小米开源空间音频理解大模型 MiDashengLM-Spatial

小米开源 MiDashengLM-Spatial,业界首个端到端空间音频理解大模型。该模型以 MiDashengLM-7B 为基座,采用双分支音频编码器架构,在保留通用音频理解能力的同时,新增空间感知与推理能力,支持声源定位、轨迹追踪、相对位置判断等任务。模型已开源权重与代码,Apache 2.0 许可,将应用于智能家居、汽车座舱等场景。

开源模型
开源模型
开源模型

Meta发布Muse Spark Open:迄今最强美国开源权重大模型,支持双Mac桌面部署

Meta推出参数量8160亿的Muse Spark Open,称其为当前能力最强的美国开源权重模型,可在两台M5 Ultra Mac Studio上本地运行。该模型支持百万级上下文与多模态输入,但仅输出文本;商用许可设2000万美元收入门槛,下载需提交完整企业及个人身份信息。

多模态模型
多模态模型
多模态模型

NVIDIA 推出开源多模态模型 Nemotron 3.5 Super VL 与本地智能体系列 Bolt

NVIDIA 发布开源多模态大模型 Nemotron 3.5 Super VL(120B 参数),支持跨 PDF、图表、表格与网页的视觉-语言理解,并推出面向本地部署的 Bolt 系列模型,强调企业可自主后训练、安全部署及工具调用能力。

开源模型
开源模型
开源模型

DeepSeek服务中断给全行业敲警钟:自己建模型服务,OpenCSG更稳

DeepSeek对话服务与API出现部分中断,暴露企业对外部模型服务的深度依赖。文章指出,当关键业务环节通过外部API调用模型时,服务中断将直接导致任务等待或失败。OpenCSG社区及CSGLite、CSGHub工具链提供开源模型获取、本地部署与企业级推理服务建设能力,帮助企业减少单一服务入口依赖,提升模型运行自主性。