精选 65 篇，从 180+ 条中筛选
Voxtral-4B-TTS-2603是一款专注于语音合成的LLM，定位为特定领域微调模型。其核心技术包括Transformer架构和Voxtral TTS模型，支持多语言和方言，具有低延迟和高性能的特点。在基准测试中表现出色，适用于客户支持、金融服务等多个场景。开源协议为CC BY-NC 4.0，对硬件要求较高，推理效率高。
Chroma Context-1是一款基于gpt-oss-20b的20B参数的检索增强型模型，旨在提高检索效率和性能。该模型通过查询分解、并行工具调用和自我编辑上下文等特性，实现了在降低成本的同时，提供与前沿LLM相当的性能，且推理速度可快10倍。它适用于需要复杂查询和大量文档检索的场景，如法律、金融和Web搜索等。
CohereLabs的cohere-transcribe-03-2026模型定位为特定领域微调模型，专注于语音识别与转录任务。该模型采用自动语音识别技术，具有自动化的数据处理流程。技术特点包括Transformer架构和自动语音识别技术。性能方面，模型在Hugging Face排行榜上表现良好，具有高效的处理速度和准确的转录结果。主要应用场景包括语音转文本、会议记录等。该模型适合对语音识别和转录有较高要求的场景，具有较好的开源协议和硬件兼容性。
LiquidAI/LFM2.5-350M是一款针对边缘设备部署的混合模型，具有350M参数量，支持多种语言。该模型在性能上与更大规模的模型相媲美，同时具备快速边缘推理能力。它采用了扩展的预训练和强化学习方法，具有16层结构，上下文长度为32,768 tokens。在性能表现上，该模型在MMLU、GPQA、IFEval等基准测试中表现出色。主要应用场景包括边缘设备上的自然语言处理任务，如文本生成、问答等。其开源协议、硬件需求以及与流行推理框架的兼容性使其在实用考量方面具有优势。
Holo3-35B-A3B是一款专注于GUI Agent的视觉语言模型，属于多模态模型类别。该模型采用35B参数的稀疏MoE架构，基于Qwen3.5-35B-A3B进行微调，具有强大的视觉理解和文本推理能力。在OSWorld-Verified基准测试中达到77.8%的分数，展现出在计算机使用和网页导航方面的卓越性能。模型适用于需要多模态交互和复杂推理的场景，如企业级应用和智能导航系统。
TRIBE v2是一款多模态脑编码模型，结合了LLaMA 3.2（文本）、V-JEPA2（视频）和Wav2Vec-BERT（音频）等先进特征提取器，通过统一的Transformer架构预测自然刺激的fMRI脑响应。该模型在LLM生态中定位为多模态模型，具有独特的脑编码能力。技术特点包括多模态融合和Transformer架构。在性能上，模型在自然刺激的脑响应预测方面表现出色。主要应用场景包括神经科学研究和多模态内容分析。开源协议为CC BY-NC 4.0，对硬件需求较高，推理效率取决于具体应用。
Gemma-4-31B-it 是一款由 Google DeepMind 开发的多模态大型语言模型，定位为通用大模型。该模型具备高达 31B 的参数量和 256K 的上下文长度，支持文本、图像等多种输入和文本输出。其核心技术包括 Dense 和 MoE 架构，并针对移动设备进行了优化。在性能上，Gemma-4-31B-it 在多个基准测试中表现出色，尤其在代码生成和推理任务上具有显著优势。模型开源协议为 Apache 2.0，适用于从手机到服务器的多种部署环境。
Gemma-4-26B-A4B-it 是一款由 Google DeepMind 开发的多模态大型语言模型，定位为通用大模型。该模型具备强大的推理和编码能力，支持文本、图像等多种输入，并生成文本输出。其核心能力包括扩展的多模态处理、Dense 和 MoE 架构、优化的设备本地执行等。在性能上，Gemma-4-26B-A4B-it 在多个基准测试中表现出色，尤其在代码生成和推理任务上。模型适用于需要高效率、高准确性的场景，如文本生成、编码和推理等。
🔥 unsloth/gemma-4-26B-A4B-it-GGUF 是一款基于 Google DeepMind 的 Gemma 4 模型构建的多模态大语言模型。该模型定位为通用大模型，具有26B参数量，支持图像到文本的转换。其核心技术包括Transformer架构和Gemma 4基座模型，上下文长度未指定。在性能上，模型在MMLU、GPQA、IFEval等基准测试中表现出色。主要应用场景包括图像描述、文本生成等，具有开源Apache 2.0协议，适合在Unsloth Studio等平台上使用。
Bonsai-8B-GGUF-1bit 是一款基于 llama.cpp 的端到端 1 位语言模型，具有高效率、低能耗的特点。该模型定位为通用大模型，采用 1 位权重和 GGUF Q1_0_g128 格式，参数量仅为 1.15 GB，适合在多种平台上运行。其在 6 个类别上的平均得分为 70.5，与全精度 8B 模型相当，但体积缩小了 14 倍。该模型适用于需要高性能和低功耗的场景，如移动设备和边缘计算。
HauhauCS/Qwen3.5-9B-Uncensored-HauhauCS-Aggressive 是一款通用大模型，具有9B参数和32层，支持多语言和上下文长度可扩展至1M。该模型在HuggingFace平台上具有较高下载量和点赞数，其核心能力在于无审查的文本生成，具有更强的拒绝处理能力。在性能表现上，该模型在MMLU、GPQA、IFEval等基准测试中表现良好，具有多模态支持，适用于需要无审查文本生成的场景。其开源协议为Apache-2.0，硬件需求较高，推理效率中等，与vLLM、TGI等流行推理框架兼容。
netflix/void-model是一款专注于视频编辑和视频修复的模型，定位为特定领域微调模型。它基于CogVideoX 3D Transformer架构，具有强大的视频修复能力，能够去除视频中的物体及其引起的所有交互，包括物理交互。该模型在视频修复领域表现出色，特别适用于视频编辑和视频生成任务。其性能在相关基准测试中表现良好，但具体排名未提及。模型开源，需要较高的GPU资源，推理效率较高。
Gemma-4-E4B-it是一款由Google DeepMind开发的通用多模态大语言模型，支持文本和图像输入，并生成文本输出。该模型具有高达256K的上下文窗口，支持超过140种语言。它采用Dense和MoE架构，适用于文本生成、编码和推理等任务。Gemma-4-E4B-it在代码生成、数学推理和指令遵循等方面表现出色，同时支持本地设备上的高效执行。该模型在Hugging Face平台上具有广泛的下载量和点赞数，表明其在LLM领域的受欢迎程度。
microsoft/harrier-oss-v1-0.6b 是微软开发的多语言文本嵌入模型，定位为通用大模型。该模型采用仅解码器架构，具有高维嵌入和L2归一化技术，适用于检索、聚类、语义相似度等任务。在Multilingual MTEB v2基准测试中取得优异成绩。模型具有大规模参数量，支持多种语言，适用于需要多语言能力的场景。开源协议为MIT，硬件需求较高，推理效率良好。
HauhauCS/Qwen3.5-35B-A3B-Uncensored-HauhauCS-Aggressive 是一个基于 Qwen3.5-35B-A3B 的开源模型，专注于图像-文本到文本的转换。该模型定位为多模态模型，具有无审查的特性，适用于需要生成丰富文本内容的应用。其核心技术包括MoE架构和Qwen3.5-35B-A3B基座模型，支持多语言，上下文长度大，参数量高。在性能上，该模型在多个基准测试中表现出色，尤其在图像-文本转换任务中具有显著优势。主要应用场景包括内容生成、图像描述等。该模型开源，硬件需求较高，推理效率中等。
Jackrong/Qwen3.5-27B-Claude-4.6-Opus-Reasoning-Distilled 是一个基于 Qwen3.5 架构的推理模型，专注于结构化推理逻辑。该模型通过从 Claude-4.6 Opus 中提取的 CoT 技术进行微调，具有高效的推理效率和减少冗余认知循环的能力。模型定位为推理模型，具有 27B 参数量，支持文本生成。在性能上，模型在推理任务上表现出色，特别适合需要复杂推理和逻辑分析的场景。开源协议为 Apache-2.0，适合在多种硬件和推理框架上使用。
Qianfan-OCR是一款由百度Qianfan团队开发的4B参数端到端文档智能模型，定位为多模态模型。其核心技术为统一的视觉-语言架构，支持直接从图像到Markdown的转换，具有文档解析、布局分析和文档理解等功能。在OmniDocBench和OlmOCR Bench等基准测试中表现出色，尤其在文档解析和OCR任务上取得了领先成绩。该模型适用于文档智能处理、信息提取等场景，具有开源协议Apache-2.0，适合在多种硬件和推理框架上使用。
这篇论文提出了一种名为PhoneticXEUS的通用电话识别模型，通过在大型多语言数据集上训练，实现了在多语言和带口音的英语语音识别任务上的最先进性能。论文通过控制消融实验和跨100多种语言的评估，实证地建立了训练方法，并量化了SSL表示、数据规模和损失目标的影响。
这篇论文提出了一种使用 foresight learning 来预测供应链中断的新框架，该框架训练大型语言模型（LLM）生成基于实际中断结果的校准概率预测。该方法在准确性、校准和精确度上显著优于包括GPT-5在内的基线模型，并展示了训练过程中概率推理的结构化和可靠性提升。
这篇论文提出了CORAL，一个用于开放性问题自主多智能体进化的框架。CORAL通过共享持久记忆、异步多智能体执行和基于心跳的干预，实现了智能体的探索、反思和协作。实验表明，CORAL在多个数学、算法和系统优化任务上取得了最先进的结果，显著提高了开放性问题发现的能力。
这篇论文研究了视频扩散模型在解决迷宫问题时内部的规划动态。研究发现，视频模型在早期阶段就做出了高层次的运动规划，并且路径长度是迷宫难度的主导预测因素。论文提出了ChEaP方法，通过早期规划提高了解决复杂迷宫的准确性。
这篇论文探讨了大型语言推理模型在做出选择时的决策过程，通过实验证明模型在生成文本之前就已经编码了行动选择，并展示了通过扰动决策方向可以影响模型的推理过程。
这篇论文提出了MultiGen，一个用于扩散游戏引擎的可编辑多人世界级设计方法。它通过引入外部记忆，允许用户对环境结构进行直接编辑，并支持实时多人游戏中的连贯视角和一致的玩家交互。
这篇论文提出了一种名为NearID的框架，通过使用近身份干扰项来解决现有视觉编码器在身份相关任务中混淆对象身份与背景上下文的问题。该框架通过在参考图像的相同背景上放置语义相似但不同的实例，消除了上下文捷径，并将身份作为唯一的判别信号。论文还介绍了NearID数据集和严格的基于边界的评估协议，并通过在冻结的骨干网络上使用双层对比性目标来学习身份感知表示，显著提高了身份识别的性能。
这篇论文深入研究了晚交互模型（Late Interaction models）的动态特性，特别是针对多向量评分产生的长度偏差和MaxSim操作符池化的最佳分数之外的相似度分布。通过在NanoBEIR基准上的实验，论文发现因果晚交互模型的理论长度偏差在实际中仍然存在，双向模型在极端情况下也可能受到影响，同时验证了MaxSim操作符有效地利用了标记级别的相似度分数。
这篇论文提出了一种名为ActionParty的多主题动作绑定世界模型，用于生成式视频游戏。该模型通过引入主题状态标记，能够同时控制多个主体在场景中的动作，解决了现有视频扩散模型中动作绑定的问题。通过联合建模状态标记和视频潜在变量，ActionParty能够实现全局视频帧渲染与个体动作控制主体更新的解耦，从而在多个环境和动作跟随准确性方面取得了显著提升。
这篇论文提出了AIBench，一个用于评估学术插图生成中视觉逻辑一致性的基准。AIBench通过VQA（视觉问答）评估逻辑正确性，通过VLM（视觉语言模型）评估美学，旨在解决现有模型在生成学术插图时的一致性问题。
这篇论文研究了在软件工程等开放领域，大型语言模型（LLM）在遇到不明确的指令时如何进行澄清。作者提出了一种不确定性感知的多智能体框架，通过将不明确性检测与代码执行解耦，显著提高了任务解决率。实验结果表明，该框架在处理不明确任务时，能够有效地识别何时提问以获取缺失信息。
这篇论文提出了ASI-Evolve，一个用于AI加速AI发展的代理框架。该框架通过学习-设计-实验-分析循环，结合认知基础和专用分析器，实现了AI在数据、架构和学习算法三个核心AI发展组件上的发现。实验结果表明，ASI-Evolve在神经网络架构设计、预训练数据整理和强化学习算法设计方面均有显著提升。
这篇论文介绍了贝叶斯优化（BO）在科学发现中的应用，通过使用代理模型和获取函数，BO自动化并优化了传统的科学发现过程，从而提高实验效率和发现新知识。
这篇论文提出了MDPBench，一个用于评估多语言文档解析在现实场景中的基准。MDPBench包含来自17种语言的3,400个文档图像，旨在评估模型在数字和照片文档上的性能，特别是在低资源语言和不同书写系统上的表现。研究发现了开源模型在非拉丁语脚本和现实照片文档上的性能显著下降，并指出了构建更包容的解析系统的方向。
这篇论文提出了Brainstacks，一种模块化架构，用于持续的多领域微调大型语言模型。该架构通过冻结的MoE-LoRA堆栈在共享的冻结基础上进行组合，以实现跨领域的认知能力。它通过五个相互关联的组件，包括MoE-LoRA、残差提升、课程顺序依赖的领域特定堆栈训练、零遗忘的null空间投影和基于结果的元路由器，实现了快速收敛和跨领域组合。
这篇论文提出了Steerable Visual Representations，一种新的视觉表示方法，通过自然语言引导视觉编码器的全局和局部特征，从而实现针对特定概念的视觉特征聚焦，同时保持表示质量。该方法通过早期融合将文本直接注入视觉编码器层，并在异常检测和个性化对象识别任务中表现出色。
这篇论文提出了Tex3D，一个用于视觉-语言-动作（VLA）模型的框架，通过对抗性3D纹理攻击来揭示VLA模型在机器人操作中的鲁棒性问题。它通过引入前景-背景解耦（FBD）和轨迹感知对抗优化（TAAO）技术，实现了在VLA模拟环境中对3D对抗纹理的端到端优化，显著降低了VLA模型在多个操作任务中的性能。
这篇论文提出了一种记忆增强的视觉语言代理，通过结合当前观察、全局探索图和对象级记忆，实现了在长时间序列中保持对象身份和语义一致性。该方法通过自监督方式在3D环境中训练，显著提高了对象描述的准确性和一致性。
这篇论文提出了AutoMIA，一个基于代理的自探索框架，用于改进成员推理攻击（Membership Inference Attack）。AutoMIA通过自动化的自我探索和策略演化来重新定义成员推理，无需手动特征工程，通过实验证明其性能优于现有基准。
这篇论文提出了Omni123，一个3D原生基础模型，通过统一文本到2D和3D生成，在有限的3D数据下探索3D原生基础模型。该模型利用丰富的2D数据作为几何先验来改进3D表示，并通过交叉模态一致性作为隐式结构约束，实现了语义对齐、外观保真和多视图几何一致性。
本文介绍了作者Niels Rogge如何利用编码智能体Codex将VidEoMT模型贡献到Hugging Face的Transformers库中，强调了自2025年12月以来编码智能体在代码编写能力上的显著提升，以及如何通过提供清晰的提示和利用文件系统等方法，有效指导智能体完成模型移植等任务。
Cohere Labs 发布了 cohere-transcribe-03-2026，这是一个拥有20亿参数的先进语音识别模型，在 Hugging Face 上以 Apache 2.0 许可证开源。该模型专为14种企业关键语言训练，包括中文普通话，实现了最先进的准确性，并具有高效率。它在英语识别方面在 Hugging Face Open ASR 排行榜上位居第一，在其他13种语言中也表现出色。
WM Bench，一个针对世界模型认知智能的新基准测试，旨在评估模型是否真正理解其环境，而非仅仅渲染它。该基准测试通过感知、认知和具身三个核心支柱来评估模型，并引入了多个前所未有的评估类别，如自主情感升级和身体互换可扩展性。同时，WM Bench还发布了基线世界模型PROMETHEUS v1.0，以供社区参考和评估。
暂无摘要
本文介绍了KV缓存技术，这是一种优化Transformer推理效率的方法。通过缓存中间计算结果，模型可以避免重复计算，从而加快文本生成速度，提高效率。
本文介绍了名为“abliteration”的技术，该技术可以取消任何大型语言模型（LLM）的审查机制，使其能够响应所有类型的提示。这项技术通过修改模型权重来阻止模型拒绝请求，从而提高了模型的灵活性和响应能力。
本文介绍了如何从头开始构建一个简单的检索增强生成（RAG）系统，该系统结合了信息检索和文本生成，以增强语言模型的表现。文章详细解释了RAG系统的关键组件，包括检索模型和语言模型，并提供了使用Python和ollama实现RAG系统的示例代码。
暂无摘要
这篇博客详细介绍了在Transformer模型中处理张量维度的重要性，包括矩阵乘法、嵌入层、位置编码、解码器层和注意力机制等关键概念，旨在帮助读者更好地理解Transformer架构。
本文详细介绍了如何使用PyTorch和Hugging Face工具微调大型语言模型（LLM），以将英文翻译成尤达语（Yoda-speak）。通过量化模型、设置低秩适配器（LoRA）、格式化数据集以及使用Hugging Face的`trl`库中的`SFTTrainer`进行监督式微调，展示了整个过程。LoRA技术允许在量化模型上进行高效训练，显著减少了可训练参数的数量，使其仅占原始大小的1%或更少，从而能在资源有限的消费级GPU上进行训练。
商汤科技与南洋理工大学合作推出了NEO-unify，这是一种端到端原生多模态统一模型，旨在直接处理原始像素和文本输入，摆脱传统多模态AI中视觉编码器和变分自编码器的依赖，实现文本和视觉的统一学习，并展现出高数据扩展效率。
NVIDIA发布Nemotron 3 Nano 4B，这是Nemotron 3系列中最紧凑的成员，采用混合Mamba-Transformer架构，专为边缘设备部署优化，提供高效、准确的小型语言模型，支持FP8和Q4_K_M GGUF量化，旨在降低模型大小和VRAM使用，提高吞吐量和降低延迟。
SKT AI LABS发布了其Sovereign AI项目，旨在为印度开发自主的AI技术。该项目包括大型语言模型（LLMs）和复杂架构的研究，以及无缝的数字体验。SKT AI LABS强调其创新能力和对AI技术的深入理解，旨在通过其工具和平台推动AI的普及和高效利用。
暂无摘要
本文介绍了从GRPO到DAPO再到GSPO的强化学习技术演进，重点关注了在大型语言模型中如何优化长文本输出和复杂任务的性能。文章详细讨论了每种方法的原理、优势和局限性，并展示了如何通过改进采样、剪枝和梯度计算等细节来提高效率和稳定性。
暂无摘要
这篇论文提出了SKILL0，一个用于技能内部化的情境强化学习框架，旨在解决推理时技能增强的局限性，通过将技能内化为模型参数，实现零样本自主行为，并在多个实验中展示了显著的性能提升。
这篇论文提出了一种名为HCCS的快速Softmax近似方法，用于Transformer模型的Multi-Head Attention块，以解决低精度推理中Softmax计算瓶颈的问题。该方法通过使用剪裁线性映射来近似指数Softmax函数，优化了AMD Versal AI引擎的吞吐量，同时保持了任务准确性。
这篇论文提出了一种名为MiCA的参数高效的微调方法，用于大型语言模型。MiCA通过利用与最小奇异值相关的次重要奇异向量，识别模型表示中的未充分利用的子空间，从而在微调过程中仅更新这些子空间的参数。这种方法在优化训练超参数下，相比LoRA和全微调，在知识获取方面提高了5.9倍，同时参数占用最小化到6-60%。
这篇论文提出了LatentUM，一种新型的统一模型，它通过共享语义潜在空间来表示所有模态，从而实现灵活的交叉模态推理和生成。这种方法消除了视觉理解和生成之间像素空间的中介需求，提高了计算效率，并增强了跨模态对齐，使得LatentUM在视觉空间规划基准测试中取得了最先进的性能。
这篇论文提出了ProdCodeBench，一个基于实际生产环境的AI编码代理评估基准，通过收集真实的生产AI编码助手会话数据，分析了不同基础模型在解决代码问题的表现，并强调了迭代验证工具的使用对提高AI编码代理性能的重要性。
