精选 78 篇，从 970+ 条中筛选
Shubhamsaboo/awesome-llm-apps 是一个收集了多种基于大语言模型（LLM）的应用项目，旨在为开发者提供丰富的LLM应用案例。该项目定位为开发者社区，通过提供多种LLM应用示例，帮助开发者了解和实现LLM在各个领域的应用。核心功能包括展示多种LLM应用案例，涵盖AI代理、RAG、多智能体团队等。技术架构上，该项目依赖于多种LLM模型和开源技术，如OpenAI、Anthropic、Gemini等。在LLM生态中，该项目通过提供多样化的应用案例，促进了LLM技术的普及和应用。
LangExtract是一个Python库，利用LLM从非结构化文本中提取结构化信息，支持云模型和本地模型，提供精确的源定位和交互式可视化。它旨在帮助开发者从大量文本中快速提取关键信息，适用于研究者、应用开发者等，通过优化文本处理策略和提供灵活的模型支持，在LLM生态中提供了独特的价值。
TradingAgents-CN是一个面向中文用户的股票分析学习平台，它基于多智能体LLM提供股票研究与策略实验工具。该项目通过集成多种LLM和金融数据源，为研究者、开发者提供强大的股票分析能力，填补了LLM在金融领域的应用空白，并通过中文界面和A股数据支持，提升了易用性和实用性。
Jeffallan/claude-skills项目是一个为全栈开发者设计的技能插件，旨在将Claude代码转换为专家级编程伙伴。该项目提供65项专业技能和9个工作流程，通过Python语言实现，填补了LLM在开发领域应用的专业技能空白，为开发者提供了一种高效的工作方式。
GitHub Agentic Workflows项目定位为开发框架，旨在通过自然语言Markdown编写和运行GitHub Actions中的agentic workflows，解决自动化仓库任务的问题。其核心功能是利用AI技术实现自然语言驱动的自动化工作流，具有安全性和可控性。技术架构上，该项目基于Go语言开发，并集成了多种安全措施，如沙箱执行、输入清理和网络隔离。在LLM生态中，该项目通过提供一种新的应用范式，为开发者提供了高效、安全的自动化解决方案。
该项目定位为LLM生态中的开发框架，旨在通过Compound Engineering Plugin简化工程工作流程。核心功能包括插件市场、插件转换工具、个人配置同步等，解决工程复杂度累积问题。技术栈亮点在于TypeScript和CLI工具的使用，支持OpenCode和Codex格式转换。在LLM生态中，该项目通过优化工程工作流程，提升开发效率和代码质量。
Monty是一个基于Rust编写的最小化、安全的Python解释器，专为AI使用而设计。它解决了在AI环境中安全执行Python代码的问题，提供了快速启动、严格的隔离和资源控制。Monty旨在为开发者提供一个简单、高效的工具，以安全地运行由AI生成的代码，同时避免了传统沙箱的复杂性和延迟。
该项目定位为LLM API资源聚合平台，旨在为开发者提供免费或试用期的LLM API资源。核心功能是列出多种免费和试用期的LLM服务，解决开发者获取和测试LLM资源的难题。技术栈以Python为主，集成了多种LLM模型和API服务。在LLM生态中，该项目通过提供便捷的资源获取途径，降低了开发者使用LLM的门槛，促进了LLM技术的普及和应用。
该项目定位为面向产品经理的 Claude Code 使用课程，旨在通过互动式教学帮助产品经理高效利用 Claude Code 进行日常工作。核心功能包括文件操作、多角度反馈、定制化子代理和项目记忆等，解决产品经理在文档处理、数据分析、战略规划等方面的效率问题。技术架构上，该项目依赖于 Claude Code 的命令行界面和文件系统操作，属于应用层创新。在 LLM 生态中，该项目通过提供专业的产品管理工具，填补了产品经理在 AI 工具应用方面的空白。
Schematron-3B是一款专注于HTML到JSON转换的领域大模型，采用meta-llama/Llama-3.2-3B-Instruct作为基座模型。其核心能力在于将噪声HTML转换为符合自定义模式的严格JSON，适用于网络抓取和数据导入。模型在HTML到JSON转换质量上表现出色，具有长上下文处理能力。性能上，Schematron-3B在Gemini 2.5 Pro基准测试中取得了4.41的分数，优于Gemini-3B-Base。模型适用于需要结构化数据处理的场景，如网络爬虫和数据导入系统。
nvidia/personaplex-7b-v1是一款定位为通用大模型的LLM，具有7B参数量，支持多语言。其核心技术为Transformer变体，并采用moshi库进行优化。在性能上，该模型在多个基准测试中表现出色，具有较好的代码生成和数学推理能力。模型开源，适用于多种硬件平台，与vLLM等推理框架兼容。主要应用场景包括多语言问答、代码生成等。
GLM-4.7-Flash是一款30B-A3B的MoE模型，定位为通用大模型。其核心技术包括MoE架构和Transformer变体，支持多种语言。在基准测试中表现出色，尤其在AIME 25和GPQA等任务上排名靠前。该模型适用于需要高性能和轻量级部署的场景，支持vLLM和SGLang等推理框架。
DeepSeek-OCR-2是一款专注于图像文本转换的多模态模型，定位为特定领域微调模型。其核心技术基于transformers库，采用自定义代码进行优化，支持多语言处理。模型在OCR任务上表现出色，但缺乏权威基准测试结果。开源协议为Apache-2.0，对硬件要求较高，推理效率需进一步优化。
Kimi K2.5是一款开源的多模态大语言模型，定位为通用大模型。它基于约150万亿混合视觉和文本标记的持续预训练，具备视觉和语言理解以及先进的代理能力。模型在视觉知识、跨模态推理和基于视觉输入的代理工具使用方面表现出色。其核心能力包括视觉到代码的生成和代理群体执行复杂任务。在性能上，Kimi K2.5在权威基准测试中表现良好，具有开源协议、硬件需求适中、推理效率较高的特点，适用于多模态任务和复杂任务处理。
Anima模型定位为特定领域微调模型，专注于动漫风格的艺术图像生成。其核心技术为基于扩散模型的单文件库，参数量为20亿。模型在动漫风格图像生成方面表现出色，但未公开权威基准测试结果。主要应用场景为动漫艺术创作，使用时需考虑开源协议和硬件需求。
Step 3.5 Flash是一款高效的开源基础模型，定位于通用大模型领域。它采用稀疏混合专家（MoE）架构，参数量196B，上下文长度未指定。该模型在推理速度和代码生成方面表现出色，通过3-way Multi-Token Prediction（MTP-3）技术，实现了100-300 tok/s的生成吞吐量。在SWE-bench和Terminal-Bench 2.0基准测试中分别取得了74.4%和51.0%的优异成绩。模型开源协议为Apache 2.0，适用于需要快速推理和代码生成的场景。
zai-org/GLM-OCR是一款基于GLM-V架构的多模态OCR模型，专注于复杂文档理解。该模型采用多令牌预测损失和稳定的全任务强化学习，结合CogViT视觉编码器和GLM-0.5B语言解码器，实现高效训练和识别。在OmniDocBench V1.5基准测试中排名第一，适用于复杂表格、代码密集型文档等场景，支持vLLM、SGLang和Ollama等推理框架，易于集成到现有生产流程中。
Qwen3-ASR-1.7B是一款专注于语音识别的领域大模型，具备多语言和方言支持能力。该模型采用Qwen3-Omni基础模型，结合大规模语音训练数据，实现了在复杂声学环境和挑战性文本模式下的高质量和鲁棒识别。其在开源ASR模型中达到最先进水平，与顶级商业API相媲美。模型支持语言识别和语音识别，具有高效的吞吐量和强大的推理框架。主要应用场景包括语音转文本、语音识别等。
Qwen3-Coder-Next是一款针对代码生成和本地开发设计的开源语言模型。该模型具有3B激活参数和80B总参数，上下文长度为256k，支持多种CLI/IDE平台。其核心技术包括混合布局、MoE和Gated DeltaNet。在代码生成任务中表现出色，具有高效的性能和强大的适应性。模型在HuggingFace平台上的下载量和点赞数均较高，表明其在LLM领域中的受欢迎程度。主要应用场景包括代码生成、本地开发和集成到IDE中。
ACE-Step/Ace-Step1.5是一款针对音乐生成领域的开源模型，定位为多模态模型。其核心技术为结合语言模型和扩散模型，支持从简短循环到10分钟长曲的创作。该模型在训练数据上具有商业合规性，支持多种风格的音乐生成，且在消费级硬件上运行高效。在性能上，ACE-Step/Ace-Step1.5在音乐生成速度上表现出色，能够在短时间内生成完整的歌曲。主要应用场景包括音乐创作、音频编辑等。
Intern-S1-Pro是一款定位在科学推理领域的万亿参数MoE多模态模型，具有512个专家，每个token激活8个专家。该模型在科学推理基准测试中表现出色，同时在多模态和文本处理方面也具有强大的能力。其核心技术包括STE路由和分组路由，以及FoPE和升级的时间序列建模。性能表现在多个基准测试中均处于领先地位，适用于科学研究和多模态任务。
TeichAI/GLM-4.7-Flash-Claude-Opus-4.5-High-Reasoning-Distill-GGUF是一款专注于推理优化的通用大模型。该模型基于TeichAI的GLM-4.7-Flash，结合了Claude Opus 4.5的高推理能力，特别适用于需要高推理能力的场景。模型具有约2.13M的总token，采用Unsloth和Huggingface的TRL库进行加速训练。在性能上，模型在权威基准测试中表现良好，具有代码生成、科学研究和深度研究等应用场景。开源协议为Apache-2.0，适合在多种硬件和推理框架上使用。
MiniCPM-o 4.5是一款多模态大语言模型，定位为通用大模型。该模型基于SigLip2、Whisper-medium、CosyVoice2和Qwen3-8B构建，参数量达9B。它在视觉、语音和全双工多模态直播方面表现出色，支持双语实时语音对话和全双工直播功能。性能上，MiniCPM-o 4.5在OpenCompass等基准测试中表现出色，超越了GPT-4o等模型。该模型适用于需要多模态交互和实时处理的场景，如直播互动、多语言对话等。
Qwen3-Coder-Next是一款专注于代码生成的开源语言模型，具有高效能和先进的代理能力。该模型采用3B激活参数，性能与参数量更高的模型相当，适用于代码代理部署。其核心特点包括高效的Transformer架构、混合专家（MoE）机制和256k的上下文长度，支持多种IDE平台集成。在性能评估方面，该模型在代码生成任务中表现出色，具有较好的基准测试结果。主要应用场景包括代码辅助、代码生成和代码优化等。
Qwen3-Coder-Next是一款针对代码生成和本地开发设计的开源语言模型，具有高效的性能和先进的代理能力。该模型采用3B激活参数，性能可与参数量多10-20倍的模型相媲美，适用于代理部署。它具备长距离推理、复杂工具使用和恢复能力，适用于代码生成、数学推理等任务。模型基于transformers库，支持2-bit XL量化，对硬件要求较高。在LLM领域，Qwen3-Coder-Next以其高效的代码生成能力和先进的代理技术脱颖而出。
该模型DavidAU/GLM-4.7-Flash-Uncensored-Heretic-NEO-CODE-Imatrix-MAX-GGUF定位为通用大模型，具有30B参数量，支持200K上下文。其核心技术包括GLM-4.7-Flash架构、MoE模型、16位精度输出和Heretic去审查功能。在性能上，模型在MMLU、GPQA等基准测试中表现良好，具有推理、思考和创作能力。主要应用场景包括创意写作、故事生成等。模型开源，支持GPU和CPU推理，与vLLM等框架兼容。
Eva-4B-V2是一款针对财报问答中逃避回答检测的特定领域微调模型，基于Qwen3-4B-Instruct-2507模型。它具有84.9%的宏观F1分数，在逃避检测任务上表现出色。该模型适用于金融、财报问答和逃避检测等领域，具有开源Apache 2.0协议，适合在具有适当硬件和推理效率的环境中应用。
Voxtral Mini 4B Realtime 2602是一款多语言实时语音转写模型，定位为特定领域微调模型。它具有3.4B参数的语言模型和0.6B参数的音频编码器，支持13种语言，并具有可配置的转写延迟。该模型在实时语音转写任务中表现出色，能够在480ms延迟下达到与离线模型相当的性能。它适用于语音助手、实时字幕等应用，具有开源协议、硬件需求低、推理效率高等实用特性。
这篇论文提出了一种数据驱动的框架，通过外部化推理来增强多模态检索的鲁棒性。该方法使用视觉-语言模型将视觉证据的隐含语义显式化，并通过重写指令来简化检索约束，从而提高检索性能。
这篇论文提出了Col-Bandit，一种在查询时进行零样本剪枝的算法，用于减少晚期交互检索的计算负担。它通过将重排序视为一个有限群体的Top-K识别问题，自适应地揭示必要的MaxSim条目，从而在保持排名一致性的同时，显著减少了MaxSim的计算量。
这篇论文提出了Anchored Decoding方法，通过在生成过程中保持与一个安全语言模型的邻近性，有效地减少了语言模型在生成文本时对受版权保护内容的复制风险，同时保持了文本的流畅性和事实性。
这篇论文提出了CodeCircuit，一种通过归因图来推断LLM生成代码正确性的方法。它通过分析模型内部计算结构，将代码验证视为一种机制诊断任务，通过映射模型的显式算法轨迹到行级归因图中，以识别区分合理推理和逻辑错误的内部电路的结构特征。
这篇论文提出了一个跨越材料科学发现全流程的智能系统，通过整合语料库管理、预训练、领域适应和指令调整，以及与模拟和实验平台的交互，旨在实现从被动到主动的智能材料发现。
这篇论文通过大规模数据驱动分析，研究了扩展大型语言模型功能的人工智能技能（Agent Skills），揭示了技能发布趋势、内容集中领域、供需不平衡、技能长度分布以及生态系统同质化等问题，为技能重用、标准化和安全设计提供了定量分析。
这篇论文提出了KV-CoRE，一种基于SVD的评估LLM中KV-cache数据依赖低秩压缩性的方法。通过分析多个模型和不同语言的数据集，论文揭示了压缩性与模型架构、训练数据和语言覆盖之间的联系，为数据驱动的压缩和模型开发提供了原则性框架和大规模基准。
这篇论文提出了基于f-divergence的强化学习算法，用于通用语言模型（LLM）的对齐。通过引入f-Group Relative Policy Optimization（f-GRPO）和f-Hybrid Alignment Loss（f-HAL），论文在只有环境奖励的情况下，实现了对LLM的强化学习对齐，并通过实验验证了其性能和灵活性。
这篇论文提出了CauScale，一种用于大规模因果发现的神经网络架构，通过数据压缩和共享注意力权重来提高时间和空间效率，同时保持高精度。
这篇论文系统地评估了大规模土耳其语子词标记策略，通过比较不同标记器家族和词汇大小，以及引入形态学感知诊断工具，为在形态丰富语言中构建有效的标记器提供了指导。
这篇论文提出了一种名为ComprExIT的轻量级框架，用于通过显式信息传输进行软上下文压缩，以降低大型语言模型在长上下文推理中的成本。该方法通过深度和宽度传输，选择性地将多层信息传输到标记锚点，并全局优化传输计划，以实现信息的协调分配。
这篇论文提出了一种名为CE-RAG4EM的成本效益高的RAG架构，用于实体匹配任务，通过基于分块的批量检索和生成来减少计算量。它还提供了一个统一的框架来分析和评估RAG系统，重点关注分块感知优化和检索粒度。实验表明，CE-RAG4EM在匹配质量上可以与强基线相媲美或有所改进，同时显著减少了端到端运行时间。
这篇论文介绍了dewi-kadita，一个用于模拟理想化鱼群行为的Python库，该库基于三维Couzin模型，并引入了基于熵的诊断方法，以分析海洋集体行为。它提供了七个信息论指标来描述鱼群的组织特征，并通过Numba JIT编译加速计算，使模拟更加高效。
这篇论文介绍了在Lean 4中首次全面形式化统计学习理论（SLT），基于经验过程理论。作者实现了Lean 4 Mathlib库中缺失的内容，包括高斯Lipschitz集中率的完整开发，首次形式化Dudley熵积分定理对于亚高斯过程，并将其应用于具有锐率的最小二乘（稀疏）回归。该研究采用人机协作工作流程，人类设计证明策略，AI代理执行战术证明构建，最终形成人类验证的Lean 4 SLT工具箱。形式化过程揭示了标准SLT教材中的隐含假设和缺失细节，并强制执行对理论的细致理解。这项工作建立了一个可重用的形式化基础，为机器学习理论未来的发展打开了大门。
这篇论文研究了如何通过引入基本的推理范式（演绎、归纳和类比）来提高大型语言模型（LLM）在领域外任务上的泛化能力。作者收集了一个新的推理轨迹数据集，并实验了多种方法将推理技能引入LLM中，包括简单的微调和更复杂的模型深度增加或模型结构转换。实验结果表明，这种方法在现实世界的领域外任务上取得了显著的性能提升。
这篇论文提出了一个分层数据管理框架，旨在解决当前人工智能发展中数据规模单向扩展带来的瓶颈问题。该框架通过在数据管理过程中使用大型语言模型（LLM），实现数据质量、获取成本和训练效益的平衡，从而提高训练效率和模型性能。
这篇论文介绍了AIRS-Bench，一个用于前沿AI研究科学代理的20个任务的集合。它旨在通过模拟科学研究生命周期中的不同阶段来评估代理的能力，并使用前沿模型建立基线，结果表明代理在某些任务上超过了人类水平，但在其他任务上则未达到。
这篇论文研究了大型推理模型（LRM）在测试时计算分配的问题，通过分析模型重述问题的倾向（Echo of Prompt，EOP），提出了一种名为Echo-Distilled SFT（ED-SFT）的监督微调方法和Echoic Prompting（EP）的无监督方法，以优化模型推理过程，并通过实验验证了这些方法的有效性。
这篇论文探讨了在智能体评估中随机性的影响，通过分析大量智能体轨迹，发现单次运行的结果存在较大变异性，并提出了从多次独立运行中估计性能的方法，以提高评估的可靠性。
这篇论文提出了一种名为GraphAgents的多智能体框架，该框架利用大规模知识图谱来指导材料设计，以解决材料科学中跨领域信息整合的挑战。该框架通过智能体分工合作，实现问题分解、证据检索、设计参数提取和图遍历，从而发现不同知识领域的潜在联系，支持假设生成。实验表明，该框架在生成可持续的PFAS替代品方面优于单次提示，证明了分布式专业化和关系推理的价值。
Hugging Face发布了CRAFT（Continuous Reasoning and Agentic Feedback Tuning），这是一种无需重新训练即可为文本到图像生成和图像编辑增加“思考”能力的框架。CRAFT通过将提示分解为明确的视觉检查、使用VLM验证输出并仅编辑不符合要求的部分来工作，从而显著提高了图像的组合准确性和文本渲染质量。
这篇公告分析了使用Anthropic的稀疏自编码器（SAE）激活转向技术在生成结构化输出（如JSON）时的局限性。实验表明，该技术无法确保大语言模型（LLM）生成有效JSON格式，甚至可能降低输出质量。作者转向了约束解码方法，通过在生成令牌时强制执行JSON语法，成功实现了100%的有效JSON输出。文章强调了激活转向适用于语义控制，而约束解码适用于结构化输出，并建议结合微调和约束解码来同时优化内容和格式。
NVIDIA发布了NVIDIA Agentic Smart Router，这是一款基于Dell Enterprise Hub的智能路由器，旨在解决企业AI应用部署中的多大型语言模型（LLM）利用和单一框架限制问题。该路由器通过NVIDIA NeMo Agent Toolkit (NAT) 和NVIDIA的LLM路由器实现多框架、面向代理的设计，提供智能模型选择、代理编排和检索增强生成（RAG）等功能，旨在提高准确性、性能和降低成本。
SyGra V2.0.0是SyGra框架的重大更新，引入了以UI为先导的Studio、多模态生成管道、企业级集成、LLM节点中的工具支持、数据质量增强、扩展的提供商和模型集成以及元数据和可观察性功能，旨在简化合成数据生成和评估工作流程。
本文介绍了如何从头开始构建一个简单的检索增强生成（RAG）系统，该系统结合了信息检索和文本生成，以增强语言模型的表现。文章详细解释了RAG系统的关键组件，包括检索模型和语言模型，并提供了使用Python和ollama实现RAG系统的示例代码。
本文介绍了名为“abliteration”的技术，该技术可以取消任何大型语言模型（LLM）的审查机制，使其能够响应所有类型的提示。这项技术通过修改模型权重来阻止模型拒绝请求，从而提高了模型的灵活性和响应能力。
本文详细介绍了如何使用PyTorch和Hugging Face工具微调大型语言模型（LLM），以将英文翻译成尤达语（Yoda-speak）。通过量化模型、设置低秩适配器（LoRA）、格式化数据集以及使用Hugging Face的`trl`库中的`SFTTrainer`进行监督式微调，展示了整个过程。LoRA技术允许在量化模型上进行高效训练，显著减少了可训练参数的数量，使其仅占原始大小的1%或更少，从而能在资源有限的消费级GPU上进行训练。
Photoroom宣布开源其文本到图像模型PRX，该模型现已在Hugging Face的Diffusers中提供。此次发布旨在开放整个训练过程，包括训练方法、经验教训等，旨在成为对文本到图像模型感兴趣的实用资源。Photoroom还计划分享一系列深入探讨模型设计实验、架构基准、加速技巧和后训练方法的文章。
NVIDIA发布了一项名为Cosmos Policy的新研究，这是一项用于高级机器人控制和规划的技术，通过后训练世界基础模型Cosmos Predict-2来实现。该技术能够将机器人动作、物理状态和成功分数编码为额外的潜在帧，并使用与视频生成相同的扩散过程进行学习，从而提高了机器人操作的性能。此外，NVIDIA还宣布了Cosmos Cookoff，一个开放式黑客马拉松，旨在推动物理AI的发展。
本文介绍了如何使用Hugging Face的FunctionGemma模型在TPU上进行微调，以创建一个虚拟健身教练。通过TPU优化策略，实现了10分钟内、花费约0.50美元的训练成本，显著提高了模型性能，并减少了幻觉。该项目展示了TPU在小型模型微调中的高效性和经济性。
ColPali 是一种基于视觉语言模型的高效文档检索技术，通过直接嵌入文档页面的图像来简化索引过程，并利用后期交互机制进行多向量检索。这项技术显著提高了文档检索的效率和准确性，在 ViDoRe 基准测试中表现出色，尤其在处理视觉丰富的信息检索任务中优于其他系统。
本文深入探讨了大型语言模型（LLMs）中的解码策略，包括贪婪搜索、束搜索、Top-k采样和核采样，旨在提高文本生成的多样性和质量。文章通过Python代码示例展示了这些策略的实现和效果，并讨论了它们在不同应用场景中的适用性。
本文介绍了KV缓存技术，这是一种优化Transformer推理效率的方法。通过缓存中间计算结果，模型可以避免重复计算，从而加快文本生成速度，提高效率。
本文介绍了从GRPO到DAPO再到GSPO的强化学习技术演进，重点关注了在大型语言模型中如何优化长文本输出和复杂任务的性能。文章详细讨论了每种方法的原理、优势和局限性，并展示了如何通过改进采样、剪枝和梯度计算等细节来提高效率和稳定性。
ILLUIN Technology 与 NVIDIA 合作发布了 ViDoRe V3 基准测试，旨在为多模态企业文档检索评估树立新的行业黄金标准。该基准通过使用真实世界数据集和丰富的人工注释，解决了生产型 RAG 系统在复杂文档中检索信息的关键挑战，并支持多语言查询。
Hugging Face 发布了 EuroLLM-22B，这是一个完全开源的欧洲语言模型，旨在支持所有 24 种欧盟官方语言和 11 种国际重要语言。该模型利用 EuroHPC 基础设施和 MareNostrum5 超级计算机上的 400 个 Nvidia H100 GPU 进行训练，表现出色，尤其在翻译任务上与顶尖模型竞争并超越，是目前欧洲制造的最佳完全开源 LLM。
Hugging Face的官方博客发布了一篇关于小型语言模型最优架构的文章，介绍了通过实验发现的最优模型配置，包括深度、宽度、架构类型等，并推出了新的扩散模型Dhara-70M，该模型在保持较高准确性的同时，实现了更高的吞吐量和事实性。
Hugging Face 发布了两个新的 Llama Nemotron 模型，用于提高多模态搜索和视觉文档检索的准确性。这些模型能够处理文本和图像，并支持标准向量数据库，旨在为开发者提供高效、低延迟的视觉文档检索解决方案。
LightOn AI 发布了 LightOnOCR-2-1B，这是一个10亿参数的第二代端到端视觉-语言 OCR 模型，旨在将文档页面转换为高质量文本，同时提供轻量级布局信息。该模型在性能和速度上均优于同类产品，并支持Hugging Face Transformers生态系统，便于社区使用。
SecureCode v2.1作为SecureCode v2.0的超集发布，旨在解决通用安全建议在特定框架代码中效果不佳的问题。它增加了219个框架特定示例，覆盖9个主流生产Web框架，并提供了详细的引用信息和高质量的教育结构，以帮助开发者编写更安全的代码。
这篇论文提出了MemAdapter，一个通过生成子图检索实现跨代理记忆范式快速对齐的内存检索框架。MemAdapter通过两阶段训练策略，包括训练生成子图检索器和通过对比学习调整检索器，以实现不同记忆范式之间的快速对齐，显著降低了跨范式对齐的成本，并在多个基准测试中展现出优越的性能。
这篇论文提出了一种多智能体AI框架，用于在移动边缘网络中实现公平性和加速的多模态大型模型推理。该框架通过长期规划代理、短期提示调度代理和多个节点上的模型部署代理，优化提示路由和模型部署，以减少延迟并提高公平性。
这篇论文比较了三种在识别波斯Twitter上的不文明言论的方法：人工定性编码、监督学习使用ParsBERT和大型语言模型（ChatGPT）。通过分析伊朗#MahsaAmini运动中的47,278条推文，论文评估了每种方法的准确性和效率，发现ParsBERT在识别仇恨言论方面优于七种评估的ChatGPT模型，并指出ChatGPT在处理微妙和不文明内容时存在困难。
这篇论文提出了NPPC，一个不断扩展的推理基准，用于评估大型语言模型（LLMs）的推理能力。NPPC通过提供NP完全问题的统一接口和评估工具，解决了现有基准测试易被破解和性能迅速下降的问题，并通过实验证明了其在降低高级LLMs性能方面的有效性。
这篇论文介绍了Minitap，一个多智能体系统，它在AndroidWorld基准测试中实现了100%的成功率，超越了人类表现。Minitap通过认知分离、确定性文本输入验证和元认知推理等机制解决了单智能体架构的失败原因，如上下文污染、未检测到的文本输入失败和重复的动作循环。实验表明，多智能体分解比单智能体基线提高了21个百分点，验证执行增加了7个百分点，元认知增加了9个百分点。
这篇论文提出了一种基于token-level不确定性的动态卸载框架，用于在移动边缘计算环境中优化大型语言模型（LLM）的推理任务。该框架通过定义基于边界的token-level不确定性度量，设计了一个贪婪卸载算法（GOA），以最小化延迟并保持准确性，从而在多用户环境中实现高效的服务。
这篇论文研究了扩散大语言模型（DLLM）在多步决策中的表现，通过将DLLM和自回归（AR）解码器应用于同一智能体工作流程，发现DLLM智能体在保持准确率的同时，平均比AR智能体快30%，在某些情况下速度提升超过8倍。
这篇论文提出了一种名为CoRect的新方法，用于解决RAG（检索增强生成）中的知识冲突问题。通过对比上下文化和非上下文化的前向传播的logits，CoRect识别出具有高参数偏差的层，并校正隐藏状态以保留基于证据的信息，从而提高输出的忠实度和减少幻觉。
这篇论文提出了RARe，一种通过在上下文中添加示例来增强文本检索性能的方法。RARe通过微调预训练模型，使用与目标查询语义相似的上下文示例，从而在开放域检索数据集上实现了高达+2.72%的nDCG性能提升，并显示出比不使用上下文示例的查询更强的跨领域泛化能力。
