共 410742 条已上架资产
构建并维护基于 Obsidian/Markdown 的知识库，支持原始来源导入、来源笔记、编译后的概念/维基笔记、链接、前置元数据（frontmatter）、从知识库中回答问题的流程，以及知识库健康检查
从文档或代码库扫描生成 llms
当应用程序拥有工具或 LLM/提供程序调用站点，并需要使用 NeMo Relay 作用域和管理执行 API 来包装它们以处理生命周期事件、中间件或防护措施时，请使用此技能
在生成过程中确保有效的 JSON/XML/代码结构，使用 Pydantic 模型实现类型安全的输出，支持本地模型（如 Transformers、vLLM），并通过 Outlines（dottxt
使用结构化 JSON 输出，在 vLLM、llama
在 GKE 上部署和优化 AI/ML 推理工作负载，使用 GPU、TPU 和模型服务器
使用知识蒸馏从教师模型向学生模型压缩大型语言模型
当用户要求“评估智能体性能”、“构建测试框架”、“衡量智能体质量”、“创建评估量规”，或提及 LLM-as-judge、多维度评估、智能体测试、智能体流水线质量门禁时，应使用此技能
当用户要求“启动一个LLM项目”、“设计批处理流水线”、“评估任务与模型的匹配度”、“构建智能体项目结构”，或提及流水线架构、智能体辅助开发、成本估算，以及在LLM与传统方法之间进行选择时，应使用此技能
使用 Wanda 和 SparseGPT 等剪枝技术减小大语言模型（LLM）规模并加速推理
使用 Pydantic 验证从 LLM 响应中提取结构化数据，自动重试失败的提取操作，以类型安全的方式解析复杂 JSON，并通过 Instructor 流式传输部分结果——经过实战检验的结构化输出库
无需校准数据的半二次量化，适用于将模型量化为4/3/2位精度且无需校准数据集、快速量化工作流，或在vLLM或HuggingFace Transformers中部署时使用
当用户询问如何为某项任务找到最佳、顶级或推荐的模型，想知道应该使用哪种AI模型，或希望根据基准测试分数比较不同模型时使用
训练后4比特量化技术，可在几乎不损失精度的情况下对大型语言模型（LLM）进行量化
当TPOT成为瓶颈时，在Jetson vLLM服务器上添加EAGLE-3或草稿模型推测解码
使用 TRL 通过强化学习对 LLM 进行微调：SFT 用于指令调优，DPO 用于偏好对齐，PPO/GRPO 用于奖励优化，以及奖励模型训练
使用正则表达式和语法规则控制大语言模型（LLM）的输出，确保生成有效的 JSON/XML/代码，强制结构化格式，并通过 Guidance 构建多步骤工作流——微软研究院的约束生成框架
基于 Ray 和 vLLM 加速的高性能 RLHF 框架，适用于 PPO、GRPO、RLOO 和 DPO 算法对大型模型（7B-70B+）进行训练
用于选择和设计队列基础设施——代理选择（例如 BullMQ/Redis、SQS、RabbitMQ）、队列拓扑结构、工作线程/并发性、投递语义、死信队列以及监控
设计具备工具、记忆和控制能力的LLM智能体