AI应用 Skill技能列表

4.5

vLLM高性能LLM推理服务Skill serving-llms-vllm

vLLM是一个用于部署和优化大语言模型(LLM)推理的开源框架,支持高吞吐量、低延迟推理,通过PagedAttention和连续批处理技术提升效率,兼容OpenAI API,并适用于量化模型(如AWQ、GPTQ、FP8)和GPU内存受限环境。关键词:vLLM,大语言模型,推理服务,PagedAttention,连续批处理,高吞吐量,量化模型,AI部署,OpenAI兼容,LLM推理

4.5

TensorRT-LLM推理优化Skill tensorrt-llm

TensorRT-LLM是一个基于NVIDIA TensorRT的开源库,专用于优化大型语言模型(LLM)的推理性能。它针对NVIDIA GPU(如A100/H100)进行生产部署,提供高吞吐量、低延迟、支持量化(如FP8/INT4)、动态批处理和跨GPU扩展,适用于实时AI应用和高效模型服务。关键词:TensorRT-LLM, NVIDIA GPU, LLM推理优化, 高吞吐量, 低延迟, 量化模型, 动态批处理, 多GPU部署, AI应用部署。

4.5

llama-cpp推理引擎Skill llama-cpp

llama-cpp是一个开源工具,用于在CPU、Apple Silicon和消费级GPU上高效运行大型语言模型推理,特别适用于边缘部署和没有NVIDIA硬件的环境。它支持GGUF量化格式,以减少内存使用并提高速度,优化用于苹果设备、AMD/Intel GPU和嵌入式系统。关键词包括:LLM推理、CPU推理、GGUF量化、边缘AI、非NVIDIA硬件、Apple Silicon、模型部署。

4.5

智能规划专家Skill gepetto

这是一个AI辅助的实现计划工具,通过多步骤流程(研究、访谈、规范合成、计划、外部审查、分节)创建详细的软件功能实现计划,适用于需要预分析的项目规划。关键词:AI规划、实现计划、多LLM审查、项目管理、软件开发。

4.5

GeminiCLI代码审查与分析技能Skill gemini

这个技能用于运行Gemini CLI工具,进行代码审查、计划审查和大上下文处理。它利用先进的AI模型(如Gemini 3 Pro)提供全面的分析能力,适用于软件开发、项目管理和数据处理任务。关键词:Gemini CLI, 代码审查, AI分析, 大模型处理, 自动化测试。

4.5

NeMo评估器SDKSkill nemo-evaluator-sdk

NeMo评估器SDK是一个用于评估大型语言模型(LLM)的企业级平台,支持100多个基准测试和多种后端执行方式(如Docker、Slurm HPC),提供可复现的容器化评估。适用于AI模型性能测试、比较和基准分析。关键词:LLM评估,AI基准测试,多后端执行,可复现评估,企业级平台,NeMo评估器。

4.5

代码生成模型评估Skill evaluating-code-models

此技能涉及使用BigCode评估工具对代码生成模型进行基准测试和性能评估,支持多语言代码生成质量分析,包括HumanEval、MBPP等基准测试,适用于AI模型开发、代码生成研究和SEO优化。关键词:代码生成模型评估、基准测试、多语言评估、pass@k指标、AI应用。

4.5

推测解码Skill speculative-decoding

这个技能用于加速大型语言模型(LLM)的推理过程,通过推测解码、Medusa多头和前瞻解码等技术,实现1.5到3.6倍的推理速度提升,降低延迟,适用于实时应用如聊天机器人、代码生成等。关键词包括:LLM推理加速、推测解码、Medusa、前瞻解码、并行生成、延迟优化、AI推理优化。

4.5

AI热点采集工具Skill topic-collector

这个技能是一个AI热点采集工具,用于从Twitter/X、Product Hunt、Reddit、Hacker News、博客等多个平台自动化收集AI领域的最新热点内容,并根据用户触发词如“开始今日选题”来启动采集。它整理并输出结构化列表,涵盖AI博主分享、新产品发布、研究动态、模型更新和社区讨论,聚焦于Vibe Coding、Claude生态等关键领域。关键词:AI热点采集,AI新闻,多源采集,结构化输出,SEO优化。

4.5

AI选题系统主控Skill topic-agent

此技能是一个自动化系统,用于采集AI领域热点,生成内容选题方案,并进行审核评分,帮助内容创作者高效产出优质内容。关键词:AI热点采集,选题生成,内容审核,自动化代理。

4.5

周复盘技能Skill mem-weekly

这是一个用于AI个人记忆系统的周复盘功能,通过分析用户本周的情境层记录,自动识别重复出现的行为模式(出现3次以上),并提炼到行为层。它支持文件扫描补充记录、模式识别、用户确认和更新行为层文件,提升个人效率和数据驱动决策。关键词:AI记忆系统、周复盘、行为模式、数据分析、个人效率、自动化工具。

4.5

AI个人记忆系统月度复盘Skill mem-monthly

该技能用于AI个人记忆系统的月度复盘,通过分析用户行为模式,提炼认知框架,并检查核心价值观是否需要校准,帮助用户进行个人反思和成长管理。关键词:AI记忆系统、月度复盘、行为分析、认知提炼、核心价值观校准。