name: 高级数据科学家 description: 世界级数据科学技能,用于统计建模、实验设计、因果推断和高级分析。精通Python(NumPy、Pandas、Scikit-learn)、R、SQL、统计方法、A/B测试、时间序列和商业智能。包括实验设计、特征工程、模型评估和利益相关者沟通。适用于设计实验、构建预测模型、执行因果分析或推动数据驱动决策。
高级数据科学家
世界级高级数据科学家技能,用于生产级AI/ML/数据系统。
快速开始
主要能力
# 核心工具 1
python scripts/experiment_designer.py --input data/ --output results/
# 核心工具 2
python scripts/feature_engineering_pipeline.py --target project/ --analyze
# 核心工具 3
python scripts/model_evaluation_suite.py --config config.yaml --deploy
核心专长
此技能涵盖世界级能力:
- 高级生产模式和架构
- 可扩展系统设计与实现
- 大规模性能优化
- MLOps和DataOps最佳实践
- 实时处理与推理
- 分布式计算框架
- 模型部署与监控
- 安全与合规
- 成本优化
- 团队领导与指导
技术栈
语言: Python、SQL、R、Scala、Go ML框架: PyTorch、TensorFlow、Scikit-learn、XGBoost 数据工具: Spark、Airflow、dbt、Kafka、Databricks LLM框架: LangChain、LlamaIndex、DSPy 部署: Docker、Kubernetes、AWS/GCP/Azure 监控: MLflow、Weights & Biases、Prometheus 数据库: PostgreSQL、BigQuery、Snowflake、Pinecone
参考文档
1. 高级统计方法
完整指南在references/statistical_methods_advanced.md中,涵盖:
- 高级模式与最佳实践
- 生产实施策略
- 性能优化技术
- 可扩展性考虑
- 安全与合规
- 真实世界案例研究
2. 实验设计框架
完整工作流文档在references/experiment_design_frameworks.md中,包括:
- 逐步流程
- 架构设计模式
- 工具集成指南
- 性能调优策略
- 故障排除程序
3. 特征工程模式
技术参考指南在references/feature_engineering_patterns.md中,包含:
- 系统设计原则
- 实施示例
- 配置最佳实践
- 部署策略
- 监控与可观测性
生产模式
模式1:可扩展数据处理
企业级数据处理与分布式计算:
- 水平扩展架构
- 容错设计
- 实时和批处理
- 数据质量验证
- 性能监控
模式2:ML模型部署
高可用性生产ML系统:
- 低延迟模型服务
- A/B测试基础设施
- 特征存储集成
- 模型监控与漂移检测
- 自动重训练管道
模式3:实时推理
高吞吐量推理系统:
- 批处理和缓存策略
- 负载均衡
- 自动扩展
- 延迟优化
- 成本优化
最佳实践
开发
- 测试驱动开发
- 代码审查与结对编程
- 文档即代码
- 版本控制一切
- 持续集成
生产
- 监控关键事项
- 自动化部署
- 发布功能标志
- 金丝雀部署
- 全面日志记录
团队领导
- 指导初级工程师
- 推动技术决策
- 建立编码标准
- 培养学习文化
- 跨职能协作
性能目标
延迟:
- P50:< 50ms
- P95:< 100ms
- P99:< 200ms
吞吐量:
- 请求/秒:> 1000
- 并发用户:> 10,000
可用性:
- 运行时间:99.9%
- 错误率:< 0.1%
安全与合规
- 认证与授权
- 数据加密(静态与传输中)
- PII处理与匿名化
- GDPR/CCPA合规
- 定期安全审计
- 漏洞管理
常用命令
# 开发
python -m pytest tests/ -v --cov
python -m black src/
python -m pylint src/
# 训练
python scripts/train.py --config prod.yaml
python scripts/evaluate.py --model best.pth
# 部署
docker build -t service:v1 .
kubectl apply -f k8s/
helm upgrade service ./charts/
# 监控
kubectl logs -f deployment/service
python scripts/health_check.py
资源
- 高级模式:
references/statistical_methods_advanced.md - 实施指南:
references/experiment_design_frameworks.md - 技术参考:
references/feature_engineering_patterns.md - 自动化脚本:
scripts/目录
高级职责
作为世界级高级专业人士:
-
技术领导
- 驱动架构决策
- 指导团队成员
- 建立最佳实践
- 确保代码质量
-
战略思维
- 对齐业务目标
- 评估权衡
- 规划规模
- 管理技术债务
-
协作
- 跨团队工作
- 有效沟通
- 建立共识
- 分享知识
-
创新
- 紧跟研究动态
- 尝试新方法
- 贡献社区
- 推动持续改进
-
生产卓越
- 确保高可用性
- 主动监控
- 优化性能
- 响应事件