AutoGluon 0.6.0 发布详解AutoMM 目标检测与 NER、Tabular 模型编译、Time Series 静态特征三大模块演进【免费下载链接】autogluonFast and Accurate ML in 3 Lines of Code项目地址: https://gitcode.com/GitHub_Trending/au/autogluon本文基于 AutoGluon 0.6.0 官方发布说明系统梳理该版本在 AutoMM多模态、Tabular表格与 Time Series时序三大模块中的关键能力升级与底层实现支撑帮助开发者在当前仓库中定位对应源码、教程与示例理解 0.6.0 引入的核心问题类型object_detection、ner、text_similarity等、新模型FT_TRANSFORMER、DeepAR等与新的训练/推理工作流。读完本文你将能够快速上手 0.6.0 新增的目标检测、命名实体识别与语义匹配任务掌握 Tabular 的模型编译、Predictor 克隆与资源控制参数并了解 Time Series 的静态特征、时变协变量与 PyTorch 默认后端等核心变化。版本概览范围、兼容性与升级注意事项0.6.0 是 AutoGluon 在 2022 年下半年的一次大版本更新官方发布说明记录的提交时间跨度为 2022-07-18 至 2022-11-15累计包含263 个提交、由 25 位贡献者完成覆盖 Tabular、Multimodal、Time Series 三大模块的能力增强与大量可用性修复。使用本版本时需要注意两点硬性约束模型加载的版本一致性官方明确要求只能用与训练时相同版本的 AutoGluon 加载历史模型跨版本如用 0.6.0 加载 0.5.2 训练的模型不受支持。Python 版本边界0.6.0 支持 Python 3.7 至 3.9并且是最后一个支持 Python 3.7 的版本。对于仍停留在 Python 3.7 环境的项目升级前需先规划解释器迁移。从代码层面看本次发布围绕三个模块展开AutoMM 新增三大任务类型Tabular 引入新模型与编译能力Time Series 完成后端迁移与数据接口扩展。下文按模块逐一展开。AutoMM三大新任务与一套升级后的微调体系AutoGluon Multimodal简称 AutoMM在 0.6.0 中一次性新增三个problem_type对象检测object detection、命名实体识别named entity recognition与多模态匹配multimodal matching。在仓库的 constants.py 中可以找到这些新增常量定义OBJECT_DETECTION object_detection、NER ner以及匹配类任务使用的TEXT_SIMILARITY、IMAGE_SIMILARITY、IMAGE_TEXT_SIMILARITY另有配套的评估指标常量如NER_TOKEN_F1。在 predictor.py 中MultiModalPredictor会依据传入的problem_type将任务路由到对应的 Learner例如 NER 任务路由到NERLearner。对象检测接入 MMDetection 的三行代码训练0.6.0 为MultiModalPredictor增加了全新的problem_typeobject_detection。用户可以借助预训练模型直接做推理也可以用三行代码训练自己的检测模型from autogluon.multimodal import MultiModalPredictor predictor MultiModalPredictor(problem_typeobject_detection, labellabel) predictor.fit(train_data)该能力底层集成自 MMDetectionopen-mmlab 系列支持经典检测架构如 Faster R-CNN以及 YOLOV3、VFNet 等更高效、更高性能的架构。仓库中的模型封装实现位于 mmdet_image.py它会按checkpoint_name加载 mmdet 预训练权重并支持从 checkpoint 的meta中读取类别信息若 checkpoint 自带CLASSES元数据则直接沿用。任务对应的 Learner 实现在 learners/object_detection.py同时仓库还提供了 COCO 格式与 VOC 格式的数据准备工具如 prepare_detection_dataset.py 与 voc2coco.py。实操资源对象检测的完整入门教程位于 docs/tutorials/multimodal/object_detection包含数据准备、快速开始与进阶专题可直接运行的示例脚本位于 examples/automm/object_detection其中detection_train.py展示了训练入口、detection_inference.py展示了推理与可视化另有download_coco17.sh、download_voc0712.sh等数据下载脚本供复现。命名实体识别任意 HuggingFace backbone 即插即用第二个新任务类型是problem_typener。用户同样可以用三行代码完成实体抽取模型的训练与推理from autogluon.multimodal import MultiModalPredictor predictor MultiModalPredictor(problem_typener, labelentity_annotations) predictor.fit(train_data)NER 实现的显著优势在于 backbone 的开放性支持 HuggingFace Transformers 生态中的任意预训练模型包括 Google 新发布的 FLAN-T5 系列。仓库中 NER 相关训练数据列被标记为text_ner类型见 constants.py 中TEXT_NER text_ner并使用ner_token_f1等 token 级指标评估。官方教程位于 docs/tutorials/multimodal/text_prediction/ner.ipynb并额外提供了中文 NER 的实战案例 chinese_ner.ipynb便于对照英文与中文场景的差异。多模态匹配双塔架构与混合检索方案第三个新任务家族覆盖三种相似度问题类型text_similarity文本-文本、image_similarity图像-图像与image_text_similarity文本-图像。0.6.0 允许用户直接用预训练模型抽取语义 embedding 用于上述匹配任务也可以基于相关性数据relevance data继续微调。其内部实现为双塔twin-tower架构两座塔的 backbone 可自由组合——图像塔支持 TIMM 中的图像 backbone文本塔支持 HuggingFace Transformers 中的文本 backbone同时也支持 CLIP backbone。这种灵活性使同一套框架可以覆盖文本检索、图搜图、图文匹配等多种场景。一个值得关注的产品化能力是语义文本 embedding 模型可以与 BM25 结合构成混合索引hybrid indexing方案兼顾语义召回与关键词精确匹配。相关教程见 docs/tutorials/multimodal/semantic_matching其中包含文本语义搜索text_semantic_search.ipynb、图文匹配image_text_matching.ipynb与零样本图文匹配zero_shot_img_txt_matching.ipynb等场景的完整示例。微调体系升级FLAN-T5-XL、ray 2.0 与蒸馏增强在三大新任务之外AutoMM 的微调基础设施在本版本中同步升级十亿级模型参数高效微调支持在单台 AWS g4.2x-large 实例上微调 FLAN-T5-XL约 30 亿参数规模依托改进的参数高效微调parameter-efficient finetuningPEFT技术显著降低显存占用。教程见 docs/tutorials/multimodal/advanced_topics/efficient_finetuning_basic.ipynb。HPO 后端升级至 ray 2.0多模态超参搜索全面迁移到 Ray 2.0配套的新版 HPO 教程位于 docs/tutorials/multimodal/advanced_topics/hyperparameter_optimization.ipynb。模型蒸馏持续改进新增蒸馏示例与教程见 examples/automm/distillation 与 docs/tutorials/multimodal/advanced_topics/model_distillation.ipynb。图像分类默认 presets 修订并支持在autogluon.vision中通过backendautomm使用 AutoMM 作为后端。API 迁移信号与实验特性自 0.6.0 起官方推荐使用autogluon.multimodal替代autogluon.text与autogluon.vision并已为旧接口加入 deprecation 警告提示用户迁移。计划长期维护的接口应尽早切换到新命名空间。此外本版本包含若干实验性能力可能不稳定仅供探索支持使用 DeepSpeed 微调 11B 规模模型支持基于 11B 模型的小样本学习few-shot提供 hf_text 模型的 ONNX 导出示例见 examples/automm/production/onnx_text.py。另一项值得留意的增强是原生推理速度的改进官方发布说明称通过多项重构提升了 native inference 性能。TabularFT_TRANSFORMER、模型编译与 Predictor 生命周期管理新实验模型 FT_TRANSFORMER0.6.0 为表格学习引入实验性模型FT_TRANSFORMERFeature Transformer。模型实现位于 tabular/src/autogluon/tabular/models/automm/ft_transformer.py注册于 models/init.py。使用方式有两种from autogluon.tabular import TabularPredictor # 方式一在 hyperparameters 字典中显式指定 predictor TabularPredictor(labeltarget).fit( train_data, hyperparameters{FT_TRANSFORMER: {}}, ) # 方式二通过实验性最佳质量 preset 启用 predictor TabularPredictor(labeltarget).fit( train_data, presetsexperimental_best_quality, )官方建议使用 GPU 训练该模型CPU 亦可并指出在训练时间充足的情况下FT_TRANSFORMER 通常能提升集成ensemble的整体质量。模型编译compile_models()与 10x 级推理加速Tabular 新增模型编译能力predictor.compile_models()当前仅支持 Random Forest 与 Extra Trees 两类模型。使用前需安装额外依赖pip install autogluon.tabular[all,skl2onnx]根据官方发布说明编译后处理小批量样本样本数 10000时推理速度可提升约 10 倍适合延迟敏感的低吞吐在线服务场景。重要已知限制当前实现存在一个已知 bug——模型编译后再 refit 会失败并崩溃。因此务必只在训练流程的最末尾调用compile_models()不要在编译后继续修改模型。实践中建议结合下面介绍的clone()先备份 Predictor 状态再执行编译。clone()Predictor 状态快照新增的predictor.clone(path)方法可将 Predictor 对象完整克隆到新目录用于在执行不可逆操作如.save_space、.distill、.compile_models、.refit_full之前保存当前状态方便回退与对照实验。该方法在 predictor.py 中实现支持return_clone与dirs_exist_ok等参数。简化资源控制num_gpus与num_cpuspredictor.fit新增简化的num_gpus与num_cpus参数用于直接控制整个训练流程可用的总资源量替代以往需要在 hyperparameters 或 trainer 层面逐模型配置资源的繁琐方式是进行资源分配实验可参考仓库中tabular/tests/unittests/resource_allocation/下的测试时更直观的入口。fit_weighted_ensemble开关predictor.fit新增fit_weighted_ensemble参数默认True允许用户显式关闭加权集成weighted ensemble的训练从而节省最后一层的训练时间关闭后仍可事后通过predictor.fit_weighted_ensemble()手动补训。该参数在 predictor.py 中定义对应的方法实现在同文件的fit_weighted_ensembleL4830 附近。官方同时指出若要使用部分需要ensemble_weights的能力如特定部署流程需要保持该开关开启或手动补训。依赖升级与稳定性改进Tabular 模块在本版本完成了整轮依赖升级XGBoost 1.7、CatBoost 1.1、Scikit-learn 1.1、Pandas 1.5、Scipy 1.9、Numpy 1.23。升级依赖时需注意与上述 Python 3.7 支持范围协同考虑。其他值得关注的增强包括加载已训练的TabularPredictor时新增Python 版本兼容性检查解释器不兼容会直接报错对应 PR #2054新增cascade ensemble 基础逻辑PR #1929为后续分层级联集成能力铺路HPO 稳定性与效果显著改善围绕 Ray 的重构PR #1974、#1990 等、XGBoost 搜索空间大幅扩充PR #2123、修复 RF / Extra Trees / KNN 调参崩溃问题PR #2070推理延迟控制相关日志更清晰infer_limit场景roc_auc指标评分速度优化约 7xPR #2318、#2331Scorer类重构、全部指标补充单元测试PR #2242文本特殊特征TextSpecial预处理提速约 20%PR #2095修复 AutoMM Tabular 模型未最后训练时的崩溃 bugPR #2309imodels 集成改进、分位数回归下 feature importance 崩溃修复、缺失值插补 FAQ 补充等。Time Series静态特征、PyTorch 默认后端与 20 倍级加速静态特征与时变协变量更丰富的条件信息0.6.0 是 Time Series 模块数据接口大幅扩展的版本TimeSeriesPredictor正式支持静态特征static features又称时序元数据、static covariates例如每个 item 的属性与时变协变量time-varying covariates又称动态特征或相关时序例如天气、价格等随时间变化的辅助序列。仓库中 ts_dataframe.py 对static_features提供了完整的构造与校验逻辑既支持直接传入pd.DataFrame也支持传入文件路径str/Path自动加载static_features的 index 必须与数据集中每个 item 一一对应且包含一个id_column用于关联相关代码见 ts_dataframe.py。此外GluonTS 类模型如 DeepAR在推理时也会消费这些静态特征对应 PR #2238。默认后端迁移至 PyTorch摆脱 MXNet 依赖本版本中DeepAR与SimpleFeedForward等深度模型默认使用 PyTorch 训练AutoGluon-TimeSeries 由此移除了对 MXNet 的运行时依赖PyTorch 类模型默认启用 GPU 训练PR #2323。相关模型实现见 models/gluonts/models.py其中包含DeepARModel、SimpleFeedForwardModel与TemporalFusionTransformerModel。新模型AutoGluonTabular、Naive 家族与 TFT0.6.0 为时序预测新增多类模型AutoGluonTabular系列底层复用autogluon.tabular模块背后是 XGBoost、LightGBM 与 CatBoost 等表格模型将 AutoGluon 的表格建模能力引入时序场景。该系列包含DirectTabularModel、PerStepTabularModel、RecursiveTabularModel三种策略见 models/autogluon_tabular。Naive与SeasonalNaive朴素与季节性朴素基线几乎零训练成本即可提供强基线实现位于 models/local/naive.py。TemporalFusionTransformerMXNet将 TFT transformer 架构引入 AutoGluonMXNet 实现与上面的 PyTorch 系模型并存。训练与评估提速统计local模型并行训练提速官方发布说明称ETS、ARIMA、Theta及WeightedEnsemble的并行、内存高效训练最高提速20 倍对应 PR #2001、#2033、#2040 等。GluonTS 模型数据缓存通过缓存机制使训练最高提速约 3 倍PR #2323。多窗口回测multi-window backtesting让时序模型验证更准确PR #2013、#2038。评估器升级TimeSeriesEvaluator更新后预测评估最高提速 15 倍且更稳健PR #2147、#2150。数据与 HPO 的若干修复TimeSeriesPredictor新增ignore_index处理不规则采样的时序数据PR #1993、#2322弃用向TimeSeriesPredictor.predict传quantile_levels的方式PR #2277修复 splitter 将训练序列截短至不足prediction_length 1的问题PR #2099修复时序模型 HPO 中 hyperparameter 覆盖overloading问题PR #2189优化TimeSeriesDataFrame公共 API 与slice_by_timestep性能PR #2105、#2020提高 DeepAR 预测时的采样数量PR #2291presets 修订为最小上下文长度 10PR #2065修复日频周期推断PR #2100。文档与教程更新0.6.0 重写并新增了 Time Series 文档体系仓库内对应的最新教程为快速入门forecasting-quick-start.ipynb深入教程forecasting-indepth.ipynb模型与超参总览docs/tutorials/timeseries/model_zoo/index.md总结与升级建议AutoGluon 0.6.0 的版本主线可概括为“三大模块的能力闭环”AutoMM 从分类/回归扩展到通用多模态任务目标检测、NER、语义匹配三个新 problem type 使 AutoMM 覆盖了 CV、NLP 与跨模态检索的常见业务形态同时 PEFT 与 ray 2.0 支撑起十亿级模型的实用化微调Tabular 走向生产部署友好FT_TRANSFORMER 补强集成质量compile_models提供数量级推理加速附已知 bug 限制clone/num_gpus/num_cpus/fit_weighted_ensemble完善了 Predictor 的生命周期与资源管理Time Series 完成后端与数据层升级PyTorch 默认后端去 MXNet 依赖、静态特征与时变协变量扩展建模能力、统计模型并行化带来数十倍训练提速。对于计划升级到 0.6.0 的用户官方给出了清晰的行动清单确认 Python 版本在 3.7–3.9 区间并规划 3.7 的退出路径避免跨版本加载旧模型若使用compile_models()务必在流程最末调用若使用autogluon.text/autogluon.vision尽早迁移至autogluon.multimodal。对于尝鲜 FT_TRANSFORMER、DeepSpeed 等实验特性建议先在独立环境中验证稳定性后再进入生产。【免费下载链接】autogluonFast and Accurate ML in 3 Lines of Code项目地址: https://gitcode.com/GitHub_Trending/au/autogluon创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考