讯飞医疗MaaS平台-模型精调平台
开始使用
平台简介
训练平台快速入门——功能速览
讯飞医疗MaaS平台-模型广场
讯飞医疗MaaS平台-数据管理
讯飞医疗MaaS平台-模型精调
讯飞医疗MaaS平台-批量推理
讯飞医疗MaaS平台-模型评估
讯飞医疗Maas平台-模型蒸馏
讯飞医疗MaaS平台-模型仓库
讯飞医疗MaaS平台-用量监控
模型能力
模型列表
模型能力
API参考
实践指南
功能详情
模型广场
数据管理
模型精调
批量推理
模型评估
模型蒸馏
模型仓库
用量监控
常见问题
相关协议
本文档使用 MrDoc 发布
-
+
首页
批量推理
批量推理是指您在完成模型训练后，使用含有用户输入（input）的数据集来推导模型输出结果的一种模型推理方式。该推理方式支持对多条数据同时进行推理，能大幅度提高推理效率和节省算力资源。通过批量推理，您能使用获得的推理结果对模型进行评估。 ## 模型推理数据集来源 仅支持您在数据集创建时选择类型为推理集的数据集。 **自主创建推理集**：在批量推理的创建页面，支持创建数据集，进入数据集创建页面后，数据集类型选择推理集即可实现推理集的创建。您可以在数据集管理页面实现对该数据集的管理。 ## 创建推理任务 您点击创建推理任务，进入任务创建页面后，即可以对任务进行配置  首先，您需要配置任务的基本信息，包括任务的名称和任务的描述。 基本信息配置完成后，需要选择推理集。推理集为包含了问题（input）的数据集。意义在于让模型基于训练阶段习得的知识和模式，独立生成答案（output）。  这种设计避免了答案对推理过程的干扰，真实检验模型对问题的理解、逻辑推理及生成能力，确保结果客观反映模型在实际应用中的泛化效果。 数据集选择完成后，您可以选择推理模型，平台支持选择预置的大模型和精调后的大模型，提交后即开启模型推理任务。 
xuanwu2
2025年6月18日 15:51
转发文档
收藏文档
上一篇
下一篇
手机扫码
复制链接
手机扫一扫转发分享
复制链接
Markdown文件
PDF文档（打印）
分享
链接
类型
密码
更新密码