zl程序教程

您现在的位置是:首页 >  其他

当前栏目

flow 命令的安装与使用

安装命令 Flow 使用
2023-09-14 09:14:37 时间

1 安装

pip install fate-client

如果觉得下载速度太慢可以考虑指定国内源,例:

pip install fate-client -i https://pypi.tuna.tsinghua.edu.cn/simple

2 初始化

init

  • 介绍: Fate Flow 命令行初始化命令。用户可选择提供fate服务器配置文件路径或指定fate服务器ip地址及端口进行初始化。注意:若用户同时使用上述两种方式进行初始化,CLI将优先读取配置文件内容,而用户所配置的服务器ip地址及端口信息将被忽略。
  • 参数
编号参数Flag_1Flag_2必要参数参数介绍
1conf_path-c--server-conf-pathFATE服务器配置文件路径
2ip--ipFATE服务器ip地址
3port--portFATE服务器端口
4reset--reset如果指定,初始化信息将被重置
  • 示例
# configure values in conf/service_conf.yaml
flow init -c /data/projects/fate/conf/service_conf.yaml
# alternatively, input real ip address and port info to initialize cli
flow init --ip 127.0.0.1 --port 9380

单机版没有.yaml文件,所以只能使用第二种初始化方式,我在集群部署时,使用第二种初始化后,flow命令一直无法使用,所以使用第一种初始化方式。

image-20210823113102859

upload

  • 介绍: 上传数据表。
  • 参数
编号参数Flag_1Flag_2必要参数参数介绍
1conf_path-c--conf-path任务配置文件路径
2verbose--verbose如果指定,用户将在控制台获得上传进度(默认不开启)
3drop--drop如果指定,旧版已上传数据将被新上传的同名数据替换(默认不替换)
  • 示例
flow data upload -c fate_flow/examples/upload_guest.json
flow data upload -c fate_flow/examples/upload_host.json --verbose --drop

image-20210823113514141

3 Data

download

  • 介绍: 下载数据表。
  • 参数
编号参数Flag_1Flag_2必要参数参数介绍
1conf_path-c--conf-path任务配置文件路径
  • 示例
flow data download -c fate_flow/examples/download_host.json

upload

  • 介绍: 上传数据表。
  • 参数
编号参数Flag_1Flag_2必要参数参数介绍
1conf_path-c--conf-path任务配置文件路径
2verbose--verbose如果指定,用户将在控制台获得上传进度(默认不开启)
3drop--drop如果指定,旧版已上传数据将被新上传的同名数据替换(默认不替换)
  • 示例
flow data upload -c fate_flow/examples/upload_guest.json
flow data upload -c fate_flow/examples/upload_host.json --verbose --drop

upload_guest.json的内容:

{
  "file": "examples/data/breast_homo_guest.csv",
  "head": 1,
  "partition": 10,
  "work_mode": 0,
  "namespace": "experiment",
  "table_name": "breast_homo_guest"
}

字段说明:

  1. file: 文件路径

  2. table_name&namespace: 存储数据表的标识符号

  3. head: 指定数据文件是否包含表头

  4. partition: 指定用于存储数据的分区数

  5. work_mode: 指定工作模式,0代表单机版,1代表集群版

  6. backend: 指定后端,0代表EGGROLL, 1代表SPARK加RabbitMQ, 2代表SPARK加Pulsar

upload-history

  • 介绍: 检索上传数据历史。
  • 参数
编号参数Flag_1Flag_2必要参数参数介绍
1limit-l--limit返回结果数量限制(默认:10)
2job_id-j--job_idJob ID
  • 示例
flow data upload-history -l 20
flow data upload-history --job-id $JOB_ID

3 Job

submit

  • 介绍: 提交执行pipeline任务。
  • 参数
编号参数Flag_1Flag_2必要参数参数介绍
1conf_path-c--conf-path任务配置文件路径
2dsl_path-d--dsl-pathDSL文件路径. 如果任务为预测任务,该字段可以不输入。另外,用户可以提供可用的自定义DSL文件用于执行预测任务。
  • 示例
flow job submit -c test_homolr_train_job_conf.json -d test_homolr_train_job_dsl.json

image-20210823133333517

stop

  • 介绍: 取消或终止指定任务。
  • 参数
编号参数Flag_1Flag_2必要参数参数介绍
1job_id-j--job_idJob ID
  • 示例

    flow job stop -j $JOB_ID
    

query

  • 介绍: 检索任务信息。
  • 参数
编号参数Flag_1Flag_2必要参数参数介绍
1job_id-j--job_idJob ID
2role-r--role角色
3party_id-p--party_idParty ID
4status-s--status任务状态
  • 示例

    flow job query -r guest -p 9999 -s complete
    flow job query -j $JOB_ID
    

view

  • 介绍: 检索任务数据视图。
  • 参数
编号参数Flag_1Flag_2必要参数参数介绍
1job_id-j--job_idJob ID
2role-r--role角色
3party_id-p--party_idParty ID
4status-s--status任务状态
  • 示例

    flow job view -j $JOB_ID -s complete
    

config

  • 介绍: 下载指定任务的配置文件到指定目录。
  • 参数
编号参数Flag_1Flag_2必要参数参数介绍
1job_id-j--job_idJob ID
2role-r--role角色
3party_id-p--party_idParty ID
4output_path-o--output-path输出目录
  • 示例

    flow job config -j $JOB_ID -r host -p 10000 --output-path ./examples/
    

log

  • 介绍: 下载指定任务的日志文件到指定目录。
  • 参数
编号参数Flag_1Flag_2必要参数参数介绍
1job_id-j--job_idJob ID
2output_path-o--output-path输出目录
  • 示例

    flow job log -j JOB_ID --output-path ./examples/
    

list

  • 介绍: 展示任务列表。
  • 参数
编号参数Flag_1Flag_2必要参数参数介绍
1limit-l--limit返回数量限制(默认:10)
  • 示例
flow job list
flow job list -l 30

dsl

  • 介绍: 预测DSL文件生成器。
  • 参数
编号参数Flag_1Flag_2必要参数参数介绍
1cpn_list--cpn-list用户指定组件名列表
2cpn_path--cpn-path用户指定带有组件名列表的文件路径
3train_dsl_path--train-dsl-path训练dsl文件路径
4output_path-o--output-path输出目录路径
  • 示例
flow job dsl --cpn-path fate_flow/examples/component_list.txt --train-dsl-path fate_flow/examples/test_hetero_lr_job_dsl.json

flow job dsl --cpn-path fate_flow/examples/component_list.txt --train-dsl-path fate_flow/examples/test_hetero_lr_job_dsl.json -o fate_flow/examples/

flow job dsl --cpn-list "dataio_0, hetero_feature_binning_0, hetero_feature_selection_0, evaluation_0" --train-dsl-path fate_flow/examples/test_hetero_lr_job_dsl.json -o fate_flow/examples/

flow job dsl --cpn-list [dataio_0,hetero_feature_binning_0,hetero_feature_selection_0,evaluation_0] --train-dsl-path fate_flow/examples/test_hetero_lr_job_dsl.json -o fate_flow/examples/

4 Model

load

  • 介绍: 加载模型。
  • 参数
编号参数Flag_1Flag_2必要参数参数介绍
1conf_path-c--conf-path任务配置文件路径
2job_id-j--job_idJob ID
  • 示例
flow model load -c fate_flow/examples/publish_load_model.json
flow model load -j $JOB_ID

bind

  • 介绍: 绑定模型。
  • 参数
编号参数Flag_1Flag_2必要参数参数介绍
1conf_path-c--conf-path任务配置文件路径
2job_id-j--job_idJob ID
  • 示例
flow model bind -c fate_flow/examples/bind_model_service.json
flow model bind -c fate_flow/examples/bind_model_service.json -j $JOB_ID

import

  • 介绍: 导入模型。
  • 参数
编号参数Flag_1Flag_2必要参数参数介绍
1conf_path-c--conf-path任务配置文件路径
2from-database–from-database如果指定且有可用的数据库环境,fate flow将从根据任务配置文件从数据库中导入模型。
  • 示例
flow model import -c fate_flow/examples/import_model.json
flow model import -c fate_flow/examples/restore_model.json --from-database

export

  • 介绍: 导出模型。
  • 参数
编号参数Flag_1Flag_2必要参数参数介绍
1conf_path-c--conf-path任务配置文件路径
2to-database--to-database如果指定且有可用的数据库环境,fate flow将从根据任务配置文件将模型导出到数据库中。
  • 示例
flow model export -c fate_flow/examples/export_model.json
flow model export -c fate_flow/examplse/store_model.json --to-database

migrate

  • 介绍: 迁移模型。
  • 参数
编号参数Flag_1Flag_2必要参数参数介绍
1conf_path-c--conf-path任务配置文件路径
  • 示例
flow model migrate -c fate_flow/examples/migrate_model.json

tag-list

  • 介绍: 展示模型的标签列表。
  • 参数
编号参数Flag_1Flag_2必要参数参数介绍
1job_id-j--job_idJob ID
  • 示例
flow model tag-list -j $JOB_ID

tag-model

  • 介绍: 对模型添加标签。
  • 参数
编号参数Flag_1Flag_2必要参数参数介绍
1job_id-j--job_idJob ID
2tag_name-t--tag-name标签名
3remove--remove如果指定,带有指定标签名的标签将被模型的标签列表中移除
  • 示例
flow model tag-model -j $JOB_ID -t $TAG_NAME
flow model tag-model -j $JOB_ID -t $TAG_NAME --remove

deploy

  • 介绍: 配置模型预测DSL。
  • 参数
编号参数Flag_1Flag_2必要参数参数介绍
1model_id--model-id模型ID
2model_version--model-version模型版本
3cpn_list--cpn-list组件列表
4cpn_path--cpn-path组件列表文件路径
5dsl_path--dsl-path用户指定预测DSL文件路径
  • 示例
flow model deploy --model-id $MODEL_ID --model-version $MODEL_VERSION

get-predict-dsl

  • 介绍: 获取模型预测DSL。
  • 参数
编号参数Flag_1Flag_2必要参数参数介绍
1model_id--model-id模型ID
2model_version--model-version模型版本
3output_path-o--output-path输出路径
  • 示例
flow model get-predict-dsl --model-id $MODEL_ID --model-version $MODEL_VERSION -o ./examples/

get-predict-conf

  • 介绍: 获取模型预测Conf模板。
  • 参数
编号参数Flag_1Flag_2必要参数参数介绍
1model_id--model-id模型ID
2model_version--model-version模型版本
3output_path-o--output-path输出路径
  • 示例
flow model get-predict-conf --model-id $MODEL_ID --model-version $MODEL_VERSION -o ./examples/

get-model-info

  • 介绍: 获取模型信息。
  • 参数
编号参数Flag_1Flag_2必要参数参数介绍
1model_id--model-id模型ID
2model_version--model-version模型版本
2role-r--role角色
3party_id-p--party-idParty ID
3detail--detail若指定,详细信息将被展示
  • 示例
flow model get-model-info --model-id $MODEL_ID --model-version $MODEL_VERSION
flow model get-model-info --model-id $MODEL_ID --model-version $MODEL_VERSION --detail

5 Component (TRACKING)

parameters

  • 介绍: 检索指定组件的参数。
  • 参数
编号参数Flag_1Flag_2必要参数参数介绍
1job_id-j--job_idJob ID
2role-r--role角色
3party_id-p--party_idParty ID
4component_name-cpn--component_name组件名
  • 示例
flow component parameters -j $JOB_ID -r host -p 10000 -cpn hetero_feature_binning_0

metric-all

  • 介绍: 检索指定任务的所有metric数据。
  • 参数
编号参数Flag_1Flag_2必要参数参数介绍
1job_id-j--job_idJob ID
2role-r--role角色
3party_id-p--party_idParty ID
4component_name-cpn--component_name组件名
  • 示例

    flow component metric-all -j $JOB_ID -r host -p 10000 -cpn hetero_feature_binning_0
    

metrics

  • 介绍: 检索指定任务指定组件的metric数据。
  • 参数
编号参数Flag_1Flag_2必要参数参数介绍
1job_id-j--job_idJob ID
2role-r--role角色
3party_id-p--party_idParty ID
4component_name-cpn--component_name组件名
  • 示例

    flow component metrics -j $JOB_ID -r host -p 10000 -cpn hetero_feature_binning_0
    

metric-delete

  • 介绍: 删除指定metric数据。
  • 参数
编号参数Flag_1Flag_2必要参数参数介绍
1date-d--date8位日期, 形如 ‘YYYYMMDD’
2job_id-j--job_idJob ID
  • 示例
# 注意:如果同时键入date参数与job_id参数,CLI将优先检测date参数数据,job_id参数将被忽略。
flow component metric-delete -d 20200101
flow component metric-delete -j $JOB_ID

output-model

  • 介绍: 检索指定组件模型。
  • 参数
编号参数Flag_1Flag_2必要参数参数介绍
1job_id-j--job_idJob ID
2role-r--role角色
3party_id-p--party_idParty ID
4component_name-cpn--component_name组件名
  • 示例

    flow component output-model -j $JOB_ID -r host -p 10000 -cpn hetero_feature_binning_0
    

output-data

  • 介绍: 下载指定组件的输出数据。
  • 参数
编号参数Flag_1Flag_2必要参数参数介绍
1job_id-j--job_idJob ID
2role-r--role角色
3party_id-p--party_idParty ID
4component_name-cpn--component_name组件名
5output_path-o--output-path输出目录
6limit-l--limit默认返回全部
  • 示例

    flow component output-data -j $JOB_ID -r host -p 10000 -cpn hetero_feature_binning_0 --output-path ./examples/
    

output-data-table

  • 介绍: 查看数据表名及命名空间。
  • 参数
编号参数Flag_1Flag_2必要参数参数介绍
1job_id-j--job_idJob ID
2role-r--role角色
3party_id-p--party_idParty ID
4component_name-cpn--component_name组件名
  • 示例

    flow component output-data-table -j $JOB_ID -r host -p 10000 -cpn hetero_feature_binning_0
    

list

  • 介绍: 展示指定任务的组件列表。
  • 参数
编号参数Flag_1Flag_2必要参数参数介绍
1job_id-j--job_idJob ID
  • 示例
flow component list -j $JOB_ID

get-summary

  • 介绍: 获取指定组件的概要。
  • 参数
编号参数Flag_1Flag_2必要参数参数介绍
1job_id-j--job_idJob ID
2role-r--role角色
3party_id-p--party_idParty ID
4component_name-cpn--component_name组件名
5output_path-o--output-path输出目录路径
  • 示例
flow component get-summary -j $JOB_ID -r host -p 10000 -cpn hetero_feature_binning_0

flow component get-summary -j $JOB_ID -r host -p 10000 -cpn hetero_feature_binning_0 -o ./examples/

6 Task

query

  • 介绍: 检索Task信息。
  • 参数
编号参数Flag_1Flag_2必要参数参数介绍
1job_id-j--job_idJob ID
2role-r--role角色
3party_id-p--party_idParty ID
4component_name-cpn--component_name组件名
5status-s--status任务状态
  • 示例
flow task query -j $JOB_ID -p 9999 -r guest
flow task query -cpn hetero_feature_binning_0 -s complete

list

  • 介绍: 展示Task列表。
  • 参数
编号参数Flag_1Flag_2必要参数参数介绍
1limit-l--limit返回结果数量限制(默认:10)
  • 示例
flow task list
flow task list -l 25

7 Table

info

  • 介绍: 检索数据表信息。
  • 参数
编号参数Flag_1Flag_2必要参数参数介绍
1namespace-n--namespace命名空间
2table_name-t--table-name数据表名
  • 示例
flow table info -n $NAMESPACE -t $TABLE_NAME

delete

  • 介绍: 删除指定数据表。
  • 参数
编号参数Flag_1Flag_2必要参数参数介绍
1namespace-n--namespace命名空间
2table_name-t--table_name数据表名
  • 示例
flow table delete -n $NAMESPACE -t $TABLE_NAME

8 Queue

clean

  • 介绍: 取消所有在队列中的Job。
  • 参数: 无
  • 示例
flow queue clean
| -------- | -------- |
| 1    | namespace  | `-n`   | `--namespace`  | 是       | 命名空间 |
| 2    | table_name | `-t`   | `--table-name` | 是       | 数据表名 |

- *示例*:

flow table info -n $NAMESPACE -t $TABLE_NAME


### `delete`

- *介绍*: 删除指定数据表。
- *参数*:

| 编号 | 参数       | Flag_1 | Flag_2         | 必要参数 | 参数介绍 |
| ---- | ---------- | ------ | -------------- | -------- | -------- |
| 1    | namespace  | `-n`   | `--namespace`  | 否       | 命名空间 |
| 2    | table_name | `-t`   | `--table_name` | 否       | 数据表名 |

- *示例*:

flow table delete -n $NAMESPACE -t $TABLE_NAME


# 8 Queue

### `clean`

- *介绍*: 取消所有在队列中的Job。
- *参数*: 无
- *示例*:

flow queue clean