コマンドラインインターフェース

Qualcomm® AI Hub には、次のことができるコマンドラインツールがインストールされています：

• デバイス情報のリスト表示

• モデルのコンパイル

• モデルのプロファイル

• クライアントの設定

コマンドの全リストとすべてのオプションは、次の方法で取得できます：

qai-hub --help

各コマンドの詳細なヘルプは、次の方法で取得できます：

qai-hub submit-profile-job --help

例

最も一般的なワークフローに対するCLIの使用例をいくつか紹介します：

デバイスの選択

# List all devices
qai-hub list-devices

# List all devices with Snapdragon 8 Gen 2
qai-hub list-devices --device-attr chipset:qualcomm-snapdragon-8gen2

フレームワークの選択

# List all frameworks
qai-hub list-frameworks

モデルのアップロード

# Upload PyTorch model
qai-hub upload-model --model ./SqueezeNet10.pt

モデルのコンパイル

# Compile a PyTorch model for TFLite
qai-hub submit-compile-job --model ./SqueezeNet10.pt --input_specs "{'image': (1, 3, 224, 224)}" --device "Samsung Galaxy S23"

# Compile a previous uploaded PyTorch model for QNN
qai-hub submit-compile-job --model m6wn0xn8j --input_specs "{'image': (1, 3, 224, 224)}" --device "Samsung Galaxy S23" --compile_options "--target_runtime qnn_lib_aarch64_android"

# Clone a previous profile job and block until job completes
qai-hub submit-compile-job --clone j1glw6y8p --wait

モデルのプロファイル

# Profile a TensorFlow lite model from disk
qai-hub submit-profile-job --model ./SqueezeNet10.tflite --device "Samsung Galaxy S23"

# Profile a model compiled by a previous job using the model ID and block until job completes
qai-hub submit-profile-job --model mejqyvqry --device "Samsung Galaxy S23" --wait

# Profile a model with profiling options
qai-hub submit-profile-job --model mejqyvqry --device "Samsung Galaxy S23" --profile_options " --compute_unit gpu"

# Clone a previous profile job
qai-hub submit-profile-job --clone jogkwr02g

一般的な複合ワークフロー

# Compile and profile a PyTorch model
qai-hub submit-compile-and-profile-jobs --model ./SqueezeNet10.pt --input_specs "{'image': (1, 3, 224, 224)}" --device "Samsung Galaxy S23"