DrDavis's picture
Upload folder using huggingface_hub
17c6d62 verified

Exporting 🤗 Transformers models to ONNX

🤗 Transformers は transformers.onnx パッケージを提供します。 設定オブジェクトを利用することで、モデルのチェックポイントをONNXグラフに変換することができます。

詳細はガイド を参照してください。 を参照してください。

ONNX Configurations

以下の3つの抽象クラスを提供しています。 エクスポートしたいモデルアーキテクチャのタイプに応じて、継承すべき3つの抽象クラスを提供します:

  • エンコーダーベースのモデルは [~onnx.config.OnnxConfig] を継承します。
  • デコーダーベースのモデルは [~onnx.config.OnnxConfigWithPast] を継承します。
  • エンコーダー・デコーダーモデルは [~onnx.config.OnnxSeq2SeqConfigWithPast] を継承しています。

OnnxConfig

[[autodoc]] onnx.config.OnnxConfig

OnnxConfigWithPast

[[autodoc]] onnx.config.OnnxConfigWithPast

OnnxSeq2SeqConfigWithPast

[[autodoc]] onnx.config.OnnxSeq2SeqConfigWithPast

ONNX Features

各 ONNX 構成は、次のことを可能にする一連の 機能 に関連付けられています。 さまざまなタイプのトポロジまたはタスクのモデルをエクスポートします。

FeaturesManager

[[autodoc]] onnx.features.FeaturesManager