Exporting 🤗 Transformers models to ONNX
🤗 Transformers は transformers.onnx パッケージを提供します。
設定オブジェクトを利用することで、モデルのチェックポイントをONNXグラフに変換することができます。
詳細はガイド を参照してください。 を参照してください。
ONNX Configurations
以下の3つの抽象クラスを提供しています。 エクスポートしたいモデルアーキテクチャのタイプに応じて、継承すべき3つの抽象クラスを提供します:
- エンコーダーベースのモデルは [
~onnx.config.OnnxConfig] を継承します。 - デコーダーベースのモデルは [
~onnx.config.OnnxConfigWithPast] を継承します。 - エンコーダー・デコーダーモデルは [
~onnx.config.OnnxSeq2SeqConfigWithPast] を継承しています。
OnnxConfig
[[autodoc]] onnx.config.OnnxConfig
OnnxConfigWithPast
[[autodoc]] onnx.config.OnnxConfigWithPast
OnnxSeq2SeqConfigWithPast
[[autodoc]] onnx.config.OnnxSeq2SeqConfigWithPast
ONNX Features
各 ONNX 構成は、次のことを可能にする一連の 機能 に関連付けられています。 さまざまなタイプのトポロジまたはタスクのモデルをエクスポートします。
FeaturesManager
[[autodoc]] onnx.features.FeaturesManager