[Bug] Erro da versão o opset continua sem solução

Oi, Jackson! Como vai?

O erro indica que o modelo está sendo exportado com opset 11, mas o operador aten::scaled_dot_product_attention só é suportado a partir do opset 14.
Vamos corrigir isso aumentando a versão do opset e ajustando o código.

Veja este exemplo:

from optimum.onnxruntime import ORTModelForSequenceClassification

modelo_tc = ORTModelForSequenceClassification.from_pretrained(
    modelo_id_tc,
    export=True,
    onnx_export_kwargs={"opset": 17}  # define o opset minimo 14, ideal 17
)

O código acima exporta o modelo para ONNX usando o opset 17 e carrega a versão otimizada pelo ONNX Runtime.

Se mesmo assim o erro continuar, defina esta variável antes de importar o modelo (ela desativa a atenção SDP no export):

import os
os.environ["PYTORCH_ONNX_DISABLE_FUNCTIONAL_SDP_ATTENTION"] = "1"

E atualize os pacotes do ambiente:

!pip install -U "optimum[onnxruntime]" onnx "onnxruntime>=1.17.0" "transformers>=4.39.0" "torch>=2.1"

Resumo:

• Use onnx_export_kwargs={"opset": 17}
• Atualize as bibliotecas
• Se precisar, use a variável de ambiente para evitar falhas

Espero ter ajudado. Conte com o apoio do Fórum na sua jornada. Fico à disposição.

Abraços e bons estudos!