Solucionado (ver solução)
Solucionado
(ver solução)
6
respostas

falha ao radar os hooks e operators

Toda ves que tento rodar os hooks e os operators mas to recebendo um erro um erro " invalid literal for int() with base 10: '30.0 '" não estou conseguindo achar a fonte dele :(.

6 respostas

Ola Andre, poderia colar o erro todo e talvez o codigo que esta tentando executar? Essa mensagem de erro não diz muito sobre o que esta errado.

esse é o erro: Traceback (most recent call last): File "/home/andre/datapipeline/airflow/plugins/hooks/twitter_hook.py", line 1, in from airflow.hooks.http_hook import HttpHook File "/home/andre/datapipeline/.env/lib/python3.8/site-packages/airflow/init.py", line 50, in from airflow.models import DAG # noqa: E402 File "/home/andre/datapipeline/.env/lib/python3.8/site-packages/airflow/models/init.py", line 21, in from airflow.models.baseoperator import BaseOperator, BaseOperatorLink # noqa: F401 File "/home/andre/datapipeline/.env/lib/python3.8/site-packages/airflow/models/baseoperator.py", line 43, in from airflow.models.dag import DAG File "/home/andre/datapipeline/.env/lib/python3.8/site-packages/airflow/models/dag.py", line 52, in from airflow.models.dagbag import DagBag File "/home/andre/datapipeline/.env/lib/python3.8/site-packages/airflow/models/dagbag.py", line 50, in class DagBag(BaseDagBag, LoggingMixin): File "/home/andre/datapipeline/.env/lib/python3.8/site-packages/airflow/models/dagbag.py", line 80, in DagBag DAGBAG_IMPORT_TIMEOUT = conf.getint('core', 'DAGBAG_IMPORT_TIMEOUT') File "/home/andre/datapipeline/.env/lib/python3.8/site-packages/airflow/configuration.py", line 418, in getint return int(self.get(section, key, **kwargs)) ValueError: invalid literal for int() with base 10: '30.0'

estou rodando o codigo do hook que foi desenvolvido em aula. ps estou rodando como ele esta disponibilizado no git para evitar problemas

Hey Andre, Estranho isso estar acontecendo, alguma coisa de errada com a instalação ou a versão do Python, eu estava usando a 3.7, mas se voce for no arquivo airflow.cfg na sua pasta do projeto do airflow, procure pelo parametro DAGBAG_IMPORT_TIMEOUT, por padrão esta como 30.0, tire o .0 e deixe somente a parte inteira 30. Isso deve resolver e espero que não tenha problemas em outros momentos.

oi rafael. então ja tentei isso meu arquivo airflow.cfg esta tudo como int, ja fuçei bastante no stak overflow e não consegui encontrar outra resposta. ja desinstalei e re instalei. não to conseguindo faser isso rodar :(

solução!

Eu diria para começar do zero com um ambiente virtual novo, talvez usar a versão 3.7 do Python, e tenha certeza que na linha de comando que esta usando a variavel do airflow_home esta criada corretamente. Voce pode checar na pasta raiz do seu usuario se tem uma pasta airflow la, as vezes quando a variavel airflow_home nao foi criada, o airflow cria uma nova pasta na raiz do usuario e isso pode afetar o seu uso. Se esta pasta existir voce pode deletar.

Consegui !!!!! era uma junsão dos dois problemas, ele estava criando uma pasta na rais do meu usuario, e nessa pasta o airflow.cfg estava com 30.0 !!!! muito obrigado pela ajuda