Rodrigo, tudo bom?
Se procurar "don't use story points" no Google vai ver que tem diversos artigos falando sobre isso. É uma polêmica que faz muitas equipes, num grau mais alto de agilidade, a não adotar mais story points.
Na verdade, story points não é tempo ou tem relação com tempo. Ela não é uma medida exata e sim uma estimativa de esforço. Uma história que tem 5 story points não é cinco vezes mais demorada do que uma história com 1 story points. Por isso, apesar de ser utilizado o termo velocidade não podemos nos apegar ao conceito de velocidade da física. Essas analogias são comuns no nosso dia a dia, a velocidade do pensamento não indica o tempo que um pensamento vai de um lado para o outro, ou significa o tempo que um impulso elétrico percorre o dentrito.
A questão da polêmica em torno do story point vem da metodologia tradicional aplicada pelas consultorias onde era necessário ter uma métrica de acompanhamento do trabalho da equipe. Em algum momento pensaram que relacionar story point com tempo seria uma boa ideia, não foi.