Olá, fiz o seguinte no Maxima:
Função de custo: C(x):=sqrt(x^2+1);
Função para cálculo da variação média: h(x,deltaX):=(C(x+deltaX)-C(x))/(deltaX);
Ao aplicar a função com os valores solicitados h(1, 1.5)
o resultado que consegui aqui foi 0.666666. Será que fiz algum erro ou o resultado mostrado na opção 'D' está errada?