No vídeo o professor decidiu substituir (1+i), por x. De modo que nesse caso trabalhasse com x e x^2, chegando a solução apontada. Mas e se não fizéssemos essa substituição?
FV/(1+i) + FV/(1+i)^2=VP
3000/(1+i)+2800/(1+i)^2=5000
Sem fazer a substituição a pontada, respeitando-se a propriedade de frações x/a + y/a^2 = (xa+y)/a^2 temos
[3000 (1+i) + 2800]/(1+i)^2=5000
[3000 (1+i) + 2800]=5000(1+i)^2
3000+3000i+2800 = 5000 + 5000i^2
0 = 5000 - 3000 - 2800 - 3000i +5000i^2
0 = -800 - 3000i +5000i^2
Rearranjando e cortando os zeros, 50i^2 - 30i - 8 = 0
Simplificando
25i^2 - 15i - 4 = 0, Nesse caso Báskara apresentaria como única raiz válida i = 0,58.
O cálculo na HP12c Bate com o mostrado no vídeo, então não sei o que eu errei aqui no raciocínio.