Boa noite, Paula.
Dentro do seu código ele tá pulando muita linha porque você colocou três espaços dentro da sua função, além de que a função está sendo chamado dentro do loop de repetição que foi criado, logo toda vez que ele for imprimir um resultado, ele vai colocar o seu resultado e inserir os 3 espaços que você colocou dentro da função inicial.
Vou deixar uma sugestão abaixo.
<meta charset="UTF-8">
<script>
//nao funciona
function puloLinha() {
document.write("<br>");
}
var parcelas = [10.40, 40.00, 100.18, 200];
for(var i = 0; i < parcelas.length; i = i + 1) {
document.write(parcelas[i]);
puloLinha(); //pode retirar se desejar
}
document.write("FIM");
</script>