Boa tarde Patricia,
O erro está aqui:
var calculaDecimo = (salario, mesesTrabalhados);
O correto seria:
var valorDecimo = calculaDecimo(salario, mesesTrabalhados);
mostra("O seu décimo terceiro é de: R$ " + valorDecimo);
Na linha acima criamos a variável valorDecimo, o valor dela é o retorno da função calculaDecimo.
E aí passamos a variável valorDecimo para a função mostra.
Variáveis e funções são a base do javascript (E de quase todas linguagens de programação), portanto tenha certeza que esses conceitos ficaram bem claros pra você.
Abaixo segue o código completo:
<script>
function pulaLinha() {
document.write("<br>");
}
function mostra(frase) {
document.write(frase);
}
function calculaDecimo (salario, mesesTrabalhados) {
return (salario * mesesTrabalhados) / 12;
}
var salario = 6.000;
var mesesTrabalhados = 8;
var valorDecimo = calculaDecimo(salario, mesesTrabalhados);
mostra("O seu décimo terceiro é de: R$ " + valorDecimo);
</script>
Se ainda restar alguma dúvida pergunte novamente.
Abraços
Outra coisa, no javascript 6.000 é a mesma coisa que 6.0 ou 6. Se quiser representar 6 mil use 6000.