como o programa diferencia a linha para coluna?

Boa noite, Rodrigo!

Na verdade, o programa não sabe o que é linha ou coluna. Os nomes foram dados desta forma para ajudar na didática.

O código escreve a estrela por dez vezes (identificado como coluna, mas poderia ser frase, por exemplo) e pula três linhas (identificado como linha mesmo).

Se você modificar a condição do primeiro for para linha <=10 e do segundo for para coluna <= 3, ele fará exatamente o que você disse: 3 colunas e 10 linhas.

<meta charset="UTF-8">

<script>

    function pulaLinha() {

        document.write("<br>");

}

    function mostra(frase) {

        document.write(frase);
        pulaLinha();
}

for(var linha = 1; linha <= 10; linha++){
    for(var coluna = 1; coluna <= 3; coluna++){
    document.write("*");

    }
    pulaLinha();
}

</script>