Ao ler o código de Fugencio identifiquei de cara o problema, tendo como base os conteúdos aprendidos no curso até agora.
A TAG script serve para identificar o que será lido em JavaScript e, o que estiver fora dela, será lido como HTML.
O título está em HTML e a função alert em JavaScript. Logo, devemos escrever o código assim:
<meta charset="UTF-8">
<h1>Primeiro programa</h1>
<script>
alert("Este é um popup feito com JavaScript");
</script>