Solucionado
Msg 8120, nível 16, estado 1, linha 2
Coluna 'nota.nota' é inválido na lista de seleção porque ele não está contido em uma função de agregação ou a cláusula GROUP BY.
select a.nome , c.nome avg ,(n.nota )from nota n
join resposta r on r.id = n.resposta_id
join exercicio e on e.id = r.exercicio_id
join secao s on s.id = e.secao_id
join curso c on c.id = s.curso_id
join aluno a on a.id = r.aluno_id
group by a.nome , c.nome
Tem um vírgula antes do parentese que está gerando o erro. E falta uma vírgula depois do nome.
O correto é
select a.nome , c.nome, avg (n.nota )
from nota n
join resposta r on r.id = n.resposta_id
join exercicio e on e.id = r.exercicio_id
join secao s on s.id = e.secao_id
join curso c on c.id = s.curso_id
join aluno a on a.id = r.aluno_id
group by a.nome , c.nome