"Pelo que estou entendendo, mesmo a entidade possuindo atributo chave, ainda sim pode ser considerada como entidade fraca. É isso mesmo?"
R: Correto.
"Outra coisa, uma entidade fraca, quando está se relacionando com entidade forte, não deveria utilizar o losango duplo, por ser de identificação?"
R: Não necessariamente. Mas deixo para os divers da Alura a explicação detalhada :)
Quanto mais clara for a explicação no material oficial do curso, melhor.
Mas há outras dúvidas sobre "entidades fracas" já com resposta nesse Fórum.
Uma delas aponta para o artigo "https://www.alura.com.br/artigos/mer-e-der-funcoes" que traz uma explicação clara:
Já as entidades fracas, dependem de outras entidades para existir, ou seja, elas não possuem existência própria ou não possuem atributos próprios para identificação, dependendo assim, dos atributos chave das entidades fortes.