Olá Vini, tranquilo?
O segredo deste curso é na forma que geramos as "novas" palavras, a partir de uma palavra errada, esse era nosso objetivo!
Nossa inferência era relativamente simples (advinhar qual das palavras geradas era a correta), era considerado apenas a palavra de maior frequência, mas na realidade o que determina o uso de uma palavra é seu contexto, ou seja as palavras que vem antes dela! Mudar a forma de fazer a inferência neste caso é a melhor coisa!
Você pode usar por exemplo uma representação de palavras word2vec, glove ou qualquer outra que considera o contexto com que as palavras são usadas, assim ao tentar fazer a inferência da palavra correta, considere o contexto tbm (uma palavra antes e uma palavra depois, por exemplo). O curso de Word2Vec pode te ajudar a entender um pouco melhor como resolver esse problema!
Abraços e bons estudos!