Oi Daniel,
Excelente pergunta. E pra ser honesto, também a tive quando comecei a estudar estatística!
Qualquer teste de hipótese verifica a probabilidade das duas amostras comparadas pertencerem a mesma população. Então, quando vc faz:
wilcox.test(a,b)
E se o resultado é um p-value muito baixo, então a chance de ambas serem iguais é muito baixa, ou seja, podemos afirmar, com alguma certeza que elas são diferentes.
É por isso que a hipótese é geralmente "o contrário" do que esperamos. Raramente queremos testar se duas amostras são iguais, certo? Queremos saber se o remédio A é melhor que B, se o teste C é melhor que D, e assim por diante. Por isso, se vc quiser formalizar a hipótese, ela sempre é "A é igual a B". Se seu p-value for baixo, então você pode rejeitar essa hipótese, e aceitar a hipótese alternativa, "A não é igual a B".
Ah, depois que você conseguir seu p-value pequenininho, não esqueça de calcular o effect size para saber o tamanho da diferença, ok? Leia mais sobre Cliff's Delta.
Consegui responder?
Um abraço!