Acredito que a resposta da questão 7 do capitulo 4: Mais funções de cálculo, esteja incorreta.
Considerando o PRODUTO 5, de 5000:
Usando lookup (sum( [quantidade vendas]), rank (sum([quantidade vendas])) - index())
Ficaria rank = 1 e index = 5
Logo, 1 - 5 = -4
Na direção ACROSS, quando o numero é negativo, os dados são deslocados pra direita. E nesse caso, os dados deveriam ir pra esquerda.
Solicito ajuda.
Oi Matheus, tudo bem?
O seu raciocínio matemático está correto: no caso do Produto 5, o cálculo de fato resulta em -4. A questão aqui é apenas uma pequena confusão sobre a convenção de direção da função LOOKUP dentro do Tableau.
No Tableau, a função LOOKUP(expressão, [offset]) segue esta lógica de deslocamento:
Aplicando ao seu exemplo do Produto 5:
RANK (1) - INDEX (5) = -4.-4 diz ao Tableau: "Saia da posição atual e busque o valor que está 4 colunas para trás (à esquerda)".Ele usa esse deslocamento negativo justamente para "puxar" os valores do início da linha para o final, e o deslocamento positivo (5 - 1 = +4 no Produto 1) para levar os valores do final para o início, realizando a inversão das colunas.
Espero ter esclarecido.
Abraços e bons estudos!
Para saber mais: 
DOCUMENTAÇÃO