Olá Amanda,

Você está chamando a função de desenhar antes do if/else, por isso que os circulos são desenhados sempre com o mesmo tamanho.

Mova a função "pincel.fill();" para a linha abaixo do if/else.

Seu código ficará da seguinte forma:

<canvas width="600" height="400"></canvas>

<script>
  var tela = document.querySelector('canvas');
  var pincel = tela.getContext('2d');
  pincel.fillStyle = 'grey';
  pincel.fillRect(0, 0, 600, 400);
  var contador = 0
  function desenhaCirculo(evento) {

    var x = evento.pageX - tela.offsetLeft;
    var y = evento.pageY - tela.offsetTop;
    var cor = ['blue', 'red', 'green'];

    pincel.fillStyle = cor[contador];
    pincel.beginPath();
    pincel.arc(x, y, 10, 0, 2 * 3.14);

    var dobra = evento.shiftKey;

    if (dobra) {
      pincel.arc(x, y, 20, 0, 2 * 3.14)
    }
    else {
      pincel.arc(x, y, 10, 0, 2 * 3.14)
    }

    pincel.fill();
  }

  function mudaCor() {

    contador++;
    if (contador == 3) { contador = 0; }
    return false;
  }



  tela.onclick = desenhaCirculo;
  tela.oncontextmenu = mudaCor;

</script>