A mudança foi apenas colocar o var raio para fora da função para que ela não fosse zerada a cada chamada da função.
Com a função fora, agora o tamanho irá acumular a cada clique enquanto a tecla shift estiver segurada.
Espero ter ajudado. Sucesso na sua jornada.
<canvas width="600" height="400"></canvas>
<script>
var tela = document.querySelector("canvas");
var pincel = tela.getContext ("2d");
pincel.fillStyle = "grey";
pincel.fillRect (0, 0, 600, 400);
var colors = ["blue", "red", "green"];
var i = 0;
var raio = 10;
function desenharBolinhas (evento) {
var x = evento.pageX - tela.offsetLeft;
var y = evento.pageY - tela.offsetTop;
pincel.fillStyle = colors[i];
if (evento.shiftKey) {
raio = raio + 10;
}
pincel.beginPath();
pincel.arc(x , y, raio, 0, 2*3.14);
pincel.fill();
}
tela.onclick = desenharBolinhas;
function mudarCor () {
i = i + 1;
if (i == colors.length) {
i = 0;
}
return false;
}
tela.oncontextmenu = mudarCor;
</script>