Resumindo, criei uma variável de capacidade máxima para que facilite na hora da implementação de um novo limite. O código ficou assim:
<canvas width="600" height="400"></canvas>
<script>
    var tela = document.querySelector('canvas');
    var pincel = tela.getContext('2d');
    pincel.fillStyle = 'grey';
    pincel.fillRect(0, 0, 600, 400);
    var cores = ["blue", "red", "green"];
    var raio = 10;
    function desenhaCirculo(evento) {
        var x = evento.pageX - tela.offsetLeft;
        var y = evento.pageY - tela.offsetTop;
        var cap = 40
        if (evento.shiftKey){
                    raio = raio + 10; 
      //  } else { //Else para diminuir o raio automaticamente caso Shift não esteja pressionado
        //    raio = 10;
       //}   
        }   
        if (evento.altKey){
                raio = raio - 5;       
        }
        if (raio >= cap){
            raio = cap;
        }
        pincel.fillStyle = cores[0];
        pincel.beginPath();
        pincel.arc(x, y, raio, 0, 2 * 3.14);
        pincel.fill();
        console.log(x + ',' + y);
    }
    function mudaCor() {
        var corInicial = cores[0]
        pincel.fillStyle = cores[0];
        cores[0] = cores[1];
        cores[1] = cores[2];
        cores[2] = corInicial;
        console.log(pincel.fillStyle);    
        return false;
    }
    tela.onclick = desenhaCirculo;
    tela.oncontextmenu = mudaCor;
</script>
 
            