Oi Stella,

Isso acontece pois o seu o evento.altKey está sendo usado dentro do evento.shiftKey, você deve passar ele como uma ação alternativa ao altKey:

<canvas width="600" height="400"></canvas>

<script>
    var tela = document.querySelector('canvas');
    var pincel = tela.getContext('2d');
    pincel.fillStyle = 'grey';
    pincel.fillRect(0, 0, 600, 400);
    var cores=['blue','red','green'];
    var indiceCor=0;//blue//
    var raio=10;


    function desenhaCirculo(evento) {

        var x = evento.pageX - tela.offsetLeft;
        var y = evento.pageY - tela.offsetTop;
        //var raio =10;

        console.log(x + ',' + y);


    if (evento.shiftKey){

            raio=raio+10;  
            if(raio>=40){
                raio=40;
            } 

    }
   else if(evento.altKey){ // Alteração bem aqui !!!!!

        raio=raio-10;

        if(raio<=10){
            raio=10;
        }


     }

        pincel.fillStyle = cores[indiceCor];
        pincel.beginPath();
        pincel.arc(x, y, raio, 0, 2 * 3.14);
        pincel.fill();


    }

    tela.onclick = desenhaCirculo;

    function mudaCor() {

       indiceCor++;

       if(indiceCor>= cores.length){

        indiceCor=0;
        //alert('Funcionou!');

       }

        return false;
    }

    tela.oncontextmenu = mudaCor;

</script>