Quase bom

Não sei qual a solução proposta no curso pois não tenho acesso sem iniciar o mesmo, mas uma simples mudança de posição do seu if e o código funciona perfeitamente:

Ao invés de:

    function lidaComMovimentoDoMouse(evento) {

        var x = evento.pageX - tela.offsetLeft;
        var y = evento.pageY - tela.offsetTop;

        if(desenha) {

            desenhaCirculo(x, y, 5, corAtual);

            if(x<150 && y<50){
                desabilitaDesenhar();
            }
        }

    }

Utilize assim:

    function lidaComMovimentoDoMouse(evento) {

        var x = evento.pageX - tela.offsetLeft;
        var y = evento.pageY - tela.offsetTop;

        if(x<150 && y<50){
            desabilitaDesenhar();
        }

        if(desenha) {
            desenhaCirculo(x, y, 5, corAtual);
        }

    }

O que acontece de desenhar sobre a palheta de cores as vezes é porque vários eventos concorrentes acontecem e acabam deixando o desenha como habilitado.

Se você executar esse código e verificar o log verá o que eu estou dizendo:

    function desenhaQuadrado(x, y, tamanho, cor) {

      pincel.fillStyle = cor;
      pincel.fillRect(x, y, tamanho, tamanho)
      pincel.fill();
    }

    function desenhaCirculo(x, y, raio, cor) {

      pincel.fillStyle = cor;
      pincel.beginPath();
      pincel.arc(x, y, raio, 0, 2 * 3.14);
      pincel.fill();

    }

    function desenhaPaletaDeCores() {

      desenhaQuadrado(xVermelho, yQuadrados, tamanhoQuadrados, 'red');
      desenhaQuadrado(xVerde, yQuadrados, tamanhoQuadrados, 'green');
      desenhaQuadrado(xAzul, yQuadrados, tamanhoQuadrados, 'blue');

    }

    function lidaComMovimentoDoMouse(evento) {

      var x = evento.pageX - tela.offsetLeft;
      var y = evento.pageY - tela.offsetTop;

      if (desenha) {

        desenhaCirculo(x, y, 5, corAtual);

        if (x < 150 && y < 50) {
          console.log('desenhou');
          desabilitaDesenhar();
        }
      }

    }

    function habilitaDesenhar() {
      console.log('habilitou');
      desenha = true;
    }

    function desabilitaDesenhar() {
      console.log('desabilitou');
      desenha = false;
    }

    function escolheCor(evento) {

      var x = evento.pageX - tela.offsetLeft;
      var y = evento.pageY - tela.offsetTop;

      if (x > 0 && x < 50 && y < 50) {
        corAtual = 'red'
      }

      if (x > 50 && x < 100 && y < 50) {
        corAtual = 'green'
      }

      if (x > 100 && x < 150 && y < 50) {
        corAtual = 'blue'
      }


    }

    var tela = document.querySelector('canvas');
    var pincel = tela.getContext('2d');
    pincel.fillStyle = 'lightgray';
    pincel.fillRect(0, 0, 600, 400);

    var desenha = false;
    var corAtual = 'blue';
    var xVermelho = 0;
    var xVerde = 50;
    var xAzul = 100;
    var yQuadrados = 0;
    var tamanhoQuadrados = 50;

    desenhaPaletaDeCores(); // mostra os quadrados de seleção de cores

    tela.onclick = escolheCor;

    tela.onmousemove = lidaComMovimentoDoMouse;

    tela.onmousedown = habilitaDesenhar;

    tela.onmouseup = desabilitaDesenhar;

Muito obrigado Marco!!! Fez sentido agora!!