Construtores

No exemplo citado, devemos instanciar a propriedade se quisermos estabelecer que não é permitido atribuir valores negativos aos campos, basta declarar o atributo como privado private int _agencia; e um atributo public que terá a responsabilidade pela validação:

public int Agencia
 {
      get { return _agencia; }
      set { _agencia = value; }
 }

No seu exemplo você está colocando ponto e vírgula onde não se deve, no caso na declaração de um atributo. Por isso não compila com o ponto e vírgula, somente sem.

Declaração completa

    class ClasseCorrente
    {
        private int _agencia;

        public int Agencia
        {
            get { return _agencia; }
            set { _agencia = value; }
        }
    }

A transcrição do vídeo está errada, usamos o ponto e vírgula para indicar um fim de instrução, neste caso o atributo Agencia ficou público e dali pra baixo o código ficou errado, o Visual Studio por não entender o resto de código o sinalizou com a cor vermelha e indicou o que fazer, a indicação nem sempre é a correta, é necessário uma análise do código.

Da forma em que o código está não vai compilar, é necessário remover o ponto e vírgula ao final da linha.