Olá Juan
Sua dúvida já faz um tempo, mas como é uma coisa que o curso não abrange, você provavelmente não vai obter uma resposta aqui. Vou tentar dar um caminho, mas recomendo ir no GUJ na tag de PHP e ver se lá lhe ajudam com mais detalhes.
Fazer captcha é um processo bem complexo de tratamento de imagem, você deve usar uma biblioteca que já existe e faça isso, pois assim você reduz sua propensão a implementar algo que não funcione como você esperava e gastar muito tempo com isso.
Alguns links na "googlada" que dei :)
http://www.codigopronto.com/artigo/87/Como-criar-um-Captcha-simples-com-php
http://www.devmedia.com.br/captcha-simples-com-php/17444
http://www.botecodigital.info/php/criando-um-captcha-em-php/
Não testei nenhum deles, mas qualquer problema, a galera do GUJ pode lhe ajudar melhor.
Abraço