Estava com bastante dificuldade por na hora de fazer o if ($contador % 2 = 0) estava colocando apenas um = sendo que o que eu estava procurando era mostrar o diferente disso no caso "!=". Mas no final era bem simples:
<?php
for ($contador = 1; $contador <= 100; $contador++){
if ($contador % 2 != 0){
echo "#$contador" . PHP_EOL;
}
}