Minha maneira de construir essa solução foi assim:
void contextMenu_04(object sender1, EventArgs e1)
{
if(!(tbCtrl_Aplicacoes.SelectedTab == null))
{
int tabInicial = 0;
int tabIndex = tbCtrl_Aplicacoes.SelectedIndex;
int tabTotal = tbCtrl_Aplicacoes.TabCount - 1;
for(int i=tabTotal; i>=tabInicial; i += -1)
{
if(!(tabIndex == i))
tbCtrl_Aplicacoes.TabPages.Remove(tbCtrl_Aplicacoes.TabPages[i]);
}
}
}