Olá Aron, como vai?
Quando você cola um vetor do AI no PS, você tem algumas opções, que aparecem nesta janela:
Objeto Inteligente
Nesta primeira opção, você vai colar o vetor direto do Illustrator no Photoshop. Não há como editar âncoras nem nada do gênero, mas o objeto inteligente escala como vetor, ou seja, você consegue aumentá-lo ou diminuí-lo sucessivas vezes sem prejuízo da qualidade do gráfico, enquanto seu layer se mantiver como Objeto Inteligente.
Você consegue inclusive mexer no vetor no AI e atualizar facilmente no Ps, mexendo nas opções de camada do Objeto Inteligente para revincular ao arquivo. Ele manterá inclusive efeitos e ajustes de camada já feitos.
Se for apenas a base para uma pintura a ser executada com layers acima, é uma boa opção, ainda que a pintura executada no photoshop não seja vetor e, se aumentada, continuará perdendo qualidade.
Neste caso, sugiro conhecer o tamanho final do projeto de antemão ou errar sempre para cima, ou seja, trabalhando com gráficos provavelmente maiores do que os finais.
Demarcador
Com essa opção você consegue colar um vetor para fazer uma máscara com sua forma sobre uma camada abaixo, que pode ser também um vetor, colado como Objeto Inteligente. Assim você consegue mexer com efeitos sobre as formas em cima de texturas e padrões legais.
Um exemplo aqui: fiz no AI um efeito de ruído em um retângulo laranja, para criar textura; copiei e colei como objeto inteligente no PS; depois criei um circulo em vetor no AI e colei como demarcador por cima.
Você consegue aplicar todos os tipos de efeito sem rasterizar, também. Aqui, por exemplo, apliquei uma sombra projetada sobre o círculo.
Você consegue inclusive alterar a forma da forma colada como demarcador, até mesmo aumentando ou mudando a forma com suas âncoras e beziers, sem perda de qualidade.
Camada de Forma
Você consegue colar como forma e manter os pontos e âncoras do vetor, mas é bem limitado o que você pode fazer com vetores compostos.
Acaba que é necessário muito layerwork de photoshop e preenchimentos diversos, de maneira que, de forma gerla, é mesmo mais fácil resolver o vetor no illustrator antes.
Em suma...
De forma geral, você até consegue trabalhar legal com a integração de vetores no Photoshop e dar soluções criativas, principalmente em projetos majoritariamente trabalhados no PS, mas de forma geral, estou com o Bruno: Vetor é melhor trabalhar no AI mesmo até o ponto de sua necessidade e só depois de bem adiantado, colar no Photoshop, já no tamanho que o projeto necessita ou pelo menos um pouco maior, para que você possa rasterizar e trabalhar mais tranquilamente.
Qualquer dúvida estamos aí.