Erro no docker-compose up

Oi, Luiz. Tudo bem?

Poderia mandar aqui o conteúdo do seu docker-compose.yml?

Esse erro é do runtime do Go (linguagem na qual o Docker foi feito) e acontece quando não é possível alocar memória para o programa. Agora não sei se no seu caso é pouca memória na sua máquina para que o container possa ser criado, ou pouca memória no container para que o processo dele possa ser executado.

De toda forma, é possível definir a memória que o container vai poder usar no docker-compose.yml

Exemplo:

version: '3'

services:
  my-service:
    image: my-image
    cpu_period: 50000
    cpu_quota: 25000
    memory: 512m

Se não funcionar nesse caso, e você estiver usando WSL, talvez o WSL esteja com pouca memória para a virtualização do Linux. Nesse post você encontra um tutorial de como definir o limite de memória que o WSL pode usar: https://fizzylogic.nl/2023/01/05/how-to-configure-memory-limits-in-wsl2

Espero ter ajudado. Bons estudos!