Para a não descaracterizar do arquivo original. Segue ajuste para o uso do UTF-8.
for nome_do_restaurante, dados in dados_restaurante.items():
nome_do_arquivo = f'{nome_do_restaurante}.json'
with open(nome_do_arquivo, 'w', encoding='utf8') as arquivo_restaurante:
json.dump(dados, arquivo_restaurante, indent=4, ensure_ascii=False)