Bom dia, Paloma,
Essa situação é mais comum do que parece e envolve algumas definições importantes para fazer corretamente.
Sobre a impossibilidade de manifestação eletrônica pelo destinatário
Quando o destinatário é consumidor final não contribuinte do ICMS, especialmente pessoa física, ele de fato não possui certificado digital e não consegue realizar a Manifestação do Destinatário de forma eletrônica. Isso é uma limitação prevista no próprio sistema, já que o evento de "Ciência da Operação", "Confirmação da Operação" ou "Desconhecimento" e "Recusa" são funcionalidades voltadas a destinatários com CNPJ e certificado digital habilitado.
Nesse cenário, o caminho correto é justamente o que você mencionou: o emitente da NF-e registra o evento de Insucesso na Entrega da NF-e (evento de código 110111). Esse evento existe exatamente para cobrir situações em que a entrega não se concretizou, seja por recusa do destinatário, seja por ausência, endereço não localizado ou qualquer outro motivo operacional. No campo de justificativa, você descreve o ocorrido, informando que o destinatário recusou o recebimento e que não possui certificado digital para realizar a manifestação eletrônica. Isso dá cobertura fiscal ao retorno da mercadoria ao seu estabelecimento.
Sobre a relação entre o evento da NF-e e o evento do CT-e
Os dois documentos são independentes e cada um possui seu próprio fluxo de eventos. O Insucesso na Entrega da NF-e é registrado por você, emitente, em relação à sua nota fiscal. Já o Insucesso na Entrega do CT-e (evento 610110) é registrado pela transportadora em relação ao conhecimento de transporte dela. São eventos distintos que não se substituem.
Portanto, o procedimento correto é que ambos sejam registrados: você lança o insucesso na sua NF-e e a transportadora lança o insucesso no CT-e dela. Não existe aqui uma exclusividade de apenas um dos dois fazer o registro. Cada um cobre seu próprio documento fiscal e o conjunto dos dois é o que dá a cobertura completa para a operação de retorno.
Procedimento prático para o retorno da mercadoria
Com o evento de Insucesso na Entrega registrado na NF-e, o DANFE da nota original pode acompanhar a mercadoria no retorno ao seu estabelecimento, servindo como documento auxiliar durante o trânsito de volta. A transportadora também deve emitir o CT-e de retorno ou registrar o insucesso no CT-e original, a depender do procedimento operacional dela.
Quando a mercadoria chegar ao seu estabelecimento, você deverá emitir uma Nota Fiscal de Entrada para registrar o retorno da mercadoria no seu estoque e regularizar a situação contábil e fiscal, inclusive para aproveitamento do ICMS destacado originalmente, se for o caso. No CFOP, utiliza-se normalmente o 1.201 para devoluções de vendas internas ou 2.201 para interestaduais, com a mesma tributação da nota de saída original.
Como você está no Lucro Real em São Paulo, vale confirmar na SEFAZ-SP se há alguma orientação específica para o seu segmento, mas o procedimento descrito acima está alinhado com as diretrizes gerais da NF-e e do RICMS/SP para esse tipo de situação.