Que situação chata, sinto muito pela sua perda. Juridicamente falando: as contas fazem parte da herança, então basicamente os herdeiros precisam resolver isso - e você e sua família provavelmente são os herdeiros legais (a menos que um testamento diga o contrário). Isso significa que, em teoria, vocês conseguiriam acessar as contas, mas normalmente precisam comprovar isso. Para email e banco, os provedores geralmente exigem uma cópia autenticada da sentença de inventário ou do testamento + seu documento de identidade. Algumas empresas têm processos especiais para casos de óbito.
O primeiro passo seria reunir todas as contas que vocês encontrarem. Procurem nos emails dele, faturas, histórico do navegador (se tiverem acesso ao PC), extratos bancários - aí geralmente acham algo. Google e Facebook têm opções especiais de "Contato Legado", onde é possível definir o que acontece depois da morte; mas se isso não estava configurado, vocês precisam entrar em contato diretamente com o suporte. PayPal e banco funcionam de forma parecida - é só ligar, dizer quem vocês são e perguntar o que eles precisam para vocês gerenciarem ou deletarem as contas.
Se ele tinha dívidas ou assinaturas - é importante saber antes de deletar tudo. E se vocês não querem nem tirar a sentença de inventário: alguns bancos também aceitam uma cópia autenticada da certidão de óbito + certidão de nascimento + eventualmente uma declaração solene comprovando que vocês são os parentes mais próximos. É só ligar para as empresas individualmente e perguntar o que elas precisam - normalmente são bem compreensivas.