Antes de mais nada, uma queda de velocidade não é automaticamente sinal de hackeio. Pode ser que o router simplesmente esteja saturado, superaquecido ou que haja interferências na tua zona. As desconexões constantes do telemóvel costumam dever-se mais a problemas de compatibilidade ou a que o router precisa reiniciar do que a um acesso não autorizado. Dito isto, sim vale a pena verificar quem está conectado à tua rede, porque embora seja menos provável, a intrusão é possível.
O mais direto é abrir a configuração do router a partir do teu navegador (normalmente escreves o IP do router, algo como 192.168.1.1, e entras com o utilizador e palavra-passe). Dentro procuras um separador que diga "Dispositivos conectados", "Clientes DHCP" ou "Dispositivos de rede". Aí vês tudo o que está ligado ao teu wi-fi. Se reconheces todos os aparelhos (o teu telemóvel, portátil, tablets, o que tenhas), então não há pessoas estranhas. Se aparece algo estranho ou desconhecido, esse é o teu problema.
Para melhorar a situação geral, certifica-te de que a tua palavra-passe de wi-fi é forte e de que a mudaste desde a palavra-passe por defeito (muita gente não o faz). Tenta também reiniciar o router deixando-o desligado alguns minutos, e se é velho ou está superaquecido, tenta pô-lo num sítio com melhor ventilação. Se depois de tudo isto continuares com o problema e aparecerem dispositivos desconhecidos, então sim poderia valer a pena mudar a palavra-passe e rever os registos do teu router ou contactar o teu fornecedor.