Eu diria que o primeiro passo é entender que tipo de moedas realmente te atrai, porque disso depende quanto você vai gastar. Há colecionadores que se obcecam com moedas de um país específico, outros com uma época determinada, e isso marca a diferença. Montar uma coleção "decente" não significa ter moedas raríssimas; com 5-10 peças bem escolhidas você já tem algo com que começar, e isso pode custar desde pouco até bastante dependendo do que você procura.
O que vejo funcionar é misturar estratégias. É verdade, as casas de leilão sérias e as lojas numismáticas físicas são o mais seguro para evitar réplicas, mas você também pode começar mais barato comprando em feiras numismáticas locais onde tem vários vendedores no mesmo lugar, assim você compara preços e vê as moedas pessoalmente. Mercado Livre tem golpes, claro, mas também tem vendedores decentes com reputação; o truque é não confiar só em fotos e exigir detalhes, certificados se possível, e revisar muito bem os comentários do vendedor.
Meu conselho sincero: gaste pouco no começo comprando moedas mais comuns ou desgastadas de períodos que te interessem, aprenda a reconhecer o que torna uma moeda valiosa, e depois você tira dinheiro para peças melhores. Ler um pouco sobre numismática antes de soltar grana te poupa aborrecimentos. E desconfie de "pechinchas", claro, mas nem todas as moedas baratas são falsas; muitas são simplesmente velhas mas não raras.