O calcário e o gosto estranho são duas coisas diferentes, e aí está o ponto que os outros realmente não destacaram. Um purificador embaixo da pia te ajuda com sedimentos e calcário, mas se o gosto depende de cloro residual ou de outras substâncias dissolvidas na água, aí sim funciona. O problema é que você não sabe qual dos dois fatores seja seu verdadeiro inimigo até fazer uma análise. Contate o operador do seu abastecimento de água (não custa nada) e peça o relatório de qualidade da água: lá você vê exatamente o que tem, e daí você entende se um filtro é realmente necessário ou se você consegue resolver com coisas mais simples.
Se descobrir que o calcário é o verdadeiro problema, aí sim, um purificador com filtro anticheiro + um de carvão funciona. Na Amazon você acha marcas decentes (não só Aqua Optima), mas o custo de manutenção é sério: os filtros custam 20-40 euros cada um e servem mesmo a cada 6-12 meses dependendo de quanta água você usa. Se vocês são duas pessoas em casa e bebem pouco da torneira, talvez não compense; se bebem bastante, aí você começa a economizar em relação às garrafas.
O que te recomendo é não cair na armadilha de quem te vende o purificador sem você primeiro saber o que ele realmente filtra. Alguns sistemas com osmose reversa são ótimos mas custam mais e gastam água; aqueles simples de embaixo da pia são econômicos na compra mas exigem disciplina nas trocas de filtros. Faça a análise primeiro, todo o resto vem depois.