6х9 в задней двери будут вибрировать довольно сильно, если нет ничего, что поглощает звук - это совершенно нормально. Проблема не в том, что колонки несовместимы, а в том, что металлическая обшивка двери действует как резонансный ящик и передаёт всю эту вибрацию. Когда включаешь мощные басы, дверь буквально начинает вибрировать как барабан. Акустический материал тебе очень поможет, но не обязательно разоряться.
Самое базовое решение - положить поролон или акустический изолятор внутрь двери, между обшивкой и колонкой. Многие ребята используют самоклеящуюся поролоновую ленту, которая продаётся в магазинах аудиотехники или даже на Амазоне. Приклей её вокруг колонки и в местах, где дверь вибрирует больше всего. Если хочешь всё сделать серьёзнее, есть комплекты полной звукоизоляции с более прочными материалами, но честно, даже с чем-нибудь приличным ты уже заметишь разницу.
Ещё проверь, чтобы колонки были хорошо закреплены на кронштейнах. Иногда часть вибрации идёт от того, что они недостаточно затянуты, и вибрация передаётся на всю конструкцию. Хорошо затяни винты, наклей поролон - и должно заметно улучшиться.