Em que comunidade autónoma estás? Porque as sanções variam bastante conforme onde vives, e isso é importante para te dar uma resposta mais precisa.
Dito isto, sim, tecnicamente estás numa zona cinzenta legal. Se vendes regularmente no Instagram sem estar registado como autónomo ou empresa, incumpes obrigações fiscais (não declara rendimentos) e possivelmente normativas de consumo. As multas podem ir desde centenas até milhares de euros conforme a comunidade e há quanto tempo o fazes. O mais provável é que comece com uma inspeção, uma advertência e a ordem de regularizar a tua situação; mas se se vê que estiveste a operar durante meses sem declarar nada, as sanções podem ser mais sérias.
O que te recomendaria é que falasses com um consultor fiscal ou uma gestoria - muitas oferecem consulta inicial grátis - para veres se te convém registar-te como autónomo. O processo não é complicado e assim te poupavas dores de cabeça. Se os números que mexes são pequenos, talvez haja opções mais ágeis para regularizar, mas isso já depende da tua situação específica. De qualquer forma, é melhor arranjares isto tu mesmo agora do que esperar que alguém bata à porta.