A expressão correta é há anos.

O uso do advérbio atrás é completamente redundante neste caso. O verbo haver, como verbo impessoal, é acompanhado por uma expressão de tempo que já indica tempo decorrido. Repare que não será correto dizer: decorreram anos atrás.

Outras expressões: Há minutos (atrás), há semanas (atrás), há minutos (atrás), etc.

No caso de o verbo não estar presente, a expressão anos atrás já é admitida: Anos atrás fui a Paris.