so in einem hellen moment konnte ich das problem lösen.
und das prinzip werd ich mal kurz darstellen, vielleicht kann es ja jemand gebrauchen.
1.schritt: in der datenaufnahme hab ich den filter wieder rausgenommen. es werden jetzt die daten mit rauschen aufgenommen.
2.schritt: im vi zum betrachten der daten hab ich eine kleine "kette" geschaffen das 1.glied filtert die arrays, das 2.glied transponiert die matrix. im dritten glied wird wieder gefiltert und dann wird zurück transponiert.
das ergebnis eine schöne glättung in x und y richtung.