W latach 70. jego twórczość uległa pewnej ewolucji. Wystąpił w musicalu Cala Masseya i Archiego Sheppa Lady Day w Brooklyn Academy of Music. Współpracował także z Paulem Bleyem, grał w Carnegie Hall z Colemanem i nagrywał z Joe Hendersonem, Larrym Youngiem i Arthurem Blythe’em.
Ulmer jest często porównywany do Jimiego Hendrixa, dzięki zupełnie nowym gitarowym brzmieniom, które rozwinął. Ulmer w końcu zwrócił na siebie uwagę szerszej publiczności podczas nowej fali i punka.
Crying to wspaniałe nagranie na żywo, w którym tworzony przez Ulmera nastrój wprost wylewa się z głośników. To niezwykle dynamiczne nagranie, szczególnie sekcja rytmiczna z perkusją i gitarą basową, które wyróżniają się bardzo precyzyjnie. To podręcznikowy przykład nagrania na żywo wypełnionego dynamiką i wyrazistością.