1963 — совместная с В. Яковлевым однодневная выставка в музее Ф. М. Достоевского (Москва);

1967 — выставка «12 московских художников» в клубе «Дружба» (Москва) и выставка живописи и графики из коллекции А. Глезера (Тбилиси);

1968 — совместная с В. Яковлевым выставка (Москва);

1974 — «Бульдозерная выставка» (Москва) и 2-й осенний смотр картин «на открытом воздухе» (лесопарк Измайлово, Москва);

1975 — выставка в павильоне «Пчеловодство» (ВДНХ, Москва);

1978 — выставка (совместно с В. Янкилевским) на М. Грузинской, 28 (Москва) и др.

Участник зарубежных выставок:

1970 — выставка Nuove correnti a Mosca (Museo Belle Arti, Лугано, Швейцария);

1974 — выставка Progressive Stromungen in Moskau 1957–1970 (Museum Bochum, Бохум, ФРГ);

1976 — Exposition au Musee russe en Exil (Монжерон, Франция);

1977 — биеннале в Венеции (Италия).

Персональные выставки в Париже: 1985 (совместная с В. Янкилевским), 1988, 1991; в Нью-Йорке: 1989, 1992.

В 1992 персональные выставки Штейнберга прошли в Государственной Третьяковской галерее, в галерее «Беляево» и на Петровских линиях в Москве.

В 1990-е художник переехал за границу, какое-то время жил в Мюнхене, а затем обосновался в Париже. Однако он часто приезжает в Москву и Тарусу.

«К пониманию геометрической абстракции я пришел через русский авангард, прежде всего через супрематизм Казимира Малевича. Но я практически ничего нового не открыл, я только дал русскому авангарду другой ракурс. Какой? Скорее религиозный. Свои пространственные геометрические структуры я основываю на старой катакомбной стенописи и, конечно, на иконописи» (Э. Штейнберг).

Произведения художника представлены в собраниях Государственной Третьяковской галереи (Москва); музея Людвига (Кельн, Германия); в музейных и частных собраниях Франции, России, США.