В 1920–30-х работал как театральный художник. Оформил спектакли: «Соломенная шляпка» Э. Лабиша (1924, Музыкальный театр им. В. И. Немировича-Данченко, Москва); «Смерть мистера Марапита» К. Давидовского (1927, 4-я студия МХАТа, Москва, совместная работа с Ю. Пименовым); «Мстислав Удалой» И. Прута (1932), «Бойцы» Б. Ромашова (1933; оба — в ЦТКА, Москва).

Участвовал в создании фильма «Лавры мисс Эллен Грей» («Рекорд», 1935, киностудия «Восток-фильм») и др.

Занимался монументальной живописью. Вместе с группой студентов Вхутемаса расписал стены клуба в г. Рузе (1921). Создал панно «Похищение Европы» (1929) в фойе Московского театра-студии под руководством Ю. Завадского, панно «Концерт на заводе» для Советского павильона на Всемирной выставке в Париже (1937), панно «Хлопок» (1939) для павильона на ВСХВ и др.

Преподавал на отделении изобразительного искусства этнологического факультета Первого МГУ (1924–1938), во Вхутемасе — Вхутеине (1924–1926, ассистент В. Фаворского по курсу «Графические дисциплины»), на изокурсах Фрунзенского районного отдела народного образования (1927–1929), в ленинградском Вхутеине (1929–1930), МПИ (1930–1934, 1948–1979), МИИИ (1934–1938), в ИПК художников-графиков при Московском горкоме графиков (1938–1940), МИПиДИ на факультете монументальной живописи (1948–1949). В 1958 получил звание профессора.

Участвовал в выставках: Первая Государственная передвижная выставка картин (1925, Москва, Саратов, Сталинград, Казань, Нижний Новгород), «Гравюра СССР за 10 лет» (1927, Москва), выставка художественных произведений к десятилетнему юбилею Октябрьской революции (1928, Москва), выставка немецких художников (1928, Берлин), Первая передвижная выставка живописи и графики (1929, Москва), выставка современной графики (1929, Ереван), юбилейная выставка «Художники РСФСР за XV лет» (1932, Ленинград; 1933, Москва), художественная выставка «XV лет РККА» (1933, Москва; 1934, Ленинград, Киев; 1935, Харьков), «Индустрия социализма» (1939, Москва), «Героический фронт и тыл» (ноябрь 1943 — сентябрь 1944, Москва), всесоюзные художественные выставки 1947 и 1950 (обе — Москва), выставка живописи, скульптуры, графики и работ художников театра и кино Москвы и Ленинграда (1955, Москва), выставка живописи, скульптуры, графики к Первому Всесоюзному съезду советских художников (1957, Москва), «40 лет ВЛКСМ» (1958, Москва) и др.

Произведения А. Гончарова часто экспонировались на зарубежных выставках: международная выставка «Искусство книги» (1927, Лейпциг, Нюрнберг), «Графика и книжное искусство в СССР» (1929, Амстердам), «Современное русское искусство» (1930, Вена), выставка советской графики и книги (1930, Лондон), выставка советского искусства (1930, Берлин), международная выставка «Искусство книги» (1931, Париж; 1932, Лион), XVIII Международная выставка искусств (1932, Венеция) и др.

На Всемирной выставке в Париже (1937) получил Гран-при и золотую медаль.

В 1943–1945 работал в журнале «Фронтовой юмор», а затем главным художником выставки «Политработа в частях 3-го Белорусского фронта».

В 1950–70-х, не оставляя станковой живописи и графики, продолжал работать в области монументальной живописи, занимался книжной графикой, оформлял театральные постановки.

Автор книг по изобразительному искусству: «Об искусстве графики» (1960), «Художник и книга» (1964). Заслуженный деятель искусств РСФСР (1969), член-корреспондент АХ СССР (1973), народный художник РСФСР (1979). Лауреат Международной премии им. И. Гутенберга (1971), Государственной премии СССР (1973).

Персональные выставки: 1928 (Казань), 1934 (две выставки), 1946, 1955, 1958, 1959, 1960 (все — Москва), 1962 (Ленинград), 1965, 1984 (обе — Москва).