В 1917 вместе с Д. Н. Кардовским и В. И. Шухаевым основал объединение «Цех живописцев Св. Луки», призванное возродить традиции старых мастеров. В том же году за счет ИАХ совершил поездку на Дальний Восток, побывал в Китае, Японии, Монголии.

В 1918 эмигрировал во Францию, жил в Париже. В 1920 в Лондоне и Париже прошли выставки, на которых экспонировались произведения, выполненные во время дальневосточного путешествия. В 1922 издательство Л. Вожеля ограниченным тиражом выпустило альбом, принадлежащий к типу так называемых edition de luxe (т. е. «роскошных изданий»), в который вошло 50 картин китайского цикла. В 1922 в галерее «Барбазанж» в Париже была устроена совместная выставка Яковлева и В. И. Шухаева.

В 1924–1925 художник принял участие в рекламной экспедиции фирмы «Ситроен» по Африке. Маршрут пролегал по пустыне Сахара, Судану, Нигеру, Чаду, Бельгийскому Конго, Мозамбику, Мадагаскару, Экваториальной Африке. В поездке Яковлев выполнил около 300 живописных и графических работ на темы природы и быта местного населения. В 1926 они были показаны в парижской галерее «Шарпантье» и принесли художнику коммерческий успех и европейскую известность. Тогда же Яковлев был награжден орденом Почетного легиона.

Вместе с тем художник продолжал участвовать и в выставках русского искусства. Его работы экспонировались в Париже (галерея «Денси», 1921; галерея «Бернхейма», 1927), на Передвижной выставке в США и Канаде (1924–1925), в Копенгагене (1929) и др. В 1927 состоялась совместная выставка Яковлева, В. И. Шухаева и Б. Д. Григорьева в Институте Карнеги в Питтсбурге. В 1928 в Ленинграде прошла персональная выставка мастера, приуроченная к 15-летию окончания им Академии художеств. Одновременно его произведения экспонировались в русском отделе выставки современного французского искусства в Москве.

В 1928–1929 предпринял поездку в Неаполь и Помпеи, где изучал древнеримскую живопись. Впечатления этого путешествия стали основой цикла стилизованных картин из неаполитанского быта, показанного на персональной выставке в галерее «Ренессанс» (1929).

В 1931–1932 отправился в экспедицию по Азии, устроенную фирмой «Ситроен»: посетил Сирию, Иран, Афганистан, Монголию, Китай. По ее итогам в галерее «Шарпантье» была устроена очередная выставка, на которой были экспонированы около 800 живописных произведений и рисунков.

Много работал также как художник-монументалист и сценограф. Им были созданы декоративные панно для ресторана «Лань» (1923) и центрального салона парохода «Нормандия» (1935), роспись концертного зала на улице Перголез (1925, совместно с В. И. Шухаевым) и зала отеля «Князь Юсупов» (1934) в Париже. В 1934 Яковлев оформил балет «Семирамида» для гастролей Иды Рубинштейн в Гранд-Опера.

В 1934 переехал в США, где руководил живописным отделением Академии искусств в Бостоне. Устроил персональные выставки в галерее «Нодлер» в Нью-Йорке (1936), Бостонском художественном музее (1937) и Художественном институте в Миннеаполисе (1938).

В 1939 мемориальная выставка художника состоялась в галерее «Гранд Сентрал» в Нью-Йорке. В 1988 в Государственном Русском музее прошла ретроспективная выставка произведений Яковлева и В. И. Шухаева, приуроченная к 100-летию мастеров.

Яковлев — один из крупнейших живописцев и рисовальщиков в русском искусстве первой трети ХХ столетия, представитель неоакадемического направления. В конце 1900-х он был увлечен импрессионизмом. Еще в период ученичества, в начале 1910-х, сложился характерный стиль Яковлева, отличавший его творчество в последующие десятилетия. В произведениях мастера соединились черты авангардного и классического искусства, он использовал многие приемы старых мастеров и даже сознательно подражал им, подчеркнуто демонстрируя техническое мастерство. Чрезвычайно большое значение придавал графике, излюбленной техникой была сангина.

Творческая манера Яковлева была настолько близка В. И. Шухаеву (современники называли их братьями-близнецами), что существует целая проблема разделения их произведений.

Работы художника находятся во многих музеях в России и за рубежом, в том числе в Государственном Русском музее, Государственной Третьяковской галерее, ГМИИ им. А. С. Пушкина.