В годы Гражданской войны Олеша оставался в Одессе, где в 1919 пережил смерть любимой сестры Ванды. В 1921 уехал из голодной Одессы в Харьков, где работал как журналист и печатал стихи в периодической печати. В 1922 родители Олеши получили возможность эмигрировать в Польшу.

В 1922 Олеша переехал в Москву, писал фельетоны и статьи, подписывая их псевдонимом Зубило, для газеты железнодорожников «Гудок», с которой в то время сотрудничали М.Булгаков, Катаев, Ильф, Е.Петров и др. писатели.

В 1924 Олеша написал свое первое прозаическое произведение – роман-сказку «Три толстяка». Жанр сказки, мир которой естественно-гиперболичен, соответствовал потребности Олеши писать метафорическую прозу (в кругу литераторов его называли «королем метафор»). Роман «Три толстяка» был проникнут романтическим отношением автора к революции. Восприятие революции как счастья свойственно в «Трех толстяках» всем положительным героям – циркачке Суок, гимнасту Тибулу, оружейнику Просперо, доктору Гаспару Арнери.

Сказка вызвала огромный читательский интерес и одновременно скептические отзывы официальной критики («призыва к борьбе, труду, героического примера дети Страны Советов здесь не найдут»). Дети и взрослые восхищались фантазией автора, своеобразием его метафорического стиля. В 1930 по заказу МХАТа Олеша сделал инсценировку «Трех толстяков», которая до наших дней успешно идет во многих театрах мира. Роман и пьеса переведены на 17 языков. По сказке Олеши поставлен балет и художественный фильм.

В 1930-е годы по заказу МХАТа Олеша писал пьесу, в основе которой лежала владевшая им мысль об отчаянии и нищете человека, у которого отнято все, кроме клички «писатель». Попытка выразить это ощущение была сделана Олешей в его речи на Первом съезде советских писателей (1934). Пьеса о нищем не была завершена. По сохранившимся черновикам режиссер М.Левитин поставил в 1986 в московском театре «Эрмитаж» спектакль «Нищий, или Смерть Занда».

В годы сталинских репрессий были уничтожены многие друзья Олеши – Мейерхольд, Д.Святополк-Мирский, В.Стенич, И.Бабель, В.Нарбут и др.; сам он чудом избежал ареста. В 1936 на публикацию произведений Олеши и упоминание его имени в печати был наложен запрет, снятый властями только в 1956, когда была издана книга «Избранные сочинения», переизданы «Три толстяка» и частично опубликованы в альманахе «Литературная Москва» дневниковые записи «Ни дня без строчки».

В годы войны Олеша был эвакуирован в Ашхабад, затем вернулся в Москву. Писатель с горечью называл себя в послевоенные годы «князем «Националя», имея в виду свой образ жизни.

Тематика его дневников в 1950-е годы очень разнообразна. Олеша писал о встречах с Пастернаком, о смерти Бунина, об Утесове и Зощенко, о собственной ушедшей молодости, о гастролях «Комеди Франсез» в Москве и т.д.