8 марта 1925 года в семье Петра Ефимовича Геллера, любителя шахмат и ученика знаменитого мастера Бориса Верлинского, родился сын Ефим.

В детстве мальчик увлекался футболом, но поступить в футбольную секцию Одесского дворца пионеров ему не удалось. Тогда он стал ходить в шахматный кружок в том же дворце пионеров и участвовать в юношеских соревнованиях.

В годы Великой Отечественной войны Геллер окончил школу, а затем служил механиком на аэродроме. После демобилизации из рядов Красной Армии Геллер поступил на экономический факультет Одесского университета, и уже 1946 году потом дебютировал в чемпионате Украины, разделив 4 – 6 места. В следующем чемпионате он занял шестое место и в том же году принял участие в отборе на 16-й чемпионат СССР по шахматам. Геллер выиграл четвертьфинальную группу с результатом 12 из 15 очков, но в полуфинале, проходившем в Свердловске, разделил 5 – 6 место и в финал не попал.

В чемпионате Украины 1949 года, который проходил в его родной Одессе, Ефим Геллер разделил 2 – 3 места, а весной того же года выиграл полуфинал чемпионата СССР и получил звание мастера спорта. В 24 года Геллер дебютировал в 17-м чемпионате СССР, в котором играли почти все сильнейшие шахматисты, кроме Ботвинника. Он проиграл две первые партии, но в следующих шестнадцати выиграл у таких мэтров, Котова, Болеславский, Флор, Рагозина и ряда других. Перед последним туром Геллер шел на чистом первом месте, но поражение от молодого Холмова отбросило его на 3 – 4 места, первое место разделили именитые Давид Бронштейн и Василий Смыслов.

В дальнейшем Ефим Геллера стал гроссмейстером и участвовал во всех чемпионатах. 22-й чемпионат СССР (1955 г.) по шахматам стал для одессита победным.

Со старта борьбу за призы вела группа из четырех шахматистов – Геллера, Ботвинника, Смыслова и Спасского. Геллер сильно провел финиш и, победив в предпоследнем туре Микенаса, опережал преследователей на пол-очка. В последнем туре он черными потерпел поражение от мастера Антошина, и был настигнут Смысловым. Между двумя победителями состоялся дополнительный матч, в котором шансы не имевшего матчевого опыта Геллера расценивались ниже. Плановые шесть партий закончились вничью, а в первой дополнительной партии Геллер выиграл, став таким образом чемпионом СССР.

С начала 1950-х по начало 1970-х годов Геллер шесть раз выступал в соревнованиях претендентов, его высшими достижениями были 2 – 3 места в турнире претендентов 1962 года и полуфинал матчей претендентов 1965 года. Он также семь раз побеждал в шахматных олимпиадах в составе сборной СССР, дважды становился чемпионом СССР по шахматам (в 1955 и 1979 году) и выиграл ряд международных турниров.

Геллер был известен как мастер игры в острых позициях, в том числе с нарушенным материальным равновесием. Он был крупным шахматным теоретиком, внёсшим большой вклад в исследования староиндийской защиты, испанской партии, сицилианской защиты.