Toto město existovalo již v době bronzové, v desátém století př. n. l. bylo osídleno řeckými Ióny. Odpradávna bylo velkým kultovním centrem – nalézal se tam chrám bohyně Artemidy, jeden ze sedmi divů světa. Roku 356 př. n. l. byl tento chrám zapálen; údajně se tak stalo tu samou noc, kdy se narodil Alexandr Veliký. Po Alexandrových taženích Efez, podobně jako maloasijské kraje vůbec, střídal majitele ve válkách mezi helénistickými velmocemi. Počátkem druhého století př. n. l. připadl pod nadvládu pergamonského království. Poté, co roku 133 př. n. l. poslední vládce Pergamonu odkázal svoji říši Římu, se Efez stal jedním z hlavních center nově vytvořené římské provincie Asia.
Za raného císařství město mělo snad až dvě stě tisíc obyvatel a vedle toho se stalo významným centrem raného křesťanství. Krize Římské říše ve třetím století se však nevyhnula ani Efezu. V polovině století germánské kmeny ze severního Černomoří podnikaly na římské území nájezdy po souši i po moři a jejich lodě pronikaly černomořskými úžinami i do Středozemního moře. Těsně po katastrofálním zemětřesení z roku 262 tak byl Efez vypleněn Goty. Ještě větší ránu představovalo zanášení přístavu, v jehož důsledku Efez přišel o přístup k moři. V pozdějších staletích město trpělo za arabských útoků na Byzanc a propadlo se do bezvýznamnosti, až zcela zaniklo.