Первые поселения на территории города появились ещё в древнем каменном веке в эпоху нижнего палеолита, около 300 тысяч лет назад.
В течение 2500 лет здесь сводились и перемешивались культуры многих народов, как местных горцев (апсилов и абазгов), так и других: греков, римлян, византийцев, генуэзцев, турков, грузин, русских и др. Каждый из них оставил здесь материальные памятники своего присутствия.
На месте нынешнего города греческие купцы основали колонию Диоскурию, которая впоследствии стала крупным торговым и экономическим центром. Затем пришли римляне и, разрушив Диоскурию, основали свою крепость Себастополис. Спустя много веков по землям будущего Сухума пронеслись арабы. После турки переименовали его в Сухум-Кале. Местные жители называли свое поселение Аҟәа (Акуа), так и по сей день звучит абхазское название столицы.
С конца XVIII века по 1864 год город является столицей Абхазского княжества. Абхазы отбили крепость у турок, и владетельный князь Абхазии переносит в неё свою резиденцию. В 1846 году Сухум-Кале получает статус торгового порта, а в 1848 г. статус портового города. В 1866 году, после упразднения Абхазского княжества (1864 г.), Сухум-Кале становится Сухумом - административным центром Сухумского военного отдела Российской Империи. Отсюда и берет свое начало история современного города Сухум.
В 1989 году Всероссийский конгресс врачей признал Сухум одной из лучших климатических здравниц, в особенности для лечения легочных заболеваний.
Во время грузино-абхазской войны 1992-1993 годов Сухум был оккупирован войсками Грузии и сильно пострадал в результате военных действий. Город был освобожден абхазскими войсками 27 сентября 1993 года.