Народився 7 січня 1897 р. в с. Дубрівка (нині Новоград-Волинський р-н Житомирської обл., Україна) у селянській родині. Закінчив церковнопарафіяльну школу в рідному селі та два класи міського училища в Новограді-Волинському.
У 1914 р. закінчив школу юнг, а через 2 роки – клас артилерійських унтер-офіцерів у Кронштадті. Служив матросом на крейсері «Громобій», з 1916 р. – матросом на крейсері «Адмірал Макаров», комендором на навчальному судні «Петро Великий», артилерійським унтер-офіцером на есмінці «Забіяка».
Учасник Першої світової війни. Під час революційних подій 1917 р. брав участь у штурмі Зимового палацу та у захопленні міської телеграфної станції. Протягом 1918–1922 рр. навчався на Курсах командного складу флоту в Петрограді (з 1919 р. – Училище командного складу флоту). Після закінчення навчання служив на кораблях Балтійського флоту.
У жовтні 1930 р. Гордій Левченко був призначений командиром крейсера «Аврора». З квітня 1931 р. став командиром-комісаром загону навчальних кораблів Морських сил Балтійського моря, до січня 1933 р. був командувачем і військовим комісаром Каспійської військової флотилії. До серпня 1935 р. Г. Левченко – командир і військовий комісар бригади лінкорів Морських сил Балтійського моря, потім – командувач Окремого дивізіону есмінців Чорноморського флоту. У березні 1937 р. був призначений командиром бригади есмінців Чорноморського флоту.
Протягом січня 1938 р. – квітня 1939 р. командував Балтійським флотом. З квітня 1939 р. призначений заступником наркома ВМФ СРСР, керував інженерним та будівельним управлінням ВМФ.
З 1941 р., як представник військово-морського командування, віце-адмірал Левченко був направлений на Чорноморський театр військових дій. Брав участь в обороні Одеси, Миколаєва, Севастополя. Рішенням Ставки ВГК від 22 жовтня 1941 р. призначений командувачем військ Криму; йому підпорядковувалася 51-а армія, Приморська армія та Чорноморський флот.
1 грудня 1941 р. за звинуваченням у здачі Керчі Левченко був заарештований; визнав себе винним у поразництві та паніці. Засуджений на 10 років таборів із поразкою у правах на 5 років, позбавленням нагород та військового звання. Указом Президії Верховної Ради СРСР від 31 січня 1942 р. Г. Левченко помилуваний і понижений у званні до капітана 1-го рангу.
З березня 1942 р. командував Ленінградською, а з червня того ж року – Кронштадтською військово-морською базою, брав участь в обороні Ленінграда. Забезпечував транспортування та постачання військ під час прориву блокади.
З квітня 1944 р. Левченко призначений заступником наркома ВМФ СРСР. Тоді ж отримав наказ очолити загін кораблів, які приймалися в Англії як репарації за частину італійського флоту, що підлягав передачі СРСР. У вересні 1944 р. Левченку присвоєно військове звання адмірала.
У липні–серпні 1945 р. брав участь у роботі Потсдамської конференції. Був призначений головою радянської делегації до складу тристоронньої Комісії з розділу колишнього німецького військового і торгового флотів, яка працювала до 1946 р.
З лютого 1946 р. командував Південно-Балтійським флотом. Із січня 1947 р. призначений заступником Головнокомандувача ВМС СРСР з бойової підготовки, а з березня 1950 р. – головним інспектором ВМС. З травня 1953 р. був адміралом-інспектором ВМС Головної інспекції Міністерства оборони СРСР, а у січні 1956 р. вдруге обійняв посаду заступника Головнокомандувача ВМФ з бойової підготовки.
З вересня 1958 р. – військовий інспектор-радник у Групі генеральних інспекторів Міністерства оборони СРСР. Тоді ж був відповідальним редактором «Морського атласу». У вересні 1960 р. вийшов у відставку за станом здоров’я.
Помер 26 травня 1981 р. в Москві. Похований на Новодівичому цвинтарі.
Нагороди:
чотири ордени Леніна (1943, 21.02.1945, 02.05.1949, 1957)
орден Жовтневої Революції (1977)
чотири ордени Червоного Прапора (1933, 1944, 03.11.1944, 1947)
два ордени Ушакова І ступеня (25.09.1944, 28.06.1945)
орден Трудового Червоного Прапора (1933)
два ордени Червоної Зірки (1938, 1967)
медаль «За оборону Ленінграда» (1942)
медаль «За оборону Одеси» (1942)
медаль «За оборону Севастополя» (1942)
медаль «За оборону Радянського Заполяр’я» (1944)
«Хрест Грюнвальда» І ступеня (Польща, 21.05.1946)
тощо