Клуб создан 18 декабря 2001 года. Инициатором стал мэр Киева Александр Омельченко, идея которого была поддержана депутатами Киевского городского совета. В уставном фонде клуба вклад в размере 80 % принадлежал территориальной общине города Киева. Со 2-го круга 11-го чемпионата Украины в высшей лиге правопреемник ФК ЦСКА (Киев). Свой первый официальный матч провели 16 марта 2002 года против запорожского  «Металлурга» на выезде, а первый домашний — 25 марта против  симферопольской  «Таврии».

Первый сезон для «канониров» оказался половинным, ведь переформирование клуба из ЦСКА в «Арсенал» прошло в перерыве между первым и вторым кругом 11-го чемпионата Украины. Второй круг команда, собранная в основном из игроков киевского ЦСКА, вела борьбу за выживание и, как результат, в последних матчах чемпионата оставила за собою право выступать в высшем дивизионе в следующем году. В новом сезоне команду возглавил новый наставник Вячеслав Грозный. Особенно запомнились выигрыши дома у «Волыни» — 8:1, «Таврии» — 5:0 и в гостях у запорожского  «Металлурга» — 5:0. На зимний перерыв «Арсенал» ушел, занимая третью строчку в турнирной таблице, оставив за собой киевское «Динамо» и пропустив вперед «Шахтер» и «Днепр». Второй круг «канониры» начали с нулевой ничьей в матче с запорожским «Металлургом». Другие матчи второго круга тоже весьма отличались от матчей первой половины сезона. Как следствие — много ничьих и несколько поражений. Тем не менее, к концу чемпионата у «Арсенала» были хорошие шансы попасть в еврокубки, но в последних турах клуб выступил неудачно: поражение в 23-м туре на своем поле от донецкого «Металлурга» и ничья с «Полиграфтехникой» (24-й тур — 0:0) и «Ворсклой» (26-й тур — 1:1); в последних двух турах «Арсеналу» предстояли поединки с «Динамо» и «Шахтером». Оба лидера чемпионата боролись за золотые медали, поэтому потеря очков расценивалась бы ими как провал. В предпоследнем туре «Арсенал» принимал «Динамо». Именно тогда начало зарождаться киевское дерби. На стадионе в Киеве присутствовали 15 000 зрителей, что для «Динамо» на то время было достаточно много (в том сезоне дома на «Арсенал» приходило намного больше зрителей, чем на «Динамо»). Игра была равная. Судья много свистел в сторону ворот «Арсенала» и не дал пенальти в ворота «Динамо» в первом тайме. Все решил гол Максима Шацких за 15 минут до конца встречи. После выборов нового мэра столицы — Леонида Черновецкого — возникла реальная угроза исчезновения футбольного клуба «Арсенал» (Киев). Спасение стало возможным благодаря бизнесмену Вадиму Рабиновичу, выкупившему 97% акций клуба у Киевской городской администрации за $0,1 млн.