Арсенал е основан през 1886г. от група работници, като първоначалното му наименование е Дайъл Скуеър. В последствие е прекръстен на Роял Арсенал, а след като става професионален клуб през 1891г. получава названието Уулич Арсенал. Отборът се присъединява към Футболната лига през 1893г., като започва участието си от Втора дивизия, а през 1904г. получава промоция за елитната Първа дивизия. Началото обаче е трудно. Клубът изпада в изключителна финансова криза и през 1910г. дори обявява банкрупт. Тогава е купен от Хенри Норис, който решава, че за да спаси отбора, трябва да го премести. Така през 1913г. след като е изпаднал отново във Втора дивизия, Арсенал се настанява на легендарния "Хайбъри" в северен Лондон. Малко след това клубът е преименуван окончателно на Арсенал. През 1919г. "артилеристите" отново се връщат в елита, след като завършват пети и съмнително изместват градския си съперник Тотнъм.

През 1925г. за мениджър е назначен Хърбърт Чапмън. Специалистът вече е печелил шампионската титла два пъти, с Хъдърсфийлд Таун (1924, 1925г.). Именно той слага началото на първите по-сериозни успехи на тима. Революционната му тактика и новопривлечените звезди в отбора, като на пример Алекс Джеймс и Клиф Бастин, полагат основните на последвата декада от постоянни успехи. През 1930г. Арсенал печели първата си купа на Футболната Асоциация. В следващите две години печели два пъти шампионската титла. Именно благодарение на Чапмън, близката спирка на метрото е преименувана от "Гилеспи Роуд" на "Арсенал", което е прецедент за времето си.

За съжаление на множащите се фенове на лондончани, Чапмън умира след тежко боледуване от пневмония през 1934г. Тандемът Джо Шоу и Джордж Алисън поемат мениджърския пост. Под тяхно ръководство Арсенал печели още три шампионски титли (1934, 1935, 1938г.). По време на Втората световна война клубът спира функционирането си, както правят всички професионални клубове в страната.

След войната Том Уитакър донася нова серият от успехи. Последва криза, през която Арсенал се превръща в типичен отбор от средата на таблицата и дори назначенията за треньор бивш капитан на Англия Били Райт, не успява да съживи тима.

През 1966г. изненадващо за мениджър е назначени физиотерапевтът Берти Мий. Под негово ръководство "артилеристите" печелят първия си международен трофей. През 1971г. Арсенал печели и първия си дубъл. Следват обаче десет години, когато върхът е много близо, но никога не е достигнат. Лондончани губят три финала за Купата на Футболната асоциация, а през 1980г. падат на дузпи на финала за КНК. Все пак през 1979г. е постигнат един исторически успех, когато с гол в последната минута е победен с 3:2 Манчестър Юнайтед на финала за Купата на Асоциацията.

През 1986г. начело застава Джордж Греъм и започва третият златен период за "артилеристите". Още първия си сезон той печели Купата на Лигата, последва и шампионска титла през 1989г. с гол отново в последната минута срещу прекия претендент Ливърпул. През 1991г. лондончани губят само един мач в първенството и отново печелят шампионската титла. Следващата година се запомня с дубъл, а през 1993г. Арсенал триумфира в турнира КНК. Следващият сезон Греъм е уволнен, след като се оказва, че той купува определени играчи след сделка с мениджъра Рън Хойг.

1996г. се оказва паметна за Арсенал, начело застава Арсен Венгер. Французинът сменя тактиката на игра и като цяло клубната политика, започва да налага млади таланти. През 1997г. последва дубъл, както и още един през 2002г. "Артилеристите" достигат финал за Купата на УЕФА, като губят на дузпи от Галатасарай. Сезон 2004 не само донася поредната шампионска титла, но и прякорът "непобедимите" след като завършват без нито една загуба. Серията достига до 49 мача, което чупи всички национални рекорди.

През 2006г. Арсенал достига и финалът на Шампионската лига. Лондончани срещат Барселона и губят с 1:2. Същият сезон, след 93 години на Хабъри, те напускат легендарния стадион и се местят на чисто новия "Емирейтс Стедиъм".