Začiatky anglického futbalového klubu Arsenal Londýn sa spájajú so skupinou robotníkov v juholondýnskej zbrojárskej firme. V októbri 1886 sa stretli a každý z nich zaplatil určitú čiastku, vďaka ktorej bol založený klub s názvom Dial Square. Tak sa totiž volala dielňa, v ktorej väčšina z nich pracovala. David Danskin sa stal akýmsi pokladníkom, keďže práve on mal na starosti vyzbieranie vstupných poplatkov. Fred Beardsley sa zasa ujal postu brankára, pár rokov skôr už chytal za Nottingham Forest a skúsenosti mu nechýbali. Sekretárom a neskôr aj predsedom sa stal Jack Humble. Ten bol s klubom nakoniec spojený dlhšie ako hocikto iný zo zakladajúcich členov.

Už po dvoch mesiacoch sa členovia rozhodli, že klub potrebuje nové meno. Nakoniec zvíťazil názov Royal Arsenal. Beardsley vďaka známostiam získal z Nottinghamu Forest sadu dresov, ktorá bola červenej farby. Arsenal sa týchto farieb do dnešných dní nevzdal. Svoje domáce zápasy začal starý klub hrávať v časti Plumstead, kde sa neskôr postavil aj prvý štadión. Vôbec prvý zachovaný výsledok oficiálneho zápasu Arsenalu sa datuje k 19. novembru 1887, keď červení zvíťazili na pôde Tottenhamu Spurs v pomere 2:1. Iný zdroj hovorí o tom, že Arsenal vo svojom prvom oficiálnom zápase zvíťazil doma nad tímom Erith 6:1. Presný dátum tohto súboja sa však už nezachoval.

O dva roky neskôr už Arsenal účinkoval v FA Cupe, úspechy však nedosiahol. V roku 1890 sa tím presunul na novú pôdu, ktorá sa nachádzala neďaleko predchádzajúceho sídla. Od roku 1891 Arsenal začal vyhrávať všetky oblastné londýnske trofeje – najcennejšia z nich sa udeľovala za víťazstvo v turnaji s názvom London Senior Cup, v ktorom „Gunners“ dominovali v sezóne 1890/91. Vo finále porazili St. Bartholomew 6:0. Royal Arsenal rýchlo rástol, zbrojársky priemysel bol v najväčšom rozkvete. Do továrne prichádzalo množstvo nových robotníkov, pretože v Londýne boli veľké obavy z francúzskeho útoku.

Neskôr prišli činovníci klubu na to, že vo futbale začína vládnuť profesionalizmus a zachovali sa podobne – názov klubu sa v tej dobe zmenil na Woolwich Arsenal. Londýnska futbalová asociácia ho však akosi neuznávala a tak vedúci predstavitelia tímu oslovili veličiny vtedajšieho Londýna ako Tottenham, Queens Park Rangers či Millwall s myšlienkou založenia "južnej ligy". Tento návrh však neprešiel... V roku 1893 sa Arsenal konečne dostal do 2. anglickej divízie a stal sa vôbec prvým mužstvom sídliacim južnejšie od Birminghamu, ktorému sa naskytla takáto príležitosť. Bol to však veľmi vhodný čas na vstup, pretože v tejto divízii bolo v tom čase až päť voľných miest. Okrem Arsenalu do nej v ten istý čas vstúpili aj Liverpool a Newcastle United. Vtedajší zástupcovia ligy určite netušili, aké veličiny z týchto klubov neskôr vyrastú.

Majiteľ štadióna Arsenalu videl, že klub sa rozmáha a tak mu jednoducho zdvihol nájomné z 200 na 350 libier ročne. Vedenie červených cítilo, že takto to ďalej nepôjde a rozhodlo sa pre návrat na predchádzajúce pôsobisko. Tu sa uskutočnil aj prvý ligový zápas, v ktorom Arsenal 2. septembra 1893 remizoval s Newcastlom 2:2. Prvé domáce víťazstvo prišlo 11. septembra, keď Arsenal zvíťazil 4:0 nad Walsall Town Swifts. Nakoniec sa v lige umiestnil na konečnom deviatom mieste.

Londýnsky klub sa už v tejto dobe začal správať trhovo a svoj majetok rozdelil do 4 000 častí (akési akcie). Jeden podiel mal pôvodnú hodnotu 1 libru. V krátkej dobe si 860 rôznych záujemcov zakúpilo presne 1 552 podielov. Najväčším investorom bol miestny výrobca kávy, ktorý minul 50 libier.

V roku 1896 prišla prvá krutá prehra Arsenalu. Nad jeho sily bol tím s názvom Loughborough, ktorý kanonierov doslova rozstrieľal 8:0. Ku plnohodnotnej odvete nakoniec prišlo o štyri roky neskôr. Arsenal pridal aj 50-percentný úrok a zvíťazil 12:0. Tieto dva zápasy sú doposiaľ najvyšším víťazstvom i prehrou Gunners v ligovej súťaži v histórii svojej existencie.

Posledné roky prinášali londýnskemu tímu málo úspechov a v druhej divízii sa pravidelne umiestňoval v strede tabuľky. Vzostup prišiel až po podpise zmluvy s prvým profesionálnym trénerom, ktorým sa stal Harry Bradshaw. Arsenal obsadil v roku 1904 druhé miesto v druhej divízii za Prestonom a postúpil do prvej ligy. V tom roku červení zvíťazili v takmer všetkých domácich zápasoch (iba 2-krát remizovali) a pred vlastným publikom mali neuveriteľné skóre 67:5 (91:22 celkovo). Po postupe o súťaž vyššie sa ku kormidlu tímu dostal nový tréner Phil Kelso, ktorému sa dvakrát po sebe podarilo prepracovať až do semifinále FA Cupu. Tam prišla v roku 1906 prehra 0:2 s Newcastle a o rok neskôr 1:3 so Sheffield Wednesday. V lige končieval Arsenal v pokojných vodách stredu tabuľky. Zmena prišla až v sezóne 1909/10, keď mu hrozilo vypadnutie a nakoniec mu unikol iba o dva bodíky. Londýnčania boli na pokraji úplného finančného krachu, ich budúcnosť sa pomaly zahmlievala. Na scéne sa však objavil Henry Norris (prezident Fulhamu), ktorý sa podujal klub zachrániť a prevzal ho pod vlastné krídla. Jeho zámery sa však nepodarilo dostatočne dobre realizovať a Arsenal sa ocitol v obrovskej kríze. V roku 1913 nakoniec vypadol z prvej ligy. Za 3 víťazstvá a 12 remíz získal iba 18 bodov! Bol to negatívny rekord ligy, ktorý vydržal až do roku 1985, keď obstálo ešte horšie mužstvo Stoke.

Norris sa však ani naďalej neprestával snažiť. Rozhodol sa pre zmenu sídla a za nový oficiálny domov Arsenalu zvolil Highbury, ktoré ležalo o čosi severnejšie ako predchádzajúci štadión. Napriek protestom Tottenhamu sa červení predsa len sťahovali a svoj nový pozemok v roku 1925 nakoniec aj definitívne odkúpili. Z názvu klubu sa vytratilo slovíčko Woolwich a ďalej sa malo používať už iba „The Arsenal.“ Tak to však bolo iba na papieri, v skutočnosti sa vždy hovorilo o Arsenal Football Clube.

Posun do severného Londýna onedlho znamenal akúsi zmenu šťasteny. V ročníku 1913/14 skončili kanonieri na treťom mieste druhej divízie a postup medzi špičku im ušiel iba o jednu priečku. V poslednej sezóne pred 1. Svetovou vojnou (14/15) Arsenal klesol o dve miesta a skončil piaty.

V roku 1919 sa rozhodlo, že prvá divízia sa rozšíri z 20 na 22 účastníkov. Do prvej ligy určite mali postúpiť Derby a Preston, teda tímy, ktoré obsadili v poslednom predvojnovom roku prvé a druhé miesto v druhej najvyššej súťaži. S nimi nebol žiaden problém. Potom sa začalo uvažovať o tom, že by nemal nikto vypadnúť – v roku 1915 skončila na 19. mieste najvyššej súťaže Chelsea, a na 20. Tottenham. Zdalo sa, že toto bude najreálnejším riešením, no vedenie ligy si v prvej divízii ponechalo iba Chelsea a o ďalšom členovi chcelo hlasovať. Do takejto „lotérie“ sa prihlásil Tottenham, Barnsley (3. v druhej divízii v roku 1915), Wolverhampton (4.), Arsenal (5.), Nottingham Forest (19.), Birmingham a Hull. Vďaka dobrým kontaktom prezidenta Arsenalu Norrisa sa nakoniec udiala veľmi zaujímavá vec. V hlasovaní dominoval práve jeho klub, ktorý dostal 18 hlasov, druhý Tottenham iba 8. Oficiálne odôvodnenie bolo nakoniec také, že Arsenal si miesto v lige za svoj dlhoročný prínos anglickému futbalu zaslúži. Medzi Tottenhamom a Arsenalom sa začalo obdobie nenávisti, ktoré v podstate pretrvalo až do dnešných dní!

Trénerom mužstva sa po postupe do ligy stal Leslie Knighton, ktorý priviedol svoj tím ku konečnému desiatemu miestu. No ďalší pokrok neprišiel a Arsenal začal z týchto priečok pomaly ustupovať. V roku 1925 nakoniec obsadil 20. miesto a z ligy takmer vypadol. Nikto netušil, že sa blíži najsvetlejšie obdobie histórie futbalového klubu Arsenal Londýn.

Za nového trénera bol zvolený Herbert Chapman, ktorý sa v predchádzajúcich sezónach pričinil o úspechy Huddersfieldu. Okamžite po svojom príchode kúpil Charlieho Buchana, z ktorého spravil kapitána. Hneď začal presadzovať to, nech sa z klubu The Arsenal stane jednoducho iba Arsenal. Krátko na to sa schválilo nové pravidlo, ktoré pri ofsajde vyžadovalo dvoch hráčov súpera medzi útočníkom prijímajúcim loptu a bránou súpera. Toto pravidlo platí až do dnešných dní. Buchan sa pričinil o zmenu taktiky akou hrával celý tím. Stredný záložník sa mal sťahovať dozadu a pôsobiť ako tretí tímový obranca. Jeden zo stredných útočníkov sa zasa stiahol bližšie ku stredu ihriska a pôsobil ako akýsi spojovník obrany a útoku.

Arsenal sa novému pravidlu výborne prispôsobil a v najbližšej sezóne obsadil v lige druhé miesto. V roku 1927 sa mu dokonca prvýkrát podarilo prepracovať do finále FA Cupu, kde však nakoniec podľahol Cardiffu 0:1. Brankárovi Danovi Lewisovi sa v zápase vyšmykla ľahká lopta, ktorá nanešťastie skončila za bránkovou čiarou. Na vine bol vraj jeho dres, ktorý bol úplne nový a jeho povrch bol ešte mimoriadne hladký. Zaviedla sa teda akási tradícia, podľa ktorej brankári Arsenalu nikdy nechytajú v novom drese – pred použitím ho musia vždy aspoň raz vyprať.

Nasledujúce dve sezóny boli pre Arsenal konsolidáciou, najväčšími úspechmi tohto obdobia bolo desiate miesto v lige a semifinále FA Cupu 1928. Tottenham opäť obvinil vedenie i hráčov Arsenalu a tvrdil, že úmyselne púšťajú body jeho súperom – len aby Spurs vypadli. Rivalita dvoch tímov sa teda mimoriadne stupňovala. Rok 1929 priniesol Arsenalu deviate miesto v lige spojené s odchodom Henryho Norrisa. Ten dostal trest od FA, ktorého dôvodom boli rôzne finančné nezrovnalosti. Na poste prezidenta ho nahradil Samuel Hill-Wood. Okrem neho prišlo do klubu viacero ďalších veľkých mien ako napríklad David Jack, Alex James a Cliff Bastin. V najbližšej dekáde Arsenal velil anglickému futbalu. Podľa niektorých pozorovateľov boli kľúčom k tejto dominancii hlavne stredopoliar James a krídelníci Bastin a Hulme. Posledný menovaný si z krídla často nabiehal na presné Jamesove pasy a obrancom riadne motal hlavy. Tí neboli na takýto štýl futbalu zvyknutí a s útokom Arsenalu si nevedeli dať rady.

Rok 1930 priniesol Arsenalu prvú veľkú trofej. Na štadióne vo Wembley získali červení FA Cup, keď vo finále zvíťazili 2:0 nad Huddersfieldom. Napínavé bolo hlavne semifinále, kde Gunners prehrávali s Hullom už 0:2, aby nakoniec vyrovnali na 2:2. V odvete semifinále potom zvíťazili 1:0. O finálové zásahy sa postarali James a Lambert.

O sezónu neskôr už Arsenal konečne dominoval aj v prvej lige. Pri systéme získavania dvoch bodov za víťazstvo sa mu podarilo nazbierať spolu 66 bodov, čo bol rekord až do roku 1969, keď získal Leeds ešte o tri body viac. V roku 1932 obsadil Arsenal druhé miesto a vo finále FA Cupu prehral s Newcastle 1:2. Od sezóny 1932/33 bolo Anglicko svedkom troch titulov kanonierov v rade. Pri prvom z nich strelili až 111 gólov, z toho 33 dal Bastin. Táto sezóna priniesla aj šokujúcu prehru v FA Cupe, keď Londýnčania stroskotali na Walsalle.

V januári 1934 zahynul Herbert Chapman a na jeho miesto nastúpil George Allison. Tomu sa na začiatku darilo a okamžite získal dva domáce tituly. V roku 1935 do tímu pribudol ďalší kvalitný hráč Ted Drake. V tomto období dodávali červení anglickej reprezentácii až siedmych hráčov!

V sezóne 1935/36 prišli pre Arsenal v lige bolesti brucha - skončil v nej až na šiestom mieste. Čosi mimoriadne sa podarilo Tedovi Drakeovi, ktorý strelil Aston Ville v jednom zápase neuveriteľných sedem gólov! Londýnsky klub potom dominoval vo finále pohára, keď vo Wembley zvíťazil 1:0 nad Sheffieldom United. Ďalší rok bol posledným pre Alexa Jamesa, ktorý sa rozhodol pre odchod z Arsenalu. Sezóna 1936/37 nepriniesla žiaden veľký úspech – v konečnej ligovej tabuľke obsadil Arsenal tretie miesto.

Ročník 1937/38 priniesol kanonierom piaty titul počas posledných ôsmych rokov, o sezónu neskôr sa museli uspokojiť iba s piatym miestom. Pred 2. Svetovou vojnou sa už neudialo vôbec nič, akurát sa Arsenal stihol dostať do finančnej krízy. Celú svoju hotovosť totiž minul na výstavbu novej východnej a západnej tribúny – ktoré stoja až dodnes.

Po vojne sa musel začať rodiť úplne nový tím, pretože počas bojov zahynulo 9 hráčov Arsenalu! Toto číslo je vôbec najvyššie spomedzi všetkých klubov. O život prišli hráči Henry Cook, Bobby Daniel, William Dean, Hugh Glass, Leslie Lack, William Parr, Sidney Pugh, Herbie Roberts a Cyril Tooze.

Na zápasy začalo chodiť množstvo fanúšikov, čo výrazne pomohlo viacerým anglickým klubom. V ročníku 1946/47 skončil Arsenal až na trinástom mieste, no o rok neskôr získal po príchode Ronnieho Rooka, Joe Mercera a nového trénera Toma Whittakera ďalší ligový titul. Arsenal inkasoval iba 32 gólov, čo bol rekord, ktorý vydržal až do roku 1971. V 42 zápasoch 23-krát zvíťazil, 13-krát remizoval a iba v šiestich prípadoch prehral.