Wczesne lata (1886–1910) thumb|300px|Royal Arsenal w sezonie 1888/1889 W 1886 r. grupa pracowników zakładów zbrojeniowych Royal Arsenal w Woolwich w południowo-wschodnim Londynie założyła klub piłkarski. Nazwali go Dial Square, pracowali bowiem w warsztacie o tej samej nazwie, położonym w środkowej części fabrykiInny zespół bazujący na pracownikach Royal Arsenal – Woolwich Union – został założony w 1884 roku. Grali w nim wcześniej niektórzy piłkarze Dial Square, między innymi Fred Beardsley. Mimo to klubowi historycy uważają Dial Square jako prekursora Arsenalu. Źródło: . Klub prowadzony był przez Szkota Davida Danskina, który kupił pierwszą piłkę oraz Jucka Humble'a; byli gracze Nottingham Forest, bramkarz Fred Beardsley oraz Morris Bates nabyli natomiast zestaw czerwonych strojów od swojego byłego zespołu i do dziś kolor czerwony ma stałe miejsce na domowych koszulkach Kanonierów.
Dial Square swój pierwszy mecz zagrał 11 grudnia 1886 roku z zespołem Eastern Wanderers na boisku w Isle of Dogs i wygrał go 6:0Wiele bramek strzelonych przez Dial Square jest kontrowersyjnych, jednak sześć goli jest oficjalnym wynikiem. Źródło: . Niedługo później, 25 grudnia klub został przemianowany na Royal Arsenal. Nazwa ta pochodzi od nazwy pubu oraz miejsca, gdzie pracowali gracze. Początkowo zespół grał swoje spotkania na Plumstead Common, jednak później występował w innych miejscach; grał na Sportsman Ground w Plumstead, następnie od 1888 roku na Manor Ground. Dwa lata później z powodu słabych udogodnień obiektu Arsenal przeniósł się na Invicta Ground. W 1893 roku powrócił jednak, ponieważ Invicta Ground okazał się zbyt kosztowny.
W tym czasie Royal Arsenal wygrywał lokalne rozgrywki, w sezonie 1889/1890 zdobył Kent Senior Cup oraz London Charity Cup, zaś rok później London Senior Cup; w 1889 roku klub rozpoczął także grę w Pucharze Anglii. Jednak później ukazała się przepaść pomiędzy Arsenalem a zawodowymi zespołami z północy. Niektórzy amatorscy piłkarze klubu byli kuszeni przez inne drużyny, które płaciły za grę i po zremisowanym meczu pucharu kraju z Derby County w 1891 roku Arsenal podpisał kontrakt z dwoma zawodnikami. Tym samym klub stał się zawodowy i zmienił swoją nazwę na Woolwich Arsenal.
Nie podobało się to jednak wielu amatorskim klubom z północny miasta i Woolwich Arsenal dostał zakaz gry w lokalnych rozgrywkach przez London Football Association. Zespół mógł rozgrywać wówczas tylko mecze towarzyskie i w Pucharze Anglii. Spróbował więc utworzyć południowy odpowiednik The Football League, jednak nie udało się to. W 1893 roku dostał propozycję gry w Football League, którą przyjął. Arsenal był pierwszym zespołem z południa Anglii, który występował w tej lidze, początkowo uczestniczył w Second Division; w odpowiedzi niektórzy gracze klubu, którzy odrzucili profesjonalizm rozpoczęli grę w drużynie Royal Ordnance Factories.
thumb|300px|Woolwich Arsenal (w ciemnych koszulkach) gra w swoim pierwszym półfinale Pucharu Anglii, z zespołem Newcastle United na Victoria Ground, 31 marca 1906; Newcastle wygrało 2:0 Woolwich Arsenal grał w Second Division przez 11 sezonów zajmując miejsca w środkowej części tabeli, zanim szkoleniowcem klubu w 1899 roku stał się Harry Bradshaw. Ściągnął on do zespołu bramkarza Jimmy’ego Ashcrofta (pierwszy reprezentant Anglii w Arsenalu) oraz kapitana Jimmy’ego Jacksona i wraz z klubem wywalczył awans do First Division w sezonie 1903/1904. Jednak w maju 1904 Bradshaw opuścił zespół i został szkoleniowcem Fulham. Mimo to w sezonach 1905/1906 i 1906/1907 Woolwich Arsenal dotarł do półfinału Pucharu Anglii. Klub nie walczył jednak o mistrzostwo kraju i od 1904 do 1913 roku dwukrotnie zajmował miejsce powyżej dziesiątego w First Division.
Głównym powodem spadku formy klubu były problemy finansowe. Pomimo trwającego na początku XX wieku boomu w piłce nożnej dochody klubu były niskie. Spowodowane było to jego lokalizacją (słabo zaludniony Plumstead, na krańcu zurbanizowanego Londynu), a tym samym niską frekwencją na meczach i niewielkimi dochodami. Aby dalej istnieć Woolwich Arsenal był zmuszony sprzedać podstawowych zawodników (między innymi Ashcrofta, Tima Colemana i Berta Freemana), co pociągnęło za sobą spadek w dół tabeli. Pod koniec dekady średnia liczba kibiców na Manor Ground wynosiła 11 tysięcy, niewiele ponad połowę więcej niż w 1904 roku. Rozpoczęło się postępowanie upadłościowe, jednak do bankructwa nie doszło, ponieważ klub zakupiło konsorcjum biznesmenów. Głównym udziałowcem został Sir Henry Norris, który był także prezesem Fulham.
Przeprowadzka na Highbury (1910–25) Norris wiedział o problemach wynikających z lokalizacji klubu. Początkowo próbował dokonać połączenia Fulham i Woolwich Arsenal. Jednak nie zgodził się na to zarząd Football League. Norris porzucił ten pomysł i szukał miejsca, gdzie klub mógłby się przenieść. W końcu wybrał Highbury w północnym Londynie, pomimo obiekcji ze strony kibiców z Woolwich oraz mieszkańców dzielnicy. Według nieoficjalnych informacji Norris wydał 125 tysięcy funtów (około 8,2 milionów według cen w 2005 rokuWedług kalkulatora na stronie ) na nowy stadion zaprojektowany przez Archibalda Leitcha. Woolwich Arsenal przeprowadził się tam w roku w 1913 roku, zaś w sezonie 1912/1913 spadł do Second Division. W kwietniu 1914 klub zmienił swoją nazwę na „Arsenal”, prasa początkowo nazywała jednak go „the Arsenal”.
W 1919 roku klub w kontrowersyjnych okolicznościach powrócił do First Division, mimo iż w ostatnim sezonie przed I wojną światową, 1914/1915 zajął szóste miejsce – jednak błąd w liczeniu średniej bramek przez Football League (poprawiono go w 1975 roku) spowodował, że Arsenal zajął tak naprawdę piątą lokatę. First Division została poszerzona z 20 do 22 zespołów i dwa nowe kluby zostały wybrane na zebraniu Football League. Jedno miejsce zostało przyznane Chelsea, która zajęła 19. miejsce w First Division i powinna zostać zdegradowana. Drugim zespołem miał być Tottenham Hotspur (20. miejsce w First Division), Barnsley (3. miejsce w Second Division) albo Wolverhampton Wanderers (4. miejsce w Second Division).
Zarząd ligi zdecydował jednak, że awansuje Arsenal. Norris sądził, że klub awansował z powodu jego „zasług dla ligi”, będąc pierwszym zespołem z południa Anglii, który uczestniczył w rozgrywkach Football League. 18 głosów było za awansem klubu, zaś osiem za lokalnym rywalem Arsenalu, Tottenhamem Hotspur, co spowodowało wrogość pomiędzy tymi dwoma zespołami. Twierdzono, że przyczyną awansu była korupcja sir Henry’ego Norrisa, który miał być w zmowie ze swoim przyjacielem Johnem McKenną, prezesem Liverpoolu i Football League.
Nie było jednak na to dowodów. Mimo to wyszły na jaw inne aspekty finansowego postępowania Norrisa nie związane z awansem. W 1929 roku opuścił on klub, kiedy to związek piłkarski The Football Association zauważył nieprawidłowości finansowe. Mimo kontrowersyjnego awansu w 1919 roku Arsenal pozostał w First Division i z tego powodu jest rekordzistą pod względem nieprzerwanej gry w najwyższej klasie rozgrywek.
Na nowy obiekt klubu – Highbury – przychodziło o wiele więcej osób niż wcześniej. Średnia frekwencja w pierwszym sezonie na tym stadionie wynosiła 23 tysiące (11 tys. na Manor Ground) i rosła po późniejszym awansie w 1919 roku, nie dopuszczając zarazem do bankructwa. Jednak po powrocie do First Division Arsenal nie zajmował w lidze najwyższych lokat. Pod wodzą Lesliego Knightona zespół nie zajął miejsca wyższego niż dziewiąte, zaś w sezonie 1923/1924 zajął 19. miejsce (jeden punkt nad strefą spadkową). Rok później klub był 20. w tabeli (w trakcie sezonu miał jednak nawet siedem punktów nad strefą spadkową) i w maju 1925 roku Knighton został zwolniony. Na jego miejsce przybył były trener Huddersfield Town Herbert Chapman.
Era Chapmana thumb|200px|Osiągnięcia Herberta Chapmana zostały docenione poprzez wystawienie mu popiersia w marmurowym korytarzu na Arsenal Stadium Chapman unowocześnił treningi klubu oraz dodał nazwiska piłkarzy na koszulkach w 1928 roku. Poza tym pięć lat później dodał białe rękawy do czerwonych strojów. Skłonił również władze miejskie do przemianowania pobliskiej stacji metra, Gillespie Road, na Arsenal. Dodatkowo namówił dziennikarzy, aby nazywali klub „Arsenal”, a nie „the Arsenal”.
Pierwszym zawodnikiem, z którym Chapman podpisał kontrakt był Charlie Buchan, który przyszedł z Sunderlandu. Po tym jak Arsenal przegrał 7:0 z Newcastle United w październiku 1925 roku zaproponował on zmianę ustawienia klubu z powodu nowych przepisów o spalonym. Od tego czasu Arsenal grał z trzema obrońcami.
W pierwszym sezonie pod przywództwem Chapmana Arsenal zajął drugie miejsce. W następnych latach zajmował jednak miejsca w środkowej części tabeli. Chapman ściągnął do zespołu nowych graczy, skrzydłowego Joego Hulme'a, napastnika Jacka Lamberta oraz obrońców Toma Parkera i Herbiego Robertsa. W 1927 roku klub dotarł do finału Pucharu Anglii, w którym przegrał 1:0 z Cardiff City.
Chapman sprowadzał więcej zawodników do klubu: późniejszego kapitana Arsenalu Eddiego Hapgooda oraz trzech ofensywnych graczy, Davida Jacka, Aleksa Jamesa i Cliffa Bastina. Trzy lata po swoim pierwszym finale pucharu kraju Arsenal ponownie to uczynił. Klub tym razem wygrał 2:0, po bramkach Jamesa i Lamberta. Mecz ten jest znany z powodu pojawienia się na nim niemieckiego sterowca LZ 127.
Było to pierwsze ważne trofeum zdobyte przez klub – zapoczątkowało dekadę sukcesów Arsenalu. W sezonie 1930/1931 klub został mistrzem kraju (w walce o ten tytuł uczestniczyła również Aston Villa). Londyński klub w tamtym sezonie wygrał 9:1 z Grimsby Town (co do dziś jest jego najwyższym zwycięstwem w najwyższej klasie rozgrywek) oraz zdobył 127 goli (najwięcej w swojej historii). Natomiast Aston Villa zdobyła o jedną bramkę więcej, co jest najlepszym wynikiem w całej lidze.
Rok później Arsenal dotarł do finału Pucharu Anglii, w którym przegrał 2:1 z Newcastle United. Klub wygrywał 1:0, a następnie Newcastle wyrównało, Jimmy Richardson podał piłkę do Jacka Allena, który to zdobył gola. Piłka jednak wcześniej przekroczyła linię bramkową i gra powinna zostać przerwana. W lidze Arsenal zajął drugie miejsce, dwa punkty za Evertonem.
W sezonie 1932/1933 klub został mistrzem Anglii. Sezon Arsenal rozpoczął słabo, jednak później zaczął wygrywać. W kwietniu pokonał na Highbury 5:0 Aston Villę i po raz drugi zdobył tytuł. W tym czasie pierwsi zawodnicy, których kupił Chapman zaczęli się starzeć. Zastąpił on więc Toma Parkera przez George’a Male’a, zaś na miejsce Davida Jacka przybył Ray Bowden. W Pucharze Anglii Arsenal odpadł w trzeciej rundzie po porażce z występującym wówczas w trzeciej lidze Walsall. Pięciu podstawowych zawodników zachorowało na grypę i ich miejsce zajęli zawodnicy rezerwowi.
Trzykrotne mistrzostwo Anglii (1934–1939) thumb|300px|Fasada zachodniej trybuny Arsenal Stadium wybudowana w 1936 roku W styczniu 1934 roku Chapman zmarł na zapalenie płuc. Mimo to, pod przywództwem tymczasowego trenera Joego Shawa klub obronił tytuł mistrza Anglii. Nie grali wówczas z powodu kontuzji Joe Hulme oraz Alex James i klub zdobył 75 bramek w lidze, zaś rok wcześniej 118.
Wcześniejszy dyrektor klubu, George Allison, objął latem posadę menadżera. Sprowadził do zespołu Jacka Craystona, Wilfa Coppinga oraz Teda Drake’a. Z nowymi zawodnikami Arsenal zdobył mistrzostwo kraju w sezonie 1934/1935, Drake zdobył również 42 bramki – najwięcej w całej historii zespołu. W listopadzie Anglia pokonała Włochów (ówczesnych mistrzów świata); w meczu tym wystąpiło siedmiu zawodników Arsenalu. Do dziś jest to rekord pod względem liczby piłkarzy jednego zespołu grających w jednym meczu reprezentacji AngliiRekord ten Arsenal dzielony z Manchesterem United. 28 marca 2001 roku siedmiu graczy tego zespołu zagrało w meczu z Albanią. Źródło: .