Paugurainā reljefa dēļ Alūksne ir visaugstak novietotā Latvijas pilsēta - aptuveni 200 m virs jūras līmeņa. Alūksnes teritorija bijusi apdzīvota jau 2.g.t. pr.Kr. Sirmā senatnē šo apvidu apdzīvoja somu un igauņu (līvu) ciltis, bet 8.-12.gs. - letgaļu ciltis, tādēļ pastāv uzskats, ka pilsētas nosaukums cēlies no latgaļu cilmes vārda "olūksna" - avotaina vieta mežā. 13.gs. tā ietilpa letgaļu valstiskajā veidojumā Atzelē. Vēstures dokumentos Alūksne pieminēta jau 1284.gadā - Pleskavas I un II hronikā zem nosaukuma "Alyst" un "Volyst".
1342.gadā Livonijas ordenis mestra Burharda forn Dreilevana vadībā pabeidza mūra pils celtniecību gleznainā Alūksnes ezera salā. Par godu tam, ka pils tika iesvētīta Marijas pasludināšanas dienā - 25.martā, vietai tika dots vāciskais nosaukums - Marienburg jeb Marienburga. Uz Alūksni no Atzeles pārcēla komtura sēdekli. Vienlaikus tā kļuva par svarīgu tirdzniecības centru - te atradās ordeņa kažokādu noliktavas, tirgotāji varēja šeit pārnakšņot un salīgt ceļvežus.
Livonijas kara laikā 1560.gadā pili sagrāba krievu cara Ivana Bargā karaspēks, bet turpmākajos gados pils gāja "no rokas rokā" - te pabijuši gan krievi, gan poļi, gan vācieši, gan zviedri, vairākkārt nopostot arī senlatviešu apdzīvotās vietas. Pēc 1661. gada miera līguma Alūksnes pili apsaimniekoja zviedri. 1680.gadā gan pils, gan Alūksnes pilsēta tika nocietinātas. Šajā laikā Vidzemē valdīja Zviedrijas karalis Kārlis XI, kas vēlējās uzlabot zemnieku stāvokli, gādājot par skolām un baznīcām.
Alūksne ir ievērojam arī ar to, ka ar šo pilsētu saistās E.Glika, vācu mācītāja, literāta un pedagoga darbību. Tieši šeit viņš 1685.gadā pārtulkoja Jauno derību, bet 1689.gadā Veco derību.
Šis vēsturiskais notikums - Bībele ar tās pārtulkošanas gadaskaitli - attēlots Alūksnes ģērbonī.
1702. gadā Ziemeļu kara laikā Alūksni ieņēma Šeremetjeva komandētais krievu karaspēks - pils tika uzspridzināta, bet pilsētiņa - nodedzināta. Pēc 1721. gada miera līguma parakstīšanas šī teritorija nonāca Krievijas atkarībā uz 200 gadiem. 1750. gadā Krievijas ķeizariene Elizabete Alūksni atdāvināja savam kancleram grāfam Voroncovam, bet tas to pārdeva slepenpadomniekam, baronam Otto Hermanim fon Fītinghofam.
Alūksnes uzplaukums sākās 1861.gadā, kad muižas īpašniek atvēlēja zemi miesta apbūvei, bet sevišķi - pēc 1903.gada, kad izbūvēja šaursliežu dzelzceļu Stukmaņi - Gulbena - Alūksne - Valka.
Pirmās neatkarīgās Latvijas laikā Alūksne bija lielākā Valkas apriņķa pilsēta un svarīgs Malienas ekonomiskās, kultūras un sabiedriskās dzīves centrs. Pilsētas tiesības Alūksne ieguva 1920. gadā.