Narodil sa 17. apríla 1718 v Terchovej v rodine roľníka, ktorý sa neskôr stal strážcom medeným baní v Špatnej Doline. Jeho matka bola Regína, rod. Myslovská. Študoval v Banskej Štiavnici , Banskej Bystrici, na jezuitskom kolégiu v Trnave (1734 - 1736). Pred vysviackou vystúpil z rádu, aby uživil chorého, nevládneho otca. Potom vo Viedni filozofiu (1740 – 1742) a teológiu (1746 - 1748). Bol ženatý.

V rokoch 1742 – 1745 učil v Liptovskom Mikuláši. Zásluhou vplyvného protektora, osobného lekára a prefekta Dvorskej knižnice Gerharda van Swietena, začal pracovať v tejto knižnici ako skriptor. Bolo to v roku 1748. Prejavil však také rozsiahle vedomosti a takú znalosť jazykov, že jeho služby využíval aj kráľovský dvor, ba stal sa aj radcom kráľovnej Márie Terézie. Slovenskí vzdelanci tých čias priam povinne museli vládať niekoľko jazykov, okrem materinského nemčinu, maďarčinu, latinčinu, poprípade gréčtinu. No viacerí z nich boli fenomenálnymi polyglotmi. Osobitne rozsiahle vedomosti nadobudol A. F. Kollár, ktorý ovládal takmer všetky slovanské jazyky, vedel veľmi dobre po hebrejsky, turecky, arabsky, perzsky, pasívne ovládal francúzštinu a našli sa u neho i záznamy v rumunčine. V rokoch 1748 – 1751 prednášal gréčtinu na lekárskej fakulte vo Viedni. Od roku 1766 prednášal dejiny, diplomatiku a štátne právo na Filozofickej fakulte Viedenskej univerzity, od roku 1774 bol jej dekanom.

Roku 1762 navštívil v Bratislave vdovu po Matejovi Belovi a oboznámil sa s jeho pozostalosťou. Je možné, že sa tu inšpiroval k založeniu vedeckej spoločnosti (Societas litereria) v Uhorsku, podľa príkladu Francúzskej akadémie, no vďaka chýbajúcej podpore jezuitov mu jeho snaha nevyšla.
Poukazoval na to, že stará feudálna spoločnosť potrebuje zásadné reformy. Vypracovával správy a odborné posudky v rozličných sporných právnych, historických i zahraničnopolitických otázkach. Od 50. rokov vypracovával expertízy pre Dvorskú banskú a mincovnú komoru. Roku 1764 vypracoval pre Št. radu elaborát O snemoch a zákonodarnej moci v kráľovstve Uhorskom. Kráľovná si ho obľúbila, dokonca sa sama ponúkla za krstnú matku jeho jedinej dcéry. Štátny radca barón Egydius Borié pokladal Kollára za ,,skúseného poradcu na uhorské záležitosti, predovšetkým však na uhorské právo“, štátny radca barón Friedrich Bindersi zasa cenil, že má ,,dôkladnú znalosť uhorských dejín, práva a ústavy“, a štátny radca Johann Löhr sa o ňom vyjadril ako o ,,najkvalifikovanejšom odborníkovi na nezaplatenie“. Vo svojich návrhoch sa dožadoval zrušiť nevoľníctvo, zlepšiť postavenie roľníkov, umožniť aj nešľachticom zastávať verejné úrady. Horlil za náboženskú znášanlivosť. Márii Terézii napísal: ,,Tolerancia nech je zásadou každého kresťanského panovníka.“ Bránil kráľovské privilégia pred svojvôľou cirkevnej vrchnosti a vyslúžil si za to prívlastok ,,bezbožný“. Navrhoval zdaniť šľachtu. Aj za to zožal búrku nevôle. Priazeň kráľovnej však netratil.

Národné povedomie vyjadroval vo svojich elaborátoch i vedeckých prácach. Jeho slovanské povedomie vychádzalo z tradičnej predstavy o organickej príslušnosti Slovákov k veľkému slovanskému národu a o blízkosti slovanských jazykov. Vlastnil jednu z najväčších súkromných slovanských knižníc. Uverejnil state z diel byzantských cisárov o súdobých Slovanoch a položil základy skúmania slovanských starožitností. Bránil starobylosť a autochtónnosť Slovanov v starej Panónii. Prijímal a rozpracovával tzv. pohostinnú teóriu Samuela Timona, podľa ktorého predkovia Slovákov sa dobrovoľne spojili s Maďarmi a spoločne založili uhorský štát.

Mária Terézia trinásť rokov nezvolala schôdzu uhorského snemu. Keď sa napokon zišiel, mal búrlivý priebeh. zasadanie trvalo deväť mesiacov a mesiac s toho sa zaoberalo spisom O pôvode a nepretržitom používaní zákonodarnej moci uhorských kráľov v cirkevných záležitostiach, v ktorom Kollár ostro napadol nezdaniteľnosť cirkevných majetkov a šlachty. Vypracoval ho pravdepodobne na podnet Márie Terézie. Snem sformuloval 61 výhrad, cirkev dala spis na index a mestský kat ho musel verejne na námestí roztrhať a spáliť. Kráľovnú to tak nahnevalo, že zosadnutie snemu už nikdy viac nezvolala. Nakoniec však jeho knihu stiahla.

Čiastočne sa realizoval vo vydávaní časopisu Privilegierte Auzeigen (Výsadné oznamy) (1771 – 1776), ktorý však nemal vysokú vedeckú úroveň.
Mária Terézia však aj naďalej poverovala Kollára ďalšími úlohami a funkciami. Roku 1774 ho vymenovala za člena školskej komisie s úlohou vypracovať návrh na reformu gymnázií. Stal sa aj dekanom Filozofickej fakulty Viedenskej univerzity (1774), vymenovali ho za generálneho riaditeľa gymnázií v habsburskej ríši a po náhlej Swietenovej smrti i za prefekta Dvorskej knižnice. Školstvo považoval za záležitosť štátu a bol zásadne proti kňazom ako učiteľom na školách. Svojimi pedagogickými názormi ovplyvnil aj veľkú uhorskú osvietenskú reformu Ratio educationis (1777). Bol reprezentant viedenskej školy pedagógov osvietenského absolutizmu, schvaľoval teda rovnosť občanov. Rozpracoval najmä vzťah absolutistického štátu k cirkvi. Dostal prímenie ,,Slovenský Sokrates“. Kollár je autorom mnohých právnických a historických spisov, učebníc, prekladal, zaoberal sa archívnictvom, vydával pramene k uhorským a rakúskym dejinám. Jeho najvýznamnejšími dielami sú Pôvaby dejín uhorského práva a rozsiahla práca o dejinách uhorskej diplomacie. V roku 1762 vydal Dejiny patronátneho práva uhorských apoštolských kráľov, kde dokazuje historické právo uhorských kráľov vymenovávať a premiestnovať biskupov, darovať a odnímať cirkvi majetky. Vydal aj Saadeniho Turecké anály, dielo humanistu Gašpara Ursinia Velia O panónskej vojne, dielo ostrihomského arcibiskupa M. Oláha a pramene k dejinám Viedne. Napísal aj prvé dejiny Zakarpatských Ukrajincov. Písal i oslavné príležitostné básne na Máriu Teréziu a jej manžela Františka Lotrinského, na pápeža pri príležitosti jeho návštevy vo Viedni, ale i na Volgu a ruskú cárovnú Katarínu II.

Roku 1775 bol povýšený do zemianskeho stavu. Šľachta ho nenávidela, preklínala a prisúdila mu nálepku ,,zradca“. Zomrel 10. júla 1783 vo Viedni. Jeho meno nadlho vymazali z dejín. Až neskôr priznali jeho učenosť.