Entre el ańo 500 y el 100 a.C., una tribu celta venida del oeste europeo, los Cotini, poblaron el territorio de la actual Eslovaquia. Posteriormente, desde el ańo 100 a.C. y hasta el 400 d.C., en este territorio los Quadi, una tribu germánica, conformaron estados satélites del Imperio Romano al norte del Danubio (el "Limes Romanum"). Tanto los quadi como los marcomani, sus vecinos germánicos que poblaban Bohemia, fueron expulsados por los hunos liderados por Atila.

Los eslovacos, una tribu eslava proveniente de la región oriental del Vístula y estrechamente emparentada con los checos, comenzaron a asentarse en el territorio entre los siglos VI y VII. Pronto debieron defenderse de los ávaros, nómades que provenían de la baja Panonia, hasta que el comerciante franco Samo unió a las tribus eslavas que lo eligieron rey. En el ańo 805, el franco Carlomagno, expandiendo su Imperio Cristiano, se alió con los jefes checos que habitaban Bohemia y Moravia para derrotar definitivamente a los ávaros. En compensación por la ayuda, Carlomagno distribuyó ducados entre los checos, que pasaron a tener el control sobre las regiones de Moravia, Bohemia y Eslovaquia. El reino de Moravia, que incluía territorios bohemios y eslovacos, fue así establecido. Del ańo 830 al 846 duró el reinado del primer monarca moravo, Mojmir I, quien adoptó el cristianismo.

Su sobrino y sucesor, Rotislav I (quien reinó desde 846 a 870), expandió el reinado hasta incluir toda Bohemia y, unificando por primera vez los territorios eslavos de la región, formó la Gran Moravia. Rotislav consolidó las relaciones con el Imperio Franco, que respondía a Roma, en tanto que mantenía constante contacto con el Imperio Bizantino. A solicitud de Rotislav, en el ańo 863 Bizancio envió a los monjes Constantino y Metodio, al frente de un grupo de religiosos. Los monjes tradujeron los evangelios y diseńaron el primer alfabeto eslavo (ver historia de República Checa).
Durante el reinado de Svatopluc (870-894) las fronteras de Moravia se ampliaron hasta incluir la parte occidental de la actual Hungría y el sur de lo que hoy se conoce como Polonia. Svatopluc abandonó las relaciones con Bizancio, debiendo los discípulos de Metodio abandonar el reino y refugiarse en los Balcanes (ver historia de República Checa).

La Gran Moravia vio su fin en el ańo 906, cuando fue destruida por el reino germano de Arnulfo, aliado con los magiares, una tribu nómade que provenía del Alto Volga y que controlaba buena parte de los territorios de la actual Hungría. La parte occidental del antiguo reino quedó en posesión de los duques checos de Bohemia, en tanto que la parte comprendida entre los Cárpatos y el Danubio, que corresponde a la Eslovaquia de nuestros días, fue ocupada por los magiares. A pesar de que repetidamente los duques de Bohemia intentaron retomar el control sobre territorio eslovaco, éste siguió dependiendo, durante diez siglos, de los reyes de Hungría.
Los eslovacos siempre mantuvieron su idioma y sus características culturales, que los hicieron no perder en ningún momento sus lazos con los checos. Durante el siglo XV, la Universidad de Praga ejerció considerable influencia sobre los eslovacos. Los husitas de Bohemia (ver historia de República Checa) invadieron
repetidamente Hungría, llevando a Eslovaquia la costumbre de celebrar la liturgia en lengua nacional y no en latín.

Las incursiones de los husitas crearon una atmósfera favorable para la posterior recepción del protestantismo, basado en la enseńanza de la Biblia Kralice, traducida por la congregación de los Hermanos Bohemios. A inicios del siglo XVI la mayoría de los eslovacos había adherido al calvinismo, pero cuando en 1525 Hungría fue invadida por el Imperio Otomano, Eslovaquia pasó a ser gobernada por la Casa de Austria, que fortaleció la Contrarreforma en toda la región. La dependencia de la casa de Austria, por otra parte, germanizó en buena medida la cultura eslovaca.