La bibliothèque a été fondée en 1840 suite à un don de Konstantinos – Agathofronas Nikolopoulos. C’est alors que les livres de K. A. Nikolopoulos, disposés dans 47 boîtes, quittent le 6e étage du 12, rue Castiglione à Paris pour être confiés au maire d’Andritsaina, Konstantinos Zarifopoulos, puis, plus tard au ministre de l’Education Charalampos Christopoulos, également originaire d’Andritsaina. Les livres sont envoyés par voie maritime à Nauplie, puis transportés à dos d’âne à Andritsaina, capitale de la région des montagnes d’Olympie. Pendant 39 ans, les livres sont stockés dans la petite église d’Agia Varvara.
En 1875, la construction de l’école d’Andritsaina est entamée sur un terrain offert par Nikolis Mpampadimos et conçue par Miltiades Kanellopoulos – ingénieur et professeur de l’Académie militaire – en forme de U, avec un espace ouvert sur le côté nord-est. Les fonds nécessaires ont été collectés par appel national et grâce à un don d’Angelos Giannikesis, consul de Grèce à Trieste. Le bâtiment est inauguré en 1879 et la bibliothèque occupe l’aile ouest du premier étage.
Le centre de formation de la région s’est trouvé dans cette bâtisse durant 150 ans. En 1932, l’aile nord-est est construite et le bâtiment prend sa forme actuelle.
Depuis 1998, la bibliothèque est logée dans un bâtiment néoclassique, à côté du Gymnasion historique (collège) d’Andritsaina.


