Формирование археологической коллекции музея началось уже в первые годы после его создания в 1823 г., в основном за счёт случайных находок. В начале XX в. фонды музея пополнились археологическими материалами, собранными краеведом Н.С. Гуляевым. В 1920-е гг. музеем впервые была организована экспедиция под руководством его сотрудника А.П. Киршевского по сбору предметов археологии и этнографии. С середины ХХ в. стали проводиться самостоятельные археологические раскопки научного характера. Большой вклад в комплектование археологической коллекции в это время был внесён исследователем А.П. Уманским, сотрудником отдела досоветской истории музея Э.М. Медниковой и В.А. Могильниковым, возглавлявшим Алейскую археологическую экспедицию Института археологии АН СССР.

На сегодняшний день археологическая коллекция насчитывает более 17 тыс. единиц хранения. Она охватывает периоды истории Алтая от каменного века до эпохи позднего средневековья. Археологические материалы представлены изделиями из камня, керамики, различных металлов (золото, серебро, бронза, железо), кости, рога и дерева. Документальный фонд по археологии включает в себя полевые отчеты, чертежи, дневники, а также фотографии и негативы.