Олександра Олександровича Паліцина під час його життя вважали самітником та аскетом. Відставний ад'ютант фельдмаршала Рум'янцева-Задунайського з 1767 року до самої своєї смерті в 1816-му безвиїзно мешкав на хуторі Поповка Сумського повіту Харківської губернії. Сім'я Паліциних не належала до великомаєтного дворянства (володіння складалося всього з 30 селянських родин), проте Олександра Паліцина кілька разів обирали предводителєм повітового дворянства, оскільки авторітет його був надзвичайно великим.

Його бібліотека складала біля десяти тисяч томів, а колекція живопису та графіки, яку він збирав протягом багатьох років  — понад дві тисячі полотен італійських майстрів, німецьких гравюр, старовинних російських ікон. Під впливом невтомного просвітителя, поета і архітектора навколишні поміщики починали купувати книги, картини й навіть займатися перекладами з французької.

Правою рукою Паліцина став провідний архітектор і художник Микола Алфьоров, який поклав багато зусиль до поповнення паліцинської колекції живопису. Алфьоров шлифував свою майстерність художника, мандруючи Францією та Италією. Ці подорожі були можливі тільки завдяки фінансовій підтримці «Академії» та ініциативі самого Паліцина. Іноді «поповського пустинника», як прозвали Олександра Олександровича, провідував український філософ-мандрівник Григорій Сковорода. Паліцин підтримував дружнє листування з Каразіним і Ярославським, з Державіним обмінювався віршами; його літературну та просвітительську діяльність високо оцінювали Батюшков, Радищев, а Петро В'яземський говорив: «Якщо не їхати до Вольтера в Ферней, то необхідно їхати в Поповку до Олександра Паліцина».

Саме в «Поповській Академії» виникла ідея створення університету в Харківській губернії. Відкинувши думку будувати університет в Сумах, повітові дворяни надають посильну допомогу Каразіну в збиранні необхідних коштів, і в числі перших, звичайно ж, Олександр Паліцин.

Прихильник французьскої літератури, він перекладає Руссо, Де Лиля, Сен Ламберта; створює кілька власних поезій; а в 1807 році типографія Харківського університету випускає «Слово о полку Ігоревім» в перекладі Олександра Паліцина. За звичаєм того часу видання присвячувалося слободсько-українському губернаторові Ивану Бахтіну. Паліцинський переклад став одним з перших в Російській імперії віршованих перекладень «Слова» і дістав високої оцінки в Петербурзі й Москві. Микола Федорович Сумцов відзначав пізніш, що цей переклад «при внутрішньому складі тогочасної мови», яка ще не позбавилася державної пишномовності, був видатним літературним явищем за простотою і ясністю».

Цікава деталь — незважаючи на близькі зв'язки зі столичним письменницьким світом, Паліцин не був ознайомлений з двома перекладами «Слова», які до нього були виконані Серяковським (1803 р.) і Шишковським (1805 р.) В цьому випадку його самітність та віддаленність від світської суєти відіграли негативну роль.

Невідомо, чи існувала напочатку 19 століття приказка про те, що справжній чоловік має посадити дерево, збудувати оселю та виростити сина, але всі ці умови Олександр Паліцин виконав, хоча й не буквально. Замість одного дерева він розбив чудовий парк в маєтку Старий Мерчик, яким володів його друг Григорій Шидловський. Замість одного будинку він спорудив кілька прекрасних камінних церков та особняків. Зведену за паліцинським проектом церков Іоанна Предтечі в селі Штеповка архієепископ Філарет назвав однією з перших за розміром та грандіозністю в Харківській єпархії. А замість сина Олександр Паліцин зростив доньку, яка успадкувала батькові справи і займалася малюванням та архітектурою.