В таком слове ударение следует ставить на слог с последней буквой О — костолОм.
Они не знали даже здешние травы — ни розовый мытник с гирляндами крючковатых цветов, ни костоло́м, ни росянку, поднимавшую на тоненьких стебельках пушистые, плотно закрытые ночью цветы-мухоловки.
— Ричард Адамс, Обитатели Холмов
Отпетые головорезы, чей обычный ответ на замечание стражника можно передать лишь при помощи случайного набора символов, неловко улыбались и бормотали что-то безобидное в ответ на сердечное приветствие типа: «Добрый вечер, господин Костоло́м!
— Терри Пратчетт, К оружию! К оружию!
В сказке «К Морю-Океану» ее герои, выбравшись ночью из волчьего брюха на поемный берег реки, видят кишмя-кишащую весеннюю нечисть: «И кого только не было там — домовые, домихи, гуменные, банные, лесунки, лесовые, лешие, листотрясы, корневые, дупляные, моховые, полевые, водяные, хлевники, чужаки, наброжие и облом, костоло́м, кожедер, тяжкун, шатун, хитник, лядащник, голохвост, ярун, долгоносик, шпыня, куреха и шептун со своею шептухой».
— Алексей Ремезов, Сказка серебряного века
И кого только не было там: домовые, домихи, гуменные, банные, лесунки, лесовые, лешие, листотрясы, кореневые, дупляные, моховые, полевые, водяные, хлевники, чужаки, наброжие и облом, костоло́м, кожедер, тяжкун, шатун, хитник, лядащник, голохвост, ярун, долгоносик, шпыня, куреха и шептун со своею шептухой.
— Алексей Ремезов, Сказка серебряного века
И кого только не было там: домовые, домихи, гуменные, банные, лесунки, лесовые, лешие, листотрясы, кореневые, дупляные, моховые, полевые, водяные, хлевники, чужаки, наброжие и облом, костоло́м, кожедер, тяжкун, шатун, хитник, лядащик, голохвост, ярун, долгоносик, шпыня, куреха и шептун со своею шептухой.
— Павел Бажов, Сказки русских писателей