В таком слове ударение следует ставить на слог с последней буквой О — костянОм.
«Браслет волос на костяно́м запястьи… Как вновь мою могилу отворят… – забормотал он. – Помнишь у Донна?
— Антония Байетт, Обладать
Возможно ли было теперь при взгляде на Ахава, сидящего на костяно́м треножнике, не задуматься о царственном величии, которое символизировала собой его фигура?
— Герман Мелвилл, Моби Дик, или Белый Кит
Ни один разумный человек не сможет поверить, что эта бескровная куча свернувшегося молока, неподвижно лежащая в костяно́м кувшине, может породить стихи или построить пирамиду, заставить человека полюбить или пойти войной.
— Уилбур Смит, Божество реки
Я не смотрела ей в лицо — только туда, куда могла смотреть, опустив голову: голубая талия, плотная, левая рука на костяно́м набалдашнике трости, крупные бриллианты на безымянном пальце, точеном когда-то и ныне тщательно обточенном, мягко изгибался подпиленный ноготь на конце узловатого пальца.
— Маргарет Этвуд, Рассказ Служанки
И солнце обливало своим мягким сиянием всю степь и его могилу, степные травы качали над могилой своими цветущими головками, и жаворонок пел над нею песню воскрешения, блаженства и свободы… И если бы бедный человек услышал песню жаворонка, он поверил бы ей, но он не мог слышать, потому что от него остался только скелет с вечною и страшною улыбкою на костяно́м лице.
— Всеволод Гаршин, Красный цветок