А там все, с одной стороны, очень просто. Tone detector parameters. Интересует on-hook tone.
Соответственно устанавливаете мин/макс значение "бееп" при занятости, аналогично с паузой при занятости и количество периодов. Формально сигнал 250/250 мс, например 5 повторений до отбоя.
А дальше начинаются сложности. Сигнал вы получаете с удаленной стороны, там может стоять что попало и сигнал станет не 250/250,а , например 125/125 (Занято-перегрузка). Или 500/500 (была у нас в регионе станция, которая выдавала все сигналы в 2 раза длиннее).
И после какого-то числа повторений - сигнал удаленная сторона может выключить.
Отсюда и проблемы. Настраиваете точнее параметры сигнала "отбой" и много периодов - может не сработать.
Сделаете широкие ворота (например от 100 до 450 мс) и мало повторений (например 3) - будет ложно срабатывать во время разговора (особенно когда говорят женщины, с более высоким голосом).
Народ ставит "отбойники" - внешняя платка, которая более точно детектирует отбой и дает размыкание по линии в сторону АТС.