Хвърли едно око тук и дано намериш нещо полезно  '>

[Wait for dial tone before dialing]

Освен това което си опитал с ATDP опитай някъде в настройките на модема да махнеш изчакването на тонален сигнал преди набиране. Не помня точно как се наричаше, а и сега нямам модем за да погледна.
В Windows в настройките на модема се казваше Wait for dial tone before dialing
Махни го и би трябвало да помогне.

[xf86config]

Не съм спец по Линукс, но все пак да опитам '>
Опитай да конфигурираш полуръчно с xf86config
След това отиди в /etc/x11 и отвори с някой редактор XF86Config или XF86Config-4 в зависимост от версията на X
Провери правилно ли е описано всичко в секцията Monitor както и в секцията Device
При мен имаше проблем с неправилно описани HorizSync и VertRefresh в секцията Monitor и не намираше съответният режим (800х600, 1024х768 и др.).
Даваше постоянно грешки, че не намира нещо си (сега не помня)
Прочети още по въпроса това http://www.linux-bg.org/cgi-bin....6633414
както и малко търсене намира още теми за X и настройването му http://www.linux-bg.org/cgi-bin....6Config

Успех!  '>