<html>
<head>
<meta http-equiv="Content-Type" content="text/html; charset=iso-8859-1">
</head>
<body style="background-color: rgb(255, 255, 255); color: rgb(0, 0,
    0);" bgcolor="#FFFFFF" text="#000000">
For now iscscf crashed. <br>
<br>
mem_safety=1 <br>
<br>
(gdb) bt full<br>
#0  0x00000031ba432925 in raise () from /lib64/libc.so.6<br>
No symbol table info available.<br>
#1  0x00000031ba434105 in abort () from /lib64/libc.so.6<br>
No symbol table info available.<br>
#2  0x0000000000546750 in qm_debug_frag (qm=0x7f1b2794e000, f=0x7f1b27a69a00) at mem/q_malloc.c:142<br>
        __FUNCTION__ = "qm_debug_frag"<br>
#3  0x000000000054853a in qm_free (qm=0x7f1b2794e000, p=0x7f1b27a69a30, file=0x7f1b2ce7b0ea "tm: uac.c", func=0x7f1b2ce7baa0 "free_local_ack_unsafe", line=600) at mem/q_malloc.c:464<br>
        f = 0x7f1b27a69a00<br>
        size = 695784701953<br>
        next = 0x7f1b2ce60e08<br>
        prev = 0x7f1b2ce60c6d<br>
        __FUNCTION__ = "qm_free"<br>
#4  0x00007f1b2ce5c7de in free_local_ack_unsafe (lack=0x7f1b27a69a30) at uac.c:600<br>
        __FUNCTION__ = "free_local_ack_unsafe"<br>
#5  0x00007f1b2cdf2a57 in free_cell (dead_cell=0x7f1b27a69730) at h_table.c:217<br>
        b = 0x0<br>
        i = 0<br>
        rpl = 0x0<br>
        tt = 0x0<br>
        foo = 0x1<br>
        cbs = 0x0<br>
        cbs_tmp = 0x7c00000001<br>
        __FUNCTION__ = "free_cell"<br>
#6  0x00007f1b2cdf32ee in free_hash_table () at h_table.c:441<br>
        p_cell = 0x7f1b27a69730<br>
        tmp_cell = 0x7f1b27bff350<br>
        i = 580<br>
        __FUNCTION__ = "free_hash_table"<br>
#7  0x00007f1b2ce06fca in tm_shutdown () at t_funcs.c:122<br>
        __FUNCTION__ = "tm_shutdown"<br>
#8  0x00000000004f7c7a in destroy_modules () at sr_module.c:817<br>
        t = 0x7f1b2d0d7df0<br>
        foo = 0x0<br>
        __FUNCTION__ = "destroy_modules"<br>
#9  0x0000000000466e63 in cleanup (show_status=1) at main.c:560<br>
        memlog = 32767<br>
        __FUNCTION__ = "cleanup"<br>
#10 0x0000000000467f65 in shutdown_children (sig=15, show_status=1) at main.c:702<br>
        __FUNCTION__ = "shutdown_children"<br>
#11 0x0000000000469679 in handle_sigs () at main.c:793<br>
        chld = 0<br>
        chld_status = 139<br>
        memlog = 0<br>
        __FUNCTION__ = "handle_sigs"<br>
#12 0x000000000046db19 in main_loop () at main.c:1746<br>
        i = 8<br>
        pid = 13103<br>
        si = 0x0<br>
        si_desc = "udp receiver child=7 sock=10.67.97.63:5060\000-\033\177\000\000\001\000\000\000z\000\000\000\376}^\000\000\000\000\000\340o^\000\000\000\000\000\026\070\266M\000\000\000\000\300LA\000\000\000\000\000\260\236\033\346\377\177", '\000' <repeats
 18 times>"\360, \234\033\346\377\177\000\000.\241K\000\000\000\000"<br>
        nrprocs = 8<br>
        __FUNCTION__ = "main_loop"<br>
#13 0x000000000047030b in main (argc=13, argv=0x7fffe61b9eb8) at main.c:2533<br>
        cfg_stream = 0x2753010<br>
        c = -1<br>
        r = 0<br>
        tmp = 0x7fffe61bae4b ""<br>
        tmp_len = 0<br>
        port = 0<br>
        proto = 0<br>
        options = 0x5e0340 ":f:cm:M:dVIhEeb:l:L:n:vKrRDTN:W:w:t:u:g:P:G:SQ:O:a:A:"<br>
        ret = -1<br>
        seed = 3395117202<br>
        rfd = 4<br>
        debug_save = 0<br>
        debug_flag = 0<br>
        dont_fork_cnt = 0<br>
        n_lst = 0x31ba40fba0<br>
        p = 0x5ca460 "H\211l$\330L\211d$\340H\215-\217\233*"<br>
        __FUNCTION__ = "main"<br>
(gdb) <br>
<br>
Mar 13 18:15:51 ricvmf-fusion01 kam-pcscf[13641]: ERROR: ims_usrloc_pcscf [udomain.c:400]: update_pcontact(): no more shm_mem<br>
Mar 13 18:15:51 ricvmf-fusion01 kam-pcscf[13641]: ERROR: ims_registrar_pcscf [save.c:208]: update_contacts(): failed to update pcscf contact<br>
Mar 13 18:15:51 ricvmf-fusion01 kam-pcscf[13641]: ERROR: ims_usrloc_pcscf [udomain.c:400]: update_pcontact(): no more shm_mem<br>
Mar 13 18:15:51 ricvmf-fusion01 kam-pcscf[13641]: ERROR: ims_registrar_pcscf [save.c:208]: update_contacts(): failed to update pcscf contact<br>
Mar 13 18:15:51 ricvmf-fusion01 kam-pcscf[13641]: ERROR: ims_usrloc_pcscf [udomain.c:400]: update_pcontact(): no more shm_mem<br>
Mar 13 18:15:51 ricvmf-fusion01 kam-pcscf[13641]: ERROR: ims_registrar_pcscf [save.c:208]: update_contacts(): failed to update pcscf contact<br>
Mar 13 18:15:51 ricvmf-fusion01 kam-pcscf[13657]: ERROR: <core> [tcp_main.c:4237]: handle_tcpconn_ev(): connect 10.67.64.29:1305 failed<br>
Mar 13 18:15:51 ricvmf-fusion01 kam-pcscf[13657]: ERROR: <core> [tcp_main.c:4237]: handle_tcpconn_ev(): connect 10.67.64.29:1305 failed<br>
Mar 13 18:15:51 ricvmf-fusion01 kam-pcscf[13657]: ERROR: <core> [tcp_main.c:4237]: handle_tcpconn_ev(): connect 10.67.64.29:1325 failed<br>
Mar 13 18:15:51 ricvmf-fusion01 kam-pcscf[13657]: ERROR: <core> [tcp_main.c:4237]: handle_tcpconn_ev(): connect 10.67.64.29:1325 failed<br>
Mar 13 18:15:51 ricvmf-fusion01 kam-pcscf[13638]: WARNING: ims_registrar_pcscf [service_routes.c:440]: assert_identity(): Contact not found based on Contact, trying IP/Port/Proto<br>
Mar 13 18:15:51 ricvmf-fusion01 kam-scscf[13512]: ERROR: <script>: SUBSCRIBE (<a class="moz-txt-link-abbreviated" href="mailto:sip:18047621111@lab.ricuc.com">sip:18047621111@lab.ricuc.com</a> (10.67.97.63:5090) to
<a class="moz-txt-link-abbreviated" href="mailto:sip:18047621111@lab.ricuc.com">sip:18047621111@lab.ricuc.com</a>, d1dc7671-e6fb-0071-1042-edba53716ada)<br>
Mar 13 18:15:51 ricvmf-fusion01 kam-scscf[13512]: ERROR: tm [tm.c:1302]: w_t_reply(): ERROR: t_reply: cannot send a t_reply to a message for which no T-state has been established<br>
Mar 13 18:15:51 ricvmf-fusion01 kam-pcscf[13638]: WARNING: ims_registrar_pcscf [service_routes.c:440]: assert_identity(): Contact not found based on Contact, trying IP/Port/Proto<br>
Mar 13 18:15:51 ricvmf-fusion01 kam-scscf[13512]: ERROR: <script>: SUBSCRIBE (<a class="moz-txt-link-abbreviated" href="mailto:sip:18047621111@lab.ricuc.com">sip:18047621111@lab.ricuc.com</a> (10.67.97.63:5090) to
<a class="moz-txt-link-abbreviated" href="mailto:sip:18047621111@lab.ricuc.com">sip:18047621111@lab.ricuc.com</a>, d1dc7671-e6fb-0071-1042-edba53716ada)<br>
Mar 13 18:15:51 ricvmf-fusion01 kam-scscf[13512]: ERROR: tm [tm.c:1302]: w_t_reply(): ERROR: t_reply: cannot send a t_reply to a message for which no T-state has been established<br>
Mar 13 18:15:52 ricvmf-fusion01 kernel: kamailio[13083]: segfault at 7f1b27c05af0 ip 00007f1b27c05af0 sp 00007fffe61b9bb8 error 15 in zero (deleted)[7f1b2794e000+2000000]<br>
Mar 13 18:15:52 ricvmf-fusion01 kernel: kamailio[13083]: segfault at 7f1b27c05af0 ip 00007f1b27c05af0 sp 00007fffe61b9bb8 error 15 in zero (deleted)[7f1b2794e000+2000000]<br>
Mar 13 18:15:52 ricvmf-fusion01 kam-icscf[13074]: ALERT: <core> [main.c:775]: handle_sigs(): child process 13083 exited by a signal 11<br>
Mar 13 18:15:52 ricvmf-fusion01 kam-icscf[13103]: : <core> [pass_fd.c:293]: receive_fd(): ERROR: receive_fd: EOF on 18<br>
Mar 13 18:15:52 ricvmf-fusion01 kam-icscf[13074]: ALERT: <core> [main.c:778]: handle_sigs(): core was generated<br>
Mar 13 18:15:52 ricvmf-fusion01 kam-icscf[13074]: INFO: <core> [main.c:790]: handle_sigs(): INFO: terminating due to SIGCHLD<br>
Mar 13 18:15:52 ricvmf-fusion01 kam-icscf[13103]: INFO: <core> [main.c:841]: sig_usr(): INFO: signal 15 received<br>
Mar 13 18:15:52 ricvmf-fusion01 kam-icscf[13102]: INFO: <core> [main.c:841]: sig_usr(): INFO: signal 15 received<br>
Mar 13 18:15:52 ricvmf-fusion01 kam-icscf[13101]: INFO: <core> [main.c:841]: sig_usr(): INFO: signal 15 received<br>
Mar 13 18:15:52 ricvmf-fusion01 kam-icscf[13100]: INFO: <core> [main.c:841]: sig_usr(): INFO: signal 15 received<br>
Mar 13 18:15:52 ricvmf-fusion01 kam-icscf[13099]: INFO: <core> [main.c:841]: sig_usr(): INFO: signal 15 received<br>
Mar 13 18:15:52 ricvmf-fusion01 kam-icscf[13098]: INFO: <core> [main.c:841]: sig_usr(): INFO: signal 15 received<br>
Mar 13 18:15:52 ricvmf-fusion01 kam-icscf[13097]: INFO: <core> [main.c:841]: sig_usr(): INFO: signal 15 received<br>
Mar 13 18:15:52 ricvmf-fusion01 kam-icscf[13095]: INFO: <core> [main.c:841]: sig_usr(): INFO: signal 15 received<br>
Mar 13 18:15:52 ricvmf-fusion01 kam-icscf[13096]: INFO: <core> [main.c:841]: sig_usr(): INFO: signal 15 received<br>
Mar 13 18:15:52 ricvmf-fusion01 kam-icscf[13091]: INFO: <core> [main.c:841]: sig_usr(): INFO: signal 15 received<br>
Mar 13 18:15:52 ricvmf-fusion01 kam-icscf[13094]: INFO: <core> [main.c:841]: sig_usr(): INFO: signal 15 received<br>
Mar 13 18:15:52 ricvmf-fusion01 kam-icscf[13088]: INFO: <core> [main.c:841]: sig_usr(): INFO: signal 15 received<br>
Mar 13 18:15:52 ricvmf-fusion01 kam-icscf[13093]: INFO: <core> [main.c:841]: sig_usr(): INFO: signal 15 received<br>
Mar 13 18:15:52 ricvmf-fusion01 kam-icscf[13074]: ALERT: <core> [main.c:775]: handle_sigs(): child process 13083 exited by a signal 11<br>
Mar 13 18:15:52 ricvmf-fusion01 kam-icscf[13103]: : <core> [pass_fd.c:293]: receive_fd(): ERROR: receive_fd: EOF on 18<br>
Mar 13 18:15:52 ricvmf-fusion01 kam-icscf[13074]: ALERT: <core> [main.c:778]: handle_sigs(): core was generated<br>
Mar 13 18:15:52 ricvmf-fusion01 kam-icscf[13074]: INFO: <core> [main.c:790]: handle_sigs(): INFO: terminating due to SIGCHLD<br>
Mar 13 18:15:52 ricvmf-fusion01 kam-icscf[13103]: INFO: <core> [main.c:841]: sig_usr(): INFO: signal 15 received<br>
Mar 13 18:15:52 ricvmf-fusion01 kam-icscf[13102]: INFO: <core> [main.c:841]: sig_usr(): INFO: signal 15 received<br>
Mar 13 18:15:52 ricvmf-fusion01 kam-icscf[13101]: INFO: <core> [main.c:841]: sig_usr(): INFO: signal 15 received<br>
Mar 13 18:15:52 ricvmf-fusion01 kam-icscf[13100]: INFO: <core> [main.c:841]: sig_usr(): INFO: signal 15 received<br>
Mar 13 18:15:52 ricvmf-fusion01 kam-icscf[13099]: INFO: <core> [main.c:841]: sig_usr(): INFO: signal 15 received<br>
Mar 13 18:15:52 ricvmf-fusion01 kam-icscf[13098]: INFO: <core> [main.c:841]: sig_usr(): INFO: signal 15 received<br>
Mar 13 18:15:52 ricvmf-fusion01 kam-icscf[13097]: INFO: <core> [main.c:841]: sig_usr(): INFO: signal 15 received<br>
Mar 13 18:15:52 ricvmf-fusion01 kam-icscf[13095]: INFO: <core> [main.c:841]: sig_usr(): INFO: signal 15 received<br>
Mar 13 18:15:52 ricvmf-fusion01 kam-icscf[13096]: INFO: <core> [main.c:841]: sig_usr(): INFO: signal 15 received<br>
Mar 13 18:15:52 ricvmf-fusion01 kam-icscf[13091]: INFO: <core> [main.c:841]: sig_usr(): INFO: signal 15 received<br>
Mar 13 18:15:52 ricvmf-fusion01 kam-icscf[13094]: INFO: <core> [main.c:841]: sig_usr(): INFO: signal 15 received<br>
Mar 13 18:15:52 ricvmf-fusion01 kam-icscf[13088]: INFO: <core> [main.c:841]: sig_usr(): INFO: signal 15 received<br>
Mar 13 18:15:52 ricvmf-fusion01 kam-icscf[13093]: INFO: <core> [main.c:841]: sig_usr(): INFO: signal 15 received<br>
Mar 13 18:15:52 ricvmf-fusion01 kam-icscf[13086]: INFO: <core> [main.c:841]: sig_usr(): INFO: signal 15 received<br>
Mar 13 18:15:52 ricvmf-fusion01 kam-icscf[13086]: INFO: <core> [main.c:841]: sig_usr(): INFO: signal 15 received<br>
Mar 13 18:15:52 ricvmf-fusion01 kam-icscf[13076]: INFO: <core> [main.c:841]: sig_usr(): INFO: signal 15 received<br>
Mar 13 18:15:52 ricvmf-fusion01 kam-icscf[13084]: INFO: <core> [main.c:841]: sig_usr(): INFO: signal 15 received<br>
Mar 13 18:15:52 ricvmf-fusion01 kam-icscf[13077]: INFO: <core> [main.c:841]: sig_usr(): INFO: signal 15 received<br>
Mar 13 18:15:52 ricvmf-fusion01 kam-icscf[13082]: INFO: <core> [main.c:841]: sig_usr(): INFO: signal 15 received<br>
Mar 13 18:15:52 ricvmf-fusion01 kam-icscf[13085]: INFO: <core> [main.c:841]: sig_usr(): INFO: signal 15 received<br>
Mar 13 18:15:52 ricvmf-fusion01 kam-icscf[13078]: INFO: <core> [main.c:841]: sig_usr(): INFO: signal 15 received<br>
Mar 13 18:15:52 ricvmf-fusion01 kam-icscf[13080]: INFO: <core> [main.c:841]: sig_usr(): INFO: signal 15 received<br>
Mar 13 18:15:52 ricvmf-fusion01 kam-icscf[13087]: INFO: <core> [main.c:841]: sig_usr(): INFO: signal 15 received<br>
Mar 13 18:15:52 ricvmf-fusion01 kam-icscf[13076]: INFO: <core> [main.c:841]: sig_usr(): INFO: signal 15 received<br>
Mar 13 18:15:52 ricvmf-fusion01 kam-icscf[13084]: INFO: <core> [main.c:841]: sig_usr(): INFO: signal 15 received<br>
Mar 13 18:15:52 ricvmf-fusion01 kam-icscf[13077]: INFO: <core> [main.c:841]: sig_usr(): INFO: signal 15 received<br>
Mar 13 18:15:52 ricvmf-fusion01 kam-icscf[13082]: INFO: <core> [main.c:841]: sig_usr(): INFO: signal 15 received<br>
Mar 13 18:15:52 ricvmf-fusion01 kam-icscf[13085]: INFO: <core> [main.c:841]: sig_usr(): INFO: signal 15 received<br>
Mar 13 18:15:52 ricvmf-fusion01 kam-icscf[13078]: INFO: <core> [main.c:841]: sig_usr(): INFO: signal 15 received<br>
Mar 13 18:15:52 ricvmf-fusion01 kam-icscf[13080]: INFO: <core> [main.c:841]: sig_usr(): INFO: signal 15 received<br>
Mar 13 18:15:52 ricvmf-fusion01 kam-icscf[13087]: INFO: <core> [main.c:841]: sig_usr(): INFO: signal 15 received<br>
Mar 13 18:15:52 ricvmf-fusion01 kam-icscf[13075]: INFO: <core> [main.c:841]: sig_usr(): INFO: signal 15 received<br>
Mar 13 18:15:52 ricvmf-fusion01 kam-icscf[13089]: INFO: <core> [main.c:841]: sig_usr(): INFO: signal 15 received<br>
Mar 13 18:15:52 ricvmf-fusion01 kam-icscf[13079]: INFO: <core> [main.c:841]: sig_usr(): INFO: signal 15 received<br>
Mar 13 18:15:52 ricvmf-fusion01 kam-icscf[13081]: INFO: <core> [main.c:841]: sig_usr(): INFO: signal 15 received<br>
Mar 13 18:15:52 ricvmf-fusion01 kam-icscf[13090]: INFO: <core> [main.c:841]: sig_usr(): INFO: signal 15 received<br>
Mar 13 18:15:52 ricvmf-fusion01 kam-icscf[13092]: INFO: <core> [main.c:841]: sig_usr(): INFO: signal 15 received<br>
Mar 13 18:15:52 ricvmf-fusion01 kam-icscf[13075]: INFO: <core> [main.c:841]: sig_usr(): INFO: signal 15 received<br>
Mar 13 18:15:52 ricvmf-fusion01 kam-icscf[13089]: INFO: <core> [main.c:841]: sig_usr(): INFO: signal 15 received<br>
Mar 13 18:15:52 ricvmf-fusion01 kam-icscf[13079]: INFO: <core> [main.c:841]: sig_usr(): INFO: signal 15 received<br>
Mar 13 18:15:52 ricvmf-fusion01 kam-icscf[13081]: INFO: <core> [main.c:841]: sig_usr(): INFO: signal 15 received<br>
Mar 13 18:15:52 ricvmf-fusion01 kam-icscf[13090]: INFO: <core> [main.c:841]: sig_usr(): INFO: signal 15 received<br>
Mar 13 18:15:52 ricvmf-fusion01 kam-icscf[13092]: INFO: <core> [main.c:841]: sig_usr(): INFO: signal 15 received<br>
Mar 13 18:15:52 ricvmf-fusion01 kam-icscf[13074]: INFO: cdp [mod.c:251]: cdp_exit(): CDiameterPeer child stopping ...<br>
Mar 13 18:15:52 ricvmf-fusion01 kam-icscf[13074]: INFO: cdp [diameter_peer.c:428]: diameter_peer_destroy(): destroy_diameter_peer(): Terminating all children...<br>
Mar 13 18:15:52 ricvmf-fusion01 kam-icscf[13074]: INFO: cdp [diameter_peer.c:435]: diameter_peer_destroy(): destroy_diameter_peer(): Waiting for child [13094] to terminate..<br>
<br>
<br>
<div class="moz-cite-prefix">On 03/13/2014 05:47 PM, Hugh Waite wrote:<br>
</div>
<blockquote style="border-left: 2px solid #009900 !important;
      border-right: 2px solid #009900 !important; padding: 0px 15px 0px
      15px; margin: 8px 2px;" cite="mid:5322275A.1020507@crocodile-rcs.com" type="cite">
<!--[if !IE]><DIV style="border-left: 2px solid #009900; border-right: 2px solid #009900;  padding: 0px 15px; margin: 2px 0px;"><![endif]-->
<div class="moz-cite-prefix">Dan,<br>
There are two cores because of a crash in one process followed by a crash when the other processes are trying to shutdown.<br>
<br>
What's interesting is that the bt doesn't show useful pointers. If you have installed from RPMs make sure the kamailio-debuginfo is from the same build as the other RPMs.<br>
<br>
Also, do the logs say anything? There should be a log entry from the kernel for the segfault/signal that says which module crashed (e.g. registrar.so) and possibly (hopefully) an error message just before that.<br>
<br>
Hugh<br>
<br>
<br>
On 13/03/2014 19:53, Daniel Ciprus wrote:<br>
</div>
<blockquote style="border-left: 2px solid #009900 !important;
        border-right: 2px solid #009900 !important; padding: 0px 15px
        0px 15px; margin: 8px 2px;" cite="mid:53220CD3.3050503@acision.com" type="cite">
<!--[if !IE]><DIV style="border-left: 2px solid #009900; border-right: 2px solid #009900;  padding: 0px 15px; margin: 2px 0px;"><![endif]-->Jason,
<br>
<br>
I've tried multiple combinations for pattern but I'm getting only 2 core files ...
<br>
<br>
Details: <br>
<br>
 ~]# cat /proc/sys/kernel/core_pattern<br>
/tmp/core.%e.sig%s.%p<br>
<br>
~]# lsb_release -a<br>
LSB Version:    :base-4.0-amd64:base-4.0-noarch:core-4.0-amd64:core-4.0-noarch:graphics-4.0-amd64:graphics-4.0-noarch:printing-4.0-amd64:printing-4.0-noarch<br>
Distributor ID: RedHatEnterpriseServer<br>
Description:    Red Hat Enterprise Linux Server release 6.5 (Santiago)<br>
Release:        6.5<br>
Codename:       Santiago<br>
<br>
<br>
<br>
(gdb) bt<br>
#0  0x00000000005350b0 in ?? ()<br>
#1  0x000000000053542a in ?? ()<br>
#2  0x00000000005356c7 in timer_main ()<br>
#3  0x000000000046d572 in main_loop ()<br>
#4  0x000000000047030b in main ()<br>
(gdb) bt full<br>
#0  0x00000000005350b0 in ?? ()<br>
No symbol table info available.<br>
#1  0x000000000053542a in ?? ()<br>
No symbol table info available.<br>
#2  0x00000000005356c7 in timer_main ()<br>
No symbol table info available.<br>
#3  0x000000000046d572 in main_loop ()<br>
No symbol table info available.<br>
#4  0x000000000047030b in main ()<br>
No symbol table info available.<br>
(gdb)<br>
<br>
(gdb) bt<br>
#0  0x00000031ba432925 in raise () from /lib64/libc.so.6<br>
#1  0x00000031ba434105 in abort () from /lib64/libc.so.6<br>
#2  0x0000000000546750 in ?? ()<br>
#3  0x000000000054853a in qm_free ()<br>
#4  0x00007f23d98f87de in free_local_ack_unsafe (lack=0x7f23d3319d70) at uac.c:600<br>
#5  0x00007f23d988ea57 in free_cell (dead_cell=0x7f23d3319a70) at h_table.c:217<br>
#6  0x00007f23d988f2ee in free_hash_table () at h_table.c:441<br>
#7  0x00007f23d98a2fca in tm_shutdown () at t_funcs.c:122<br>
#8  0x00000000004f7c7a in destroy_modules ()<br>
#9  0x0000000000466e63 in cleanup ()<br>
#10 0x0000000000467f65 in ?? ()<br>
#11 0x0000000000469679 in handle_sigs ()<br>
#12 0x000000000046db19 in main_loop ()<br>
#13 0x000000000047030b in main ()<br>
(gdb) bt full<br>
#0  0x00000031ba432925 in raise () from /lib64/libc.so.6<br>
No symbol table info available.<br>
#1  0x00000031ba434105 in abort () from /lib64/libc.so.6<br>
No symbol table info available.<br>
#2  0x0000000000546750 in ?? ()<br>
No symbol table info available.<br>
#3  0x000000000054853a in qm_free ()<br>
No symbol table info available.<br>
#4  0x00007f23d98f87de in free_local_ack_unsafe (lack=0x7f23d3319d70) at uac.c:600<br>
        __FUNCTION__ = "free_local_ack_unsafe"<br>
#5  0x00007f23d988ea57 in free_cell (dead_cell=0x7f23d3319a70) at h_table.c:217<br>
        b = 0x0<br>
        i = 0<br>
        rpl = 0x0<br>
        tt = 0x0<br>
        foo = 0x2fd3221000<br>
        cbs = 0x0<br>
        cbs_tmp = 0x7f23d35386b8<br>
        __FUNCTION__ = "free_cell"<br>
#6  0x00007f23d988f2ee in free_hash_table () at h_table.c:441<br>
        p_cell = 0x7f23d3319a70<br>
        tmp_cell = 0x7f23d353dca0<br>
        i = 580<br>
        __FUNCTION__ = "free_hash_table"<br>
#7  0x00007f23d98a2fca in tm_shutdown () at t_funcs.c:122<br>
        __FUNCTION__ = "tm_shutdown"<br>
#8  0x00000000004f7c7a in destroy_modules ()<br>
No symbol table info available.<br>
#9  0x0000000000466e63 in cleanup ()<br>
No symbol table info available.<br>
#10 0x0000000000467f65 in ?? ()<br>
No symbol table info available.<br>
#11 0x0000000000469679 in handle_sigs ()<br>
No symbol table info available.<br>
#12 0x000000000046db19 in main_loop ()<br>
No symbol table info available.<br>
#13 0x000000000047030b in main ()<br>
No symbol table info available.<br>
(gdb) <br>
<br>
<br>
<br>
<div class="moz-cite-prefix">On 03/13/2014 02:58 PM, Jason Penton wrote:<br>
</div>
<blockquote style="border-left: 2px solid #009900 !important;
          border-right: 2px solid #009900 !important; padding: 0px 15px
          0px 15px; margin: 8px 2px;" cite="mid:CALoGXNWwF39XrOKL_GztZLqb-f3HjAy78Bs0O2wF9FFvqQqxLA@mail.gmail.com" type="cite">
<!--[if !IE]><DIV style="border-left: 2px solid #009900; border-right: 2px solid #009900;  padding: 0px 15px; margin: 2px 0px;"><![endif]--><!--[if !IE]><DIV style="border-left: 2px solid #009900; border-right: 2px solid #009900;  padding: 0px 15px; margin: 2px 0px;"><![endif]-->
<div dir="ltr">I don't think these cores indicate the real crash... I'd like to get some more detail on what actually happened? Daniel, can you re-create? Keep in mind that if your core dump config on your box is not configured to name your cores according
 to process id or timestamp one core will overwrite the other..... as a result you will never see the core that is the root cause. 
<div><br>
</div>
<div>Which OS are you running?</div>
<div><br>
</div>
<div>if Linux, I use the following in /etc/sysctl.conf:</div>
<div><br>
</div>
<div>kernel.core_pattern=/tmp/core.%e.%p.%h.%t<br>
</div>
</div>
<div class="gmail_extra"><br>
<br>
<div class="gmail_quote">On Thu, Mar 13, 2014 at 8:45 PM, Carsten Bock <span dir="ltr">
<<a moz-do-not-send="true" href="mailto:carsten@ng-voice.com" target="_blank">carsten@ng-voice.com</a>></span> wrote:<br>
<blockquote class="gmail_quote" style="margin:0 0 0
                .8ex;border-left:1px #ccc solid;padding-left:1ex">
<div class="">It looks a little bit like a "double free".<br>
<br>
You could try to disable the call to "abort()" in case this happens:<br>
</div>
mem_safety=1<br>
See: <a moz-do-not-send="true" href="http://www.kamailio.org/wiki/cookbooks/devel/core#mem_safety" target="_blank">
http://www.kamailio.org/wiki/cookbooks/devel/core#mem_safety</a><br>
<br>
Kind regards,<br>
Carsten<br>
<br>
2014-03-13 19:44 GMT+01:00 Carsten Bock <<a moz-do-not-send="true" href="mailto:carsten@ng-voice.com">carsten@ng-voice.com</a>>:<br>
<div class="HOEnZb">
<div class="h5">> It looks a little bit like a "double free".<br>
><br>
> You could try to disable the call to "abort()" in case this happens:<br>
><br>
><br>
> 2014-03-13 17:22 GMT+01:00 Daniel Ciprus <<a moz-do-not-send="true" href="mailto:daniel.ciprus@acision.com">daniel.ciprus@acision.com</a>>:<br>
>> There are no more core files on the filesystem :-(<br>
>><br>
>> On 03/13/2014 12:18 PM, Jason Penton wrote:<br>
>><br>
>> I'm afraid this is also not the correct core. Can you check the timestamp on<br>
>> the cores? Can  you re-create the crash and send me the correct core?<br>
>><br>
>><br>
>><br>
>><br>
>> On Thu, Mar 13, 2014 at 5:36 PM, Daniel Ciprus <<a moz-do-not-send="true" href="mailto:daniel.ciprus@acision.com">daniel.ciprus@acision.com</a>><br>
>> wrote:<br>
>>><br>
>>> So I cleaned up my junkyard and I got 2 core files:<br>
>>><br>
>>> (gdb) bt<br>
>>> #0  0x00000000005350b0 in ?? ()<br>
>>> #1  0x000000000053542a in ?? ()<br>
>>> #2  0x00000000005356c7 in timer_main ()<br>
>>> #3  0x000000000046d572 in main_loop ()<br>
>>> #4  0x000000000047030b in main ()<br>
>>> (gdb) bt full<br>
>>> #0  0x00000000005350b0 in ?? ()<br>
>>><br>
>>> No symbol table info available.<br>
>>> #1  0x000000000053542a in ?? ()<br>
>>><br>
>>> No symbol table info available.<br>
>>> #2  0x00000000005356c7 in timer_main ()<br>
>>><br>
>>> No symbol table info available.<br>
>>> #3  0x000000000046d572 in main_loop ()<br>
>>><br>
>>> No symbol table info available.<br>
>>> #4  0x000000000047030b in main ()<br>
>>><br>
>>> No symbol table info available.<br>
>>> (gdb)<br>
>>><br>
>>><br>
>>> (gdb) bt full<br>
>>> #0  0x00000031ba432925 in raise () from /lib64/libc.so.6<br>
>>> No symbol table info available.<br>
>>> #1  0x00000031ba434105 in abort () from /lib64/libc.so.6<br>
>>> No symbol table info available.<br>
>>> #2  0x0000000000546750 in ?? ()<br>
>>> No symbol table info available.<br>
>>> #3  0x000000000054853a in qm_free ()<br>
>>> No symbol table info available.<br>
>>> #4  0x00007f5bf7d5a7de in free_local_ack_unsafe (lack=0x7f5bf1894528) at<br>
>>> uac.c:600<br>
>>>         __FUNCTION__ = "free_local_ack_unsafe"<br>
>>> #5  0x00007f5bf7cf0a57 in free_cell (dead_cell=0x7f5bf1894228) at<br>
>>> h_table.c:217<br>
>>><br>
>>>         b = 0x0<br>
>>>         i = 0<br>
>>>         rpl = 0x0<br>
>>>         tt = 0x0<br>
>>>         foo = 0x2ff1683000<br>
>>>         cbs = 0x0<br>
>>>         cbs_tmp = 0x7f5bf198e508<br>
>>>         __FUNCTION__ = "free_cell"<br>
>>> #6  0x00007f5bf7cf12ee in free_hash_table () at h_table.c:441<br>
>>>         p_cell = 0x7f5bf1894228<br>
>>>         tmp_cell = 0x7f5bf1894228<br>
>>>         i = 3533<br>
>>>         __FUNCTION__ = "free_hash_table"<br>
>>> #7  0x00007f5bf7d04fca in tm_shutdown () at t_funcs.c:122<br>
>>><br>
>>>         __FUNCTION__ = "tm_shutdown"<br>
>>> #8  0x00000000004f7c7a in destroy_modules ()<br>
>>> No symbol table info available.<br>
>>> #9  0x0000000000466e63 in cleanup ()<br>
>>> No symbol table info available.<br>
>>> #10 0x0000000000467f65 in ?? ()<br>
>>> No symbol table info available.<br>
>>> #11 0x0000000000469679 in handle_sigs ()<br>
>>> No symbol table info available.<br>
>>> #12 0x000000000046db19 in main_loop ()<br>
>>> No symbol table info available.<br>
>>> #13 0x000000000047030b in main ()<br>
>>> No symbol table info available.<br>
>>> (gdb)<br>
>>><br>
>>><br>
>>> On 03/13/2014 11:18 AM, Jason Penton wrote:<br>
>>><br>
>>> Hi Daniel,<br>
>>><br>
>>> this is the wrong core file. This is the one created on shutdown of<br>
>>> kamailio. Can you do a bt on the other core file that you probably have...<br>
>>><br>
>>> Cheers<br>
>>> Jason<br>
>>><br>
>>><br>
>>> On Thu, Mar 13, 2014 at 5:05 PM, Daniel Ciprus <<a moz-do-not-send="true" href="mailto:daniel.ciprus@acision.com">daniel.ciprus@acision.com</a>><br>
>>> wrote:<br>
>>>><br>
>>>> Folks,<br>
>>>><br>
>>>> This is happening during the registration on SCSCF.<br>
>>>><br>
>>>> Server:: kamailio (4.2.0-dev2 (x86_64/linux))<br>
>>>> Build:: mi_core.c compiled on 10:01:09 Mar 13 2014 with gcc 4.4.6<br>
>>>> Flags:: STATS: Off, USE_TCP, USE_TLS, TLS_HOOKS, USE_RAW_SOCKS,<br>
>>>> DISABLE_NAGLE, USE_MCAST, DNS_IP_HACK, SHM_MEM, SHM_MMAP, PKG_MALLOC,<br>
>>>> DBG_QM_MALLOC, USE_FUTEX, FAST_LOCK-ADAPTIVE_WAIT, USE_DNS_CACHE,<br>
>>>> USE_DNS_FAILOVER, USE_NAPTR, USE_DST_BLACKLIST, HAVE_RESOLV_RES<br>
>>>> GIT:: unknown<br>
>>>> Now:: Thu Mar 13 11:04:47 2014<br>
>>>> Up since:: Thu Mar 13 10:58:12 2014<br>
>>>> Up time:: 395 [sec]<br>
>>>><br>
>>>> (gdb) bt<br>
>>>> #0  0x00000031ba432925 in raise () from /lib64/libc.so.6<br>
>>>> #1  0x00000031ba434105 in abort () from /lib64/libc.so.6<br>
>>>> #2  0x0000000000546750 in ?? ()<br>
>>>> #3  0x000000000054853a in qm_free ()<br>
>>>> #4  0x00007fb4def5b7de in free_local_ack_unsafe (lack=0x7fb4d8b31728) at<br>
>>>> uac.c:600<br>
>>>> #5  0x00007fb4deef1a57 in free_cell (dead_cell=0x7fb4d8b31428) at<br>
>>>> h_table.c:217<br>
>>>> #6  0x00007fb4deef22ee in free_hash_table () at h_table.c:441<br>
>>>> #7  0x00007fb4def05fca in tm_shutdown () at t_funcs.c:122<br>
>>>> #8  0x00000000004f7c7a in destroy_modules ()<br>
>>>> #9  0x0000000000466e63 in cleanup ()<br>
>>>> #10 0x0000000000467f65 in ?? ()<br>
>>>> #11 0x0000000000469679 in handle_sigs ()<br>
>>>> #12 0x000000000046db19 in main_loop ()<br>
>>>> #13 0x000000000047030b in main ()<br>
>>>> (gdb) bt full<br>
>>>> #0  0x00000031ba432925 in raise () from /lib64/libc.so.6<br>
>>>> No symbol table info available.<br>
>>>> #1  0x00000031ba434105 in abort () from /lib64/libc.so.6<br>
>>>> No symbol table info available.<br>
>>>> #2  0x0000000000546750 in ?? ()<br>
>>>> No symbol table info available.<br>
>>>> #3  0x000000000054853a in qm_free ()<br>
>>>> No symbol table info available.<br>
>>>> #4  0x00007fb4def5b7de in free_local_ack_unsafe (lack=0x7fb4d8b31728) at<br>
>>>> uac.c:600<br>
>>>>         __FUNCTION__ = "free_local_ack_unsafe"<br>
>>>> #5  0x00007fb4deef1a57 in free_cell (dead_cell=0x7fb4d8b31428) at<br>
>>>> h_table.c:217<br>
>>>>         b = 0x0<br>
>>>>         i = 0<br>
>>>>         rpl = 0x0<br>
>>>>         tt = 0x0<br>
>>>>         foo = 0x2fd8a8b000<br>
>>>>         cbs = 0x0<br>
>>>>         cbs_tmp = 0x7fb4d8d9c9e0<br>
>>>>         __FUNCTION__ = "free_cell"<br>
>>>> #6  0x00007fb4deef22ee in free_hash_table () at h_table.c:441<br>
>>>>         p_cell = 0x7fb4d8b31428<br>
>>>>         tmp_cell = 0x7fb4d8b31428<br>
>>>>         i = 11517<br>
>>>>         __FUNCTION__ = "free_hash_table"<br>
>>>> #7  0x00007fb4def05fca in tm_shutdown () at t_funcs.c:122<br>
>>>>         __FUNCTION__ = "tm_shutdown"<br>
>>>> #8  0x00000000004f7c7a in destroy_modules ()<br>
>>>> No symbol table info available.<br>
>>>> #9  0x0000000000466e63 in cleanup ()<br>
>>>> No symbol table info available.<br>
>>>> #10 0x0000000000467f65 in ?? ()<br>
>>>> No symbol table info available.<br>
>>>> #11 0x0000000000469679 in handle_sigs ()<br>
>>>> No symbol table info available.<br>
>>>> #12 0x000000000046db19 in main_loop ()<br>
>>>> No symbol table info available.<br>
>>>> #13 0x000000000047030b in main ()<br>
>>>> No symbol table info available.<br>
>>>> (gdb)<br>
>>>><br>
>>>><br>
>>>><br>
>>>><br>
>>>><br>
>>>> --<br>
>>>> Daniel Ciprus<br>
>>>> Integration engineer<br>
>>>> <a moz-do-not-send="true" href="http://www.acision.com" target="_blank">http://www.acision.com</a><br>
>>>><br>
>>>> 9954 Mayland Dr<br>
>>>> Suite 3100<br>
>>>> Richmond, VA 23233<br>
>>>> USA<br>
>>>> T: <a moz-do-not-send="true" href="tel:%2B1%20804%20762%205601" value="+18047625601">
+1 804 762 5601</a><br>
>>>> E: <a moz-do-not-send="true" href="mailto:daniel.ciprus@acision.com">daniel.ciprus@acision.com</a><br>
>>>><br>
>>>> ________________________________<br>
>>>> This e-mail and any attachment is for authorised use by the intended<br>
>>>> recipient(s) only. It may contain proprietary material, confidential<br>
>>>> information and/or be subject to legal privilege. It should not be copied,<br>
>>>> disclosed to, retained or used by, any other party. If you are not an<br>
>>>> intended recipient then please promptly delete this e-mail and any<br>
>>>> attachment and all copies and inform the sender. Thank you for<br>
>>>> understanding.<br>
>>>><br>
>>>><br>
>>>> _______________________________________________<br>
>>>> sr-dev mailing list<br>
>>>> <a moz-do-not-send="true" href="mailto:sr-dev@lists.sip-router.org">sr-dev@lists.sip-router.org</a><br>
>>>> <a moz-do-not-send="true" href="http://lists.sip-router.org/cgi-bin/mailman/listinfo/sr-dev" target="_blank">
http://lists.sip-router.org/cgi-bin/mailman/listinfo/sr-dev</a><br>
>>>><br>
>>><br>
>>><br>
>>> --<br>
>>> Daniel Ciprus<br>
>>> Integration engineer<br>
>>> <a moz-do-not-send="true" href="http://www.acision.com" target="_blank">http://www.acision.com</a><br>
>>><br>
>>> 9954 Mayland Dr<br>
>>> Suite 3100<br>
>>> Richmond, VA 23233<br>
>>> USA<br>
>>> T: <a moz-do-not-send="true" href="tel:%2B1%20804%20762%205601" value="+18047625601">
+1 804 762 5601</a><br>
>>> E: <a moz-do-not-send="true" href="mailto:daniel.ciprus@acision.com">daniel.ciprus@acision.com</a><br>
>>><br>
>>> ________________________________<br>
>>> This e-mail and any attachment is for authorised use by the intended<br>
>>> recipient(s) only. It may contain proprietary material, confidential<br>
>>> information and/or be subject to legal privilege. It should not be copied,<br>
>>> disclosed to, retained or used by, any other party. If you are not an<br>
>>> intended recipient then please promptly delete this e-mail and any<br>
>>> attachment and all copies and inform the sender. Thank you for<br>
>>> understanding.<br>
>>><br>
>>><br>
>>> _______________________________________________<br>
>>> sr-dev mailing list<br>
>>> <a moz-do-not-send="true" href="mailto:sr-dev@lists.sip-router.org">sr-dev@lists.sip-router.org</a><br>
>>> <a moz-do-not-send="true" href="http://lists.sip-router.org/cgi-bin/mailman/listinfo/sr-dev" target="_blank">
http://lists.sip-router.org/cgi-bin/mailman/listinfo/sr-dev</a><br>
>>><br>
>><br>
>><br>
>> --<br>
>> Daniel Ciprus<br>
>> Integration engineer<br>
>> <a moz-do-not-send="true" href="http://www.acision.com" target="_blank">http://www.acision.com</a><br>
>><br>
>> 9954 Mayland Dr<br>
>> Suite 3100<br>
>> Richmond, VA 23233<br>
>> USA<br>
>> T: <a moz-do-not-send="true" href="tel:%2B1%20804%20762%205601" value="+18047625601">
+1 804 762 5601</a><br>
>> E: <a moz-do-not-send="true" href="mailto:daniel.ciprus@acision.com">daniel.ciprus@acision.com</a><br>
>><br>
>> ________________________________<br>
>> This e-mail and any attachment is for authorised use by the intended<br>
>> recipient(s) only. It may contain proprietary material, confidential<br>
>> information and/or be subject to legal privilege. It should not be copied,<br>
>> disclosed to, retained or used by, any other party. If you are not an<br>
>> intended recipient then please promptly delete this e-mail and any<br>
>> attachment and all copies and inform the sender. Thank you for<br>
>> understanding.<br>
>><br>
>><br>
>> _______________________________________________<br>
>> sr-dev mailing list<br>
>> <a moz-do-not-send="true" href="mailto:sr-dev@lists.sip-router.org">sr-dev@lists.sip-router.org</a><br>
>> <a moz-do-not-send="true" href="http://lists.sip-router.org/cgi-bin/mailman/listinfo/sr-dev" target="_blank">
http://lists.sip-router.org/cgi-bin/mailman/listinfo/sr-dev</a><br>
>><br>
><br>
><br>
><br>
> --<br>
> Carsten Bock<br>
> CEO (Geschäftsführer)<br>
><br>
> ng-voice GmbH<br>
> Schomburgstr. 80<br>
> D-22767 Hamburg / Germany<br>
><br>
> <a moz-do-not-send="true" href="http://www.ng-voice.com" target="_blank">http://www.ng-voice.com</a><br>
> mailto:<a moz-do-not-send="true" href="mailto:carsten@ng-voice.com">carsten@ng-voice.com</a><br>
><br>
> Office <a moz-do-not-send="true" href="tel:%2B49%2040%2034927219" value="+494034927219">
+49 40 34927219</a><br>
> Fax <a moz-do-not-send="true" href="tel:%2B49%2040%2034927220" value="+494034927220">
+49 40 34927220</a><br>
><br>
> Sitz der Gesellschaft: Hamburg<br>
> Registergericht: Amtsgericht Hamburg, HRB 120189<br>
> Geschäftsführer: Carsten Bock<br>
> Ust-ID: DE279344284<br>
><br>
> Hier finden Sie unsere handelsrechtlichen Pflichtangaben:<br>
> <a moz-do-not-send="true" href="http://www.ng-voice.com/imprint/" target="_blank">
http://www.ng-voice.com/imprint/</a><br>
<br>
<br>
<br>
--<br>
Carsten Bock<br>
CEO (Geschäftsführer)<br>
<br>
ng-voice GmbH<br>
Schomburgstr. 80<br>
D-22767 Hamburg / Germany<br>
<br>
<a moz-do-not-send="true" href="http://www.ng-voice.com" target="_blank">http://www.ng-voice.com</a><br>
mailto:<a moz-do-not-send="true" href="mailto:carsten@ng-voice.com">carsten@ng-voice.com</a><br>
<br>
Office <a moz-do-not-send="true" href="tel:%2B49%2040%2034927219" value="+494034927219">
+49 40 34927219</a><br>
Fax <a moz-do-not-send="true" href="tel:%2B49%2040%2034927220" value="+494034927220">
+49 40 34927220</a><br>
<br>
Sitz der Gesellschaft: Hamburg<br>
Registergericht: Amtsgericht Hamburg, HRB 120189<br>
Geschäftsführer: Carsten Bock<br>
Ust-ID: DE279344284<br>
<br>
Hier finden Sie unsere handelsrechtlichen Pflichtangaben:<br>
<a moz-do-not-send="true" href="http://www.ng-voice.com/imprint/" target="_blank">http://www.ng-voice.com/imprint/</a><br>
</div>
</div>
</blockquote>
</div>
<br>
</div>
<!--[if !IE]></DIV><![endif]--><!--[if !IE]></DIV><![endif]--></blockquote>
<br>
<div class="moz-signature">-- <br>
<b>Daniel Ciprus</b><br>
Integration engineer<br>
<a moz-do-not-send="true" href="http://www.acision.com">http://www.acision.com</a><br>
<br>
9954 Mayland Dr<br>
Suite 3100<br>
Richmond, VA 23233<br>
USA<br>
T: +1 804 762 5601<br>
E: <a moz-do-not-send="true" class="moz-txt-link-abbreviated" href="mailto:daniel.ciprus@acision.com">
daniel.ciprus@acision.com</a><br>
</div>
<br>
<hr>
<font color="Gray" face="Arial" size="1">This e-mail and any attachment is for authorised use by the intended recipient(s) only. It may contain proprietary material, confidential information and/or be subject to legal privilege. It should not be copied, disclosed
 to, retained or used by, any other party. If you are not an intended recipient then please promptly delete this e-mail and any attachment and all copies and inform the sender. Thank you for understanding.<br>
</font><br clear="all">
<br>
<fieldset class="mimeAttachmentHeader"></fieldset> <br>
<pre wrap="">_______________________________________________
sr-dev mailing list
<a moz-do-not-send="true" class="moz-txt-link-abbreviated" href="mailto:sr-dev@lists.sip-router.org">sr-dev@lists.sip-router.org</a>
<a moz-do-not-send="true" class="moz-txt-link-freetext" href="http://lists.sip-router.org/cgi-bin/mailman/listinfo/sr-dev">http://lists.sip-router.org/cgi-bin/mailman/listinfo/sr-dev</a>
</pre>
<!--[if !IE]></DIV><![endif]--></blockquote>
<br>
<br>
<pre class="moz-signature" cols="72">-- 
Hugh Waite
Principal Design Engineer
Crocodile RCS Ltd.</pre>
<!--[if !IE]></DIV><![endif]--></blockquote>
<br>
<div class="moz-signature">-- <br>
<b>Daniel Ciprus</b><br>
Integration engineer<br>
<a href="http://www.acision.com">http://www.acision.com</a><br>
<br>
9954 Mayland Dr<br>
Suite 3100<br>
Richmond, VA 23233<br>
USA<br>
T: +1 804 762 5601<br>
E: <a class="moz-txt-link-abbreviated" href="mailto:daniel.ciprus@acision.com">daniel.ciprus@acision.com</a><br>
</div>
<br>
<hr>
<font face="Arial" color="Gray" size="1">This e-mail and any attachment is for authorised use by the intended recipient(s) only. It may contain proprietary material, confidential information and/or be subject to legal privilege. It should not be copied, disclosed
 to, retained or used by, any other party. If you are not an intended recipient then please promptly delete this e-mail and any attachment and all copies and inform the sender. Thank you for understanding.<br>
</font>
<br clear=all> 
</body>
</html>