En la versión de Joomla 1.5 se usa para enviar el correo electrónico el script phpmailer 2.0.4 del 2009, esta versión en concreto no funciona el envió de correo si se selecciona en la Configuración global, TLS en SMTP Security. Y por otra, los grandes ISP (google, outlook, etc.. ) obligan a usar encriptación para enviar emails autenticados, con lo cual nos aparece en la pantalla del navegador el mensaje de Joomla.

¡Error SMTP! No puedo conectar al hospedaje SMTP.

Tanto desde el frontend como desde el backend

La solución consiste en activar la seguridad SSL y poner el puerto 465

Realmente el problema es de la forma que usa phpmailer la conexión del socket.

fsockopen("ssl://smtp.gmail.com", 465, $errNum, $errStr, 30); // Correcto
 
fsockopen("tls://smtp.gmail.com", 587, $errNum, $errStr, 30); // Error SSL3_GET_RECORD

Mirar este ejemplo mas descriptivo de la correcta implementación TLS.