Su padre fue violinista en una banda de mariachi. De joven, Carlos aprendió a tocar el violín, pero lo cambió por la guitarra cuando tenía ocho años. En 1955 su familia se mudó a Tijuana. Carlos, a los ocho años se dedicó a la guitarra, estudió y emuló los sonidos de B.B. King, T-Bone Walker y John Lee Hooker. Mientras tanto tocaba con conjuntos locales como Los T.J.'s, donde añadió su propio toque y sentido original a las canciones populares de rock 'n roll de la década del cincuenta. Al seguir tocando con diferentes conjuntos a lo largo del recorrido "Tijuana Strip," comenzó a perfeccionar su estilo y sonido.
Al principio se quedó en Tijuana para mejorar su pericia musical en los clubes locales, cuando su familia se mudó de nuevo, esta vez a San Francisco, California en el años de 1960, pero pronto la siguió, se encontró matriculado en la escuela, aprendiendo inglés, y queriendo tocar música. Al mismo tiempo, Carlos fue sumergido en el ambiente pintoresco de San Francisco, con sus diversas influencias culturales y estilos musicales.
En 1973, Carlos Santana se une sentimentalmente a Deborah King, y es padre de tres hijos.