Amigo íntimo de Federico García Lorca desde que la familia se mudara a Granada procedente de Valderrubio en 1909, miembro de la tertulia de El Rinconcillo que se reunía a principios de siglo en el Café Alameda de Granada y a la que pertenecían, además de los hermanos García Lorca, el político Manuel Fernández-Montesinos, Manuel de Falla, Melchor Fernández Almagro, Antonio Gallego Burín, Ángel Barrios, Manuel Ángeles Ortiz, José Mora Guarnido, Constantino Ruiz Carnero, Fernando de los Ríos, Hermenegildo Lanz, Francisco Soriano Lapresa, entre otros intelectuales y artistas del momento. En 1955 vivía con su hermano Francisco, pianista, en el Carmen de la Muralla del Albaicín, donde ambos fueron entrevistados por el investigador Agustín Penón para su libro sobre García Lorca.
García Carrillo declaraba abiertamente su homosexualidad y, aunque la correspondencia con Federico García Lorca se ha perdido, presumía de ser el confidente en cuestiones relacionadas con su vida sentimental y su carácter.
Antes vivía en la Acera del Darro, en una casa noble con un patio y jardín interior con su fuente y sus columnas de piedra, vecina de la casa donde se instaló la familia Lorca al llegar de Asquerosa, actual Valderrubio. Tuvo tres hermanos: María, Francisco y Fernando. Francisco sería un aceptable pianista. Según José María, fue Federico el que descubrió el talento musical de su hermano cuando era pequeño. Francisco, más extravagante que su hermano, culpaba a García Lorca de su miopía: “Quiso llevarme al Centro Artístico para que sus amigos me escucharan […]. Allí había muy poca luz, y yo claro, a fuerza de forzar los ojos para ver las notas, me quedé miope”.
José María García Carrillo fue aparejador y aficionado al arte. Quiso dedicarse a la pintura, pero su familia lo desanimó. Acabó trabajando como delineante, en el estudio de un arquitecto y más tarde como perito aparejador para la Diputación de Granada. Declaraba abiertamente su homosexualidad y, aunque la correspondencia con Federico García Lorca se ha perdido, presumía de ser el confidente en cuestiones relacionadas con su vida sentimental y su carácter.
Sobre su amigo Federico resaltaba “el esplendor de su palabra”, porque “Federico creaba más y mejor aun cuando hablaba que cuando escribía”.
Durante los años de la República pasó unos años en Tánger, trabajando en el negocio de unos tíos, pero volvió enseguida a Granada.
En 1954 relató a Penón numerosas anécdotas sobre su amigo Federico en las que resaltaba “el esplendor de su palabra”, porque “Federico creaba más y mejor aun cuando hablaba que cuando escribía”.
En el verano de 1936, unos días antes de la detención de Federico, vio cómo unos hombres de Falange entraban en su antigua casa en la Acera del Darro buscando posiblemente el domicilio del poeta. García Carrillo lo telefoneó para avisarle, y, aunque no pudo darle muchos datos porque su teléfono estaba vigilado, el poeta entendió perfectamente lo que pasaba.