Deriva dall'ebraico כָּלֵב (Kalebh)[1][2], che vuol dire probabilmente "cane [latrante]"[1][3][5][6][7] o "simile a un cane" (da kelebh, "cane")[2], e in senso lato "fedele"[7] oppure "furioso come un cane"[8]. Data la natura non sempre positiva dei cani nella cultura ebraica del tempo, alcune fonti considerano il significato piuttosto strano, e sono state formulate diverse altre ipotesi sull'etimologia del nome[3]; alcune lo riconducono ad esempio ai termini ebraici כָּל (kal, "intero", "tutto") e לֵב (lev, "cuore")[1], mentre secondo altre "Caleb" sarebbe la forma ebraicizzata di un nome di origine non ebraica[3].
In inglese cominciò ad essere usato dopo la Riforma Protestante, divenendo comune fra i Puritani, che lo introdussero in America nel XVII secolo[1]. In italiano, invece, dove si registra anche l'adattamento "Calebo"[4], il nome gode di scarsissima diffusione[5].
Va notato che la forma ebraica כָּלֵב (Kalev) corrisponde anche alla variante estone del nome finlandeseKaleva.