„Jakobus, Sohn des Alphäus“, erscheint in allen Apostellisten (Mt 10,3; Mk 3,18; Lk 6,15; Apg 1,13) und wird zur Unterscheidung vom Zebedäussohn Jakobus dem Älteren „der Jüngere“ genannt. Traditionell wird er mit Jakobus „dem Kleinen“ gleichgesetzt, dem Sohn der „Maria, Frau des Klopas“, die mit ihrer Schwester Maria, der Mutter Jesu, unter dem Kreuz stand (Joh 19,25). Dieser Cousin Jesu wird nach semitischem Brauch als dessen „Bruder“ (Mt 13,55; Mk 6,3) und näherhin als „Herrenbruder“ bezeichnet (Gal 1,19).
Für die Apostelgeschichte und den heiligen Paulus ist Jakobus die Führungspersönlichkeit der Jerusalemer Urgemeinde, eine „Säule“ der Kirche, welcher der Auferstandene eigens erschienen ist (Gal 2,9; 1 Kor 15,7). Beim Apostelkonzil fasst er mit Petrus den Entschluss, von den Heidenchristen nicht die Befolgung der jüdischen Vorschriften zu verlangen (vgl. Apg 15,19f.), obwohl er sich als Anführer der judenchristlichen Partei ursprünglich dafür eingesetzt hatte, womit er dem christlichen Glauben den Weg zur Weltreligion ebnete.
Jakobus wurde mit dem Beinamen „der Gerechte“ bedacht und als erster Bischof von Jerusalem gezählt, berichten frühchristliche Schriftsteller wie Hegesipp († nach 180) und Clemens von Alexandrien († um 215). Seine herausragende Rolle in der Jerusalemer Urgemeinde wurde ihm zum Verhängnis: Nach Josephus Flavius († um 100) nutzte Ananus ben Ananus während seiner dreimonatigen Amtszeit als Hohepriester eine Amtsvakanz zwischen zwei römischen Statthaltern im Jahr 62, um die Steinigung des Jakobus zu verfügen. Jakobus wurde von den Zinnen des Tempels gestürzt und mit der Stange eines Tuchwalkers totgeprügelt.
Völlig umstritten ist seine Autorschaft des Jakobusbriefs, zumal der Verfasser sich darin selber nicht als „Herrenbruder“, sondern als „Knecht Gottes und Jesu Christi, des Herrn“ bezeichnet (Jak 1,1).