Selon les Actes des Apôtres, Jacques le Mineur fut le chef de file de l'Église judéo-chrétienne de Jérusalem (Galates, i, 19), lorsqu'en 44 Pierre fut contraint de quitter cette ville.
On sait aussi qu'il joua un rôle de premier plan au fameux concile de Jérusalem (Actes, xv).

Evangile selon St Matthieu (10) :
1 Et ayant appelé ses douze disciples, il leur donna autorité sur les esprits immondes pour les chasser, et pour guérir toute maladie et toute langueur.
2 Or ce sont ici les noms des douze apôtres : le premier, Simon appelé Pierre, et André son frère ; Jacques le [fils] de Zébédée, et Jean son frère ;
3 Philippe et Barthélemy ; Thomas et Matthieu le publicain ; Jacques le [fils] d’Alphée, et Lebbée surnommé Thaddée ;
4 Simon le Cananéen, et Judas l’Iscariote, qui aussi le livra.

L'épisode le plus connu des évangiles dans lequel apparait Jacques le mineur est celui de Jésus au mont des Oliviers :

Evangile selon Saint Marc (12)
33 Et il prend avec lui Pierre et Jacques et Jean ; et il commença à être saisi d’effroi et fort angoissé.
34 Et il leur dit : Mon âme est saisie de tristesse* jusqu’à la mort ; demeurez ici et veillez.
35 Et s’en allant un peu plus avant, il se jeta contre terre, et il priait que, s’il était possible, l’heure passât loin de lui.
36 Et il disait : Abba, Père, toutes choses te sont possibles ; fais passer cette coupe loin de moi ; toutefois non pas ce que je veux, moi, mais ce que tu veux, toi !
37 Et il vient, et les trouve dormant ; et il dit à Pierre : Simon, tu dors ? Tu n’as pu veiller une heure ?