Patřil se svým bratrem Janem (Evangelistou), k prvním a nejbližším učedníkům Ježíše. Byl synem galilejského rybáře Zebedea a jeho manželky Salome, jejíž tetou byla Panna Maria. Se svým bratrem Janem byli Ježíšem povoláni do apoštolského sboru. S ním byli se syny M. Kleofášové natolik v blízkém příbuzenském vztahu, že po tehdejším zvyku v rodném kraji byli zváni Ježíšovými bratry.
Jakub nakonec jako první z apoštolů podstoupil mučednickou smrt. V souvislosti s jeho popravou se také mluví o farizeovi Josiáši, který mu prý při zatýkání za pomoci uplacené lůzy hodil kolem krku provaz. Cestou na popraviště šel průvod kolem domu, kde seděl muž nemocný dnou, nebyl schopen chůze a prosil Jakuba o pomoc. K smrti odsouzený nemocnému řekl: „Ve jménu mého Pána Ježíše Krista, vstaň zdráv a chval svého Spasitele.“ Muž se zvedl a mohl zase chodit. Josiáš se pod vlivem tohoto zázraku obrátil. Na popravišti prosil Josiáš za odpuštění a vyznal víru v Krista. Dostal od Jakuba políbení pokoje a byl pak spolu s Jakubem sťat, v roce 43/44. Jakubovo tělo bylo shozeno z jeruzalémských hradeb (v jiné verzi z chrámu). Právě na památku jeho mučednické smrti byl později v lidovém prostředí zaveden zvyk shazování kozla.