Досліджуючи витоки релігії, об'єктом вивчення Фройд робить психологію первісної культури та релігії. Результатом цих досліджень стала книга "Тотем і табу" (1913). "Ядро книги складає гіпотеза про виникнення системи тотемістичних вірувань і ритуалів, яка відома як гіпотеза "первісного батьковбивства"" [5, с. 336]. У цій роботі 3. Фройд зробив спробу пристосувати "результати психоаналізу до невияснених проблем психології народів" [5, с. 16]. Для вирішення цього завдання він вивчав племена патріархального рівня розвитку. З'ясувалося, що в них існують своєрідні тотемічні символи, на які поширюється система заборон — табу.
У тотемізмі 3. Фройд вбачав ключ до реконструкції первісної культури і релігії. Тотемізм уособлював єдність роду і кровну відміну від інших родів. Це була перша спроба самосвідомості первісної людини, яка починає усвідомлювати свою належність до певної спільноти — роду. Віра в тотем заклала фундамент для формування людських почуттів (любові, патріотизму тощо). Тотем супроводжував людину протягом всього життя.
За 3. Фройдом, всі існуючі теорії не розкривали глибинних джерел тотемізму. Вони пов'язували виникнення цього явища з вірою в духів, зі страхом перед демонами, тобто ототожнювали тотемізм з анімізмом. "Ні страх, ні демони не можуть у психології мати значення останніх причин, які не піддаються подальшому подрібненню. Було б інакше, якби демони дійсно існували, але ж ми знаємо, що вони самі, як і боги, є творінням душевних сил людини, вони створені від чогось та з чогось" [5, с. 45]. Отже, перед психологом постає питання з'ясування психологічної сутності тотемізму і пов'язаної з ним системи табу, відповідь на яке він шукає у психоаналізі. "Вивчення сутності тотемізму, на думку Фройда, повинно бути як історичним, так і психологічним" [5, с. 95].
Фундаментом для психологічної моделі 3. Фройда є ідея подібності душевного життя окремого індивіда, детально досліджена у психоаналізі, з психологічним життям того чи іншого народу. На цьому психологічному тлі індивідуального та загального психолог виокремлює три лінії аналогій: первісної людини та дитини, дитини та невротика, невротика та первісної людини. На це дослідження вчений спирався при вивченні релігії первісних народів. В основі уподібнень був трансформований у психоаналітичному аспекті основний біогенетичний закон Е. Геккеля, згідно з яким кожна органічна форма в індивідуальному розвитку (онтогенез) скорочено повторювала основні фази еволюції виду (філогенез).
У реконструкції модифікацій тотемізму 3. Фройд вбачав витоки релігійної свідомості, що демонструє тотемістична трапеза. Багатьом архаїчним народам притаманне амбівалентне ставлення до тотему. З одного боку, його обожнювали, шанували, поклонялись йому, з іншого — приносили в жертву, при чому вимагалось здійснення кількох ритуалів — уподібнення тотему, наслідування його звуків та рухів, прийняття участі всіх, обов'язкове оплакування вбитого. Однак після цієї скорботи наступало радісне свято, що було обов'язковим ексцесом, урочистим порушенням заборони. Святковий настрій — результат залучення членів клану до священного життя, носієм якого була субстанція тотема. Розгортання дій у такий спосіб зумовлене "спрацюванням" фройдівського Едіпового комплексу. "Одного чудового дня брати-вигнанці з'єдналися, вбили і з'їли батька та поклали таким чином кінець батьківській орді. Вони насмілилися спільно зробити те, що було неможливо зробити кожному окремо. Мабуть, культурний прогрес, вміння володіти новою зброєю, дали їм почуття переваги. Те, що вони, крім того, з'їли вбитого, цілком природно для канібалів-дикунів.
Жорстокий прабатько був, безсумнівно, прикладом, якому заздрив і якого боявся кожний із братів. У акті поїдання вони здійснюють ототожнення з ним, кожний з них засвоїв собі частину його сили. Тотемістична трапеза, можливо, перше святкування людства, була повторенням і спогадом цього прекрасного злочинного діяння, від якого взяло багато чого свій початок: соціальні організації, моральні обмеження, релігія" [5, с. 164].
Психолог стверджує, що брати знаходились у стані суперечливих почуттів до батька, "амбівалентного батьківського комплексу", який властивий кожній дитині й невротику. З одного боку, ненависть (адже батько стояв на шляху їх прагнень до влади та сексуальних бажань), з іншого — любов, оскільки вони захоплювалися батьківською силою і могутністю, призвели братів до відчуття покаяння, до усвідомлення вини. Брати осудили себе за заподіяне забороною смерті тотема, якого символізував батько, і відмовили у зв'язках з жінками клану, яких раніше добивались.
3. Фройд відшукує два джерела вини — страх перед авторитетом і пізніший страх перед Над-Я. Брати потрапляють у психічний стан пізнього послуху. Із свідомості вини сина створюють своєрідний канон тотемізму — оберігати й задобрювати тварину-тотем, у чому 3. Фройд вбачає витоки релігії. "Тотемічна релігія походить від усвідомлення вини синів — як спроба заспокоїти це почуття та задобрити ображеного батька "пізнім послухом"" [5, с. 167].
У тотемістичній трапезі немовби відтворюється вбивство батька, але вже у вигляді жертвоприношення тварини-тотема. Поступово починають стверджуватися соціальні почуття братства, що виявляються у спільності крові, у солідарності співжиття усіх членів клану.
3. Фройд виокремлює низку взаємовідношень між богом і священною твариною: за кожним богом закріплена яка-небудь тварина; у жертвоприношеннях віддавали присвячену Богу тварину, бога часто пошановували в образі тварини, в міфах він перетворюється на тварину. Ідея бога є результатом розвитку релігійної чуттєвості; вона розвинулась із уявлень про тварину-тотем. Тобто тотем "є першою формою заміни батька, а бог — пізнішою, в якій батько знову набуває свого людського образу" [5, с.169]. Упродовж багатьох років негативні почуття, що спонукали синів до злочину — вбивства батька, поступово затухали. Натомість посилюється туга за ним і позитивний потенціал амбівалентності перемагає — батьківський ідеал оживає в образі богів. Подальший розвиток релігії ніколи не виключає її рушійних сил: усвідомлення вини сина та синівський спротив. У цьому процесі тотемістична трапеза з жертвоприношеннями тварин трансформується в боголюдське жертвоприношення і християнську євхаристію. Мислитель доходить висновку, що сучасна людина не звільнилась від давнього злочину, а до сьогодні несе за нього відповідальність і відчуває комплекс вини.
Первісне значення жертвоприношення — акт соціальних відносин між божеством і його прихильниками, своєрідне поєднання віруючих з їх богом. Спільна їжа і життя виконували роль об'єднуючого начала, виражали належність до одного племені, закріплювали родинність. Отже, тотемізм не лише релігійна, а й соціальна система. Тому й виникнення релігії є як психологічним, так і соціальним актом. Усупереч своїм психологічним установкам 3. Фройд був змушений визнати роль соціального чинника у виникненні релігії. Адже тотемізм регулював відносини не лише між членами одного тотема, а й розробляв правила поведінки для представників інших племен. Умертвіння жертви, як стверджував 3. Фройд, заборонялось кожному окремо і виправдовувалось лише тоді, коли за це дійство все плем'я брало на себе відповідальність. Тільки у такий спосіб встановлювався священний зв'язок, що об'єднував членів общини з їх богом. Підґрунтя такого зв'язку — життя жертовної тварини, що через м'ясо і кров передається всім учасникам цього дійства.
На думку 3. Фройда, всі релігії, які згодом виникали, — це "реакція на велику подію, з якої починалась культура і яка з тих пір не дає спокою людству" [5, с. 167]. Усі наступні релігії є своєрідною модифікацією амбівалентного ставлення до тотема. Отже, релігія ґрунтується на усвідомленні вини і покаяння. Подальший розвиток релігії є спогадом про перше велике криваве діяння. Тому в релігії завжди існуватимуть два чинники: усвідомлення вини сином і синівський непослух. У розвинутих релігіях, як стверджує 3. Фройд, "релігія сина змінює релігію батька" [5, с. 176], тобто людство поступово звільнюється від невротичних комплексів, що пов'язані з первісним гріхом батьковбивства.
У процесі дослідження тотемізму Фройд важливого значення надає табу, що трактується, по-перше, як святе, священне, а по-друге, небезпечне, нечисте, заборонене. В. Вундт у "Психології народів" називає табу неписаним законодавчим кодексом людства. Заборони за дотримання табу полягають в двох основних законах тотемізму: не вбивати тварину-тотема і уникати статевого спілкування з товаришем по тотему.
Табу — найдревніші заборони, які передаються від покоління до покоління як успадковане психічне багатство. Підґрунтям табу є заборонена дія, яку несвідоме сильно прагне порушити. Сила табу спокушає, але почуття страху сильніше, аніж прагнення до насолоди. Заборона індивідом усвідомлюється, прагнення до насолоди — несвідоме. Заборонна дія табу — результат амбівалентності почуттів. У душевних порухах архаїчних народів амбівалентність виражена більше, аніж у сучасної людини. Зменшення амбівалентності призводить до поступового зникнення табу, що виступає своєрідним компромісом амбівалентного конфлікту. Про те, наскільки сильна система заборон, свідчить випадок, описаний 3. Фройдом у праці "Тотем і табу". Суть історії у тому, що одного разу вождь забув на шляху залишки обіду. їх з'їв раб — голодний юнак. Коли йому сказали, що він зазіхнув на обід вождя, мужній і могутній раб-воїн впав і наступного дня помер.
Види та форми табу бувають найрізноманітнішими. Численні табу первісної людини, за 3. Фройдом, подібні до симптомів неврозу нав'язливості. їм притаманні невмотивованість, примусовість, властивість до зсуву, ритуалізм. Однак між ними є різниця: табу — результат розвитку культури, що ґрунтується на соціальних потягах, які синтезують егоїстичні та еротичні мотиви, а характерною ознакою неврозу є домінування сексуальних потягів над соціальними.