جک نیکلسون در ۲۲ آوریل ۱۹۳۷ در شهر نیویورک به‌دنیا آمد. مادرش جون فرنسس نیکلسون (جون نیکلسون) یک رقاص کاباره بود. شش ماه قبل از به‌دنیا آمدن جک، مادرش با مردی از همکاران خود به نام دونالد فورچیلو، که اصالتاً ایتالیایی بود، ازدواج کرده‌بود. مادر جون اصرار شدیدی داشت که دخترش به کار رقصندگی‌اش ادامه دهد و داشتن فرزند، وی را مجبور به کناره‌گیری از شغلش نکند؛ بنابراین، نگهداری جک را عهده‌دار شد. در مورد این‌که دونالد فورچیلو واقعاً پدر اصلی جک است یا نه، اختلاف نظر وجود دارد. خود دونالد این گفته را انکار می‌کند. جک نیکلسون نیز تابه‌حال حاضر به انجام آزمایش دی ان ای برای مشخص شدن هویتش نشده‌است. نیکلسون در گفتگو با مجلهٔ تایم گفته‌است، سرپرستان واقعی او در واقع مادربزرگ و پدربزرگش بودند، و مادر خود را به‌عنوان خواهرش خوانده‌است. او از طرفداران پروپاقرص تیم معروفِ بسکتبالِ لس آنجلس لیکرز است.