Joe & Mac: Caveman Ninja — давным-давно где-то в Африке жили 2 первобытных племени. Однажды ночью люди одного из племён украли всех женщин у другого племени. Теперь первобытным людям Джо и Маку нужно пробраться к соседям и вернуть украденных женщин в своё племя. Различные версии игры сходны между собой по графическому оформлению (хотя графика в версии для карманной консоли Game Boy несколько иная) и геймплею, но различаются звуковым рядом.
Главные герои игры — древние люди (возможно, кроманьонцы) Джо и Мак. Им предстоит пройти несколько уровней, добраться до вождя вражеского племени и победить его. Уровни в игре представляют собой локации с боковым сайд-скролингом и двухмерной графикой (джунгли, река, вулкан, пещера), на которых находится множество врагов и препятствий. Некоторые из уровней поделены на две части, разделённые между собой развилками. Игрок может выбирать, по какому из двух путей следовать дальше.