Né à Thunder Bay, en Ontario, de parents immigrants russes, il a grandi dans une ferme en Saskatchewan et a fréquenté l'Université McGill, où il a obtenu un baccalauréat en chimie et un doctorat en chimie physique.
Au cours de sa vie, M. Pall a obtenu plus de 180 brevets et, en 1990, il a reçu la National Medal of Technology des États-Unis du président George H.W. Bush.