خوارزمية
الخوارزمية هي مجموعة من الخطوات الرياضية والمنطقية والمتسلسلة اللازمة لحل مشكلة ما. وسميت الخوارزمية بهذا الاسم نسبة إلى العالم أبو جعفر محمد بن موسى الخوارزمي الذي ابتكرها في القرن التاسع الميلادي. الكلمة المنتشرة في اللغات اللاتينية والأوروبية هي «algorithme» وفي الأصل كان معناها يقتصر على خوارزمية لتراكيب ثلاثة فقط وهي: التسلسل والاختيار والتكرار.و قد أثُبت أنه لاحاجة إلى تراكيب إضافية. استخدام هذه التراكيب الثلاث يسهل فهم الخوارزمية واكتشاف الأخطاء الواردة فيها وتغييرها.
خوارزمية متوازية
الخوارزمية المتوازية في عالم الحاسب الآلي نوع من الخوارزميات التي يمكن فيها تنفيذ أكثر من قطعة في وقت واحد أو تنفيذ قطعة منها على أكثر من وحدة معالجة على أن يتم في نهاية الحصول على النتيجة الصحيحة. وتقابل الخوارزمية المتوازية الخوارزمية التقليدية المتسلسلة حيث يتم تنفيذ التعليمات تباعا.