ความเร็วของการดำเนินการกับจำนวนจุดลอยตัว เป็นการวัดประสิทธิภาพของคอมพิวเตอร์อย่างหนึ่งที่สำคัญในขอบเขตข่ายโปรแกรมประยุกต์ ซึ่งมีหน่วยวัดเป็นอะไร?
จำนวนจุดลอยตัว
ความเร็วของการดำเนินการกับจำนวนจุดลอยตัว เป็นการวัดประสิทธิภาพของคอมพิวเตอร์อย่างหนึ่งที่สำคัญในขอบเขตข่ายโปรแกรมประยุกต์ ซึ่งมีหน่วยวัดเป็นฟล็อปส์ (FLOPS - floating-point operations per second การประมวลผลจุดลอยตัวต่อวินาที)
การวัดเปรียบเทียบสมรรถนะของคอมพิวเตอร์
สำหรับอุตสาหกรรม PC กลุ่มทดสอบและวิจารณ์ระบบ ส่วนใหญ่จะให้การยอมรับโปรแกรมสำหรับทดสอบ Benchmark ที่พัฒนาโดยกลุ่มบริษัทที่เชี่ยวชาญการทดสอบ Benchmark สำหรับ PC ซึ่งได้แก่ โปรแกรมตระกูล winbench winstone จาก ziff davis โปรแกรม Sysmark จากค่าย BAPCO และ 3D mark จาก madonion นอกจากนี้ยังมีโปรแกรมทดสอบต่างๆ อีกหลายตัวที่ใช้กับในกลุ่มนักทดสอบอิสระ และโปรแกรมต่างๆ ที่กล่าวถึงมีการทำงานอย่างไร
เมกะ
ในสาขาวิชาคอมพิวเตอร์ คำว่า "เมกะ" เมื่อใช้กับหน่วยความจำ จะมีค่าเท่ากับ 1,048,576 (หรือ 2) เช่น หนึ่งเมกะไบต์ = 1,048,576 ไบต์ แต่เมื่อใช้กับหน่วยปริมาณอื่นแล้ว เมกะจะมีค่าเท่ากับ 1,000,000 (หรือ 10) เช่น อัตราการส่งข้อมูล 1 เมกะบิตต่อวินาที (Mbit/s หรือ Mbps) = 1,000,000 บิตต่อวินาที
ขั้นตอนวิธีโรห์ของพอลลาร์ด
การเพิ่มประสิทธิภาพในครั้งต่อมาถูกกระทำโดย พอลลาร์ด และเบรนท์ ทั้ง 2 ได้พบว่า ถ้า formula_7 แล้ว formula_8 สำหรับทุกๆจำนวนเต็มบวก "b" ใดๆ กล่าวโดยละเอียดคือ แทนที่จะคำนวณหา formula_9 ทุกๆขั้น, จะทำการกำหนดค่า "z" เป็นผลคูณของ พจน์ formula_5 จำนวน 100 พจน์ที่ติดกัน มอดุโล "n" และคำนวณหา formula_11 เพียงหนึ่งครั้ง โดยความเร็วที่เพิ่มขึ้นนั้นได้จากการเปลี่ยน การหา ห.ร.ม. จำนวน 100 ครั้ง เป็นการ คูณ มอดุโล "n" จำนวน 99 ครั้ง และ การหา ห.ร.ม 1 ครั้ง
แต่ในบางครั้ง วิธีนี้อาจจะทำให้ขั้นตอนวิธีเกิดข้อผิดพลาดโดยการใช้ตัวประกอบที่ซ้ำกัน ตัวอย่างเช่น เมื่อ "n" เป็นจำนวนเต็มกำลัง 2 แต่ก็สามารถจะแก้ไข้ได้โดยย้อนกลับไปที่จุดที่ formula_12 แล้วใช้ ขั้นตอนวิธีโรห์ แบบปกติจากจุดนั้น
จำนวนจุดลอยตัว
แบบวิธีทางเลือกต่าง ๆ มีประโยชน์เมื่อจำนวนของค่าคลาดเคลื่อนต้องถูกจำกัดขอบเขต การประยุกต์ที่จำเป็นต้องใช้ค่าคลาดเคลื่อนที่จำกัดขอบเขต คือจำนวนจุดลอยตัวหลายความเที่ยง และเลขคณิตอันตรภาค (interval aritmetics)
การวัดเปรียบเทียบสมรรถนะของคอมพิวเตอร์
ค่าประสิทธิภาพของระบบคอมพิวเตอร์ต้องมาจากสองส่วนคือ ประสิทธิภาพของตัวประมวลผลและค่าประสิทธิภาพของระบบโดยรวม โดยเครื่องมือ Benchmark ที่ใช้สำหรับทดสอบระบบ คอมพิวเตอร์ส่วนบุคคลในปัจจุบัน นั้นเป็นส่วนหนึ่งของเครื่องมือช่วยในการวิเคราะห์ความสามารถของระบบโดยดรรชนีต่างๆ ที่วัดได้ เป็นผลสะท้อนที่ได้รับจากการตอบสนองของระบบโดยตรง อย่างไรก็ตามผลที่ได้จากการทดสอบ อาจไม่สามารถอธิบายสิ่งต่างๆที่เกิดขึ้นกับระบบได้ชัดเจน ต้องอาศัยการวิเคราะห์การศึกษาข้อมูลของระบบที่ทดสอบอย่างละเอียด การทดสอบ Benchmark เป็นสิ่งที่ละเอียดอ่อน มีปัจจัยร่วมในการเปลี่ยนแปลง และสภาพแวดล้อมของตัวแปรที่มีผลต่อการทดสอบ ดังนั้น ความเข้าใจในพฤติกรรม ของโปรแกรม Benchmark ความเข้าใจระบบพื้นฐานทางฮาร์ดแวร์ที่ทำการทดสอบ และการศึกษาหาความรู้ทางด้าน Benchmark จึงเป็นสิ่งจำเป็นและสำคัญเพื่อช่วยในการวิเคราะห์และพิจารณาผลที่ได้จากการทดสอบ และจะเกิดประโยชน์สูงสุดต่อการนำไปใช้งาน
โครงการประชาร่วมใจ ประหยัดไฟฟ้า
ค่าประสิทธิภาพของเครื่องปรับอากาศ คำนวณโดย อัตราการทำความเย็น หาร กำลังไฟฟ้าที่ใช้ เช่น เครื่องปรับอากาศขนาด 11,600 บีทียู เครื่องหนึ่ง ใช้กำลังไฟฟ้า 1,000 วัตต์ จะมีค่าประสิทธิภาพเท่ากับ 11,600 / 1,000 = 11.6 เป็นต้น
จำนวนจุดลอยตัว
ค่าคลาดเคลื่อนในเลขคณิตจุดลอยตัวอาจยิ่งสะสมมากขึ้น เมื่อขั้นตอนวิธีของการดำเนินการทางคณิตศาสตร์ถูกกระทำหลายครั้งมาก ตัวอย่างบางส่วนเช่น การหาตัวผกผันของเมทริกซ์ การคำนวณเวกเตอร์ลักษณะเฉพาะ และการแก้สมการเชิงอนุพันธ์ ขั้นตอนวิธีเหล่านี้จะต้องถูกออกแบบอย่างระมัดระวังมากเพื่อให้ทำงานได้ดี
อัตราเร็ว
หน่วยของอัตราเร็ว ได้แก่
เฮลิคอปเตอร์
ขณะที่เฮลิคอปเตอร์เคลื่อนที่จากการบินลอยตัวไปสู่การบินไปข้างหน้ามันจะเข้าสู่สถานะที่เรียกว่าการยกตัวแบบเลื่อนตำแหน่ง (translational lift) ซึ่งทำให้เกิดการยกตัวเองให้ลอยขึ้นเป็นกรณีพิเศษโดยไม่ต้องเพิ่มกำลังเครื่องยนต์ ที่สถานะนี้, ส่วนใหญ่เกิดขึ้นเมื่อความเร็วของเครื่องบินมาถึงประมาณ 16-24 นอต (หน่วยความเร็วหนึ่งไมล์ทะเล หรือ 6080 ฟุตต่อชั่วโมง), และอาจจำเป็นสำหรับเฮลิคอปเตอร์เพื่อให้ประสบผลสำเร็จในการบิน
รอบต่อนาที
รอบต่อนาที () นิยมใช้เป็นหน่วยวัดอัตราการหมุนของเครื่องยนต์และมอเตอร์ 
โดยเขียนระบุหน่วยเป็น rpm, RPM, r/min หรือ min
จำนวนจุดลอยตัว
การใช้งานการปัดเศษเพิ่มเติมคือ การปัดเศษจำนวนให้มีจำนวนหลักที่ต้องการในฐานสิบ (หรือฐานสอง) เช่นในการปัดเศษผลลัพธ์สกุลเงิน (จุดทศนิยมสองหลัก)
แรม
เครื่องคอมพิวเตอร์ใช้แรมในการเก็บโปรแกรมและข้อมูลระหว่างการประมวลผล คุณสมบัติที่สำคัญประการหนึ่งของแรมคือความเร็วที่ใช้เข้าหนึ่งตำแหน่งต่าง ๆ ในหน่วยความจำมีค่าเท่า ๆ กัน ซึ่งต่างจากเทคโนโลยีอื่นบางอย่างซึ่งต้องใช้เวลารอกว่าที่บิตหรือไบต์จะมาถึง
อัตราเร็ว
ในรูปสัญลักษณ์ทางคณิตศาสตร์
ตัวรับรู้
ความละเอียดของตัวรับรู้คือการเปลี่ยนแปลงที่เล็กที่สุดที่มันจะสามารถตรวจพบได้ในปริมาณที่มันกำลังวัด เช่นในจอแสดงผลแบบดิจิทัล ดิจิตหลักที่สำคัญน้อยที่สุดจะกระพริบ เป็นการแสดงให้เห็นว่าการเปลี่ยนแปลงของขนาดนั้นเท่านั้นที่จะถูกปรับละเอียด ความละเอียดจะเกี่ยวข้องกับความแม่นยำที่จะทำการวัด ตัวอย่างเช่นหัววัดอุโมงค์การสแกน(ปลายแหลมใกล้พื้นผิวใช้รวบรวมกระแสอุโมงค์อิเล็กตรอน) สามารถสร้างความละเอียดในการวัดอะตอมและโมเลกุล
การวัดเปรียบเทียบสมรรถนะของคอมพิวเตอร์
โปรแกรมทดสอบ PC Mark เป็นโปรแกรมที่มุ่งเน้นการทดสอบประสิทธิภาพเชิงของระบบในรายละเอียดการทำงานในส่วนต่างๆของระบบ เช่น การทดสอบ CPU mark การทดสอบ FPU mark การทดสอบระบบแสดงผล ซึ่งค่าที่ได้จะเป็นดรรชนีที่สะท้อนถึงประสิทธิภาพของชิ้นส่วนที่นำมาประกอบเป็นเครื่องคอมพิวเตอร์เช่นเดียวกันกับ winbench
ตัวสะสม
การดำเนินการทางคณิตศาสตร์หลายอย่างมักจะต้องทำเป็นขั้นเป็นตอน โดยใช้ผลลัพธ์จากการดำเนินการหนึ่งป้อนเข้าการดำเนินการถัดไป ยกตัวอย่าง การคำนวณค่าตอบแทนรายสัปดาห์ของพนักงานด้วยมืออาจทำได้ดังนี้โปรแกรมคอมพิวเตอร์ที่ปฏิบัติงานเดียวกันนี้ก็จะต้องทำตามลำดับของการดำเนินการพื้นฐานเหมือนกัน แม้ว่าค่าต่าง ๆ ที่ต้องการเรียกดูเก็บอยู่ในหน่วยความจำคอมพิวเตอร์ทั้งหมดแล้ว ในคอมพิวเตอร์ยุคแรก ๆ จำนวนชั่วโมงที่ทำงานมักจะเก็บอยู่ในบัตรเจาะรู และอัตราการค่าตอบแทนจะอยู่ในรูปแบบหน่วยความจำอื่นเช่นดรัมแม่เหล็ก เมื่อการคูณกระทำเสร็จสิ้นก็จำเป็นต้องเก็บผลลัพธ์ที่ใดที่หนึ่ง สำหรับเครื่องชนิดดรัมแม่เหล็กก็อาจจะเก็บบันทึกลงดรัมนั่นเอง ซึ่งเป็นการดำเนินการที่ใช้เวลามาก และการดำเนินการถัดไปก็ต้องการอ่านค่านั้นกลับมา ซึ่งทำให้เกิดความล่าช้าเพิ่มขึ้นอีก
เมตรต่อวินาที
เมตรต่อวินาที ( หรือย่อว่า m/s) เป็นหน่วยเอสไอ ของทั้งความเร็วและอัตราเร็วที่เป็นสเกลาร์ และเวกเตอร์ เป็นค่าของระยะทางวัดเป็นเมตรเทียบกับเวลาเป็นวินาที สัญลักษณ์นิยมเขียนในรูปภาษาอังกฤษว่า m/s หรือ m s
บอด (หน่วยวัด)
Baud (บางครั้งเรียกว่า baud rate หรือ modulation rate) มีความหมายตรงกับคำว่า "สัญลักษณ์ต่อวินาที" กล่าวคือ จำนวนของสัญลักษณ์ (symbol) ที่เปลี่ยนแปลงไปภายในช่วงเวลาหนึ่งวินาที โดยวัดจากสื่อกลางที่ใช้ในการส่งข้อมูล (transmission medium)
จำนวนจุดลอยตัว
IEEE 754 ระบุค่าพิเศษอีกอย่างหนึ่งคือค่าที่ "ไม่ใช่จำนวน" (NaN) เพื่อคืนค่าเป็นผลลัพธ์สำหรับการดำเนินการที่ "ไม่สมเหตุสมผล" ตัวอย่างเช่น 0/0, ∞×0, sqrt(−1) เป็นต้น NaN แท้จริงแล้วมีสองชนิดคือ signaling และ quiet การใช้ signaling NaN ในการดำเนินการเลขคณิตใด ๆ (รวมทั้งการเปรียบเทียบเชิงจำนวน) ทำให้เกิดสิ่งผิดปรกติ "ไม่สมเหตุสมผล" ส่วนการใช้ quiet NaN จะได้ผลลัพธ์เป็น NaN เท่านั้นโดยไม่เกิดสิ่งผิดปรกติ
ความเร่ง
คือหน่วยของเวกเตอร์แทนเจนต์ที่มุ่งไปยังทิศทางการเคลื่อนที่ในแต่ละช่วงเวลาต่าง ๆ
โมเมนตัม
โมเมนตัม หมายถึง ความสามารถในการเคลื่อนที่ของวัตถุ ซึ่งมีค่าเท่ากับผลคูณระหว่างมวลและความเร็วของวัตถุ มวลเป็นปริมาณสเกลาร์ แต่ความเร็วเป็นปริมาณเวกเตอร์ เมื่อนำปริมาณทั้งสองเข้าคูณด้วยกัน ถือว่าปริมาณใหม่เป็นปริมาณเวกเตอร์เสมอ ฉะนั้นโมเมนตัมจึงเป็นปริมาณเวกเตอร์ คือมีทั้งขนาดและทิศทาง
เครื่องพิมพ์เลเซอร์
ความหมายของเครื่องพิมพ์เลเซอร์
หมายถึง เครื่องพิมพ์แบบหนึ่งที่ใช้ลำแสงเลเซอร์ในการสร้างภาพและถ่ายทอดลงสู่กระดาษด้วยวิธีการทางอิเล็กทรอนิกส์ (ทำงานคล้ายเครื่องถ่ายเอกสาร) ความ เร็วของเครื่องพิมพ์เลเซอร์นั้นวัดกันเป็นหน้าต่อนาที (ppm) เช่น 10 หน้าต่อนาที เป็นต้น (เพราะพิมพ์ครั้งละหนึ่งหน้า) ส่วนคุณภาพของการพิมพ์นั้น วัดเป็นจุดต่อนิ้ว (dpi) เช่น 600 จุดต่อ 1 นิ้ว ยิ่งมีจุดมาก แสดงว่ามีความละเอียดมาก ภาพจะคมชัดกว่าภาพที่มีจุดน้อยหรือมีความละเอียดน้อย
จำนวนจุดลอยตัว
อนันต์บนเส้นจำนวนจริงขยายสามารถแทนได้ในชนิดข้อมูลจำนวนจุดลอยตัว IEEE เช่นเดียวกับจำนวนจุดลอยตัวทั่วไปอย่าง 1 หรือ 1.5 ค่านี้ไม่ใช่ค่าที่เกิดความผิดพลาด ถึงแม้ว่ามันจะใช้แทนค่าที่มากเกินเก็บ (overflow) (แต่ไม่เสมอไป ขึ้นอยู่กับการปัดเศษ) เมื่อเกิดสิ่งผิดปรกติของการหารด้วยศูนย์ จะคืนค่าอนันต์ที่เป็นบวกหรือลบออกมาเป็นผลลัพธ์ ค่าอนันต์สามารถแนะนำให้เป็นจำนวนจำนวนหนึ่ง (เหมือนแมโคร INFINITY ของภาษาซี หรือ ∞ ถ้าภาษาโปรแกรมนั้นอนุญาตให้ใช้ได้)
ความไว (อิเล็กทรอนิกส์)
ความไวของไมโครโฟนปกติจะถูกแสดงออกมาเป็นความแข็งแกร่งของเสียงภาคสนามเป็นค่า เดซิเบล (dB) เทียบกับ 1 V/Pa (Pa = N/m) หรือเป็นปัจจัยในการถ่ายโอนใน มิลลิโวลต์ต่อปาสกาล (mV/Pa) ใส่เข้าไปในวงจรเปิดหรือเข้าไปในโหลด 1 kilohm
เอเอชพี
หลายหน่วยงานได้มีการประยุกต์นำซอฟต์แวร์คอมพิวเตอร์มาช่วยในขั้นตอนการตัดสินใจให้รวดเร็วและง่ายขึ้น
Super PI
Super PI เป็นโปรแกรมที่ทำงานแบบเทร็ดเดียว (Single-Threaded) ซึ่งการนำมาใช้วัดประสิทธิภาพสำหรับในยุคปัจจุบันอย่างหน่วยประมวลผลแบบหลายแกน จึงถือได้ว่าลดความนิยมลงไป นอกจากนั้น ปัจจุบันความเร็วของหน่วยประมวลผลเร็วขึ้นเรื่อยๆ Super PI จึงอาจมองว่าไม่เหมาะสมในการใช้ทดสอบความเสถียรของระบบได้อีกต่อไป ด้วยข้อเท็จจริงที่ว่าการวัดความเสถียรต้องใช้เวลาในการทำงานที่นานกว่านี้ เพื่อสร้างความอ่อนล้าให้กับอุปกรณ์คอมพิวเตอร์ ผู้ใช้หลายรายได้เปลี่ยนไปใช้ Orthos หรือ OCCT แทนเพื่อวัดความเสียรเนื่องด้วยโปรแกรมเหล่านั้นทำงานในแบบหลายเทร็ด (Multi-Threaded)
การวัดเปรียบเทียบสมรรถนะของคอมพิวเตอร์
โดยทั่วไปมักมีการเข้าใจที่ผิดว่าค่าความถี่ของสัญาณนาฬิกา (MHz, GHz) เพียงอย่างเดียว หรือค่าของจำนวนคำสั่งที่ทำเสร็จในหนึ่งรอบสัญญาณนาฬิกา (Instructions executed Per Clock, IPC) เพียงอย่างเดียวเป็นค่าประสิทธิภาพของตัวประมวลผล ในความเป็นจริงค่าประสิทธิภาพที่ถูกต้องของตัวประมวลผลคือค่าของความถี่สัญาณนาฬิกาและค่าของจำนวนคำสั่งที่ทำเสร็จในหนึ่งรอบสัญญาณนาฬิกา ดังสมการ [4, 5]
ศูนย์มีเครื่องหมาย
มาตรฐาน IEEE 754 เกี่ยวกับจำนวนจุดลอยตัวได้ระบุพฤติกรรมของบวกศูนย์และลบศูนย์ไว้ภายใต้การดำเนินการหลายอย่าง ผลลัพธ์ที่ได้อาจขึ้นอยู่กับการตั้งค่าภาวะการปัดเศษแบบ IEEE
ส่วนลงตัว
ในทางเภสัชกรรม ส่วนลงตัวเป็นการอ้างถึงวิธีการวัดปริมาณส่วนผสมของยาภายใต้ความไวของเครื่องชั่ง (weighing scale) ตัวอย่างเช่น ใบสั่งยาระบุว่าต้องการส่วนผสมในปริมาณ 40 มิลลิกรัม ดังนั้นเราอาจชั่งส่วนผสมเพื่อปรุงยาในปริมาณ 120 มิลลิกรัม โดยที่ 40 เป็นส่วนลงตัวของ 120 แล้วปรุงยาในปริมาณสามเท่า จากนั้นจึงค่อยแบ่งตัวยาออกไปเป็นสามส่วน หนึ่งส่วนสำหรับใบสั่งยา และอีกสองส่วนสามารถเก็บไว้ในคลังได้ ซึ่งตัวยาจะเกิดความผิดพลาดในส่วนผสมน้อยกว่าการชั่งให้เป็น 40 มิลลิกรัมทันที
ความเร็ว
ในทางฟิสิกส์ ความเร็ว คืออัตราการเปลี่ยนแปลงของตำแหน่งต่อหน่วยเวลา มีหน่วยเป็นเมตรต่อวินาที (m/s) ในหน่วยเอสไอ ความเร็วเป็นปริมาณเวกเตอร์ซึ่งประกอบด้วยอัตราเร็วและทิศทาง ขนาดของความเร็วคืออัตราเร็วซึ่งเป็นปริมาณสเกลาร์ ตัวอย่างเช่น "5 เมตรต่อวินาที" เป็นอัตราเร็ว ในขณะที่ "5 เมตรต่อวินาทีไปทางทิศตะวันออก" เป็นความเร็ว ความเร็วเฉลี่ย v ของวัตถุที่เคลื่อนที่ไปด้วยการกระจัดขนาดหนึ่ง ∆x ในช่วงเวลาหนึ่ง ∆"t" สามารถอธิบายได้ด้วยสูตรนี้
วงจรกรองดิจิตอล
วงจรกรองแบบดิจิตอลสามารถให้ผลการกรองใดๆ ที่สามารถแสดงเป็นฟังก์ชันทางคณิตศาสตร์ หรือขั้นตอนวิธีทางคณิตศาสตร์ ข้อจำกัดเบื้องต้นสองอย่างของวงจรกรองดิจิตอล ก็คือ ความเร็ว (วงจรกรองไม่สามารถทำงานได้เร็วกว่าคอมพิวเตอร์) และเรื่องของต้นทุน อย่างไรก็ตาม เมื่อต้นทุนของไอซียังคงลดลงเรื่อยๆ ฟิลเตอร์แบบดิจิตอลก็เป็นที่แพร่หลายมากขึ้น และปัจจุบันกลายเป็นส่วนประกอบที่จำเป็นในอุปกรณ์ต่างๆ เช่น วิทยุ โทรศัพท์มือถือ และเครื่องรับวิทยุสเตอริโอ เป็นต้น
ตัวรับรู้
ตัวรับรู้ที่ดีต้องทำตามกฎต่อไปนี้ตัวรับรู้ในอุดมคติจะถูกออกแบบมาให้เป็นแบบเชิงเส้นหรือเป็นเส้นตรงกับบางฟังก์ชันทางคณิตศาสตร์อย่างง่ายของการวัดซึ่งปกติเป็นค่าลอการิทึม เอาต์พุตของตัวรับรู้ดังกล่าวเป็นสัญญาณแอนะล็อกและเป็นสัดส่วนโดยตรงกับค่าหรือฟังก์ชันที่เรียบง่ายของคุณสมบัติที่ถูกวัด จากนั้น ความไวจะถูกกำหนดให้เป็นอัตราส่วนระหว่างสัญญาณเอาต์พุตกับคุณสมบัติที่ถูกวัด ตัวอย่างเช่น ถ้าเซ็นเซอร์ตัวหนึ่งใช้วัดอุณหภูมิและมีเอาต์พุตเป็นแรงดันค่าหนึ่ง ความไวจะเป็นค่าคงที่มีหน่วยเป็นโวลต์/เคลวิน [V/K]; เซ็นเซอร์นี้ทำงานเป็นเชิงเส้นเพราะอัตราส่วนเป็นค่าคงที่ที่ทุกจุดของการวัด
เซนเซอร์รูปภาพ
ตัววัดประสิทธิภาพเซนเซอร์มีอยู่ด้วยกันหลายตัวที่สามารถนำมาใช้ประเมินประสิทธิภาพของเซนเซอร์รูปภาพ เช่น ช่วงรายละเอียดแสง (dynamic range), สัดส่วนสัญญาณต่อคลื่นรบกวน (signal-to-noise ratio) เป็นต้น สำหรับตัวเซนเซอร์ประเภทที่เทียบเคียงกันได้นั้น ช่วงรายละเอียดแสงและสัดส่วนดังกล่าวจะสูงขึ้นเมื่อขนาดเพิ่มมากขึ้น
หน่วยอัตราข้อมูล
ในสาขาโทรคมนาคม และคอมพิวเตอร์, อัตราบิต หรือ จำนวนบิตข้อมูลที่ถูกส่งในหนึ่งหน่วยเวลา สามารถวัดได้ในหน่วยของ บิตต่อวินาที, ไบต์ต่อวินาที และยังนิยมเติมคำอุปสรรคของระบบเอสไอไว้ด้านหน้า ซึ่งจะทำให้มีความหลากหลายของหน่วยอัตราข้อมูล () ในการวัดดังนี้
อัตราเฟรม
อัตราเฟรม () วัดกันในหน่วยของ ภาพต่อวินาที (, FPS) คือหน่วยวัดการจัดเก็บภาพสำหรับกล้องถ่ายภาพดิจิทัล, จำนวนการบันทึกภาพของภาพเคลื่อนไหวในกล้องวิดีโอ หรือจำนวนภาพที่แสดงได้ของหน่วยแสดงผลต่าง ๆ เช่น ภาพยนตร์แอนิเมชัน ซึ่ง FPS ที่สูงขึ้นจะทำให้ภาพเคลื่อนไหวที่ได้มีความต่อเนื่อง นุ่มนวล และ ใช้พื้นที่ในการจัดเก็บเยอะขึ้น
เอกซ์บอกซ์
สำหรับหน่วยประมวลผลทางกราฟิกนั้นได้แก่ Nvidia NV2A ความเร็ว 233 เมกะเฮิร์ตซ์ ซึ่งมีความสามารถในการประมวลผลจำนวนจุดลอยตัวที่ 7.3 กิกะฟล็อป มีความสามารถในการคำนวณทางเรขาคณิตได้สูงสุด 115 ล้านจุดต่อวินาที มีอัตราการแสดงภาพสูงสุดที่ 932 ล้านพิกเซลต่อวินาที มีความสามารถในการแสดงผลในทางทฤษฎีที่ 29 ล้านพิกเซล 32-pixel triangles ต่อวินาที แต่ด้วยข้อจำกัดของแบนด์วิธ ทำให้จะมีอัตราการแสดงผลจริงอยู่ที่ระหว่าง 250-700 ล้านพิกเซลต่อวินาทีพร้อมทั้งคุณสมบัติในการ กำหนดตำแหน่งในแกนที่ 3 การเพิ่มการรับรู้ของระยะทางโดยการแรเงาวัตถุที่ห่างไกลแตกต่างกัน
การเพิ่มผลจากสิ่งพิเศษหรือปรากฏการณ์ธรรมชาติที่เกิดขึ้นได้ทั่วไปลงในรูป และวางรูปพื้นผิวแบบต่าง ๆ ลงบนโครงที่ได้ออกแบบมาก่อนหน้า
จำนวนจุดลอยตัว
การปัดเศษจะถูกใช้เมื่อผลลัพธ์ที่ถูกต้องที่ได้จากการดำเนินการจำนวนจุดลอยตัว (หรือการแปลงเป็นรูปแบบจุดลอยตัว) มีเลขโดดมากเกินกว่าที่จะเก็บได้ในซิกนิฟิแคนด์ การปัดเศษมีวิธีการหลายแบบที่ต่างกัน แนวทางทั่วไปในอดีตคือการปัดเศษทิ้ง (truncation) และตั้งแต่มีการแนะนำ IEEE 754 แบบวิธีเริ่มต้นคือการปัดเศษเลขคู่ใกล้สุด หรือเรียกว่าการปัดเศษของนักธนาคาร (Banker's Rounding) มีใช้อย่างปกติสามัญมากกว่า แบบวิธีนี้จะปัดเศษผลลัพธ์ในอุดมคติ (ที่มีความเที่ยงอนันต์) จากการดำเนินการเลขคณิต ไปสู่จำนวนที่สามารถแทนค่าได้ที่ใกล้ที่สุด และให้ผลเป็นการแทนค่านั้นออกมา ในกรณีที่ผลลัพธ์อยู่กึ่งกลาง ค่าที่มีซิกนิฟิแคนด์ลงท้ายเป็นเลขคู่จะถูกเลือก มาตรฐาน IEEE 754 กำหนดว่าจำเป็นต้องใช้วิธีการปัดเศษเดียวกันในทุก ๆ การดำเนินการพีชคณิตพื้นฐาน ซึ่งรวมถึงรากที่สองและการแปลงจำนวน เมื่อผลลัพธ์เป็นค่าเชิงตัวเลข สิ่งนี้หมายความว่า ผลลัพธ์จากการดำเนินการ IEEE 754 จะถูกพิจารณาทุกบิตในผลลัพธ์ ยกเว้นค่า NaN (ฟังก์ชัน "ไลบรารี" อาทิโคไซน์หรือลอการิทึมไม่ถูกบังคับ)
การเขียนโปรแกรมเชิงแข่งขัน
การตัดสินผลโดยทั่วไปจะดูที่จำนวนโจทย์ที่ทำได้กับเวลาที่ใช้ในการเขียนโปรแกรมรวมทั้งหมด และอาจจะมีปัจจัยอื่น ๆ ที่นำมาพิจารณาด้วย เช่น ขนาดของโปรแกรม เวลาในการทำงานของโปรแกรม หรือการเทียบคำตอบกันระหว่างผู้เข้าแข่งขันด้วยกันเอง
จำนวนจุดลอยตัว
วิธีการที่ซิกนิฟิแคนด์ เลขชี้กำลัง และบิตเครื่องหมายถูกเก็บบันทึกภายในคอมพิวเตอร์ขึ้นอยู่กับวิธีการทำให้เกิดผล รูปแบบปกติของ IEEE ได้อธิบายรายละเอียดในเวลาต่อมา ตัวอย่างเช่น การแทนจำนวนจุดลอยตัวฐานสองขนาดความเที่ยงหนึ่งเท่า (32 บิต) ซึ่งมีความเที่ยง "p" = 24 หมายความว่าจะเก็บบันทึกซิกนิฟิแคนด์ได้เป็นสายอักขระ 24 บิต (ประกอบด้วย 0 และ 1) กำหนดให้ค่าของพาย 33 บิตแรกคือ 11001001 00001111 11011010 10100010 0 การปัดเศษให้เหลือ 24 บิตในฐานสองทำได้โดยเพิ่มค่าบิตที่ 24 ซึ่งกระจายมาจากบิตที่ 25 จะได้ 11001001 00001111 11011011 เมื่อเก็บบันทึกในการเข้ารหัส IEEE 754 จำนวนนี้จะกลายเป็นซิกนิฟิแคนด์ "s" โดยที่ "e" = 1 (เมื่อสมมติให้จุดทวินิยมอยู่หลังบิตแรกสุดใน "s") หลังจากมีการปรับค่าเข้าสู่ทางซ้ายแล้วซึ่งจะทำให้เลขศูนย์นำหน้าหรือตามหลังจำนวนถูกตัดออกถ้ามี (แต่จากตัวอย่างนี้ไม่เกิดผลใด ๆ) ดังนั้นบิตแรกสุดของซิกนิฟิแคนด์จึงเป็น 1 เสมอ (หากค่านั้นไม่ใช่การแทนจำนวน 0) ทำให้เกิดบิตเพิ่มเติมของความเที่ยงซึ่งไม่จำเป็นต้องเก็บบันทึก ค่าของพายจึงคำนวณได้จากสูตร
เมื่อ "n" คือบิตที่ "n" จากทางซ้ายของซิกนิฟิแคนด์ที่ปรับแต่งแล้ว การปรับแต่งซิกนิฟิแคนด์หรือเรียกว่า "การทำให้เป็นบรรทัดฐาน" (normalization) คือการสงวนค่า 1 ที่บวกเข้าไปในภายหลัง และอาจเรียกได้ว่าเป็นรูปแบบหนึ่งของการบีบอัด นั่นคือซิกนิฟิแคนด์ฐานสองจะย่อลงจากเดิมหนึ่งบิตจากความเที่ยงมากสุด ในการประมวลผลเพิ่มเติม
จำนวนจุดลอยตัว
การแทนค่าบิตของจำนวนจุดลอยตัวฐานสองจะแปรตามลอการิทึมฐานสองเพื่อการประมาณค่าอย่างหยาบ ด้วยความคลาดเคลื่อนเฉลี่ยประมาณ 3% (เพราะว่าเขตข้อมูลเลขชี้กำลังอยู่ในส่วนที่มีนัยสำคัญมากกว่าของข้อมูล) สิ่งนี้สามารถใช้ประโยชน์ได้ในโปรแกรมประยุกต์บางโปรแกรม เช่นการปรับความดังในการประมวลผลเสียงดิจิทัล
อัตราเร็ว
ในรูปสัญลักษณ์ทางคณิตศาสตร์ อัตราเร็วคือ
ความเร่ง
ความเร่ง ณ จุดใดจุดหนึ่ง คือลิมิตของความเร่งเฉลี่ยบนเวลากณิกนันต์ ในเชิงแคลคูลัส ความเร่ง ณ จุดใดจุดหนึ่งคืออนุพันธ์ของความเร็วตามเวลา :
ความเร่ง
ความเร่งเฉลี่ยของวัตถุใดวัตถุหนึ่งในช่วงเวลาใดเวลาหนึ่งคืออัตราการเปลี่ยนแปลงความเร็ว formula_1ต่อช่วงเวลา formula_2 เขียนได้ว่า :
โมเมนตัม
โดยที่ "m" แทนมวล และ "v" แทนความเร็ว หน่วยเอสไอของโมเมนตัม คือ กิโลกรัม เมตรต่อวินาที (kg m/s) ความเร็วของวัตถุจะให้ทั้งขนาด (อัตราเร็ว) และทิศทาง โมเมนตัมของวัตถุขึ้นอยู่กับความเร็ว จึงทำให้เป็นปริมาณเวกเตอร์
จำนวนจุดลอยตัว
เมื่อ พ.ศ. 2481 คอนรัด ทซูเซอ (Konrad Zuse) จากเบอร์ลิน ประดิษฐ์คอมพิวเตอร์ฐานสองเชิงกลที่สามารถโปรแกรมได้เครื่องแรกชื่อ Z1 ทำงานด้วยจำนวนจุดลอยตัวฐานสอง 22 บิต โดยมีเลขชี้กำลังแบบมีเครื่องหมาย 7 บิต ซิกนิฟิแคนด์ 15 บิต (รวมหนึ่งบิตที่ซ่อนไว้) และบิตเครื่องหมาย 1 บิต หน่วยความจำใช้ส่วนโลหะเลื่อนไปมาเพื่อเก็บบันทึกจำนวนเช่นนั้นได้ 64 จำนวน ต่อมาเครื่อง Z3 ที่พัฒนาด้วยรีเลย์ถูกสร้างขึ้นใน พ.ศ. 2484 ได้พัฒนาเลขคณิตของจำนวนจุดลอยตัวให้เกิดผล ยกเว้นการแทนจำนวนสำหรับค่าอนันต์บวกลบและค่าที่ไม่นิยาม
ภาษาซี
เครื่องที่ทำตาม[[IEEE 854|มาตรฐานจำนวนจุดลอยตัวของ IEEE]] เหตุการณ์การปัดเศษบางเหตุการณ์มีผลมาจากสถานะการปัดเศษปัจจุบัน (ได้แก่การปัดเศษเลขคู่ การปัดเศษขึ้น การปัดเศษลง และการปัดเศษเข้าหาศูนย์) ซึ่งอาจเรียกดูหรือตั้งค่าสถานะโดยใช้ฟังก์ชัน codice_150/codice_151 ที่นิยามไว้ใน codice_152
การวัดเปรียบเทียบสมรรถนะของคอมพิวเตอร์
โปรแกรมทดสอบ Sysmark เป็นโปรแกรมทดสอบที่มุ่งเน้นการทดสอบประสิทธิภาพเชิงโปรแกรม เช่นเดียวกับโปรแกรม winstone โดยมีลักษณะของ workload สำหรับการทดสอบที่ใกล้เคียงกันและผลการทดสอบที่ได้ก็บ่งชี้ถึงประสิทธิภาพของระบบที่มีต่อโปรแกรมประยุกต์เช่นกัน
การวัดเปรียบเทียบสมรรถนะของคอมพิวเตอร์
โปรแกรม 3D mark เป็นโปรแกรมที่พัฒนาขึ้นมาเพื่อทดสอบประสิทธิภาพการทำงานของระบบแสดงผลแบบ 3 มิติ ซึ่งออกมารองรับเกมส์ 3 มิติ ในปัจจุบันการทดสอบระบบการแสดงผล 3 มิติ นี้จะให้ค่าประสิทธิภาพของระบบ 3 มิติที่ใช้งานภายในระบบ
คอมพิวเตอร์
เมนเฟรมคอมพิวเตอร์ มีสมรรถภาพที่ต่ำกว่าซูเปอร์คอมพิวเตอร์มาก แต่ยังมีความเร็วสูง และมีประสิทธิภาพสูงกว่ามินิคอมพิวเตอร์หรือไมโครคอมพิวเตอร์ เมนเฟรมคอมพิวเตอร์สามารถให้บริการผู้ใช้จำนวนหลายร้อยคนพร้อม ๆ กัน ฉะนั้น จึงสามารถใช้โปรแกรมจำนวนนับร้อยแบบในเวลาเดียวกันได้ โดยเฉพาะถ้าต่อเครื่องเข้าเครือข่ายคอมพิวเตอร์ ผู้ใช้สามารถใช้ได้จากทั่วโลก ปัจจุบัน องค์กรใหญ่ ๆ เช่น ธนาคาร จะใช้คอมพิวเตอร์ประเภทนี้ในการทำบัญชีลูกค้า หรือการให้บริการจากเครื่องฝากและถอนเงินแบบอัตโนมัติ (automatic teller machine) เนื่องจากเครื่องเมนเฟรมคอมพิวเตอร์ได้ถูกใช้งานมากในการบริการผู้ใช้พร้อม ๆ กัน เมนเฟรมคอมพิวเตอร์จึงต้องมีหน่วยความจำที่ใหญ่มาก
ความโน้มถ่วงพื้นผิว
เราสามารถวัดค่าความโน้มถ่วงพื้นผิวได้ในหน่วยของความเร่ง ซึ่งตามหน่วยเอสไอ คือ เมตรต่อวินาทีกำลังสอง บางครั้งก็แสดงค่าเป็นตัวคูณของความโน้มถ่วงมาตรฐานของโลก คือ "g" = 9.80665 m/s. ในการศึกษาฟิสิกส์ดาราศาสตร์ ความโน้มถ่วงพื้นผิวสามารถแสดงค่าด้วย log "g" ซึ่งเป็นหน่วยวัดความโน้มถ่วงในมาตราซีจีเอส หน่วยของความเร่งคือ เซนติเมตรต่อวินาทีกำลังสอง จากนั้นแปลงเป็นลอการิทึมฐาน 10
จำนวนจุดลอยตัว
สถาบันวิชาชีพวิศวกรไฟฟ้าและอิเล็กทรอนิกส์ (IEEE) ได้กำหนดมาตรฐานสำหรับการแทนจำนวนจุดลอยตัวฐานสองใน IEEE 754 คอมพิวเตอร์สมัยใหม่เกือบทั้งหมดทำตามมาตรฐานนี้ ข้อยกเว้นที่โดดเด่นคือคอมพิวเตอร์เมนเฟรมของไอบีเอ็ม ซึ่งใช้รูปแบบของมันเอง (สถาปัตยกรรมจุดลอยตัวของไอบีเอ็ม เพิ่มเติมจากรูปแบบฐานสองและฐานสิบจาก IEEE 754) และคอมพิวเตอร์เครย์ ซึ่งรุ่น T90 ใช้ตามรูปแบบของ IEEE แต่รุ่น SV1 ยังคงใช้รูปแบบของมันเอง
การวัดเปรียบเทียบสมรรถนะของคอมพิวเตอร์
โปรแกรมทดสอบ Winstone เป็นโปรแกรมที่มุ่งเน้นการทดสอบประสิทธิภาพเชิงโปรแกรม โดยโปรแกรมทดสอบได้นำเอา workload รูปแบบต่างๆ ที่ใช้งานในการทำงานตามปกติในสำนักงาน และการใช้อินเทอร์เน็ต workload สำหรับการทดสอบ เช่น office suit ต่างๆ อินเทอร์เน็ตเบราว์เซอร์ โปรแกรมกราฟิกต่างๆ ผลการทดสอบที่ได้เป็นค่าดรรชนีที่สะท้อนถึงประสิทธิภาพของระบบที่มีต่อโปรแกรมประยุกต์
เมตรต่อวินาทีกำลังสอง
ความเร่งจะวัดเป็นอัตราส่วนต่อแรงโน้มถ่วงได้ เช่นเดียวกับแรง g และความเร่งพื้นดินสูงสุดเมื่อเกิดแผ่นดินไหว
จำนวนจุดลอยตัว
เลขคณิตจุดลอยตัวฐานสอง เป็นสภาวการณ์ดีที่สุดเมื่อใช้วัดปริมาณในโลกแห่งความเป็นจริงซึ่งมีพิสัยของมาตราส่วนกว้าง (เช่นคาบดาราคติของไอโอหรือมวลของโปรตอน) แต่เป็นสภาวการณ์แย่ที่สุดเมื่อถูกคาดหวังให้จำลองความสัมพันธ์ของปริมาณในรูปของสายอักขระฐานสิบซึ่งมุ่งหวังว่าจะได้ค่าที่ถูกต้อง ตัวอย่างของกรณีหลังเช่นการคำนวณเชิงการเงิน ซอฟต์แวร์การเงินจึงมีความโน้มเอียงที่จะไม่ใช้การแทนจำนวนจุดลอยตัวฐานสองด้วยเหตุนี้ มาตรฐานจำนวนจุดลอยตัวฐานสิบของ IEEE 854 และชนิดตัวแปร "decimal" ของภาษาซีชาร์ปเป็นอาทิ ถูกออกแบบขึ้นเพื่อให้หลีกเลี่ยงปัญหาการแทนจำนวนจุดลอยตัวฐานสองที่ใช้กับค่าของเลขฐานสิบ ซึ่งมนุษย์จำเป็นต้องป้อนเข้าอย่างถูกต้อง และทำให้การคำนวณเลขคณิตได้ผลลัพธ์ตรงกับจำนวนฐานสิบที่คาดหวังเสมอ
การวัดเปรียบเทียบสมรรถนะของคอมพิวเตอร์
การเพิ่มประสิทธิภาพการทำงานของตัวประมวลผลจะสามารถทำได้ในสองลักษณะคือ การเพิ่มความถี่ของสัญญาณนาฬิกา หรือการเพิ่มค่าของ IPC ซึ่งการเพิ่มค่าของความถี่สัญญาณนาฬิกาสามารถเพิ่มได้โดยการปรับเปลี่ยนกระบวนการผลิต (Manufacturing Process) และ IPC จะสามารถทำได้โดยการออกแบบโครงสร้างของตัวประมวลผลในระดับ Micro Architecture เพื่อให้ได้ตัวประมวลผลที่มีประสิทธิภาพในการทำงานที่สูงที่สุด
ค่าคงตัวของพลังค์
ค่าคงตัวของพลังค์มีหน่วยเป็นพลังงานคูณกับเวลา ซึ่งเป็นหน่วยวัดaction นั่นเอง หรืออาจเขียนได้ในหน่วยของโมเมนตัมคูณระยะทางเช่นกัน
ระบบสนับสนุนเทคโนโลยีสารสนเทศ
Utility computing หมายถึงการให้บริการการประมวลผล มีความเสถียร และปลอดภัย เหมือนกับการให้บริการไฟฟ้า น้ำประปา หรือโทรศัพท์ เป้าหมายของ utility computing คือการให้บริการทรัพยากรสำหรับการประมวลผลตามความต้องการได้จากทุกแห่งทั่วโลก ตลอดเวลาและตามความต้องการ ปลอดภัย ประสิทธิภาพที่วัดได้ ราคาที่ขึ้นอยู่กับการใช้งานของคุณ ขนาดที่ยืดหยุ่น และง่ายในการบริหารจัดการ ในส่วนของการใช้งานระดับองค์กร จะช่วยลดเงินที่ต้องสูญเสียไปอย่างมหาศาล ไอบีเอ็ม (IBM) On-Demand project, HP, Microsoft, Oracle SAP และบรรดาบริษัทซอฟต์แวร์รายใหญ่ อยู่เบื้องหลังแนวความคิดนี้
จำนวนจุดลอยตัว
การคำนวณจำนวนจุดลอยตัวในคอมพิวเตอร์สามารถทำให้เกิดปัญหาสามประเภทได้แก่
จำนวนจุดลอยตัว
การหารก็กระทำด้วยวิธีที่คล้ายกันนี้ แต่ซับซ้อนมากกว่า
จำนวนจุดลอยตัว
มาตรฐานต้นฉบับ IEEE 754 (พ.ศ. 2527) เป็นก้าวแรกของวิธีการมาตรฐานสำหรับการดำเนินงานตาม IEEE 754 ในการบันทึกข้อผิดพลาดเกิดขึ้น ต่อไปนี้เราจะไม่พิจารณาการตรวจจับกับดัก (ซึ่งเป็นทางเลือกในรุ่น พ.ศ. 2527) และ "โหมดการจัดการสิ่งผิดปรกติแบบอื่น" (ซึ่งมาแทนที่การตรวจจับกับดักในรุ่น พ.ศ. 2551 แต่ก็ยังคงเป็นทางเลือก) แต่พิจารณาแค่แบบวิธีที่จำเป็นในการจัดการสิ่งผิดปรกติตาม IEEE 754 สิ่งผิดปรกติเชิงเลขคณิตต้องถูกบันทึกลงในบิตแสดงความผิดพลาดแบบ "ยึดติด" โดยปริยาย คำว่า "ยึดติด" หมายความว่า บิตแสดงความผิดพลาดจะไม่ถูกตั้งใหม่โดยการดำเนินการเลขคณิตถัดไป แต่จะยังคงมีค่าอยู่จนกว่าสั่งให้ตั้งใหม่อย่างแน่ชัด โดยปกติแล้วการดำเนินการหนึ่ง ๆ จะให้ผลลัพธ์ตามข้อกำหนดเสมอโดยไม่ยับยั้งการคำนวณ ตัวอย่างเช่น 1/0 ให้ผลลัพธ์เป็น +∞ พร้อมตั้งค่าบิตความผิดพลาดของการหารด้วยศูนย์ด้วย
เครื่องมือวัด
เครื่องมือบางอย่าง เช่นกล้องส่องทางไกลและอุปกรณ์เดินเรือทะเล ได้มีการประยุกต์ใช้ในกิจการของกองทัพมาหลายศตวรรษแล้ว อย่างไรก็ตาม บทบาทของเครื่องมือในกิจการทางทหารได้เพิ่มขึ้นเร็วเป็นจรวดหลังการพัฒนาเทคโนโลยีผ่านทางวิทยาสาสตร์ประยุกต์ ซึ่งเริ่มตอนกลางศตวรรษที่ 19 และต่อเนื่องมาจนถึงปัจจุบัน เครื่องมือดังกล่าวอยู่ในส่วนใหญ่ของประเภทเครื่องมือวัดที่ได้อธิบานตลอดบทความนี้ เช่น การเดินเรือ, ดาราศาสตร์, ออพติกและการถ่ายภาพ, และพลังงานจลน์ของวัตถุเคลื่อนที่ ประเด็นสำคัญทั่วไปที่รวมอยู่ในเครื่องมือทางการทหารคือการมองเห็นในระยะไกล การมองเห็นในที่มีด การหาตำแหน่งของวัตถุ และการควบคุมเส้นทางการเคลื่อนที่ของวัตถุและเป้าหมายของการเคลื่อนที่นั้น รูปแบบของเครื่องมือเหล่านี้จะต้องเป็นแบบที่ ใช้งานง่าย ความเร็ว ความน่าเชื่อถือ และ ความแม่นยำ.หน่วยเสริม (Supplementary Units) เป็นหน่วยที่มีชื่อพิเศษมีอยู่ 2 หน่วย คือ หน่วยวัดมุมบนระนาบ (plane angle) เรียกว่า เรเดียน (Radian , Rad) และหน่วยวัดมุมตัน (Solid angle) เรียกว่า สเตอเรเดียน (Steradian , Sr)
จำนวนจุดลอยตัว
ก่อนที่จะมีมาตรฐาน IEEE เงื่อนไขดังกล่าวมักทำให้โปรแกรมหยุดทำงาน หรือกระตุ้นให้เกิดกับดัก (trap) ที่โปรแกรมเมอร์สามารถตรวจจับได้ แนวทางที่สิ่งนี้ทำงานขึ้นอยู่กับระบบ หมายความว่าโปรแกรมที่ใช้จำนวนจุดลอยตัวจะไม่สามารถย้ายไปทำงานบนเครื่องอื่นได้
เมตรต่อวินาทีกำลังสอง
วัตถุหนึ่งเคลื่อนที่ด้วยความเร่งคงตัว ซึ่งมีค่าเป็น 1 เมตร/วินาที (1 m/s) จากจุดหยุดนิ่ง เมื่อผ่านไป 5 วินาทีจะเคลื่อนที่ได้ความเร็ว 5 เมตร/วินาที และ 10 เมตร/วินาที เมื่อผ่านไป 10 วินาที การหาค่าความเร่งเฉลี่ยจะทำได้โดยการนำความเร็ว (เมตร/วินาที) ส่วนด้วยเวลา (วินาที) ดังนั้น จากตัวอย่างข้างต้น จะได้ว่า :
จำนวนจุดลอยตัว
คำว่า "จุดลอยตัว" จึงหมายถึงจุดฐาน (จุดทศนิยม หรือในคอมพิวเตอร์คือ จุดทวินิยม) ที่สามารถ "ลอยตัว" ได้ หมายความว่า จุดฐานสามารถวางไว้ที่ตำแหน่งใดก็ได้ที่สัมพันธ์กับเลขนัยสำคัญของจำนวนนั้น ตำแหน่งนี้แสดงไว้แยกต่างหากในข้อมูลภายใน และการแทนด้วยจำนวนจุดลอยตัวจึงอาจถือว่าเป็นสัญกรณ์วิทยาศาสตร์ในบริบทของคอมพิวเตอร์ หลายปีที่ผ่านมา คอมพิวเตอร์ใช้งานจำนวนจุดลอยตัวในรูปแบบที่แตกต่างกัน เวลาต่อมาจึงทำให้เกิดมาตรฐาน IEEE 754 สำหรับจำนวนที่พบได้อย่างปกติสามัญชนิดนี้
จำนวนจุดลอยตัว
การแทนค่าที่ดีที่สุดของผลต่างนี้ควรเป็น ซึ่งต่างจากผลลัพธ์ อยู่มากกว่า 20% ในกรณีสุดขีด ผลลัพธ์สุดท้ายอาจกลายเป็นศูนย์แม้ว่าการคำนวณที่แท้จริงอาจได้ค่าหลายล้าน การสูญเสียนัยสำคัญเช่นนี้แสดงให้เห็นถึงความอันตรายในการสมมติว่า เลขโดดทุกหลักของผลลัพธ์ที่คำนวณได้ล้วนมีความหมาย การรับมือต่อผลสืบเนื่องของค่าคลาดเคลื่อนเหล่านี้เป็นหัวข้อศึกษาอันหนึ่งในการวิเคราะห์เชิงตัวเลข (numerical analysis) ดูเพิ่มที่ ปัญหาความแม่นยำ
จำนวนจุดลอยตัว
จำนวนทั้งหมดของจำนวนจุดลอยตัวที่เป็นบรรทัดฐานแล้วในระบบ F("B", "P", "L", "U") คือ formula_6 เมื่อ "B" คือฐานของระบบเลข "P" คือความเที่ยงของระบบ "L" คือเลขชี้กำลังน้อยสุดที่สามารถแทนได้ในระบบ และ "U" คือเลขชี้กำลังมากสุดที่สามารถแทนได้ในระบบ
การยกกำลัง
มาตรฐานจำนวนจุดลอยตัว IEEE 754-2008 ใช้ในการออกแบบไลบรารีเกี่ยวกับจำนวนจุดลอยตัวเป็นส่วนมาก มาตรฐานดังกล่าวได้แนะนำฟังก์ชันที่แตกต่างกันสำหรับคำนวณการยกกำลังต่อไปนี้
จำนวนจุดลอยตัว
การคูณและการหารไม่เกิดปัญหาการสูญเสียหรือการดูดกลืนนัยสำคัญ แม้ว่าค่าคลาดเคลื่อนจำนวนน้อยอาจถูกสะสมในการดำเนินการที่กระทำซ้ำ ๆ ในทางปฏิบัติ แนวทางของการดำเนินการเหล่านี้ค่อนข้างซับซ้อนในตรรกะดิจิทัล ดูที่ขั้นตอนวิธีการคูณของบูทและการหารเชิงดิจิทัล สำหรับวิธีการที่รวดเร็วและง่าย ดูที่แบบแผนของฮอร์เนอร์
จำนวนจุดลอยตัว
รูปแบบพื้นฐานอื่นเช่น ความเที่ยงสี่เท่า (quadruple precision) ฐานสอง (128 บิต) จำนวนจุดลอยตัวฐานสิบ (64 บิต) และจำนวนจุดลอยตัวฐานสิบความเที่ยงสองเท่า (128 บิต) เป็นต้น
จำนวนจุดลอยตัว
ความคาดหวังต่าง ๆ ในทางคณิตศาสตร์อาจไม่สามารถทำให้เป็นจริงได้ในขอบเขตของการคำนวณจำนวนจุดลอยตัว ตัวอย่างเช่น เอกลักษณ์ทางคณิตศาสตร์อันเป็นที่ทราบโดยทั่วไปอาทิ formula_12 หรือ formula_13 ไม่สามารถไว้วางใจได้เมื่อปริมาณที่เกี่ยวข้องเป็นผลลัพธ์มาจากการคำนวณจำนวนจุดลอยตัว
ศูนย์มีเครื่องหมาย
ในการเข้ารหัสจำนวนจุดลอยตัวฐานสิบของ IEEE 754 ลบศูนย์แทนโดยกำหนดให้เลขชี้กำลังเป็นค่าใดก็ได้ที่ใช้ได้ในพิสัยของการเข้ารหัส เลขนัยสำคัญกำหนดให้เป็นศูนย์ และบิตเครื่องหมายเป็นหนึ่ง
การทดสอบซอฟต์แวร์
คุณภาพของซอฟต์แวร์ที่สามารถทดสอบได้ ได้แก่ขั้นตอนการทดสอบซอฟต์แวร์นั้นส่วนใหญ่แล้วขึ้นอยู่กับระเบียบวิธีการทำงานของ แต่ละองค์กรหรือทีมงานในแต่ละแห่ง ไม่ได้มีรูปแบบตายตัวแน่นอน แต่สามารถระบุอย่างคร่าวๆได้ดังนี้
วิวัฒนาการของคอมพิวเตอร์
ปัจจุบันบริษัททั้งหลายเริ่มแข่งขันกันเข้าสู่ยุคที่สี่ (fourth generation) ของไมโครโปรเซสเซอร์เป็นรุ่น 32 บิต เช่น IAP×432 ของอินเทล ซึ่งมีทรานซิสเตอร์ราว 200,000 ตัว ทำงานในอัตราความเร็ว 2 ล้านคำสั่งต่อวินาที มีหน่วยประมวลผล (processor) หลายตัวร่วมกันทำงานคาดกันว่า IAP×432 จะมีอัตราเร็วการทำงานเทียบเท่า IBM370/158
ความเร่ง
formula_11
ตามสมการค่าความเร่งคงตัว จะมีสมการอยู่หนึ่งสมการซึ่งเกี่ยวข้องกับการกระจัด, ความเร็วต้นและความเร็วปลาย และความเร่งต่อเวลาที่ใช้ไป :
จำนวนจุดลอยตัว
โดยทั่วไปจำนวนจุดลอยตัวบรรจุอยู่ในข้อมูลคอมพิวเตอร์ เป็นบิตเครื่องหมาย เขตข้อมูลเลขชี้กำลัง และเขตข้อมูลซิกนิฟิแคนด์ (แมนทิสซา) ตามลำดับจากซ้ายไปขวา สำหรับรูปแบบ IEEE 754 ในฐานสองจะถูกแบ่งสรรดังนี้
ฟังก์ชันพอยต์
ฟังก์ชันฟอยต์ เป็นหน่วยวัด (Measurement) เพื่อแสดงถึงจำนวนฟังก์ชันเชิง
ธุรกิจที่ระบบสารสนเทศสามารถให้บริการแก่ผู้ใช้ได้ ฟังก์ชันฟอยต์ นั้นเป็นหน่วย
ที่ใช้โดยวิธีการวัดขนาดฟังก์ชันของกลุ่มผู้ใช้ฟังก์ชันพอยต์สากล (International 
Function Point Users Group Functional Size Measurement: IFPUG FSM) 
วิธีการ IFPUG FSM นี้ได้รับการยอมรับจากISO ให้เป็นหนึ่งในตัววัดซอฟต์แวร์
(Software Metric) เพื่อระบุขนาดของระบบสารสนเทศโดยใช้ฟังก์ชันที่ผู้ใช้ได้รับเป็นพื้นฐาน 
และเป็นอิสระจากเทคโนโลยีที่สร้างผลลัพธ์ (implement) ของระบบสารสนเทศนั้นๆ
การวิเคราะห์ขั้นตอนวิธี
ในศาสตร์คอมพิวเตอร์ การวิเคราะห์ขั้นตอนวิธี เป็นการตัดสินเกี่ยวกับจำนวนทรัพยากร (เช่น เวลา หรือเนื้อที่หน่วยความจำ) ที่จำเป็นต้องใช้ประมวลผลมัน ขั้นตอนวิธีส่วนใหญ่ถูกออกแบบให้ทำงานกับอินพุตที่มีความยาวเท่าไรก็ได้ โดยปกติประสิทธิภาพ หรือเวลาการทำงานของขั้นตอนวิธีเขียนในรูปฟังก์ชันความสัมพันธ์ของความยาวอินพุตกับจำนวนขั้นตอนที่ต้องใช้ในการทำงานนั้น (ความซับซ้อนด้านเวลา) หรือตำแหน่งของเนื้อที่จัดเก็บ (ความซับซ้อนด้านเนื้อที่)
การวัดเปรียบเทียบสมรรถนะของคอมพิวเตอร์
โปรแกรมประเภท Benchmark สำหรับ PC ได้มาจากแนวความคิดในการทดสอบประสิทธิภาพการทำงานของคอมพิวเตอร์ที่เป็นระบบงานใหญ่ๆ ตั้งแต่ mini computer จนถึง super computer และมีระบบปฏิบัติการแบบยูนิกซ์ พัฒนามาสู่ PC การทดสอบทำได้โดยการนำเอาข้อมูลทดสอบที่ถูกสร้างขึ้นเพื่อจุดประสงค์เฉพาะเจาะจง เช่น หากต้องการทดสอบประสิทธิภาพการทำงานของระบบทศนิยมของโพรเชสเซอร์ ข้อมูลตัวอย่างก็จะเป็นสมการทางคณิตศาสตร์ที่มีการคำนวณทศนิยมจำนวนหนึ่ง จากนั้นโปรแกรมจะทำการคำนวณเวลาที่ใช้ในการทำคำสั่งกับข้อมูลนั้นจนจบ แล้วเทียบออกมาเป็นคะแนนที่เป็นจำนวนเท่าของเครื่องอ้างอิง (เครื่องอ้างอิงคือเครื่องที่นำมาทดสอบด้วยโปรแกรม Benchmark ในครั้งแรก และได้ผลการทดสอบออกมาค่าหนึ่ง จากนั้น ค่าที่ได้นี้จะถูกนำมาแปลงเป็น Index เริ่มต้นที่มีค่าเท่ากับ 1.0)
เช่นหากได้คะแนน Index จากเครื่องทดสอบเท่ากับ 42.8 หมายความว่า เครื่องที่ทดสอบมีประสิทธิภาพในการทำงานเป็น 42.8 เท่าของเครื่องอ้างอิง
ยานเจมินี 5
รายการทดลองที่กำหนดมี 17 รายการ ซึ่งได้ทดลองแล้วเสร็จทั้งหมดยกเว้นการถ่ายรูป "ฝักนัดพบ" และถ่ายภาพความละเอียดสูงพื้นโลกของกระทรวงกลาโหม รายการอื่นๆ ที่ได้ทดลองไปได้แก่การวัดความจ้าของพื้นโลกกับพื้นหลังอวกาศเพื่อการแลเห็นของนักบินว่าจะเปลี่ยนแปลงหรือไม่ในระหว่างปฏิบัติการ การทดลองอื่นๆ ได้แก่การวัดเกี่ยวกับความร้อน การเต้นของหัวใจ การกะระยะทางราบ การถ่ายภาพดวงดาวในอวกาศ การอ่านความสูงของเมฆจากยานอวกาศ 
การจุดจรวดลดความเร็วเริ่ม ณ เวลา 190 ชั่วโมง 27 นาที 43 วินาทีเหนือฮาวาย แม้จะมีการควบคุมยานระหว่างการเข้าสู่บรรยากาศด้วยการหันเหยานแล้วก็ตาม ยังปรากฏว่ายานตกถึงพื้นน้ำสั้นไปถึง 130 กิโลเมตรจากจุดนัดพบ การการตรวจสอบพบว่าคอมพิวเตอร์ทำงานได้สมบูรณ์แบบ ความผิดพลาดที่การเขียนโปรแกรมเนื่องจากการป้อนอัตราการหมุนของโลกไว้ที่ 360 องศาต่อรอบแทน 360.38 องศา
จำนวนจุดลอยตัว
พิสัยของจำนวนจุดลอยตัวจึงขึ้นอยู่กับจำนวนบิตหรือเลขโดดที่ใช้สำหรับแทนซิกนิฟิแคนด์ (เลขนัยสำคัญของจำนวน) และเลขชี้กำลัง การแทนจำนวนจุดลอยตัวฐานสองขนาดความเที่ยงสองเท่า (64 บิต) ในระบบคอมพิวเตอร์ทั่วไป จะมีสัมประสิทธิ์ 53 บิต (ซึ่งบิตแรกสุดไม่ต้องเก็บบันทึก) เลขชี้กำลัง 11 บิต และบิตเครื่องหมายอีกหนึ่งบิต จำนวนจุดลอยตัวที่เป็นค่าบวกในรูปแบบนี้จึงมีพิสัยอยู่ที่ประมาณ ถึง (ค่า 308 มาจาก 1023 × log (2) โดยประมาณ และพิสัยของเลขชี้กำลังอยู่ในช่วง [−1022, 1023]) พิสัยโดยรวมทั้งหมดของรูปแบบนี้จึงเก็บบันทึกได้ตั้งแต่ − ไปจนถึง + (ดูเพิ่มที่ IEEE 754)
ความถี่เชิงพื้นที่
ในคณิตศาสตร์ ฟิสิกส์ และวิศวกรรมศาสตร์ ความถี่เชิงพื้นที่ หรือ ความถี่ตามพื้นที่ () เป็นลักษณะของโครงสร้างอะไรก็ได้ที่เกิดเป็นคาบ ๆ (คือเกิดซ้ำ ๆ) ไปตามพื้นที่หรือตามปริภูมิ
เป็นค่าที่วัดโดยส่วนประกอบเชิงรูปไซน์ของโครงสร้าง (กำหนดโดยการแปลงฟูรีเย) ที่เกิดซ้ำ ๆ ต่อระยะทางหน่วยหนึ่ง
หน่วยสากลของความถี่ตามพื้นที่ก็คือ รอบ/เมตร
ในโปรแกรมประมวลผลภาพ ความถี่ตามพื้นที่มักจะมีหน่วยเป็นรอบ/มิลลิเมตร หรือคู่เส้น/มิลลิเมตร (line pairs per millimeter)
IOPS
IOPS () หรือ จำนวนปฏิบัติการ อินพุต/เอาต์พุต ต่อวินาที อ่านออกเสียง "ไอ-ออปส์" ใช้เป็นมาตรวัดประสิทธิภาพการทำงานของหน่วยเก็บข้อมูลทางคอมพิวเตอร์ อาธิเช่น ฮาร์ดดิสก์ และโซลิดสเตตไดรฟ์ ดังเช่นเครื่องมือในการวัดประสิทธิภาพอื่น ๆ ปริมาณ IOPS ไม่ได้รับประกันถึงการใช้งานจริงในชีวิตประจำวัน เป็นเพียงการวัดเชียงเปรียบเทียบเท่านั้น
Super PI
Super PI เป็นที่นิยมของเหล่านักโอเวอร์คล็อก เพื่อใช้ทดสอบความเสถียรของระบบคอมพิวเตอร์ ผลลัพธ์ที่ได้จากโปรแกรมจะนำมาใช้เปรียบเทียบความเร็วในการคำนวณค่าพายกับสถิติโลกและบ่งบอกถึงความสามารถในการโอเวอร์คล็อกของผู้ใช้ โปรแกรมยังสามารถใช้ในการทดสอบความเสถียรของระบบ เพื่อดูว่าระบบเสถียรที่ความเร็วโอเวอร์คล็อกที่ใช้ในการทดสอบหรือไม่ ถ้าหากโปรแกรมสามารถคำนวณค่าพายได้ถึง 32 ล้านตำแหน่งหลังจุดทศนิยมโดยปราศจากความผิดพลาด อาจถือได้ว่าระบบมีความเสถียรในระดับหนึ่ง อย่างไรก็ตาม การทดสอบที่ใช้เวลานานกว่านั้นโดยโปรแกรมอื่นอาจให้ผลลัพธ์ที่ดีกว่า เนื่องจากมีการใช้งาน CPU ที่หนักกว่าและสร้างความอ่อนล้าให้ระบบได้มากกว่า แม้ว่า Super PI จะไม่ได้เป็นโปรแกรมที่สามารถคำนวณค่าพายได้รวดเร็วที่สุด แต่มันก็ยังได้รับความนิยมจากเหล่านักโอเวอร์คล็อก
จำนวนจุดลอยตัว
อีกตัวอย่างหนึ่ง จำนวนที่ไม่สามารถแทนค่าได้อย่าง π (และ π/2) ทำให้การพยายามคำนวณ tan(π/2) จะไม่ได้ผลลัพธ์เป็นค่าอนันต์หรือแม้แต่ภาวะมากเกินเก็บ ฮาร์ดแวร์คอมพิวเตอร์มาตรฐานไม่สามารถคำนวณ tan(π/2) เพราะ tan(π/2) ไม่สามารถแทนค่าได้อย่างแม่นยำ เช่นในการคำนวณในภาษาซีดังนี้
แอร์ซอฟต์กัน
ประสิทธิภาพของปืนบีบี ดูที่ความเร็วของกระสุนที่ยิงออกไป ความเร็วดังกล่าวมีหน่วยวัดเป็นฟุตต่อวินาที (Foot Per Second หรือ FPS) ในปัจจุบันยังไม่มีความเร็วของกระสุนที่เป็นมาตรฐานสำหรับใช้แข่งขันระดับสากล เนื่องจากแต่ละประเทศมีการจำกัดความเร็วสูงสุดของกระสุนแตกต่างกัน ทั้งนี้เพราะมีกติกาและลักษณะสถานที่การเล่นที่แตกต่างกัน โดยในประเทศไทยปัจจุบันจำกัดความเร็วไม่เกิน 400 ฟุตต่อวินาที (และมีแนวโน้มว่าจะลดลงในอนาคต) โดยใช้กระสุนเส้นผ่านศูนย์กลาง 6 มม. น้ำหนัก 0.20 กรัม เป็นมาตรฐานในการแข่งขัน
เลขมัค
มัค () ย่อ Ma คือสัดส่วนของความเร็วต่อความเร็วเสียง เลขมัคปกติจะใช้กับวัตถุที่เดินทางด้วยความเร็วสูงในของเหลว และของเหลวที่ไหลด้วยความเร็วสูงในช่องแคบ ๆ หรืออุโมงค์ลม และเนื่องจากเป็นสัดส่วนของความเร็วสองค่า เลขมัคจึงไม่มีหน่วย ที่สภาวะระดับทะเลมาตรฐาน มัค 1 เท่ากับความเร็ว 1,225.04 กิโลเมตร ต่อชั่วโมง (761.2 ไมล์ต่อชั่วโมง ในบรรยากาศ)
การหารด้วยศูนย์
สำหรับการเขียนโปรแกรมคอมพิวเตอร์ การหารด้วยศูนย์ในจำนวนเต็มอาจทำให้โปรแกรมเกิดข้อผิดพลาดจนหยุดทำงาน หรือในกรณีของจำนวนจุดลอยตัวอาจให้ผลลัพธ์เป็นค่าพิเศษที่เรียกว่า NaN (Not a Number)
เครื่องหมายบวกและลบ
ในคณิตศาสตร์และภาษาโปรแกรมส่วนใหญ่ กฎลำดับการดำเนินการหมายความว่า −5 เท่ากับ −25 เลขชี้กำลังมีความสำคัญมากกว่าตัวดำเนินการลบแบบเอกภาค ที่สำคัญกว่าการคูณหรือการหาร อย่างไรก็ตามในภาษาโปรแกรมบางภาษาและไมโครซอฟท์ เอกซ์เซล ตัวดำเนินการเอกภาคสำคัญที่สุด ดังนั้น −5^2 คือ 25 แต่ 0−5^2 คือ −25
จำนวนจุดลอยตัว
การแก้ปัญหาทางเทคนิคโดยละเอียดสำหรับการเขียนซอฟต์แวร์จุดลอยตัวคุณภาพสูงเป็นเรื่องเกินขอบเขตของบทความนี้ ผู้อ่านกรุณาดูเพิ่มเติมในแหล่งอ้างอิงที่ท้ายบทความ ต่อไปนี้จะอธิบายเทคนิคอย่างง่ายเพียงเล็กน้อย
จำนวนจุดลอยตัว
เมื่อปัดเศษให้เหลือ 24 บิตจะกลายเป็น
เมนเฟรมคอมพิวเตอร์
เครื่องเมนเฟรมนิยมมาใช้ในงานที่มีการรับและแสดงผลข้อมูลจำนวนมาก ๆ เครื่องรุ่นใหม่ ๆ จะได้การพัฒนาให้มีหน่วยประมวลผลหลายหน่วยทำงานพร้อม ๆ กันเช่นเดียวกับซูเปอร์คอมพิวเตอร์ แต่มีจำนวณประมวลผลน้อยกว่าหน่วยเมนเฟรมจัดอยู่ในความเร็วของหน่วยเมกะฟรอป (megaflop) หรือการคำนวณหนึ่งล้านครั้งในหนึ่งวินาที
ความเร็วแนวเล็ง
การวัดความเร็วแนวเล็งของดาวฤกษ์หรือวัตถุส่องสว่างอื่นที่อยู่ห่างไกลสามารถทำได้โดยการตรวจสอบสเปกตรัมความละเอียดสูงและเปรียบเทียบคลื่นความถี่ที่ได้กับแถบสเปกตรัมที่เราทราบค่าแล้วจากห้องทดลอง ตามปกติ ความเร็วแนวเล็งที่เป็นบวกหมายถึงวัตถุกำลังเคลื่อนห่างออกไป ถ้าความเร็วแนวเล็งเป็นลบ หมายถึงวัตถุกำลังเคลื่อนใกล้เข้ามา
สมการของการเคลื่อนที่
ความเร็วของวัตถุที่ตำแหน่งใด ๆ
ซูเปอร์คอมพิวเตอร์
ซูเปอร์คอมพิวเตอร์ (supercomputer) เป็นคอมพิวเตอร์ที่มีความสามารถสูงที่สุดในกลุ่มมีขนาดใหญ่ ซูเปอร์คอมพิวเตอร์ (Super Computer) สามารถประมวลผลข้อมูลในปริมาณมากรวมถึงการประมวลผลงานที่มีรูปแบบอันซับซ้อน มีความรวดเร็วในการคำนวณได้มากกว่าหนึ่งล้านล้านต่อวินาที ( 1 Trillion calculations per second ) ภายในซูเปอร์คอมพิวเตอร์ สามารถรองรับโปรเซสเซอร์ได้มากกว่า 100 ตัว หน่ายวัดความเร็วของคอมพิวเตอร์นี้คือ หน่วยจิกะฟลอบ (Gigaflop)
ฟล็อปส์
การปฏิบัติการจุดลอยตัวต่อวินาที หรือ ฟล็อปส์ () เป็นหน่วยวัดสมรรถนะในการทำงานของคอมพิวเตอร์ ฟล็อปส์จะนับจำนวนชุดคำสั่งในการประมวลผลจำนวนจุดลอยตัวที่สามารถทำได้ใน 1 วินาที นิยมใช้ในวงการคอมพิวเตอร์สมรรถนะสูง
การกำหนดค่า
โปรแกรมเมอร์ ระดับเริ่มต้นเกิดความสับสนบ่อยครั้งระหว่างการกำหนดค่ากับตัวดำเนินการสัมพันธ์ของภาวะเท่ากัน เนื่องจาก = หมายถึงภาวะเท่ากันในทางคณิตศาสตร์ และถูกใช้เป็นตัวดำเนินการกำหนดค่าในหลายภาษา แต่การกำหนดค่าคือการเปลี่ยนแปลงค่าของตัวแปร ในขณะที่การทดสอบภาวะเท่ากันจะตรวจสอบนิพจน์สองนิพจน์ว่ามีค่าเหมือนกันหรือไม่
จำนวนจุดลอยตัว
ข้อเท็จจริงที่ว่าจำนวนจุดลอยตัวไม่สามารถแทนค่าจำนวนจริงทั้งหมดได้อย่างแม่นยำ และการดำเนินการจุดลอยตัวไม่อาจใช้แทนการดำเนินการเลขคณิตที่แท้จริงได้ นำมาซึ่งสถานการณ์ที่ไม่คาดหวัง สิ่งนี้เกี่ยวข้องกับความเที่ยงที่มีขนาดจำกัดที่คอมพิวเตอร์ใช้แทนจำนวนต่าง ๆ
การวัดเปรียบเทียบสมรรถนะของคอมพิวเตอร์
เป็นที่ทราบกันในกลุ่มอุตสาหกรรมคอมพิวเตอร์ว่า โปรแกรม Benchmark นั้นไม่มีมาตรฐานที่กำหนดอย่างชัดเจน หากแต่ Index หรือดรรชนีชี้วัดที่ได้จากแต่ละโปรแกรมมีพื้นฐานมาจากการทดสอบเทียบกับเครื่องอ้างอิงที่ผู้ผลิตโปรแกรมได้กำหนดขึ้น โปรแกรมสำหรับทดสอบ Benchmark ในท้องตลาดปัจจุบันมีจากหลายๆค่ายผู้ผลิต และมาจากหลายกลุ่มทำงาน ต่างค่ายต่างคิดต่างค่ายต่างทำ
เครื่องมือวัด
กิจกรรม () หมายถึงพลังงานโดยรวมตลอดช่วงเวลาที่กระบวนการนั้นดำเนินไป มิติของมันเหมือนกับของ โมเมนตัมเชิงมุม
จำนวนจุดลอยตัว
ในที่นี้จะคำนวณด้วยเลขคณิต "double" แบบ IEEE (ซิกนิฟิแคนด์ที่มีความเที่ยง 53 บิต)