It is currently Sun 23 Sep 2018 12:07 am

All times are UTC + 7 hours




Post new topic Reply to topic  [ 1 post ] 
Author Message
 Post subject: ปัญหาบวกลบเลขทศนิยมในคอมพิวเตอร์แล้วผิดพลาด
PostPosted: Mon 09 Jul 2018 6:03 pm 
Offline
Site Admin

Joined: Fri 01 May 2009 8:55 pm
Posts: 2093
ปัญหานี้ฝรั่งจะเรียกว่า floating calculation problem เป็นข้อจำกัดของเลขฐาน 2 ในคอมพิวเตอร์

ลอง Key ค่าเหล่านี้คำนวนใน Excel

Code:
C2 = 100.2-100.1
C3 = 100.02-100.01
C4 = 100.002-100.001


แล้วให้ปรับค่าทศนิยมเป็น 18 ตำแหน่ง ควรจะได้ตามหลักคณิตศาสตร์ดังนี้

Code:
C2 = 0.100000000000000000
C3 = 0.010000000000000000
C4 = 0.001000000000000000


แต่ผลลัพธ์ที่ได้คือ

Code:
C2 = 0.100000000000009
C3 = 0.00999999999999091
C4 = 0.000999999999990564


สาเหตุเกิดจากเลขฐาน 2 ที่ใช้ในระบบคอมพิวเตอร์ ดังนั้นเวลาบวกลบคูณหารทุกครั้ง ให้ใช้ฟังก์ชัน ROUND เข้าช่วยเสมอเพื่อความปลอดภัย

Code:
=ROUND(ค่า,จำนวนตำแหน่งทศนิยมที่ต้องการแสดง)


Top
 Profile  
 
Display posts from previous:  Sort by  
Post new topic Reply to topic  [ 1 post ] 

All times are UTC + 7 hours


Who is online

Users browsing this forum: No registered users and 3 guests


You cannot post new topics in this forum
You cannot reply to topics in this forum
You cannot edit your posts in this forum
You cannot delete your posts in this forum
You cannot post attachments in this forum

Search for:
Jump to: