Sqlserver
 sql >> डेटाबेस >  >> RDS >> Sqlserver

SQL सर्वर:दशमलव प्रेसिजन/स्केल अजीब परिणाम दे रहे हैं

दस्तावेज़ीकरण मूल्य के जादू के रूप में थोड़ा अधूरा है 6 और अधिकतम कब लागू करें फ़ंक्शन, लेकिन यहाँ उस दस्तावेज़ीकरण के आधार पर मेरे निष्कर्षों की एक तालिका है।

जैसा कि कहा गया है, विभाजन के सूत्र हैं:

और, जैसा कि आप स्वयं हाइलाइट करते हैं, हमारे पास फ़ुटनोट है:

तो, मैंने अपनी स्प्रैडशीट में जो बनाया है वह यह है:

p1 s1 p2 s2 prInit srInit prOver prAdjusted srAdjusted
38 16 38 16 93     55     55     38         6
28 16 28 16 73     45     35     38         10
29 16 29 16 75     46     37     38         9

इसलिए, मैं pr का उपयोग कर रहा हूं और sr परिणाम की सटीकता और पैमाने को इंगित करने के लिए। प्रिनिट और srInit सूत्र दस्तावेज़ीकरण से बिल्कुल फ़ोरमला हैं। जैसा कि हम देख सकते हैं, सभी 3 मामलों में, परिणाम की सटीकता 38 . से काफी अधिक है और इसलिए फुटनोट लागू होता है। प्रोओवर बस max(0,prInit - 38) . है - यदि फुटनोट लागू होता है तो हमें कितनी सटीकता को समायोजित करना होगा। prAdjusted बस है prInit - PROver . हम तीनों मामलों में देख सकते हैं कि परिणाम की अंतिम सटीकता 38 . है ।

अगर मैं वही लागू करता हूं तराजू के लिए समायोजन कारक तो मुझे 0 . के परिणाम प्राप्त होंगे , 10 और 9 . लेकिन हम देख सकते हैं कि (38,16) . के लिए आपका परिणाम केस का पैमाना 6 . होता है . तो मेरा मानना ​​है कि max(6,... दस्तावेज़ीकरण का हिस्सा वास्तव में लागू होता है। तो srAdjusted . के लिए मेरा अंतिम सूत्र है अधिकतम(6,srInit-proOver) और अब मेरा अंतिम समायोजित मान आपके परिणामों से मेल खाते प्रतीत होते हैं।

और, ज़ाहिर है, अगर हम दशमलव , हम देख सकते हैं कि डिफ़ॉल्ट सटीकता और पैमाना, यदि आप उन्हें निर्दिष्ट नहीं करते हैं, तो (18,0) . हैं , इसलिए जब आपने सटीकता और पैमाना निर्दिष्ट नहीं किया था, तब की पंक्ति यहां दी गई है:

p1 s1 p2 s2 prInit srInit prOver prAdjusted srAdjusted
18 0  18 0  37     19     0      37         19



  1. Database
  2.   
  3. Mysql
  4.   
  5. Oracle
  6.   
  7. Sqlserver
  8.   
  9. PostgreSQL
  10.   
  11. Access
  12.   
  13. SQLite
  14.   
  15. MariaDB
  1. SQL सर्वर एक्सप्रेस प्रदर्शन समस्या

  2. SQL सर्वर डेटाबेस ऑब्जेक्ट्स की सूची देखते समय सिस्टम ऑब्जेक्ट्स की पहचान कैसे करें?

  3. SQL सर्वर 2008 R2, दूसरे कॉलम के प्रत्येक विशिष्ट मान के लिए कॉलम के एक मान का चयन करें

  4. SQL सर्वर में कॉलम मान के आधार पर रिकॉर्ड्स का चयन करना

  5. केवल SQL Server 2008 के साथ डेटा पुनर्स्थापित करें