EXCEL GRAPH
Sheet1
| Operator # | Method Name | Analyte Size (ml) | End Point Volume (ml) | mV Equivalence Point | Potentiometric Reading (%Cl Concentration) | Calculated Concentration NaCl (%) | Target Concentration (%) | % Accuracy | % Error | Mean | 0.0374162963 | ||||||||||||||||||||
| 1 | < 1% NaCl | 5 | 0.186 | 257.3 | 0.0132 | 0.0217 | 0.020 | 108.74 | 8.73 | Standard Deviation | 0.0195477361 | ||||||||||||||||||||
| 1 | < 1% NaCl | 5 | 0.189 | 254.3 | 0.0134 | 0.0221 | 0.020 | 110.39 | 10.39 | %RSD | 52.2439097731 | ||||||||||||||||||||
| 1 | < 1% NaCl | 5 | 0.188 | 256.5 | 0.0134 | 0.0220 | 0.020 | 110.22 | 10.22 | ||||||||||||||||||||||
| 1 | < 1% NaCl | 5 | 0.540 | 256.7 | 0.0383 | 0.0632 | 0.060 | 105.33 | 5.33 | ||||||||||||||||||||||
| 1 | < 1% NaCl | 5 | 0.530 | 255.6 | 0.0376 | 0.0620 | 0.060 | 103.40 | 3.40 | ||||||||||||||||||||||
| 1 | < 1% NaCl | 5 | 0.523 | 256.9 | 0.0371 | 0.0612 | 0.060 | 101.97 | 1.97 | ||||||||||||||||||||||
| 1 | < 1% NaCl | 5 | 0.842 | 258.3 | 0.0597 | 0.0985 | 0.100 | 98.54 | -1.46 | ||||||||||||||||||||||
| 1 | < 1% NaCl | 5 | 0.844 | 260.0 | 0.0599 | 0.0988 | 0.100 | 98.79 | -1.21 | ||||||||||||||||||||||
| 1 | < 1% NaCl | 5 | 0.851 | 257.8 | 0.0604 | 0.0996 | 0.100 | 99.58 | -0.42 | ||||||||||||||||||||||
| 2 | < 1% NaCl | 5 | 0.198 | 255.8 | 0.0142 | 0.0234 | 0.020 | 116.90 | 16.90 | ||||||||||||||||||||||
| 2 | < 1% NaCl | 5 | 0.195 | 255.5 | 0.0138 | 0.0228 | 0.020 | 113.85 | 13.85 | ||||||||||||||||||||||
| 2 | < 1% NaCl | 5 | 0.187 | 252.4 | 0.0133 | 0.0219 | 0.020 | 109.56 | 9.56 | ||||||||||||||||||||||
| 2 | < 1% NaCl | 5 | 0.533 | 258.1 | 0.0378 | 0.0623 | 0.060 | 103.90 | 3.90 | ||||||||||||||||||||||
| 2 | < 1% NaCl | 5 | 0.532 | 257.2 | 0.0377 | 0.0623 | 0.060 | 103.76 | 3.76 | ||||||||||||||||||||||
| 2 | < 1% NaCl | 5 | 0.528 | 258.5 | 0.0374 | 0.0618 | 0.060 | 102.93 | 2.93 | ||||||||||||||||||||||
| 2 | < 1% NaCl | 5 | 0.844 | 255.3 | 0.0598 | 0.0987 | 0.100 | 98.72 | -1.28 | ||||||||||||||||||||||
| 2 | < 1% NaCl | 5 | 0.852 | 250.2 | 0.0604 | 0.0996 | 0.100 | 99.63 | -0.37 | ||||||||||||||||||||||
| 2 | < 1% NaCl | 5 | 0.860 | 249.5 | 0.0610 | 0.1007 | 0.100 | 100.67 | 0.67 | ||||||||||||||||||||||
| 3 | < 1% NaCl | 5 | 0.203 | 246.5 | 0.0144 | 0.0237 | 0.020 | 118.55 | 18.55 | ||||||||||||||||||||||
| 3 | < 1% NaCl | 5 | 0.194 | 256.3 | 0.0139 | 0.0229 | 0.020 | 114.51 | 14.51 | ||||||||||||||||||||||
| 3 | < 1% NaCl | 5 | 0.197 | 254.8 | 0.0141 | 0.0233 | 0.020 | 116.57 | 16.57 | ||||||||||||||||||||||
| 3 | < 1% NaCl | 5 | 0.541 | 253.8 | 0.0384 | 0.0633 | 0.060 | 105.55 | 5.54 | ||||||||||||||||||||||
| 3 | < 1% NaCl | 5 | 0.541 | 255.2 | 0.0384 | 0.0633 | 0.060 | 105.55 | 5.54 | ||||||||||||||||||||||
| 3 | < 1% NaCl | 5 | 0.533 | 254.2 | 0.0378 | 0.0624 | 0.060 | 104.01 | 4.00 | ||||||||||||||||||||||
| 3 | < 1% NaCl | 5 | 0.857 | 255.2 | 0.0613 | 0.1011 | 0.100 | 101.10 | 1.10 | ||||||||||||||||||||||
| 3 | < 1% NaCl | 5 | 0.866 | 258.1 | 0.0620 | 0.1023 | 0.100 | 102.28 | 2.28 | ||||||||||||||||||||||
| 3 | < 1% NaCl | 5 | 0.864 | 256.9 | 0.0618 | 0.1019 | 0.100 | 101.92 | 1.92 | ||||||||||||||||||||||
| 1 | 1-2.5% NaCl | 2 | 3.388 | 253.0 | 0.601 | 0.991 | 1.000 | 99.10 | -0.9 | ||||||||||||||||||||||
| 1 | 1-2.5% NaCl | 2 | 3.419 | 253.3 | 0.606 | 1.000 | 1.000 | 99.99 | -0.0 | ||||||||||||||||||||||
| 1 | 1-2.5% NaCl | 2 | 3.347 | 252.9 | 0.593 | 0.979 | 1.000 | 97.91 | -2.1 | ||||||||||||||||||||||
| 1 | 1-2.5% NaCl | 2 | 5.039 | 251.4 | 0.893 | 1.474 | 1.500 | 98.25 | -1.8 | ||||||||||||||||||||||
| 1 | 1-2.5% NaCl | 2 | 5.116 | 249.0 | 0.907 | 1.496 | 1.500 | 99.76 | -0.2 | ||||||||||||||||||||||
| 1 | 1-2.5% NaCl | 2 | 5.096 | 254.4 | 0.903 | 1.491 | 1.500 | 99.37 | -0.6 | ||||||||||||||||||||||
| 1 | 1-2.5% NaCl | 2 | 6.664 | 254.7 | 1.181 | 1.949 | 2.000 | 97.46 | -2.5 | ||||||||||||||||||||||
| 1 | 1-2.5% NaCl | 2 | 6.694 | 251.6 | 1.187 | 1.958 | 2.000 | 97.89 | -2.1 | ||||||||||||||||||||||
| 1 | 1-2.5% NaCl | 2 | 6.758 | 250.6 | 1.198 | 1.977 | 2.000 | 98.84 | -1.2 | ||||||||||||||||||||||
| 2 | 1-2.5% NaCl | 2 | 3.341 | 251.9 | 0.592 | 0.977 | 1.000 | 97.73 | -2.3 | ||||||||||||||||||||||
| 2 | 1-2.5% NaCl | 2 | 3.363 | 249.4 | 0.596 | 0.984 | 1.000 | 98.37 | -1.6 | ||||||||||||||||||||||
| 2 | 1-2.5% NaCl | 2 | 3.332 | 249.8 | 0.591 | 0.974 | 1.000 | 97.45 | -2.6 | ||||||||||||||||||||||
| 2 | 1-2.5% NaCl | 2 | 5.049 | 250.2 | 0.895 | 1.477 | 1.500 | 98.45 | -1.5 | ||||||||||||||||||||||
| 2 | 1-2.5% NaCl | 2 | 5.069 | 250.0 | 0.899 | 1.483 | 1.500 | 98.85 | -1.1 | ||||||||||||||||||||||
| 2 | 1-2.5% NaCl | 2 | 5.131 | 251.4 | 0.910 | 1.501 | 1.500 | 100.05 | 0.0 | ||||||||||||||||||||||
| 2 | 1-2.5% NaCl | 2 | 6.784 | 253.5 | 1.203 | 1.984 | 2.000 | 99.21 | -0.8 | ||||||||||||||||||||||
| 2 | 1-2.5% NaCl | 2 | 6.778 | 252.2 | 1.201 | 1.982 | 2.000 | 99.12 | -0.9 | ||||||||||||||||||||||
| 2 | 1-2.5% NaCl | 2 | 6.742 | 253.0 | 1.195 | 1.972 | 2.000 | 98.60 | -1.4 | ||||||||||||||||||||||
| 3 | 1-2.5% NaCl | 2 | 3.540 | 254.3 | 0.628 | 1.035 | 1.000 | 103.54 | 3.5 | ||||||||||||||||||||||
| 3 | 1-2.5% NaCl | 2 | 3.499 | 253.5 | 0.620 | 1.023 | 1.000 | 102.33 | 2.3 | ||||||||||||||||||||||
| 3 | 1-2.5% NaCl | 2 | 3.504 | 252.6 | 0.621 | 1.025 | 1.000 | 102.49 | 2.5 | ||||||||||||||||||||||
| 3 | 1-2.5% NaCl | 2 | 5.071 | 271.8 | 0.899 | 1.483 | 1.500 | 98.88 | -1.1 | ||||||||||||||||||||||
| 3 | 1-2.5% NaCl | 2 | 5.008 | 252.1 | 0.888 | 1.465 | 1.500 | 97.66 | -2.3 | ||||||||||||||||||||||
| 3 | 1-2.5% NaCl | 2 | 5.136 | 250.5 | 0.910 | 1.502 | 1.500 | 100.14 | 0.1 | ||||||||||||||||||||||
| 3 | 1-2.5% NaCl | 2 | 6.783 | 253.5 | 1.202 | 1.984 | 2.000 | 99.19 | -0.8 | ||||||||||||||||||||||
| 3 | 1-2.5% NaCl | 2 | 6.734 | 248.7 | 1.194 | 1.970 | 2.000 | 98.48 | -1.5 | ||||||||||||||||||||||
| 3 | 1-2.5% NaCl | 2 | 6.821 | 252.1 | 1.209 | 1.995 | 2.000 | 99.75 | -0.2 | ||||||||||||||||||||||
| 1 | > 2.5% NaCl | 1 | 4.389 | 248.0 | 1.556 | 2.567 | 2.600 | 98.74 | -1.3 | ||||||||||||||||||||||
| 1 | > 2.5% NaCl | 1 | 4.444 | 250.3 | 1.576 | 2.600 | 2.600 | 100.00 | -0.0 | ||||||||||||||||||||||
| 1 | > 2.5% NaCl | 1 | 4.470 | 249.0 | 1.585 | 2.615 | 2.600 | 100.56 | 0.6 | ||||||||||||||||||||||
| 1 | > 2.5% NaCl | 1 | 4.804 | 251.1 | 1.703 | 2.810 | 2.800 | 100.36 | 0.4 | ||||||||||||||||||||||
| 1 | > 2.5% NaCl | 1 | 4.810 | 250.6 | 1.705 | 2.814 | 2.800 | 100.49 | 0.5 | ||||||||||||||||||||||
| 1 | > 2.5% NaCl | 1 | 4.827 | 251.5 | 1.711 | 2.823 | 2.800 | 100.84 | 0.8 | ||||||||||||||||||||||
| 1 | > 2.5% NaCl | 1 | 5.136 | 249.9 | 1.821 | 3.004 | 3.000 | 100.14 | 0.1 | ||||||||||||||||||||||
| 1 | > 2.5% NaCl | 1 | 5.131 | 249.3 | 1.819 | 3.002 | 3.000 | 100.07 | 0.1 | ||||||||||||||||||||||
| 1 | > 2.5% NaCl | 1 | 5.168 | 251.8 | 1.832 | 3.023 | 3.000 | 100.78 | 0.8 | ||||||||||||||||||||||
| 2 | > 2.5% NaCl | 1 | 4.452 | 249.3 | 1.579 | 2.605 | 2.600 | 100.17 | 0.2 | ||||||||||||||||||||||
| 2 | > 2.5% NaCl | 1 | 4.464 | 248.8 | 1.583 | 2.611 | 2.600 | 100.43 | 0.4 | ||||||||||||||||||||||
| 2 | > 2.5% NaCl | 1 | 4.473 | 248.9 | 1.586 | 2.616 | 2.600 | 100.63 | 0.6 | ||||||||||||||||||||||
| 2 | > 2.5% NaCl | 1 | 4.894 | 249.8 | 1.735 | 2.863 | 2.800 | 102.25 | 2.2 | ||||||||||||||||||||||
| 2 | > 2.5% NaCl | 1 | 4.902 | 252.0 | 1.738 | 2.868 | 2.800 | 102.41 | 2.4 | ||||||||||||||||||||||
| 2 | > 2.5% NaCl | 1 | 4.908 | 249.6 | 1.740 | 2.871 | 2.800 | 102.53 | 2.5 | ||||||||||||||||||||||
| 2 | > 2.5% NaCl | 1 | 4.999 | 251.2 | 1.773 | 2.925 | 3.000 | 97.49 | -2.5 | ||||||||||||||||||||||
| 2 | > 2.5% NaCl | 1 | 5.067 | 250.8 | 1.796 | 2.964 | 3.000 | 98.80 | -1.2 | ||||||||||||||||||||||
| 2 | > 2.5% NaCl | 1 | 5.181 | 249.7 | 1.837 | 3.031 | 3.000 | 101.03 | 1.0 | ||||||||||||||||||||||
| 3 | > 2.5% NaCl | 1 | 4.438 | 252.7 | 1.574 | 2.596 | 2.600 | 99.86 | -0.1 | ||||||||||||||||||||||
| 3 | > 2.5% NaCl | 1 | 4.443 | 250.8 | 1.575 | 2.599 | 2.600 | 99.95 | -0.0 | ||||||||||||||||||||||
| 3 | > 2.5% NaCl | 1 | 4.384 | 252.6 | 1.554 | 2.564 | 2.600 | 98.63 | -1.4 | ||||||||||||||||||||||
| 3 | > 2.5% NaCl | 1 | 4.879 | 254.6 | 1.730 | 2.854 | 2.800 | 101.94 | 1.9 | ||||||||||||||||||||||
| 3 | > 2.5% NaCl | 1 | 4.898 | 249.7 | 1.737 | 2.865 | 2.800 | 102.33 | 2.3 | ||||||||||||||||||||||
| 3 | > 2.5% NaCl | 1 | 4.917 | 250.7 | 1.743 | 2.876 | 2.800 | 102.73 | 2.7 | ||||||||||||||||||||||
| 3 | > 2.5% NaCl | 1 | 5.184 | 248.2 | 1.838 | 3.032 | 3.000 | 101.07 | 1.1 | ||||||||||||||||||||||
| 3 | > 2.5% NaCl | 1 | 5.151 | 254.7 | 1.826 | 3.013 | 3.000 | 100.43 | 0.4 | ||||||||||||||||||||||
| 3 | > 2.5% NaCl | 1 | 5.255 | 250.3 | 1.863 | 3.074 | 3.000 | 102.47 | 2.5 | ||||||||||||||||||||||
| < 1% NaCl Method | |||||||||||||||||||||||||||||||
| 0.0322537645 | |||||||||||||||||||||||||||||||
| Operator # | Target Concentration | Average End Point Volume | Average Calculated Concentration | Standard Deviation (Concentration) | % Relative Standard Deviation (RSD) | 0.0617368889 | |||||||||||||||||||||||||
| 1 | 0.02 | 0.188 | 0.022 | 0.000 | 0.828 | 52.2439097731 | |||||||||||||||||||||||||
| 1 | 0.06 | 0.531 | 0.062 | 0.001 | 1.626 | ||||||||||||||||||||||||||
| 1 | 0.10 | 0.846 | 0.099 | 0.001 | 0.549 | ||||||||||||||||||||||||||
| 2 | 0.02 | 0.193 | 0.023 | 0.001 | 3.252 | ||||||||||||||||||||||||||
| 2 | 0.06 | 0.531 | 0.062 | 0.000 | 0.503 | ||||||||||||||||||||||||||
| 2 | 0.10 | 0.852 | 0.100 | 0.001 | 0.977 | ||||||||||||||||||||||||||
| 3 | 0.02 | 0.198 | 0.023 | 0.000 | 1.734 | ||||||||||||||||||||||||||
| 3 | 0.06 | 0.538 | 0.063 | 0.001 | 0.847 | ||||||||||||||||||||||||||
| 3 | 0.10 | 0.862 | 0.102 | 0.001 | 0.598 | ||||||||||||||||||||||||||
| 1-2.5% NaCl Method | |||||||||||||||||||||||||||||||
| Operator # | Target Concentration | Average End Point Volume | Average Calculated Concentration | Standard Deviation (Concentration) | % Relative Standard Deviation (RSD) | ||||||||||||||||||||||||||
| 1 | 1.00 | 3.385 | 0.990 | 0.010 | 1.056 | ||||||||||||||||||||||||||
| 1 | 1.50 | 5.084 | 1.487 | 0.012 | 0.791 | ||||||||||||||||||||||||||
| 1 | 2.00 | 6.705 | 1.961 | 0.014 | 0.718 | ||||||||||||||||||||||||||
| 2 | 1.00 | 3.345 | 0.979 | 0.005 | 0.486 | ||||||||||||||||||||||||||
| 2 | 1.50 | 5.083 | 1.487 | 0.012 | 0.837 | ||||||||||||||||||||||||||
| 2 | 2.00 | 6.768 | 1.979 | 0.007 | 0.333 | ||||||||||||||||||||||||||
| 3 | 1.00 | 3.514 | 1.028 | 0.007 | 0.637 | ||||||||||||||||||||||||||
| 3 | 1.50 | 5.072 | 1.483 | 0.019 | 1.256 | ||||||||||||||||||||||||||
| 3 | 2.00 | 6.779 | 1.983 | 0.013 | 0.642 | ||||||||||||||||||||||||||
| > 2.5% NaCl | |||||||||||||||||||||||||||||||
| Operator # | Target Concentration | Average End Point Volume | Average Calculated Concentration | Standard Deviation (Concentration) | % Relative Standard Deviation (RSD) | ||||||||||||||||||||||||||
| 1 | 2.60 | 4.434 | 2.594 | 0.024 | 0.934 | ||||||||||||||||||||||||||
| 1 | 2.80 | 4.814 | 2.816 | 0.007 | 0.245 | ||||||||||||||||||||||||||
| 1 | 3.00 | 5.145 | 3.010 | 0.012 | 0.392 | ||||||||||||||||||||||||||
| 2 | 2.60 | 4.463 | 2.611 | 0.006 | 0.228 | ||||||||||||||||||||||||||
| 2 | 2.80 | 4.901 | 2.867 | 0.004 | 0.139 | ||||||||||||||||||||||||||
| 2 | 3.00 | 5.082 | 2.973 | 0.054 | 1.807 | ||||||||||||||||||||||||||
| 3 | 2.60 | 4.422 | 2.586 | 0.019 | 0.740 | ||||||||||||||||||||||||||
| 3 | 2.80 | 4.898 | 2.865 | 0.011 | 0.386 | ||||||||||||||||||||||||||
| 3 | 3.00 | 5.197 | 3.040 | 0.031 | 1.027 |
<1% NaCl Concentration
Calculated Concentration NaCl (%) 0.186 0.189 0.188 0.54 0.53 0.52300000000000002 0.84199999999999997 0.84399999999999997 0.85099999999999998 0.19800000000000001 0.19500000000000001 0.187 0.53300000000000003 0.53200000000000003 0.52800000000000002 0.84399999999999997 0.85199999999999998 0.86 0.20300000000000001 0.19395999999999999 0.19703699999999999 0.54100000000000004 0.54100000000000004 0.53300000000000003 0.85660000000000003 0.86639999999999995 0.86360000000000003 2.1746999999999999E-2 2.2076999999999999E-2 2.2044000000000001E-2 6.3195000000000001E-2 6.2039999999999998E-2 6.1182E-2 9.8538000000000001E-2 9.8785499999999998E-2 9.9577499999999999E-2 2.3380499999999999E-2 2.2769999999999999E-2 2.1911999999999997E-2 6.2336999999999997E-2 6.2254499999999997E-2 6.1759499999999995E-2 9.8719500000000002E-2 9.9626999999999993E-2 0.10066649999999999 2.3710499999999999E-2 2.2901999999999999E-2 2.3314499999999998E-2 6.3326999999999994E-2 6.3326999999999994E-2 6.2402999999999993E-2 0.10109549999999999 0.1022835 0.1019205End Point Volume (mL)
Calculated Chloride Concentration
> 2.5% NaCl Concentration
> 2.5% NaCl Concentration 4.3890000000000002 4.444 4.47 4.8040000000000003 4.8099999999999996 4.827 5.1360000000000001 5.1310000000000002 5.1680000000000001 4.452 4.4640000000000004 4.4729999999999 999 4.8940000000000001 4.9020000000000001 4.9080000000000004 4.9989999999999997 5.0670000000000002 5.181 4.4379999999999997 4.4429999999999996 4.3840000000000003 4.8789999999999996 4.8979999999999997 4.9169999999999998 5.1840000000000002 5.1509999999999998 5.2549999999999999 1.5559000000000001 1.5757000000000001 1.5846 1.7031000000000001 1.7053 1.7112000000000001 1.8207 1.8193999999999999 1.8324 1.5785 1.5826 1.5857000000000001 1.7351000000000001 1.7379 1.7399 1.7725 1.7963 1.8369 1.5734999999999999 1.575 1.5542 1.7299 1.7364999999999999 1.7433000000000001 1.8376999999999999 1.826000000000000 1 1.863End Point Volume (mL)
Calculated Chloride Concentration
1 - 2.5% NaCl Concentration 3.3879999999999999 3.419 3.347 5.0389999999999997 5.1159999999999997 5.0960000000000001 6.6639999999999997 6.694 6.758 3.3410000000000002 3.363 3.3319999999999999 5.0490000000000004 5.069 5.1310000000000002 6.7839999999999998 6.7779999999999996 6.742 3.54 3.4990000000000001 3.504 5.0709999999999997 5.008 5.1360000000000001 6.7830000000000004 6.734 6.8209999999999997 0.60060000000000002 0.60601000000000005 0.59338000000000002 0.89315 0.90686999999999995 0.90336000000000005 1.1813 1.1866000000000001 1.198 0.59233000000000002 0.59621000000000002 0.59057999999999999 0.89503999999999995 0.89863999999999999 0.90952 1.2024999999999999 1.2014 1.1951000000000001 0.62751000000000001 0.62021000000000004 0.62116000000000005 0.89886999999999995 0.88778000000000001 0.91037000000000001 1.2022999999999999 1.1937 1.2091000000000001End Point Volume (mL)
Calculated Chloride Concentraation
Sheet2
| Concentration % | |||||||
| Test | 1.0 | 1.5 | 2.0 | 2.6 | 2.8 | 3.0 | |
| 1 | Reading | ||||||
| Conversion | |||||||
| 2 | Reading | ||||||
| Conversion | |||||||
| 3 | Reading | ||||||
| Conversion |