Р - это вероятность попадания внутрь рассматриваемого интервала.
Доверительный интервал характеризует воспроизводимость и в определенной степени правильность результатов химического анализа.
) Найдем доверительный интервал:
Коэффициент Стьюдента t(0,95;14)=2,15
Среднее значение 0,198±0,003 мг/(дм3∙мин)
В таблице П4 приведен расчет операционной
стабильности в программе Excel.
Таблица П4 - Расчет операционной стабильности в программе Excel
|
Определяемая величина |
Название функции в среде Excel |
Значение |
|
Среднее значение |
СРЗНАЧ |
0,19848 |
|
Дисперсия |
ДИСП |
2,84503E-05 |
|
стандартное отклонение |
СТАНДОТКЛОН |
0,005334 |
|
доверительный интервал |
ДОВЕРИТ |
0,003 |
Таким образом, среднее значение составило
0,198±0,003 мг/(дм3∙мин)
Приложение 2
Расчет параметров зависимости ответа биосенсора от ГГС
Расчет из программе Sigma Plot.: Hyperbola; Single Rectangular, 2 Parameter
=a*x/(b+x)
Results for the Overall Best-Fit
Solution:
Доверительный интервал для коэфициентов а и b
рассчитывали по формуле:
где s - стандартное отклонение;
t(P,f) - коэффициент Стюдента; Р=0,95 - доверительная вероятность; f - число
степеней свободы; n - число измерений; St.Er. - стандартная ошибка,
определяемая отношением стандартного отклонения к
.
Cтандартной ошибки, рассчитанная в программе SigmaPlot, обозначается - Std.
Error.
При n=24 t(0,95;22)=2,10
![]()
Таким образом, a ± Δa = 2,37 ± 0,06± Δb = 44 ± 2
Расчет параметров уравнения прямой в программе Sigma Plot : Polynomial; Linear
= y0+a*x
Results for the Overall Best-Fit
Solution:
Рассчитаем доверительные интервалы для а и b (при P=0,95; f=n-2=11-2=9)=2,26
Δa = 0,0035×2,26= 0,00791≈0,008
Δb = 0,0103×2,26=0,023278≈0,02
a = a ± Δa = 0,031 ± 0,008= b ± Δb = 0,13 ± 0,04
Расчет параметров уравнения линейного участка в ручную
Зависимость аналитического сигнала (y), в данном
случае ответ сенсера в мг/(мин∙дм3), от концентрации (х) в мг/дм3, можно
выразить линейным уравнением:
Коэффициенты a и b можно найти методом наименьших
квадратов. Для их вычисления используют следующие формулы:
Экспериментальные данные:
|
Концентрация ГГС, мг/дм3 |
0,4999 |
0,9997 |
2,9970 |
4,992 |
6,984 |
9,967 |
|
Ответ биосенсора, мг/(мин×дм3) |
0,09447 |
0,1345 |
0,2125 |
0,2694 |
0,3627 |
0,4568 |
|
Концентрация ГГС, мг/дм3 |
14,93 |
19,87 |
24,79 |
29,70 |
34,61 |
|
|
Ответ биосенсора, мг/(мин×дм3) |
0,5970 |
0,7830 |
0,9377 |
1,027 |
1,117 |
|
Расчет сумм:
|
xi |
xi2 |
yi |
yi2 |
xiyi |
|
0,499917 |
0,249917 |
0,094467 |
0,008924 |
0,047225 |
|
0,999667 |
0,999334 |
0,134467 |
0,018081 |
0,134422 |
|
2,997003 |
8,982027 |
0,212467 |
0,045142 |
0,636763 |
|
4,991681 |
24,91687 |
0,2694 |
0,072576 |
1,344759 |
|
6,983705 |
48,77213 |
0,362667 |
0,131527 |
2,532757 |
|
9,966777 |
99,33665 |
0,456833 |
0,208697 |
4,553156 |
|
14,9253 |
222,7646 |
0,597033 |
0,356449 |
8,910902 |
|
19,86755 |
394,7195 |
0,783033 |
0,613141 |
15,55695 |
|
24,79338 |
614,7117 |
0,937667 |
0,879219 |
23,24793 |
|
29,70297 |
882,2664 |
1,027 |
1,054729 |
30,50495 |
|
34,59638 |
1196,909 |
1,117 |
1,247689 |
38,64415 |
|
∑xi |
∑xi2 |
∑yi |
∑yi2 |
∑xiyi |
|
150,3243 |
3494,628 |
5,992033 |
4,636174 |
126,114 |
Таким образом,
∑xi = 150,3243
∑xi2 = 3494,628
∑yi = 5,992033
∑yi2 = 4,636174
∑xiyi = 126,114=11
=0,03071x+0,1251 - линейное
уравнение калибровочной прямой
Рассчитаем доверительные интервалы
для параметров а и b градуировочного графика. Дисперсия, характеризующая
рассеяние экспериментальных значений у для n образцов сравнения относительно
рассчитанной прямой y = ax + b, определяется выражением:
Дисперсии параметров а и b равны:
Из дисперсии рассчитываем стандартные отклонения:
Рассчитаем доверительные интервалы для а и b:
Δa = Satpf
Δb = Sbtpf
где P=0,95; f=n-2=11-2=9=2,26
Δa = 0,0033352×2,26= 0,007538≈0,008
Δb = 0,018263×2,26=0,04127≈0,04
a = a ± Δa = 0,031 ± 0,008= b ± Δb = 0,13 ± 0,04
Рассчитаем коэффициент корреляции:
Приложение 3
Расчет предела обнаружения и нижней границы определяемых содержаний
Минимальный предел обнаружения при доверительной
вероятности Р = 0,95 можно рассчитать по следующей формуле:
, где
- стандартное отклонение холостого опыта, а - коэффициент чувствительности
Экспериментальные данные холостого
опыта биосенсора на основе иммобилизованных клеток Debaryamyces hansenii в
пленку из сополимера ПВС с ПВП.
|
Номер опыта |
Ответ сенсора, мг/(мин∙дм3) |
|
1 |
0,0288 |
|
2 |
0,02634 |
|
3 |
0,03222 |
|
4 |
0,02742 |
|
5 |
0,03144 |
|
6 |
0,02622 |
|
7 |
0,0321 |
Найдем среднее значение по формуле:
Рассчитаем отклонение от среднего:
|
|xi-x|, мг/(мин∙дм3) |
|xi-x|2, [мг/(мин∙дм3)]2 |
|
0,00042 |
1,764×10-07 |
|
0,00288 |
8,294×10-06 |
|
0,003 |
9,0×10-06 |
|
0,0018 |
3,24×10-06 |
|
0,00222 |
4,928×10-06 |
|
0,003 |
9,0×10-06 |
|
0,00288 |
8,294×10-06 |
[мг/(мин∙дм3)]2
Рассчитаем дисперсию:
[мг/(мин∙дм3)]2
Рассчитаем стандартное отклонение:
Далее рассчитаем минимальный предел обнаружения по ГГС:
Рассчитываем минимальный предел обнаружения по ОЕСD:
Величина предела обнаружения имеет одну и ту же размерность - концентрации - независимо от природы аналитического сигнала.
Нижняя граница определяемых содержаний Сн для ГГС
Экспериментальные данные, обработанные
в среде Excel.
|
БПК мгО₂/дм³(ГГС) |
Ответ биосенсора y, мг/(мин×дм3) |
среднее значение ответа биосенсора ӯ, мг/(мин×дм3) |
стандартное отклонение относительно среднего S(y), мг/(мин×дм3 |
Доверительный интервал при Р=95%, δy |
||
|
0,3434428 |
0,0946 |
0,0922 |
0,0966 |
0,094467 |
0,002203 |
0,002493 |
|
0,6867711 |
0,13 |
0,1378 |
0,1356 |
0,134467 |
0,004022 |
0,004551 |
|
2,0589411 |
0,2036 |
0,214 |
0,2198 |
0,212467 |
0,008208 |
0,009288 |
|
3,4292845 |
0,2608 |
0,2696 |
0,2778 |
0,2694 |
0,008502 |
0,00962 |
|
4,7978051 |
0,3516 |
0,3619 |
0,3745 |
0,362667 |
0,011469 |
0,012978 |
|
6,8471761 |
0,464 |
0,4556 |
0,4509 |
0,456833 |
0,006637 |
0,00751 |
|
10,253681 |
0,6078 |
0,5847 |
0,5986 |
0,597033 |
0,011629 |
0,01316 |
|
13,649007 |
0,7745 |
0,7831 |
0,7915 |
0,783033 |
0,0085 |
0,009619 |
|
17,033052 |
0,9389 |
0,9274 |
0,9467 |
0,937667 |
0,009709 |
0,010986 |
|
20,40594 |
1,023 |
1,01 |
1,048 |
1,027 |
0,019313 |
0,021855 |
|
23,76771 |
1,104 |
1,123 |
1,124 |
1,117 |
0,011269 |
0,012752 |
Для каждой концентрации ГГС определили
стандартное отклонение относительно концентрации S(БПК) и относительные
стандартные отклонения относительно концентрации Sr(БПК)по формулам:
,
Результаты вычисления:
|
S(БПК), мг/дм3 |
Sr(БПК) |
|
0,049285 |
0,143502 |
|
0,089969 |
0,131003 |
|
0,183627 |
0,089185 |
|
0,190196 |
0,055462 |
|
0,256582 |
0,053479 |
|
0,148468 |
0,021683 |
|
0,260166 |
0,025373 |
|
0,190161 |
0,013932 |
|
0,217202 |
0,012752 |
|
0,432063 |
0,021173 |
|
0,252112 |
По полученным данным построили экспериментальную зависимость относительного стандартного отклонения от концентрации, аппроксимировали степенной функцией, имеющее уравнение(БПК)=0,1007×БПК-0,64
Используя это уравнение найдем концентрацию,
начиная с которой величины Sr(БПК) становятся меньше, чем заданное предельное
значение Sr(БПК)max = 0,33.(Sr(БПК)max) = lg(0,1007) - 0,64×lg(Cн)
микробный биосенсор клетка окисляемость
Сн=0,157 мг/дм3
Нижняя граница определяемых содержаний Сн для ОЕСD-синтетических сточных вод
Экспериментальные данные,
обработанные в среде Excel.
|
БПК мгО₂/дм³(ГГС) |
Ответ биосенсора y, мг/(мин×дм3) |
среднее значение ответа биосенсора ӯ, мг/(мин×дм3) |
стандартное отклонение относительно среднего S(y), мг/(мин×дм3 |
Доверительный интервал при Р=95%, δy |
||||
|
0,066225 |
0,054 |
0,0551 |
0,0529 |
0,054 |
0,0011 |
0,001245 |
||
|
0,115321 |
0,072 |
0,0701 |
0,06847 |
0,07019 |
0,001767 |
0,001999 |
||
|
0,163934 |
0,12822 |
0,1345 |
0,1176 |
0,126773 |
0,008542 |
0,009666 |
||
|
0,243902 |
0,16206 |
0,1745 |
0,1549 |
0,16382 |
0,009918 |
0,011223 |
||
|
0,322581 |
0,216 |
0,2259 |
0,2005 |
0,214133 |
0,012802 |
0,014487 |
||
|
0,4 |
0,264 |
0,2509 |
0,2711 |
0,262 |
0,010247 |
0,011596 |
||
|
0,47619 |
0,306 |
0,3146 |
0,3105 |
0,310367 |
0,004302 |
0,004868 |
||
|
0,551181 |
0,354 |
0,3604 |
0,3493 |
0,354567 |
0,005572 |
0,006305 |
||
|
0,625 |
0,40284 |
0,4107 |
0,3918 |
0,40178 |
0,009494 |
0,010744 |
||
|
0,697674 |
0,4218 |
0,4374 |
0,4297 |
0,429633 |
0,0078 |
0,008827 |
||
|
0,769231 |
0,4566 |
0,4583 |
0,4516 |
0,4555 |
0,003483 |
0,003941 |
||
|
0,839695 |
0,4848 |
0,4798 |
0,4809 |
0,481833 |
0,002627 |
0,002973 |
||
|
0,909091 |
0,5052 |
0,5057 |
0,5143 |
0,5084 |
0,005116 |
0,005789 |
||