| Расчет с использованием формул (с учетом tp) | Расчет с использованием программы Microsoft Excel | |
| a | 0,084193939 | 0,084193939 | 
| b | 0,005733333 | 0,005733333 | 
| Vo | 4758∙10-7 | - | 
| Va | 9,226814∙10-8 | - | 
| Vb | 2,22020020∙10-7 | - | 
| a ± ∆a | 0,0842±0,0006 | 0,0057±0,0009 | 
| b ± ∆b | 0,0842±0,0003 | 0,0057±0,0004 | 
Коэффициент корреляции – R = 0,999965406.
3.6 Построение градуировочной зависимости для меди
В таблице №14 представлены данные для построения градуировочной зависимости для меди.
Таблица №14. Данные для построения градуировочного графика для меди.
| Концентрация меди в стандарте, мг/дм3 | Абсорбция | 
| 0,05 | 0,008 | 
| 0,1 | 0,013 | 
| 0,15 | 0,017 | 
| 0,2 | 0,022 | 
| 0,25 | 0,026 | 
| 0,3 | 0,031 | 
| 0,35 | 0,035 | 
| 0,4 | 0,04 | 
| 0,45 | 0,044 | 
| 0,5 | 0,049 | 
3.7 Статистическая обработка графика градуировочной зависимости для меди
Для оценки параметров линейности полученной градуировочной зависимости мы провели статистическую обработку результатов по формулам представленным выше. Расчет проводили как с использованием формул, так и с помощью программы Microsoft Excel. Результаты представлены в таблицах №15, №16.
Таблица №15. Статистические данные.
| xi | xi2 | yi | yi2 | xiyi | 
| 0,050 | 2,500∙10-3 | 0,008 | 6,400∙10-5 | 4,000∙10-4 | 
| 0,100 | 1,000∙10-2 | 0,013 | 1,690∙10-4 | 1,300∙10-3 | 
| 0,150 | 2,250∙10-2 | 0,017 | 2,890∙10-4 | 2,550∙10-3 | 
| 0,200 | 4,000∙10-2 | 0,022 | 4,840∙10-4 | 4,400∙10-3 | 
| 0,250 | 6,250∙10-2 | 0,026 | 6,760∙10-4 | 6,500∙10-3 | 
| 0,300 | 9,000∙10-2 | 0,031 | 9,610∙10-4 | 9,300∙10-3 | 
| 0,350 | 1,225∙10-1 | 0,035 | 1,225∙10-3 | 1,225∙10-2 | 
| 0,400 | 1,600∙10-1 | 0,040 | 1,600∙10-3 | 1,600∙10-2 | 
| 0,450 | 2,025∙10-1 | 0,044 | 1,936∙10-3 | 1,980∙10-2 | 
| 0,500 | 2,500∙10-1 | 0,049 | 2,401∙10-3 | 2,450∙10-2 | 
| ∑ xi =2,750 | ∑ xi2 = 9,625∙10-1 | ∑ yi = 0,285 | ∑ yi2 = 9,805∙10-3 | ∑ xiyi = 9,700∙10-2 | 
Таблица №16. Результаты обработки графика градуировочной зависимости для меди.
| Расчет с использованием формул (с учетом tp) | Расчет с использованием программы Microsoft Excel | |
| a | 0,090303030 | 0,090303030 | 
| b | 0,003666667 | 0,003666667 | 
| Vo | 7,575∙10-8 | - | 
| Va | 3,673094582∙10-7 | - | 
| Vb | 3,53535354∙10-8 | - | 
| a ± ∆a | 0,090±0,001 | 0,0903±0,0006 | 
| b ± ∆b | 0,0037±0,0004 | 0,0037±0,0002 | 
Коэффициент корреляции – R = 0,999819876.
3.8 Построение градуировочной зависимости для никеля
В таблице №17 представлены данные для построения градуировочной зависимости для никеля: точно известная концентрация никеля в стандартном растворе и полученная абсорбция.
Таблица №17. Данные для построения градуировочного графика для никеля.
| Концентрация никеля в стандарте, мг/дм3 | Абсорбция | 
| 0,03 | 0,019 | 
| 0,05 | 0,021 | 
| 0,1 | 0,025 | 
| 0,15 | 0,029 | 
| 0,25 | 0,038 | 
| 0,3 | 0,042 | 
| 0,35 | 0,046 | 
| 0,4 | 0,051 | 
| 0,45 | 0,055 | 
| 0,5 | 0,059 | 
3.9 Статистическая обработка графика градуировочной зависимости для никеля
Для оценки параметров линейности полученной градуировочной зависимости мы провели статистическую обработку результатов по формулам представленным выше. Расчет проводили как с использованием формул, так и с помощью программы Microsoft Excel. Результаты представлены в таблицах №18, №19.
Таблица №18. Статистические данные.
| xi | xi2 | yi | yi2 | xiyi | 
| 0,030 | 9,000∙10-4 | 0,019 | 3,610∙10-4 | 5,700∙10-4 | 
| 0,050 | 2,500∙10-3 | 0,021 | 4,410∙10-4 | 1,050∙10-3 | 
| 0,100 | 1,000∙10-2 | 0,025 | 6,250∙10-4 | 2,500∙10-3 | 
| 0,150 | 2,250∙10-2 | 0,029 | 8,410∙10-4 | 4,350∙10-3 | 
| 0,250 | 6,250∙10-2 | 0,038 | 1,444∙10-3 | 9,500∙10-3 | 
| 0,300 | 9,000∙10-2 | 0,042 | 1,764∙10-3 | 1,260∙10-2 | 
| 0,350 | 1,225∙10-1 | 0,046 | 2,161∙10-3 | 1,610∙10-2 | 
| 0,400 | 1,600∙10-1 | 0,051 | 2,601∙10-3 | 2,040∙10-2 | 
| 0,450 | 2,025∙10-1 | 0,055 | 3,025∙10-3 | 2,475∙10-2 | 
| 0,500 | 2,500∙10-1 | 0,059 | 3,481∙10-3 | 2,950∙10-2 | 
| ∑ xi = 2,580 | ∑ xi2 = 9,234∙10-1 | ∑ yi = 0,385 | ∑ yi2 = 16,699∙10-3 | ∑ xiyi = 12,132∙10-2 | 
Таблица №19. Результаты обработки графика градуировочной зависимости для никеля.
| Расчет с использованием формул (с учетом tp) | Расчет с использованием программы Microsoft Excel | |
| a | 0,085311918 | 0,085311918 | 
| b | 0,016489525 | 0,016489525 | 
| Vo | 6,137∙10-8 | - | 
| Va | 2,380711649∙10-7 | - | 
| Vb | 2,19834914∙10-8 | - | 
| a ± ∆a | 0,085±0,001 | 0,0853±0,0005 | 
| b ± ∆b | 0,0165±0,0003 | 0,0165±0,0001 | 
Коэффициент корреляции – R = 0,999869183.
3.10 Количественное определение алюминия в образцах марганца марки Мн 998
Для проведения количественного анализа содержания алюминия в образцах марганца марки Мн 998 было отобрано 5 проб порошкообразного марганца. Результаты представлены в таблице №20.
Таблица №20. Анализ образцов марганца марки Мн 998 на содержание алюминия.
| № | Масса навески, г | Абсорбция | Концентрация, мг/дм3 | Массовая доля, % | 
| 1 | 0,4999 | 0,178 | 1,358 | 0,013579 | 
| 2 | 0,4999 | 0,180 | 1,361 | 0,013618 | 
| 3 | 0,5000 | 0,183 | 1,365 | 0,013652 | 
| 4 | 0,4998 | 0,177 | 1,356 | 0,013569 | 
| 5 | 0,5000 | 0,182 | 1,364 | 0,013637 | 
Была проведена статистическая обработка полученных результатов для оценки воспроизводимости. Полученные результаты представлены в таблицах №21 и №22.
Таблица №21. Статистические данные для количественного определения аллюминия в образцах марганца марки Мн 988.
| xi | хср | d ∙ 10-5 | d2 | V | s | хср ± ∆х | 
| 0,013579 | 0,0136110 | 3,20 | 1,076∙10-9 | 1,2985 ∙10-9 | 3,6035 ∙10-5 | 0,01336±0,0005 | 
| 0,013618 | 0,70 | 4,900∙10-11 | ||||
| 0,013652 | 4,10 | 1,681∙10-9 | ||||
| 0,013569 | 4,20 | 1,764∙10-9 | ||||
| 0,013637 | 2,60 | 6,760∙10-10 | 
Таблица №22. Сравнительная характеристика экспериментальных и представленных в ГОСТ 16698.10-71 погрешностей результата анализа алюминия относительных стандартных отклонений.
| Эксперимент | ГОСТ 16698.10-71 Не более | |
| ∆х | 0,0005 | 0,0010 | 
| sr | 0,0026 | 0,0050 | 
Таблица №22. Значения коэффициента чувствительности и нижней границы определяемых концентраций для алюминия.
| S, дм3/мг | cmin, мг/дм3 | 
| 0,167 | 0,00054 | 
3.11 Количественное определение железа в образцах марганца марки Мн 998