Порядок роботи. 1. Визначити вірогідніше значення вимірюваної величини за формулою

1. Визначити вірогідніше значення вимірюваної величини за формулою

де – проста арифметична середина результатів вимірювань;

– сума результатів вимірювань;

– кількість вимірювань.

Замість формули (8) на практиці використовують більш зручну формулу

де – так званий «умовний нуль».

За умовний нуль зазвичай обирають найменше значення з наведеного ряду результатів вимірювань, або інше доцільно обране значення таким чином, щоб різниці

були малими величинами.

Щоб не накопичувати похибки заокруглення, просту арифметичну середину обчислюють з числом десяткових знаків на два більше, ніж у результатах вимірів . Потім заокруглюють це значення, залишаючи кількість десяткових знаків на один більше, ніж у результатах вимірювань. Таким чином, отримують дещо зміщене значення , яке відрізняється від на малу величину

2. Обчислити поправки, тобто відхилення результатів вимірювань від арифметичної середини, за формулою

Теоретично контролем обчислення поправок слугує четверта властивість простої арифметичної середини [2]. На практиці внаслідок заокруглення простої арифметичної середини на величину , за формулою (12) мі отримуємо зміщенні поправки. Які, в свою чергу, теж відрізняються від вірогідніших на величину . Тому контролем обчислення поправок слугує рівність

3. Двічі, враховуючи вираз

обчислити емпіричну середню квадратичну похибку окремого вимірювання за формулою

4. Так як емпірична середня квадратична похибка, обчислена за формулою (15) – величина наближена, то необхідно оцінити її надійність. Тобто обчислити середню квадратичну похибку середньої квадратичної похибки. Для цього застосовують формулу

5. Обчислити середню квадратичну похибку простої арифметичної середини за формулою

6. Обчислити надійність середньої квадратичної похибки простої арифметичної середини за формулою

Приклад. Горизонтальний кут виміряний 9 прийомами теодолітом 2Т5. Результати вимірювань наведені в табл. 3. Виконати математичне опрацювання результатів рівноточних вимірювань.

Таблиця 3 – Результати математичного опрацювання рівноточних вимірювань

№	Горизонтальний кут,	сек.	сек2.	сек.	сек2.
1	2	3	4	5	6
	110˚ 08' 38.2''	5.1	26.01	-0.76	0.5776
	110˚ 08' 43.9''	10.8	116.64	4.94	24.4036
	110˚ 08' 33.1''			-5.86	34.3396
	110˚ 08' 40.6''	7.5	56.25	1.64	2.6896
	110˚ 08' 43.7''	10.6	112.36	4.74	22.4676
	110˚ 08' 36.3''	3.2	10.24	-2.66	7.0756
	110˚ 08' 39.1''	6.0	36.00	0.14	0.0196
	110˚ 08' 36.5''	3.4	11.56	-2.46	6.0516
	110˚ 08' 39.2''	6.1	37.21	0.24	0.0576
Σ		52.7	406.27	0.04	97.6824

За умовний нуль приймаємо найменший з результатів вимірювань горизонтального кута, тобто

Обчисливши за формулою (10) різниці , находимо їх суму

Результати обчислень заносимо до табл. 3 (колонка 3). За формулою (9) обчислюємо вірогідніше значення горизонтального кута

Заокруглюємо отриманий результат до 0.01''

і находимо похибку заокруглення за формулою (11)

Для оцінки точності вимірювань обчислюємо зміщені поправки за формулою (12), і находимо їх суму. Результати заокруглюємо до 0.01'' і заносимо до табл. 3 (колонка 5). Виконуємо контроль обчислень шляхом підстановки отриманих значень в рівність (13)

Находимо квадрати поправок і їх сумарне значення , результати заокруглюємо до 0.0001 сек.² і заносимо до табл. 3 (колонка 6). Перевіряємо виконання рівності (14)

За формулою (15) обчислюємо емпіричну середню квадратичну похибку одного вимірювання

Обчислюємо середню квадратичну похибку простої арифметичної середини за формулою (17)

Оцінюємо надійність величин і за формулами (16) і (18) відповідно

Остаточний результат математичного опрацювання рівноточних вимірювань горизонтального кута буде таким