При експертній оцінці якості учбової книги основні операції виконуються в чотири етапи: підготовчий етап, етап робочої групи, етап експертної групи, завершальний етап.
I. На підготовчому етапі проводиться відбір учбових книг для експертної оцінки керівниками Міністерства просвіти СРСР, АПН СРСР, НДІ СиМО і т. п., формулюють ця цілі експертизи. Керівниками відповідних відомств видається наказ про створення експертної комісії, призначаються організатор експертизи і технічні працівники. Організатор експертизи формує склад робочої групи, складає програму експертизи, організовує експертні групи і комісії і руководить їх діяльністю. Окрім виконання звичних функцій по ГОСТ 23554.0–79, він розподіляє роботу технічних робітників. Робоча група включає, окрім організатора експертизи і технічних працівників, групу ведучих експертів консультантів, мають досвід роботи в експертних комісіях.
II. На етапі робочої групи визначаються методи, способи іпроцедури, які слід застосувати при рішенні задач експертною групою. При цьому робоча група виходить з особливостей учбової книги, термінів і умов проведення експертизи, допустимий трудомісткості. Робоча група з числа кандидатів в експерти формує експертну групу, визначаючи її структуру, професійний склад, кількість експертів.
Однією з важливих проблем експертизи є проблема, як визначити до початку опиту необхідне і достатнє число експертів. Деякі розрахункові формули для визначення необхідної і достатньої чисельності експертної групи приведені в роботі Р.Г. Азгальдова. Оскільки чисельність експертів залежить від багатьох чинників, таких, як допустимі витрати праці, кваліфікація експертів, погрішність колективної оцінки і т. п., то привести єдину формулу, що дозволяє визначати чисельність експертної групи, нам представляється неможливим. Ми приведемо тут деякі загальні міркування щодо шляхів рішення цього питання.
Виходячи з поставленої задачі, робоча група визначає верхню і нижню межі можливої кількості експертів. Ці межі ми позначимо відповідно Nmax і Nmin. Виходячи з цього, утворюється група кандидатів в експерти. Якщо Nке – число кандидатів в експерти, то ясно, що Nmax ≥ Nке. Рішення про включення того або іншого фахівця в групу кандидатів в експерти приймає організатор експертизи і консультант після бесіди, що дозволяє проаналізувати ступінь відповідності фахівця вимогам, що пред'являються.
Уточнюючи параметри поставленої задачі, робоча група приводить формулу знаходження N. Найпростіша з них:
. (1)Нижче ми приведемо і інші формули для розрахунку чисельності експертної групи.
Для відбору експертів з числа кандидатів в експерти можна користуватися відомими методами: взаємних рекомендацій, документальних оцінок, самооцінки або різними комбінаціями цих методів. Повна характеристика якості експерта може бути одержана шляхом обчислення комбінованої оцінки j-го кандидата в експерти:
де α, β, γ, – коефіцієнти ваговитості анкет взаємних рекомендацій анкетних даних, самооцінки, відповідно;
– відповідні коефіцієнти, одержані кандидатом в експерти при аналізі вище перелічених анкет.Як ілюстрацію приведемо можливі розрахункові формули чисельності експертної групи для оцінки якості учбової книги по даній анкеті.
Хай k– кількість основних пунктів анкети, qеі – значення колективної експертної оцінки і-гo пункту (l≥i≥k), qісі – істинне значення оцінюваного пункту, Δ qі = | qеі – qісі| – абсолютная погрішність qеі, γі– довірча вірогідність (надійність), з якою визначено qеі, dі = dітах – dітіп – розмах оцінок i-гo пункту, δi = di/Δqі, аі – коефіцієнт ваговитості і-го пункту анкети
.Відомо, що визначення qісі часто утруднено по ряду «принципових» міркувань, але можна вказати верхню і нижню межі допустимих значень Δ qеі: [aqі,bqі]. По аналогії з безліччю допустимих значень для Δ qеі введемо безліч допустимих значень і для довірчої вірогідності –
. Виходячи з формули δi = di/Δqі можна визначити безліч допустимих значень , = di/аqі, = di/βqі.Термін «допустимі значення» доречний, оскільки межі цих інтервалів «допускає» робоча група, призначаючи одночасно і «встановлені» значения-
. . Тоді Nmax, Nmin і N, можуть бути знайдені по формулах: (2)де
знаходиться з таблиці:γ | 0,8 – 0,9 | 0,9 – 0,95 | 0,96 – 0,99 |
φі | 0,2 | 0,1 | 0,04 |
Приведемо приклад. Хай анкета містить 10 пунктів, коефіцієнти ваговитості яких рівні відповідно:
а2= 0,115; а3 = 0,06; а4 = 0,11; а1 =0,155;
а6= 0,09; а7=0,09; а8 = 0,06; а8= 0,095;
а10 = 0,105. а9 = 0,12;
Тоді Nmax=15, Nmin=6. Якщо скористатися формулою (1), то N=10.
Якщо задані
по формулі (2)N=9.
Для проведення опиту експертів робоча група складаєанкети. Анкета складається із записки пояснення і карти опиту. Основні вимоги до анкети приведені в ГОСТ 23554.1–79.
III На етапі роботи експертної групи експертами проводиться класифікація учбових книг шляхом систематизації по якій-небудь ознаці. До класифікаційних ознак відносяться призначення (стабільний або пробний підручник, навчальний посібник, практикум, книга для читання і т. п.), особливості експлуатації (на уроці для самостійних занять, програмована допомога, комплект карт, схем і т. п.). Класифікація користувачів проводиться експертами з метою виявлення груп користувачів (школярі, ПТУ, що вчаться, вчителі). Класифікація методичної продукції і її користувачів здійснюється для обґрунтовування номенклатури оцінюваних показників якості.
Експертна група визначає номенклатуру показників якості учбової книги на основі аналізу нормативних документів, що визначають вимоги, що пред'являються до неї, і досвіду оцінки якості аналогічних учбових книг.
До оцінки кожної учбової книги потрібно підходити диференційований, залежно від того, для яких цілей вона призначена, яке місце відводиться їй в учбовому порядку.
Нижче ми даємо загальну характеристику системи критеріїв, заснованої на нормативних вимогах до учбових книгам1.
1. Шкільний підручник. Будучи основною частиною системи засобів навчання, підручник грає в ній особливу роль. Підручник повніше і послідовніше, ніж інші компоненти системи, реалізує її основні функції. От чому при аналізі і оцінці підручника перш за все необхідно встановити ступінь реалізації їм функцій, властивих всій системі засобів навчання.
З метою встановлення кількості критеріїв ступеня реалізації підручником функцій навчання складається анкета типа Ф-1. Всім експертам лунають анкети типа Ф-1 з проханням уважно ознайомитися із змістом основних критеріїв (пунктів з одинарною індексацією). Пропонується ранжувати їх за 9-бальною шкалою. Рівноцінні, на думку експерта, пункти оцінюються однаково (при цьому збіг оцінок допустимий не більше ніж по трьох критеріях). Після цього експерти приступають до ранжировки пояснюючих критеріїв (з подвійною індексацією), керуючись вказівками, приведеними вище, але за т – бальною шкалою (п – кількість критеріїв, що пояснюють основний критерій). Якщо формулювання критерію експерту здається невдалим або незрозумілим, то після рангу ставиться знак «?» і хвилястою межею підкреслюється невдалий текст. Свої пропозиції по формулюванню критеріїв експерт може висловити письмово на зворотному боці анкети.