Особенности статистической оценки качества теста диагностики индивидуального прогресса учащихся общеобразовательной школы (стр. 7 из 11)
Трудный тест Средний тест
 |
Легкий тест
Рис.1 Определение трудности теста в целом
Теперь рассмотрим показатель трудности по отношению к задаче и проанализируем его. Авторы определяют показатель трудности как отношение количества решивших задачу к общему числу испытуемых (сколько процентов учащихся решили задачу из всех). Также авторы используют такой показатель как индекс трудности и определяют его как величину обратную трудности.
Показатель трудности характеризует не саму задачу, а ее по отношению к ситуации тестирования. Это показатель вычисляется для всех тестов, но вычисляется в зависимости от специфики теста. Если для классических (однородных) тестов показатель трудности принимает значение более 80% или менее 20%, то это говорит о том, что задачу решают или не решают почти все испытуемые. В таких случаях задачи исключают из теста. В тесте диагностики ИП наоборот, если измерять уровень задачи, то надо понять что задачи 1-го уровня должны решать больше, а задачи 3-го уровня меньше. Поэтому авторы назначают следующие диапазоны:
1. Если задачу решают от 50% до 100% испытуемых, то она является задачей 1-го уровня;
2. Если задачу решают от 10% до 50% испытуемых, то она является задачей 2-го уровня;
3. Если задачу решают менее 10% испытуемых, то она является задачей 3-го уровня [15].
Авторы отмечают, что трудность относительная характеристика, и она может меняться постоянно. Для проверки первой гипотезы вычислялась трудность задания. Если уровень, назначенный экспериментально, совпадал с уровнем, назначенным статистически, то задание оставляли в тесте. Если уровень не совпадал, то задание, либо убирали из теста, либо дорабатывали.
Для того чтобы различать учащихся на разных уровнях, вычислялась дифференцирующая способность. Но эта характеристика распознает только то, что сложное задание должны решать сильные. Коэффициент дискриминативности выражает меру сбалансированности задачи. Поясним это на примере. Проанализируем данные по двум задачам из теста по биологии (Таблица 3).
Задача II.3.3. Иногда летом в закрытых водоемах происходит замор рыбы. Укажите, какие факторы способствуют этому явлению?
А) Повышение температуры воды; Б) Понижение температуры воды; В) Чрезмерное размножение водорослей; Г) Недостаточное размножение водорослей
1) А+В
2) А+Г
3) Б+В
4) В+Г
Задача II.1.7. Придаточные корни отрастают:
1) от листьев
2) от стебля
3) от листьев и стебля
4) от главного корня
Введем следующие обозначения для показавших уровень:
0 – не показал уровень;
1 – сохранил/вышел на1 уровень;
2 – сохранил/вышел на 2 уровень;
3 – сохранил/вышел на 3 уровень.
Задача II.3.3 с коэффициентом дискриминативности 0,508 по показателю трудности (42%) соответствует 2 уровню. Процент решивших задачу от числа учащихся каждой группы возрастает. Это говорит о том, что чем выше «качество мышления» у группы, тем больший процент учащихся в группе решает эту задачу.
Теперь рассмотрим процент решивших задачу от всех испытуемых. Здесь можно наблюдать то, что, в основном, эту задачу решили те, кто показал 3 уровень (учащиеся 3-й группы).
Задача II.1.7 с коэффициентом дискриминативности 0,226 по показателю трудности (32%) соответствует тоже второму уровню. Можно было бы даже сделать вывод о том, что она сложнее задачи II.3.3. Процент решивших задачу от числа учащихся каждой группы показывает последовательность 42,19,35. Получается, что, чем выше у группы «качество мышления», тем меньшая доля учащихся этой группы решает данную задачу. Процент решивших задачу от всех испытуемых показывает, что, в основном, эту задачу решили те, кто показал 1 и 3 уровень (учащиеся 1-й и 3-й группы). А второй почти не решили. Получается, что сложность задачи остается непонятной - ее с равной вероятностью решают учащиеся и с низким и с очень высоким «качеством мышления». И, несмотря на то, что она, вроде бы, большей трудности, ее решает больший, чем предыдущую задачу, процент учащихся, показавших лишь первый уровень. Здесь можно предположить, что мыслящие на 1 уровне не воспринимают «ловушек» условия и решают задачу как стандартную, за счет знаний, и получают правильный ответ. Мыслящие на 3 уровне видят «ловушку» и успешно ее преодолевают, ну а те, кто на 2 уровне – уже видят, но еще преодолеть не могут. В таком случае надо что-то изменять в условии, чтобы, например, она стала либо уже задачей первого, либо третьего уровня. Получается, задача плохо сбалансирована и ее КД ниже нормы.
Таблица 3. Данные по задачам II.3.3 и II.1.7
| Задача II.3.3 | Задача II.1.7 | ||
| Коэффициент дискриминативности | 0,508 | 0,266 | |
| Показатель трудности | 42% | 32% | |
| % не решивших задачу от 358 (всех испытуемых) | 58% | 68% | |
| % решивших задачу от 358 (всех испытуемых) и при этом показавших уровень (не считаются испытуемые с неправильной логикой) | 0 | 1,12% | 0,3% |
| 1 | 6,15% | 13,4% | |
| 2 | 3,91% | 2,8% | |
| 3 | 24,30% | 13,4% | |
| % решивших задачу от числа учащихся каждой группы (не считаются испытуемые с неправильной логикой) | 0 | 4,5% | 1,1% |
| 1 | 19,3% | 42,1% | |
| 2 | 26,9% | 19,2% | |
| 3 | 64,0% | 35,3% | |
Таким образом, возникает проблема при статистическом подтверждении уровня задачи. Необходим новый метод (дополнительный критерий), который будет подтверждать уровень задания.
Первая гипотеза подтвердилась о том, что уровни заданий положительно связаны с мерой их статистической трудности, но характер ее сложный.
Вывод: анализ «Мониторинга индивидуального прогресса учебных действий школьников» [15] показал, что авторы использовали следующие статистические показатели:
· средние значения;
· стандартное отклонение;
· критерий нормальности распределения;
· коэффициент корреляции
Кроме того, вычислялись классические характеристики для тестов:
· трудность задания;
· индекс трудности;
· трудность системы заданий;
· достижение учащегося;
А также вычислялись специальные характеристики, которые являются классическими, связанные с определение линейного и уровневнего прогресса.
Заметим, что для анализа качества заданий не пришлось использовать классические характеристики валидность и надежность. Также при анализе было обнаружено, что показатель трудности задания не всегда адекватно подтверждает уровень задания.
§3.3 ИЗУЧЕНИЕ ВОЗМОЖНОСТЕЙ ПРИМЕНЕНИЯ КЛАССИЧЕСКИХ СТАТИСТИЧЕСКИХ МЕТОДОВ ДЛЯ ОЦЕНКИ КАЧЕСТВА ЗАДАНИЙ ТЕСТА ДИАГНОСТИКИ ИНДИВИДУАЛЬНОГО ПРОГРЕССА
В предыдущем параграфе мы отметили, что разработчики теста диагностики ИП почти не использовали классические методы при обработке заданий теста. По всей видимости, это связано с тем, что применение этих методов требовало решения отдельной задачи – адекватности применения методов в данной ситуации. Целью данного параграфа является ответ на вопрос, какие методы классической теории тестирования можно использовать для обработки заданий теста диагностики ИП. Перед нами будут стоять две основные задачи:
1. Рассмотреть возможности применения классических методов оценки валидности, надежности, дискриминативности к тесту ИП;
2. Выделить метод статистического подтверждения уровня задания.
3.3.1 О применении методов оценки валидности, надежности, дифференцирующей способности
Так же как и для обычных педагогических тестов, мы можем применять описательную статистику и для теста диагностики ИП. Как мы уже выяснили, основными показателями, характеризующими качество педагогического теста, являются валидность, надежность и дифференцирующая способность (дискриминативность).
Мы рассмотрели два метода нахождения валидности. Анализ показал, что оба метода мы можем использовать для теста диагностики ИП. Но, как уже говорилось ранее, данный тест имеет сложную трехуровневую структуру. Может сложиться такая ситуация, что сумма индивидуальных баллов будет больше у испытуемого, который решил все задания первого уровня, чем у испытуемого, который решил не все задания первого уровня, но решил задания второго и третьего уровней. Поэтому, первый метод вычисления валидности мы применить не можем.
Рассмотрим еще раз второй метод нахождения валидности, которые вычисляют коэффициент корреляции по формуле Пирсона [21].
В нашем случае результаты вычисления можно интерпретировать следующим образом. В нормальной ситуации лучше, если связь заданий между собой средняя или слабая. Но заметим, в силу специфики теста, между некоторыми уровневыми заданиями должна быть сильная корреляция. Таким образом, этот метод можно применять с учетом особенностей его интерпретации:
· Между уровневыми заданиями
→ 1· Между заданиями одного уровня
< 0,5Рассмотрим на примере нашего теста ИП вычисление тесноты связи заданий между заданиями разных уровней и заданиями одного уровня.
Расчет происходил над выборкой 488 человек. Задание
(1-й уровень) решило 300 человек, задание 
(1-й уровень) решило 259 человек. Тесноту связи заданий рассчитываем по формуле: 
,