Изготовление сайтов, блогов. БЫСТРО: 7 ч. ДЕШЕВО: $17 КАЧЕСТВО: Google

Если кто нибудь может сделать сайт-блог быстрее или дешевле - Вы сообщите, очень хочется посмотреть на этого мастера, студию или web...

«Измерение Раша» математика МЕТРИЧЕСКОЙ СИСТЕМЫ ГЕОРГА РАША

МЕТРИЧЕСКАЯ СИСТЕМА  ГЕОРГА РАША -
RASCH MEASUREMENT (RM)
Вадим Аванесов
В статье рассматриваются вопросы создания и применения системы психолого-педагогических измерений, названной на Западе в честь её основателя, датского математика Георга Раша. Даётся анализ целей и задач RM, изучены причины отставания исследований RM в России от других стран. Сформулирована подходящая терминология RM на русском языке.
Ключевые словаRasch Measurement, цели и задачи RM
О названии статьи
Английский подзаголовок к названию данной статьи написан из-за трудностей точного перевода английского словосочетания Rasch Measurement на русский язык. Если кто-то усомнится в этом, можно попробовать варианты. Дословный перевод словосочетания Rasch Measurement на русский язык даёт мало приемлемое название «Рашево измерение». При попытке перевести это словосочетание с другого конца получается неприемлемое - «Измерение Раша».
Часто говорят о педагогических измерениях по модели Раша, но и здесь не обходится без затруднений. Потому что сейчас применяются несколько моделей Раша. Тогда получается «Измерение по моделям Раша», но требуются пояснения - по какой модели именно? Да и сама модель – это ещё не измерение, а только его математическая форма.
В приведённом названии статьи отразилось самое краткое определение RM. Оно дано всего двумя словами - метрическая система. При этом имеется в виду система психолого-педагогических измерений, которую создал датский математик Георгом Раш, а затем её стали разрабатывать его многочисленные последователи. Сначала в США и Австралии, и уже потом - по всему миру.
В процессе педагогических измерений акцент часто делается не только на результатах испытуемых, но и на необходимости определения устойчивой меры трудности заданий. Устойчивость здесь понимается как независимость или малая зависимость значений параметра трудности заданий от выборки испытуемых выборки заданий. Полезно напомнить, что если в рамках статистической теории педагогических измерений задания даются хорошо подготовленным испытуемым, то мера их трудности становится низкой; если же даются слабым испытуемым, то те же самые задания считаются лёгкими.
Различия в мерах трудности заданий в зависимости от уровня подготовленности испытуемых породили словосочетание «sample-dependant item characteristics». Симметрично, можно говорить и о зависимости параметров уровня подготовленности испытуемых от уровня трудности заданий теста (item-depended person characteristics). Система RM и математическая теория измерений IRT[1]возникли из стремления преодолеть отмеченные зависимости.
В RM изначально выделяются два взаимосвязанных объекта измерений – уровни трудности заданий и уровни подготовленности испытуемых. В RM эти объекты участвуют одновременно, в рамках одного общего исследования. Поэтому такое измерение часто называют совместно проводимым (joint measurement).
Определение главных понятий
В технологическом смысле Rasch Measurement можно определить как процесс и метрическая система трансформации результатов тестирования в педагогические измерения. В этом определении главными стали словосочетания «процесс измерения», «трансформация» и «метрическая система». Откуда вытекает, что, во-первых, RM - это больше чем математическая модель, и, во-вторых, что RM – явление процессуальное и, в-третьих, явление системное, требующее системного подхода и системного анализа результатов. Результатом RM являются измерения со свойствами интервальной шкалы.
Педагогическое измерение в данной статье понимается как процесс определения меры интересующего латентного свойства личности испытуемого на интервальной шкале, посредством качественного теста, состоящего из системы заданий равномерно возрастающей трудности, позволяющего получать педагогически целесообразные результаты, отвечающие критериям надёжности, валидности, объективности и эффективности. В этом определении курсивом выделены основные термины, позволяющие отграничить педагогические измерения от прочих методов - научных, псевдонаучных и ненаучных[2].
Самое короткое и узкое определение RM – это метод трансформации исходных тестовых результатов в интервальную шкалу натуральных логарифмов. В этом определении главное – процесс трансформации исходных тестовых баллов в шкалу натуральных логарифмов, после чего, собственно, и появляется измерение. До процесса логарифмического преобразования исходные баллы испытуемых не рассматриваются как измерения[3].
Системный подход к RM позволил по-новому определить и понятие «педагогический тест». В новой формулировке он определяется так: это система заданий равномерно возрастающей трудности, позволяющая качественно оценить структуру и измерить уровень подготовленности испытуемых. Смыслы всех терминов этого определения читатель найдёт в предыдущих публикациях нашего журнала или в работах автора, представленных на сайте. Надо добавить, что все задания педагогического теста должны иметь варианты замены. Это защита теста от рассекречивания какого-либо его варианта, или от списывания. В одной аудитории каждый испытуемый получает свой, отличающийся от других, вариантов теста, но сопоставимый с другими вариантами по содержанию и по мере трудности[4].
Всё, что разработано Г. Рашем, сделано на языке математики, а потому не имеет конкретной привязки к педагогике или психологии, равно как и к измерению какого-либо одного свойства личности. Уже одно это свидетельствует об общности и оригинальности его теории. Это обстоятельство не воспринималось, должным образом, современниками Г.Раша.
И только спустя двадцать семь лет, после выхода его книги в США на английском языке, а также после появления в США первого последователя его теории, Бенджамена Райта[5], стало понятным, что RM - оригинальная научная система измерений, своеобразный подход к вопросам разработки тестов. Своеобразие этой системы проявилось в том, что она состоит не только из ряда теорий и научных положений, но включает технологию разработки тестов, а также компьютерные программы для сопряжённого (joint) вычисления меры трудности заданий и уровня подготовленности испытуемых. Не случайно в мировой литературе закрепилось название RM, вынесенное в подзаголовок статьи.
 
Бенджамен Райт
Постановка проблемы
Как отмечали зарубежные авторы[6] нашего журнала, RM стало популярным во всём мире, и в различных сферах. Эта популярность касается не только сфер педагогики и психологии, но и социологии, медицины. В этой же статье упомянутые авторы кратко перечислили преимущества RM:
-этот метод обеспечивает получение валидных результатов посредством применения статистик адекватности (fit statistics), диагностической информации, карты (Person-item map) сравнения уровня трудности заданий с уровнем подготовленности испытуемых;
- даёт информацию о надёжности измерений посредством расчёта стандартных ошибок измерений, оценок параметров заданий и параметров подготовленности испытуемых на одной шкале;
- даёт возможности оценить параметры уровня подготовленности испытуемых независимо от уровня трудности заданий в имеющейся выборке заданий;
- оценивает параметры уровня трудности заданий независимо от уровня подготовленности выборки испытуемых;
- представляет параметры испытуемых и заданий на одной общей линейной шкале, что помогает критериально-ориентированной и нормативно-ориентированной интерпретации данных;
-ставит в фокус исследования отдельные задания и результат отдельных испытуемых, в отличие от статистической теории измерений (СТТ), где исследователь имеет дело с обобщенной статистикой свойств заданий и испытуемых;
- даёт возможность уравнивания баллов испытуемых, полученных на параллельных вариантах заданий, измеряющих одно и то же интересующее свойство[7].
Практика применения RM насчитывает десятки тысяч исследований, проводившихся в разных странах в течение полувека и опубликованных на многих языках мира. Столь большое число исследований является одним из свидетельств актуальности проблемы RM.
К вопросам RM авторы нашего журнала ПИ обращались неоднократно. В ПИ №4 2005 г. В.C. Ким применил алгоритм RM для создания педагогического теста[8]. Вопросы понятийного аппарата педагогических измерений по модели Г.Раша исследовала Г.И. Смирнова[9]
О.Г. Деменчёнок считает, что модель Раша можно рассматривать как научную гипотезу, основанную на следующих предположениях:
1) мера уровня подготовленности любого испытуемого ti (т.е. количественная характеристика уровня подготовленности испытуемого по определенному множеству заданий теста) не должна зависеть от уровня трудности тестовых заданий ti Î(0;¥);
2) вероятность правильного ответа испытуемого Pi зависит только от уровня подготовленности испытуемого и от уровня трудности тестового задания b Î(0;¥) (т.е. количественной характеристики тестового задания, не зависящей от выборки испытуемых и отраженной на определенной шкале по конкретному разделу определенной области знания) или P=f (t,b). [10].
Для построения шкалы измерений оказалось удобным выражать уровень подготовленности t и уровень трудности b в шкале логарифмов: q =ln (t),  b = ln (b), где q  и b – значения уровней подготовленности и трудности, измеряемые в логарифмическом масштабе. В соответствии с принятой терминологией и нотацией, далее под уровнями подготовленности и трудности будем понимать q  Î (–¥;¥и b Î (–¥;¥).
В статье В.С. Аванесова рассматривалась проблема взаимосвязи форм тестовых заданий и требований модели Раша. Там был сделан неожиданный, для многих практиков, вывод о непригодности повсеместно используемых сейчас заданий с выбором одного правильного ответа, из 2-5 предлагаемых на выбор ответов, для применения в системе RM[11] для получения качественных измерений. Непригодность вытекает из-за неизбежности угадывания правильного ответа теми испытуемыми, которые подготовлены недостаточно. В итоге появляются ошибки измерения, снижающие качество педагогических измерений.
В той статье вместо критикуемых заданий с выбором одного правильного ответа были предложены задания с выбором нескольких правильных ответов[12], где вероятность угадывания правильных ответов со стороны неподготовленных испытуемых очень низка, порядка 0,001-0,010, то есть, практически ничтожная.
Сам Г.Раш задания с выбором одного правильного ответа в своей работе не использовал, потому что в его время, и в его окружении, они не применялись. Он мыслил больше математически, чем технологически, предпочитал иметь дело с заданиями открытой формы, где угадывание исключено, не заботясь при этом о трудностях сбора данных посредством заданий такой формы в массовых исследованиях.
В наше время задания открытой формы автор этой статьи рекомендует применять только в двух случаях: для проверки правильности написания трудных слов и только в качестве пробного этапа разработки заданий с выбором одного или нескольких правильных ответов, для поиска подходящих дистракторов. В обоих случаях тестирование надо проводить на компьютерах, для того, чтобы полностью исключить ручной труд и возможности намеренной или невольной фальсификации при сканировании данных.
В.D.Wright & J.M.Linacre определили RM как процесс сравнения результатов испытуемых на шкале натуральных логарифмов[13]. Математическую сторону и саму теорию Г.Раша успешно развивал D.Andrich[14].
Этими авторами было разработано несколько компьютерных программ, позволяющих проводить необходимые вычисления параметров заданий и испытуемых, а также давать компьютерную оценку пригодности данных для используемой модели.
Главным условием качества проведения RM – это соответствие данных модели измерения. Если данные соответствуют модели, то в результате процесса измерения данные представляются на интервальной шкале. При этом шкала RM устойчива к потере некоторых исходных данных.
RM является методом объективированного шкалирования данных. Иногда пишут «объективного» измерения, но сам Г. Раш эту лексику не поддерживал. Он считал нужным добавлять при этом слова «специфически объективного измерения», имея ввиду неравенство понятия «объективное» в философии и того понятия объективности измерений, которое он мог достигать математическими методами. Автор этой статьи данную ситуацию выражает термином «объективированные» измерения[15].
Смысл специфически объективного измерения заключается в том, что сравнение мер трудности двух любых заданий теста рассматривается независимым от той или иной группы испытуемых. Симметричным образом, результаты сравнения любых двух взятых испытуемых не могут зависеть от систем заданий, образующих тест.
Метрическая система Г.Раша применима к исследованию любого интересующего свойства личности - если таковое существует устойчиво и наблюдаемо посредством системы эмпирических индикаторов, будь то знание, интеллект, социальные и психологические установки, отношение к чему-либо и пр.
Основу данной статьи составляют исходные понятия и идеи, которые привели к созданию нового, личностно-центрированного метода педагогических измерений. Хотя это открытие было сделано Г.Рашем в начале 50-х годов XX века, в литературе оно датируется обычно 1960 годом, моментом выхода из печати первого издания его главной книги[16]. Двадцать лет спустя она была издана в США[17]. Это и послужило главным толчком к признанию метрической системы Г.Раша в международном масштабе.
Основная проблема RM – это проведение качественных измерений. Оно возможно только тогда, когда есть чётко выраженная концепция измеряемого свойства (конструкт), подобрано нужное содержание теста, сформулированы задания в наиболее подходящей для данного содержания (вида знаний) тестовой форме.
Главная формула RM
С самого начала пятидесятых годов Г.Раша привлекли к оценке интеллектуальных способностей призывников датской армии. Он сразу же обратил внимание на основной недостаток применявшихся тогда психологами тестов, в которых были только задания с выбором одного правильного ответа. У этих заданий есть существенный дефект - высокая вероятность угадывания правильного ответа теми испытуемыми, кто не обладал интеллектуальными способностями. Поэтому первое, что он сделал – решительно отказался от таких заданий и перешёл к применению заданий открытой формы[18]. Другие формы заданий в то время не были достаточно известны.
В основу разработки своей системы измерения Г. Раш положил метафору противоборства испытуемого с тестовым заданием. Если испытуемый имеет более чем достаточную подготовку для решения очередного задания, то он станет вероятным победителем противоборства, а потому получит, скорее всего, победный балл. Если подготовка недостаточна, побеждает, можно условно сказать, задание. Следствием чего испытуемый получит ноль баллов.
Далее Г.Раш стал искать вероятностную математическую модель-функцию, позволяющую корректно описать свою метафору противоборства. После ряда проб он остановился на формуле, представленной здесь в более удобной нотации Ф. Лорда.
{ = 1½}=                                           (1)
В наше время эту формулу часто записывают в строку
           Pj (q) = {xij = 1½bj }= exp (q - bj) / (1 + exp(q - bj)               (1а)
С этой модели начался подлинный успех Г.Раша, заметно усилился прогресс в разработке педагогических измерений и зарубежных образовательных систем. Получилось так, как в своё время гениально написал Н.И.Лобачевский: «Истинная теория должна заключаться в одном простом, единственном начале, откуда явление берётся как необходимое следствие, со своим необходимым разнообразием[19].
Основные цели RM
Любое измерение начинается с общественно одобряемых целей и задач. Задания становятся операциональным определением измеряемого свойства тогда, когда их содержание и формы соответствуют открыто объявленным целям тестирования.
Г. Раш представлял главную цель измерения интересующего свойства личности на латентной переменной величине как относительно точное позиционирование каждого испытуемого на основе тестового балла. Этот балл получается на переменной величине, отображающей, в количественном виде, измеряемое свойство. Обычно принимается простая логика: чем выше тестовый балл, тем больше выражено у испытуемого интересующее свойство личности. Для определения переменной величины необходимы задания, подходящие для измерения данного свойства, а также значения исходных баллов испытуемых.
В наглядной форме эта идея была хорошо представлена в классической работе Б.Райта и М.Стоуна[20]Рис.1 из упомянутой книги даёт пример геометризации понятия «переменная величина» и результата измерения, как точки на числовой оси.
Рис. 1 Пример позиционирования испытуемого с номером i
на латентной переменной величине «Уровень подготовленности испытуемых
                                                                                   
Значение тестового балла испытуемого θi
 

 



Вторая цель RM – провести шкалирование уровня трудности заданий. Соответственно, возникла идея позиционирования заданий на латентной переменной величине «Трудность заданий» [21]. Реализация этой цели представлена на рис. 2.
Рис. 2. Пример позиционирования четырёх заданий теста по уровню их трудности на латентной переменной величине «Трудность заданий теста»
 
Континуум трудности заданий
Низкий уровень
трудности
 
Высокий
уровень
трудности
 


                                                                                          
β1
Самое лёгкое
задание
 
Самое трудное задание
 


Из всех известных моделей педагогических измерений модель Раша считается самой простой. Она требует информации о значениях только двух параметров: уровня подготовленности испытуемых и уровня трудности заданий.
Достижению двух главных целей RM способствует общая целевая установка на производство качественных педагогических измерений, по всему циклу, от замысла – до реализации. В этом цикле можно насчитать до сотни задач, которые в одной статье можно только перечислить, но не рассмотреть. Вместо этого, в данной статье произведено деление всех решаемых задач RM на общие и специфические.  
Общие задачи RM
Помимо целей, в RM можно выделить, по меньшей мере, два класса задач: общие и специфические.
Общие задачи педагогических измерений получают такое название из-за того, что они возникают при разработке теста по любой теории педагогических измерений, и в том числе, по RM.
Специфические задачи присущи преимущественно для RM.
Общие задачи педагогических измерений, используемые в RM, предшествуют специфическим. А потому без решения первых задач нет и качественного решения вторых.
1. Композиция тестовых заданий. В истории RM эта задача не ставилась в том виде, как она ставится здесь. В этом легко убедиться, заглянув в работы зарубежных классиков. В их трудах RM – проблема математико-статистическая, программно- вычислительная и технологическая. Но значит ли это, что задача композиции тестовых заданий не существенна для RM?
Композиция тестовых заданий существенна для RM в той мере, в какой само это измерение зависит от качества формулирования заданий. Если содержание задания выражено некорректно или неясно, или представлено в не подходящей форме, то математическая теория не сможет сделать такие дефектные задания хорошими. Это и не её предмет. Вопросы содержания и формы заданий являются предметом педагогической теории измерений, разработкой которой занимается наш журнал, начиная с самого первого номера[22].
На сегодняшний день традиции RM таковы, что вопросы композиции считаются хотя и важными, но внешними для этой теории. Но с этим согласиться можно только при условии признания взаимосвязи педагогической теории и RM. На данный момент нет, однако, ни международного признания педагогической теории измерений, ни идеи взаимосвязи этой тории с RM. Это обычное явление в развитии наук. Известно, что новые теории принимаются и приживаются тяжело. Существенное место в педагогической теории уделено вопросам композиции тестовых заданий[23].
Композиция определяется как форма деятельности педагога-творца, стремящегося создать задания, отвечающим требованиям современных образовательных технологий и педагогических измерений. Само слово "композиция" означает произведение, структуру, состав, а также соединение и взаимное расположение частей целого. Применительно к нашему предмету, целым является тест, частью целого – тестовое задание. В композиции самое главное – умелое соединение формы и содержания заданий. Качественная композиция тестовых заданий – условие необходимое, но недостаточное для успешного проведения RM.
В науке и искусстве композицией называют состав и расположение частей целого, удовлетворяющих следующим условиям:
 - ни одна часть целого не может быть изъята или заменена без ущерба для целого;
- части не могут меняться местами без ущерба для целого;
- ни один новый элемент не может быть присоединен к целому без ущерба для целого[24].
Успех в композиции заданий, как и в создании произведений искусства, зависит не только от оригинальности содержания, но и от мастерского владения формой. Успешная композиция может обладать свойствами эстетичности, эффективности, устойчивости и полезности.
Композиция тестовых заданий может рассматриваться не только как форма деятельности, но и как результат, получаемый в правильно организованном тестовом процессе. Цель композиции - создание таких заданий, которые можно было бы включить в тест, использовать в автоматизированных системах контроля и самоконтроля знаний, а также для организации самостоятельной работы обучающихся.
В учебном процессе основная цель композиции - создание новых заданий, помогающих студентам (школьникам) обучаться и развиваться с использованием образовательных технологий.
Главная причина некачественности большинства имеющихся тестов коренится в игнорировании требований композиции тестовых заданий.
2Эмпирическая апробация заданий проектируемого тестаДалее проводится апробация этих заданий на достаточной выборке испытуемых. Тест представляет собой результат умелого соединения теоретических концепций интересующего свойства личности и эмпирической проверки качества заданий. Эмпирическая апробация заданий проводится на типичной выборке испытуемых, очень похожей на так называемую целевую группу (target group). Это множество испытуемых, для которых разрабатывается тест.
По итогам апробации строится матрица тестовых результатов, подобная представленной в табл. 1.
В этой матрице проводится редактирование, в процессе которого удаляются т.н. «экстремальные» задания и экстремальные испытуемые. В RM задания называются экстремальными в двух случаях: когда нет ни одного правильного ответа, и когда, наоборот, все ответы на задание правильные. Аналогично из матрицы удаляются баллы т.н. экстремальных испытуемых, не имеющих ни одного правильного ответа, равно как и испытуемых, ответившие на все задания правильно. Тем самым признаётся, что данным тестом уровень подготовленности экстремальных испытуемых определить невозможно.
3. Дистракторный анализ заданий.  Дистракторами называют неправильные, но правдоподобные ответы в заданиях с выбором одного или нескольких правильных ответов. Дистракторный анализ проводится как в рамках общих методов педагогических измерений, так и в рамках RM. Без проведения дистракторного анализа тестов не бывает.
Общий дистракторный анализ сводится обычно к расчёту процентов выбора испытуемыми каждого ответа, в каждом задании.
В итоге появляются три группы дистракторов.
Первая группа - это те дистракторы, которые никто не выбирает, или их выбирают очень редко. Такой результат означает неудачу разработчика заданий, так как дистрактор не привлёк к себе внимания слабо подготовленных испытуемых. Дистрактор, который не оказался таковым фактически, удаляется из задания как не соответствующий требованиям композиции тестового задания. Вместо неудачного дистрактора подбирают другой. И снова потребуется эмпирическая проверка и проведение процентного анализа. Нижней границей приемлемости дистрактора можно считать 5%. Дистрактор, привлекающий к себе менее пяти процентов ответов неподготовленных испытуемых, считается неудачным.
Вторая группа – т.н. «работающие» дистракторы. Каждый из них привлекает внимание испытуемых, успешно отвлекает слабо подготовленных испытуемых от правильного ответа.
Третья группа дистракторов – это чрезмерно привлекательные дистракторы. Так, в задании
1. К.МАРКС РОДИЛСЯ В ГОРОДЕ
1) Трир
2)  Берлин
3) Мюнхен
4) Карлмарксштадт
5) Франкфурт-на- Майне
Испытуемые, не знающие правильный ответ, нередко выбирают четвёртый ответ, предполагая, что именно в честь данного события в бывшей ГДР и был назван город Карлмарксштадт.
            Дистракторный анализ проводится в RM, а также и в математической теории педагогических измерений (МТИ). Методика проведения такого анализ изложена в статье автора[25]. Автор этой статьи обе теории, RM и МТИ, рассматривает отдельно, ввиду наличия у них существенных различий, несмотря на совпадающую формулу 1, используемую в обеих теориях. Другие авторы, преимущественно российские, считают, что это одна теория. Нередко «объединённую» таким образом «теорию» называют «современной». Такое название в этой статье не поддерживается.
Специфические задачи RM
Другую часть задач можно назвать специфическими для RM.
1. Расчёт вероятности правильного ответа испытуемых на задание теста. Это задача вычислительного толка. Она решается посредством компьютерных программ при разработке тестов по системе RM и при применении математической теории педагогических измерений[26]. Вероятность правильного ответа каждого испытуемого на каждое задание в любой заданной точке континуума подготовленности можно определить посредством формулы 1. По итогам вычислений для каждой точки уровня подготовленности строится график задания теста.
В модели Г.Раша принимается, что вероятность правильного ответа испытуемого на задание теста зависит только от двух показателей – от уровня подготовленности испытуемого и от уровня трудности задания. Чем больше эта разность, тем больше вероятность правильного ответа испытуемого с номером i на задание с номером j. Эта закономерность графически выражена в работеB.D.Wright and Stone M.D[27] (см. рис. 3).
Если испытуемый знает больше, чем того требует задание, значение разности больше, а потому большей чем 0,5 становится и вероятность правильного ответа, что видно из соответствующего графика рис.3. При любых значениях qi и bj значения вероятности правильного ответа испытуемых с различной подготовкой на задания различного уровня трудности остаются в пределах от нуля до единицы, что достигается удачной структурой формулы (1).
Рис. 3 График зависимости вероятности правильного ответа от разности между уровнем подготовленности испытуемых и уровнем трудности заданий.
Численный пример расчёта вероятности правильного ответа читатель найдёт в статье B.DWright [28]. Этот пример приводится также и в статье автора[29].
2Трансформация результатов тестирования. Одно из ранее приведённых определений RM – это метод трансформации данных тестирования. Процесс трансформации тестовых результатов делится на две части и проходит в два этапа. Первая часть процесса называется на английском языке Item calibration. На русский язык иногда это переводят, как говорится, в лоб, как «калибровка» или «калибрование» заданий.
Автор этой статьи такую лексику не поддерживает и предлагает вариант: шкалирование заданий по уровню их трудности. Результатом процесса трансформации исходных баллов тестирования являются шкала исходных значений трудности заданий проектируемого теста. Эти значения представлены в строке ln qj/pj табл. 1.
Второй процесс трансформации данных – это получаемая в RM шкала исходного уровня подготовленности испытуемых. Оба эти сопряжённые процессы вычисления автор данной статьи называет измерением уровня подготовленности испытуемых и шкалированием заданий по уровню их трудности.
Здесь главное – трансформация исходных тестовых баллов в шкалу натуральных логарифмов, после чего, собственно, и появляется измерение. До начала процесса логарифмического преобразования исходные баллы тестирования не рассматриваются как результаты измерения[30].
В методе Г.Раша исходные значения тестовых баллов трансформируются в исходные же логиты уровня подготовленности испытуемых. Учебный пример такого рода трансформации результатов испытуемых представлен справа и внизу известной нашим читателям учебной табл. 1. Она приводится каждый раз из соображений доступности излагаемого материала для читателей.
Г.Раш отошёл от упрощённых оценок т.н. «уровня усвоения учебного материала», которые часто применяется при мониторинге в российских школах. Это процент правильных ответов испытуемых на задания. Процент получается умножением долей правильных ответов испытуемых столбца pi в правой стороне табл. 1 на сто. Получится процентная мера усвоения каждого испытуемого (здесь не представлена).
Вместо этой меры Г.Раш предложил в правой стороне табл. 1 брать, для испытуемых, отношение ln pi/qi, а в нижней части таблицы 1, для заданий, брать отношения ln qj/pj. Первое отношение можно назвать логарифмической оценкой исходного уровня подготовленности (qi), второе - логарифмической оценкой исходной меры трудности задания bj.
Тем самым Г. Раш сделал решающий шаг. Он ввёл общую логарифмическую меру измерения уровня подготовленности и уровня трудности задания, названную им, соответственно, логитом уровня подготовленности испытуемых и логитом трудности заданий.
Значения исходных логитов представлены в табл. 1
Далее проводится второй этап шкалирования значений уровня трудности заданий и уровня подготовленности испытуемых. Там стандартизуются шкалы исходных логитов сопоставимыми значениями средних арифметических и стандартных отклонений. Только в этом случае возникает полная соизмеримость значений обеих переменных величин – уровня подготовленности испытуемых и уровня трудности заданий.
Учебный пример таблицы тестовых результатов.                   Табл. 1
№№
Х1
Х2
Х3
Х4
Х5
Х6
Х7
Х8
Х9
Х10
Yi
pi
qi
pi/qi
ln pi/qi
 1.
1
1
1
0
1
1
1
1
1
1
9
.90
.10
9
2.20
 2.
1
1
0
1
1
1
1
1
1
0
8
.80
.20
4
1.39
 3.
1
1
1
1
0
1
1
0
1
0
7
.70
.30
2.33
.85
 4.
1
1
1
1
0
1
0
1
0
0
6
.60
.40
1.50
.40
 5.
1
1
1
1
1
1
0
0
0
0
6
.60
.40
1.50
.40
 6.
1
1
1
1
0
0
1
0
0
0
5
.50
.50
1.00
0
 7.
1
1
0
1
1
0
1
0
0
0
5
.50
.50
1.00
0
 8.
1
1
1
1
1
0
0
0
0
0
5
.50
.50
1.00
0
 9.
1
0
1
0
1
1
0
0
0
0
4
.40
.60
.66
-.42
10.
0
1
1
0
0
0
0
1
0
1
4
.40
.60
.66
-.42
11.
1
1
1
0
0
0
0
0
0
0
3
.30
.70
.43
-.84
12.
1
1
0
0
0
0
0
0
0
0
2
.20
.80
.25
-1.39
13.
1
0
0
0
0
0
0
0
0
0
1
.10
.90
.11
-2.21
Rj
12
11
9
7
6
6
5
4
3
2
65
    
Wj
1
2
4
6
7
7
8
9
10
11
     
рj
.923
.846
.692
.538
.462
.462
.385
.308
.231
.154
5
    
qj
.077
.154
.308
.462
.538
.538
.615
.692
.769
.846
     
pjqj
.071
.130
.213
.248
.248
.248
.236
.213
.178
.130
     
qj/pj
.083
.182
.445
.859
1.164
1.164
1.597
2.246
3.329
5.493
     
ln qj/pj
-2.489
-1.704
-.810
-.152
.152
.152
.468
.809
1.202
1.703
     
В этой матрице рассчитывают:
рj - долю правильных ответов испытуемого i, по всем заданиям теста;
qi - доля неправильных ответов того же испытуемого i, по всем заданиям теста;
рi /qi - потенциал подготовленности испытуемого i;
ln рi/qi G.Rasch называет логитом подготовленности [31].
ln qj/pj им же названа логитом трудности задания.
3. Равномерность возрастания меры трудности заданий. Решение этой задачи находится в соответствии с данным выше определением теста, как системы заданий равномерно возрастающей трудности. Раньше этот уточняющий момент в определении теста не делался. В итоге задания некоторых т.н. «тестов» подбирались иногда с заметными «провалами» между заданиями, что сильно ухудшало метрические свойства метода; заметно снижалась точность измерений и дифференцирующая способность тестовых результатов. Можно с сожалением отметить, что ряд российских практиков и авторов этот критерий либо не признают, либо обходят стороной, как несущественный. Например, вместо понятия «система заданий» используют словосочетание «совокупность» или «множество заданий», как будто между ними нет разницы.
B.D.Wright и MStone обратили внимание на важный системный фактор распределения заданий теста по уровню трудности. В педагогических измерениях по модели Г.Раша графики заданий теста отличаются только значениями проекций точек перегиба функций на ось абсцисс; чем труднее задание, тем правее располагается график относительно оси абсцисс. Трудность рядом стоящих заданий теста не должна отличаться более чем на 0,5 логита[32]. Иначе на шкале образуются провалы. Расстояние в 0,5 логита – это довольно либеральное требование. Лучше, когда расстояние между заданиями бывает не более чем 0,25 логита трудности. Это требование можно назвать условием достаточной плотности расположения числа заданий на шкале.
Обоснование вывода о равномерности расположения заданий теста, а следовательно и пригодности предлагаемой системы заданий для измерения уровня подготовленности испытуемых на данной переменной величине нуждается в эмпирических фактах. В качестве таких фактов в RM используется построение на одной плоскости графиков всех заданий теста. Для заданий учебной матрицы табл. 1 графики представлены на рис. 4.
Рис. 4.  Графики всех заданий, построенных по данным учебной матрицы табл. 1
Из рис. 4 видно, что для достижения качественных измерений в учебном тесте табл. 1 не хватает заданий соответствующего уровня трудности между вторым и третьим, третьим и четвёртым, восьмым и девятым заданиями.
Как видно на рис. 4, графики всех заданий имеет одну и ту же крутизну, что означает, что их дифференцирующая способность принимается равной. Хотя при использовании других моделей выявляются существенные отличия по крутизне заданий, в RM, тем не менее, значение параметра крутизны каждого задания принимается равным единице. Естественно поставить вопрос - почему в RM вводится столь странная унификация заданий по уровню их дифференцирующей способности?
Г.Раш полагал, что только в таком случае вероятность правильного ответа испытуемого будет зависеть только от значения θ и от меры трудности задания. И не будет зависеть от других свойств заданий и от других факторов. С этим утверждением мало кто соглашался, но результат превзошёл ожидания. Модель оказалась работоспособной.
4. Соответствие тестового задания модели измерения.
На рис. 5 представлен график первого, наиболее лёгкого задания учебной матрицы табл. 1. На рисунке видно вполне приемлемое совпадение теоретических и эмпирических точек; это доли правильных ответов слабой, средней и сильной части группы испытуемых. Об этом же свидетельствует и низкое значение отклонений эмпирических точек от графика (residual = -0,002).
Рис. 5. График задания, совместимого с моделью Г.Раша.
В классической (статистической) теории педагогических измерений это задание было бы однозначно отбраковано по критерию очень низкой корреляции ответов испытуемых на это задание с суммой баллов проектируемого теста ( r1t.= 0,132).
Табл. 2. Коэффициенты корреляции ответов на задания учебного теста табл. 1 с суммой баллов.
Номера заданийЗначения коэф. корр.
10,132
20, 488
30, 305
40,495
50,495
60,707
70,652
80,534
90,752
100,293
Теперь полезно посмотреть на пример плохого соответствия задания № 3 учебной матрицы табл. 1 требованиям модели Г.Раша. Соотношение эмпирических точек и графика задания на рис. 6. показывает, что это задание не годится ни для оценки испытуемых низкого уровня подготовленности, ни для оценки испытуемых и высокого уровня подготовленности. Слабо подготовленные испытуемые отвечает на него лучше, чем прогнозирует вероятностная модель, а хорошо подготовленные испытуемые отвечают хуже, чем прогнозируется по модели. Это задание, скорее всего, имеет дефект в композиции задания; его правильно понимают только испытуемые среднего уровня подготовленности.
Рис. 6. График задания № 3, не соответствующего модели Г.Раша
О неадекватности задания свидетельствует относительно большое значение отклонений точек от графика (residual = 0,918). Поэтому это задание нельзя отнести к числу соответствующих модели Г. Раша, даже если по минимальному значению критерия пригодности (хи-квадрат) оно считается подходящим. Качественный тест такое задание может только испортить.
Полезно заметить, что хотя коэффициент корреляции этого задания выше (r3t = 0,305), чем у первого задания, соответствие этого задания оказалась ниже. В классической теории педагогических измерений это задание могло бы пройти в число тестовых, если использовать обычный там порог значений r > 0,300.  
5. Совместимость тестовых заданий.
Понятие «совместимость тестовых заданий» выражает идею возможности создать тест из совместимых между собой заданий. Наиболее часто применяемым показателем совместимости отдельного задания и общей совмести всех заданий, образующих тест как систему заданий возрастающей трудности, является значение хи-квадрат, которое для случая учебной матрицы в табл. 1 равно 0,789. Чем больше значение хи-квадрат, делённое на число т.н. «степеней свободы», тем лучше совместимость.
В данном случае совместимость, по установившейся практике, считается более чем удовлетворительной. Хорошая совместимость появляется тогда, когда нет проблемных заданий. Совместимость становится отличной, если все задания проектируемого теста задания не только свободны от дефектов, но и наилучшим образом соответствуют требованиям модели Г. Раша.
6. Соответствие меры трудности разрабатываемого теста уровню подготовленности студентов. Для проведения качественного педагогического измерения уровень трудности теста должен соответствовать уровню подготовленности испытуемых. Эта простая истина была известна ещё в статистической теории педагогических и психологических измерений. Её можно теперь увидеть посредством применения компьютерных программ по вычислению и наложению двух гистограмм – результатов испытуемых и мер трудности заданий. Вверху располагается гистограмма результатов испытуемых, внизу – гистограмма распределения заданий – от лёгкого к трудному.
7. Достаточность вариации и размаха заданий по уровню их трудности. В тесте должны быть задания равномерно возрастающей трудности. Это правило позволяет обеспечить варьирование заданий по уровню трудности. Разность между значением самого трудного и самого лёгкого задания называется размахом. В RM в качестве нормы принимаются пределы вариации значений трудности заданий в логитах щот -3 до +3 . Соответственно приемлемая мера размаха равна шести логитам.
Хорошо известно, что в одном тесте нет, и не может быть одинаковых заданий: они все отличаются хотя бы по одной из характеристик заданий, среди которых наиболее главная для теста, как формальной системы - мера трудности заданий. Нет метрического смысла иметь в тесте два и большее число заданий одинакового уровня трудности.
Парадокс RM
Из общих соображений известно, что любая жёстко ограниченная система неизбежно порождает ряд противоречий. Одним из таких ограничений является требование метрической системы Г.Раша: все задания теста должны иметь одинаковую крутизну своих графиков, несмотря на фактические различия по их дифференцирующей способности. Отмеченное ограничение даёт начало парадоксу, который полезно назвать именем Г.Раша.: чем большей, после некоторого уровня, дифференцирующей способностью обладает задание, тем больше оно противоречит системной идееRM. Следовательно, возрастает риск удаления из теста самых лучших его заданий!
Посмотрим пример задания №7 на рис. 7. С точки зрения классической теории педагогических измерений это задание обладает относительно высокой дифференцирующей способностью. Об этом свидетельствует значение коэффициента корреляции ответов испытуемых на это задание с суммой баллов по всему проектируемому тесту (r7t = 0,651, см. табл. 2.). Слабо подготовленные испытуемые отвечают на это задание хуже, чем это прогнозируется моделью Г. Раша, а хорошо подготовленные испытуемые отвечают лучше.
Рис. 7. График седьмого задания.
Если смотреть на такое задание с точки зрения требования одинаковой крутизны для всех графиков заданий теста, то получается парадокс: чем лучше задание, тем оно хуже с точки зрения требования RM[33].
И действительно, применение, например, двухпараметрической и трёхпараметрической модели МТИ позволило бы добиться лучшего совмещения эмпирических и теоретических (прогностических, по модели) точек.
Ещё один пример парадокса даёт задание № 9 на рис. 8.  Оно имеет наибольшую дифференцирующую способность, если об этом судить по значению коэффициента корреляции ответов испытуемых на задание с суммой баллов испытуемых (r9t = 0,752). То же подтверждает расчёт коэффициента крутизны графика этого задания в математической теории педагогических измерений (МТИ[34], здесь не приводится). На задание № 9 правильно ответы дают только отлично и хорошо подготовленные испытуемые.
Рис. 8. Пример графика слишком хорошего задания, обладающего дифференцирующей способностью более высокой, чем это требуется по модели Г.Раша.
Из-за отмеченного парадокса и это задание придётся удалить из проектируемого теста. Здесь имеет место явление, называемое по-английски Overfit что на русский язык можно перевести примерно так: задание настолько хорошее, что в это верится с трудом.
Уровни RM
В RM можно выделить практику, теорию, методику, технологию и методологию.
Главные направления развития теории – это формирование собственного языка RM, разработка моделей, проверка пригодности заданий по статистическим критериям, разработка вычислительных методов RM.
Методика RM касается вопросов алгоритмизации применения различных методов в процесс педагогического измерения.
Методология RM имеет своим предметом развитие соответствующей теории и преобразование (повышение эффективности ) практики педагогических измерений.
Причины отставания России в вопросах применения RM
В России педагогические измерения по модели датского математика Г. Раша не получили заметного распространения. Хотя значение и роль таких измерений за последние десятилетия выросли во всём мире. В настоящее время RM применяется для качественного шкалирования интересующих объектов и показателей состояния этих объектов, в таких сферах как образование, медицина, социология, психология и др.
Можно выделить три причины неадекватности педагогических измерений, основанных на модели Г. Раша, требованиям времени.
Первая и главная причина – это сверхизбыточное государственное вмешательство в сферу, сопряжённую с педагогическими измерениями. Уже два десятилетия в России вместо педагогических измерений государством и его органами активно навязываются некачественные методы и затратные бюрократические схемы, так называемые ЕГЭ, КИМы, АПИМы, ОСОКО, уводящие научно-педагогическую общественность в сторону от разработки подлинных научных методов педагогических измерений.
Вторая причина - слабая информированность относительно сути и возможностей (RM). Результаты неинформированности проявляются в малом количестве случаев применения RM и, одновременно, в заметных масштабах ухудшения качества образования в стране. Связь качества образования с RM может показаться особо спорной и даже непонятной. Но если представить качество образования как одно из следствий недостатков используемых в практике учебных заданий, то становится понятным, что умелое управление собственной учебной деятельностью учащихся и студентов невозможно без качественной и объективной информации о сравнительной мере трудности каждого задания и о возможности задания быть включённым в тест.
Третья причина слабого применения RM в России - это отсутствие приемлемого педагогического языка RM, необходимых изданий, в том числе доступных большому числу начинающих исследователей. Тексты по этой проблеме написаны в основном математиками для математиков. Там используются язык теории вероятности и статистики, не очень понятный педагогам иных специальностей, неадекватные переводы иностранной лексики вроде «характеристических кривых заданий (item characteristic curves).
На этом фоне предложенные автором данной статьи педагогическая теория педагогических измерений[35] и язык этой теории[36] в России остаются не востребованным. Что вызвано субъективистскими, лоббистскими, инерционными и ситуационными факторами. Но эти факторы могут обнулиться с началом действительной модернизации образовательной деятельности. Однако когда начнётся подлинная модернизация российского образования, понимаемая как приведение к современности – неведомо никому.


[1] Вадим Аванесов. Понятия и методы математической теории педагогических измерений (Item Response TheoryIRT). Статья третья.
[2] Аванесов В.С. Понятие и методы математической теории педагогических измерений (Item Response Theory): статья третья. Педагогические Измерения. №4, 2009 г. - С. 5.
[3] См. подробнее на эту тему: Аванесов В.С. Являются ли КИМы ЕГЭ методом педагогических измерений? ПИ №1, 2009 г. С. 3-26.
[4] В КИМах ЕГЭ это требование параллельности заданий теста не выполняется. И это одна из важных причин, почему они не являются педагогическими измерениями. См. http://viperson.ru/wind.php?ID=563869&soch=1
[5] В 1964 г. B.D.Wright специально поехал в Данию познакомиться с Г.Рашем и его работами. См.: Review of cooperation between B D Wright and G Rasch. Rasch Measurement Transactions, 1988, 2:2 p.19. http://www.rasch.org/rmt/rmt22c.htm
[6] Smith Everett V. Jr., Karen M. Conrad, Karen Chang, Jo PiazzaВведение в Rasch Measurement // Педагогические Измерения № 1, 2006, С.65-81.
[7] Там же.
[8] Ким В.С. Анализ результатов тестирования в Rasch Measurement. Педагогические Измерения» №4, 2005, С. 39-45.
[9] Смирнова Г.И. Разработка тезауруса педагогических измерений Г.Раша. Педагогические Измерения» №4, 2005, С.62-64.
[10] Деменчёнок О.Г. Математические основы Rasch Measurement // Педагогические Измерения, №1, 2010.
[11] Аванесов В.С. Применение тестовых форм в Rasch Measurement. Педагогические Измерения» №4, 2005, С. 3-20
[12] Там же
[13] Wright B.D., Linacre J.M. A measurement is the quantification of a specifically defined comparison. Rasch model derived from objectivity. Rasch  Measurement Transactions 1:1 p. 5. 1987.4 ;
[14] Andrich D. Rasch Models for Measurement. In Series: Quantitative Applications in the Social Sciences. Sage University Paper. # 68. -95 pp.
[15] Аванесов В.С. Тесты в социологическом исследовании. М.: Наука1982 г.
[16] Rasch G (1960). Probabilistic Models for Some Intelligence and Attainment Tests. Danish Institute for Educational Research, Copenhagen.
[17] Op. cit., reprinted by University of Chicago Press, 1980.
[18] Rasch G. (1960). Probabilistic Models for Some Intelligence and Attainment Tests. Danish Institute for Educational Research, Copenhagen. Reprinted by University of Chicago Press, 1980.  То, что увидел он в начале пятидесятых годов прошлого века, не хотели видеть в России конца XX-го, и не хотят видеть сейчас, в начале XXI-го века. В практике тестирования по-прежнему применяются преимущественно задания с выбором только одного правильного ответа.
[19] Лобачевский, Николай Иванович.  Большая биографическая энциклопедия.
[20] Wright B.D., Stone M.H. Best Test Design. ChicagoMESA Press, 1979
[21] Op.cit.
[22] В.С.Аванесов. Основы педагогической теории измерений // Педагогические Измерения, №1, 2004 г. С.15-21.; СМ. также ст. « Основные понятия теории педагогических измерений // Педагогические Измерения, №2, 2005г. С. 6-24.
[23] Аванесов В.С. Композиция тестовых заданий. – 3 изд. М.: Центр тестирования. 2002.
[24] Проблемы композиции. Сб. науч. тр. М.: 1999. Под общ. ред. В.В. Ванслова. М.НИИ Акад. художеств. – 292. с.
[25] Аванесов В.С. Проблема эффективности педагогических измерений //Педагогически Измерения №4, 2008. С. 3-24.
[26] Автор этой статьи считает эти две теории различающимися, в то время как другие авторы считают, что это одна теория. СмнапрActon, G.S. What is Good About Rasch Measurement? Он пишет на стр. 902: «Rasch model is a one-parameter logistic model within item response theory». Rasch Measurement Transactions, 16, 902-903.
[27] B.D.Wright and Stone M.D. Best Test Design. Chicago. MESA Press. 1979.
[28] Wright B.D. Solving measurement problems with the Rasch model. Journal of Educational Measurement 14 (2) pp. 97-116, Summer 1977. http://www.rasch.org/memo42.htm .
[29] Аванесов В.С. Проблема объективности педагогических измерений // Педагогические Измерения, № 3, 2008. С.3-40.
[30] См. подробнее на эту тему: Аванесов В.С. Являются ли КИМы ЕГЭ методом педагогических измерений? ПИ №1, 2009 гС. 3-26.
[31] Rasch,G. On General Laws and the Meaning of Measurement in Psychology /In Proceedings of the Fourth Berkley Symposium on Mathematical Statistics and Probability. Berkley: Univ. of California Press, 1961; Rasch, G. On Specific Objectivity: An Attempt of Formalizing the Request for Generality and Validity of Scientific Statements / Danish Yearbook of Philosophy. 1977, v. 14, p. 58 - 94, Munksgaard, Copenhagen. - 216p.; Rasch, G. Probabilistic Models for Some Intelligence and Attainment Tests. With a Foreword and Afteword by B.D. Wright. The Univ. of Chicago Press. Chicago & London, 1980. -199 рp.
[32] Исходное значение логита трудности задания находится из выражения ln qjpj, где qj  является долей неправильных ответов испытуемых на задании теста под номером j, а pj  - это доля правильных ответов испытуемых на то же самое задание под номером j.
[33] My best items don't fit! Rasch Measurement Transactions, 2004, 18:3 p. 992. Смтакже G. Masters (1988). "Item discrimination: when more is worse", Journal of Educational Measurement, 25:1, 15-29, and www.rasch.org/rmt/rmt72f.htm - RMT 7:2, 289.
[34] Аванесов В.С. истоки и основные понятия математической теории пдагогических измерений (Item Response Theory)// Педагогические Измерения, 3, 2007г. С. 3-36.
[35] Аванесов В.С. Основы педагогической теории измерений // Педагогически Измерения, №1, 2004 г. С. 15-21.
[36] Аванесов В.С. Определение исходных понятий теории педагогических измерений /// Педагогически Измерения, № 2, 2005, С. 6 – 24; Аванесов В.С. Язык теории педагогических измерений. // Педагогически Измерения, № 2, 2009, С. 29-60.
Используются технологии uCoz

Комментариев нет:

Отправить комментарий

СПАСИБО за Ваш комментарий

?