- •В.И. Звонников, м.Б. Челышкова Контроль качества обучения при аттестации: компетентностный подход Список сокращений
- •Введение
- •1. Качество результатов обучения и его оценка
- •1.1. Современные тенденции развития образования: императив качества
- •1.2. Основные подходы к трактовке качества образования в России и за рубежом
- •1.3. Зарубежный опыт реализации компетентностного подхода к оцениванию качества результатов обучения
- •1.4. Компетентностный подход и оценивание качества результатов обучения с позиций федеральных государственных образовательных стандартов нового поколения
- •1.5. Показатели качества образования
- •1.6. Системы менеджмента и оценки качества образования
- •1.7. Эвалюация в образовании
- •Практические задания и вопросы для обсуждения
- •2. Основы теории педагогических измерений
- •2.1. Понятийный аппарат теории педагогических измерений
- •2.2. Переменные и компоненты измерений в образовании. Надежность и валидность результатов измерения
- •2.3. Объективность педагогических измерений
- •2.4. Размерность пространства измерений
- •2.5. Уровни и шкалы измерений
- •2.6. Бипарадигмальная методология
- •Практические задания и вопросы для обсуждения
- •3. Основные подходы к разработке измерителей
- •3.1. Общие подходы к интерпретации результатов педагогических измерений
- •3.2. Нормативно-ориентированный подход и стандартизация тестов
- •3.3. Критериально-ориентированный подход
- •3.4. Задачи тестирования и виды тестов
- •3.5. Инновационные измерители в контексте компетентностного подхода
- •3.6. Основные этапы разработки аттестационных измерителей
- •Практические задания и вопросы для обсуждения
- •4. Аттестационные тесты. Их содержание, планирование, отбор и экспертиза
- •4.1. Целеполагание при планировании содержания педагогического теста
- •4.2. Планирование содержания теста
- •4.3. Общие принципы отбора содержания аттестационных тестов
- •4.4. Экспертиза качества содержания аттестационных тестов
- •Практические задания и вопросы для обсуждения
- •5. Формы тестовых заданий
- •5.1. Общие требования к заданиям тестов и классификация их форм
- •5.2. Задания с выбором одного или нескольких правильных ответов
- •Примеры заданий
- •5.3. Задания с конструируемым ответом
- •5.4. Задания на установление соответствия
- •5.5. Задания на установление правильной последовательности
- •5.6. Сравнительная характеристика форм тестовых заданий
- •1. Задания с двумя ответами
- •2. Задания с выбором из четырех-пяти ответов
- •3. Задания с конструируемыми регламентированными ответами
- •4. Задания со свободно конструируемыми ответами
- •5. Задания на соответствие
- •Практические задания и вопросы для обсуждения
- •6. Статистический анализ качества тестовых заданий и тестов
- •6.1. Классическая теория и методики конструирования тестов
- •6.2. Математико-статистический анализ качества тестов и тестовых заданий на основе классической теории тестов
- •6.3. Оценивание надежности и валидности педагогических тестов
- •6.4. Метод Кьюдера-Ричардсона для дихотомических оценок
- •6.5. Надежность и стандартная ошибка измерения
- •6.6. Валидность гомогенных тестов
- •Практические задания и вопросы для обсуждения
- •7. Сертификация аттестационных тестов
- •7.1. Общие сведения о системе сертификации педагогических тестов
- •7.2. Требования к качеству педагогических тестов
- •7.3. Требования к содержанию аттестационных тестов
- •7.4. Требования к статистическим характеристикам теста
- •7.5. Требования к характеристикам тестовых заданий компьютеризованного банка
- •7.6. Порядок сертификации тестов
- •Заключение
- •Словарь терминов
- •Список литературы
2.3. Объективность педагогических измерений
На ранних этапах истории развития педагогических измерений объективность считали неотъемлемой характеристикой результатов тестирования, поскольку стандартизованная проверка результатов выполнения тестов исключала педагога из оценочного процесса. По мере развития теории и практики применения тестов пришло понимание того, что абсолютная объективность – это недостижимая характеристика результатов любых, в том числе и педагогических, измерений в силу существования неизбежных ошибочных компонентов. На результаты измерений воздействуют различные факторы случайного и систематического характера, которые неизбежно влияют на величину ошибочных компонентов, изменяя их как в сторону увеличения, так и уменьшения. Поэтому в оценочных процессах можно лишь говорить о высокой или низкой объективности, оценка которой основана на выявлении надежности результатов педагогических измерений.
Наиболее полно трактовка термина «объективность измерений» представлена в исследованиях Вебстера [10, 36]. Он был первым ученым, осуществившим методологические исследования в этой области и предложившим восемь толкований обсуждаемого термина, три из которых непосредственно относятся к педагогическим измерениям: процедурная объективность, классическая (традиционная) объективность и инвариантная (специфическая) объективность.
Под процедурной объективностью понимается независимость результатов измерения от условий его проведения и субъективных оценочных суждений педагога, использующего тест. Эта независимость обеспечивается благодаря равенству условий тестирования для всех студентов, отсутствию списывания или других нарушений дисциплины, правильному инструктированию студентов, использованию для одной группы тестируемых параллельных (совпадающих по трудности и другим характеристикам) вариантов теста, стандартизации процедуры проверки результатов и максимальной ее автоматизации. Чем выше уровень применения компьютерных технологий в тестировании, исключающих любое субъективное влияние педагога или экспертов, тем больше величина процедурной объективности результатов тестирования, получаемой при измерении.
Хотя процедурная объективность является наиболее понятной всем пользователям тестов и часто используется при обсуждении достоинств тестирования в средствах массовой информации, ограничиваться ею при оценивании точности измерений нельзя, поскольку при таком подходе не выдвигается никаких требований к качеству теста. Может создаться превратное впечатление, что для получения объективных данных о подготовленности испытуемых достаточно перейти от традиционных экзаменов к любым наборам заданий в тестовой форме, устранив влияние педагога на оценку тестирования и поручив подсчет баллов испытуемых компьютерной программе.
Типичный пример подобного упрощенного толкования объективности встречается сейчас среди части педагогов, учащихся и их родителей в связи с проведением эксперимента по введению ЕГЭ. Широкий круг пользователей системы ЕГЭ не видит той работы профессионалов, которая стоит за созданием контрольно-измерительных материалов (КИМ), но в абсолютном большинстве своем полагает, что устранение педагогов из контрольно-оценочного процесса, сведение их участия к минимальному на этапе организации процедуры тестирования и выставления баллов позволяет говорить об объективности результатов ЕГЭ. На деле такое упрощенное толкование наносит вред развитию тестирования в России, поскольку допускает применение любых, в том числе некачественных, тестов. Оно не опирается на теорию педагогических измерений и лишь частично охватывает научные представления об объективности результатов выполнения теста.
Второе углубленное понимание объективности измерений основано на некоторых понятиях и аксиомах традиционной или, как ее называют иначе, классической теории тестирования. К числу таких понятий относится сырой (наблюдаемый, индивидуальный) балл, получаемый простым суммированием результатов испытуемого по отдельным заданиям теста. При дихотомической оценке результатов по заданиям (1 или 0) индивидуальный балл просто равен количеству правильно выполненных заданий теста. Другое понятие классической теории – истинный балл (параметр испытуемого) – отождествляется с абсолютно объективной оценкой испытуемого, свободной от влияния любых ошибок измерения. В отличие от наблюдаемого балла, который меняется в зависимости от теста и способа подсчета результата испытуемого, истинный балл трактуется как не зависящая от средств измерения константа учащегося, характеризующая оцениваемое свойство испытуемого в момент измерения с нулевой ошибкой измерения и меняющаяся в процессе обучения.
Согласно основной аксиоме классической теории тестов, предполагается, что любой наблюдаемый балл отличается от истинного на величину ошибки измерения. В тех случаях, когда ошибка измерения не превышает выбранные пределы точности измерений, говорят о высокой объективности результатов тестирования и принимают индивидуальные баллы испытуемых за их истинные баллы. Таким образом, углубленное понимание объективности измерений требует оценивания величины ошибки измерения, на размер которой влияют не только условия проведения тестирования, но и характеристики самого теста. Если эти характеристики не удовлетворяют определенным требованиям к качеству измерителей, то ошибка измерения, как правило, становится слишком большой, превышающей допустимую погрешность измерения и не позволяющей говорить о высокой объективности полученных результатов выполнения теста.
Третья трактовка объективности лежит в области современной теории конструирования тестов Item Response Theory (IRT). Преимущества IRT, позволяющие оценить подготовленность обучаемых независимо от трудности заданий теста, обеспечивают достижение так называемой инвариантной объективности измерений, которая превышает объективность, обеспечиваемую при использовании классической теории тестов [28, 29, 31, 37].
Согласно основным положениям теории IRT, инвариантная объективность характеризуется тем, что на оценку каждого испытуемого выборки не влияют оценки других испытуемых и трудность заданий теста. Благодаря этому оценки подготовленности студентов, обладающие высокой инвариантной объективностью, будут более точными, чем те, которые получаются при использовании традиционной теории при конструировании и применении тестов.
Правда, достижение эффекта инвариантной объективности обеспечивается не автоматически при обработке результатов тестирования с помощью алгоритмов теории IRT. Оно реализуется благодаря применению специальных процедур подгонки данных тестирования к требованиям моделей теории IRT и длительной серьезной работе над тестом. Поэтому на практике тестологи часто сталкиваются с тем, что эффект специфической объективности обеспечивается слишком дорогим путем либо не реализуется вообще в силу недостаточно высокого качества теста.
