Методы и модели интеллектуального автоматизированного контроля знаний
чная подготовка. По второй выборке (аттестация) для
группы y тестирование производится по усиленному уровню (ужесточенному) и
деление производится на два образа IV и III.
Для группы Е уровень остается нормальным, но время на выполнение
заданий сокращается. Тестируемые делятся на два образа II и I. Из схемы
видно, что по второй выборке тестируемые получают возможность на улучшение
результата, что реально защищает их права на объективность оценивания
уровня знаний. Далее имеем скрещивание частных законов, которые проявляются
в мутации специфического закона тестирования о переходе количества
неправильных ответов в качество знаний, проявляющихся в лингвистической
форме. Риски (ошибки) попадания в образы по второй выборке ?=0,03, ?=0,16.
Предельный процент тестируемых с низким уровнем знаний, но получивших
положительные оценки QL=q0=10%. Разработаны также методы выделения «образов
уровня знаний» и для количественного признака, когда каждое выполненное
задание имеет количественное значение в диапазоне [0, 1000], однако рамки
статьи не позволяют привести такие примеры.
Таким образом, использование информационно-генетических алгоритмов для
выделения необходимых свойств образовательных тестов в форме законов
тестирования и их реализация для выделения «образа уровня знаний» наглядно
показывает необходимость дальнейших исследований по их применению для
решения новых задач по оценке уровня знаний в предстоящих единых экзаменах
с целью повышения их объективности, достоверности, эффективности и
социальной значимости [13].
2.1.5 Модель Раша
Система тестирования на основе модели Раша обладает важными
достоинствами, среди которых, прежде всего, необходимо отметить следующие.
Модель Раша превращает измерения, сделанные в дихотомических и
порядковых шкалах в линейные измерения, в результате качественные данные
анализируются с помощью количественных методов. Это позволяет использовать
широкий спектр статистических процедур.
Оценка трудности тестовых заданий не зависит от выборки испытуемых, на
которых была получена и, аналогично, оценка уровня знаний испытуемых не
зависит от используемого набора тестовых заданий.
Пропуск данных для некоторых комбинаций (испытуемый — тестовое
задание) не является критическим.
Сама система тестирования достаточно проста, по сравнению с другими
аналогичными системами она характеризуется наименьшим числом параметров —
только один параметр уровня знаний для каждого испытуемого и только один
параметр трудности для каждого задания.
Модель Раша опирается на четкие и конструктивные понятия "трудность
задания" и "уровень знаний". Так, одно задание считается более трудным, чем
другое, если вероятность правильного ответа на первое задание меньше, чем
на второе, независимо от того, кто их выполняет. Аналогично, более
подготовленный студент имеет большую вероятность правильно ответить на все
задания, чем менее подготовленный.
Благодаря простой структуре модели существуют удобные вычислительные
процедуры для многоаспектной проверки адекватности модели: для всего набора
тестовых результатов, для каждого испытуемого, для каждого задания и для
каждого конкретного ответа.
"Остатки", получаемые при аппроксимации результатов тестирования
моделью можно использовать для выделения различных типов испытуемых.
Однако, несмотря на 40-летний опыт применения этой системы
тестирования за рубежом во многих областях знания, прежде всего в
образовании, медицине и психологии, до сих пор продолжаются дискуссии об
истинной ценности и эффективности системы тестирования на основе модели
Раша. До сих пор существуют две крайние точки зрения на эту модель
тестирования.
Наиболее убежденные сторонники модели Раша утверждают следующее:
"Можно ли собрать или построить или сформулировать данные так, чтобы они
соответствовали определению измерения (модели Раша)? Если нет, — то такие
данные бесполезны".
Их наиболее последовательные оппоненты утверждают следующее: "Данные —
это данные, а модель — это конструкция исследователя, которая подвержена
ошибкам". Например, при построении регрессии, выбрасывая те или иные
данные, можно получить любую зависимость, но мы тем самым ограничиваем
реальный мир данных. Таким образом, мы создаем искусственную переменную, о
которой мало что знаем.
Для практики одним из наиболее важных критериев является точность
оценивания. Поэтому выбор темы в значительной степени обусловлен
противоречивой информацией относительно точности системы тестирования на
основе модели Раша. Кроме того, не удалось найти работы, в которых проведен
всесторонний анализ точности модели Раша. В известных работах только даются
те или иные общие рекомендации по использованию этих моделей.
Чем больше точность, тем лучше работает модель. В случае отсутствия
ошибок измерения любая модель в смысле точности измерения работает
идеально. Но на практике ошибки всегда есть и поэтому важно знать,
насколько точные оценки позволяет получать та или иная модель.
На основе имитационного моделирования исследуются точность оценивания
уровней знаний и трудностей заданий, а также число итераций, требуемых для
вычисления этих оценок (методом наибольшего правдоподобия) в многофакторной
ситуации в зависимости от:
. диапазона уровней знаний испытуемых;
. диапазона трудностей заданий;
. степени соответствия диапазонов уровней знаний испытуемых и
трудностей заданий;
. числа испытуемых;
. числа заданий;
. степени соответствия данных модели;
. доли пропущенных данных.
Для статистической обработки результатов моделирования используется
многофакторный дисперсионный анализ [14].
2.1.6 Абсолютная временная шкала измерения знаний
Знания являются абсолютной субстанцией: они либо есть, либо их нет. По
крайней мере, так считается в любой форме традиционного оценивания знаний —
как на выпускных экзаменах в школах, так и на вступительных экзаменах в
вузы. Поэтому интересно проанализировать возможности абсолютных шкал оценки
и при переходе к измерению знаний на основе тестов.
В данных исследованиях изучаются возможности так называемой
«абсолютной временной шкалы оценивания знаний». Формулируются ее принципы.
Формулируются этапы последовательного перехода от традиционной формы
экзаменов к тестовой форме этого подхода, на их основе – требования к
созданию тестовых материалов этого подхода.
Анализируется опыт использования данного подхода на вступительных
экзаменах в Тверском государственном университете на протяжении 4-х лет.
Изучается диагностический потенциал данного подхода. Формулируется
принцип «трехуровнего абстрагирования» для диагностических тестирований.
Ниже показана «диаграмма знаний» по математике, полученная в результате
обработки данных тестирования выпускников одной из школ г.Твери (75
учащихся).
Здесь цифры по окружности – номера тем по математике, по радиусам
отложена «успешность ответов» учащихся по той или иной теме.
Как видно, тестирование с использованием абсолютной шкалы оценки имеет
ценность диагностическую даже более, чем для итоговых экзаменов.
Изучается уровень достоверности результатов компьютерного тестирования
в данном подходе и соотношение «случайного» и «достоверного» в итоговой
оценке. На рисунках приведена зависимость (в данном подходе) итоговой
оценки по математике от времени тестирования:
Как видно, за все время тестирования (40 минут) в первые 15 минут
(первые 4 задания по математике) оценка менялась наиболее заметно. За
последние же 10 минут итоговая оценка изменялась не более чем на 10 баллов
— доля «случайного» в итоговой оценке.
Таким образом, при использовании абсолютной шкалы данного подхода
существует возможность ответить на вопросы: 1) существует ли предел, к
которому сходится итоговая оценка с увеличением времени тестирования (или
количества заданий теста); 2) какова погрешность «измерения знаний» если
прервать тестирование в некоторый определенный момент, например через 40
минут.
Еще одно очевидное преимущество абсолютной шкалы оценивания – итоговая
оценка появляется на экране компьютера сразу же после выполнения теста
испытуемым [15].
2.1.7 Методика статистического анализа качества обучения
Предлагаемая методика основывается на том, что учебный процесс
является частным случаем технологического процесса и ему должны быть
свойственны такие же методы анализа, какие приняты для производственных
процессов. Однако слепо перенести подобные методики нельзя, особенно это
касается содержательного анализа процесса.
Для того чтобы проанализировать учебный процесс нужно иметь, во-
первых, критерий качества обучения, а, во-вторых, проследить его изменение
во времени. В качестве наиболее информативного критерия качества обучения
следует использовать степень обученности учащихся — СОУ. Этот критерий
основан на статистике полученных учащимися оценок за выполнение отдельных
заданий или контрольных работ. Оценки входят в СОУ с «весом» равным
интегралу вероятности получения данной оценки для некоторого «типового&
| |  скачать работу |
Методы и модели интеллектуального автоматизированного контроля знаний |
