Методы и модели интеллектуального автоматизированного контроля знаний
ы для обучения
нейронной сети, может основываться на методе экспертных оценок.
Функционирование информационной системы происходит в полуавтоматическом
режиме. На персонал информационной системы возлагается обязанность
пополнения базы данных параметров оценки качества образования.
Текущая обработка по этапу классификации может изменять рейтинг
качества конкретного вуза, но не меняет картину качества в целом. Этим
определяется небольшой период проведения итоговых обработок по этому этапу.
Итоговые обработки; проводимые в рамках кластерных исследований, способны
изменить общую картину качества [25].
2.2 Собственные разработки
В результате трехлетней работы были разработаны некоторые методы
автоматизированного контроля совместно с преподавателями кафедры «СУ и ВТ»
Калининградского Технического Университета, созданы реализации
теоретических выкладок, о которых хотелось бы рассказать в этой работе.
2.2.1 Тестирование по методу цепочек вопросов
Автоматизированная система контроля знаний, созданная как результат
выпускной квалификационной работы и дипломного проектирования в подсистеме
«Создание теста» предлагает преподавателю использовать цепочную систему
вопросов, когда несколько вопросов объединяются в фиксированную
последовательность (цепочку) по некоторому смысловому признаку,
определяемому преподавателем, а каждому вопросу в цепочке присваивается
некоторый коэффициент важности данного вопроса в данной цепочке. Этот
коэффициент изменяется от 0 и сумма коэффициентов вопросов в цепочке
принимается равной 1. Смысл коэффициента раскрывается при обработке
результатов тестирования: оценка за ответы на вопросы, объединенные в
цепочку, выставляется в зависимости от важности вопросов, на которые были
даны правильные ответы . Цепочка может содержать неограниченное число
вопросов, объединенных по семантическому признаку внутри выбранной темы
тестирования. Вырожденным случаем цепочной структуры является наличие в
цепочке всего лишь одного вопроса. В этом случае коэффициент его важности,
очевидно, устанавливается равным единице.
Хочется отметить, что тест, как правило, создается по отдельной теме
конкретной дисциплины, должен иметь небольшой объем, что обуславливается
неразделяемостью ресурсов персонального компьютера и необходимостью
проводить тестирование большого количества обучаемых в течение
ограниченного времени.
2.2.2 Автоматизированный контроль знаний по методике уточняющих
вопросов
Концепция базируется на автоматизации методики уточняющих вопросов,
широко используемой в педагогической практике для выявления глубины знаний
обучаемого. Относительная важность задаваемых вопросов определяется их
весовыми коэффициентами, учитываемыми при подведении результатов
тестирования. При подготовке к тестированию преподаватель имеет возможность
определять или корректировать относительную важность каждого вопроса,
устанавливать объем теста N, задавать время, отводимое экзаменуемому на
демонстрацию своих знаний, и настраивать оценочную шкалу, по которой
суммарный балл, набранный в ходе тестирования, переводится в итоговую
оценку.
В ходе автоматизированного тестирования экзаменуемому предъявляется
конечное множество т.н. цепочек вопросов. Каждая цепочка представляет собой
последовательность близких по тематике вопросов, формулируемых для
уточнения знаний экзаменуемого. Очередной вопрос в цепочке задается
только после получения ответа на предыдущий вопрос. В зависимости от
стратегии тестирования, избираемой организатором контроля знаний, очередной
вопрос в цепочке может предъявляться до первой ошибки (“строгий”
преподаватель), либо экзаменуемому предоставляется возможность
демонстрировать максимум знаний, отвечая на все вопросы данной тематической
последовательности.
Каждому j-му вопросу в i-й цепочке присваивается весовой коэффициент
Кij, характеризующий его относительную важность в рамках этой цепочки.
Значения всех коэффициентов автоматически нормируются так, чтобы их сумма
внутри каждой цепочки была равна 1. В цепочку может объединяться
неограниченное количество тематически близких вопросов. В вырожденном
случае цепочка состоит из единственного вопроса, коэффициент важности
которого устанавливается равным 1.
Процедура количественного оценивания знаний, выявленных в ходе
тестирования, состоит из трех этапов. На первом рассчитываются баллы,
набранные за правильные ответы в рамках каждой отдельной тематической
последовательности:
[pic] ,
где Si - балл, выставляемый за ответы на i-ю тематическую
последовательность; Кij - весовой коэффициент j-го вопроса в i-й цепочке;
Zij =1, если на j-й вопрос в i-й цепочке получен правильный ответ и Zij=0 -
в противном случае; Li - количество вопросов в i-й цепочке.
На втором этапе рассчитывается суммарный балл S( за ответы на все
вопросы теста с учетом количества цепочек вопросов, на которые
экзаменуемый успел ответить за отведенное время:
[pic]2 ,
где N –объем теста; Кt – количество цепочек вопросов, на которые
экзаменуемый успел ответить за отведенное время t.
На третьем этапе определяется итоговая оценка знаний экзаменуемого. Для
этого набранный им суммарный балл S( проецируется на оценочную шкалу,
имеющую вид
[0; I1; I2; I3; 1] ,
где 0< I1< I2< I3< 1 – границы интервальных диапазонов оценок,
задаваемые преподавателем при организации тестирования.
Итоговая оценка за тест ОT выводится по следующим правилам:
[pic]
После необходимой доработки и полного документирования
демонстрационная версия программы и информация об условиях ее поставки
будет опубликована на Веб-сайте Калининградского государственного
технического университета [26].
2.2.4 Алгоритмы прямого тестирования в интеллектуальной
автоматизированной системе контроля знаний
Прямым тестированием будем называть способ контроля знаний обучаемого,
при котором структура теста (т.е. набор и порядок предъявления тестовых
заданий) не зависит от фактических ответов обучаемого. Практически все
существующие в настоящее время АСКЗ функционируют в режиме прямого
тестирования, однако чаще всего они реализуют лишь простейшие и далеко не
самые эффективные методики оценивания знаний.
Детальный анализ педагогических приемов и способов “живого”
диалогового общения преподавателя и тестируемого показал, что можно
выделить по крайней мере пять параметров, значения которых влияют на
организацию процесса контроля и оценивания знаний.
Цель тестирования определяется основным вопросом, ответ на который
должен быть получен в результате тестирования - а) обладает ли обучаемый
равномерным уровнем знаний по всему материалу (проверка широты знаний) или
б) обладает ли обучаемый систематическими знаниями по темам предъявляемых
ему тестовых заданий (проверка глубины знаний).
Вид тестирования имеет два значения - зачетное или экзаменационное.
Результаты зачетного тестирования представляются в двоичном формате:
“зачет” или “незачет”. В ходе зачетного тестирования оценка “зачет”
выставляется в случае, если обучаемый демонстрирует знания, превышающие
некоторое априори заданное пороговое значение.
При экзаменационном тестировании по сумме баллов, набранной обучаемым
при выполнении теста, рассчитывается итоговая оценка знаний обучаемого
(имеющая в общем случае более двух допустимых значений), для чего сумма
баллов проецируется на применяемую оценочную шкалу.
Сложность теста характеризуется уровнем знаний, которые должен
продемонстрировать обучаемый при его выполнении. Она определяется степенью
сложности тестовых заданий, которые могут предъявляться обучаемому.
Исследования позволяют говорить о как минимум трех уровнях сложности
тестов – стандартной, повышенной и пониженной.
Уровень контроля определяет степень строгости проверки глубины знаний.
Изучение методик проведения зачетных и экзаменационных опросов показывает,
что можно говорить о четырех различных уровнях строгости оценивания ответов
на тестовые задания (строгий контроль; выявление наиболее важных знаний;
выявление простейших знаний; выявление любых имеющихся знаний).
И, наконец, отслеживание условия раннего прекращения тестирования
предполагает досрочное завершение теста в ситуации, когда продолжение
тестирования становится нецелесообразным. В качестве первого из этих
условий рассматривается превышение предельной длительности тестирования.
Второе условие – прекращение тестирования и выставление
неудовлетворительной оценки при получении априори заданного количества
неправильных ответов.
Разнообразие возможных сочетаний значений пяти предложенных
характеристик позволяет говорить о существовании весьма обширного семейства
алгоритмов прямого тестирования знаний (например, экзаменационного
оценивания глубины знаний с повышенной сложностью и строгим контролем, либо
зачетного оценивания широты знаний со стандартной сложностью и контролем
предельной длительност
| |  скачать работу |
Методы и модели интеллектуального автоматизированного контроля знаний |
