Реферат: Модели и методы адаптивного контроля знаний

Реферат: Модели и методы адаптивного контроля знаний

Л.В. Зайцева, Н.О.Прокофьева

Рижский технический университет, Рига, Латвия

Введение

Начиная с истоков применения компьютеров в учебном процессе, особое внимание уделялось контролю знаний. Технические средства обучения, а затем и компьютеры в первую очередь использовались именно для проверки знаний учащихся. И до настоящего времени, несмотря на бурное развитие обучающих систем и других форм компьютерного обучения, контролирующие (тестирующие) программы составляют половину [Zaiceva, 2000] имеющихся в сети Интернет программ учебного назначения (универсальные и специализированные обучающие системы, электронные энциклопедии, обучающие игры и т.д.) и являются наиболее разработанными [Brusilovsky, 1999]. Проблемы компьютерного контроля знаний (КЗ) обычно рассматриваются в двух аспектах: методическом и техническом [Зайцева, 2000]. К методическим аспектам относятся: планирование и организация проведения контроля; определение типов вопросов и отбор заданий для проверки знаний студентов; формирование набора вопросов и заданий для опроса; определение критериев оценки выполнения каждого задания и контрольной работы в целом и др. К техническим аспектам относятся: автоматическое формирование набора контрольных заданий на основе выбранного подхода; выбор и использование в системе контроля параметров КЗ; выбор алгоритмов для оценки знаний учащихся и др. [Зайцева, 2002]. Поэтому вопросы компьютерного КЗ интересуют многих ученых, как педагогов, так и специалистов в области информационных технологий. За последние тридцать лет были изучены различные виды контроля [Беспалько, 1977; Беспалько, 1989; Лернер, 1996]; определены более десяти типов вопросов, их компоненты и метаданные, используемые, как правило, при формировании набора контрольных заданий [Зайцева, 1989; Зайцева, 2002; Brusilovsky, 1999]; разработаны математические методы оценки знаний учащихся [Свиридов, 1981; Зайцева, 1989а; Зайцева, 1991; Попов, 2000; Моисеев, 2001] и различные методы проведения контроля.

Таким образом, необходимо отметить, что существует ряд интересных разработок, посвященных различным аспектам контроля знаний и основанных на современных достижениях науки и компьютерной техники. В то же время, формирование набора заданий для КЗ осуществляется, обычно, случайным образом [Зайцева, 1989; Carbone, 1997; WBT, 1999; WebCT, 1999]; иногда учитывая параметры заданий [Byrnes, 1995; Rios, 1998; Соловов, 2002]; и лишь в отдельных случаях используется адаптивная выдача контрольных заданий на базе модели студента [Eliot, 1997; Lee, 1997; Rios, 1999].

В настоящей статье делается попытка систематизировать и классифицировать применяемые методы проведения контроля и модели оценивания знаний студентов на основе модели адаптивного КЗ.

Модель адаптивного контроля знаний

Профессором Л.А. Растригиным [Растригин, 1979; Растригин, 1986] было предложено рассматривать процесс обучения как процесс управления сложной системой. Аналогично можно представить и процесс управления адаптивным контролем знаний (рис. 1).

Рис. 1. Модель адаптивного контроля знаний.

Блок “Алгоритм контроля” выполняет следующие функции:

анализ деятельности студента (проверка правильности его ответов и выполняемых действий);

управление процессом контроля знаний на основе выбранного метода;

определение результатов контроля, которое обычно сводится к выставлению оценки студенту.

База знаний (БЗ) содержит методы и/или модели процесса контроля, а также совокупность знаний предметной области. База данных (БД) включает наборы вопросов и задач, предназначенных для проверки знаний студента и/или данные для формирования заданий. Контрольные задания могут также генерироваться автоматически на основе БЗ. База данных и база знаний совместно с моделью студента образуют репозиторий системы контроля.

Модель студента включает разнообразную информацию о студенте: предыстория обучения; результаты текущей работы (тип выполненных заданий, время выполнения заданий, число обращений за помощью и т.д.); личностные психологические характеристики (тип и направленность личности, репрезентативная система, способность к обучению, уровень беспокойства-тревоги, особенности памяти и др.); общий уровень подготовленности и другие [Зайцева, 2003].

Формировщик вопросов и задач используется для формирования и выдачи студенту очередного задания (вопроса или задачи). Контроль знаний осуществляется следующим образом: студент выполняет предложенное задание, и результат его работы помещается в модель студента. Блок "Алгоритм контроля" на основе анализа ответа студента, целей контроля Z и используемого метода проведения контроля, учитывая внешние ресурсы R1 (например, возможности системы контроля) и внутренние ресурсы студента R2 (например, время контроля), а также состояние среды Dx, определяет параметры задания, которое должно быть предложено студенту. Формировщик вопросов и задач, получив от “Алгоритма контроля” данные о параметрах следующего задания, выбирает из БД и/или БЗ необходимую информацию I, формирует текст задания и выдает его студенту. В простейшем случае работа этого блока сводится к выбору нужного вопроса или задачи из базы данных. При некоторых видах контроля (например, при текущем КЗ или самопроверке) может быть предусмотрена обратная связь К, которая состоит в выдаче комментария на ответ студента.

Таким образом, для управления адаптивным контролем знаний необходимо наличие:

методов и моделей организации (проведения) контроля;

моделей определения и оценки знаний, умений и навыков студента по результатам выполнения контрольных заданий.

Методы и модели проведения контроля

Процесс контроля знаний состоит из трех этапов: формирование вопросов для КЗ на основе контрольных заданий, хранящихся в БД; выдача их студенту и получение его ответа, возможно, с обратной связью; выставление оценки за контроль. Первые два этапа относятся к организации процесса компьютерного контроля и при адаптивном КЗ обычно объединяются.

Методы организации контроля знаний можно разделить на три класса (рис. 2):

неадаптивные методы;

частично адаптивные методы;

полностью адаптивные методы.

К неадаптивным методам контроля относятся:

Строгая последовательность. Набор заданий для контроля заранее подготавливается преподавателем или разработчиком контрольной работы и помещается в БД системы. Как правило, это одинаковая последовательность вопросов для всех студентов. Недостатки данного метода очевидны: отсутствие разнообразия (одно из требований педагогики), понижение самостоятельности выполнения заданий и др. Этот метод считается наихудшим, поэтому и применяется крайне редко. Метод можно несколько улучшить, например, подготовив несколько вариантов контрольной работы и/или выдавая задания студентам в произвольной последовательности.

Случайная выборка. Набор заданий формируется непосредственно перед контролем на основе заданий, хранящихся в БД, т.е. вариант контрольной работы – это n случайно выбранных заданий. Значение n может быть заранее задано преподавателем (разработчиком контрольной работы) или выбрано студентом (например, при самороверке). Преимущество данного метода состоит в том, что каждому студенту предлагается индивидуальная последовательность вопросов. Метод широко использовался для КЗ в ранних обучающих системах [Алексеенко, 1978; Зайцева, 1982], применяется и в современных системах [Carbone, 1997; WBT, 1999; WebCT, 1999; Сельманова, 2001]. Основной недостаток метода – вариант контрольной работы генерируется без учета трудности заданий. Таким образом, набор заданий для одного студента может включать лишь самые трудные вопросы, а для другого – только легкие. Это часто приводит к искажению результатов контроля. Существуют различные модификации данного метода, позволяющие учитывать метаданные вопросов. Например, а) могут быть заданы тема и общее время контроля, время ответа на каждый вопрос, число попыток дать ответ и т.п.; б) дополнительно к (а) устанавливается число вопросов разной степени трудности и/или из разных тем в каждом варианте контрольной работы [Byrnes, 1995; Rios, 1998].

Комбинированный метод, в основе которого – “Случайная выборка”, дополненная “Строгой последовательностью”. В этом случае преподаватель (разработчик контрольной работы) задает один или несколько вопросов, которые непременно должны быть включены в каждый вариант контрольной работы. Остальные задания генерируются случайным образом, как во втором методе.

Рис. 2. Методы организации контроля знаний.

Общим для всех неадаптивных методов является то, что вариант контрольной работы для каждого студента формируется до контроля (заранее или непосредственно перед КЗ), т.е. на первом этапе КЗ, что, с одной стороны, повышает скорость контроля (не требуется поиск задания в БД и его загрузка), с другой – позволяет выдавать задания двумя способами: по одному или списком. В последнем случае студент сам может выбрать последовательность выполнения заданий.

Частично адаптивные методы контроля предполагают использование информации из модели студента (МС) или учебного материала (УМ) при формировании набора контрольных вопросов. К этому классу моделей относятся:

Случайная выборка с учетом отдельных параметров модели студента. Метод является развитием неадаптивных методов КЗ. Он аналогичен “Случайной выборке” и/или “Комбинированному методу”, т.е. набор заданий также формируется непосредственно перед контролем, но при генерации используются такие параметры МС, как общий уровень подготовленности, способность к обучению и, возможно, другие [Зайцева, 1989; Зайцева, 2003; Zaitseva, 2003]. Таким образом, каждому студенту генерируется набор заданий, соответствующий его уровню подготовленности и способностям, что является главным преимуществом данного метода. Другое достоинство метода: студент, выполняя задания, соответствующие его способностям, не испытывает лишней психологической нагрузки во время контроля. В качестве недостатка данного метода можно отметить следующее: студенты получают задания различной трудности (это, безусловно, должно быть учтено при выставлении оценки), т.е. один выполняет только простые задания, а другой – трудные. Поэтому, генерируя вопросы студенту, соответствующие его способностям, целесообразно включить в набор и один - два задания повышенной трудности и значимости.

Контроль на основе ответов студента. В этом методе контроль осуществляется по заранее составленному сценарию или, другими словами, по разветвленной контролирующей программе. Пример такого сценария приведен на рис. 3, где вершины графа Вi соответствуют вопросам, предлагаемым студенту, а дуги указывают следующий выдаваемый вопрос в зависимости от правильности ответа: Пр – правильный ответ, Нт – неточный, Нп – неправильный ответ. Предварительная подготовка сценария КЗ дает возможность включить в программу вопросы разной степени трудности и значимости, расположив наиболее значимые и трудные задания в основной ветви программы (на рис. 3 это вопросы В1 и В6), а более простые – в разветвлениях. Таким образом, студенты получают разное число вопросов, а, следовательно, и время, затрачиваемое ими на контроль, различно, что является достоинством данного метода. Другое преимущество метода – простота обеспечения обратной связи (выдачи соответствующего комментария). Такой подход, как один из методов проведения КЗ, был использован в АОС “КОНТАКТ” [Зайцева, 1982], в настоящее время встречается значительно реже, т.к. имеет существенный недостаток: всем студентам предлагаются одни и те же задания, однажды включенные в контролирующую программу. Устранить этот недостаток довольно просто – достаточно отделить сценарий КЗ от набора контрольных заданий. Для этого необходимо подготовить комплект однотипных вопросов для каждого Вi, включенного в сценарий контроля, т.е. Вi = {вi1, вi2, …, вiк}, а в процессе контроля случайным образом генерировать студенту вопрос из комплекта Вi.

Ответы студента, как параметр проведения КЗ, используются и в другом методе, который основан на байесовском подходе к принятию решений в условиях неопределенности. Метод предусматривает вычисление вероятностей для оценки знаний студента. Если рассчитанные вероятности не позволяют однозначно оценить проверяемые знания, то студенту предлагается еще один вопрос. В противном случае контроль продолжается, причем минимальное число вопросов n задается заранее. Данный метод был использован в АОС ВУЗ [Волков, 1984], применяется и в современных системах [Galeev, 2002].

Рис. 3. Пример сценария контроля.

Контроль на основе модели учебного материала (УМ). В данном методе формирование набора заданий для КЗ происходит на основе модели учебного материала (курса, темы, раздела темы), которая представляет собой ориентированный граф: множество вершин графа соответствует объектам изучения, а множество ребер – связям между ними. Изучение УМ, равно как и организация контроля, осуществляется в соответствии с оптимальной последовательностью изложения учебного материала, которая обычно есть ничто иное, как линейная последовательность объектов изучения. Таким образом, сначала генерируется задание для проверки знаний первого учебного объекта, затем – второго и т.д., т.е. последовательность выдачи заданий аналогична последовательности изучения учебного материала по модели УМ. При этом, если планируется проверить и знания, и умения, то одному учебному объекту могут соответствовать несколько вопросов. Такой подход используется в системе ”Эксперт-ТС” [Андреев, 2002], в которой модель УМ представлена в виде семантической сети. Возможна модификация данного метода, предусматривающая генерацию контрольных заданий с учетом уровня подготовленности студента [Pesin, 2003].

Модульно-рейтинговый метод. Этот метод во многом аналогичен предыдущему. Учебный материал разделяется на отдельные составляющие – модули, для каждого из которых заранее подготавливается комплект контрольных заданий. В процессе КЗ студенту сначала предлагается вопрос из первого модуля. При этом после каждого ответа студента вычисляется его рейтинг. Переход к вопросам следующего модуля осуществляется при достижении определенного, заранее установленного рейтинга, причем студент с целью повышения своего рейтинга, а, следовательно, и оценки, может продолжить выполнение заданий текущего модуля и лишь затем перейти к следующему. Данный метод ранее использовался в АСО ЭКСТЕРН [Пасхин, 1985], применяется и в настоящее время [Касимов, 1994; Гладковский, 1997; Артемов, 1999].

Методы данной группы, так или иначе, связаны со структурой учебного материала, а также учитывают уровень подготовленности студентов, т.е. налицо признаки адаптации.

Адаптивные методы максимально используют информацию из моделей студента и/или учебного материала. К ним относятся:

Контроль по модели студента. В этом методе учитываются многие параметры модели студента, а именно:

lуровень подготовленности влияет на трудность предлагаемых заданий;

вид репрезентативной системы обусловливает форму представления заданий (текст, визуальное изображение, использование звука);

направленность личности влияет на формулировку текста выдаваемого задания;

уровень беспокойства-тревоги определяет как наличие обратной связи, так и форму, и детальность комментариев;

особенности памяти являются условием для определения времени выполнения задания и контрольной работы в целом;

ответ студента, точнее, правильность ответа влияет на выбор следующего контрольного задания.

Сценарий контроля обычно формируется динамически в процессе КЗ, хотя набор сценариев для различных групп студентов может быть создан и заранее аналогично методу “Контроль по ответам студента”.

Контроль по моделям студента и учебного материала. Данный метод является развитием предыдущего, т.е. при формировании контрольных заданий используются приведенные ранее параметры модели студента, но процесс КЗ строится на базе модели учебного материала, учитывая взаимосвязи между проверяемыми понятиями.

Таким образом, существует большое количество методов организации компьютерного контроля знаний, часть из которых в той или иной мере можно считать адаптивными. В таблице 1 приведены основные характеристики методов проведения контроля.

Таблица 1. Методы проведения контроля и используемые модели.

Модели и методы оценки знаний

Определение и оценка знаний представляет собой задачу распознавания, основанную на обучении. Решение проблемы оценивания состоит из трех этапов (рис. 4):

определение параметров контроля (обучение), выполняемое до начала КЗ;

сбор, анализ и/или преобразование данных, получаемых в процессе контроля (распознавание);

выставление оценки за контрольную работу по завершении контроля (распознавание).

Рис. 4. Модель оценивания знаний при контроле.

На первом этапе по результатам контрольного эксперимента определяются метаданные заданий (трудность, значимость и т.д.) и устанавливаются параметры КЗ (число вопросов, время на ответ и др.). Метаданные и параметры помещаются в репозиторий системы и используются на последующих этапах. На втором этапе при выполнении студентом контрольных заданий осуществляется сбор, анализ и, возможно, предварительная обработка полученных данных. На последнем этапе выставляется общая оценка за работу. В большинстве методов оценивания предусматривается вычисление некоторой величины, которая затем сравнивается с предварительно заданными граничными значениями. То есть оценка определяется по формуле:

(1)

где I – оценка за контрольную работу; {c1, c2, …, cм} – вектор граничных значений; M – максимальная возможная оценка (например, при пятибалльной шкале M = 5).

Методы оценивания в основном используются на втором и третьем этапе, хотя существует ряд методов, которые применяются для выставления оценки только на последнем этапе.

Методы оценки знаний можно разделить на два основных класса (рис. 5):

математические методы;

классификационные методы.

К математическим моделям оценки знаний относятся:

Простейшая модель. Данная модель является самой простой и самой распространенной. Ответ студента на каждое задание оценивается по двухбалльной (правильно или неправильно) или многобалльной (например, пятибалльной) шкале. Оценка выставляется путем вычисления значенияR:

где Ri - правильный ответ обучаемого на i -е задание; k – количество правильных ответов из n предложенных (k n), которое затем обычно округляется по правилам математики. К достоинствам данной модели следует отнести простоту ее реализации. Недостатком модели является ее зависимость от единственного параметра (количества правильных ответов), т.е. она не учитывает не полностью точные ответы и характеристики заданий. Простейшая модель имеет самую низкую надежность, т.к. не позволяет объективно оценить знания студента.

Рис. 5. Модели и методы оценки знаний.

Модели, учитывающие параметры заданий. В этих моделях при выставлении оценки используются характеристики контрольных вопросов. Существуют различные модификации данного типа моделей.

Модель, учитывающая время выполнения задания и/или общее время контрольной работы. Для правильных ответов рассчитывается значение Ri по формуле:

,

где t – время выполнения задания; tmax – время, отведенное для выполнения задания.

Далее итоговая оценка вычисляется аналогично “Простейшей модели”.

Модель на основе уровней усвоения. В этой модели характеристикой задания является уровень усвоения, для проверки которого оно предназначено. Таким образом, задания разделяются на пять групп, соответствующих уровням усвоения: понимание, опознание, воспроизведение, применение, творческая деятельность [Соловов, 1995]. Для каждого задания определяется набор существенных операций. Под существенными понимают те операции, которые выполняются на проверяемом уровне. Операции, принадлежащие к более низким уровням, в число существенных не входят. Для выставления оценки используется коэффициент Кa:

где Р1 - количество правильно выполненных существенных операций в процессе контроля;

Р2 - общее количество существенных операций в контрольной работе;

a = 0, 1, 2, 3, 4 – соответствуют уровням усвоения.

Оценка выставляется на основе заданных граничных значений по соотношениям:

Данная модель используется в системе КАДИС [Соловов, 2002].

Метод линейно - кусочной аппроксимации [Зайцева, 1989; Зайцева, 1991]. Алгоритм оценивания основан на классификации заданий (вопросов) по их дидактическим характеристикам (значимость (z), трудность (d), спецификация (s)). Число баллов, полученных студентом за выполнение n заданий, определяется по формуле:

,

где xi – оценка за выполнение i–го задания;

n – число заданий;

W = {w1,w2,…,w36} – вектор весовых коэффициентов заданий, зависящий от их дидактических характеристик.

По завершению контроля определяется средний балл А, полученный студентом за выполнение n заданий (A = y / kn, где kn – количество попыток выполнения n заданий, kn n ) и уточненный средний балл A':

где r – ранг обучаемого (1, 2, или 3);

kn – количество попыток выполнения n заданий;

kc – количество обращений к справочной информации;

kb – количество заданий, выполненных с превышением отведенного времени (kb n);

a1, a2, a3, a4 - коэффициенты.

Далее оценка выставляется по формуле (1). Аналогичным образом определяется и уровень усвоения (ранг) студента. Преимущество данной модели: использование как четырех дидактических характеристик заданий, так и уровня подготовленности (ранга) из модели студента, что позволяет повысить надежность результатов контроля. Модель в качестве основной использовалась в семействе АОС, разработанных в РТУ.

Модели на основе вероятностных критериев. Главным в данных математических моделях контроля знаний являются утверждения о зависимости вероятности правильного ответа студента от уровня его подготовленности и от параметров задания [Rasch, 1977; Lord, 1980; Аванесов, 1998]. Суть этих моделей состоит в том, что на основе известных априорных вероятностей рассчитываются апостериорные вероятности Р (Hi) гипотезыHi, что студент заслуживает оценку i. При вычислении вероятности Р(Hi) учитываются: сложность и время выполнения заданий; число предложенных обучаемому заданий; число неправильно выполненных заданий и др. Рассчитанные вероятности анализируются и/или сравниваются с граничными значениями, учитывая риски недооценки и переоценки выставления оценки i. Если полученные результаты однозначно позволяют выставить оценку, то контроль, как правило, завершается. В противном случае студенту выдается очередное задание. Модель данного типа использовалась в АОС ВУЗ [Волков, 1984], различные модификации модели успешно применяются и в настоящее время [Попов, 2000; Моисеев, 2001].

Основная идея классификационных моделей заключается в отнесении студента к одному из устойчивых классов с учетом совокупности признаков, определяющих данного студента. При этом используется специальная процедура вычисления степени похожести (оценки) распознаваемой строки (совокупности признаков обучаемого) на строки, принадлежность которых к классам заранее известна.

Алгоритм, основанный на вычислении оценок (АВО) был впервые предложен Ю.И. Журавлевым [Журавлев, 1978] и позднее использовался для классификации обучаемых по уровням полготовленности [Зайцева, 1989] и для оценки знаний в качестве дополнительного метода в обучающих системах РТУ [Зайцева, 1989а[. Данная модель предусматривает построение таблицы обучения Тоnm, в которой каждая строка представляет собой набор признаков обучаемого характеризующих работу студента в процессе КЗ: количество предложенных заданий (n), средний балл (A), количество попыток выполнения заданий (kn), количество обращений к справочной информации (kc), ранг (r). При выставлении оценки вычисляется степень похожести совокупности признаков конкретного студента I(S) = {1, 2, …, m} на строки, входящие в таблицу обучения Тоnm, на основании чего осуществляется отнесение его к определенному классу Kj. Для этого вычисляется число строк каждого класса Kj, близких по выбранному критерию классифицируемому объекту S. Строка таблицы обучения Тоnm I(Sji) = {a ji1, …, ajim} и распознаваемая строка I (S) = {1, 2, …, m} считаются похожими, если выполняются неравенства |ajik –k| , где (k =1, …, m) - точность сравнения. Студент относится к классу Kj, имеющему максимальную оценку max Гj (S, Kj), j = 1, …, m. Данная модель в настоящее время применяется в системе [КИОС, 1992] с единственным отличием: вместо одной таблицы обучения, содержащей данные для различных классов, в КИОС используются четыре таблицы обучения для классов “отлично”, “хорошо”, “удовлетворительно” и “неудовлетворительно”, названные эталонными таблицами оценивания.

Таким образом, для оценивания знаний студентов применяются разные модели и алгоритмы, начиная с самых простых, учитывающих лишь процент правильно выполненых заданий при двухбалльной системе оценки отдельного вопроса, и заканчивая сложными составными, в которых используются всевозможные параметры контроля и многобалльная система оценки как отдельных заданий, так и работы в целом [Прокофьева, 2001; Прокофьева, 2002]. В таблице 2 приведены рассмотренные выше модели и методы оценки знаний и используемые параметры. Все методы оценивания предусматривают в процессе КЗ сбор данных о ходе контроля (в таблице 2 эти параметры подчеркнуты, остальные определяются на этапе обучения и могут быть изменены преподавателем перед началом КЗ). Метод линейно - кусочной аппроксимации и модели на основе вероятностных критериев предполагают также вычисление некоторых функций, которые обычно используются для определения дальнейшего хода контроля.

Заключение

Методы проведения контроля и методы оценивания тесно взаимосвязаны. В общем случае любая модель выставления оценки может быть использована при любом методе проведения КЗ, за исключением моделей на основе вероятностных критериев, которые предназначены лишь для частично адаптивных и адаптивных методов организации контроля. С другой стороны, простейшую модель выставления оценки и модель, учитывающую время ответов, целесообразно применять только совместно с неадаптивными методами КЗ. Таким образом, при адаптивном контроле знаний рекомендуется использовать модели на основе вероятностных критериев, АВО или уровней усвоения, а также метод линейно - кусочной аппроксимации. По нашему мнению, в современные адаптивные системы обучения и контроля знаний следует включать несколько различных методов и моделей, чтобы преподаватель имел возможность выбрать метод проведения контроля и модель выставления оценки, отвечающие целям контроля и наиболее подходящие для отдельного или группы студентов.

Таблица 2. Модели оценивания и используемые параметры.

Список литературы

 [Аванесов, 1998] Аванесов B.C. Композиция тестовых заданий. - М.: Адепт, 1998. – 217 с.

[Алексеенко, 1978] Алексеенко Е. А., Довгялло А. М., Косая И. Х. СПОК – система программирования и поддержания обслуживающих и обучающих курсов // Управляющие системы и машины. – 1978. – №2. – с. 127 – 128.

[Андреев, 2002] Андреев А.Б., Акимов А.В., Усачев Ю.Е. Экспертная система анализа знаний ”Эксперт-ТС” // Proceedings. IEEE International Conference on Advanced Learning Technologies (ICALT 2002). 9-12 September 2002. Kazan, Tatrstan, Russia, 2002, – p. 97 - 101.

[Артемов, 1999] Артемов А., Павлова Н., Сидорова Т. Модульно-рейтинговая система // Высшее образование в России. – 1999. –№4. –с. 121 – 125.

[Беспалько, 1977] Беспалько В.П. Основы теории педагогических систем. Проблемы и методы психолого-педагогического обеспечения технических обучающих систем. – Воронеж : Воронежск. ун-т, 1977. – 304 с.

[Беспалько, 1989] Беспалько В. П. Слагаемые педагогической технологии. – М.: Педагогика, 1989. – 192 с.

[Волков, 1984] Волков С.З. Алгоритм управления контролем знаний // Кибернетика и исследование операций в управлении учебным процессом: Тез. докл. – Рига: РПИ, 1984, – с. 67 – 70.

[Гладковский, 1997] Гладковский В.И., Гладыщук А.А., Панасюк И.М. Воспитательные функции рейтинговой системы оценки знаний (РСОЗ) // Высшая школа: состояние и перспективы. – Минск: РИВШ БГУ, 1997. – 107 с.

[Журавлев, 1978] Журавлев Ю.И. Об алгебраическом подходе к решению задач распознавания и классификации // Проблемы кибернетики. – 1978. – Вып. 33. – с. 5 –68.

[Зайцева, 1982] Автоматизированная обучающая система КОНТАКТ/ОС / Л.В. Зайцева, Л.В. Ницецкий, Л.П. Новицкий и др. – М.: Моск. науч.– учеб. центр СНПО “Алгоритм”, 1982. – 108 с.

[Зайцева, 1989] Зайцева Л.В., Новицкий Л.П., Грибкова В.А. Разработка и применение автоматизированных обучающих систем на базе ЭВМ. – Под ред. Л.В.Ницецкого. – Рига : “Зинатне”, 1989. – 174 с.

[Зайцева, 1989а] Зайцева Л.В., Новицкий Л.П., Прокофьева Н.О. Контроль знаний обучаемых с помощью методов линейно-кусочной аппроксимации и вычисления оценок // Методы и средства кибирнетики в упр. учеб. проц. высш. шк. – Рига: Рижск. политехн. ин-т, 1989, – с. 39 – 48.

[Зайцева, 1991] Зайцева Л.В. Методы контроля знаний при автоматизированном обучении. - Автоматика и вычислительная техника, 1991, Nr 4, с. 88 – 92.

[Зайцева, 2000] Зайцева Л.В. Некоторые аспекты контроля знаний в дистанционном обучении // Сборник научных трудов 4-й международной конференции ”Образование и виртуальность – 2000” – Харьков – Севастополь : УАДО, 2000, - с. 126 – 131.

[Зайцева, 2002] Зайцева Л.В., Прокофьева Н.О. Проблемы компьютерного контроля знаний // Proceedings. IEEE International Conference on Advanced Learning Technologies (ICALT 2002). 9-12 September 2002. Kazan, Tatrstan, Russia, 2002, – p. 102 - 106.

[Зайцева, 2003] Зайцева Л.В. Модели и методы адаптации к учащимся в системах компьютерного обучения // Educational Technology & Society. - Nr. 6(3), 2003. – с.204 – 212.

[Касимов, 1994] Касимов Р.Я.,Зинченко В.Я., Грантберг И.И. Рейтинговый контроль // Высшее образование в России. - 1994. - № 2 - с. 83–92.

[КИОС, 1992] Компьютерная интегрированная обучающая система (КИОС): Тамбов, ТГТУ/ Интернет. -http://mdcorpsoft.chat.ru/pss/pss27.html

[Лернер, 1996] Лернер И.Я. Развивающее обучение с дидактических позиций // Педагогика. - 1996. - № 2. - с. 7 – 11.

[Моисеев, 2001] Моисеев В.Б., Усманов В.В., Таранцева К.Р., Пятирублевый Л.Г. Статистический подход к принятию решений по результатам тестирования для тестов открытой формы // Открытое образование. – 2001. - №1 / Интернет. –http://www.mesi.ru/joe/N1_01/mo.html

[Пасхин, 1985] Пасхин Е.Н., Митин А.И. Автоматизированная система обучения ЭКСТЕРН. – М.: Изд-во Моск. ун -та, 1985. – 144 с.

[Попов, 2000] Попов Д.И. Способ оценки знаний в дистанционном обучении на основе нечетких отношений // Дистанционное образование. – 2000. – №6 / Интернет. –http://www.mesi.ru/joe/N6_00/popov.html

[Прокофьева, 2001] Прокофьева Н.О. Алгоритмы оценки знаний при дистанционном обучении // Образование и виртуальность - 2001. Сборник научных трудов 5-й Международной конференции. - Харьков - Ялта: УАДО, 2001, – с. 82 - 88.

[Прокофьева, 2002] Прокофьева Н.О. Сравнительный анализ алгоритмов оценки знаний // Интернет - Образование - Наука - 2002. Сборник научных трудов 3-й Международной научно-практической конференции. – Винница: ВГТУ, 2002. – с. 85 - 87.

[Растригин, 1979] Растригин Л.А. Обучение с моделью // Вопросы кибернетики. Человеко-машинные обучающие системы. - М.: АН СССР, 1979, – c. 40 - 49.

[Растригин, 1986] Растригин Л.А., Эренштейн М.Х. Адаптивное обучение с моделью обучаемого. - Рига : Зинатне, 1986. – 160 c.

[Свиридов, 1981] Свиридов А.П. Основы статистической теории обучения и контроля знаний. - М.: Высшая школа, 1981. – 262 с.

[Сельманова, 2001] Сельманова Н.Н., Максудова Л.Г., Абросимов В.В., Абросимов Д.В. Обучающе-аттестующая система по естественнонаучным дисциплинам // Труды международной научно-методич. конференции Телематика 2001. 18-21 июня 2001 г. – С-Петербург, 2001, - с. 85.

[Соловов, 1995] Соловов А.В. Проектирование компьютерных систем учебного назначения: Учебное пособие. Самара: СГАУ, 1995,- с.138.

[Соловов, 2002] Соловов А.В. Дидактика и технология электронного обучения в системе КАДИС // "Индустрия образования", №6.- М.: МГИУ, 2002, - с.54-64.

[Brusilovsky, 1999] Brusilovsky P., Miller P. Web-based testing for distance education // WebNet'99. ngs of AACE World Conference of the WWW and Internet.–Honolulu, HI, 1999, – p. 149 – 154.

[Byrnes, 1995] Byrnes R., Debreceny R., Gilmour P. The development of Multi-Choice and True-False Testing Environment on the Web // Ausweb95: The First Australian World Wide Web Conference. Southern Cross Univ. Press / Internet. – http://elmo.scu.edu.au/sponsored/ausweb/ausweb95/papers/education3/byrnes/

[Carbone, 1997] Carbone A., Schendzielorz P. Developing and integrating a Web-based quiz generator into the curriculum // WebNet’97. World Conference of the WWW, Internet and Intranet. AACE, 1997, – p. 90 - 95.

[Eliot, 1997] Eliot C., Neiman D., Lamar M. Medtec: A Web-based intelligent tutor for basic anatomy // Proceedings of AACE World Conference of the WWW, Internet and Intranet. WebNet’97, 1997, – p. 161 - 165.

[Galeev, 2002] Galeev I., Sosnovsky S., Chepegin V. MONAP-II: the analysis of quality of the learning process model // Proceedings. IEEE International Conference on Advanced Learning Technologies (ICALT 2002). 9-12 September 2002. Kazan, Tatrstan, Russia, 2002, – p. 116 - 120.

[Lee, 1997] Lee S.H., Wang C.J. Intelligent hypermedia learning system on the distributed environment // ED-MEDIA/ED-TELECOM’97. World Conference on Educational Multimedia / Hypermedia and World Conference on Educational Telecommunications. - AACE, 1997, – p. 625 - 630.

[Lord, 1980] Lord F.M. Application of Item Response Theory to Practical Testing Problems. Hillsdale N - J. Lawrence Erlbaum Ass., Publ. 1980, - 266 pp.

[Pesin, 2003] Pesin L. Knowledge Testing and Evaluation in the Integrated Web-Based Authoring and Learning Environment // Proceedings of the 3rd IEEE International Conference on Advanced Learning Technologies. ICALT 2003. – Athens, Greece, 2003. – P. 268 - 269.

[Rasch, 1977] Rasch, G. On Specific Objectivity: An Attempt ofFormalizing the Request for Generality and Validity of Scientific Statements / Danish Yearbook of Philosophy. 1977, v. 14, p. 58 - 94, Munksgaard, Copenhagen. - 216p.

[Rios, 1998] Rios A., Perez de la Cruz J.L., Coneo R. SIETTE: Intelligent evaluation system uzsing tests for TeleEducation // Workshop “WWW-Based Tutoring” at 4th International Conference on Intelligent Tutoring Systems (ITS’98) / Internet. –http://www-aml.cs.umass.edu/~stern/webits/itsworkshop/rios.html

[Rios, 1999] Rios A., Millan E., Trella M., J.L. P., Conejo R. Internet based evaluation system // Artificial Intelligence in Education : Open Learning Environments. – Amsterdam: IOS Press, 1999, - p. 387 – 394.

[WBT , 1999] WBT Systems (1999). TopClass 3.0, WBT Systems, Dublin, Ireland. http:www.wbtsystems.com/ (Accessed 5 July, 1999).

[WebCT, 1999] WebCT. World Wide Web Cource Tools 1.3.1. WebCT Educational technologies. – Vancouver, Canada / Internet. - http://www.wbtsystems.com

[Zaiсeva, 2000] Zaiсeva L., Kuplis U., Prokofjeva N. Обучение в среде Интернет // Scientific Proceedings of Riga Technical University. Computer Science. Applied Computer Systems. – Vol. 3. – Riga : RTU, 2000, – р. 33 - 45. (на латышском языке)

[Zaitseva, 2003] Zaitseva L., Boule C. Student models in Computer-based Education // Proceedings of the 3rd IEEE International Conference on Advanced Learning Technologies. ICALT 2003. – Athens, Greece, 2003, – p. 451.