ru  [uk]  en
ДонНТУ   Портал магістрів

Реферат за темою випускної роботи

Зміст

Актуальність

Мета і завдання дослідження

Передбачувана наукова новизна

Плановані практичні результати

Огляд досліджень і розробок по темі

Критерії якості для оцінки НС

Висновки

Список літератури

Актуальність

Розвиток освіти завжди був важливою проблемою для суспільства, і сьогодні він не втратив своєї значимості. Перед сучасною освітою стоїть безліч завдань. Особливе місце серед них на теперішньому етапі має впровадження сучасних технологій в освітній процес. Сьогодні ми можемо спостерігати як стрімко зростає кількість навчальних систем на основі останніх досягнень в галузі комп'ютерних технологій. Однак не всі вони є ефективним освітнім продуктом.

Проблеми створення продуктивних навчальних систем (НС) особливо загострилися останнім 10-15 років, мабуть, у зв'язку з початком глибокої загальної кризи національних освітніх систем. В основі кризи лежить той самий «інформаційний бум», про який давно говорили, однак ефект його був не такий значний, як після появи в масовій кількості персональних комп'ютерів, електронної пошти та мережі Інтернет, що значно збільшило обсяг доступної інформації, якість і швидкість роботи з нею в порівнянні з попереднім періодом, коли основними носіями інформації були папір, кіно-, фотоплівка та інш. [1].

Актуальність оцінки якості НС також підтверджує той факт, що за кордоном, а саме – у Великобританії, успішно використовується практика оцінки якості освітніх систем. У цій країні створена спеціальна організація, яка називається «Вчителі, що оцінюють освітнє мультимедіа» ( Teachers Evaluating Educational Multimdia - TEEM ). Ця організація об'єднує незалежних експертів, які проводять оцінку цифрових матеріалів для навчання. Дана організація має урядову підтримку і входить до складу Curriculum Online [2]. У цьому зв'язку, одним з найважливіших завдань у цій галузі є створення засобів, які б проводили оцінку навчальних систем по регламентованим параметрами, що дозволило б підвищити якість сучасної освіти.

Мета і завдання дослідження

Метою дослідження є створення нового підходу для оцінки НС, в якому буде сформований спеціалізований набір критеріїв якості і запропоновано механізм для оцінювання НС.

Основні завдання дослідження:

      – формування набору критеріїв якості;

      – аналіз і вибір методу обробки експертних суджень, прийняття рішень;

      – реалізація експертної системи;

      –аналіз адекватності ЕС експертної системи.

Передбачувана наукова новизна

Передбачувана наукова новизна полягає в модифікації підходу до створення бази знань спеціалізованої експертної системи (ЕС), в якій пропонується використовувати математичний інструмент системного підходу для вирішення проблем пов'язаних з обробкою експертних суджень.

Плановані практичні результати

Плановані практичні результати будуть полягати в створенні ЕС на основі нового сформованого набору критеріїв якості, яка реалізує запропонований підхід для оцінки НС, що дасть можливість оцінювати НС з урахуванням нових критеріїв якості.

Огляд досліджень і розробок по темі

У ДонНТУ

У Донецькому національному технічному університеті проблемами, пов'язаними з оцінюванням якості різних систем та об'єктів з використанням експертної системи, займалися наступні магістри:

Лук'янов С.В. вивчав проблеми в галузі оцінки якості пошуку в системах контекстного пошуку зображень в БД. У результаті аналізу методів оцінки контекстного пошуку зображень їм була розроблена експертна система для оцінки якості пошуку зображень в БД [3].

Шепелєва М.В. займалася розробкою експертної системи економічно обґрунтованого механізму оцінки та регулювання кредитного ризику з метою задоволення інтересів банку, пов'язаних з мінімізацією ризику кредитного портфеля банку і підвищенням його якості [4].

В Україні

В Україні тематику оцінки якості НС вивчали наступні дослідники :

Ульшин В.А займався розробкою архітектури навчальної системи для моніторингу навчальних матеріалів, структурної моделі дистанційного курсу з ранжируванням дидактичних цілей, а також розробкою методу визначення якості та ефективності навчальних матеріалів [5].

Різун Н.О. розробив концепцію побудови модульної структури експертної системи підтримки прийняття рішень з управління навчальним процесу у ВУЗі на базі розвитку методологій вдосконалення теорії тестування та розподілу навчального навантаження з використанням інструментів системного аналізу і проектування SADT [6].

У світі

У Росії схожими питаннями займаються нижче перелічені дослідники :

Максимова О. А. займалася розглядом проблеми забезпечення моніторингу якості освіти надійними й валідними тестовими вимірювачами. В якості вирішення проблеми запропонувала застосування системи комплексної експертизи якості тестових матеріалів, що складається з чотирьох основних етапів [ 7 ].

Нешта Є.П. займалася розробкою класифікації та оцінкою якості програмних засобів з використанням бази характеристик якості. Розробила структуру СУБД характеристик якості програмних засобів (ПС). Створила актуалізовану СУБД характеристик якості для ряду класів ПС. Розробила модуль експертної системи для процедури сертифікації [8].

Воробкалов В.Н. займався управлінням якістю електронних навчальних систем. Розробив метод і критерії оцінки якості електронних навчальних систем, які дозволяють здійснювати управління якістю з точки зору результату процесу навчання на стадіях їх розробки, впровадження та експлуатації [9].

Кокшарова Е.А. запропонувала підхід до вирішення питання про оцінки якості навчального тестування на основі застосування інформаційних технологій у вигляді педагогічної експертної системи [10].


Критерії якості для оцінки НС

НС включають в себе цілий клас програмних освітніх систем від комп'ютерного підручника в мережі або сервера з базою даних методичних матеріалів до складних і багатофункціональних систем дистанційного навчання. У зв'язку з таким великим розмаїттям, з'являється необхідність класифікації освітніх ресурсів, так як не всі критерії якості мають однакову вагу для різних видів НС. Після класифікації будуть розроблені критерії якості. Однак крім спеціалізованих вимог, обумовлених сферою застосування цих систем в освітньому процесі, також є загальні вимоги до програмних систем, які так само необхідно враховувати при оцінці якості. Будь-яка НС являє собою програмний комплекс, якість якого може бути визначено згідно з Міжнародними стандартами ISO 9000, 9001, 9002 і 9003 [11], які містять вимоги до системи і визначають різні моделі його забезпечення на різних етапах виробничого циклу. Згідно даним стандартам також будуть виділені критерії якості. Таким чином, буде сформований набір критеріїв для оцінки ОС. Для кожного з яких буде визначена цінність за допомогою методу аналізу ієрархій.

Метод аналізу ієрархій (МАІ ) – це метод обробки експертних суджень щодо важливості тих чи інших показників (критеріїв). Відповідно до цього методу обраним критеріям, експерти встановлюють пріоритети на основі обраної шкали оцінок, і після виконання деяких операцій проводиться оцінювання за всіма показниками і виставляється оцінка, даний метод розроблений американським вченим Томасом Сааті і вперше був опублікований в 1980 році [12].

Розглянемо даний метод докладніше. Першим кроком МАІ є побудова ієрархічної структури, що об'єднує мету вибору, критеріїв, альтернатив і інших факторів, що впливають на вибір рішення. Побудова такої структури допомагає проаналізувати всі аспекти проблеми і глибше вникнути в суть завдання. Так як, пропонована експертна система буде мати можливість оцінювати один програмний продукт (а не порівнювати декілька), отже завдання зводиться не до порівняння альтернатив і вибору найкращого, а до порівняння вхідної ОС з деяким «ідеалом».

 Ієрархічна структура – це графічне представлення проблеми у вигляді повернутого догори дерева, де кожен елемент, за винятком самого верхнього, залежить від одного або більших, вище розташованих елементів.

Таким чином, при вирішенні складної проблеми, ми можемо використовувати ієрархію як інструмент для обробки і сприйняття великих обсягів інформації. В міру проектування цієї структури формується все більш повне розуміння проблеми [12]. На рисунку 1 продемонстрована найпростіша ієрархія МАІ.

МАИ

Рисунок 1 – Найпростіша ієрархія МАІ

Ієрархічні структури, використовувані в МАІ, являють собою інструмент для якісного моделювання складних проблем. Вершиною ієрархії є головна мета; елементи нижнього рівня представляють безліч варіантів досягнення мети (альтернатив); елементи проміжних рівнів відповідають критеріям або факторам, які пов'язують мету з альтернативами. Існують спеціальні терміни для опису ієрархічної структури МАІ. Кожен рівень складається з вузлів. Елементи, які виходять з вузла, прийнято називати його дітьми (дочірніми елементами). Елементи, з яких виходить вузол, називаються батьківськими. Групи елементів, що мають один і той же батьківський елемент, називаються групами порівняння. Батьківські елементи альтернатив, як правило, виходять з різних груп порівняння, називаються покриваючими критеріями. Використовуючи ці терміни для опису представленої нижче діаграми, можна сказати, що чотири критерії – це діти мети; в свою чергу, мета – це батьківський елемент для будь-якого з критеріїв. Кожна альтернатива – це дочірній елемент кожного з критеріїв які вона враховує. Всього на діаграмі присутня дві групи порівняння: група, що складається з чотирьох критеріїв і група, що включає три альтернативи. Вид будь-якої ієрархії МАІ буде залежати не тільки від об'єктивного характеру розглянутої проблеми, а й від знань, суджень, системи цінностей, думок, бажань і т.ін. учасників процесу.

Після побудови ієрархії учасники процесу використовують МАІ для визначення пріоритетів всіх вузлів структури. Інформація для розстановки пріоритетів збирається зі всіх учасників і математично обробляється.

Пріоритети – це числа, які пов'язані з вузлами ієрархії. Вони являють собою відносні ваги елементів у кожній групі. Подібно ймовірностям, пріоритети – безрозмірні величини, які можуть приймати значення від нуля до одиниці. Чим більше величина пріоритету, тим більш значущим є відповідний йому елемент. Сума пріоритетів елементів, підлеглих одному елементу вище лежачого рівня ієрархії, дорівнює одиниці. Пріоритет мети за визначенням дорівнює 1.0. Нижче наведен приклад, що пояснює методику обчислення пріоритетів [ 13 ].

МАИ

Рисунок 2 – Найпростіша ієрархічна структура МАІ з пріоритетами, визначеними за замовчуванням

Проте значущість критеріїв формується наступним чином. Ситуація моделюється з використанням двомірної симетричної матриці nxn, де n – кількість виявлених критеріїв. В клітинці на перетині стовпчика і рядка виставляється співвідношення значимості між парою критеріїв. Матриця допомагає відповісти на питання: який з порівнюваних критеріїв найбільш важливий, якщо один важливіше іншого, то наскільки. Однакові за значимістю критерії мають значення 1. Абсолютна перевага виражається максимальним значенням 9. Таким чином, у проміжку між цими значеннями знаходяться значення, що дозволяють більш точно виражати критерії значимості відносин. Дані відносини представлені в таблиці 1.

Таблиця 1

Шкала значень у відносинах при використанні методу аналізу ієрархій

Ступіньзначущості

Визначення

Пояснення

1

Однакові зазначимістю

Жоден з критеріїв не має переваг перед іншим критерієм

3

Незначна перевага

Є недостатньо вагомі міркування за висловом одного з переваг

5

Істотна перевага

Логічно доказова перевага суджень з приводу одного з критеріївперед іншими

7

Очевидна перевага

Один критерій більш переконливий по відношенню до іншого

9

Абсолютна перевага

Один із критеріїв безумовно переважний перед іншим

2, 4, 6, 8

Проміжні значення

Доводи однаково підходять до сусідніх ступенів значущості

Зворотнівеличини

Зворотні величини значимості, якщо іншому критерію присвоєно значення 1 ... 9

   Аналітик повинен порівняти рівень переваги двох об'єктів по кожному критерію, розташованому на вищестоящому рівні, використовуючи значення 1 / 9 ... 9 з наведеної таблиці. У розрахунку значень значимості критеріїв необхідно перемножити бали за критеріями і звести в ступінь 1 / q , де q - кількість критеріїв, що беруть участь у розрахунку.

На базі даного методу, а так само методу експертних оцінок буде сформована база знань, з використанням якої буде створена експертна система для оцінки якості навчальних систем. Процес створення та використання експертної системи представлений на рисунку 3.

Рисунок 3 – Процес створення та використання ЕС

(анімація розроблена за допомогою Adobe Flash (trial версія); безкінечний цикл, для зупинки циклу натисніть правою кнопкою миші по анімації та зніміть позначку з пункту "цикл")

Досягнення високих показників якості можливе тільки в умовах безперервного моніторингу навчального процесу. Моніторинг в освіті – це система збору, обробки, зберігання і розповсюдження інформації про освітню систему або окремих її елементів, орієнтована на інформаційне забезпечення управління, що дозволяє судити про стан об'єкта в будь-який момент часу і що дає прогноз його розвитку [14]. Таким чином, за допомогою запропонованої експертної системи можна буде проводити моніторинг навчальних систем, що допоможе адекватно судити про стан якості навчання.

Висновки

У магістерській роботі вдосконален підхід до оцінки НС, який заснований на методі аналізу ієрархій. Розроблено ЕС на основі нового сформованого набору критеріїв якості, яка реалізує запропонований підхід для оцінки НС, що дозволяє оцінювати НС з урахуванням нових критеріїв якості. Також дана експертна система дозволить істотно спростити і прискорити процес оцінки якості ОС.

Важливе зауваження

На момент написання даного реферату магістерська робота ще не завершена. Передбачувана дата завершення: грудень 2014. Повний текст роботи, а також матеріали по темі можуть бути отримані у автора або його керівника після зазначеної дати.

Список літератури

  1. Алисейчик П.А. Компьютерные обучающие системы. [Электронный ресурс] – Режим доступа: http://www.intsys.msu.ru/magazine/archive/v8%281-4%29/strogalov-005.pdf
  2. Роберт И. В.Обучающие системы / И. В. Роберт, С. В. Панюкова. – М.: Препринт /МИФИ, 006-2002, 2002. – 32 с.
  3. Лукьянов С.В. Система оценки качества поиска в системах контекстного поиска изображений в БД. [Электронный ресурс] – Режим доступа: http://masters.donntu.ru/2005/fvti/lukyanov/diss/index.htm
  4. Шепелева М. В. Разработка экспертной системы оценки рисков при кредитовании физических лиц.  [Электронный ресурс] – Режим доступа: http://masters.donntu.ru/2006/kita/shepeleva/diss/index.html
  5. Ульшин В.А., Данченко А.Л. Определение качества и эффективности учебных материалов обучающих систем.
  6. Ризун Н.О. Концепция построения экспертной системы поддержки принятия решений по управлению учебным процессом в вузе.
  7. Максимова О.А. Технология комплексной экспертизы качества тестовых материалов для контроля учебных достижений обучающихся.
  8. Нешта Е.П. Классификация и оценка качества программных средств с использованием базы характеристик качества.
  9. Воробкалов П.Н. Управление качеством электронных обучающих систем.
  10. Кокшарова Е.А. Выбор критериев эффективности для педагогической экспертной системы, осуществляющей оценку качества обучающих тестов.
  11. Общее руководство качеством и стандарты по обеспечению качества. Часть 3: "Руководящее указание по применению ИСО 9001 при разработке, постановке и обслуживанию программного обеспечения". – М.: ВНИИС, 1995
  12. Саати Т. Принятие решений. Метод анализа иерархий /Т. Саати. – М.: Радио и связь, 1993. - 315 с.
  13. Метод анализа иерархий. [Электронный ресурс] – Режим доступа: http://ru.wikipedia.org/wiki/Метод_анализа_иерархий
  14. Майоров А.Н. Мониторинг в образовании/ А.Н. Майоров. – СПб.: Изд-во ”Образование”, 1998. - ЗЗ4 с.