Брянск

Раздел Научно-методический раздел

Материалы педагогов профессионального образования

13.01.2012

Опыт компьютерного тестирования профессиональных компетенций студентов и специалистов

Ходаков А.И., к.п.н., Смирнов В.П., к.п.н., Пахалюк Р.А., Заслуженный учитель РФ.

По запросам наших читателей и партнеров ГлавСправ открывает площадку для публикации методических и научных статей в области образования Санкт-Петербурга. Инновационное образование, которое определено как главное направление и один из путей преобразования социально-экономической стратегии России, требует новаторских идей и креативного подхода не только в методическом аспекте, но и при оценке качества знаний и умений — компетенций учащихся и студентов. При переходе на образовательные стандарты третьего поколения это становится насущной проблемой всего педагогического сообщества.

Повышение качества образовательного процесса в условиях среднего профессионального учебного заведения требует новых методов оперативного оценивания подготовленности выпускников колледжей и техникумов. Соответствующие процедуры должны быть экономичными, удобными в использовании.

Силами малого инновационного предприятия ООО «Академии информационных технологий» разработано и внедрено в практику несколько компьютерных систем (программ), позволяющих оперативно диагностировать ведущие профессиональные компетенции студентов, обучающихся по специальностям «медицинская оптика», «фельдшер скорой медицинской помощи», «лабораторная диагностика», а также работников соответствующих профилей (подробнее на www.ait.spb.ru)

Приобретенный опыт позволяет разрабатывать аналогичные системы профессиональной диагностики по многим специальностям, способствуя тем самым информатизации самого процесса повышения качества профессионального образования.

Мы исходим из того, что специалист — это не набор и не сумма знаний, умений, навыков. Это целостный субъект профессиональной деятельности, обладающий комплексом специальных компетенций.

Учитывая, что профессиональная деятельность представляет собой на практике решение совокупности типичных, повторяющихся задач-проблем, можно предложить следующее рабочее определение.

Профессиональные компетенции — готовность (способность) работника на основе сознательно усвоенных знаний, умений, приобретенного опыта, всех своих внутренних ресурсов самостоятельно анализировать и практически решать значимые профессиональные проблемы, типичные задачи (проблемные ситуации).

Для конкретной специальности следует определить набор ведущих компетенций. Их совокупность отражает необходимый профиль компетентности специалиста.

К примеру, для профессиональной диагностики специалистов скорой медицинской помощи было выделено 10 ведущих компетенций (данный перечень предложен доктором медицинских наук, профессором И.П. Миннуллиным):

  1. Понятийная компетенция
  2. Диагностическая компетенция
  3. Технико-диагностическая компетенция
  4. Фармакологическая компетенция
  5. Лечебно-манипуляционная компетенция
  6. Технико-аппаратная компетенция
  7. Лечебно-тактическая компетенция
  8. Организационно-тактическая компетенция
  9. Психологическая компетенция
  10. Деонтологическая компетенция

Разумеется, для каждой специальности необходимо определить свой перечень ведущих итоговых компетенций.

Принятые компетенции должны отражать основные аспекты профессионального стандарта. В совокупности они могут служить комплексной оценкой компетентности и студента-выпускника, и специалиста, уровня его профессиональной подготовленности, соответствия требованиям современной практики.

Принятые компетенции, отражая итог освоения профессии, должны быть логически связаны с «модульными» компетенциями, которые служат для текущего контроля образовательного процесса и привязываются к отдельным учебным модулям, предусмотренным новыми образовательными стандартами для обучения студентов. Итоговые компетенции обобщают «модульные» компетенции, интегрируют их.

Для оперативной диагностики выделенных профессиональных компетенций в наших компьютерных программах используются системы специальных тестов.

Тот или иной тест разработчики старались представить в форме моделирования конкретной производственной или познавательной ситуации, в которой испытуемый должен осмыслить типичную профессиональную проблему, проявляя своё понимание сути этой проблемы, предлагая способы её правильного и наилучшего решения (никаких умозрительных вопросов с перечнем готовых ответов, среди которых преобладают ложные суждения!).

Каждому тестовому заданию по возможности придан такой характер, при котором испытуемому приходится активно мыслить, выполнять некоторые условные действия, искать и принимать осознанные решения, максимально мобилизуя свои внутренние ресурсы.

Следует помнить, что подобные тесты предназначены не столько для измерения конкретных знаний, сколько для оценивания уровня понимания, степени зрелости профессионального мышления.

Тестовые задания разрабатывались опытными специалистами в своей области. В частности, для фельдшеров скорой помощи эти задания были составлены сотрудниками Санкт-Петербургского НИИ скорой помощи им. И.И. Джанелидзе.

    По всем тестам оценки рассчитываются по единой схеме:
  • подсчитывается число правильных (ответов) решений ( А );
  • подсчитывается число ошибок (В );
  • фиксируется время, которое затрачивается на выполнение тестового задания ( Т).

Для каждого испытуемого программа по команде пользователя автоматически вычисляет пять разных оценок, отражающих различные особенности профессиональной подготовленности. Результаты отображаются в форме таблиц и графиков.

Величина основной оценки для всех компетенций вычисляется по следующей формуле

, где Аmax - максимальное число правильных решений для данного теста

Эта оценка для всех тестов изменяется в пределах от 0 до 10.

В качестве индивидуальной итоговой оценки можно рассматривать сумму всех этих оценок (максимально возможная суммарная оценка равна 100).

В процессе апробации системы, предназначенной для специалистов скорой помощи, протестировано 16 студентов-практикантов и 106 медработников.

Величина основной оценки оказалась в диапазоне от 43 до 74. Аналогичный разброс наблюдался и по результатам тестирования студентов медицинской оптики и лабораторных медицинских техников.

Это говорит о высокой измерительной способности наших тестовых систем, которые успешно фиксируют индивидуальные различия компетентности обследованных студентов или работников.

Из этих данных следует также, что конкретная группа выпускников колледжа или конкретный состав персонала оказывается весьма неоднородным по уровню своей профессиональной компетентности. И в обычной практике эта неоднородность корректно не фиксируется.

Программа вычисляет и групповую (суммарную) оценку Оп (среднее значение для данной выборки).

Для студенческой выборки (фельдшера скорой помощи) эта оценка оказалось равной 57.5, для выборки медработников — 70.

На основе совокупности оценок Оп по команде пользователя строится профиль профессиональных компетенций. Его легко и быстро можно получить для любого отдельного специалиста или для группы лиц, прошедших тестирование.

Рис.1. Групповой профиль профессиональных компетенций для студентов и работников скорой медицинской помощи

Таким образом, мы получаем для группы студентов развернутую характеристику уровня их подготовленности. Можно увидеть сильные и слабые (проблемные) стороны этой подготовленности. Проведение тестирования в середине завершающего года обучения дает возможность вовремя внести коррективы в учебную работу, целенаправленно устранить за оставшееся время недостатки в подготовке студентов-выпускников.

Такие данные наглядно показывают руководителям организаций, с какими профессиональными задачами их персонал сможет справиться более успешно, а какие задачи вызовут у работников определенные затруднения.

Такой же индивидуальный график легко можно построить для любого участника тестирования.

Программа четко ранжирует (по величине оценки Оп) выборку протестированных лиц. Выявляются наиболее успешные из них и отстающие, слабо подготовленные.

При входе в систему каждый тестируемый заполняет электронную личную карточку, в которой указывает фамилию, имя, пол. Студенты отмечают курс обучения, а работники - образование и стаж работы по специальности.

Одним щелчком мыши можно получить таблицы, в которых будут представлены сравнительные оценки компетенций. К примеру, для группы студентов Санкт-Петербургского медико-технического колледжа, обучающихся по специальности «медицинская оптика», были получены следующие данные.

Таблица 1. Средние оценки Оп для студентов разных курсов (N=53 человека)

Профессиональные компетенции (для специалистов медицинской оптики)3 курс5 курс
1. Понятийная5,95,8
2. Специально-техническая1,91,2
3. Производственная3,85,0
4. Технологическая2,84,8
5. Инструментальная3,76,3
6. Операционная3,33,8
7. Управленческая4,35,2
8. Социально-психологическая5,34,0
9. Коммерческая2,83,6
10. Экономическая4,14,7
Суммарная оценка:37,844,5

Представленная информация наглядно демонстрирует эффект профессионального обучения: суммарная (итоговая) оценка компетентности оказывается заметно выше у студентов старшего курса.

Преимущество разработанной компьютерной программы в том, что имеется возможность проанализировать динамику показателей, относящихся к разным видам компетенций.

Хорошо видно, что наибольший «прирост» профессиональной подготовленности происходит по производственной, технологической и инструментальной компетенции.

Программа позволяет построить таблицы, которые показывают динамику компетентности работника при увеличении его трудового стажа. Например:

Таблица 2. Основные оценки Оп профессиональных компетенций медработников скорой помощи с разным трудовым стажем

Профессиональные компетенцииДо 3-х летОт 3-х до 10 летОт 10 до 20 летСвыше 20 лет
1. Понятийная6,206,577,377,33
2. Диагностическая6,116,757,717,74
3. Технико-диагностическая6,658,139,719,44
4. Фармакологическая5,086,217,136,94
5. Лечебно-манипуляционная5,564,675,085,20
6. Технико-аппаратная4,464,595,225,14
7. Лечебно-тактическая7,798,398,778,76
8. Организационно-тактическая6,597,448,048,19
9. Психологическая4,404,294,384,31
10. Деонтологическая6,717,327,667,61
СУММА59,5564,3671,0770,67

Таким образом, мы выявили сложную и противоречивую динамику профессиональной компетентности. Оценка Оп постепенно возрастает при переходе от первой до третьей группы медработников. Самое интересное — складывается впечатление, что при накоплении определенного рабочего опыта компетентность специалиста застывает на некотором достигнутом уровне. Хотя весьма значительные резервы профессионального роста имеются (оценка Оп=71 не является пределом компетентности).

Подобная информация крайне важна для совершенствования системы повышения квалификации специалистов.

Наибольшую эффективность данный методический инструмент дает в отношении индивидуальной диагностики профессиональной подготовленности студента (специалиста).

Для каждого испытуемого, прошедшего тестирование, легко получить персональный профиль профессиональной компетентности. Соответствующие таблицы и графики наглядно отражают многие важные особенности подготовленности конкретного студента-выпускника или работника.

Отметим, что компьютерная программа позволяет дополнительно вычислять следующие оценки ( по каждому тесту):

, где As – среднее число правильных ответов по выборке.

, где Bs – среднее число ошибок по выборке.

Персональные данные показывают, по каким параметрам наблюдается высокий уровень подготовленности студента. По каким параметрам — обнаруживаются провалы в его подготовке. К примеру, приведем данные тестирования двух студентов, обучающихся в Санкт-Петербургском медицинском колледже №3 по специальности «лабораторная диагностика» (для простоты изложения названия компетенций мы не приводим):

Рис.2. Персональные профили профессиональных компетенций студентов «А» и «Б» (оценки Ра)

Как видим, по всем компетенциям результаты тестирования студента «А» оказались ниже средних значений по группе (все оценки Ра отрицательны). Наихудшие результаты показаны по компетенциям 2, 3 и 9.

У студента «Б» картина совсем иная. За исключением теста №1 и №4 испытуемый демонстрирует результаты выше, чем в среднем по выборке.

Для каждого студента можно построить профиль компетенций, используя оценку Рв.

Подобная информация является хорошей основой для проведения индивидуальной работы со студентами.

Персональные данные с результатами тестирования профессиональных компетенций формируются в специальные таблицы. Приведем фрагмент такой таблицы для фельдшера скорой медицинской помощи, у которого основная оценка Оп оказалась ниже среднего значения по выборке.

Таблица 3. Оценки профессиональных компетенций медработника «В»

Основная оценка OпДополнительная оценка РаДополнительная оценка Рb
Тест № 15,60-2,191,96
Тест № 25,71-2,38-1,12
Тест № 38,44-0,798,53
Тест № 46,11-0,98-2,02
Тест № 52,90-4,350,13
Тест № 64,78-0,540,36
Тест № 78,56-0,114,24
Тест № 87,42-0,684,17
Тест № 95,001,54-1,10
Тест № 106,96-0,76-4,11
Сумма61,47

По всем компетенциям (за исключением теста 9) оценка Ра отрицательна. Самое слабое место в подготовленности этого специалиста — выполнение лечебных манипуляций (тест №5): низкая результативность в сочетании с большим количеством ошибок.

У данного работника немалые трудности возникают и при работе с технико-диагностической аппаратурой (тест №3), а также и при решении организационно-тактических задач (тест №8).

По команде пользователя программа создает краткое содержательное персональное заключение (объёмом в 6 страниц) для каждого лица, прошедшего тестирования. Это весьма облегчает процедуру анализа результатов тестирования.

Персональные результаты отражают важные индивидуальные особенности работников-специалистов. Обнаруживаются медлительные и быстрые сотрудники, работающие аккуратно, точно и допускающие много профессиональных ошибок, результативные при решении определенных профессиональных задач и недостаточно компетентные в некоторых вопросах своей деятельности и т.д.

Можно точнее определить характер консультационной помощи, в которой нуждается конкретный работник для повышения уровня своей компетентности.

Полезно проводить «входное» тестирование претендентов на имеющиеся вакансии в данной организации.

Большую пользу получает и учебное заведение, и производственная организация, если осуществляется регулярный мониторинг профессиональной компетентности студентов-выпускников и специалистов.

Данные компьютерные системы отличаются принципиальной новизной, простотой технических решений, удобством в использовании, большими информационно-аналитическими возможностями.

На наш взгляд, предлагаемый методический инструмент может быть успешно использован в создающихся центрах сертификации и профессиональной квалификации, которые призваны осуществлять независимую экспертизу уровня подготовленности выпускников вузов и колледжей.


Литература:

Миннуллин И.П., Ходаков А.И. Компьютерное тестирование профессиональных компетенций специалистов скорой медицинской помощи. Материалы всероссийской научно-практической конференции «Совершенствование медицинской помощи больным с нейротравмой и пострадавшим в ДТП» совместно с всероссийской научно-практической конференцией «Скорая медицинская помощь — 2011», Санкт-Петербург, 2011.

Миннуллин И.П., Ходаков А.И. и др. Диагностика профессиональных компетенций студентов и специалистов медицинской оптики методом компьютерного тестирования. Среднее профессиональное образование, №11, ноябрь 2009.

Ходаков А.И., Вус М.А., Горшков А.С. Прикладные информационные технологии в социологии образования: опыт Санкт-Петербурга. Санкт-Петербургский научный форум «Наука и общество» Информационные технологии (4-я Петербургская встреча Нобелевских лауреатов). 21-25 сентября 2009 года, Санкт-Петербург.


ГлавCправ. 2012

Интересная статья?
Президентская библиотека имени Бориса Николаевича Ельцина
профориентационный центр Вектор Информационный центр по атомной энергии в Санкт-Петербурге УКЦ «Профессиональный рост» ЦГПБ им. В.В. Маяковского
PRO Образование 2011