Главная > Алгебра > Валидность психологического исследования. Надежность и валидность методов исследования – Социальная идентичность

Валидность психологического исследования. Надежность и валидность методов исследования – Социальная идентичность

ТЕОРЕТИЧЕСКИЕ АСПЕКТЫ МЕТОДА ГРУППОВЫХ ИНТЕРВЬЮ

Любой метод исследования обладает специфичными свойствами и требует специфичной квалификации для адекватного использования. Объективный анализ свойств метода и создаваемых им побочных эффектов порой требует создания своего рода теории. Трудно сказать, в какой мере может быть создана целостная теория того или иного метода. По-видимому, теоретические основы методов всегда фрагментарны, поскольку фиксируются на разных аспектах их применения. Так или иначе, целостной теории метода фокус-групп не существует, но имеется большое число частных теоретических проработок его свойств и принципов использования. Из всего многообразия рассмотрим три нижеследующих аспекта.

§ 2.1. Валидность качественных методов

В широком смысле слова валидность, т.е. обоснованность метода, означает соответствие получаемых с его помощью эмпирических данных основным целям исследования. Вопрос о валидности качественных методов в предшествующие годы был сильно запутан специалистами по математической статистике, которые распространили весьма специфичные статистические критерии валидности на классы задач и исследовательских ситуаций, не имеющих ничего общего с идеальными объектами типа вынимаемых из корзины разноцветных шаров, которыми оперирует теория вероятности.

Прежде, чем перейти к описанию качественных исследований, особенно групповых, следует охарактеризовать их отличия от количественных исследований. Чтобы понять эти отличия полнее, необходимо разобраться в том, что, собственно говоря, является «ошибкой» исследования.

Количественные социологические исследования являются разновидностью исследований, в основании которых лежит математическая теория вероятности. В числе аксиоматических предпосылок этой теории имеется весьма важная предпосылка о том, что различия между анализируемыми объектами ограничены фиксированным набором дискретных признаков. К примеру, шары, лежащие в корзине, различаются по цвету, размеру и нарисованным на них цифрам. Люди, соответственно, могут различаться по своим демографическим признакам, установкам и тд., причем важно отметить, что в любом конкретном анкетном опросе набор признаков ограничен числом квантифицированных вопросов анкеты, а все прочие возможные признаки предполагаются идентичными.

Основным критерием, характеризующим исследование статистического типа, является надежность, т.е. воспроизводимость полученных результатов. Если провести повторный опрос по той же методике в той же самой социальной группе, и результаты обоих опросов будут идентичны - значит, они надежны. Сегодня никто не оспаривает тот факт, что при правильно проведенном массовом репрезентативном опросе с помощью формализованных анкет автоматически достигается высокая степень воспроизводимости результатов. Однако вопрос их валидности этим далеко не исчерпывается.

В математической социологии валидность исследования принято трактовать как степень соответствия средства измерения тому, что подлежало измерению . Словарь поясняет далее, что в строгом смысле слова валидизация возможна лишь при наличии независимого внешнего критерия, но такая ситуация в социологии является редкостью. Во всех остальных случаях валидность результатов количественных опросов является не более чем гипотезой, оценка степени правдоподобия которой не имеет ничего общего с математическими и статистическими процедурами. Низкая степень правдоподобия многих неявных содержательных гипотез, латентно закладываемых исследователями в формулировки и структуру формализованных вопросов, а порой и полное отсутствие такого правдоподобия, является очень серьезной и плохо осознанной проблемой.

Таким образом, статистическую надежность результатов количественных исследований не следует путать с их надежностью и обоснованностью в широком смысле этого слова. Строго говоря, количественные исследования надежны лишь в той мере, в какой саму проблему надежности удается свести к ее статистическому толкованию. Если такое сведение не удалось или в принципе невозможно, количественные данные становятся крайне ненадежной основой для выводов.

Сравнивая количественные и качественные методы с точки зрения их валидности, следует прежде всего отметить, что сферы их валидного применения не совпадают друг с другом. Это делает бессмысленным обобщенное сравнение их по критерию валидности. Существуют классы задач, в которых количественные методы обладают высокой, а качественные низкой валидностью. Вместе с тем существуют - и этот аспект обычно слабо подчеркивается даже в специальной литературе - другие классы задач, в которых указанное соотношение прямо противоположно.

В задачу нашего учебника не входит рассмотрение вопросов методологии качественных методов вообще. Специфика фокус-групп, а также индивидуальных глубоких интервью, если они проводятся большими сериями, состоит в том, что к ним, по крайней мере теоретически, также применимы статистические критерии обоснованности, хотя и иные, чем в количественных исследованиях.

Текстовые расшифровки серии групповых интервью, проведенных на определенную тему, образуют массив первичных данных объемом в несколько сотен страниц. Этот массив вполне пригоден для анализа с применением статистических методов как с точки зрения его размеров, так и с точки зрения разнородности. Разнородность массива обеспечивается участием нескольких десятков респондентов, что уже дает основания для приблизительного распределения однотипных ответов по трехчленной или пятичленной шкале: явное меньшинство, меньшинство, примерно поровну, большинство, явное большинство. Главное, однако, состоит не в этом. Специфика массива первичных данных групповых интервью состоит в том, что:

1. Единицей анализа является не респондент, а высказывание. Поскольку каждый респондент является носителем многих высказываний, это, как минимум, на порядок увеличивает массив первичных аналитических единиц, делая его статистически значимым.

2. В задачу качественных исследований не входит определение численности или удельного веса носителей той или иной точки зрения в обществе или его сегменте. По отношению к такому классу проблем качественные методы невалидны.

Задачей качественных методов является формирование списка так называемых «гипотез существования», т.е. списка мнений, оценок или высказываний, существующих в обществе и, предположительно, имеющих не нулевую степень распространения. При этом, как отмечает Д.Темплтон, предпочтительнее ошибиться, выявив несуществующий или малозначимый фактор, чем упустить высокозначимый.

Математический аппарат, приспособленный для решения задач подобного типа, в принципе хорошо известен. Он используется в лингвистке при составлении списков звуков и слогов, а также частотных словарей слов и словосочетаний. Этот же аппарат используется и в социологических исследованиях, осуществляемых с помощью контент-анализа. Применительно к последнему случаю математическая постановка задачи выглядит примерно так: «Имеется кандидат в президенты А, о котором пишут в газетах. Требуется составить как можно более полный список эпитетов, которыми авторы статей характеризуют данного кандидата. Какой объем газетных текстов следует изучить, чтобы с вероятностью 95% число невыявленных эпитетов не превысило 5% ?»

Как и подавляющее большинство прикладных статистических задач, данная задача не решаема без определенных предварительных знаний о характере частотного распределения искомых эпитетов, а также без некоторых априорных допущений. В зависимости от практического удобства выбора той или иной системы допущений сама постановка задачи может варьироваться. Углубление в этот вопрос выходит за рамки нашей темы, поскольку в прикладных исследованиях, осуществляемых с помощью метода фокус-групп, статистический аппарат, подобный описанному выше, если где-то и применяется, то лишь в узкоспециальных исследованиях, далеких от сферы применения маркетинговых фокус-групп. Основных причин этому видится две. Первая - применение такого аппарата сильно удорожает исследования, а коммерческий заказчик не склонен оплачивать математические «красоты», если они никак не влияют на конечные выводы. По ряду причин, которые будут описаны ниже, и заказчики, и исследователи считают вполне достаточной ориентацию на следующий субъективный критерий: если количество новой информации, получаемой от каждой следующей группы, резко упало, исследование следует прекращать.

Вторая причина гораздо более фундаментальная. Она связана с тем, что сегодня строго операциональное и поддающееся автоматизации вычленение из текстов смысловых единиц возможно только на уровне слов и устойчивых словосочетаний. Вычленение, группировка и тапологизация более сложных смысловых единиц, осуществляемые на аналитической стадии качественного социологического исследования, могут выполняться только человеком на основе еще не изученных бессознательных интеллектуальных алгоритмов. Быстрый прогресс в развитии компьютерных программ автоматизированного перевода дает возможность предположить, что с течением времени станет осуществимым автоматизированное распознавание все более сложных смысловых единиц. Однако на практику фокус-групповых исследований эта работа пока не оказывает никакого влияния. При изучении литературы по маркетинговым фокус-группам мы ни разу не встречались с упоминанием о применении контент-анализа в какой бы то ни было форме. В области академических исследований такие упоминания имеются , однако изучение данного вопроса требует специальной работы. Отметим здесь же, что в начале 90-х годов наиболее современной работой по методам компьютерного контент-анализа считалась работа Вебера .

Резюмируя, обратимся к вопросу определения областей валидное™ количественных и качественных исследований. Выше было показано, что эти области принципиально различны, поскольку радикально различны решаемые ими классы задач. Область валидного применения формализованных опросов только на первый взгляд кажется беспредельной или очень широкой. На самом деле она ограничена выявлением степени распространенности тех или иных знаний, мнений или установок, которые:

а) должны быть известны заранее, т.е. до проведения опроса;

б) не должны быть навязываемой респонденту фикцией или псевдосуждениями, не свойственными его сознанию.

Для выявления самого факта существования знаний, мнений или установок количественные методы непригодны, что хорошо видно из следующего сравнения результатов опроса.

А. Количественное исследование

Вопрос: Что Вы предпочитаете - яблочный пирог или шоколадный кекс? (% к числу опрошенных)

Яблочный пирог - 26%

Шоколадный кекс - 22%

И то, и другое - 43%

Затрудняюсь ответить - 9%

Б. Качественное исследование

Вопрос: Что Вы предпочитаете - яблочный пирог или шоколадный кекс?

Ответ: Я не знаю. Я люблю и то, и другое.

Вопрос: Хорошо, если Вам надо взять что-то одно, что это будет? Подумайте.

Ответ: Конечно, пироги различаются. Если у меня будет возможность взять яблочный пирог моей мамы, то я предпочту его любому шоколадному кексу. Если необходимо взять какой-то яблочный пирог, то я точно не знаю.

Вопрос: От чего еще может зависеть Ваш выбор?

Ответ: Например, это зависит от того, что я ем на обед. Если у меня полный обед, я думаю, что возьму яблочный пирог. Яблочный пирог - это большой деликатес в моей семье. Но если на обед я ел что-то легкое, типа рыбы, то лучше взять кекс. Если холодно, я не откажусь от шоколадного кекса [б3].

Приведенный диалог хорошо иллюстрирует тот факт, что простой ответ «Я выбираю яблочный пирог» зависит от многих факторов, в данном случае - от того, кто приготовил этот пирог, от степени голода, плотности обеда, температуры окружающей среды. Этот список, вероятно, может быть продолжен. Но, как и во многих других случаях, число таких факторов или, по крайней мере, наиболее распространенных из них, по-видимому, не очень велико. Задачей качественного исследования, как уже говорилось, является выявление списка этих факторов с разумной степенью полноты. В этой области качественные исследования обладают высокой степенью валидности. Определение частотного распределения действия выявленных факторов в изучаемой популяции - дело количественного исследования. Важны, однако, две оговорки:

а) с практической точки зрения затраты на проведение количественного исследования могут превышать ожидаемый риск от принятия волевого решения, основанного на менее точной информации;

б) адекватная трансформация выявленных факторов в вопросы формализованной анкеты часто затруднена или невозможна, причем часто чрезвычайно трудно бывает даже определить возможную степень этой неадекватности.

Эти обстоятельства нередко снижают валидность количественных исследований до такой степени, что их проведение становится нецелесообразным.

Лишь в тех случаях, когда гипотеза о валидности формулировок вопросов формализованных анкет выглядит обоснованной или правдоподобной, количественное исследование может дать валидный результат, позволяющий принять решение, основанное на более точной информации.

Естественнонаучная и гуманитарная парадигма в психологии

Всю историю развития психологии можно охарактеризовать как взаимоотношения двух противоположных подходов - естественнонаучного и гуманитарного, причем в последние десятилетия наблюдается постепенное вытеснение первого вторым. Изначально Аристотель утверждал, что изучение души есть дело естествоиспытателя. Современное положение дел можно охарактеризовать как кризис попыток построения психологии по образцу естественной науки. Наличие отдельных разделов психологии, которые невозможно отнести к естественнонаучной линии (психоанализ, гуманистическая психология, логотерапия) лишь усугубляет кризисное состояние.

Но в отечественной психологии в настоящее время, по мнению В.И. Слободчикова и Е.И. Исаева преобладающей все еще является ориентация на естествознание, на объективность, на измерение и эксперимент как на идеал научности. Советская психология развивалась как академическая, сциентистская дисциплина. В последние годы в рамках психологической практики начала оформляться гуманистическая психология. Осознана необходимость создания особой психотехнической теории, т.е. теории, обосновывающей человековедческую, психологическую практику. По сути, это означает создание гуманитарной психологии как альтернативы естественнонаучной академической психологии .

В.Н. Сурков отмечает, что попытки психологов соответствовать естественнонаучным стандартам в области взаимодействия теории и эксперимента привели к «позитивистскому перенапряжению» психологии. Защитной реакцией психологов на давление «позитивистских ритуалов» является широкое распространение «теневой методологии» (традиции формулировать гипотезы уже после проведения исследования, выводить их из полученных данных, а не из теорий, отбирать лишь «удобные» эмпирические данные и т.п.) ..

Основными причинами, препятствующими оформлению психологии в качестве естественной науки, выступают:

o духовный характер происхождения человека, не позволяющий рассматривать его как объект первой природы или механизм;

o рефлексивность и активность человека; невозможность лишь управления человеком - в отношении человека органичны понимающая позиция, любовь, помощь, поддержка .

Данные причины аналогичны специфическим характеристикам гуманитарного познания, т.к. человек выступает как духовная ценность, а не только как «объект исследования». Основной целью психологии является понимание другого человека, объяснение определенного духовного или культурного феномена, придание смысла. Рефлексивный характер психологического знания проявляется во взаимовлиянии субъекта и объекта познания; направленность психологии предполагает не просто понимание, а активный диалог исследователя и исследуемого объекта.

Таким образом, применение требований естественнонаучного стандарта в психологии является ограниченным. По мнению многочисленных авторов, даже психологический эксперимент, не говоря уже обо всем комплексе психологического знания, должен строиться по гуманитарным канонам.

Заключение

Значительная часть дискуссий о статусе научности психологии связана не столько с обсуждением вопроса о том, является ли психология наукой, сколько с вопросом о том, на какой эталон (естественнонаучный или гуманитарный) ей следует ориентироваться (и каким критериям научности соответствовать).

Зарубежные психологи более склонны воспринимать психологию в рамках гуманитарной психологии, отечественные же психологи до сих пор придают меньшее значение гуманитарному знанию в психологии по сравнению с естественнонаучным. Но тенденцией последних лет является все же гуманизация знания психической реальности. Как справедливо отмечают многие авторы, в основе получения психологического знания должна лежать гуманитарная парадигма, но для доказательства неоспоримых фактов служит естественнонаучная, т.е. обе парадигмы в исследований психической реальности необходимы.

Но, по мнению большинства психологов, с точки зрения перспектив исследовательской деятельности именно в рамках гуманитаризации познания определяются по-настоящему сложные задачи, являющиеся достойным вызовом для научного сообщества.

Критерии валидности, применяемые к качественным исследованиям.

Валидность психодиагностических методик

Другим после надежности ключевым критерием оценки качества методик является валидность. Вопрос о валидности методики решается лишь после того, как установлена достаточная ее надежность, поскольку ненадежная методика не может быть валидной. Но самая надежная методика без знания ее валидности является практически бесполезной.

Следует заметить, что вопрос о валидности до последнего времени представляется одним из самых сложных. Наиболее укоренившимся определением этого понятия является то, которое приведено в книге А. Анастази: «Валидность теста - понятие, указывающее нам, что тест измеряет и насколько хорошо он это делает».

Валидность по своей сути - это комплексная характеристика, включающая, с одной стороны, сведения о том, пригодна ли методика для измерения того, для чего она была создана, а с другой стороны, какова ее действенность, эффективность, практическая полезность.

По этой причине не существует какого-то единого универсального подхода к определению валидности. В зависимости от того, какую сторону валидности хочет рассмотреть исследователь, используются и разные способы доказательства. Другими словами, понятие валидности включает в себя разные ее виды, имеющие свой особый смысл. Проверка валидности методики называется валидизацией.

Валидность в первом ее понимании имеет отношение к самой методике, т. е. это валидность измерительного инструмента. Такая проверка называется теоретической валидизацией. Валидность во втором понимании уже относится не столько к методике, сколько к цели ее использования. Это прагматическая валидизация.

Обобщая, можно сказать следующее:

При теоретической валидизации исследователя интересует само свойство, измеряемое методикой. Это, по существу, означает, что проводится собственно психологическая валидизация;

При прагматической валидизации суть предмета измерения (психологического свойства) оказывается вне поля зрения. Главный акцент сделан на то, чтобы доказать, что нечто, измеряемое методикой, имеет связь с определенными областями практики.

Провести теоретическую валидизацию, в отличие от прагматической, порой оказывается значительно труднее. Не вдаваясь пока в конкретные детали, остановимся в общих чертах на том, как проверяется прагматическая валидность: выбирается какой-нибудь независимый от методики внешний критерий, определяющий успех в той или иной деятельности (учебной, профессиональной и т. п.), и с ним сравниваются результаты диагностической методики. Если связь между ними признается удовлетворительной, то делается вывод о практической значимости, эффективности, действенности диагностической методики.

Для определения теоретической валидности найти какой-либо независимый критерий, лежащий вне методики, гораздо труднее. Поэтому на ранних стадиях развития тестологии, когда концепция валидности только складывалась, бытовало интуитивное представление о том, что тест измеряет:

1) методика называлась валидной, так как то, что она измеряет, просто очевидно; 2) доказательство валидности основывалось на уверенности исследователя в том, что его метод позволяет понять испытуемого; 3) методика рассматривалась как валидная (т. е. принималось утверждение, что такой-то тест измеряет такое-то качество) только потому, что теория, на основании которой строилась методика, очень хорошая.

Принятие на веру голословных утверждений о валидности методики не могло продолжаться длительное время. Первые проявления действительно научной критики развенчали такой подход: начались поиски научно обоснованных доказательств.

Таким образом, провести теоретическую валидизацию методики - это доказать, что методика измеряет именно то свойство, качество, которое она по замыслу исследователя должна измерять.

Так, например, если какой-то тест разрабатывался для того, чтобы диагностировать умственное развитие детей, надо проанализировать, действительно ли он измеряет именно это развитие, а не какие-то другие особенности (например, личность, характер и т. п.). Таким образом, для теоретической валидизации кардинальной проблемой является отношение между психологическими явлениями и их показателями, посредством которых эти психологические явления пытаются познать. Это показывает, насколько замысел автора и результаты методики совпадают.

Не столь сложно провести теоретическую валидизацию новой методики, если для измерения данного свойства уже имеется методика с доказанной валидностью. Наличие корреляции между новой и аналогичной уже проверенной методикой указывает на то, что разработанная методика измеряет то же психологическое качество, что и эталонная. И если новый метод одновременно оказывается более компактным и экономичным в проведении и обработке результатов, то психодиагносты получают возможность использовать новый инструмент вместо старого.

Но теоретическая валидность доказывается не только путем сопоставления с родственными показателями, а также и с теми, где, исходя из гипотезы, значимых связей не должно быть. Таким образом, для проверки теоретической валидности важно, с одной стороны, установить степень связи с родственной методикой (конвергентная валидность) и отсутствие этой связи с методиками, имеющими другое теоретическое основание (дискриминантная валидность).

Гораздо труднее провести теоретическую валидизацию методики тогда, когда такой путь проверки невозможен. Чаще всего именно с такой ситуацией сталкивается исследователь. В таких обстоятельствах только постепенное накопление разнообразной информации о изучаемом свойстве, анализ теоретических предпосылок и экспериментальных данных, значительный опыт работы с методикой позволяет раскрыть ее психологический смысл.

Важную роль для понимания того, что методика измеряет, играет сопоставление ее показателей с практическими формами деятельности. Но здесь особенно важно, чтобы методика была тщательно проработана в теоретическом плане, т. е. чтобы имелась прочная, обоснованная научная база. Тогда при сопоставлении методики с взятым из повседневной практики внешним критерием, соответствующим тому, что она измеряет, может быть получена информация, подкрепляющая теоретические представления о ее сущности.

Важно помнить, что если доказана теоретическая валидность, то интерпретация полученных показателей становится более ясной и однозначной, а название методики соответствует сфере ее применения. Что касается прагматической валидизации, то она подразумевает проверку методики с точки зрения ее практической эффективности, значимости, полезности, поскольку диагностической методикой имеет смысл пользоваться только тогда, когда доказано, что измеряемое свойство проявляется в определенных жизненных ситуациях, в определенных видах деятельности. Ей придают большое значение особенно там, где встает вопрос отбора.

Если опять обратиться к истории развития тестологии, то можно выделить такой период (20-30-е гг. XX в.), когда научное содержание тестов и их теоретический багаж интересовали в меньшей степени. Важно было, чтобы тест работал, помогал быстро отбирать наиболее подготовленных людей. Эмпирический критерий оценки тестовых заданий считался единственно верным ориентиром в решении научных и прикладных задач.

Использование диагностических методик с чисто эмпирическим обоснованием, без отчетливой теоретической базы нередко приводило к псевдонаучным выводам, к неоправданным практическим рекомендациям. Нельзя было точно назвать те особенности, качества, которые тесты выявляли. По существу они являлись слепыми пробами.

Такой подход к проблеме валидности тестов был характерен вплоть до начала 50-х гг. XX в. не только в США, но и в других странах. Теоретическая слабость эмпирических методов валидизации не могла не вызвать критики со стороны тех ученых, которые в разработке тестов призывали опираться не только на голую эмпирику и практику, но и на теоретическую концепцию. Практика без теории, как известно, слепа, а теория без практики мертва. В настоящее время теоретико-практическая оценка валидности методик воспринимается как наиболее продуктивная.

Для проведения прагматической валидизации методики, т. е. для оценки ее эффективности, действенности, практической значимости, обычно используется независимый внешний критерий - показатель проявления изучаемого свойства в повседневной жизни. Таким критерием может быть и успеваемость (для тестов способностей к обучению, тестов достижений, тестов интеллекта), и производственные достижения (для методик профессиональной направленности), и эффективность реальной деятельности - рисование, моделирование и т. д. (для тестов специальных способностей), субъективные оценки (для тестов личности).

Американские исследователи Д. Тиффин и Е. Мак-Кормик, проведя анализ используемых для доказательства валидности внешних критериев, выделяют четыре их типа:

1) критерии исполнения (в их число могут входить такие, как количество выполненной работы, успеваемость, время, затраченное на обучение, темп роста квалификации и т. п.); 2) субъективные критерии (они включают различные виды ответов, которые отражают отношение человека к чему-либо или к кому-либо, его мнение, взгляды, предпочтения; обычно субъективные критерии получают с помощью интервью, опросников, анкет); 3) физиологические критерии (они используются при изучении влияния окружающей среды и других ситуационных переменных на организм и психику человека; замеряется частота пульса, давление крови, электросопротивление кожи, симптомы утомления И т. д.); 4) критерии случайностей (применяются, когда цель исследования касается, например, проблемы отбора для работы таких лиц, которые менее подвержены несчастным случаям).

Внешний критерий должен отвечать трем основным требованиям:

Он должен быть релевантным;

Свободным от помех;

Надежным.

Под релевантностью имеется в виду смысловое соответствие диагностического инструмента независимому жизненно важному критерию. Другими словами, должна быть уверенность в том, что в критерии задействованы именно те особенности индивидуальной психики, которые измеряются и диагностической методикой. Внешний критерий и диагностическая методика должны находиться между собой во внутреннем смысловом соответствии, быть качественно однородными по психологической сущности. Если, например, тест измеряет индивидуальные особенности мышления, умение выполнять логические действия с определенными объектами, понятиями, то и в критерии нужно искать проявление именно этих умений. Это в равной степени относится и к профессиональной деятельности. Она имеет не одну, а несколько целей, задач, каждая из которых специфична и предъявляет свои условия к выполнению. Из этого вытекает существование нескольких критериев выполнения профессиональной деятельности. Поэтому не следует проводить сопоставление успешности по диагностическим методикам с производственной эффективностью в целом. Необходимо найти такой критерий, который по характеру выполняемых операций соотносим с методикой.

Если относительно внешнего критерия неизвестно, релевантен он измеряемому свойству или нет, то сопоставление с ним результатов психодиагностической методики становится практически бесполезным. Оно не позволяет прийти к каким-либо выводам, которые могли бы дать оценку валидности методики.

Требования свободы от помех вызываются тем, что, например, учебная или производственная успешность зависит от двух переменных: от самого человека, его индивидуальных особенностей, измеряемых методиками, и от ситуации, условий учебы, труда, которые могут привнести помехи, «загрязнить» применяемый критерий. Чтобы в какой-то мере избежать этого, следует отбирать для исследования такие группы людей, которые находятся в более или менее одинаковых условиях. Можно использовать и другой метод. Он состоит в корректировке влияния помех. Эта корректировка носит обычно статистический характер. Так, например, производительность следует брать не по абсолютным значениям, а в отношении к средней производительности рабочих, работающих в аналогичных условиях

Когда говорят, что критерий должен иметь статистически достоверную надежность, это означает, что он должен отражать постоянство и устойчивость исследуемой функции.

Поиски адекватного и легко выявляемого критерия относятся к очень важным и сложным задачам валидизации. В западной тестологии много методик дисквалифицировано только потому, что не удалось найти подходящего критерия для их проверки. Например, у большей части анкет данные по их валидности сомнительны, так как трудно найти адекватный внешний критерий, отвечающий тому, что они измеряют.

Оценка валидности методик может носить количественный и качественный характер.

Для вычисления количественного показателя - коэффициента валидности - сопоставляются результаты, полученные при применении диагностической методики, с данными, полученными по внешнему критерию, тех же лиц. Используются разные виды линейной корреляции (по Спирмену, по Пирсону).

Сколько испытуемых необходимо для расчета валидности?

Практика показала, что их не должно быть меньше 50, однако лучше всего более 200. Часто возникает вопрос, какой должна быть величина коэффициента валидности, чтобы она считалась приемлемой? В общем отмечается, что достаточно того, чтобы коэффициент валидности был статистически значим. Низким признается коэффициент валидности порядка 0,20-0,30, средним - 0,30-0,50 и высоким - свыше 0,60.

Но, как подчеркивают А. Анастази, К. М. Гуревич и др., не всегда для вычисления коэффициента валидности правомерно использовать линейную корреляцию. Этот прием оправдан лишь тогда, когда доказано, что успех в какой-то деятельности прямо пропорционален успеху в выполнении диагностической пробы. Позиция зарубежных тестологов, особенно тех, кто занимается профпригодностью и профотбором, чаще всего сводится к безоговорочному признанию того, что для профессии больше подойдет тот, кто больше выполнил заданий в тесте. Но может быть и так, что для успеха в деятельности нужно обладать свойством на уровне 40 % решения теста. Дальнейший успех в тесте уже не имеет никакого значения для профессии. Наглядный пример из монографии К. М. Гуревича: почтальон должен уметь читать, но читает ли он с обычной скоростью или с очень большой скоростью - это уже не имеет профессионального значения. При таком соотношении показателей методики и внешнего критерия наиболее адекватным способом установления валидности может быть критерий различий.

Возможен и другой случай: более высокий уровень свойства, чем это требует профессия, служит помехой профессиональному успеху. Так, еще на заре XX в. американский исследователь Ф. Тейлор нашел, что наиболее развитые работницы производства имеют невысокую производительность труда. То есть высокий уровень их умственного развития мешал им высокопроизводительно трудиться. В этом случае для вычисления коэффициента валидности более подошел бы дисперсионный анализ или вычисление корреляционных отношений.

Как показал опыт работы зарубежных тестологов, ни одна статистическая процедура не в состоянии полностью отразить многообразие индивидуальных оценок. Поэтому часто для доказательства валидности методик используют другую модель - клинические оценки. Это не что иное, как качественное описание сущности изучаемого свойства. В этом случае речь идет об использовании приемов, не опирающихся на статистическую обработку.

7. Понятия надёжности, валидности, достоверности теста по А.Г. Шмелёву .

Свойства теста

Какие другие важные следствия мы можем вывести из метафоры "тест - оружие"? Эта метафора позволяет нам точнее и глубже осознать ряд инструментальных требований к тестам, которым тесты должны соответствовать, а также нормативы применения тестов. Я вовсе не собираюсь здесь перечислять все психометрические свойства тестов, но все-таки некоторые наиболее важные стоит упомянуть - хотя бы не строго, хотя бы чисто метафорически.

1) Надежность теста . Может ли быть надежным оружие, изготовленное в кустарной полуподвальной мастерской, как говорится, "на коленках"? Это оружие будет стрелять куда попало - иногда в цель, но чаще вбок, а иной раз может и просто разорваться в руках стреляющего. Тут уместно напомнить следующее: надежные тесты не создаются в крошечных лабораториях (и тем более за письменным столом автором-одиночкой). Надежность теста не только проверяется на репрезентативной (массовой) выборке, но просто не вырабатывается без обширной статистики. Репрезентативная выборка для стандартизации теста - это своеобразный полигон для обстрела нового оружия. Только после таких полевых испытаний конструктор теста может внести целенаправленные ("зрячие") коррективы в первоначальную конструкцию своего оружия. Тем самым уже на примере этого одного свойства теста - надежности - мы видим, что? нам дает в этом контексте метафора "тест -оружие". Плохое оружие не усиливает, а, наоборот, ослабляет пользователя, подвергает его риску. Но разве можно судить о качестве оружия вообще по образцам кустарного оружия? Плохими являются не тесты вообще, а ненадежные тесты.

2) Валидность теста . Напомним, что это мера пригодности теста целям психодиагностики, мера соответствия измеряемому свойству. Куда будет стрелять оружие? Это зависит не только от надежности самого теста, но и от пользователя. Ненадежный тест не может быть валидным. Эту аксиому теории измерения в данном контексте легко понять: если вы не попадаете с пяти шагов в силуэт, то о какой валидности, о каком соответствии теста измеряемому свойству может идти речь, ведь вы же можете попасть с помощью такого "теста" не во врага, а в "своего" - того, кто рядом стоит, то есть "цепляете" с помощью теста не целевое, а иное психическое свойство. Но если сам стрелок слепой, если он - дальтоник, который не различает цвета мундиров, в которые одеты свои и чужие, если он к тому же паникер, то будет в панике палить даже из надежного стрелкового оружия и по своим, и по чужим. Таким образом, мы легко формулируем важное следствие: тест не может быть валидным в руках непрофессионала. Вот вам и еще одна аксиома тестологии, которую, увы, так трудно бывает объяснить не только массовой аудитории, но и самим психологам, ибо при словах "надежность" и "валидность" в их сознании вплывают страшные и непонятные психометрические формулы. Поэтому эти понятия кажутся им скорее математическими, чем психологическими, то есть чуждыми их "гуманитарному интеллекту".

Опять же вернемся в этом контексте к критике тестов. Можно ли судить о тесте и тем более тестах вообще, если даже вполне качественное фабричноеоружие передано в руки новобранцев-паникеров, которые то стреляют из пушки по воробьям (например, применяют тяжелую батарею IQ вроде теста Векслера для диагностики дефицита внимания), то бросаются с пистолетиком тщетно обстреливать бронированный танк (пытаются понять природу и содержательный смысл внутреннего конфликта по цветовым предпочтениям в тестике Люшера, пригодного, по моему убеждению, лишь для грубой оценки фона настроения). Любому мало-мальски сведущему в военном деле человеку как дважды два понятно: нет универсального оружия и в разных условиях боя надо применять разное. Но психика человека - более тонкая, невидимая стороннему взгляду реальность, чем поле боя. И вот мы путаем все на свете: вялую позиционную перестрелку, активную артподготовку и яростную штыковую атаку в полный рост, когда пора доставать из-за пояса гранаты. Когда вы проводите какую-нибудь очень краткую пробу из нескольких заданий (несколько спрятанных фигур из теста Готтшальда, несколько чернильных пятен Роршаха), то следует все-таки отдавать себе отчет в том, что вы с такой же вероятностью наткнетесь на диагностически ценную информацию, с какой можно поразить стальной ДОТ с помощью легкой пехотной гранаты. Результата скорее всего не будет никакого! Только следует ли после этого делать вывод о том, что все тесты неэффективны? Я бы сказал, что многие одиночные психологические тестики - это очень слабое оружие против хорошо замаскированных укреплений, против глубокоэшелонированной обороны многоэтажной человеческой психики, которая нарабатывает ко времени социальной зрелости многие слои из весьма изощренных механизмов психологической защиты. Тут мы подходим к проблеме достоверности - проблеме соотношения сознательных и неосознаваемых механизмов психологической защиты от тестирования. Р. Кэттелл назвал это в свое время проблемой мотивационных искажений. Звучит красиво, хотя речь идет о некрасивых вещах - о более или менее осознаваемой лжи.

3) Достоверность . Это проблема фальсификаций. Сформулируем в этом контексте такой несколько парадоксальный профессионально-этический норматив: "Испытуемый имеет право на ложь". В самом деле, если тест - это оружие проникновения в человеческую психику, то испытуемый имеет право на самозащиту - на то, чтобы сопротивляться этому проникновению. В конце концов, можно оправдать испытуемого, сумевшего скрыть свои проблемы, свои дефекты, мобилизовавшись на социально-желательное выполнение теста: таким способом он проявляет в момент тестирования силу своих компенсаторных механизмов, умение решать задачки на моральное развитие, умение решать задачки на интеллектуальное развитие и т.п. 5 , хотя, возможно, в повседневной жизни он ведет себя вовсе и не так. Прочность бронированного корпуса его судна, обеспечивающая ему непотопляемость, оказалась сильнее того удара, который психолог нанес из своего оружия. Честь и хвала такому испытуемому. Но этот тезис имеет и такое важное следствие: положительные результаты тестирования имеют меньшую ценность, меньшую предсказательную силу, чем негативные результаты.

Таким образом, если мы, наконец, разберемся в базисных представлениях о сущности теста, мы научимся адекватным образом его применять в социальной практике. До тех пор, пока мы неверно трактуем сущность теста, не видим адекватным образом ограничений в практике его использования, мы совершаем серьезные ошибки. Нужно ли запрещать распространение оружия в обществе, где никто толком не умеет грамотно им пользоваться? По-видимому, все-таки разумнее не запрещать вовсе, а разумно ограничить более узким кругом подготовленных аттестованных пользователей! И предоставлять им следует только сертифицированные инструменты, а не какие попало. Если горе-строители возводят многоэтажные здания на болотах или зыбучих песках без закладки прочного фундамента, т. е. нарушают все правила технологии безопасного строительства, то таким образом здание не следует строить вообще; это не значит, что следует запретить и архитектурные институты, и все заводы по производству стройматериалов, и сами строительные организации. Если кто-то использует определенные медицинские препараты не по назначению, превращая их в наркотики, то это не значит, что следует запретить фармацевтическую промышленность, хотя строгость в контроле за распространением опасных медицинских препаратов повысить, конечно, придется.

Тесты и экспертные оценки

По моему убеждению, стандартизованные тесты не дают основания для окончательного положительного диагноза (т. е. диагноза о пригодности к определенной деятельности), для этого они должны быть дополнены экспертными оценками (или другими менее стандартизованными диагностическими процедурами, включающими экспертные оценки в той или иной мере, как это, например, происходит в проективных методиках).

Таким образом, позитивный исход тестового испытания выступает логически необходимым, но не достаточным условием для окончательного позитивного заключения. Поскольку мне как тестологу, увы, хорошо известно, что с элементарной логикой у наших сограждан порой возникают серьезные проблемы 5 , схематизируем сказанное в виде следующей таблички:

Поясним это на содержательном примере. Вначале возьмем самый тривиальный случай, далекий от психологии - уже упомянутый экзамен на знание правил дорожного движения. Если кандидат сдал тест по правилам, то ему еще нельзя выдавать права - он должен пройти после этого менее формализованный экзамен на практическое вождение. Если же кандидат провалил тест, то он не допускается до следующего испытания. В этом контексте самое время также сделать и такую оговорку: отрицательный результат тестирования - не приговор. Всем понятно, что правила можно выучить, прийти снова и пересдать экзамен.

Возьмем теперь менее очевидную (не оформленную пока нормативно) процедуру тестирования кандидата при приеме на работу на предмет уровня так называемой "корпоративной лояльности". Предположим, что испытуемому при этом предъявляется совершенно примитивный тест-опросник, содержащий лобовые вопросы типа "Вам никогда не доводилось обманывать учителей при сдаче экзаменов в школе?". Как мы говорили выше, испытуемый в этом случае использует свое право на фальсификацию и отвечает "Верно, не доводилось". И какой вывод в данном случае мы сделаем? Никакой! Но если испытуемый вдруг сам в порыве откровенности отвечает "Неверно, доводилось", то по крайнем мере насторожиться следует.

В еще большей степени этот принцип относится к базовым тестам на элементарные профессиональные знания. Если кандидат в бухгалтеры не может ответить на вопрос конкурсного тест-опросника о том, что такое "план счетов", то следует ли дальше заниматься с этим кандидатом? Следует ли тратить дорогое время квалифицированных экспертов на детальное интервьюирование подобного кандидата? Конечно, нет 6 .

Таким образом, я предлагаю буквально везде, во всех отраслях практики использовать тест как первичный дешевый и формализованный фильтр, предшествующий применению более сложных и дорогих экспертных процедур. В какой-то мере подобной логикой руководствуются в настоящее время специалисты по оценке персонала, которые применяют технологию "Ассессмент-центр".

Таким образом, приведенную выше табличку следует изменить таким образом:

	Позитивный исход экспертной оценки	Негативный исход экспертной оценки
Позитивный исход теста	Вывод о пригодности	Вывод о непригодности
Негативный исход теста	Вывод о непригодности	Вывод о непригодности

Как видим, для позитивного общего заключения требуется конъюнкция (логическое "И") двух независимых событий - позитивного тестового исхода и позитивного исхода экспертной оценки. Отсутствие хотя бы одного из позитивных исходов не дает возможности делать общий позитивный вывод.

Качество такой двухфильтровой системы отбора в любом случае выше, чем любой однофильтровой - основанной только на экспертных оценках или только на тестах. А разговоры о том, что в нашей стране результаты тестирования очень легко купить (увы, такие разговоры часто затевались, например, на дискуссионном форуме портала ЕГЭ ege.edu.ru), носят либо сознательно-демагогический характер, либо опять-таки выявляют дефект логического мышления. Там, где можно купить результаты тестирования, как правило, можно купить и результаты экспертной оценки, и нужно еще специально изучать, какой из фильтров по факту является менее продажным. Если даже при широком распространении теста происходит утечка ключей, негативный исход тестирования продолжает сохранять свою ценность, но особенно важно, чтобы после позитивного исхода в дело вступали неподкупные эксперты. Если мы связываем результаты двух процедур логическим "И", то числовые результаты теста и экспертной оценки правильнее не суммировать, но умножать, то есть агрегировать не аддитивно, а мультипликативно:

где T - результат теста, Е - результат экспертной оценки, О - общая оценка. Если любой из сомножителей принимает нулевое значение (оказывается ниже минимального порога), то общий результат оказывается нулевым независимо от значения второго сомножителя. При ненулевых значениях и того, и другого компонентов формулы максимальный результат достигается в том случае, если значения Т и Е близки друг к другу. ?! Откуда это следует? И при чем тут сумма? Такой подход несколько нивелирует эффект завышения одного показатели вследствие его "покупки".

Похожая информация.

Валидность исследования была определена Куком (Cook) и Кэмпбеллом (Campbell) в 1979 году как наилучшая из имеющихся апроксимаций истинных высказываний, включая высказывания затрагивающие причинно-следственные связи. Данное определение относится к установлению точности выводов исследования и подчеркивает относительный характер истины, которой возможно достичь в социальных науках. В любом научном исследовании исследователь должен уметь ответить на следующие вопросы:

1) существует ли зависимость между двумя переменными;

2) носит ли эта зависимость причинный характер;

3) является ли данная зависимость значимой;

4) действительно ли процедуры измерения и наблюдения относятся к исследуемым конструктам;

5) могут ли быть обобщены причинные зависимости, выявленные в ходе исследования.

Выделим следующие типы валидности, относящиеся к этим вопросам.

1. Валидность статистических выводов

Этот тип валидности соответствует проверке статистической значимости зависимости между двумя переменными. Такие выводы всегда являются вероятностными. Действительно, можно совершить два типа ошибок: решить, что зависимость является значимой, в то время, когда это не так, или решить, что значимая зависимость между переменными отсутствует, когда, напротив, она имеется.

Существуют некоторые факторы, которые могут снижать валидность статистических выводов:

1) слабая чувствительность исследований, которая проявляется при недостаточной по численности выборке или при большой изменчивости в сравниваемых группах, то есть испытуемые являются слишком разными и сильно отличаются друг от друга относительно некоторых переменных;

2) низкая надежность методик измерения или процедур манипулирования переменными, которые используются в исследовании;

3) факторы помех, присутствующие в условиях эксперимента;

4) нарушение принятых правил проведения и обработки, которые установлены для различных статистических методов.

Стратегия повышения валидности статистических выводов состоит в уменьшении вариативности ошибки путем применения, например, схемы исследования с повторными пробами или использования однородных групп. Статистическая состоятельность исследования может диагностироваться как на стадии проектирования исследования (например, проверка расчета величины выборки), так и после исследования для оценки его результатов.

2. Внутренняя валидность

Внутренняя валидность – один из самых важных типов валидности, который действительно касается отношений между зависимыми и независимыми переменными. Эта валидность связана с особым процедурами, которые позволяют определить, насколько выводы, сделанные в данном исследовании, достоверны. После того, как установлено существование зависимости между переменной X и переменной Y, необходимо решить, какая из переменных является причиной, а какая следствием, то есть определить направление данной взаимосвязи. Если Y наблюдается после X, то можно сказать, что X является причиной Y.

Однако может оказаться, что отношение зависимости между X и Y вызвано третьей переменной С. Для установления внутренней валидности необходимо рассмотреть все возможности влияния третьей переменной С на переменные X и Y и исключить их. Считается, что исследование обладает внутренней валидностью, если доказано, что существует зависимость причинно-следственного типа между зависимыми и независимыми переменными.

Причины снижения внутренней валидности исследования:

1. Смешение переменных. Это одна из наибольших опасностей для валидности эксперимента. Если в ходе эксперимента какой-либо случайный фактор (неэкспериментальная переменная) взаимодействует с зависимой переменной и это взаимодействие не может быть измерено отдельно от взаимодействия зависимой и независимой переменных, то влияние случайной и независимой переменных неразличимо. Проблема смешения переменных является особенно острой в тех исследованиях, где экспериментатор не может контролировать независимую переменную.

2. Изменения, связанные с испытуемыми. При проверке зависимых переменных изменения, произошедшие между двумя моментами наблюдения, могут быть вызваны не независимыми переменными, а изменениями, произошедшими с самими испытуемыми (например, событиями личной жизни, изменением тех или иных свойств личности и т. д.), то есть факторами "зрелости" и "истории".

Под "зрелостью" понимаются изменения, которые произошли с испытуемым между моментом пред-теста и моментом пост-теста и которые не были связаны с влиянием независимых переменных. Например, в экспериментах по моторной координации у испытуемых может наблюдаться ее улучшение за счет тренировок в период между экспериментами. Данное влияние нельзя смешивать с влиянием независимой переменной. Под фактором "истории" подразумеваются события, которые произошли с испытуемыми и которые повлияли на результаты эксперимента.

3. Влияние пред-теста. Пред-тест вызывает изменения испытуемых, и, следовательно, результаты эксперимента в некоторых случаях могут в основном зависеть от пред-теста, а не от зависимой переменной.

4. Изменение навыков исследователя. Например, исследователь, спустя некоторое время, может стать более опытным в наблюдениях и, следовательно, по-другому интерпретировать поведение испытуемых. Кроме того, на исследователя могут влиять такие факторы, как усталость, что может привести к ошибкам в экспериментах.

5. Регрессия к среднему. Это явление наблюдается тогда, когда индивиды подвергаются повторным испытаниям относительно одной и той же переменной. Установлено, что если испытуемые получили в первом испытании результаты, по величине близкие к высшим показателям шкалы, то при повторном эксперименте их результаты снижаются и становятся ближе к средним показателям, в то время как испытуемые, которые получили в первом испытании результаты, близкие к низшим, при повторном измерении достигают лучших показателей. Регрессия к среднему наблюдается также в случае ошибок, связанных с изменением переменной.

6. Отсев. Известно, что в ходе исследования некоторые испытуемые покидают группу. Оставшиеся испытуемые, естественно, отличаются от выбывших.

Предположим, что исследуется два метода модификации поведения для контроля за весом тела. Группе 1 предписана диета. Кроме того, испытуемые первой группы должны ежедневно записывать в дневник все, что они едят, точно взвешивать все блюда и подсчитывать калорийность пищи. Группе 2 была просто предписана диета. Очевидно, что некоторые испытуемые группы с более обременительным заданием выйдут из эксперимента. В конце эксперимента процент испытуемых с высокой мотивацией в этой группе будет больше. У испытуемых с более высокой мотивацией больше вероятность похудения. Поэтому исследователь может прийти к ошибочному выводу о том, что условия в первой группе более эффективны для похудения.

Некоторые авторы говорят также о конструктной валидности . Конструктная валидность подобна внутренней валидности и подразумевает соответствие между полученными результатами и теорией, которая лежит в основе исследования. Для того, чтобы оценить конструктную валидность, необходимо исключить другие возможные теоретические объяснения результатов. Если есть сомнения в том, насколько экспериментальные результаты соотносятся с теоретическими, необходимо спланировать новый эксперимент, который позволит выбрать одно из нескольких теоретических объяснений результатов. Этот тип валидности наиболее трудно получить, потому что имеются многочисленные теории, с помощью которых можно объяснить соотношение переменных, полученное в эксперименте.

Рассмотрим две причины снижения конструктной валидности. Первая – слабая связь между теорией и экспериментом. Действительно, во многих психологических исследованиях даются нечеткие операционные определения теоретических понятий. Вторая причина определяется, во‑первых, тем, что испытуемые очень часто начинают играть роль "хорошего" объекта исследования и ведут себя таким образом, чтобы доставить удовольствие экспериментатору, и во-вторых, тем, что у испытуемых, особенно в экспериментах, замеряющих их умственные способности или эмоциональную стабильность, развивается высокая тревожность относительно ожидаемой оценки.

3. Валидность процедур

Третий тип валидности – это валидность процедур, которые позволяют варьировать и измерять переменные. Даже необходимость определить в операциональных терминах концептуальные переменные, значимые для исследования, уже является источником риска. Действительно, "перевод" понятия на уровень конкретных операций может неадекватно отразить теоретические положения исследования.

Часто исследователь неосознанно стимулирует ответ, который он ожидает получить. Избежать этого можно, используя стратегии невмешательства в исследования и соответствующие методы измерения. При этом испытуемые не должны знать, что за ними наблюдают, что позволяет снять нежелательную мотивировку по отношению к эксперименту.

4. Внешняя валидность

Под внешней валидностью понимается возможность обобщать результаты исследования, то есть распространять выводы, полученные на экспериментальной выборке, на всю генеральную совокупность. Внешняя валидность существенно зависит от способа формирования выборки. Существует три основных типа выборки:

1. Случайная выборка. Например, результаты исследования группы подростков, сформированной случайным способом, будут справедливы с некоторой степенью вероятности для всех итальянских подростков. Однако такое исследование может оказаться очень сложным и дорогостоящим, так как выборка должна быть многочисленной и однородной.

2. Гетерогенная (неоднородная) выборка. В соответствии с целями исследования выделяются различные группы населения, на которых предполагается получить результаты исследования. Затем анализируется случайная выборка с тем, чтобы убедиться, что она содержит достаточное количество представителей каждой группы.

3. Выборка типичного случая. Например, дается определение среднего молодого итальянца. Для исследования используется выборка, состоящая из индивидов, удовлетворяющих этому определению. Тогда, если проводится эксперимент со студентами университета, например, на способность к ведению переговоров, то нельзя рассчитывать на то, что полученные выводы будут применимы для глав государств.

Внешнюю валидность снижает также несоответствие между явлениями, наблюдаемыми в лаборатории, и явлениями в естественных условиях. Трудно определить, имеет ли место выявленная зависимость только в лаборатории или она наблюдается и вне лаборатории. Внешняя валидность обеспечивается неоднократным проведением эксперимента в гетерогенных условиях.

Необходимо решить, какой тип валидности является главным для данного исследования. Действительно, процедуры, используемые для повышения одного типа валидности, могут снижать другие типы валидности.

Например, для повышения валидности статистических выводов исследователь должен использовать максимально разнородные объекты, снижая таким образом возможность ошибки. При этом внешняя валидность уменьшается.

Тип приоритетной валидности зависит от типа проводимого исследования. Например, если в экспериментальном исследовании устанавливается причинно-следственная зависимость между переменными, то в этом случае внутренняя валидность является основной. Напротив, при вычислении корреляционных связей между переменными невозможно установить направление причинно-следственных отношений, поэтому в данном случае внутренняя валидность не представляет интереса по сравнению с другими типами валидности.

С понятием валидности связано понятие контроля . Под контролем понимается любое средство, используемое для исключения возможности снижения валидности исследования. На практике исследователь проверяет, какие факторы могут снизить валидность исследования и какие методы могут быть использованы для нейтрализации этих факторов.

Различают шесть основных методов контроля.

1. Одним из наиболее часто используемых методов контроля является проведение эксперимента с группой испытуемых, которые не подвержены влиянию исследуемой переменной и которые сравниваются с испытуемыми, подверженными этому влиянию. Например, исследуется две группы относительно независимой переменной. Группа 1 получает воздействие и называется экспериментальной. Группа 2 не получает воздействия и называется контрольной. Результаты экспериментальной группы сравниваются с результатами контрольной группы. Если две группы были одинаковыми до экспериментального воздействия, то любое различие между ними, зафиксированное после эксперимента, может быть отнесено за счет этого воздействия.

Разнородность массива обеспечивается участием нескольких десятков респондентов, что уже дает основания для приблизительного распределения однотипных ответов по трехчленной или пятичленной шкале: явное меньшинство, меньшинство, примерно поровну, большинство, явное большинство. Главное, однако, состоит не в этом. Специфика массива первичных данных групповых интервью состоит в том, что:

а) должны быть известны заранее, т.е. до проведения опроса;

б) не должны быть навязываемой респонденту фикцией или псевдосуждениями, не свойственными его сознанию.

В моей почте накопилось достаточно вопросов, где есть просьбы дать совет как обеспечить достоверность и валидность качественного исследования. Когда в 90-х гг. мы начинали регулярные полевые исследования с применением качественного подхода, сама постановка вопроса об их валидности и достоверности была неожиданной, т.к. эти понятия использовались в основном для количественных исследований.

В широком смысле и чаще всего, под валидностью понимают степень соответствиивсего того, что исследователь делает, изучая свой предмет,тому,что с этим предметом (явлением) происходит в действительности. В количественных исследованиях это обозначает правильность измерения (конструктная валидность) и внятность логических связок между причинами и следствиями (внешняя и внутренняя валидность).

Тем, кто связал в своем вопросе валидность и достоверность, возможно, будет интересно познакомиться со взглядами известных методологов качественного подхода, например, Линкольна, Губы или Паттона, которые трактовали валидность в качественных исследованиях именно как достоверность.Правда, отождествить полностью валидность и достоверность не получается из- за разных подходов авторовк пониманию достоверности. Например, к внутренней валидности еще как-томожно отнести конвенциальную достоверность, как результатконвенции разных исследователейотносительно соответствия выбранных имиметодовцелям и задачам исследования илиобщее согласие с операционализациейосновных понятий и с интерпретацией смысла полученных данных.

Другой подход обеспечения достоверностиуже претендует на объективность, т.к.требует подтверждения результатов исследования сведениями, полученными из разных источников, включая документы, статистику или «свидетельства независимых экспертов».Особое место в вопросе о достоверности качественных исследований занимает необходимость тщательного обоснованияпереноса моделей соц. механизмов и выводов на более широкийсоциальный контекст.

Разберем вопрос о валидности и достоверности на примере, который как-топрижился в нашей «школе-студии полевого исследователя» .

Пример .

Перед исследовательской группой поставлена задача, изучить случай жестокого обращения персонала детского дома с подопечными, понять причины и дать, по возможности,прогноз о вероятности распространенияэтого негативного явления в других заведениях. Для исследователей эта тема новая, только у одного из них был опыт участия в исследовании причин «дедовщины» в армии. Срок исследования – 2 месяца. Группа выбирает качественный метод исследования – интервью и наблюдение, т.к. знания предмета исследования и продуктивных гипотез, годных для проверки в анкетном опросе практически нет.

Посмотримна исследовательский процесс с т.з обеспечения достоверности результатов и их соответствия «реальности»как картину развертывания симптомов «невалидности» и «недостоверности» качественного исследования.Понимание того, что считать невалидностью и недостоверностью в исследовании, должно помочь пониманию того, что делает результаты исследования достовернымии валидными.

Симптом 1.

Первое, что может с самого начала создать проблемы с валидностью и достоверностью– это отсутствие конвенции в исследовательской группе относительно терминов и понятий, их операционализации, теоретических рамокпониманиясоциальных механизмов жестокости, факторов ее возникновения, представлений об институциональном устройстве детского дома, вопросов выборкии проч.Обычно, это проблема неумения или нежелания заняться методической рефлексией своих представлений по теме исследования до выхода в «поле».

Чтобы ни говорили сторонники идти в поле без гипотез, «с чистого листа», невозможно представить полное отсутствие у них обыденных и научных представлении об этом явлении. Особенно умиляет, когда они предъявляют до выхода в поле гайд. Представьте себе список вопросов,за которыми не стоят никакие предположения об изучаемом феномене. Откуда тогда в гайде вопросы о контроле работы персонала, о материальном обеспечении заведения илио контингенте воспитанников?

Это значит, что мы видим первый симптомразвития «недостоверности».Получается, что не вникнув с суть проблемы,исследователи кидаются в поле, не имея достаточного научного и исследовательского багажа по данной проблематике. Они не согласовали ключевые исследовательские вопросыи первичные гипотезы, не построили модели выборки, чтобы избежать «ложного снежного кома». Онине отработали навыки ведения интервью, наблюдения, фиксирования вопросов с учетом специфики объекта и т.п.

Чаще всего этот симптом проявляется в затруднениях исследователя объяснить, зачем он задает эти вопросы, и что будет делать с ответами, почему решил опросить именно этих респондентов, а не других.Если бы время полевого этапа было не ограниченопарой недель, то можно было бы использовать антропологический метод «вживания», т.е. постепенное неторопливое знакомство с объектом исследования.Систематические наблюдения, многократные интервью, случайные беседы,полевые дневники помогли бы выстроить гипотезы, подобрать адекватные инструменты исследования, задуматься над теорией, наметить выборкуи проч.

Но т.к. для этого времени нет, то в результате мы видим, что исследователь сочиняет вопросник как список похода в супермаркет«что бы еще не забыть спросить, вдруг пригодится». Причем, каждый член группы, не смотря на наличие «общего гида», часто задает свои собственные вопросы, называя все это глубинным интервью.Выборка, в этом случае,это случайные «захваты» респондентапо принципу «кого найдем – кто согласилсяотвечать». В результате высокийриск появления «ложных снежных комьев» и «ложной насыщенности», когда в конце исследования выясняется, что опросили не тех, кто нужен или упущены ключевые респонденты по данной теме.Например, много интервью с воспитанниками и администрацией, но отсутствует мнение членов опекунского совета, следователя, проводившего расследование,представителей органов соц. защиты – кураторов заведения и т.п.

Первую проблему Паттон (Patton) называетпроблемой методической строгости(rigorous methods).В нашем случае - это прозрачностьлогики использования методов исследования, соблюдение правил применения и общих принципов выбранного метода в соответствии с ресурсами времени, целями и задачами исследования.

А вторая проблема – это проблеманаличия необходимого знания, навыков, умения, опыта, продуктивности самого исследователя.Паттон наличие такого «бэкграунда» точно обозначил как «достоверностьсамого исследователя» (credibility of the researcher). Это очень важно для понимания специфики понятия достоверность в качественных исследованиях, т.к. дает ответ на вопрос, на основании чего мы должны доверять субъективности исследователя;

Симптом2

Предположим, что все трудности полевого этапа преодолены. Исследователи опросили всех «игроков на этом поле» , согласно своей модели (например, такой какнаша «восьмиоконная выборка»). Они опросили экспертов по насилию детей, администрацию дет.дома, воспитателей, опекунов, самих воспитанников, представителей правопорядка и т.п.В результате стал понятен социальный механизм, который привел к данному случаю. Основные факторы: слабый контроль надзирающих органов за воспитательной работой персонала, нарушения в отборе воспитателей, сокращение бюджета на содержание воспитанников, закрытость заведения от общественности, отсутствие возможности для изоляции (перевода) воспитанников с девиантным (отклоняющимся) поведением, вследствие психосоматических нарушений.

Можно ли доверять этим результатам? Ответ отрицательный.Т.к. согласно К. Попперу теория не фальсифицирована.Нужны доказательства, что именно эти факторы связаны с случаем жестокости.Как их добыть? Очевидно, нам придется отправиться в детдом, где не было подобных случаев и убедиться, что там отсутствуют выделенные нами факторы.Если они не обнаружатся или будут проявляться в значительно меньшей степени, то уровень конвенциальной достоверности к результатам значительно возрастет. Кстати, Максвеллназывал такое установление взаимосвязи между используемыми понятиями «теоретической валидностью».

Симтом 3.

Установлениеустойчивой взаимосвязи между указанными факторами, обнаруженная в двух случаях является важным шагом для обеспечения достоверности всего исследования, но недостаточным для распространения на другие объекты. Мы можем считать, что у нас появилась теория среднего уровня, но надо ее проверить другими методами. В идеале это должна быть методическая триангуляция с применением количественно –качественного подхода. Например, анализ статистики по уголовным делам по сходным случаям, анализ тематический статей в СМИ и Интернете,изучение специальной литературы, экспертный опрос.В общем, мы должны достигнуть подтверждения своих результатов данными из других источников, т.е. «confirmability» и возможности переноса данной объяснительной модели на другие объекты (transferability) по Губе и Линкольну.

Симптом 4.

Предположим, что анализ вторичных данных и экспертное мнение подтвердило наши выводы относительно данного случая, но одной из задач исследования является прогноз на вероятность возникновения новых случаев в различных регионах РФ.Дать такой прогноз – это подвергнуть свою «теорию» наиболее жесткой проверки на достоверность.

Для этого мы отправляемся к чиновникам из министерства посоц. политике, финансов и проч. центральных гос. учреждений курирующих дет. дома и спрашиваем их не на предмет «случаев жестокости», а об изменениях в планируемом бюджете, контроле, решением кадровых вопросов, т.е. по тем факторам, которые мы выявили. Если узнаем, что по факту все останется на прежнем уровне, то идем к экспертам, способным прокомментировать данную ситуацию и дать свой прогноз на ее развитие.Экспертами могут выступать не только гос.служащие, но и представители НКО, журналисты, которые компетентны в данной теме.

Соединяя эти данные, мы делаем прогноз, который может претендовать на достоверность исследования.В случае, если прогноз подтвердится, это можно считать важным свидетельством валидности исследовательских процедур и достоверности полученных данных и выводов. В случае, когда прогноз не подтвердился совсемили частично, то следует пересмотреть свои подходы иимеющиеся модели.

1) Однако бывает так, что методически все выполнено «строго»и «достоверность исследователей»достаточна для решения данных задач, но появились новые обстоятельства, новые факторы, которых не было в период проведения исследования или на тот момент они были малозначимы.Этоважновыяснить, не только для оценки продуктивности исследования, но и для того, чтобы, какписалПаттон, неутратить«philosophical belief in the value of qualitative inquiry». Убежденность исследователя в правильности методологических позиций качественного подхода в исследованиях, егополное принятие теоретических парадигм, на которых базируются эти методы, по мнению Паттона, также является условием достоверности качественного исследования.

01.04.2024

Алгебра

Самое интересное:

Бронепоезда в боях за Царицын

Реферат История образования

"Прогулка по волшебному лесу" план-конспект урока по чтению (4 класс) на тему