Специалисты приходят в эту область из самых разных социальных дисциплин. Широко представлены экономисты. Вносят свой вклад специалисты в области исследований операций и других сфер «научного управления». В работе участвуют статистики, социологи, психологи, специалисты в области политических наук, исследователи в сфере социального обслуживания, педагогики. То, что их работы и рекомендации, в конечном счете, сходны, свидетельствует о стремительном становлении новой самостоятельной дисциплины, которая, отделившись от своих столь различных «родителей», может вскоре обрести свою собственную индивидуальность.
Поскольку сам я пришел в эту область из социальной психологии, я, хотя и рассматриваю то, над чем работаю сейчас, скорее как «прикладную социальную
319
науку», нежели как собственно социальную психологию, испытываю тем не менее потребность прокомментировать тот особый вклад, который может внести социальная психология в рассматриваемую область. Во-первых, из всех дисциплин, связанных с интересующей нас сферой исследований, одна лишь психология характеризуется ориентацией на лабораторный эксперимент, и именно социальные психологи располагают наибольшим опытом распространения лабораторных экспериментальных моделей на социальные ситуации. С тех пор как для уменьшения неопределенности того, «что чем вызвано», в исследованиях по оцениванию программ появляется модель экспериментальной науки (см. основополагающую работу Шухмана [87]), это наиболее значительный вклад, как в отношении общей ориентации, так и в отношении специфических умений.
Во-вторых, психологи лучше всего подготовлены к работе с критическими и аналитическими понятиями в области измерений. Психология благодаря давней традиции построения и критического анализа своих собственных мер разработала понятия и математические модели надежности и валидности, в которых очень нуждается практика оценивания программ, даже, несмотря на то, что эти меры, вероятно, все еще непригодны для изучения некоторых специальных психологических проблем. Понятие отклонения, или «погрешности», в то виде, в каком оно разработано старой психофизикой при различении «постоянной ошибки» (bias) и «переменной ошибки» (ненадежности), а также более поздние труды по измерению личностных переменных и установок, включая измерение установок на ответ, галоэффектов, факторов социальной желательности, индексной корреляции, факторных методов и т. д. (Cronbach [33, 34]; Edwards [38]; Jackson, Messick [54]; Campbell, Siegman, Rees [25]; Campbell, Fiske [24]), также очень важны и не находят отражения в понятии валидности, если оно определяется как коэффициент корреляции с некоторым критерием. Конечно, это не является нашей монополией. В самом деле, кто, как не представители качественной социологии, исследует условия, при которых складывает оружие социальная статистика (см., например, Becker et al. [6, 7]; Douglas [37]; Garfinkel [42]; Kitsuse, Cicourel [59]; Beck [5]), от кого, как не
320
от них, исходит необходимый скептицизм по поводу таких мер, как данные о частоте самоубийств и преступлений? Однако даже здесь именно у психологов оказалось достаточно опыта, чтобы различить степени валидности, располагающиеся между полной незначимостью и высшим совершенством, и именно у психологов явилось желание использовать, хотя бы критически, те меры, которые, как они знали, были отчасти ненадежны и ошибочны.
В-третьих, многие методологические проблемы осуществления социальных проектов и измерения их воздействий связаны с изучением социально-психологических аспектов взаимодействия между гражданами и проектами, или между гражданами и способами экспериментального воплощения проектов (рандомизация, контрольные группы), или между гражданами и специальными измерительными процедурами, используемыми при оценивании. Это специальные проблемы формирования социальных установок и их влияния на ответы, явно находящиеся в сфере нашей компетенции.
После этих замечаний о профессиональных сторонах исследований по оценке эффективности программ в США я хотел бы перейти к проблемам, с которыми мы сталкивались до сих пор, и к решениям, которые нами предлагались. Замечу с сожалением, что со времени моей более ранней работы (Campbell [16]) мы ушли не слишком далеко; однако я попытаюсь привести новые иллюстрации.
Последующее изложение сосредоточено, таким образом, на трудностях и проблемах, о которых я считаю необходимым предупредить. Если мы претендуем на то, чтобы быть методологами, мы тем самым намерены быть экспертами по этим проблемам, и, хотелось бы надеяться, теми, кто вырабатывает решения. Не было бы нужды в такой специальности, если бы не существовали эти проблемы. С этой точки зрения не нужно никаких оправданий. Но мне хотелось бы привлечь новых участников в новую профессию и вдохновить их на то, чтобы они посвятили свои усилия делу, которое может принести плоды только с большой отсрочкой. На потенциальных новых участников, а также и на тех, кто уже занялся этим делом вплотную, полный перечень стоящих перед нами трудностей, включая проблему такого
321
использования наших умений, которое у нас самих не вызвало бы сожалений, может подействовать только расхолаживающе. Мы пока не можем предложить полный перечень профессиональных умений, гарантирующих необходимую эффективность. В нескольких случаях успешного осуществления немногих выгодных программ, оцененных однозначно, общество вполне обходится (или могло бы обойтись) без нашей помощи. Мы все еще не можем привести примеров значительных вкладов в общественные нововведения, которыми эти последние были бы обязаны нашим методологическим умениям. Потребность в нашей специальности и конкретные рекомендации, исходящие от нас, все еще должны быть обоснованы скорее обещаниями, чем уже достигнутыми результатами. Наши рекомендации априорны в том смысле, что они представляют собой экстраполяции в новом контексте, не прошедшие, однако, в этом контексте перекрестной валидизации. Что касается меня, то я склонен считать проблему проверки социальных образований реальностью настолько важной, что наши усилия и профессиональные обязанности полностью оправдываются обещанием. Я полагаю, что проблемы неоднозначности свидетельств в пользу эффективности программ настолько близки общим проблемам научного вывода, что указанные экстраполяции в разработке рекомендаций относительно процедур оценивания программ при наличии соответствующей взаимной критики могут быть хорошо обоснованы. Как бы то ни было, исходя отчасти из представления о том, что слишком многочисленные обещания оказываются одним из основных препятствий для осмысленного оценивания программ, я стремлюсь, однако, с двойственных позиций дать честную пессимистическую картину этих проблем.
Второй круг проблем связан с тем, что множество методологических трудностей неизбежно создается взаимодействием различных аспектов политической ситуации, образующих контекст социальных программ и их оценивания.
Именно в сфере методологических проблем, вызванных к жизни политическими соображениями, теряют силу исходные посылки об универсальности наших методологических принципов, едва только мы сопоста-
322
вим практику резко отличающихся друг от друга социальных, экономических и политических систем. Ученым, собирающимся на международные конференции, большей частью удается избежать разобщающих политических вопросов путем концентрации внимания на научных задачах, которые объединяют их как ученых. Когда темой является измерение воздействия, оказываемого запланированными социальными изменениями, мы не можем позволить себе такую роскошь. И все же я не теряю надежды на разработку такой технологии, которая принесет пользу любой политической системе. Я полагаю, что методология оценивания программ будет во многом независима от содержания самой программы. В пользу этого свидетельствует подчеркивание роли специалистов в области социальных наук, когда дело касается их помощи обществу при выявлении эффектов, вызванных происходящими в этом обществе политическими процессами, и преуменьшение роли этих специалистов в разработке новых программ. Возможна ли такая независимость от идеологии, и если да, то, как совместима она с долгом социального ученого способствовать развитию более аутентичного человеческого сознания и созданию более человечных форм общественной жизни, — вот вопросы, которые я пока что не рассматривал должным образом, не говоря уже об их решении.
В последующих разделах я сгруппировал наши проблемы под тремя общими заголовками, однако не очень заботился о том, чтобы строго придерживаться этой рубрикации при обсуждении. Вначале идут специальные вопросы нашего научного сообщества: их следовало бы поставить даже в том случае, если бы ученые, оценивающие программы, стремились лишь к одноплановому оцениванию программ. Это «Метанаучные проблемы» и «Статистические проблемы». Последний раздел включает взаимодействие с общественным контекстом. В разделе «Проблемы политической системы» я обращаюсь к вопросам, которые касаются преимущественно политических процессов и правительственных институтов. Некоторые из этих вопросов являются, вероятно, общими для всех крупных бюрократических обществ, а другие — специфическими для условий США.
323
Метанаучные вопросы
Количественная и качественная методология. Противоположность «качественной» и «количественной» форм знания, geisteswissenschaftlich (науки о духе) и naturwissenschaftlich (науки о природе), «гуманистического» и «сциентистского» подходов характерна сегодня для большинства социальных наук в США. В таких областях, как социология и социальная психология, многие из наших самых талантливых и преданных науке исследователей все больше склоняются к качественному, гуманистическому подходу. В политической науке также существует разделение по этому признаку. Кажется, только экономика и география относительно свободны от этого разделения.
Этот раскол проник, конечно, и в исследования по оценке эффективности, приняв здесь форму спора по поводу законности количественно-экспериментальной парадигмы при оценивании программ (см., например, Weiss, Rein [96, 97]; Guttentag [48, 49, 50]; Campbell [17, 19]). Разумеется, спор по данному вопросу ведется в несколько иных терминах. Критики, занимающие позицию, которую я называю гуманистической, довольно часто сведущи в количественных экспериментальных методах. Их специфические критические замечания нередко хорошо обоснованы именно с позиций экспериментатора: эксперименты, связанные с использованием некоей частной процедуры в каких-то частных условиях, совершенно неопределенны в плане установления того, что чем вызвано; системам измерения свойственна ничем не обоснованная жесткость, ограничивающая регистрируемые выходные данные заранее ожидавшимися параметрами; экспериментальная программа, сосредоточенная на общем эффекте некоего комплексного воздействия, часто игнорирует сам процесс, поэтому знание таких эффектов имеет сомнительное значение для повторного осуществления или улучшения программы; программы широкого масштаба часто бывают безнадежно неопределенны во всем, что касается целей и релевантных индикаторов; изменения программы воздействия в ходе какого-нибудь улучшающего эксперимента, хотя и имеют решающее значение в практическом отношении, делают невозможным истолкование соотношения входа
324
и выхода; осуществление социальных программ часто обеспечивается несостоятельными с точки зрения экспериментальных моделей способами; даже в тщательно контролируемых ситуациях экспериментирование является делом крайне утомительным и неопределенным; экспериментирование — слишком медленный процесс, чтобы быть полезным в политическом плане и т. д. Все эти соображения соответствуют истине и подчас достаточно справедливы для того, чтобы побудить к энергичному поиску альтернатив. Однако предлагавшиеся до сих пор альтернативы качественного знания (см., например, Weiss, Rein, [96, 97]; Guttentag [48, 49, 50]) для меня неубедительны.
Я полагаю, что натуралистическое наблюдение за событиями является, в сущности, неопределенным основанием для каузальных выводов, с помощью каких бы средств — качественных или количественных — такое наблюдение ни проводилось, ибо имеет место смешивание фактора отбора и воздействий. Всякая попытка уменьшить неопределенность будет приводить к тому, что условия будут становиться более «экспериментальными». «Эксперименты» — это фактически и есть особый тип специально разработанных условий наблюдения, оптимальный для каузального вывода. Проблемы вывода, связанные с оцениванием программ, присущи самой природе программ, осуществляемых в ходе социальных процессов. Экспериментальные планы не являются источником этих проблем и фактически облегчают их решение, хотя часто лишь в небольшой степени.
В таких возражениях часто содержится неявный протест против подмены качественного знания косвенными и гипотетическими процессами научного познания. Но хотя я вынужден отвергнуть этот аспект гуманистической критики, существуют иные аспекты, побуждающие к такой критике, к которым я могу всей душой присоединиться. Эти критические положения можно обозначить как «пренебрежение релевантными качественными контекстуальными данными» или «чрезмерная зависимость от небольшого числа квантифицированных абстракций, ведущая к игнорированию противоречащих им и дополняющих их качественных данных».
Под влиянием миссионеров из лагеря логического позитивизма представители количественной социальной
325
науки слишком часто исходят из предположения, что в истинной науке качественное обыденное знание заменяется знанием количественным. В действительности дело обстоит совсем иначе. Скорее, наука зависит от обыденного качественного знания, даже если она в лучшем случае и выходит за его пределы.
Чтобы подвергнуть сомнению обыденное понимание какой-то частности и внести в него поправки, следует доверять обыденному пониманию в целом.
С этим связано также подчеркивание в эпистемологии качественного распознавания целостного образа как исходного по отношению к распознаванию атомарных частиц, могущих быть квантифицированными, в противоположность все еще широко распространенной логической атомистической интуиции (Campbell [13]). Такая эпистемология скорее фаллибилист 1,чем провидец: она делает акцент на предположении о том, что при подобном распознавании образов допускаются ошибки, а не на признании способности восприятия служить надежной основой достоверности. Но она также видит в этом подверженном ошибкам, интуитивном, гипотетическом обыденном восприятии единственный возможный путь. Дело не в том, что перцептивные данные выше всякой критики (Campbell [15]), но они доступны критике лишь благодаря доверию к другим многочисленным перцептивным данным того же гностического уровня.
Если мы применим такую эпистемологию для оценки эффективности программ, это сразу узаконит «описательную» часть большинства отчетов и подскажет, что такая деятельность получает формальное признание в планировании и проведении исследований. Без этих материалов исследования по оценке эффективности недоступны интерпретации и в большинстве своем интерпретировались бы лучше, если бы этих материалов было больше. Тот факт, что содержание их субъективно и грешит ошибками, должен привести нас к более тщательному подбору лиц, привлекаемых для регистрации событий, и к подготовке формализованных процедур, с помощью которых все заинтересованные участ-
______________________________________________________________________________
1 Фаллибилизм (от лат. fallere) — воззрение, основывающееся на утверждении подверженности познания разного рода ошибкам. — Прим. перев.
326
ники могли бы внести дополнения и исправления в официальную версию. Следует предусмотреть использование профессионально подготовленных историков, антропологов и специалистов в области качественной социологии. Без описательной части не обходится ни один заключительный отчет, и для ее подготовки должны использоваться самые совершенные качественные методы.
Следует также осознать, что как участники разработки и внедрения планируемых изменений, так и наблюдатели на протяжении веков не прибегали для оценки их ни к квантификации, ни к научному методу. Наши научные данные должны основываться на обыденном знании, научное знание должно превзойти, но не заменить обыденное знание. Однако при количественных оцениваниях это обстоятельство обычно игнорируется, разве что к делу приобщается несколько случайно подобранных эпизодов. Согласно отстаиваемой мной эпистемологии, исследователю следует попытаться систематически учитывать все критические замечания и оценки с позиций здравого смысла в адрес программы, исходящие от клиентов, их семей и членов общины. Наряду с количественными процедурами, такими, как вопросники и оценочные шкалы, которые из соображений удобства будут вводиться на этой стадии исследования в целях сбора и суммирования данных, должны быть предусмотрены и неколичественные методы сбора данных — например, работа с иерархически организованными дискуссионными группами. Там, где подобные оценки приходят в противоречие с количественными результатами, последние следует брать под сомнение, пока не будут поняты причины расхождения. Конечно, ни те, ни другие методы не непогрешимы. Но вот что следовало бы запомнить многим из нас: количественные результаты могут быть столь же мало застрахованы от ошибок, как и качественные. В конце концов, измерительные приборы в физических лабораториях часто работают неадекватно, и неисправность обнаруживается лишь благодаря качественному знанию и предположениям по поводу того, что должен был бы показывать этот прибор. (Это весьма далеко от мифа о том, что метрические показатели операционально определяют теоретические параметры.)
327
Приходится, к сожалению, констатировать, что в американских работах по оценке эффективности программ такое тонкое сочетание способов познания пока что не практикуется. Вместо этого наблюдается переход от одной крайности к другой. Когда для оценивания используются наблюдения антропологов, как это имеет место, например, при оценках моделей городов, они скорее замещают собой, чем дополняют количественные показатели, предусматривающие предварительное и итоговое тестирование и сравнения с контрольными группами. Актуальный пример — использование антропологов в программе «Экспериментальные школы». В одном случае предполагалось участие группы из пяти антропологов, в течение пяти лет занимавшейся изучением системы школьного образования для города с населением в 100 тысяч человек. Эти антропологи не имели ранее опыта изучения какой-либо другой системы школьного образования в США. Им не предоставили времени для специальной подготовки до введения программы, вместо этого они приступили к работе уже после того, как программа была начата. Их планы не предусматривали изучение какой-либо иной сравнимой системы школьного образования, не претерпевшей соответствующего изменения. Для того чтобы поверить, что в таких неблагоприятных для наблюдения условиях эти наблюдатели, использующие качественный подход, смогут прийти к заключению о том, какими именно характеристиками наблюдаемые ими процессы обязаны нововведениям, предусмотренным данной программой, нужно больше веры, чем есть у меня, хотя, пожалуй, следовало бы воздержаться от суждений до ознакомления с результатами. Более того, в исследовании делается упор на непосредственные наблюдения самих антропологов, а не на их роль в отборе и использовании в качестве информантов тех лиц, которые сами вовлечены в изменения, осуществляемые по данной программе 1. В результате —
_____________________________________________________________________________
1 Подробнее о методе использования информантов в полевых исследованиях см. в следующей работе: C a m p b e l l D. T. and L e V i n e R. A. Field — Manual Anthropology. — In: A Handbook of Method in Cultural Anthropology. Ed. by R. Naroll and R. Cohen, Garden City, N. Y., The Natural History Press, 1970, p. 366—387.— Прим. ред.
328
тенденция игнорировать данные других наблюдателей, придерживающихся качественного подхода и находящихся в более благоприятных условиях, чем эти антропологи. К таким наблюдателям относятся родители, имевшие других детей, которые обучались в школе до ее преобразования, учителя, наблюдавшие именно эту систему до, во время и после преобразования, учителя, у которых до прихода в эту школу уже имелся опыт работы в школах, сравнимых с новой по каким-то другим параметрам, и сами учащиеся. Желательно, вероятно, располагать большим массивом таких наблюдений, полученных с помощью вопросников. Поэтому естественным было бы и желание задавать соответствующие вопросы до осуществления экспериментальной программы и, кроме того, провести этот опрос в какой-нибудь школьной системе, не подвергшейся такой реформе, восстановив, таким образом, экспериментальный план и количественные обобщения качественных оценок. (Подробное обсуждение вопроса о качественном и количественном подходах читатель может найти в работе: Campbell [20] 1.)
Хотя вопрос о количественной и качественной ориентациях имеет большое практическое значение, он, тем не менее, как мне кажется, является, прежде всего, вопросом, входящим в компетенцию специалистов в области социальных наук и относительно независимым от более глобального политического процесса. То, какого подхода мы придерживаемся, во многом зависит от того, из какого подразделения в сообществе социальных исследователей затребована соответствующая рекомендация, что в свою очередь отчасти объясняется разочарованием в ранее применявшейся модели. Иными словами, решение данного вопроса принадлежит нам.
Прочие вопросы, относящиеся к числу метанаучных, больше связаны с вненаучными вопросами о человеческой природе, социальных системах и политическом процессе. Здесь я лишь классифицирую их, поскольку считаю, что первый шаг в их решении должен был бы состоять в достижении взаимопонимания между методологами — специалистами по оцениванию программ, а единство взглядов предполагает согласие не столько
______________________________________________________________________________
1 См. перевод этой работы в данной книге.
329
по поводу деталей метода, сколько по поводу метанаучных вопросов.
Осуществление и оценивание программ. Одна из стратегий, утвердившихся в правительственных учреждениях США, наиболее тесно связанных с оцениванием программ, состоит в организационном отделении процесса осуществления программ от их оценивания. Эта рекомендация исходит от академической группы теоретиков научного управления, она получила распространение в конце 60-х годов в правительственных кругах как «Система программирования, планирования и финансирования», или «PPBS» 1,согласно которой эти функции, как и функции надзора за программой или ее оценивания, должны были быть поручены отдельной организационной единице, не зависящей от учреждений, решающих практические задачи. (Соответствующее изложение этой стратегии принадлежит Уильямсу и Эвансу [103].) Эта рекомендация основывается на теории организационного контроля, известной как принцип проверок и балансов. Она подтверждается не только общими наблюдениями, свидетельствующими о нежелании человека заниматься самокритикой, но особенно наблюдениями из области давно принятой в США самоохранительной практики, при которой на отчеты о достижениях и другие оценки программ в первую очередь с необходимостью возлагается задача оправдать бюджет следующего года. Как полагает типичный администратор программы совершенствования в США, будь это экспериментальная программа или одна из давно принятых программ, бюджеты должны получать непрерывное оправдание. Для подобного администратора оценки программы вряд ли могут быть оторваны от этой непрекращающейся отчаянной борьбы. В такой ситуации имеется глубочайший смысл в том, чтобы функцию оценивания программ осуществляло отдельное подразделение, которому никакие бюджетные ограничения не мешают давать честные оценки. В этом отношении такая стратегия не вызывает возражений.
Мои собственные наблюдения, однако, приводят меня к выводу, что и эта стратегия не работает. Рассма-
_____________________________________________________________________________
1 См. о системе «PPBS» в работе: Г в и ш и а н и Д. М. Организация и управление. М., «Наука», изд. 2-е, 1972, с. 462—471. — Прим. ред.
330
триваемое разделение направлено против тех форм осуществления программ, которые оптимизировали бы интерпретацию данных оценивания. Такие формы существуют, и они к тому же дешевы, но они требуют усовершенствованного планирования и тесной кооперации исполнителя и оценщика. Внешние оценщики, помимо всего прочего, лишены, как правило, фундаментального качественного знания о происходящем. Постоянный конфликт между оценщиками и исполнителями, который примет достаточно острые формы при общем локальном руководстве, имеет тенденцию к углублению. Пригодность мер для целей локальных программ и опасности особенно уменьшаются в условиях принятых в США процедур выполнения договорных исследований. Оценивание становится деморализующим фактором и источником отвлекающего конфликта. Можно было бы надеяться, что специализация способствовала бы притоку более опытных методологов. Если и есть такой выигрыш, он полностью уничтожается недостаточным экспериментальным контролем.
Конечно, поднятые проблемы обязаны своим происхождением не только разграничению осуществления и оценивания. И доводы в пользу такого разграничения остаются весьма вескими. Тем не менее, эти проблемы вызывают беспокойство, и они достаточно взаимосвязаны, чтобы служить обоснованием для пересмотра этого принципа, особенно если учесть, что такое разграничение, видимо, полностью отсутствует в экспериментальной науке. Возникает метанаучный вопрос о том, каким образом в науке, несмотря на погрешности исследователя, достигается объективность, а также об уместности этой модели для объективности в оценивании программ.
Обычно в науке тот, кто задумывает эксперимент, сам же регистрирует показания прибора. Соответственно существует проблема пристрастной мотивации. Исследователь почти неизбежно является пристрастным защитником какого-то одного результата опыта. Появляются неопределенности в интерпретации. Под угрозой оказывается честное имя и дело всей жизни. Не все допущенные ошибки исправляются перед публикацией, причем ошибки, которые подтверждают гипотезу автора, выявить гораздо труднее. Загадка о том, как наука обретает свою объективность (если только она ее
331
обретает), представляет собой метанаучный вопрос, который все еще не решен. Хотя ученые, по-видимому, честнее, осторожнее и самокритичней большинства других социальных групп, эти их качества являются скорее побочным продуктом социальных сил, порождающих научную объективность, чем ее источником. Главными факторами служат, вероятно, традиция и возможность независимого повторения. Хотя философы и социологи науки лучше прояснят эти вопросы, методологи исследований по оценке эффективности программ должны проявлять внимание к возможностям моделей, применимых в их области. Забегая несколько вперед, отмечу, что я прихожу к следующей предварительной точке зрения.
Осуществление и оценивание программ совершенствования в США требуют сегодня большего энтузиазма, преданности и более высоких моральных качеств. Они могут быть усилены путем принятия в качестве модели экспериментатора-оценщика образа ученого. Если бы могли быть созданы условия для повторной перекрестной валидизации, а бюджет мог быть избавлен от угроз, проистекающих от негативных оценок (например, если бы исполнители программы могли получить право переходить для достижения той же самой цели к альтернативным программам), то от политики разграничения осуществления и оценивания можно было бы отказаться.
Наш вопрос не требует сугубо однозначного ответа. Внешние оценки могут сочетаться с внутренними оценками. Вероятно, внешнее оценивание можно было бы вполне безболезненно свести к проверке внутренних оценочных данных, поручив его кому-нибудь из методологов по оцениванию.
Максимизация повторения и критики. Продолжая разговор на ту же метанаучную тему, которая была затронута в предыдущем разделе, можно привести еще целый ряд рекомендаций относительно исследовательской стратегии. Некоторые из них противоречат ортодоксальным взглядам и практике, распространенным в США сегодня.
В настоящее время предпочтение отдается единичным, согласованным в масштабе страны оценкам даже в том случае, если нововведения по программам осуществляются во многих районах. Если бы задача состо-
332
яла в имитации научного подхода к объективной реальности, оптимальным было бы, вероятно, разделить большие эксперименты и общие оценки на части и заключить вместо одного два или более контрактов, преследующих общую цель, с тем чтобы получить какую-то возможность одновременного повторения. Компенсаторные образовательные программы (например, такие, как «Head Start», «Follow Through» и др. 1) иногда принимают, согласно нашим основным оценкам, такой размах, что подобное разделение не способствовало бы значительному увеличению расходов. Мы часто могли бы предусматривать нашими планами сравнительную проверку при повторении, которая помогает науке оставаться объективной.