大型干预项目一般是有组织的过程,并且这些过程集中了各学科评估者的大量关注。虽然各项目间的重点并不一样,但是这样的干预项目一般以项目设计为开始;然后表述干预的哲学原理,确定利益相关者,形成执行策略,表明预期成果。最后进入项目实施和评价。正确实施干预时,会出现不可预料的问题并得以解决,项目的影响就得到了评估。
在这个程序中有两个竞争力对于项目评估非常重要。第一个因素与项目的保真度相关,或者说是“干预附着于协议或最初实施的项目模型的传送程度”。干预的实施会符合项目的哲学原理和实施策略吗?所有的必要利益相关者都会参与吗?项目的实施者正确完成什么程度的预期结果?第二个因素关于项目自适应,这需要项目实施者的灵活性去使得项目适应时间变化、目标人群、方位和其它的因素。
许多文献中实证是这两个竞争力的支撑。基于对各领域的干预研究,得出了效益干预的保真性的积极效果。拿项目实施中得到最大保真性为例,Szulanski and Winter认为最好的项目应该是跟随得越紧越好,而采用一个成功的模型确是一个错误。同样,Calsyn et al.发现任何显著的项目变化都会减少效力,然而Boruch and Gomez认为项目的修改使得不同设置的评估变得困难。
另一方面,项目自适应的支持者常常根据当地的情况,可用资源和不同社会和文化背景的参与者制定一份合法的项目模板。根据这些研究者,项目的保真性既既不是自动的也不能简单的完成。事实上,这些年的许多研究已经表明,很少有项目能全保真度地实施,和那些项目开发者的认为并不一样。当环境变化时,显著的变化或重新设计是维护项目效力的唯一方法。
尽管文献中对于项目的保真性和自适应的相对重要性的争论仍然存在,越来越多的研究者意识到两者平衡的必要性。比如,对于物质滥用的干预,Backer得出结论:保真性和自适应对于成功实施基于科学的物质滥用项目都是很重要的。根据零利润部分的多层次干预项目效果的评价经验,Yang et al.承认平衡“柔性和一致性”的重要性。在推动社区参与度以提高项目成果的框架中,Castro et al.通过发展“建立在”提高项目自适应的混合发展项目中发现一个创新的项目设计策略,然而同时得到了项目实施和效力的最大保真度。
本文中,我们讲继续讨论项目的保真性和自适应间的关系。我们讨论保真性—自适应关系当前的分析已经主要对准基于科学的或基于实证的干预,所谓的“理论驱使,理论相关的实践,并且很好得到了应用及评价”。因此,目前的保证度和适应性的辩论默认了项目执行之前的项目设计,而没有考虑项目设计本身是否也应服从评估,以及项目的自适应性是否可能有助于改进项目设计,从而有助于确定项目保真度。此外,在目前的保真度和适应性分析中,项目的有效性是以项目既定的目标来衡量的。体现项目的有效性-或者说项目缺乏有效性-在很大的程度上变成了项目执行是否遵守了原来的协议(高保真),做了必要的调整(适应性),或平衡了高保真度和适应性。
虽然当处理以科学或证据为基础的干预时, 这个'中立'的程序设计可能不是一个问题,但是我们认为它很可能会在以非证据为基础的项目中妨碍操作、影响有效性的评估不同于以科学证据为基础的项目,以无证据为基础的干预,往往是创新的,无据可查的或是超越现有科学基础的。有时候,他们只是基于资助方或赞助商的价值观或偏好。结果是, 他们的项目设计往往能够自适应并且服从来自于执行方面的修改。另外指出,在非以证据为基础的干预中,保真度的标准本身也是相对的; 不仅成功干预需要执行中的适应性,而且适应性也能帮助修改项目设计,这样保真度标准才能被更好的定义。不仅如此,项目设计具备了自适应性,评估则既包含执行过程也包含项目设计。缺乏项目有效性并不意味着项目没有被很好的执行。相反,它可能说明项目需要改良或修改。
我们阐述这一论点是根据我们在帮助制定,实施和评估W. K. Kellogg基金会所管理的释放资源倡议中的经验。一项大规模,非以证据为基础的,持续的干预在非营利部门,该倡议的目的是加强慈善事业和志愿服务的。我们声明,(a)在这个创新的计划中,适应性和高保真可以有建设性地和平共处; (b)坚持项目的基本哲学,适应性成为一个执行干预的自然的方式(c)谨慎的适应帮助重新设计项目。
我们还声明,在这一非证据为基础的干预中,评价的作用被扩大了:它不仅评估执行,也有利于项目设计。
文章的其余部分如下。首先,我们首先展示URI的基本主题,突出其性质是基于价值的计划。然后,我们描述在制定,执行和评估干预中的活动,以及审查整个过程中保真度和适应性之间的关系和适应的以及这个关系是如何影响我们对项目的评价。最后讨论的问题是我们的经验的暗示,我们的观点可能会影响到对不以证据为基础的项目中的干预和评价的一般做法。
非实证项目:释放资源倡议(URI)非实证项目:释放资源倡议(URI)是W. K. Kellogg基金设计的战略性干预项目,以加强且联系慈善和自愿者方面的领导。根据W. K. Kellogg基金的核心价值,这个倡议主要完成以下目标:
● 给以下三个主要群体(妇女、青年和有色社区)更多的机会,透明度和参与性
● 加强六个团体间的合作,包括三个主要群体,加上商人、社会企业家、企业社会的创新者,去支持付出
● 改善获得付出的有用知识
● 改善获得付出的有用工具
● 从这些成功中得到更多的关于付出的创新方式
● 给主要群体的主流付出提供更大的影响
● 增加W. K. Kellogg基金会的社会变革利益方面的六个群体的给予。
为此,从2000年开始,W. K. Kellogg基金会承诺通过260个项目投入9千万美元形成一个综合项目,强调支持那些捐赠、创造和分享知识的领袖,并创造零利润可持续且倡导付出的工具。其中这次倡导中最突出的专营公司是GuideStar,地方捐助协会论坛,自愿者配对网络和妇女基金网络,这些组织对零利润部门发·挥重要作用。
本次倡议具有以下重要特征。第一,它是一个基于价值的项目。倡议的最根本的指导思想是加强和联系慈善和自愿者领域领导者的关系,并不是基于任何科学理论或实例验证的。相反,它来自于W. K. Kellogg基金会的核心价值(如框1),除此之外,还强调倡议去帮助别人和自己。虽然这些价值观能被社会充分接受,但是是否需要或者如何去进行主体项目干预并不是很清楚。
|
第二,倡议几乎没有这种规模的领先。基金会和公司长期以来一直很慷慨地付出。但在此之前,很小组织任何大规模、有系统和连贯的项目,以促进慈善事业和资源服务,更不要说,零利率部门针对妇女、青年和有色社区的项目。潜在付出者的共同典型认识是以为满头白发的富裕老人捐出所有的资产去最求慈善使命。
第三,由于三个主要群体(即妇女、青年和有色社区)并未包括,关于鼓励和促进他们付出的工具和知识并不是现成的。因此,倡议需要处理其主要利益相关者的大量未知信息。总之,这一倡议的基础是提升不透明的青年群体、妇女和有色社区在慈善是事业和自愿服务方面的道德价值。但是,并没有什么证据证明这次倡议能达到这种效果。
URI的性质是倡议,但没有社会证据出现在项目的设计和实施中。针对于妇女、青年和有色群体的项目就很有价值吗?这样的项目该如何设计?在促进这些群体去奉献的最重要的问题是什么?如何在倡导的基本哲学原理和实施的大柔性间划定界限呢?很明显,如何在项目设计和实施中的达到保真和自适应对于干预的成功与否起到关键的作用。
URI中的保真度和自适应释放资源倡议一直是两阶段的努力。第一阶段,即“设计”阶段,从1999年9月开始,呼吁两年学习期间的有效性和可行性,开展慈善事业和资源服务的计划,以实现“释放资源的共同利益”。特殊地,该工作阶段旨在
……更多地了解慈善事业中的变化,确定关键合作伙伴,测试项目假设和设计,支持符合慈善事业和自愿服务设想的模式,并决定是否进入第二阶段的倡议,并最终设计第二阶段。
URI的最大成就是综合慈善事业和资源服务策略的第一阶段的发展,能规定倡议的最终目的,定义其预定的影响,方法和合作伙伴,明确实施中允许自适应。
本质上,这个策略变成了发展精确性标准的蓝图或是评定未来执行倡议的合适性的逻辑模型。它也为执行中的建设性改变铺平了道路。
URI第二阶段,或‘执行阶段’,始于2002年。截止2006年底,为实现倡议设定的的目标,投资超过260个项目。这些项目和第一阶段的方案策略保持一致,大体上分为三个组-领导者,捐献着,只是和工具-组成如下:
领导者和捐献人那组包含促进慈善事业和志愿者工作领域出现更多领导者的项目。知识组包含这样的项目,此项目意图建立能协助慈善事业和志愿者工作,特别是URI其他组别项目的知识基础。工具组的项目包含发展有益于URI和慈善事业和志愿者工作项目的工具。
保持和促进精确性| 表 图表 1 释放资源倡议方案策略 |
URI为了方案的设计和执行符合它的基本哲学而作出了有意识的努力。(比如壮大和连接慈善事业和志愿者工作领域中正在涌现的领导者)。在设计阶段,遵守这个哲学的努力随着倡议的逻辑模型的发展达到最高点。(看图表 2)它规定了一个逻辑关系,从问题的鉴定到干涉策略的发展,到发表这个问题,到期望从策略中产生结果,到与结果相关的预期影响。这个逻辑模型将W.K.KELLOGG基金的意图转变为操作因素,将方案策略中的信息转变为URI执行者或收受者。它也是进行倡议评估的最初指导方针。
| 表 2 释放资源倡议的逻辑模型 |
在执行阶段,维持和促进精确性是所有方案指导者,收受组织和评估员的核心。W.K.KELLOGG基金使之得以实现,通过计划过程的信息要求,和高度组织化的投资文件,还有帮助收受人联合他们的工作,以及培养收受人确保和促进精确性的能力。
提供信息的RFP RFP中清楚的写着倡议意图,所以任何可能的收受人都会知道他的义务如果他的申请被通过的话。
高度组织化的投资文件 当复查一个收受申请的时候,相关信息就被转移到高度组织化的文件里,以显示该申请是否和倡议目的相关以及和倡议目的有怎样的关系。只有和倡议的基本原理紧密相关的申请才能得到投资。
帮助收受人之间的联合 URI收受人工作在不同领域,面向不同人群,采用不同方法。为了最大化的忠实方案本身,W. K. Kellogg基金为收受人们提供了一个大体的框架来让他们检查自己是否在正确的轨道上。收受人们通常每年度在总结他们过去一年在目标实现上有何进展时用到这个框架。另外,该基金还定期举行URI收受人之间的网络会议。这些会议的主要目的之一就是确保收受人坚决实现倡议目标。
W. K. Kellogg基金认识到只有投资者充分支持,方案的精确性才能得以实现,所以该基金大力帮助收受人培养组织能力。事实上,该倡议的主要投资目的之一就是培养能力,能够让许多以前没有参与过的或没有接受过投资的机构逐渐增强自身能力,从而在完成URI相关任务上能具影响力。
在收受人和评估员层次上,通过他们和W·. K. Kellogg基金的定期交流,通过收受人之间的交流,通过分组层次和评估层次中评估员之间的评估联合,还有就是通过评定该基金的基金优先配给及趋势,来维持和促进方案的精确性。
定期的经常交流 收受人和评估人被要求每年报告他们的进步,和WK基金在达成与倡议相关的目标方面的成果。一些评估者定期参加WK基金的会议,随时了解倡议方面的最新进展。
收受人网络会议 收受人之间的经常性会议帮助他们更好的理解他们在倡议中的角色,帮助他们互相学习,帮助他们促进合作和团结从而达到与倡议相关的目标。
评估组合 URI是一个多层次的干涉项目。倡议的评估分为收受人层次,组群层次,和倡议层次进行。为了提高精确性,组合不同层次的评估从容时评估集中在适合一一个收受人,一个组或整个倡议
KELLOFF基金的提供基金活动和走向评估 方案高精确性的指示是投资者或方案赞助者根据执行方案优先权来分配合适资源。为了让WK基金了解它是否达到了我们所说的‘基金资源精确性’评估员们评定了多年来在计划领域此基金的投资活动。
允许的改变
当像URI这样的无证据基础方案还在早期阶段,并且方案目标还在调整的时候,执行中受允许的弹性和改变是必要也是重要的。尽管URI要去收受人们意识到它的终极目标和与其结果或影响,它绝不要去他们必须采用方案策略中反映的一成不变的执行方法。当地背景指导收受该改使用什么方法。这个或许被成为“所允许的弹性”的方法被实施了,通过召开会议来寻求内外部的关于倡议的评论,通过在从这个领域得到的证据的基础上修正基金优先配给,通过在慈善事业和志愿者工作中鼓励改革和创新,还有通过感谢评估中收受人的参与。
召集会议寻求评论 为了改善倡议设计和执行,URI召集了一系列包括内部收受人和外部专家和专业人士在内的会议。通过这些事件寻求那些在慈善事业和志愿者工作领域的人们对此倡议的投入。这个倡议被相应的作出了调整。
修正基金优先配给 经定义,一个无证据基础的方案在设计方案策略的时候没有历史证据可依。所以执行过程中获得的信息对方案的改善尤其重要。过去的一些年,URI基于从很多不同的收受人身上的初步发现对他的基金优先配给作出了改变。当倡议进入它的执行阶段的时候,基金优先配给集中为非盈利部分开放工具的机构。随着倡议的完全呈现和证据的收集,基金优先配给在慈善和志愿者工作领域支持和连接女性,年轻人和有色人群的机构。
鼓励改变和创新 URI的一部分基金就是用来促进创新捐赠,特别是给那3个主要团体的或者那3个团体捐赠的。因为创新本身就是目标,这个地URI的收受人在执行他们的项目的时候必须采用创新的方法。在这个背景下,弹性或是适应性是必须的。
感谢参与评估的收受人 收受人层次的评估检查了收受人在当地关系中的表现。在组群层次,评估尊重组内不同收受人的不同需求。在倡议层次上,评估人注意不同收受人为了协调整个倡议的未来操作而使用的方法所暗示的东西。
精确性-适应性能动和评估的作用
URI案设计和执行方面的经验指出了一个有意思的精确性-适应性能动:精确性和适应性不仅仅被平衡而且共同作用来达到干涉的基本目的。也就是说,在URI中精确性和适应性不是相互冲突而是互补的。这一部分是因为URI是在道德价值的基础上发展的。没有更优先的证据来定义精确性。并且,平衡得以实现是因为URI把‘适应性’纳入方案策略。只要执行符合与倡议的基本目的,这里讲的适应或调整就不会与精确性发生冲突。
URI中适应性和精确性的相辅相成在许多URI活动都具有双重作用的事实中得到最好的体现。比如说收受人网络会议,不仅仅是收受人相互认识的工具也是为WK基金提供反馈的重要途径,在考虑到不同背景中倡议是否适合的情况下。与此相似,收受人过去使用的向WK基金报告的组织结构不仅帮助收受人检查他们是否做着正确的事,而且可以让让他们细化执行的变动性。
| 表 3 精确性-适应性能动和评估的作用 |
值得注意的是URI的精确性和适应性的方法拓展了评估的的作用。通常,方案评估理所当然的看方案设计,通过比较得到的结果和预期结果来评定方案效果。一个有效的方案的最终结果通常和预期的很接近。当最终结果与预期的不是很符合的时候,方案的执行就通常被称为是无效的,貌似可信的原因则被称为是没能完全忠实方案,做必要的调整或是平衡精确性和适应性。
然而,在URI中干涉的设计是不断发展变化的。最终结果和预期结果的符合表明方案的有效性并且肯定现存的方案设计。相反地,预期的和最终结果的不一致并不说明方案不是有效的。他们应该暗示如何修改方案设计。
下面的例子说明了要点。URI的前提之一就是在慈善事业和志愿者工作中他们需要雇佣女性,年轻人,和有色人群。但是这个需求是正当的吗?女性,年轻人和有色人群会成为这个领域的有效力量吗?为了回答这些问题,URI评估员们检测了不同性别,年龄,人种的受雇人所释放的资源。在控制其它机构因素后,他们发现受雇人的性别和年龄并不影响他们释放的能量。在收受人机构中有色人种的比例越高,收受人释放的资源越少。(WS ASSOCIATES, 2005, 2007).评估员们和W.K.KELLOGG基金没有把后来的结果作为在雇佣有色人种项目中的证据,而是从中推动出更有必要来改善有色人种在慈善事业和志愿者工作中的工作效果。结果,关注有色人种的项目活动被加强了而不是削弱了。事实上,作为这些评估结果的回应,WK基金在2005年又在倡议中增加了一组:‘给予的文化:穿越社区的创新和影响’。这组项目旨在更好的理解进入领导层和财富的差距以及有色人群之间的影响和他们带来的影响,从而提升他们在时间,金钱方面的贡献……
讨论作为无利润部分的无证据干涉,释放的资源主动权是个成功的故事。根据WSAssociates(2005, 2007), 通过过去7年倡议的,设计及执行3个初级团体的领导人被教育,提升,连接,认同和赞扬;一些非正式的捐赠系统被正式化同时现存的正式捐赠系统被进一步强化;大量的资源得到释放;受让人之间以及受让人和其他非盈利组织之间的合作和伙伴关系被巩固,并且已成为创造协同的关键策略;URT在影响主流捐赠方面作出了巨大贡献。取得这些成果的重要原因之一就是解决?关系的倡议的平稳方法,在整个过程中将?作为补充的而非完全的力量。
URI中的?补充是必要的,因为这个倡议不管在设计还是执行阶段都几乎没有优先或科学基础。唯一确定的就是来自WK.KELLOGG基金核心价值的基本哲学或意图。就像这样,这个方案设计必须在本质上适应,而且受制于执行阶段规定的变形。WK基金意识到这样的情况,他们在发展这个倡议的发展策略的时候就将改编视为执行的一个必不可少的组成部分。这个策略不仅使得改编在执行中的变的合理,也为在今后的方案修改中试用改编铺垫。
URI经验在设计和执行无证据干涉方面提供了一下重要经验。首先,不像有个大体目标和大体精确度标准的有证据??方案,在无证据方案中方案的精确性和适应性可以一起使用。高精确度并不意味着方案执行者不能使方案使用于不同的时间,人口及地区。而且,充分考虑适应性有助于调整和改善方案设计。
第二,让精确性和适应性一同作用来达到方案的基本目标,方案设计的一个重要方法就是将它视为一个进化的或者说适应的过程,在方案策略中把适应性作为一个必需部分。在更大范围上,这个方法类似于在发展混血儿项目方面CASTROET(2004)争论的那样。就像他们在研究中证明的那样,当适应性被列入方案设计中时,执行的精确性以及方案的有效性可以同时得到提升。
第三,把方案设计当作一个适应的过程要求方案设计者和执行者之间树立不同的关系。在传统方案干涉中,方案设计和执行通常是两个独立的步骤。设计者设计,执行者执行。相互之间的影响,如果有的话,通常都是被限制的。在无证据基础的干涉中,方案设计者和执行者之间的深入交流却是非常重要的。通过交流,执行者可了解干涉到底是关于什么的,设计者可以了解是否方案的设计符合现实并且有效。
把方案设计当作适应过程队方案评估还有两个重要的提示。首先,因为方案设计不是固定的实体,它为拓展评估范围敞开了大门。评估者不应该只注意方案的执行过程; 方案设计也可成为评估对象。
第二,把方案设计当作适应过程可产生评估结果的更仔细解释。当方案设计得到提升了,预期结果也会随之改变。结果,方案效果不能仅靠观察到的结果和预期结果的比较来衡量。尽管观察到的结果和预期结果之间的严密比较可能使方案设计生效,一个差劲的比较并不意味着执行的错误。然而,它或许暗示着方案设计需要重新审视或修改。
总而言之,基于我们在协助设计,执行,和评估无证据基础方案方面的经验,我们探索一个非传统的精确性和适应性之间的关系以及它对方案评估的启示。我们发现在无证据基础方案干涉中,方案的精确性和适应性可能不是对抗者,而是可以互补的。这种非传统关系使评估在方案设计和执行中发挥更多的作用。