俞立平博客——邗上居分享 http://blog.sciencenet.cn/u/yuliping 科技评价、技术创新、信息经济 镜像博客:http://www.yuliping.com

博文

学术期刊评价方法体系构建及相关问题研究

已有 12177 次阅读 2009-6-29 14:49 |个人分类:科学计量|系统分类:科研笔记| 学术期刊, 多属性评价, 体系结构, 定性评价, 组合评价

按:该文发表于《编辑学报》,2009.3  俞立平

 

摘要:本文从定性评价、单一指标评价、多属性评价、组合评价4个方面构建了学术期刊评价体系结构,分析了学术期刊评价中存在的一些问题,认为要慎重选用一些基于排序的评价方法和基于相关系数的评价方法,应该采取客观评价法进行组合评价,组合评价与多属性评价结合将会取得进展,要注意评价的有效性和评价复杂性的辩证统一,各种评价方法可以互相补充,将长期共存下去。

关键词:学术期刊 定性评价 多属性评价 组合评价 体系结构

0引言

期刊评价是文献计量学研究的重要组成部分,它通过对学术期刊的发展规律和增长趋势进行量化分析,揭示学科文献数量在期刊中的分布规律,为优化学术期刊的使用提供重要参考,同时可以提高学术期刊的内在质量,促进学术期刊的健康成长和发展。期刊评价理论起源E.Garfield1963[1]博士。

学术期刊定量评价主要有两大类方法,一种是直接根据期刊评价指标进行对比,二是采用多指标综合评价方法,该方法克服了单指标评价容易带来的片面性,比较适合期刊的综合评价因此得到了较广泛的应用。学术期刊多指标综合评价是一项复杂的系统工程,牵涉到评价原则、指标选取、数据归一化、评价方法选择等诸多方面,国内外学者在该领域进行了大量广泛的研究。从评价方法的角度,Weiping Yue等(2004[2]利用结构方程的原理建立了一个期刊影响力的分析框架。苏新宁(2008[3]采用指标体系赋权进行中国人文社会科学期刊的评价。邱均平等(2004[4]提出了期刊评价指标体系的三维层次结构图,并利用灰色关联法进行评价。庞景安等(2000[5]及李凯扬等(2005[6]利用层次分析法对期刊进行评价。王小唯等(2003[7]将期刊以往状态的评价结果作为各期刊基础条件的一种度量,再运用数据包络分析方法(DEA)测算出它们的二次相对评价值。李修杰等(2006[8]运用判别分析法建立的期刊评估指标体系。王玖等(2003[9]运用秩和比法进行医学学术期刊学术质量综合评价。陈汉忠(2004[10]应用主成分分析对学术期刊进行评价。凌春艳等(2004[11]提出自然科学学术期刊质量指标体系的属性数学综合评价模型并进行了评价。李继晓等(2006[12]对各种核心期刊的评价方法进行了介绍和分析,认为选择核心期刊的评价方法并不是一件一劳永逸的事,只能通过不断实践、比较、分析,才能使核心期刊的评价日臻完善。

指标体系综合评价方法存在的主要问题是,针对同一评价对象,选取相同的指标,采取同样的数据,不同评价方法得出的评价结果不一致,结果难以得到公认,因此学术界提出了“组合评价”的思想,即将各种评价方法的不同评价结果进行组合,从而给出最终评价结果。关于组合评价,至今没有一个公认的定义。一般认为,组合评价就是将不同的评价方法进行适当组合,综合利用各种方法所提供的信息,从而尽可能地提高评价水平和精度。近年来,组合评价已成为评价领域中的一个重要研究方向。

由于期刊评价的特殊性,组合评价方法在期刊评价中的应用较少,在其它领域组合评价方法得到了较为广泛的应用。传统的组合方法有Borda法、Copeland法等。毛定祥(2002[13]提出了一种最小二乘意义下的组合方法,即最佳权重必须与各种主客观赋权评价所得权重的偏差平方和最小,用线性规划求解。徐泽水等(2002[14]提出的组合方法最终评价结果与各种评价方法差距最小。彭猛业等(2004[15]提出了加权平均组合方法,权重采取各评价结果与平均评价值的相关系数确定,最后计算组合评价结果。刘丽等(2004[16]利用遗传算法确定各评价方法的权重,然后计算组合评价结果。马溪骏等(2006[17]提出了一种权重偏差平方和最小的组合方法。陈衍泰等(2005[18]提出了一种两阶段复合的组合评价方法。郭亚军等(2006[19]提出了一种基于整体差异的客观组合评价法,即存在一种评价结果(最佳组合),各评价方法投影到该评价结果后方差最大,体现了少数服从多数的思想。陈伟炯、等(2005[20]利用基于序号总和理论和众数理论对港口安全环境进行组合评价。李美娟、等(2005[21]提出了一种基于粗糙集的组合评价方法。张国权等(2008[22]提出了基于最小离差和最大广义联合熵的组合赋权方法。关于组合评价方法,至今为止已经有几十种。

    可见,学术期刊评价方法体系结构非常复杂,为了进行客观、公正、科学的学术期刊评价,本文在建立学术期刊评价体系结构的基础上,对期刊评价方法中存在的问题进行分析,并从方法的角度指明今后期刊评价的方向。

1学术期刊评价方法体系结构

总体上,学术期刊评价包括定性评价和定量评价两大类,所谓定性评价主要是采取专家同行评议法对学术期刊进行直接分级或排序,迄今为止仍然被认为是一种较好的评价方法。定量评价方法包括三大类,一是单一指标评价,二是多属性评价,三是组合评价,学术期刊评价体系结构如图1所示。

单指标评价又包括简单指标评价与复杂指标评价两大类,所谓简单指标,就是用来评价学术期刊的指标相对简单,如影响因子、基金论文比、被引半衰期等指标。所谓复杂指标,就是指学术期刊评价指标包含了传统简单指标所无法反映的信息,或者是简单指标的某种数学组合,如Schubert et al.1983[22]提出的RCRBraun & Glanzel1990[23]提出的NMCRHirsch2005[24]提出的H指数等等。

多属性评价(MAE, Multiple Attribute Evaluation)一般又称为多指标综合评价,根据评价原理,又可以分为三大类:第一类是主观评价法,其基本原理是采用主观方法对指标体系进行赋权,然后将数据标准化后加权汇总,如专家会议法、德尔菲法、层次分析法等等。第二类是客观评价法,包括两种,一种是采用客观赋权法确定指标权重,然后进行加权汇总,如熵权法、变异系数法、复相关系数法等;另一种是不需要赋权的系统方法,如主成分分析法、因子分析法、TOPSIS等。第三种是主客观相结合的赋权法,首先采用主观赋权方法确定权重,然后采用系统方法进行综合处理,如ELECTRE法、模糊综合评价法、PROMETHEE等等。这里的系统方法主要指综合运用运筹学、模糊数学、系统工程等领域的方法进行评价。此外,还有一些学者将两种或两种以上的多属性评价方法进行有机融合,进行复合评价。如根据层次分析法确定权重,再采取加权TOPSIS法进行评价,这本质上仍然属于主客观评价。一些学者根据权重的赋值方法将评价方法进行分类是片面的,因为许多评价方法已经用不到权重了,比如DEA效率分析、主成分分析、因子分析等等。

 

 

 

1  学术期刊评价方法体系

组合评价就是将不同的多属性评价方法进行组合,又可以分为两大类,第一类是根据权重进行组合,其特点是将数种主观和客观赋权方法的权重根据某种规则进行组合,得到组合权重,然后再进行加权汇总,得到最终评价结果。第二类是将不同多属性评价方法的评价结果进行组合,又可以分为得分组合和排序组合两大类。不同评价方法由于原理不同,评价结果的内涵本质上是有区别的,绝大部分评价方法评价结果是得分,少部分评价方法评价结果是排序,如BORDA法、ELECTRE法等等。

2学术期刊评价方法存在问题分析

2.1不同评价方法评价结果不一致

迄今为止,已经有几十种多属性评价方法,评价结果有的是排序,有的是分值。各种评价方法原理不同,大部分评价方法对适用条件选择较宽,少部分评价方法对适用条件选择略严。即使是一些对适用条件要求稍严的评价方法,也非常容易在学术期刊评价中得到应用,如主成分分析要求评价指标间相关性较高,对期刊评价而言,这不存在任何问题。因此客观上造成学术期刊评价方法众多,每种评价结果都不尽相同。

2.2组合评价方法的种类也是无限的

    如果将每种评价方法的评价结果视为一个指标,那么若干种评价方法必然产生若干个指标,将这些指标进行组合实际上相当于多属性评价。由于多属性评价方法众多,加上还有大量的专门用于组合的组合评价方法,因此也会产生若干不同的组合结果,这是一个令人困惑的问题。

2.3单纯应用客观评价法值得商榷

由于主观评价法存在着人为因素,稳定性较差,因此涌现出很多客观评价方法,如熵权法、变异系数法、复相关系数法、主成分分析、因子分析、DEA数据包络分析等等。本质上,绝对客观的评价是做不到的,因为指标选取是主观的,某些指标本身可能也是主观的。客观评价类方法完全根据数据讲话,不考虑评价指标的相对重要性,较少考虑评价主体——人的主观能动性,因此要慎重进行选用。

当然,客观评价法要慎重选用并不意味着不用,比如可以作为组合评价方法,或者作为评价结果之一再进行组合。

2.4基于相关系数的评价方法是有问题的

基于相关系数的评价方法有CRITICCriteria Importance Through Intercriteria Correlation)、复相关系数法等。学术期刊评价指标间是否相关,除了符合理论解释外,还必须通过统计检验,这两个条件必须全部具备。基于相关系数的评价方法根本就没有考虑这两个条件,也就是说,某些指标之间是不相关的,建立在指标相关基础上的评价方法当然是无法立足的。

2.5一些基于运筹学的组合方法值得商榷

根据决策方法的原理,所有的多属性决策方法都可以应用于多属性评价,基于运筹学的线性规划在组合评价中得到了越来越多的运用。对此我们要进行客观分析,如果是从经济学的角度,需要求解成本最小或利润最大问题,这是没有问题的,但是对学术期刊进行组合评价需要慎重,假设采用4种主客观赋权法对学术期刊进行评价,可以得到每个指标的权重取值范围,如果以此作为约束条件,求解使评价总分极大值的权重组合作为最终的权重组合结果,这是有问题的。因为评价重在采取同一标准对不同评价对象进行比较,不同评价方法的评价值之间是不可比的,采用线性规划意味着权重组合有无数种,这无数种评价方法之间是不可比的,没有理由可以说明权重组合使评价值极大的方案是最优的。

2.6基于排序的评价不能用于组合评价

    从评价原理看,多属性评价方法又大致可以分为基于分值的评价和基于排序的评价,绝大多数是基于分值的评价,少部分是基于排序的评价,如BORDA法、ELECTRE、秩和比法等等。基于排序的评价的最大特点是这些评价方法虽然可以反映评价对象之间的优劣顺序,但难以反映评价对象之间的相对差距,即使有评价值,也反映的是某种排序结果,因此,基于排序的评价不能与基于得分的评价进行组合。

3关于学术期刊评价方法的几点思考

3.1定性评价仍然是重要的期刊评价方法

    定性评价仍然是非常重要的学术期刊评价方法。要获得较好的定性评价结果,必须动用大量的人力、物力和财力,选择学科领域内的大量专家进行同行评议。此外,对于学术期刊较多的学科,让任何一个专家对最好的期刊排序和选优,这是相对容易的,但如果对所有的期刊都进行打分和分级,确实也难以做到。由于成本高、工作复杂,加上评价不够精细,人们才开始用指标或指标体系进行定量评价。那么,采用定量评价方法的结果的可靠性如何检验呢?那还得依靠定性评价,只有经过定性评价检验的定量评价方法才是有效和可行的。

3.2单一复杂指标评价应用前景广阔

在学术期刊评价领域,国外学者更多地采用单一复杂指标进行评价,这方面发展比较迅速。单一复杂指标虽然只有一个指标,但是包含了更多的信息,虽然每个单一复杂指标各有所长,但可以同时采用不同的指标进行学术期刊的比较,互相取长补短,不一定非要采取指标体系得出唯一的综合评价结果。随着研究的深入,相信会有更多的单一复杂评价指标出现。

3.3组合评价在学术期刊评价中应用将会越来越广泛

组合评价比单一评价更科学,因为仅用一种方法进行多指标综合评价,其结果很难令人信服。对同一评价问题,不同的评价方法提供不同的有用信息,而且每一种方法都有自己的长处和缺陷,把多种评价方法进行适当组合,有利于发扬优点,弥补缺陷,使评价结果更为精确。而且还可以进行相互印证,检验不同方法的可靠性,使人更加信服。组合评价方法在学术期刊评价中应用虽然还比较少,但可以预见的是,今后该领域组合评价的应用将会越来越广泛,以往采用单一评价方法进行学术期刊评价将会越来越少。

一些有缺陷的多属性评价方法不宜单独使用,但并不意味着在组合评价中不用。组合评价能克服单一多属性评价存在的不足,集中不同评价方法的优点,从而得出较好的评价结果。

3.4组合评价与多属性评价相结合将会取得进展

    权重组合是组合评价中应用得较多的方法,如果将权重组合的结果不进行加权汇总,而是作为中间条件,继续采用一些多属性评价方法进行评价,如加权TOPSIS、模糊评价法等等,不失为一种很好的思路,今后这方面的研究会有所进展。这里是组合评价与多属性评价方法的结合,在权重的获取时采取的是组合评价方法,在评价结果的取得上采取的是多属性评价方法。

3.5建议采用客观评价法进行组合评价

    组合评价方法很多,一些学者在进行组合时,对不同多属性评价方法的重要性进行权重赋值,然后再进行组合评价,这是值得商榷的。评价方法各有所长,组合的目的在于取长补短,方法之间一般难以确定优劣,何况数种有缺陷的评价方法组合后有可能产生令人满意的结果,因此,建议采用客观评价法进行组合。

3.6基于排序的多属性评价方法要慎重使用

因为基于排序的评价,其评价结果要么是排序,要么是排序值,无法反映评价对象之间的相对差距,因此,即使要进行组合评价,也只能采用基于排序的评价方法进行组合,这大大限制了组合评价的适用范围。此外,基于排序的评价方法丢失了评价数据中包含的许多重要信息,它比较适用于决策,因为决策重在选优或者选劣,评价重在比较。所以基于排序的评价方法无论从哪个角度都难以进行学术期刊的评价,基于评价结果得分的组合是组合评价的主要方式。

3.7 注意评价的有效性和简洁性的辩证统一

将不同评价方法进行组合是一种较好的思路,那么应该选用多少种方法进行组合呢?只有少数多属性评价方法对适用条件要求相对较严,大多数多属性评价方法对适用条件要求很宽。也就是说,从理论上,对学术期刊评价可以轻易找出至少20种多属性评价方法进行评价,然后再进行组合,不仅工作量巨大,而且没有意义。学术期刊评价是典型的管理问题,在很多情况下,管理问题的解决只要求较优,不需要最优,必须在评价的简洁性和评价的有效性之间寻找到某种最佳平衡点,换句话说,最简单的最有效的评价方法才是最好的评价方法。建议分别在主观评价、客观评价、主客观评价方法中各选1-2种主流的评价方法进行组合即可,关于多属性评价方法的选择,俞立平(2008[26]提出了高区分度、低灵敏度、单调递增、高拟合度、公众接受原则、主客观结合原则、指标齐全原则、完全数据8个原则。

3.8评价方法众多导致评价结果不一致问题也许不严重

    无论是多属性评价还是组合评价,都存在评价方法众多从而导致评价结果不一致问题,这个问题有多严重,有待于学术期刊评价实践的进一步检验。任何评价方法都有一定的灵敏度,即允许权重或指标值在一定范围内波动,但评价结果排序不变。灵敏度越低,评价结果排序对权重和指标值波动越不敏感,尤其在评价期刊数据较少的情况下。因此,如果进行学术期刊组合评价,在精选多属性评价方法和组合方法的基础上,即使组合评价方法有几种,也许会产生同一评价结果。

3.9各种评价方法将长期共存下去

定性评价、单指标评价、多属性评价、组合评价四大类评价方法将会长期共存下去,定性评价是最有效的检验其它评价方法评价结果的方法;单一简单指标评价可以用来比较学术期刊的某个侧面,单一复杂指标评价可以用来比较学术期刊的某几个侧面;多属性评价和组合评价都是用来评价学术期刊的总体表现的。选择多属性评价方法最好选用主客观相结合的方法,在评价数据较少的情况下采用多属性评价比组合评价更方便,而且结果也令人满意。组合评价比较复杂,工作量大,但它减少了评价工作的分歧,容易取得公认的结果。

 

参考文献

[1]E.Garfield, Citation Indexes in Sociological and Historical Research.American Documentation,14(1963).289-291.

[2]Weiping YueConcepcion S. Wilson.  Measuring the citation impact of research journals in clinical neurology: a structural equation modeling analysis[J]. Scientometrics,20043):317-334

[3]苏新宁. 构建人文社会科学学术期刊评价体系[J]. 东岳论丛,20081):35-42

[4]邱均平、张荣 赵蓉英. 期刊评价指标体系及定量方法研究[J]. 现代图书情报技术,20047):23-26

[5]庞景安、张玉华、马峥. 中国学术期刊综合评价指标体系的研究[J]. 中国科技期刊研究,200011):217-219

[6]李凯扬、贾玉萍. 基于AHP的期刊全文数据库的模糊综合评价[J]. 情报科学,200511):1688-1703

[7]王小唯、杨波、潘启树. 学术期刊质量评估的二次相对评价方法[J]. 编辑学报,20036):231-232

[8]李修杰、陈景武. 运用判别分析法建立的期刊评估指标体系[J]. 江西图书馆学刊,20063):48-50

[9]王玖、徐天和. 秩和比法在医学学术期刊学术质量综合评价中的应用[J]. 数理医药学杂志 20033):266-267

[10]陈汉忠. 主成分分析在学术期刊评价中的应用[J]. 中国学术期刊研究,20046):658-660

[11]凌春艳、莫琳. 自然科学学术期刊质量指标体系的属性数学综合评价模型[J].数学的实践与认识,20045:1-7

[12]李继晓、蔡成瑛. 对各种核心期刊评价方法的分析[J]. 中国学术期刊研究,20062):253-256

[13]毛定祥. 一种最小二乘意义下主客观评价一致的组合评价方法[J].中国管理科学,20025:95-97

[14]徐泽水,达庆利. 多属性决策的组合赋权方法研究[J]. 中国管理科学,20022):84-86

[15]彭猛业、楼超华、高尔生. 加权平均组合评价法及其应用[J]. 中国卫生统计,20043): 146-149

[16]刘丽、张礼兵. 基于遗传算法的组合评价模型[J]. 合肥工业大学学报自然科学版,20048):899-902

[17]马溪骏、李敏. 基于兼容一致性方法集成组合评价研究[J]. 中国管理科学,200610):20-23

[18]陈衍泰、陈国宏、李美娟. 应用合作博弈确定组合评价权重系数的方法研究[J]. 中国管理科学,20056):89-94

[19]郭亚军、易平涛. 一种基于整体差异的客观组合评价法[J]. 中国管理科学,20063): 60-64

[20]陈伟炯、都育国、秦庭荣3人,. 港口航行安全环境组合评价研究[J]. 交通运输工程学报,20053):75-77

[21] 李美娟、陈国宏、陈衍泰3人, 基于粗糙集的组合评价方法研究[J]. 中国管理科学,200510):128-31

[22] 张国权、李文立、王明征. 基于离差函数和联合嫡的组合赋权方法[J]. 管理学报,20085):376-380

[23]SCHUBERT A., GLANZEL W., Braun T. Relative citation rate:A new indicator for measuring the impact of publications. In: D.Tomov, L. Dimitrova (eds),Proceeding of the first national conference with international participation on scientometrics and linguistics of scientific text, Varna[M]. 198380-81

[24]BRAUN T., GLANZEL W. World flash on basic research. A topographical approach to world publication output and performance in science[J]. Scientometrics,199019:159-165

[25]Hirsch,J.E. An index to qualify an individual’s scientific research output. Proceeding of the national academy of sciences USA[M]. 2005,102:16569-16572

[26]俞立平,潘云涛,武夷山. 比较不同评价方法比较结果的两个新指标[J]. 南京师范大学学报(自然科学版),20083):135-140

 

PDF下载




https://blog.sciencenet.cn/blog-45134-240935.html

上一篇:学者们必备的几项电脑技能
下一篇:基于DEA与BP神经网络的科技投入评价研究
收藏 IP: .*| 热度|

1 赵星

发表评论 评论 (1 个评论)

数据加载中...
扫一扫,分享此博文

Archiver|手机版|科学网 ( 京ICP备07017567号-12 )

GMT+8, 2024-4-23 22:57

Powered by ScienceNet.cn

Copyright © 2007- 中国科学报社

返回顶部