the journal of electronic publishing

Abstract

この論文では、学術コミュニティにおいて雑誌が果たすさまざまな機能に照らし合わせて、査読の実施方法に関する最近の革新的な取り組みについて論じている。

学術ジャーナルは340年以上にわたって存在している。 初期のジャーナルでは査読はあまり一般的ではありませんでしたが、今日、科学・学術ジャーナルの大半は、ある程度の査読を実施しています。 その長い歴史と学術コミュニティにおける確固たる地位にもかかわらず、査読は学者(Debate 2006)、さらには一般紙(Chang 2006)による精査を受けるようになってきました。 この議論は、査読の実施における電子的普及とインターネットの活用の影響が大きくなっていることに起因しているようです。 インターネットは、高度に自動化されたウェブベースの管理システムを通じて、査読を行うためのコストと労力を削減しただけでなく、査読の実施方法にも大きな柔軟性を与えています。

多くの作家が、さまざまな形の「オープンな」査読を提唱しています。 ある程度、変化を求めるこれらの声は、査読者の身元を見えなくするという伝統を排除することに重点を置いています。 また、査読の全記録を公開することや、コメントを提供したい人すべてに査読プロセスを開放することを提唱している人もいます。 さらに、出版物を有機的な文書として扱い、新しい情報や追加的な解説を反映して変化する一連のバージョンで時間をかけて進化させるという議論もなされています(Bloom 2006)。

多くの高名なジャーナルが、革新的な査読モデルの実験を始めています。 British Medical Journalは1999年という早い時期に査読プロセスにおける盲検を廃止し(Smith 1999)、BioMed Centralの多くのジャーナルでは、査読記録全体へのオープンアクセスを提供しています。 2006年6月から3ヶ月間、Natureは従来の査読と並行して、パブリックコメントのためにプレプリントを掲載する実験を行い(Campbell 2006)、Public Library of Science(PLoS)は、最小限のスクリーニングでほぼ即時に論文を掲載し、パブリックコメントを可能にする新しいジャーナル、PLos Oneを立ち上げる過程にある。

査読におけるこれらの実験はかなりの量の議論を巻き起こしていますが、大半の学術ジャーナルは、著者や一般人から身元が伏せられた選ばれた専門家のグループが、最終的な出版決定を下す編集者にフィードバックを提供する、従来の査読方法を採用し続けています。 遅々として進まないと思われますが、私たちは、インターネットが提供する柔軟性をより活用するために、査読が進化する時代に入りつつあるようです。 私の考えでは、これは、少なくとも部分的には、紙媒体と電子媒体の固有の違い、そしてより一般的には、インターネットが提供するコミュニケーションの柔軟性と効率性によって起きている、数世紀にわたる学術雑誌システムのはるかに大きな変革の一面に過ぎません。

約13年前、Ann Schaffner(1994)は、科学ジャーナルの未来について、非常に洞察に満ちた記事を書きました。 彼女は、新しいテクノロジーがこれらのジャーナルに与える影響を理解しようと、ジャーナルが科学的・学術的コミュニティで果たしてきた多様で複雑な役割に焦点を当てました。 査読をどのように行うべきか(もし行うのであれば)についての議論を見ると、ジャーナルが学術コミュニティで果たしている特定の機能または機能に焦点を当てた執筆者や講演者の意見がしばしば反映されています。 査読プロセスが電子コミュニケーションによって提供される選択肢を最大限に活用する方法を検討する際に、学術コミュニティにおけるジャーナルの特定の役割を考慮するというシャフナーのリードに従えば、査読の役割と新しい査読モードの価値についてより思慮深い議論ができると私は考えています。

学術コミュニティにおけるジャーナルの役割

Schaffner (1994) では、多少重なり合うものの、学術コミュニティにおけるジャーナルの役割には、5種類の明確なものがあると述べています。

集合的な知識基盤の構築 – おそらくジャーナルが果たす最も重要な役割は、知識のアーカイブを形成することでしょう。 ジャーナルが、与えられた学術分野において、最も包括的で、最新の、そして権威ある情報のアーカイブを形成していることに、ほとんどの人が同意するだろう。 当然ながら、このアーカイブに含まれる資料の正確さと質は、最も重要なものです。 ピアレビューは、これらのジャーナルに含まれる情報を検証するための最も重要なメカニズムの1つとして機能しています。

査読付き論文の投稿から出版まで、一般に約18カ月かかります。 これは、ウェブベースの査読や電子出版によってある程度は短縮できますが、査読と改訂のプロセスにはどうしても時間がかかります。 また、出版可能な原稿を作成するために注意と努力が必要なため、研究が行われてからその結果が出版用に投稿されるまでに数ヶ月かかることもあります。 さらに、ジャーナルに初めて投稿しても受理されないことが多く、出版用に受理されるまでに何度もジャーナルに再投稿することがあります。

知識のアーカイブという観点からすると、アーカイブが更新されるスピードは、些細なことではありますが、正確さや資料の質よりもはるかに低い関心事となります。

情報の伝達-特定の分野で働く学者間のコミュニケーションは、知識のアーカイブを構築することと似ているように聞こえます。 しかし、重要な違いがある。 この役割には、スピードと双方向性がより重要である。 同時に、その分野の専門家は、発信される情報の価値や正確さについて自分自身で判断することが完全に可能であるため、ピアレビューの重要性ははるかに低くなっています。 ピアレビューがなければ、学者は情報が氾濫してしまうと主張する人もいる(Editorial 2005)。 物理学の分野では、このようなことはないようです。 有名なプレプリントサーバーであるarXiv.orgには毎月5千ものプレプリントが寄託され、毎日何万人もの人々がこのサイトにアクセスしていますが、このシステムは少なくともその分野では15年以上にわたって非常にうまく機能してきたように思われます。

ジャーナルは、その歴史の初期において、この種のコミュニケーションにおいてより中心的な役割を担っていたようです。 今日、より効率的な他のコミュニケーション手段が利用できるため、学者間で研究結果を伝達する上で、ジャーナルの役割はかなり限定されていると思われる。 しかし、そうとは言い切れない。 第一に、科学と工学の知識の非公式なコミュニケーションに関する研究は、コミュニケーションの様式が分野によって大きく異なることを示唆している(Faxon Institute 1991)。 たとえば、arXiv.org のようなプレプリントアーカイブは、多くの分野ですぐに受け入れられましたが、他の分野では、個人が協調して導入しようと試みたにもかかわらず、ほとんど利用されていないのが現状です。 (科学者間の非公式なコミュニケーションに関する研究も、学者の間で議論されることの多くが、結局は雑誌の記事であることを示唆しています(Schaffner 1994)。 プレプリントアーカイブ、リストサーブ、スレッド形式のディスカッションは、ある分野で活動する学者間のコミュニケーションにおいて重要性を増すと思われますが、この種のコミュニケーションにおいては、明らかに学術雑誌が重要な役割を保っているように思われます。

研究の質を検証する-ジャーナルはまた、研究や学問がどのように行われるかについて、コミュニティの基準を維持する役割を担っている。 ある程度までは、ジャーナルが出版されるものを選別し、それゆえ普及させることで、これが行われている。 また、その効果はもっと微妙な場合もある。 経験豊富な学者の研究が厳しい評価を受けることはほとんどありません。 しかし、彼らはその分野の規範を内面化し、研究や学問がどのように行われ、記述されるべきかを知っている傾向があり、査読者から非難される可能性は初心者よりもはるかに低いのです。

これが完全に良いことだという普遍的な同意があるわけではありません。 創造性を阻害し、不必要に初心者研究者を厳しい批判にさらしていると主張する人もいます(熊代 2005)。

報酬の分配-査読付き学術誌への掲載は、学者が評価される主な方法のひとつです。 量だけでなく、どの雑誌に掲載されるかが重要であることは言うまでもないが、それと同じくらい重要である。 このルーツは、17世紀半ばにロンドン王立協会が発行した「フィロソフィカル・トランザクションズ」にまでさかのぼる。在職期間の決定は関係なかったが、その雑誌の重要な機能は、特定の発見や理論に対して誰が信用に値するかを確立することであった。 Guédon (2001)によれば、この学術誌はアイデアの特許庁のような役割を果たしたという。 科学者や自然哲学者(当時はそう呼ばれていた)は、ジャーナルに発表することで、自らの知的財産の所有権を確立することができたのである。 科学者間の競争や、発見の手柄をめぐる論争は今日でも問題になっており、ジャーナルは知的財産の父権を文書化する役割を今も果たしている。 この役割は、より一般的な成果の尺度として明らかに拡大しており、査読は、良きにつけ悪しきにつけ、この役割の重要な側面であるといえるでしょう。

科学的コミュニティの構築-ジャーナルはまた、さまざまな方法で学術コミュニティを結びつける手段としても機能する。 ある学問分野が成熟期に入ったときの特徴は、新しいジャーナルを創刊することであり、要するに、新しい分野の知的領域を確保することである。 それ以外にも、社説やオピニオン記事、編集者への手紙は、その学問分野の問題を議論する場として機能することがよくあります。 それらは実質的なものである場合もあれば、研究結果の社会的影響、資金調達、分野内のトレーニング問題など、関連する領域に及ぶ場合もあります。 また、ジャーナルは一般的に、主要な役職への新しい任命や、学界で有名な人物の死去などのニュースを伝える場としての役割も担っています。

ジャーナルの役割と関連する査読

査読の関連性は、ジャーナルのさまざまな機能によって明らかに異なる。 査読は一般に、知識のアーカイブを形成し、報酬を分配する役割に不可欠であると考えられている。 また、ある分野の研究の質を検証する上でも重要な役割を果たしますが、熊代が指摘するように、新しいアイデアや手法の普及を妨げる可能性もあります。

査読の価値は、原稿の品質とその分野の規範への準拠度を測る有効な指標を提供するという仮定に基づいている。 また、その価値は、改訂によって原稿を改善できるようなフィードバックを提供することと結びついています。 これらの前提は、ほとんど当然のこととして受け止められており、異議を唱えられることはほとんどありませんが、その妥当性には疑問の余地があります。

Jeffersonら(2002a)は、生物医学ジャーナルにおける査読の効果に関する文献の系統的レビューを実施しました。 彼らは対照的な研究をほとんど見いだせず、そのほとんどが盲検化や査読プロセスでのチェックリストの使用など、特定の編集実務に焦点を当てたものであった。 さらなるレビュー(2002b)において、著者らは、査読と論文の質との関係を調べた10件の研究を特定しました。 そのうち1件だけが、査読付き論文と非査読付き論文を比較しており、研究デザインも弱かったのです。 残りは、さまざまな査読方法、または査読に基づく改訂前後の質の変化を比較しています。 各論文は、異なる評価尺度に基づいた専門家の評価を使用していました。 どの評価手法も、心理測定学的品質が評価されていないようでした。 Jeffersonらの全体的な結論は、少なくとも生物医学の分野では、論文の質を保証する査読の価値を裏付ける科学的に確かな証拠はほとんどないということです。

また、査読が研究論文の方法論的な欠陥を特定する上で必ずしも成功していないという証拠もあります。 Baxtら(1998)は、記述された研究の結論を裏付ける結果が得られないような、明確なデザインおよび分析の欠陥がある架空の原稿を査読者に送りました。 例えば、治療群と対照群に無作為に割り付けたと書かれているが、その方法は明らかに無作為ではなかった。 この研究に参加した203人の救急医は、この分野で有名な雑誌であるAnnals of Emergency Medicineの経験豊富な査読者でした。 平均して、査読者は原稿の致命的な欠陥の34%しか特定せず、41%の査読者がその原稿は出版に受理されるべきであると指摘しました。 また、発表された医学研究における方法論の誤りが高い確率で存在することを示す研究も数多くあります(Pocock, Hughes, & Lee 1987; Gotzche 1989)。 Altman (2002)は、この原因を、査読者に統計学や研究デザインの専門知識がないことなど、さまざまな要因に求めている。 これらの例は生物医学分野のものですが、このような重要な分野では、言うまでもなく、最も健全な研究慣行が用いられているだろうと思うでしょう。 社会科学者としての私の経験に基づけば、方法論の間違いは社会科学の雑誌でもよくあることです。

査読の効果的な利用

査読の効果を検証する証拠がないことや、欠陥のある研究がしばしば厳密に査読された学術誌に掲載されるという事実は、査読に価値がないことを示唆しているのでしょうか。 私はそうではないと思います。 多くの点で、査読は私たちの陪審制度と類似しています。欠陥はありますが、私たちが持つ最高の制度です(Jefferson 2006)。 私は、医学教育のオープンアクセス査読制ジャーナルであるMedical Education Online(MEO)の編集者を11年間務め、このプロセスに対する感謝の気持ちを深めてきました。 査読の価値は、質の悪い原稿をフィルタリングする手段としてはあまり意味がありません(怒りっぽい著者に直面したときに、複数の査読者の後ろ盾があると助かりますが)。 その代わり、査読は出版物の質を高める手段として価値があります。 私は、多くの査読者が査読プロセスにかける時間、労力、思考に常に驚かされています。 その結果、ほとんどの著者が歓迎し、原稿を改善するために利用する、優れた建設的なフィードバックが得られることが多いのです。

また、見落とされがちな事実として、個々の査読者が原稿の特定の問題を見逃していても、別の査読者がその問題を発見していることがよくあります。 原稿を評価する査読者が多ければ多いほど、誤りを発見し、問題を特定できる可能性が高くなります。 インターネットを使った査読は、査読にかかるコストと労力を劇的に削減し、1本の原稿に多くの査読者をつけることを可能にします。 MEOでは、1本の原稿に4~6人のコンサルタントがレビューすることを目標としており、それ以上であればなおさらです。 査読者の選定にかなりオープンなプロセスを用いることで、この目標を容易に達成することができました。 現在、約300名の校閲者がボランティアで原稿の校閲を行っており、必要に応じて校閲者を追加することも比較的容易にできます。

査読が効果的に機能するためには、編集者の役割が重要です。 ほとんどの査読が価値あるフィードバックを提供してくれる一方で、取り上げられる問題には査読者間で大きなばらつきがあり、フィードバックは時として矛盾しています(そして、時には単なる間違いもあります)。 また、出版前に原稿の修正が必要な場合は、著者に明確な指示を与えなければなりません。 編集者が必ずしも個々の査読者よりも賢明であるとか、偏見が少ないということではなく、誰かが責任を持って、フィードバックと著者への指示を首尾一貫させなければならないのです。 そうでなければ、著者は気が狂ってしまいます。

MEOでは、査読編集者は、出版決定、フィードバックの要約、そして適切な場合には、出版前に対処しなければならない一連のまとまった問題点を記載したフィードバックレターを提供します。 さらに、査読者が編集者だけに指定したコメントを除き、すべての査読者からのコメントと評価の両方を送り返します。 著者にとっては、すべてのフィードバックが得られるだけでなく、編集者から原稿を修正するための明確なガイドラインを得られることはありがたいことだと考えています。 また、著者に送られたフィードバックは、各査読者にカーボンコピーで送付しています。 私の経験では、査読者はほぼ例外なく、原稿の最終的な処分を知ることと、他の査読者のコメントを見ることの両方を高く評価しています。

Innovations in Peer Review

前述のように、インターネットを介したコミュニケーションの柔軟性と効率性は、査読のさまざまな異なるモデルを試すことを可能にしています。 文献で最も議論されている1つの革新は、査読プロセスをより透明にすることです。 伝統的に、査読者の身元は秘密にされ、多くの場合、原稿は著者とその所属機関に関する識別情報を取り除くためにマスキングされています。 最も基本的なレベルでは、オープン査読は、査読者の身元を公開するか、著者の身元を査読者に知らせるか、またはその両方を査読中に行うことで成り立っています。 もちろん、これは電子出版に依存するものではありません。査読者の身元を秘密にすることについての検討や議論は、インターネットが広く普及するはるか以前にまでさかのぼります。 この問題については、かなりよく研究されています(Goldbeck-Wood 1999)。 その証拠に、匿名性はレビューの質や採用率にほとんど影響を与えませんが、査読者の身元を明らかにすると、誰かがボランティアでレビューする可能性が低くなるかもしれません(van Rooyen et al.1999年)。

査読プロセスを公開しても、一方的に質に影響を与えるとは思えないという証拠があるにもかかわらず、主に査読者の身元を開示することによる付随的な効果に焦点を当てた議論が続けられています。 推進派は、査読プロセスの公開は倫理的に優れており、プロセスにはほとんど影響を与えず、むしろ査読プロセスの礼節を促すと主張しています(Godlee 2002; Morrison 2006)。 オープン査読に関する主な懸念は、特定の分野内では非常に狭い世界になりがちな、個人的な偏見や報復の可能性の導入に焦点が当てられています。 特に、特に弱い立場にある若い研究者への影響が懸念されています。 この分野で広く読まれている雑誌「Medical Education」の著者と査読者を対象とした最近の調査では、回答者は著者と査読者の両方に盲検を適用することを強く支持しています(Regehr and Bordage, 2006)。 原稿に盲検を適用すべきかどうかについては、明確なコンセンサスは得られておらず、双方の主張には説得力があるように思われます。

査読プロセスの公開はインターネットに依存するものではありませんが、インターネットはより透明性の高い査読プロセスを促進することができます。 BioMed Central の医学雑誌の多くは、完全にオープンな査読プロセスを採用しており、査読者と著者の身元が公開されているだけでなく、すべての査読者からのフィードバックや修正過程におけるその後のやりとりを含む完全な査読記録が、公開原稿とともに一般公開されています。

インターネットを前提としたより最近の革新は、論文へのコメントを希望するすべての人に査読プロセスを開放することでした。 前述のように、ネイチャーは最近、通常の審査プロセスと並行してオープンな審査プロセスを試験的に実施し、パブリック・ライブラリー・オブ・サイエンスは、一人の学術編集者が最初の審査を行い、次に一般のコメントや議論のためのシステムを導入するという2段階のプロセスを用いる新しいジャーナル、PLoS Oneを実施する予定です。

これらの公開審査システムがどれほど成功するかは、まだわかりません。 あまり知られていない専門誌でも、パブリックコメントに基づく審査システムを導入しているものが多数あります。 Electronic Transactions on Artificial Intelligence (ETAI) は、ハイブリッド方式の査読を提供しています (Sandewall 2006)。 この雑誌の対象範囲に合致する原稿は、直ちに3ヶ月間のパブリックコメントのために掲載され、議論が続くようであれば、その期間を延長することも可能です。 議論期間の後、著者にはフィードバックに基づいて原稿を修正する機会が与えられ、その後、原稿は外部のブラインドレビューに回されます。 ただし、この原稿にはすでに多くのコメントが寄せられているため、査読者はコメントなしで出版・不出版の判断を下すだけである。

Atmospheric Chemistry and Physicsは、パブリックコメントを含む2段階のアプローチを採用しています(Koop and Poschl 2006)。 事前審査の後、原稿は「ディスカッションペーパー」として公開され、8週間にわたってパブリックコメントが行われます。 さらに、指定された査読者が、署名入りのコメントと他の読者からの未承諾コメントを掲載します。 著者はこのコメントに対して返答することができます。 第二段階では、従来の査読手順に従って原稿が審査されます。 受理された論文は、本誌に掲載される。 また、すべてのディスカッションペーパーとコメントは、サイト上で永続的に管理される。

パブリックコメントと、より伝統的な査読のさまざまな形式を組み合わせたこれらの革新的なシステムは、興味をそそるものであり、真のメリットも備えています。 それらは、科学的・学術的コミュニティにおいてジャーナルが果たすさまざまな役割のバランスを、大幅に改善する可能性を持っています。 パブリックコメントや議論のための仕組みを備えた原稿の迅速な初出版は、学者間のコミュニケーションを促進する役割を果たします。 同時に、最終的な出版に先立つより伝統的な査読とともに、このパブリックコメントを利用することで、伝統的な査読と同じ、あるいはそれ以上のレベルの品質管理が可能になります。 また、論文を公に議論するプロセスは、科学的コミュニティを育成し、研究や学術を行うための基準を普及させ維持するという役割によく合致しています。

何世紀もの歴史を持つ査読プロセスに対するこれらの新しいアプローチが、真の価値をもたらすかどうかは、時間が経てばわかるでしょう。 電子出版という新しい時代はまだ始まったばかりであり、新しいメディアやコミュニケーション・ツールをどのように活用するのがベストなのか、私たちは多くを学ばなければならないのです。 科学と技術の大きな進歩の中で、340年以上にわたって学術出版システムがわずかな変更でほぼそのまま維持されてきたという事実は、それがいかにうまく機能してきたかを証明している。 次の10年間における我々の課題は,この新しく,まったく異なるメディアにシステムを適応させることである.うまく機能し続ける構成要素を維持しながら,電子出版が提供する能力を基礎としたコミュニケーションと評価への革新的なアプローチを取り入れる方法を見つけることである.

David Solomonは教育心理学者で、19年間医学教育の分野で働いてきました。 現在、ミシガン州立大学医学部および人間医学部教育研究開発室の准教授である。 主にパフォーマンス評価、専門分野選択、遠隔教育の分野で研究を行っている。 1996年に電子ジャーナル「Medical Education Online」を創刊し、この分野では定評のあるジャーナルに成長させた。 その他、オープンアクセス出版を推進することに大きな関心を寄せている。 連絡先は、[email protected]

Altman, D. G. 2002 質の低い医学研究。 ジャーナルに何ができるのか? JAMA 287;21:2765-2767.

Baxt, W. G., J. F. Waeckerle, J. Berlin, and M. L. Callahm. 1989. 誰がレビュアーをレビューするのか? 査読者のパフォーマンスを評価するために架空の原稿を使用することの可能性。 Annals of Emergency Medicine 32:310-317.

Bloom, T. 2006. システム 査読付き文献のオンラインフロンティア。 ネイチャーにて。 http://www.nature.com/nature/peerreview/debate/index.html.

Campbell, P. 2006. ネイチャー・ピアレビュー・トライアル・アンド・ディベート。 ネイチャー誌上。 http://www.nature.com/nature/peerreview/index.html.

Chang, A. 2006. オンラインジャーナルが科学的なピアレビューに挑戦。 http://www.mercurynews.com/mld/mercurynews/news/breaking_news/15655422.htm から2006年11月19日に取得。

Debate. 2006. “ピアレビュー” ネイチャーにて。 http://www.nature.com/nature/peerreview/debate/index.html

Editorial. 2005. “ピアレビューに革命を起こす?”. Nature Neuroscience 8; 4:397.

Faxon Institute. 1991. 科学・医学・技術分野における仕事上の情報取得と利用の検討 Westwood, Mass. Faxon Company.

Godlee, F. 2002. 査読者を見えるようにする。 オープンネス、説明責任、信用。 JAMA287; 21:2762-2765.

Goldbeck-Wood, S. 1999. ピアレビューに関する証拠:科学的品質管理か煙幕か? BMJ 318:44-45(1月2日)。 http://www.bmj.com/cgi/reprint/318/7175/44.

Gotzxche, P. C. 1989. 関節リウマチにおける非ステロイド性抗炎症薬の196の二重盲検試験の報告における方法論と明白な、そして隠れた偏り。 Controlled Clinical Trials, 10:3159.

Guédon, J. 2001. オルデンブルクの長い影で 司書、研究科学者、出版社、そして科学出版のコントロール。 2001年5月の研究図書館協会(ARL)会合での発表、http://www.arl.org/arl/proceedings/138/guedon.html.

Jefferson, T., P. Alderson, E. Wager, and F. Davidoff. 2002a. エディトリアルピアレビューの効果。 JAMA June 5, 287; 21:2784-2786.

Jefferson, T, E. Wager, and F. Davidoff.「編集査読の効果」。 2002b. エディトリアル査読の質を測定する。 JAMA June 5, 287; 21:2786-2790.

Jefferson, T. 2006. 品質と価値。 科学研究のための品質管理モデル. ネイチャーに掲載。 http://www.nature.com/nature/peerreview/debate/nature05031.html.

Koop T., and U. Pöschl. 2006. オープンな2段階査読ジャーナル。 ネイチャー誌上で。 http://www.nature.com/nature/peerreview/debate/nature04988.html.

Kumashiro, K. K. 2005. ジャーナル記事出版のための査読プロセスについて共同で考える. ハーバード・エデュケーショナル・レビュー 75; 3:257-287.

Pocock, S. J., M. D. Hughes, and R. J. Lee. 1987. 臨床試験の報告における統計的問題。 3つの医学雑誌の調査。

Regehr, G., and G. Bordage. 2006. To blind or not to blind? 著者と査読者が好むもの。 医学教育40:832-839.

Schafner, A. C. 1994. 科学雑誌の未来。 過去からの教訓。

Sandewall, E. 2006. 査読のハイブリッドシステム。 In Nature. http://www.nature.com/nature/peerreview/debate/nature04994.html.

Smith, R. 1999 Opening up BMJ peer review. BMJ 1318:4-5 (1月2日)。 http://www.bmj.com/cgi/content/full/318/7175/4.

Van Rooyen S., F. Godlee, S. Evans, N. Black, and R. Smith.(英文のみ)。 1999. このような場合、「萌芽的研究」は、「萌芽的研究」と呼ばれる。 BMJ 318:23-27(1月2日)。 http://www.bmj.com/cgi/reprint/318/7175/23.

NOTES

  1. For example see Open Journal Systems http://pkp.sfu.ca/?q=ojs.return to text

  2. See http://arxiv.org/todays_stats.Open Journal Systems http://pkp.sfu.ca/?q=ojs.NOTES.NOTESを参照。 テキストに戻る

を参照してください。