多くの顕花植物は自家受粉によって種子を作ることができる。自殖可能な個体は他殖のみを行う個体に比べ遺伝子伝達の面で有利であり、強い花粉制限の下では、種子生産を保証するというメリット（繁殖保証）も生じる。一方、自殖のデメリットとしては、近交弱勢や他殖可能な胚珠数の減少（seed discounting）が挙げられる。自家和合性の進化や自殖の適応的意義を理解するには、これら生態遺伝学的な要因を明らかにしていく必要がある。

オオバナノエンレイソウは北海道に広く分布する多回繁殖型多年草であり、自家和合性 (self compatible: SC)集団と自家不和合性(self incompatible: SI)集団が存在する。本研究では、複数のSC集団とSI集団を対象に交配実験（強制他家受粉、強制自家受粉、除雄処理）を行い、SC集団における花粉制限の有無を検討した。さらに、マイクロサテライトマーカーを用いて自然集団における自殖率、近交弱勢の強さ、花粉親の多様度を推定した。SC集団では除雄処理した個体からも種子を回収し、自殖できない場合の花粉親組成をSI集団と比較した。交配実験の結果、全集団において花粉の量的制限は認められなかった。SC集団ではほぼ全ての種子が自殖によって生産されていたが、その大部分は近交弱勢によって繁殖段階に達する前に死亡しており、自殖が先行することによって他殖を行う機会が失われていた。SC集団の除雄個体から得られた種子の花粉親多様度はSI集団と同等であり、花粉の質的制限も存在しなかった。自殖のデメリットはメリットを大きく上回っており、現在の状況で自家和合性が進化したとは考えにくい。従ってオオバナノエンレイソウにおける自家和合性は、過去に自殖性が有利になる環境が存在したか、偶発的な要因によって集団に固定されたものと推察される。